دعا الرئيس التنفيذي لـ Anthropic، Dario Amodei، مختبرات الذكاء الاصطناعي المتطور إلى إبطاء وتيرة التطوير في تدوينة نشرها يوم السبت. وقال Amodei إن شركته ستمنح مقيّمين خارجيين من جهات مستقلة وصولًا دائمًا إلى أنظمتها بمستوى وصول الموظفين، وهو اقتراح قال الرئيس التنفيذي لـ OpenAI، Sam Altman، لاحقًا إن شركته ستتبناه أيضًا.
في مقاله، المعنون «يجب أن نضبط وتيرة التطوير المتطور»، قال Amodei إن مختبرات الذكاء الاصطناعي المتطور بدأت تتقدم بوتيرة أسرع بكثير من خلال السعي نحو التحسين الذاتي التكراري، وهي عملية تُستخدم فيها نماذج الذكاء الاصطناعي بشكل متزايد للبحث عن نماذج مستقبلية وتطويرها، ما يعرّض أعمال السلامة والمواءمة لخطر التخلف عن الركب. ودعا Amodei المختبرات المتطورة إلى إبطاء وتيرة التقدم عمدًا بدلًا من المخاطرة بسيناريوهات كارثية.
كتب Amodei: «خلال الأشهر القليلة الماضية، اقتنعت بأن التعامل الكامل مع المخاطر يتطلب مزيدًا من الحذر — ليس فقط الاستثمار في الوقاية من المخاطر، بل أيضًا ضبط معدل تطور القدرات بحيث يتاح للوقاية من المخاطر الوقت الكافي لمواكبتها. يجب أن نبطئ الوتيرة التي نطوّر بها قدرات نماذج الذكاء الاصطناعي. سيظل التقدم يبدو سريعًا، ويجب أن نحسن استخدام الوقت الذي نكسبه».
وشدّد Amodei على أن «ضبط الوتيرة» لا يعني إيقاف جميع عمليات تدريب النماذج أو التقدم التقني فورًا، بل سيعني بدلًا من ذلك فترة إبطاء تمنح الشركات مزيدًا من الوقت للتحقق من أن أنظمة الذكاء الاصطناعي لديها مواءمة سليمة، وأن أنظمتها المتزايدة القدرة مزودة بالضمانات المناسبة.
وأشار Amodei خصوصًا إلى حادثة OpenAI-Hugging Face، التي نسّقت فيها وكلاء OpenAI، أثناء اختبار قدراتها، باستخدام لوحة رسائل سرية لمهاجمة أنظمة خارج نطاق المهمة الموكلة إليها، في محاولة للتدخل في النظام الذي يقيّم أداءها. وقال Amodei إن سربًا من وكلاء الذكاء الاصطناعي ذوي السلوك المماثل لكن القدرات الأكبر قد يتسبب في أضرار كارثية، محذرًا من أن هذه الأنظمة قد تتمكن خلال ستة إلى 12 شهرًا من «[الاستيلاء] على الإنترنت بأكمله عبر شبكة روبوتات مستدامة، ما قد يتسبب في أضرار تصل قيمتها إلى مئات المليارات من الدولارات».
مقيّمون خارجيون دائمون
يبدأ الإطار المقترح من ثلاث خطوات الذي وضعه Amodei بـ«المقيّمين المدمجين»، إذ يدعو المختبرات المتطورة إلى منح جهات مستقلة من الأطراف الثالثة وصولًا إلى أنظمة الشركات بمستوى وصول الموظفين، حتى تتمكن من التحقق من ممارسات السلامة، والإبلاغ عن الحوادث، وتقييم مواءمة النماذج قيد التطوير بشكل مستقل.
وقال Amodei إن Anthropic ستلتزم بهذه الخطوة فورًا. وسيحصل المقيّمون على حواسيب محمولة تابعة للشركة، وإمكانية دخول إلى المكاتب، وصلاحيات مماثلة إلى حد كبير لتلك التي تتمتع بها فرق السلامة الداخلية الحالية في شركته. كما سيُسمح للمقيّمين بالإبلاغ علنًا عن النتائج المتعلقة بالمخاطر والحوادث وممارسات السلامة في Anthropic من دون رقابة تحريرية من الشركة، رغم أن Amodei يقول إن Anthropic تحتفظ بحق تقييد نشر معلومات العملاء الحساسة أو الوثائق المحمية بالامتياز القانوني.
وتدعو الخطوة الثانية التي اقترحها Amodei شركات الذكاء الاصطناعي المتطور في البلدان الديمقراطية إلى التنسيق بشأن مجموعة من معايير السلامة المشتركة والاتفاق على حدود للتقدم غير الخاضع للرقابة في مجال الذكاء الاصطناعي، مع احتمال إشراك الحكومات لتجنب دعاوى مكافحة الاحتكار. أما الخطوة الثالثة التي اقترحها Amodei فتدعو إلى تنسيق دولي نهائي مع الدول الاستبدادية، بما فيها الصين، التي وصف احتمال تصدرها تطوير الذكاء الاصطناعي بأنه «خطر جسيم على الولايات المتحدة والعالم».
وجادل Amodei بأن أي إبطاء من جانب الشركات الأمريكية يجب أن يحافظ أيضًا على تفوقها التكنولوجي على الصين، داعيًا إلى مواصلة القيود على صادرات الرقائق المتقدمة، وبذل جهود أقوى لمنع تقطير النماذج الذي قامت شركته بتحديده في تقريرها الأخير، وتحسين الحماية من احتمال سرقة أوزان النماذج، وهي الملفات الضخمة التي تشكّل معرفة النماذج.
Altman وMusk يبديان دعمهما
أيد Altman فكرة الإبطاء بعد ساعات، قائلًا إن OpenAI ستلتزم بالخطوة الأولى الواردة في تدوينة Amodei.
كتب Altman على X: «أتفق مع Dario على أننا بحاجة إلى ضبط وتيرة التطوير المتطور». وأضاف Altman أن النقاش حول الإبطاء كان «موضوعًا رئيسيًا للنقاشات» في OpenAI خلال الأسابيع الأخيرة.
وكتب Altman: «الالتزام بوجود مقيّمين مستقلين يتمتعون بإمكانية وصول مماثلة لوصول الموظفين فكرة رائعة، وسنفعل الشيء نفسه»، مضيفًا أن شركته ستشارك المزيد من التفاصيل «قريبًا».
وكانت OpenAI قد دعت الكونغرس الأسبوع الماضي إلى «وضع ضمانات راسخة» لشركات الذكاء الاصطناعي «قبل أن تتجاوز قدرات الذكاء الاصطناعي المؤسسات المسؤولة عن حوكمتها». وتشمل تلك الضمانات التقييمات المستقلة، ومتطلبات الأمن السيبراني، والإبلاغ عن الحوادث.
كما أيد Elon Musk مقال Amodei على X، مقتبسًا منشوره برسالة من ثلاث كلمات: «Dario محق». ولم يوضح Musk ما إذا كانت xAI، المملوكة الآن لـ SpaceX، ستتبنى اقتراح Anthropic بدمج مقيّمين من جهات خارجية داخل الشركة.
كما أدلى السيناتور Bernie Sanders برأيه، قائلًا إن Amodei وMusk وAltman يتفقون الآن على ضرورة إبطاء تطوير الذكاء الاصطناعي، لكنه جادل بأن مقترحاتهم لا تذهب إلى حد كافٍ.
“هذه بداية، لكنها غير كافية”، Sanders كتب على X. “عندما تندفع نحو حافة هاوية، لا تكتفِ بتخفيف الضغط على دواسة الوقود. اضغط على المكابح.”
دعا Sanders إلى وقف كامل لتطوير الذكاء الاصطناعي المتقدم، وحظر الذكاء الاصطناعي الفائق الاصطناعي، وحثّ الرئيس Donald Trump والرئيس الصيني Xi Jinping على التفاوض بشأن اتفاق دولي حول هذه القضية في قمة AI المرتقبة.