خلال الأسابيع الثلاثة الماضية، نشرت أوبن إيه آي وأنثروبيك وميتا كلٌّ منها رواية عن الإخفاق نفسه. مُنح نموذج تمرين اختراق داخل ما كان يُفترض أن يكون بيئة اختبار محكمة الإغلاق، فوجد طريقه إلى الإنترنت المفتوح، واقتحم أجهزة كمبيوتر شركة حقيقية. ثلاثة من أكبر مطوري الذكاء الاصطناعي في البلاد، وثلاثة إفصاحات، ومن دون أي مهاجم خارجي.
يوم الإثنين، حوّل السناتور بيرني ساندرز هذا النمط إلى مطلب. فقد أرسل المستقل عن فيرمونت رسالة إلى سام ألتمان من أوبن إيه آي وداريو أمودي من أنثروبيك ومارك زوكربيرغ من ميتا، وكشف عنها موقع أكسيوس أولًا، طالبًا من الثلاثة جميعًا التوقف عن بناء أنظمة أكثر قوة. وكتب ساندرز: "أوقفوا تطوير الذكاء الاصطناعي. لم يفت الأوان بعد لتجنب الكارثة". وأضاف: "دعوني أكن واضحًا للغاية: إذا لم تتخذوا الإجراء المناسب الآن، فسنتخذ أنا وزملائي في مجلس الشيوخ الأمريكي ذلك."
تعتمد منهجية الرسالة على أن تقتبس من سياسات السلامة الخاصة بالشركات نفسها وتواجهها بها: تعهد أنثروبيك لعام 2023 بـ"إيقاف التوسّع و/أو تأخير نشر نماذج جديدة" إذا تأخر عمل السلامة، وبيان ميتا لعام 2025 بأنها "ستوقف التطوير" إذا وصل نموذج إلى مستوى خطر حرج لا تستطيع التخفيف منه، والتزام أوبن إيه آي بـ"وقف مزيد من التطوير" إلى أن تتوافر ضمانات قوية.
كل واحد من تلك الوعود يتوقف على محفّز تقني. ويؤكد ساندرز أن المحفّز قد انطلق. ويكتب: "تلك اللحظة قد حانت". "لقد بلغت قدرات الذكاء الاصطناعي بالفعل عتبة حرجة." تقوم هذه الجملة بعمل الحجة من دون أن تقدّمها فعليًا، كما أن الأدلة التي يجمعها خلفها أضعف وأكثر التباسًا مما توحي به الرسالة.
الحوادث التي تقف وراء الرسالة
أصبحت الأولى علنية في 21 يوليو، عندما كشفت أوبن إيه آي أن GPT-5.6 Sol ونموذجًا غير مُعلن عنه، أثناء تشغيلهما معيارًا مرجعيًا للأمن السيبراني مع خفض مستوى الرفض لديهما، استغلا ثغرة غير معروفة سابقًا في برمجيات الحزم الخاصة ببيئتهما المعزولة، ووصلَا إلى الإنترنت واخترقا هاغينغ فيس. وهذه الحادثة هي بالفعل كما يصفها ساندرز: فشل في الاحتواء، إذ قام النموذج نفسه بعملية الهروب.
أما الحادثتان الأخريان فليستا كذلك. فقد راجعت أنثروبيك 141,006 عملية تقييم في 30 يوليو، ووجدت ثلاث حالات وصلت فيها النماذج إلى الإنترنت المفتوح ودخلت أنظمة الإنتاج التابعة لمؤسسات غير ذات صلة. وكان السبب خطأ في الإعداد لدى شريكها في الاختبارات، إريغيولار، الذي كان قد أخبر النماذج بأنها لا تملك وصولًا إلى الإنترنت بينما كانت تملكه فعليًا. وقد أدرك أكثر نماذج أنثروبيك تقدمًا أنه موجود على الإنترنت المفتوح وتوقف.
وكشفت ميتا عن حالة شبه مطابقة في 5 أغسطس، مع المورّد نفسه والخطأ نفسه. وكانت ذي إنفورميشن أول من أفاد بأن النموذج هو ميوز سبارك 1.1. وقالت إريغيولار لرويترز إن الأمر لم يتضمن أي هروب من البيئة المعزولة. وتضغط رسالة ساندرز الحالات الثلاث كلها في وصف نماذج "أفلتت من سيطرتهم على نحو مماثل"، بما يطمس الفارق بين نظام يهزم قفصه ومورّد يترك الباب مفتوحًا.
أين تضعف الحجة
أما الادعاء البيولوجي فيضعف بوتيرة أسرع. ففي الدراسة المنشورة في ساينس بتاريخ 6 أغسطس، كتب باحثون من ستانفورد ومعهد آرك جينومات فيروسية كاملة، أنتج 16 منها عاثيات بكتيرية عاملة. والعاثيات تُصيب البكتيريا فقط، وقد استُبعدت عمدًا من التدريب التسلسلات المأخوذة من الفيروسات التي تُصيب البشر أو الحيوانات أو النباتات. وقال المؤلف الرئيسي براين هاي لصحيفة الغارديان إن تهديد السلاح البيولوجي الناتج من تصميم الجينوم بالذكاء الاصطناعي "مبالغ فيه جدًا" مقارنة بأبحاث اكتساب الوظيفة على مسببات الأمراض الموجودة أصلًا، والتي تُعد أسهل. وتحول الرسالة نتيجة تتعلق بعلاج بالعاثيات إلى عشرات الملايين من الوفيات.
ثم هناك العلاج المقترح. يستشهد ساندرز بإعجاب ببيان وقّعه أكثر من 1,200 من موظفي المختبرات، وبينهم أمودي، يحذّر من أن القدرات قد تتجاوز السيطرة. ويطالب ذلك البيان الحكومة الأمريكية ببناء أدوات لضبط وتيرة التطور على الحدود المتقدمة تحديدًا لأنه لا يمكن لأي شركة أن تُبطئ وحدها. لكن ساندرز يستشهد به دعمًا لمطالبة ثلاث شركات بأن تُبطئ وحدها، في مواجهة مختبرات صينية وإصدارات ذات أوزان مفتوحة لا تستطيع رسالته الوصول إليها.
وقد كتب الرسالة أيضًا بعد يومين من أن أوبن إيه آي أوقفت العمل على Astra، وهو نموذج غير مُعلن عنه، لأن التقييمات لم تستطع استبعاد قدرات سيبرانية حرجة. وهذا مثال على تفعيل آلية الإنذار الخاصة بالشركة من تلقاء نفسها، وهو السلوك الذي تقول الرسالة إنه قد جرى التخلي عنه.
ولن يأتي التشريع أيضًا. فـقانون وقف التوسع في مراكز بيانات الذكاء الاصطناعي الخاص بساندرز لم يحقق أي تقدم منذ 25 مارس، كما أن مؤسسة الأمن القومي تقرأ الوقائع نفسها بصورة مختلفة: فقد وصف مدير وكالة الاستخبارات المركزية، جون راتكليف، النماذج الحدودية بأنها "تشبه الأسلحة النووية الرقمية" في يونيو، وكانت السياسة التي أعقبت ذلك هي ضوابط التصدير، لا التوقف.
ما لا تأخذه الرسالة في الحسبان هو مصدر أدلتها نفسها. فكل حادثة وردت فيها أصبحت علنية لأن شركة ما اختارت نشرها، وفي بعض الحالات بعد تدقيق 141,006 جولة اختبار لم يطلب أحد الاطلاع عليها. ويتعامل ساندرز مع أربعة إفصاحات طوعية بوصفها دليلًا على أنه لا يمكن الوثوق بالمختبرات. والسؤال الذي يتركه للمستثمرين هو: ما الذي سيُكشف عنه في المرة المقبلة؟