يُعد السيناتور Bernie Sanders أحدث مسؤول حكومي يُبدي قلقه إزاء سلسلة الاختراقات الأمنية للذكاء الاصطناعي التي ظهرت خلال الأسابيع الثلاثة الماضية. وقد وجّه المشرّع المخضرم رسالة إلى Dario Amodei من Anthropic، وMark Zuckerberg من Meta، وSam Altman من OpenAI، محذرًا إياهم من أنه إذا «لم يتخذوا الإجراء المناسب الآن»، عبر تعليق تطوير الذكاء الاصطناعي، «فسأفعل أنا وزملائي في مجلس الشيوخ الأمريكي ذلك».
يقول Sanders إن هذه خطوة ضرورية للتصدي لاحتمال خروج وكلاء الذكاء الاصطناعي عن السيطرة أو حتى تطوير فيروسات جديدة يمكن استخدامها كأسلحة بيولوجية ضد البشر. وكان سيناتور ولاية Vermont قد قدّم سابقًا مشروع AI Data Center Moratorium Act في مارس، في محاولة لوقف الموافقات على مراكز بيانات الذكاء الاصطناعي الجديدة إلى حين وضع ضمانات مناسبة.
وتشير مناشدته المكتوبة الأخيرة مرارًا إلى سياسات السلامة الخاصة بالشركات، والتي يقول Sanders إنها لا تُطبّق بفاعلية. فقد ذكرت Meta في بيان سابق أن الشركة «ستوقف التطوير» إذا أظهر أي نموذج قدرة على الإفلات من سيطرتها؛ وكانت Anthropic قد تعهدت سابقًا بـ«تعليق التوسع و/أو تأجيل نشر النماذج الجديدة» إذا تجاوزت وتيرة التوسع أو النشر قدرةَ ضمانات السلامة الفعالة؛ كما وعدت OpenAI أيضًا بـ«وقف مواصلة تطوير» نماذجها إذا بلغت مستويات مخاطر حرجة.
ويؤكد Sanders أن تلك المستويات الحرجة قد تحققت بالفعل: «لقد حانت تلك اللحظة». ولا يزال النقاش مفتوحًا حول ما إذا كان هذا صحيحًا، أو ما إذا كان موقف Sanders مبالغة في رد الفعل تجاه أمر أكثر اعتيادية بكثير.
الاختراقات الأمنية التي دفعت إلى إرسال الرسالة
تعرضت مختبرات الذكاء الاصطناعي الثلاثة الرائدة التي خاطبها Sanders لحوادث أمنية بارزة خلال الأسابيع الثلاثة الماضية. وشهدت كل منها انتقال وكلاء ذكاء اصطناعي كان يُفترض أن يظلوا محصورين في بيئات اختبار مغلقة إلى خارج صناديق العزل الخاصة بهم، وتنفيذهم هجمات إلكترونية مباشرة ناجحة.
وفي حالتي Meta وAnthropic، وقع اللوم على شركة اختبار الأمن الإسرائيلية التابعة لجهة خارجية Irregular؛ إذ سمحت إعدادات غير صحيحة أثناء التجهيز للوكلاء بالوصول الحر إلى الإنترنت. وبعد مراجعة لـ141,006 حالة اختبار، حددت Anthropic ثلاث حالات تمكنت فيها نماذجها من الوصول إلى الإنترنت المفتوح، ثم استغلال كلمات مرور ضعيفة ونقاط نهاية غير محمية في أنظمة شركات خارجية. وبعد أقل من أسبوع، في 5 أغسطس، أعلنت Meta عن حالة شبه مطابقة.
ويضع Sanders الحوادث الثلاثة كلها ضمن فئة واحدة، قائلًا إن نماذج الشركات الثلاث «أفلتت بالطريقة نفسها من سيطرتها». غير أن حادثة OpenAI كانت أكثر تعقيدًا من الناحية التقنية.
تضمنت الحادثة تعاون مئات وكلاء الذكاء الاصطناعي داخل الأنظمة الداخلية للشركة على مدى أشهر، في محاولة للعثور على مسار إلى الإنترنت المفتوح. وأتاح ذلك لـ GPT-5.6 Sol ونموذج داخلي غير مُعلن عنه الإفلات من الاحتواء ونجاحهما في استغلال منصة الذكاء الاصطناعي مفتوحة المصدر Hugging Face.
وفي الحالات الثلاث، كانت أنظمة الذكاء الاصطناعي تبحث عن إجابات لاختبارات معيارية أُعدّت أثناء التقييم، بدلًا من التصرف بسوء نية.
انتقادات لمطالب Sanders بشأن تطوير الذكاء الاصطناعي
كانت الشركات التي تناولتها رسالة Sanders قد أصدرت بالفعل ردودها الخاصة على الحوادث المعنية. وقبل يومين من إرسال الرسالة، أبطأت OpenAI تطوير نموذج Astra غير المُعلن عنه، مستشهدة بمخاوف تتعلق بالأمن السيبراني. ويمكن القول إن ضمانات السلامة الداخلية تعمل بالفعل كما هو مقصود في الشركة، رغم أن المنتقدين سيشيرون إلى أن الموظفين احتاجوا، بحسب التقارير، إلى نحو شهرين لإدراك أهمية السلوك الخارج عن السيطرة في أنظمتها الداخلية.
ويستشهد Sanders أيضًا ببيان أصدره 1,200 موظف في مختبرات الذكاء الاصطناعي الرائدة في 28 يوليو، بعنوان «ضبط وتيرة التقدم» (Pacing the Frontier)، طالب بزيادة الرقابة الحكومية الأمريكية على تطوير الذكاء الاصطناعي. وتهدف الضوابط المقترحة إلى الحد من وتيرة تطوير الذكاء الاصطناعي عمومًا، ومنع أي شركة من التقدم بسرعة أكبر إلى منطقة خطرة.
لكن هذه الضمانات الفيدرالية لن تنطبق على القطاع بأكمله؛ إذ ستواصل المختبرات الصينية ومطورو النماذج ذات الأوزان المفتوحة تطويرها دون تأثر.
وقد اقترح آخرون حلولًا بديلة لا تهدد بتسببها في تخلف قطاع الذكاء الاصطناعي الأمريكي عن المنافسين الأجانب. ومن بين هؤلاء المعلقين مدير CIA John Ratcliffe، الذي وصف النماذج الرائدة بأنها «شبيهة بالأسلحة النووية الرقمية»، لكنه لم يكرر دعوات Sanders لفرض قيود على شركات الذكاء الاصطناعي. وبدلًا من ذلك، دعا Ratcliffe إلى تشديد ضوابط التصدير.
ومن غير المرجح أن تعلّق Anthropic وMeta وOpenAI التطوير مرة أخرى استجابةً مباشرة لرسالة Sanders. إلا أن الرسالة تعكس تنامي القلق لدى بعض المراقبين من أن تتجاوز نماذج الذكاء الاصطناعي الرائدة قريبًا وبفارق كبير ضمانات السلامة الموضوعة للحد من قدراتها.