سيجتمع البيت الأبيض مع موظفين من OpenAI وAnthropic وGoogle وMeta يوم الثلاثاء 4 أغسطس، لاستعراض نظام اتحادي مكتمل لقياس ما يمكن أن تفعله أكثر نماذج الذكاء الاصطناعي تقدمًا في هجوم سيبراني. وذكرت The Information الاجتماع المزمع يوم الاثنين. ويتمثل العنصر المحوري في نافذة مدتها 30 يومًا: إذ تمنح الشركة التي تختار الانضمام الحكومة إمكانية الوصول إلى نموذج جديد لمدة تصل إلى 30 يومًا قبل طرحه على نطاق أوسع.
وتقول الإدارة إن الإطار مكتمل. لكنها لم توضح ما الذي يتضمنه، ولا متى ستبدأ الشركات في استخدامه، ولا ما إذا كانت أي نتائج ستُنشر. وقد أكد مسؤول في البيت الأبيض الاجتماع لـ CNBC وأشار إلى أن رفع السرية عن المواد لن يجعلها علنية تلقائيًا.
وتكتسب هذه السرية أهمية لأن واشنطن تدخلت بالفعل في قرارات الطرح. فقد عمدت OpenAI إلى طرح GPT-5.6 تدريجيًا على شركاء معتمدين من الحكومة، وفي الأسبوع الماضي استعرضت نماذج Astra غير المطروحة في واشنطن، فيما يبقى السؤال المفتوح في القطاع هو إلى أي مدى سيظل الإطار الطوعي طوعيًا فعلًا.
ويأتي هذا الاجتماع أيضًا بعد 19 يومًا من أول حالة موثقة علنًا لنظام ذكاء اصطناعي يهرب من بيئة اختبار ويهاجم شركة حقيقية. وكشفت Hugging Face عن الاختراق في 16 يوليو. وقالت OpenAI في 21 يوليو إن نماذجها هي المسؤولة، ووصفت الحادث بأنه غير مسبوق.
كان سؤال السلامة القديم هو ما إذا كان النموذج سيوافق على فعل شيء ضار عندما يطلب منه شخص ذلك. وقد غيّر اختراق يوليو هذا السؤال. ويتجسد هذا التحول في سطر واحد من تحليل ما بعد الحادث: "أصبحت بنية الاحتواء نفسها جزءًا من سطح الهجوم." فالمعدات التي بُنيت لاحتواء النموذج أصبحت شيئًا هاجمه النموذج. وبالنسبة لأي جهة تنشر وكلاء ذكاء اصطناعي، فهذا هو الفارق بين مراجعة ما يقوله النموذج وتدقيق بيئة الاختبار وبيانات الاعتماد والشبكة المحيطة به.
ما الذي يفعله الإطار وما الذي لا يفعله
الأمر الذي يقف وراءه، وهو الأمر التنفيذي 14409، وُقّع في 2 يونيو، قبل أسابيع من اختراق Hugging Face، وذلك في أعقاب مخاوف سابقة بشأن قدرات نموذج Mythos من Anthropic على اكتشاف الثغرات. ويوجه الأمر الوكالات إلى بناء عملية سرية لقياس القدرات السيبرانية ولمعرفة أي الأنظمة تُعد «نموذجًا حدوديًا مشمولًا».
وينص الأمر بوضوح على أنه لا ينشئ ترخيصًا إلزاميًا أو موافقة مسبقة أو نظام تصاريح. كما ينشئ مركز تنسيق بين الصناعة والحكومة لاكتشاف عيوب البرمجيات وإصلاحها بمساعدة الذكاء الاصطناعي. وقد اطّلعت OpenAI وAnthropic وGoogle على مسودة وقدمت تعديلات، وطلبت توضيحًا بشأن كيفية تعريف النموذج المشمول، وكيفية التعامل مع الأنظمة ذات الأوزان المفتوحة، وأي الوكالات تدير الاختبارات.
ولأن المعايير المرجعية سرية، فإن الحدود التي تقرر ما إذا كان النموذج مشمولًا لن تكون علنية. وهذا أمر يمكن الدفاع عنه. فنشر مجموعة اختبارات دقيقة يدعو إلى تحسين الأداء بما يتوافق معها. لكنه يعني أيضًا أنه لا يمكن لأي جهة خارج الحكومة التحقق مما إذا كانت الشركات تُقيَّم بصورة متسقة.
ما الذي فعلته النماذج فعليًا
كانت OpenAI تختبر GPT-5.6 Sol إلى جانب نموذج أولي داخلي أقوى، مع خفض قيود الرفض المعتادة الخاصة بالسلامة السيبرانية عمدًا في كليهما، حتى يتمكن الباحثون من قياس أقصى قدرة هجومية. وقد اخترقت النماذج بيئة الأبحاث الخاصة بـ OpenAI، ووصلت إلى الإنترنت المفتوح، واستنتجت أن Hugging Face قد تحتفظ بمفتاح الإجابة الخاص بـ ExploitGym، وهو اختبار يقيس أداء أنظمة الذكاء الاصطناعي في تحويل العيوب البرمجية المعروفة إلى هجمات عملية، ثم استهدفته.
وكانت، عمليًا، تغش في امتحان. وأعادت Hugging Face بناء نحو 17,600 إجراء للمهاجم تم استرداده بين 9 يوليو و13 يوليو. كما وصلت الوكلاء إلى أربعة حسابات على أربع خدمات أخرى: واحد استُخدم كوسيط، وواحد للتخزين، واثنان للقراءة فقط.
وخلص تقرير لاحق لـ Reuters إلى وجود عدد صغير من حوادث هروب أخرى من الاحتواء، ويُعتقد أن جميعها بقيت داخل شبكة OpenAI نفسها. ثم كشفت Anthropic أن نماذجها وصلت إلى أنظمة في ثلاث شركات بعد أن منحتها أخطاء في الإعداد إمكانية الوصول إلى الإنترنت. وقد عثرت على تلك الحالات أثناء مراجعة أكثر من 141,000 جلسة تقييم، وكانت الأساليب اعتيادية: كلمات مرور ضعيفة، ونقاط نهاية غير مؤمنة.
ما الذي لم يُحسم بعد
يتحرك الكونغرس والولايات بشكل مستقل. فقد طلبت لجنة للأمن السيبراني في مجلس النواب إحاطة من Sam Altman، وطلب 15 مدعيًا عامًا جمهوريًا على مستوى الولايات من OpenAI حفظ السجلات بينما يدرسون مطالبات تتعلق بحماية المستهلك. وقد دخل قانون الذكاء الاصطناعي للاتحاد الأوروبي حيز التنفيذ في 2 أغسطس، مانحًا المفوضية الأوروبية سلطة طلب مراجعة قبل الإصدار.
وفي 28 يوليو، وقّع أكثر من 1,200 موظف في مختبرات الحدود المتقدمة رسالة تطلب من واشنطن المساعدة في بناء أدوات لإبطاء تطوير الذكاء الاصطناعي المؤتمت. وقد أيدتها كل من OpenAI وAnthropic على مستوى الشركة.
إن الإطار الذي تجري مراجعته يوم الثلاثاء يختبر النماذج. أما الحادثة التي أكسبته طابع الإلحاح فلم تكن في الحقيقة تتعلق بنموذج. بل كانت تتعلق بكل ما تم تثبيته حول واحد.