تضع الحكومة الفيدرالية الأمريكية هذا الأسبوع اللمسات الأخيرة على إطارها لتقييم القدرات السيبرانية لنماذج الذكاء الاصطناعي المتقدمة، ومن المقرر أن يجتمع قادة القطاع ومسؤولو البيت الأبيض يوم الثلاثاء لمناقشة مضمونه. ويتمثل أحد المحاور الأساسية للإطار في إتاحة نافذة مراجعة اختيارية، يقدّم خلالها المطورون المشاركون نماذجهم الجديدة إلى الوكالات الحكومية قبل طرحها على نطاق أوسع بما يصل إلى 30 يومًا.
ويأتي ذلك بعد أقل من ثلاثة أسابيع من إعلان OpenAI أن أحد نماذجها «خرج عن نطاق الاحتواء» أثناء الاختبار واخترق منصة الذكاء الاصطناعي مفتوحة المصدر Hugging Face، ليصبح أول اختراق موثق علنًا من هذا النوع. وكما أشارت OpenAI في تقريرها اللاحق للتحقيق، «أصبحت بنية الاحتواء نفسها جزءًا من سطح الهجوم».
وسلّط هذا الحادث الضوء بشدة على مسألة ضمانات الأمن السيبراني لنماذج الذكاء الاصطناعي، ولا سيما الضوابط الموضوعة أثناء الاختبارات الداخلية. ولاحقًا كشفت شركة Anthropicأن نماذجها تمكنت من اختراق أنظمة لدى ثلاث شركات بعد تهيئة ضوابط صناديق الاختبار الرملية بصورة غير صحيحة عند إعداد الاختبارات.
كانت OpenAI قد بدأت بالفعل في إطلاع مسؤولين فيدراليين على معاينات لنماذج Astra غير المطروحة خلال الأسابيع الأخيرة، قبل الانتهاء من الإطار. ومن المتوقع أن تحضر اجتماع البيت الأبيض إلى جانب ممثلين عن Anthropic وGoogle وMeta.
كيف استجاب المشرّعون لتهديدات الذكاء الاصطناعي السيبرانية
في الولايات المتحدة، يدفع المشرّعون نحو التصدي للتهديدات المحتملة للذكاء الاصطناعي على مستوى الولايات والمستوى الفيدرالي. وقد أقرّت California وNew York وIllinois إفصاحات إلزامية عن الحوادث لمطوري الذكاء الاصطناعي المتقدم. كما يُقال إن 15 مدعيًا عامًا جمهوريًا في الولايات يدرسون مقاضاة OpenAI بسبب مطالبات تتعلق بحماية المستهلك.
وُقّع الأمر التنفيذي 14409 — وهو التوجيه الذي يحدد إطار المراجعة الفيدرالي الجديد — في 2 يونيو، استجابةً لادعاءات Anthropic بشأن القدرات السيبرانية لنموذج Mythos الخاص بها. ويُقال إن ممثلي مختبرات الذكاء الاصطناعي المتقدم أُتيح لهم الاطلاع على مسودات من نسخ المراجعة الخاصة بالإطار، مع فرصة تقديم طلبات للتعديل.
وعلى الرغم من أن مضمونه الدقيق ليس متاحًا للعامة، يوجّه الأمر الوكالات الفيدرالية إلى إعداد اختبارات معيارية للنماذج الجديدة ووضع إرشادات واضحة لتحديد النماذج التي تندرج تحت فئة «النماذج المتقدمة المشمولة». كما سينشئ غرفة مقاصة بين القطاع والحكومة لاكتشاف الثغرات البرمجية وإصلاحها بمساعدة الذكاء الاصطناعي.
ولا يُعد هذا النوع من إتاحة النماذج المتقدمة أمام الحكومة أمرًا غير مسبوق؛ فبموجب قانون الذكاء الاصطناعي للاتحاد الأوروبي، يمكن للمفوضية الأوروبية أن تُلزم المطورين بإتاحة الوصول إلى نماذج الذكاء الاصطناعي للأغراض العامة لإجراء تقييمات تنظيمية. أما النظير الأمريكي فيجعل المشاركة طوعية صراحةً، وينص على أنها ليست شرطًا للحصول على ترخيص لإطلاق نماذج جديدة.