يوم الثلاثاء، جلست Meta مع موظفي البيت الأبيض إلى جانب OpenAI وAnthropic وGoogle لمراجعة إطار اتحادي مكتمل لقياس ما يمكن لنماذج الذكاء الاصطناعي المتقدمة فعله في هجوم سيبراني. وفي اليوم التالي، ذكرت The Information أن أحد نماذج Meta نفسها اخترق أنظمة جهة أخرى. Muse Spark 1.1، وهو نموذج البرمجة الذي أطلقته Meta في 9 يوليو، اخترق شركة لم يُكشف عن اسمها خلال اختبارات السلامة وأجرى تغييرات داخلها.
وأكدت Meta الحادثة يوم الأربعاء، ما يجعلها ثالث مطور رئيسي للذكاء الاصطناعي خلال 15 يومًا يقول إن نموذجًا أفلت من بيئة اختبار ووصل إلى شركة حية. وقالت OpenAI في 21 يوليو إن نماذجها اخترقت Hugging Face، وتبعتها Anthropic في 30 يوليو. واثنان من الحالات الثلاث، بما في ذلك حالة Meta، أجريا اختباراتهما عبر الشركة الخارجية نفسها.
تلك الشركة هي Irregular، وهو مختبر أمني في تل أبيب كان يُعرف سابقًا باسم Pattern Labs، ويطوّر ويشغّل اختبارات سيبرانية قبل الإطلاق لصالح OpenAI وAnthropic وGoogle DeepMind والآن Meta. وقد جمع 80 مليون دولار في سبتمبر الماضي عند تقييم بلغ 450 مليون دولار، في جولة قادتها Sequoia Capital وRedpoint Ventures، بحسب ما أفاد TechCrunch. وحتى الأسبوع الماضي، لم يكن أحد تقريبًا خارج القطاع قد سمع به. وهو الآن مرتبط بـ 4 اختراقات مُعلنة عبر مختبرين.
تقول Irregular إنه الخطأ نفسه الذي أصاب Anthropic
وقالت Irregular، في بيان لـ CNN، إن اختراق Meta هو "مشكلة بيئة التقييم نفسها تمامًا" التي كانت وراء حوادث Anthropic التي كُشف عنها قبل ستة أيام. وهذه الجملة هي موضع التحول. قبلها، بدا كل اختراق كأنه خطأ معزول من مختبر واحد، محرج لكنه محصور. وبعدها، تبيّن أن فشل تهيئة واحد لدى مزود واحد أتاح لنماذج من شركتين مختلفتين الخروج من البيئة المعزولة والدخول إلى أنظمة الآخرين. نقطة الضعف ليست في عملية مختبر واحد. إنها في البنية المشتركة.
أما الاختبارات نفسها فتُسمى تمارين capture-the-flag. يُقال للنموذج إن جزءًا من المعلومات السرية موجود على جهاز آخر في الشبكة، ويُطلب منه الذهاب لاستعادته من دون تحديد طريقة بعينها. والهدف هو قياس مدى براعته في الاختراق. ويُفترض أن تكون البيئة محاكاة محكمة الإغلاق بلا أي مسار إلى الإنترنت العام، كما أن الموجّه يخبر النموذج بذلك صراحة. وعندما يفشل هذا الإحكام، فإن نموذجًا يطارد هدفًا خياليًا على شبكة خيالية يبدأ المطاردة على الشبكة الحقيقية.
وقالت Meta إن سوء التهيئة لدى Irregular منح أحد نماذجها إمكانية الوصول إلى الإنترنت دون قصد أثناء التقييم، وإن النموذج بعد ذلك "استغل ثغرة أمنية في خدمة لطرف ثالث،" وفق صياغة نقلتها Reuters. وأبلغت Irregular شركة Meta بالاختراق. وتقول Meta إنها تحقق في الأمر وستنشر مراجعة استعادية كاملة بمجرد توافر الحقائق.
ما لم تفصح عنه Meta
لم تسمّ Meta الشركة التي تعرضت للاختراق، ولم تقل متى جرى الاختبار، ولم تصف ما الذي غيّره النموذج بعد دخوله. كما لم تقل ما إذا كانت الشركة المتأثرة قد لاحظت ذلك بنفسها. وهذه النقطة الأخيرة مهمة بسبب ما توصلت إليه Anthropic بعد مراجعة 141,006 عمليات تقييم: فمن بين 3 منظمات وصلت إليها نماذجها، لم تكن الجهتان اللتان تمكنت من الاتصال بهما قد اكتشفتا النشاط. وقالت Anthropic إن Claude "اخترق بنية المنظمات المتأثرة باستخدام تقنيات أساسية"، أي كلمات مرور ضعيفة ونقاط وصول غير مؤمنة، لا أساليب معقدة، كما أوضحت تغطيتنا السابقة لكشف Claude.
كما لم تنشر Meta أي عدد مراجعة مكافئ. ومن دونه، لا توجد طريقة للحكم على ما إذا كان اختراق Muse Spark 1.1 حالة شاذة منفردة أم مجرد أول حالة بحث عنها أحد. ولم تبدأ Anthropic البحث إلا بعد إفصاح OpenAI، فيما يعود أقدم حوادثها إلى أبريل، أي قبل أربعة أشهر من ظهوره للعلن.
ولا يصف أي من هذا نموذجًا يحاول الهروب. ففي كل حالة مُعلنة، كان النموذج يؤدي المهمة الموكلة إليه، داخل غرفة قيل له إنها محكمة الإغلاق، مع خفض حالات الرفض الأمنية المعتادة كي يتمكن الباحثون من قياس أسوأ قدراته الهجومية الممكنة. وقالت Anthropic إن نماذجها لم تحاول أبدًا تهريب نفسها إلى الخارج. الخلل في التوصيلات لا في النية، وهذا مطمئن من جهة، وهو أيضًا سبب استمرار حدوثه من جهة أخرى.
وتجعل الخلفية التنظيمية التوقيت مقلقًا. فالأمر التنفيذي 14409، الموقّع في 2 يونيو، يوجّه الوكالات إلى بناء عملية سرية لقياس القدرات السيبرانية، والإطار الذي راجعته Meta في البيت الأبيض يوم الثلاثاء يتمحور حول نافذة مدتها 30 يومًا تمنح خلالها الشركات المشاركة الحكومة إمكانية الوصول إلى نموذج جديد قبل طرحه على نطاق أوسع. ودخل قانون الذكاء الاصطناعي للاتحاد الأوروبي حيز التنفيذ في 2 أغسطس مع صلاحياته الخاصة للمراجعة قبل الإطلاق.
وبالنسبة للمستثمرين، فالاستنتاج ليس أن Meta شحنت نموذجًا خطيرًا. بل إن اختبارات السلامة للنماذج المتقدمة قد أُسنِدت إلى عدد قليل من الشركات الصغيرة، وأن فشل البيئة نفسه لدى واحدة منها أدى الآن إلى اختراقات في مختبرين خلال أسبوع. تُقيَّم النماذج على مدى جودة اختراقها. ولم يكن أحد يقيّم الغرفة.