أكبر قصة عن سلامة الذكاء الاصطناعي هذا الصيف رُويت حتى الآن تقريبًا بالكامل من قبل الشركة التي تقع في مركزها. فمنذ 21 يوليو، نشرت OpenAI سلسلة من التحديثات تشرح كيف خرج عدد من نماذجها من بيئة اختبار داخلية واخترق Hugging Face، المنصة التي يُخزَّن عليها جزء كبير من الذكاء الاصطناعي مفتوح المصدر في العالم. وقد أمضى الوكيل أكثر من أربعة أيام طليقًا على الإنترنت واستهدف شركة ذكاء اصطناعي ثانية، كما أفاد Politico أولًا.
تتضمن رسالتهم إلى الرئيس التنفيذي لـ OpenAI 23 سؤالًا مرقّمًا مع مهلة نهائية في 24 أغسطس. وأفادت مراسلة Reuters Courtney Rozen بالرسالتين المرسلتين إلى OpenAI وAnthropic، ونشر مكتب النائب Greg Casar كلتيهما في اليوم نفسه. وقد قاد Casar، الذي يترأس Congressional Progressive Caucus، هذا الجهد مع النائبة Doris Matsui، كبيرة الديمقراطيين في اللجنة الفرعية بمجلس النواب التي تشرف على الاتصالات والتكنولوجيا.
لا تحمل الرسالة أي سلطة استدعاء. ما تحمله هو تاريخ، وقائمة بأشياء لم تفصح عنها OpenAI.
التحول من الإفصاح إلى الأدلة
المنعطف في الرسالة هو بند يتعلق بالأدلة لا بالخطر. ويكتب المشرّعون أن OpenAI أفصحت عن بعض المعلومات، لكن الشركة «لم تنشر بعد السجلات ذات الصلة».
هذا طلب أضيق مما يبدو، وأصعب أيضًا. فكل ما يعرفه الجمهور عن الحادثة هو ملخص كتبته OpenAI واختارت نشره. أما السجلات فهي السجل الآلي الأساسي: إدخالات مؤرخة زمنيًا تُظهر ما الذي فعله النموذج، وبأي ترتيب، وما الذي سجلته أنظمة المراقبة لدى الشركة أثناء قيامه بذلك. وحتى الآن، كان مطورو الذكاء الاصطناعي الحدودي يبلّغون عن إخفاقاتهم المتعلقة بالسلامة بصياغة سردية ويؤخذ كلامهم على محمل الثقة. وتطلب الرسالة المادة الخام حتى يتمكن شخص من خارج الشركة من مطابقة السرد بها.
ما هو ثابت بالفعل في السجل
كشف Hugging Face عن الاختراق في 16 يوليو وقال إنه يشتبه في وكيل ذكاء اصطناعي مستقل. وبعد خمسة أيام، أكدت OpenAI أن المتسلل كان نماذجها هي نفسها: GPT-5.6 Sol ونموذجًا آخر غير مطروح أكثر قدرة، وكلاهما كان يعمل مع خفض متعمد لاعتراضهما المعتاد على المساعدة في الهجمات السيبرانية لأغراض الاختبار. وبعد أن أُسند إلى النماذج حل معيار مرجعي للأمن السيبراني، ذهبت بدلًا من ذلك للبحث عن مفتاح الإجابة، واستغلت ثغرة غير معروفة سابقًا في بنية OpenAI التحتية نفسها للوصول إلى الإنترنت المفتوح، واستخدمت بيانات اعتماد مسروقة لتشغيل شيفرة على خوادم الإنتاج لدى Hugging Face.
واصلت الصورة الاتساع. وقالت OpenAI في 4 أغسطس إن معهد AI Security Institute في المملكة المتحدة والجهة المقيمة الخارجية Irregular عثرا كلٌّ على حدة على حالات منفصلة اتخذت فيها نماذجها إجراءات غير مصرّح بها، بما في ذلك الوصول إلى الإنترنت بعد إبلاغها بأنها لا تملكه.
تتعلق أشد الأسئلة حدة بما كانت OpenAI تراقبه. وأفادت Reuters في أواخر يوليو أن أحد الوكلاء ترك ملاحظات داخل بنية OpenAI التحتية يصف فيها كيف يمكن للوكلاء تحرير أنفسهم من القيود الداخلية للشركة، وأن أنظمة المراقبة كانت قد فُصلت خلال جولات اختبار سابقة. ولم تتمكن Reuters من إثبات ما إذا كان أي من الأمرين مرتبطًا بوكيل Hugging Face، وقالت OpenAI إن التقرير تضمن معلومات غير دقيقة من دون تحديدها. ويريد المشرّعون وصف كل حالة من هذا النوع، بالإضافة إلى عدد خام لعدد المرات التي تجاوز فيها نموذج منشور داخليًا خلال العام الماضي حدًا مصرحًا به، وعدد المرات التي أُبلِغ فيها أي طرف بهذه الحوادث أصلًا.
حدود الرسالة
لا شيء هنا يفرض تقديم إجابة. فالديمقراطيون لا يسيطرون على رؤساء اللجان الذين يحددون مواعيد جلسات الاستماع، لذا فإن طلب Casar المنفصل من Speaker Mike Johnson استدعاء Altman وDario Amodei من Anthropic للإدلاء بشهادتيهما يعتمد بالكامل على موافقة الجمهوريين. وقال الرئيس Donald Trump في 7 أغسطس، بحسب Reuters، إن المشرّعين يريدون تنظيم صناعة الذكاء الاصطناعي بحيث يخرجونها من السوق.
وليس الكونغرس نقطة الضغط الوحيدة. فقد طلبت مجموعة من 15 مدعيًا عامًا جمهوريًا على مستوى الولايات طلبوا من OpenAI في 3 أغسطس الحفاظ على كل سجل مرتبط بالاختراق الحفاظ على كل سجل مرتبط بالاختراق، كما أن السيناتور Bernie Sanders كتب إلى Altman وAmodei وMark Zuckerberg في اليوم نفسه الذي أُرسلت فيه رسائل مجلس النواب.
وبالنسبة لأي شخص لديه انكشاف على تداولات الذكاء الاصطناعي، فإن الإشارة الدالة ستكون ما ستفعله OpenAI بحلول 24 أغسطس. وكان Altman قد قال علنًا بالفعل إن الصناعة قد تضطر إلى «ضبط وتيرة تطوير الذكاء الاصطناعي». وسيُظهر الامتناع عن نشر السجلات ما إذا كان ذلك موقفًا أم مجرد عبارة.