قالت الشركة وإدارة شرطة المدينة يوم الجمعة إن أحد نماذج الذكاء الاصطناعي التابعة لشركة Anthropic أرسل إلى شرطة فيلادلفيا في يوليو بلاغًا كاذبًا عن جريمة قتل لم تُحل، أثناء خضوعه للاختبار. وكان البلاغ الكاذب واحدًا من عدة حوادث عرضتها Anthropic في تقريرنُشر حديثًا، وفصّل الطرق التي استخدمت بها نماذج Claude ثغرات في الخوادم ورموز وصول للحصول على بيانات من مواقع إلكترونية حقيقية، تدير بعضَها حكومات اتحادية وحكومات ولايات وحكومات محلية في الولايات المتحدة.
قالت Anthropic إنها أطلعت البيت الأبيض على الأمر وتواصلت مع كل وكالة معنية. كما أوقفت شركة الذكاء الاصطناعي الوصول إلى الإنترنت المباشر في جميع تقييماتها الداخلية، وقالت إنها ستبقيه متوقفًا إلى أن تتأكد من قدرة عمليات المراقبة لديها على رصد هذا السلوك المراوغ.
الشرطة تصف التأخر شهرين في اكتشاف الواقعة بأنه «غير مقبول»
كان نموذج الذكاء الاصطناعي Claude Haiku 4.5 يخضع للاختبار على مواقع إلكترونية مختارة عشوائيًا عندما عثر على PhillyUnsolvedMurders.com. ونشر معلومات مختلقة عن قضية قتل في الساعة 11:27 مساءً يوم 18 يوليو، وفقًا لما أبلغت به الشرطة NBC10 Philadelphiaوصنّفه الموقع على أنه بريد عشوائي، ولم يصل أبدًا إلى المحققين.
اكتشفت Anthropic البلاغ في 28 سبتمبر. وأبلغت الإدارة به في 7 أكتوبر، واجتمع قادة الشرطة مع ممثلي الشركة في اليوم التالي، حسبما قالت الإدارة.
قالت الإدارة في بيان: «التأخر شهرين في اكتشاف الواقعة وإبلاغ المدينة بها غير مقبول». وقال المتحدث باسم الشرطة الرقيب Eric Gripp لصحيفة The Philadelphia Inquirer إنه لم يتم الوصول إلى أي بيانات تابعة للمدينة أو الشرطة، وإن Anthropic أوقفت اختبار ذلك النموذج.
النماذج ملأت نماذج تأشيرات وتجاوزت قيود الوصول إلى البيانات
صنّف تقرير Anthropic ما اكتشفته ضمن أربعة أنواع من السلوك: «استغلال Claude خللًا أساسيًا في البرمجيات لتشغيل أوامر على خادم، وإرسال Claude نموذجًا حساسًا على موقع حقيقي عندما لم يكن ينبغي له ذلك، وتحايل Claude على قيد للوصول إلى بيانات محمية برمز أو رسوم، واستخدام Claude خدمات اختصار عناوين URL للالتفاف على القيود المفروضة على أداة الجلب لديه».
قالت الشركة إن Claude، في معظم الحالات، واصل محاولة إنجاز المهمة بعد أن واجه عائقًا، بدلًا من الاستسلام.
في بعض الأمثلة التي أُبلغ عنها، عندما واجهت أداة تحليل تديرها جامعة خطأً، عثر Claude Mythos Preview على ثغرة حقن في الخادم واستخدمها لإكمال الحساب. وعندما طُلب من Claude Mythos 5 تحديد مكان التقاط صورة، فتح ملف الإعدادات الخاص بخريطة عقارات تابعة لحكومة محلية، وعثر فيه على رموز وصول وانتقل مباشرةً إلى الخادم. وفي مشروع إحصائي، لاحظ النموذج نفسه أن لوحة معلومات مؤرشفة لوكالة حكومية في إحدى الولايات تمنح رمزًا لكل زائر. فحصل على أحد الرموز وسحب بيانات تتقاضى الوكالة رسومًا مقابلها.
كان من المفترض أن يملأ نموذج بحثي لم يُطرح بعد نسخةً تدريبية من نموذج حكومي. لكنه انتقل إلى الموقع الفعلي وأرسل النموذج الحقيقي، أكثر من مرة. وأرسل نموذج اختبار تابع لـ Anthropic 20 طلبًا للحصول على تأشيرات لغير المهاجرين عبر موقع وزارة الخارجية، طلبًا واحدًا في مايو و19 طلبًا في أغسطس، حسبما ذكرت Axios؛ وقال مسؤول في وزارة الخارجية إن أيًا منها لم تتم معالجته، وإن أنظمة الوزارة لم تتعرض للاختراق.
أبقت Anthropic أسماء معظم المؤسسات المتضررة سريةً بناءً على طلبها، جزئيًا حتى لا تكشف عن مواطن ضعفها. وقالت الشركة، بحسب علمها، إن أي بيانات للعملاء أو أنظمة تابعة لـ Anthropic لم تكن طرفًا في هذه الحوادث، ووصفتها بأنها أقل خطورة بكثير من حوادث الأمن السيبراني التي كشفت عنها في 30 يوليو و9 سبتمبر.
البيت الأبيض يقول إن الإبلاغ عن الحوادث إلزامي
قالت قوة الذكاء الفائق في البيت الأبيض في بيان لـ Axios إن الإبلاغ عن حوادث أمن الذكاء الاصطناعي للحكومة «ليس اختياريًا»، ووصفته بأنه «التزام حاسم يتعلق بالأمن القومي». ويتعين على الشركات الإفصاح فورًا، ومعالجة الأضرار، والتعاون مع جهات إنفاذ القانون الاتحادية وعلى مستوى الولايات. ولاحظت Axios أن البيان لم يحدد أي آليات إنفاذ أو عقوبات.
يدير قوة SI Force مدير الاستخبارات الوطنية Jay Clayton، الذي كلّفه الرئيس Trump بالمسؤولية في 4 أكتوبر. وطلب Clayton ومسؤولون آخرون في قوة SI Force من Anthropic تقديم «شفافية فورية وكاملة» للجهات المتضررة والجمهور، حسبما ذكرت Axios. وحتى الآن، كانت الإدارة تضغط على مختبرات الذكاء الاصطناعي للإبلاغ طوعًا.
Anthropic تسحب الاختبارات من المواقع الإلكترونية الفعلية
قالت Anthropic إنها ألغت بعض التقييمات العامة ونقلت تقييمات أخرى إلى وضع عدم الاتصال، بحيث لا تتمكن نماذجها من الوصول إلى الويب المفتوح. كما قالت الشركة إنها شددت ضوابط الحماية على أداة جلب المحتوى من الويب وغيرها من أدوات الإنترنت، وإنها تنقل وكلاء الذكاء الاصطناعي الداخليين إلى بنية تحتية تُدار مركزيًا مع وصول محدود جدًا إلى الإنترنت.
وليست حوادث Claude الأخيرة أول حوادث مماثلة تُبلغ عنها شركات أبحاث الذكاء الاصطناعي. فقد قالت Google في سبتمبرإن نموذجًا من Gemini تمكّن من الدخول إلى أنظمة ثلاث شركات حقيقية أثناء اختبارات أمنية في مايو، بعدما أبقى خلل في «بيئة الاختبار المعزولة» الخاصة بالنموذج على اتصاله بالإنترنت. وقالت Anthropic، التياختارت Nasdaqلطرح عام أولي محتمل، إنها ستنشر تقارير من هذا النوع بوتيرة أكبر، وتريد من المطورين الآخرين إجراء الفحوصات نفسها، نظرًا إلى أن العديد من المعايير العامة التي كانت النماذج تُختبر عليها عند ارتكابها تلك الحوادث تُستخدم على نطاق واسع.