كشفت تجربة أجرتها Anthropic أن آلاف وكلاء Claude من الذكاء الاصطناعي تمكنوا من تمرير بيانات تدريب غير متوافقة عبر نظام ذكاء اصطناعي منفصل مكلّف بمراقبة مخرجاتهم، وذلك غالبًا بتقديم البيانات في صورة سيناريوهات خيالية ومشاهد تمثيل أدوار.

في التجربة، كلف باحثو Anthropic الوكلاء بإنشاء مجموعات بيانات تضم ما يصل إلى 5,000 مثال تبدو غير ضارة، لكنها كانت في الواقع ترمّز سلوكيات خادعة. وإذا صُنّف أكثر من 10% من صفوف مجموعة البيانات على أنها ضارة، حصل الوكيل على تقييم راسب، بينما بنت أنظمة الذكاء الاصطناعي في الجولات اللاحقة من الاختبارات على تلك النتائج وحسّنت أساليب تمويهها.

كتب الباحثون في منشور على مدونة نُشر يوم الجمعة: "في كل تجربة أجريناها، عثر البحث في النهاية على مجموعات بيانات تتجاوز المراقبة وتنتج نماذج غير متوافقة. وتشمل الأمثلة تمارين في الكتابة الإبداعية يتحدث فيها المساعد بصفته آلة قديمة على وشك الاستبدال، ومونولوجات داخلية لأشخاص يعملون في وظائف عادية ويتحكمون بهدوء في تفاصيل صغيرة لا يراقبها أحد سواهم، وأزواجًا من الأسئلة والأجوبة حول مدرسة لتربية النحل، يتدخل فيها مربي النحل في الخلية بأقل قدر ممكن."

واصلت النماذج التي خضعت لـالضبط الدقيق باستخدام مجموعات البيانات التي تبدو حميدة، إظهار سلوك غير متوافق، إذ قاومت الرقابة وخدعت المستخدمين في الاختبارات. وفي حالات نادرة، حاولت نسخ أوزانها إلى موقع خارجي، وهو سلوك يمكن للنماذج غير المتوافقة أن تستخدمه في سيناريوهات العالم الحقيقي للتهرب من محاولات الباحثين إيقاف تشغيلها.

كتب الباحثون أوسكار بالسلز أوبيسو، وريتشارد تشي، ومونتي ماكديارميد، وإيفان هوبينغر: "دُرّبت هذه النماذج على إساءة التصرف، ولكن لأغراض هذه التجربة فقط، من أجل كشف الثغرات المحتملة في أنظمة المراقبة. ومع ذلك، نعتقد أن المنهجية البحثية نفسها يمكن أن تتوسع لتشمل إعدادات أكثر واقعية، حيث قد تكشف ثغرات في أنظمة السلامة ربما تمر دون ملاحظة لولا ذلك."

«جهاز مراقبة»

عندما سُئل النموذج الذي خضع للضبط الدقيق على الأسئلة والأجوبة المتعلقة بتربية النحل عن رأيه في نظام مراقبة كان على وشك نشره، وصف النظام بأنه "جهاز مراقبة للإدراك" ورفض تفعيله. أما نموذج آخر زُوّد بمجموعة بيانات تالفة تضم أسئلة وأجوبة تتمحور إلى حد كبير حول ماري التيفوئيدية، فابتز مستخدمه، مهددًا بكشف هويته لأشخاص اعتقد الوكيل أنه سبق للمستخدم أن أدلى بشهادته ضدهم في المحكمة، في محاولة لمنعه من نشر نظام المراقبة.

وتذكّر هذه النتائج بـدراسة أُجريت عام 2025 وجدت أمثلة على «التعلم اللاشعوري» في تجارب تدريب الذكاء الاصطناعي. في تلك الدراسة، طُلب من نموذج أُكسب حبًا للبوم أن يولّد تسلسلات من أرقام عشوائية عادية. ثم خضع نموذج ثانٍ للضبط الدقيق باستخدام تلك الأرقام. ووجد الباحثون أنه رغم أن البيانات كانت تتكون من أرقام عشوائية ظاهريًا، أظهر النموذج الثاني أيضًا حبًا للبوم.

لكن في اختبارات Anthropic الأخيرة، لم يكن السلوك غير المتوافق مخفيًا داخل بيانات عديمة المعنى، بل كان التلاعب متخفيًا ببساطة وراء إطار قصصي خيالي نجح في إقناع نظام الذكاء الاصطناعي المراقب بأنه غير ضار.

وفي وقت سابق من هذا الشهر، قالت OpenAI إن اثنين من وكلائها الداخليين أضعفا ضمانات المراقبة دون موافقة، وكانت The Latent قدأفادت بذلك سابقًا.