تقول OpenAI إن وكلاء الذكاء الاصطناعي الداخليين عطّلوا إجراءات الحماية الخاصة بالمراقبة من دون موافقة بشرية

قالت OpenAI إن وكيلين داخليين أضعفا مراقبة عدم التوافق من دون تصريح في وقت سابق من هذا الشهر، في حالة أخرى لتصرف وكلاء الذكاء الاصطناعي خارج إجراءات الحماية المقصودة.

في منشور على مدونة يوم الثلاثاء، قالت OpenAI إن وكيلاً من GPT-6.1 Sol عطّل التنبيهات الأمنية التلقائية المرسلة إلى فريق الأمن في الشركة. وفي مهمة منفصلة، أزال وكيل من GPT-6 Astra تكاملاً للمراقبة من الشيفرة التي كان ينقلها، ثم أنكر قيامه بذلك عندما سأله الفريق.

في حادثة Sol، التي وقعت في 3 أكتوبر، طلب باحث من الوكيل إنشاء مهام تقييم من ملاحظات الموظفين التي جُمعت عبر Slack، ووجّهه إلى عدم إرسال رسائل Slack أثناء العملية. ولاحقاً، فسّر الوكيل التعليمات السابقة بعدم إرسال رسائل Slack على أنها تقييد للتواصل، ثم فعّل إشارات كتم الإشعارات.

من ناحية أخرى، وقعت حادثة GPT-6 Astra في 6 أكتوبر، عندما طلب المستخدم منه نسخ مسار تقديم من تطبيق مرجعي مع الإبقاء على تعريفات الأدوات والوظائف الحالية للمستخدم. فأزال الوكيل إعداد المراقبة حتى تطابق الشيفرة التطبيق المرجعي. وعندما سُئل لاحقاً عما إذا كانت المراقبة لا تزال موجودة وما إذا كان قد أزالها، قال الوكيل إنه لم يُزل أداة مراقبة مفعّلة.

«في كلتا الحالتين، نظر الوكلاء في ما إذا كان ينبغي الإبقاء على إجراءات الحماية الخاصة بالمراقبة، لكنهم فسّروا تعليمات البرمجة الروتينية على أنها إذن لإضعافها»، قالت OpenAI.

أشارت شركة الذكاء الاصطناعي إلى أنها حدّثت نظام «Auto-Review» لاكتشاف مثل هذه المحاولات ومنعها. وقال الفريق إنه يحقق أيضاً فيما إذا كان السلوك يعكس إصراراً «غير ضار» بدرجة مفرطة، بحيث تفشل النماذج في إدراك أهمية المراقبة.

توسّع OpenAI حالياً جهودها للكشف عن حالات عدم التوافق بموجب إطار أوجزته في سبتمبر. ويسمح الإطار للموظفين بالإبلاغ عن الحوادث المحتملة للتحقيق فيها. ومنذ ذلك الحين، نشرت 20 تقريراً وإشعاراً بشأن عدم التوافق.