استخدم باحثون في شركة الأمن Hacktron AI نظام Claude من Anthropic للمساعدة في اكتشاف ثغرات والوصول إلى عدة حسابات ChatGPT لموظفي OpenAI. ومن أحد هذه الحسابات، أظهر الفريق أنه يستطيع الوصول إلى مستودعات البرمجيات الداخلية لمختبر الذكاء الاصطناعي.
وقال ثلاثة باحثين - هارش جايسوال، موهان بيدهاباثي وراهول ميني - إنهم حصلوا على تنفيذ تعليمات برمجية عن بُعد (RCE) وصلاحيات إدارية في بيئة Discourse بمنتدى مجتمع OpenAI في 25 يوليو، واستخدموا ذلك لاستغلال خلل في نظام الهوية.
وقد أتاح ذلك لجلسة منتدى مخترقة الاستيلاء على حسابات ChatGPT وCodex. وكان أحد تلك الحسابات المخترقة يربط Codex بـGitHub.
وأوضح الفريق: "لإظهار الأثر العملي للثغرة، أنشأنا طلب سحب لإثبات مفهوم غير ضار في monorepo الداخلي لـOpenAI".
استخدم الباحثون Claude تحديدًا لفحص كيفية معالجة منتدى المجتمع لعمليات تحميل الصور بتنسيقي HEIC وHEIF، وكتابة استغلال يستهدف خللًا في مسار تحميل الصور. وقال الباحثون إن Opus 4.8 لم يتمكن من إنتاج استغلال موثوق، بينما نجح Opus 5 في إنتاج واحد ضمن بيئة اختبار خلال بضع ساعات. واستغرق الجدول الزمني الكامل، من الاكتشاف الأولي إلى الوصول إلى المستودع، أقل من 72 ساعة.
وكتب الباحثون في تقريرهم: "حتى قبل شهرين، كان بإمكان أي مستخدم أو موظف في OpenAI يسجل الدخول إلى منتدى المساعدة الخاص بـOpenAI أن يتعرض للاستيلاء على حسابَي ChatGPT وCodex الخاصين به. وبما أن الناس يستطيعون ربط خدمات مختلفة بـCodex وChatGPT، فإن نطاق ما كان يمكننا الوصول إليه نظريًا كان هائلًا، بما في ذلك GitHub وSlack ورسائل البريد الإلكتروني".
أبلغ باحثو Hacktron AI عن الثغرة إلى OpenAI وDiscourse، وحصلوا على مكافأة قدرها 6,500 دولار مقابل اكتشاف الخلل من جانب OpenAI. وأكدت OpenAI للفريق إصلاح الخلل بعد نحو 14 ساعة من الإبلاغ عنه. كما أصلحت Discourse الخلل خلال الأيام التالية.
يجب أن "تلحق" الحماية بالركب
يأتي هذا الاكتشاف في وقت أدى فيه تطور الذكاء الاصطناعي إلى خفض تكلفة إطلاق استغلال أمني خطير بشكل كبير.
وأشار الفريق إلى أن "هذا لم يكن اختراقًا ذاتيًّا بالكامل، وظلت التوجيهات البشرية الماهرة مهمة، لكن حجم العمل الذي يستطيع فريق صغير تنفيذه ازداد بشكل هائل".
وقال فريق Hacktron AI إن افتراضات الأمان "يجب أن تلحق بالركب" لمواكبة قدرات المهاجمين، إذ أزال الذكاء الاصطناعي طبقة التعقيد في الأمن الإلكتروني التي كانت تتطلب سابقًا خبرة نادرة ووقتًا طويلًا لاختراقها.
وقال الفريق: "ينبغي لنموذج تهديد واقعي أن يأخذ في الحسبان اقتصاديات الاستغلال اليوم، بدلًا من الاعتماد على افتراضات قديمة بشأن الجهات القادرة على تنفيذ هجمات متطورة".