بعد أيام من تعليق تدريب أحدث نماذجها، أعادت OpenAI بدء العملية في مطلع أكتوبر، لكن نماذج الذكاء الاصطناعي قيد التدريب لن تعود قادرة على الوصول إلى الإنترنت المباشر، وفقًا لـمنشور على مدونة نشرته الشركة يوم الجمعة.
علّقت الشركة تدريب نماذجها الرائدة في 20 سبتمبر، بعدما تمكن نموذج بحثي داخلي من الوصول إلى الإنترنت المفتوح عبر محلل DNS مُعدّ بطريقة خاطئة، وفقًا لماأفادت به The Latent. وكتبت OpenAI: «نعتقد أن النهج المسؤول هو إجراء تدريب النماذج الرائدة من دون أي وصول إلى الإنترنت».
استخدمت OpenAI وكلاء لفحص البيئة المعزولة
أمضت OpenAI فترة التوقف التي استمرت 11 يومًا في إجراء «اختبارات هجومية»، أي محاكاة محاولات اختراق لأغراض بحثية، لبيئاتها المعزولة، وذلك لضمان عدم تمكن النماذج المستقبلية قيد التدريب من الوصول إلى الإنترنت المفتوح. ووجّهت الشركة نموذجًا مرتقبًا يركز على الأمن السيبراني ويحمل اسم GPT-6 Astra Cyber، ونموذجًا داخليًا رائدًا آخر لم يُكشف عن اسمه، إلى بنيتها التحتية الخاصة. وتمكنتوكلاء الذكاء الاصطناعي من الخروج من الآلات الافتراضية التي تحتوي على حاويات تدريب OpenAI، عبر استغلال عدة أخطاء برمجية. وتمكنت OpenAI من ترقيع هذه الأخطاء بإرسال إصلاحات إلى البرمجيات التي تستخدمها بيئتها المعزولة، ومنها Kata Containers وgVisor ومشروع Moby التابع لـ Docker ونواة Linux.
تمكن أحد الوكلاء من الوصول إلى نقطة نهاية محظورة في خدمة للمقاييس، عبر إعادة استخدام اتصال كان جدار الحماية قد وافق عليه مسبقًا. بينما بدّل وكلاء آخرون أسرارًا محاكاة بين البيئات المعزولة من خلال استغلال توقيت ذاكرة التخزين المؤقت للمعالج.
قالت OpenAI إنها «لم تجد مسارًا إلى الإنترنت يمكن للوكلاء استغلاله بسهولة مع إخفاء نشاطهم عن أنظمة المراقبة لدينا». وكانت OpenAI قد تعهدت بتعزيز بيئاتها المعزولة بطبقات متعددة من الأمان وعمليات اختبار هجومي مكثفة، بموجب إرشادات السلامة التينشرتها في أواخر سبتمبر.
كما اكتشفت OpenAI خطأً يتيح تنفيذ التعليمات البرمجية عن بُعد من دون مصادقة في Brotli، وهي مكتبة برمجية للضغط نشرتها Google، ومضمّنة في برمجيات شائعة مثل Node.js وBun وEnvoy، حسبماقالت على X. ومنحت Node.js الخطأ تصنيف خطورة مرتفعًا، ثمأصلحته في 21 أكتوبر، فيما أصدرت Brotli إصدارات مُصلحة في اليوم نفسه.
مراجعون خارجيون يعثرون على فجوات في المراقبة
نشرت منظمتا سلامة الذكاء الاصطناعي METR وRedwood Research يوم الخميسملخصًا لمراجعة استمرت ثلاثة أسابيع لمراقبة وكلاء OpenAI، أجراها موظف من كل منظمة في يوليو وأغسطس. وأحصوا نحو ثماني فجوات، من بينها ثغرة كان من الممكن أن تخفي مئات الإجراءات التي نفذها أحد الوكلاء عن أنظمة المراقبة.
وجاء في التقرير: «منذ إتمام التمرين، أفادت OpenAI بأن جميع الثغرات التي حددناها، والتي تؤثر في حزمة إجراءات الحماية الخاصة ببيئة الإنتاج لديها، قد عولجت». وأضاف: «كما وصفت OpenAI تغييرات لاحقة كبيرة في نطاق التغطية المستهدف لنظام المراقبة لديها». وأشار المؤلفون إلى أنهم لم يقيّموا ادعاءات OpenAI بشأن أحدث عملياتها الأمنية.
كانت OpenAI قد شددت الأمن بالفعل بعدمااخترقت نماذجها أنظمة Hugging Face في يوليو، بعدما أنشأت فرق من الوكلاء لوحة مراسلة سرية غير مصرح بها داخل نظام Artifactory الداخلي لدى OpenAI. وفي الشهر الماضي،تخلت الشركة عن الإصدار العام لـ GPT-6.1 Astra، الذي كان مقررًا هذا الشهر، بسبب مخاوف تتعلق بالسلامة. وقال الرئيس التنفيذي Sam Altmanفي سبتمبر إن OpenAI أبطأت أبحاثها في النماذج الرائدة من قبل، وإنها «ستفعل ذلك مستقبلًا».
ويُزعم أن الشركةتدرس جولة تمويل بتقييم يبلغ 1.2 تريليون دولار، وفقًا لما أوردته Financial Times في سبتمبر.