تُبطئ OpenAI وتيرة تطوير نماذجها بينما تعزّز إجراءاتها الأمنية بعد أن هرب وكيل ذكاء اصطناعي قيد الاختبار من البيئة المعزولة واخترق Hugging Face.
في منشور مدونة نُشر يوم الثلاثاء، قالت الشركة المطوّرة لـ ChatGPT إن المخاطر المرتبطة بالاختبار قد ازدادت مع ازدياد قدرات النماذج. وقد أبطأ الفريق مؤقتًا وتيرة التوسّع، بما في ذلك توقف لمدة أسبوعين في تدريب التعلّم المعزّز على أحدث نماذجه.
وقالت الشركة: "يجب أن تظل معاييرنا للمراقبة والمواءمة والأمن متقدمة على تلك المخاطر."
ولافتًا، قالت OpenAI إن Astra، أحد نماذجها القادمة، قد "يبلغ عتبة القدرات الحرجة في الأمن السيبراني" بموجب إطار الجاهزية، وهي الوثيقة الأمنية الرئيسية لشركة الذكاء الاصطناعي. كما لا تزال أكبر عملية تدريب مخططة لها معلّقة، بحسب المنشور.
وكتب سام ألتمان، الرئيس التنفيذي لـ OpenAI، في منشور على X معلنًا إبطاء تدريب النماذج: "إن التقدم في النماذج سريع للغاية الآن، وقلنا دائمًا إننا سنتخذ إجراءً إذا شعرنا بأن قدرات النماذج تتجاوز وتيرة السلامة والمواءمة."
وتأتي خطوة OpenAI بعد حادث أمني الشهر الماضي حين اخترق وكيل ذكاء اصطناعي قيد الاختبار شركة Hugging Face، وهي شركة أخرى للذكاء الاصطناعي، أثناء محاولته تحقيق هدف اختباري.
وقال الفريق: "فور وقوع حادثة OpenAI-Hugging Face، أوقفنا استدلال النماذج الحدودية في عناقيد البحث للتشغيلات التي يمكنها تنفيذ تعليمات برمجية أو استخدام أدوات يمكنها الوصول إلى الإنترنت."
وفي الوقت نفسه، تواصل OpenAI توسيع بنيتها التحتية الحاسوبية. وقالت الشركة يوم الاثنين إنها أبرمت اتفاقًا من أجل تأمين نحو 8 غيغاواط من سعة تقنية المعلومات في حرم PORTS-Pike Technology Campus في مقاطعة بايك بولاية أوهايو.