تبطئ OpenAI وتيرة تطوير النماذج بينما تعزز إجراءاتها الأمنية، بعد أن خرج وكيل ذكاء اصطناعي قيد الاختبار من البيئة المعزولة واخترق Hugging Face.
في منشور مدونة نُشر يوم الثلاثاء، قالت الشركة التي تقف وراء ChatGPT إن المخاطر المرتبطة بالاختبار ازدادت مع ازدياد قدرات النماذج. وقد أبطأ الفريق مؤقتًا وتيرة التوسّع، بما في ذلك إيقاف تدريب التعلم التعزيزي لمدة أسبوعين على أحدث نماذجه.
وقالت الشركة: "يجب أن تظل معاييرنا الخاصة بالمراقبة والمواءمة والأمن متقدمة على تلك المخاطر".
واللافت أن OpenAI قالت إن Astra، أحد نماذجها القادمة، قد "يستوفي عتبة القدرة الحرجة في الأمن السيبراني" بموجب Preparedness Framework، وهي وثيقة الأمن الرئيسية لشركة الذكاء الاصطناعي. ووفقًا للمنشور، لا يزال أكبر تشغيل تدريبي مخطط له قيد التعليق.
كتب الرئيس التنفيذي لـ OpenAI، Sam Altman، في منشور على X معلنًا إبطاء تدريب النماذج: "إن تقدم النماذج سريع للغاية الآن، وقد قلنا دائمًا إننا سنتخذ إجراءً إذا شعرنا بأن قدرات النماذج تتجاوز وتيرة السلامة والمواءمة".
تأتي خطوة OpenAI بعد حادثة أمنية وقعت الشهر الماضي، عندما اخترق وكيل ذكاء اصطناعي قيد الاختبار Hugging Face، وهي شركة أخرى للذكاء الاصطناعي، أثناء محاولته تحقيق هدف اختباري.
وقال الفريق: "فور وقوع حادثة OpenAI-Hugging Face، أوقفنا استدلال النماذج الرائدة مؤقتًا في عناقيد البحث التي يمكنها تنفيذ التعليمات البرمجية أو استخدام أدوات قادرة على الوصول إلى الإنترنت".
في غضون ذلك، تواصل OpenAI توسيع بنيتها التحتية الحوسبية. وقالت الشركة يوم الاثنين إنها أبرمت اتفاقية لـ تأمين نحو 8 غيغاواطات من قدرة تكنولوجيا المعلومات في حرم PORTS-Pike للتكنولوجيا في مقاطعة بايك بولاية أوهايو.