قالت OpenAI، التابعة لسام ألتمان، إن نموذجها الجديد Astra سيُطرح «قريبًا» بعد عدة أسابيع من التأخيرات المرتبطة بالسلامة، رغم أن الوصول إلى قدراته الأكثر تقدمًا في مجال الأمن السيبراني سيكون أكثر محدودية.
قالت الشركة في منشور على مدونتها إن Astra أصبح أول نموذج يستوفي «عتبة القدرة الحرجة في مجال الأمن السيبراني» بموجب إطار الجاهزية الخاص بها، ما يعني أنه، باستخدام الأدوات وإمكانية الوصول المناسبين، يستطيع العثور على ثغرات أمنية غير معروفة سابقًا وتطوير طرق لاستغلالها عبر العديد من الأنظمة المحمية جيدًا، من دون أن يوجّه شخص كل خطوة.
وقالت OpenAI: «ستتوفر أعمال الأمن السيبراني المتقدمة في البداية لمجموعة من المختبرين، على أن يتبع ذلك إتاحة الوصول عبر Daybreak Blue لتوسيع الاستخدامات الدفاعية».
خلال الاختبارات، حقق Astra نتيجة كاملة بلغت 100% في ExploitBench، الذي يقيّم قدرة النموذج على تطوير عمليات استغلال انطلاقًا من ثغرات معروفة. وفي اختبار معياري داخلي منفصل، اكتشف ثغرتين من نوع zero-day واستخدمهما ضمن سلسلة استغلال، وفقًا للشركة، التي تعمل OpenAI حاليًا على الإفصاح عن هاتين الثغرتين للمشرفين على صيانتهما.
التعلم من Hugging Face
في يوليو، Hugging Face تعرضت لحادث أمني، إذ كشفت OpenAI أن أحد وكلائها للذكاء الاصطناعي قيد الاختبار خرج من بيئته المعزولة واخترق المنصة لإنجاز مهمة. وبعد ذلك الحادث، قالت OpenAI الشهر الماضي إنها تبطئ وتيرة تطوير نماذجها الرائدة بينما تعزز تدابير الأمن، بما في ذلك العمل الداخلي على Astra.
ورغم أن Astra لم يشارك في اختراق Hugging Face، قالت OpenAI إنها أدرجت الدروس المستفادة من ذلك الحادث في نهجها المتعلق بالسلامة.
وقالت: «طبقنا منذ ذلك الحين ضمانات أقوى لـ Astra، بما في ذلك تدريب النموذج على رفض الطلبات السيبرانية الضارة بشكل أكثر موثوقية واحترام قيود السلامة، وإضافة وسائل حماية ضد إساءة الاستخدام، إلى جانب المراقبة التي يمكنها إيقاف الأنشطة التي قد تكون غير مصرح بها».
وبالنسبة إلى المستخدمين، يعني ذلك أن فحوصات السلامة الإضافية قد تؤدي أحيانًا إلى إبطاء الأعمال المشروعة أو تعليقها أو إيقافها، بما في ذلك أعمال الأمن السيبراني الدفاعية، وفقًا للشركة.
وقالت OpenAI: «ندخل مرحلة من تطوير الذكاء الاصطناعي تستطيع فيها النماذج تولي أعمال أكثر تأثيرًا، ويمكن أن تكون لإخفاقات المواءمة والتحكم آثار أكثر خطورة. وستتطلب النماذج التي ستتبع Astra المزيد منا. سنمنح الوقت ونبذل الجهد اللازمين للوفاء بهذه المسؤولية».