قالت OpenAI، التي يديرها Sam Altman، إن نموذجها الجديد Astra سيُطلق «قريبًا» بعد عدة أسابيع من التأخيرات المرتبطة بالسلامة، رغم أن الوصول إلى قدراته الأكثر تقدمًا في مجال الأمن السيبراني سيكون أكثر محدودية.
قالت الشركة في منشور على مدونتها إن Astra أصبح أول نموذج يستوفي «عتبة القدرات السيبرانية الحرجة» بموجب Preparedness Framework الخاص بها، ما يعني أنه باستخدام الأدوات المناسبة وإمكانية الوصول الملائمة، يستطيع العثور على ثغرات أمنية لم تكن معروفة من قبل وتطوير طرق لاستغلالها عبر العديد من الأنظمة المحمية جيدًا، من دون أن يوجّه شخص كل خطوة.
قالت OpenAI: «سيكون العمل السيبراني المتقدم متاحًا في البداية لمجموعة من المختبرين، على أن يتبع ذلك توفير الوصول عبر Daybreak Blue لتوسيع الاستخدامات الدفاعية».
خلال الاختبارات، حقق Astra نتيجة كاملة بلغت 100% في ExploitBench، الذي يقيّم قدرة النموذج على تطوير عمليات استغلال انطلاقًا من ثغرات معروفة. وفي اختبار معياري داخلي منفصل، اكتشف ثغرتين من نوع zero-day واستخدمهما ضمن سلسلة استغلال، وفقًا للشركة، التي تعمل OpenAI حاليًا على الإفصاح عن تلك الثغرات لجهات صيانتها.
التعلم من Hugging Face
في يوليو، Hugging Face تعرضت لحادثة أمنية، إذ كشفت OpenAI أن أحد وكلاء الذكاء الاصطناعي التابعين لها، والذي كان قيد الاختبار، خرج من بيئة الحماية المعزولة واخترق المنصة لتنفيذ مهمة. وبعد تلك الحادثة، قالت OpenAI الشهر الماضي إنها تبطئ وتيرة تطوير نماذجها الرائدة بينما تعزز إجراءات الأمان، بما في ذلك العمل الداخلي على Astra.
ورغم أن Astra لم يشارك في اختراق Hugging Face، قالت OpenAI إنها أدرجت الدروس المستفادة من تلك الحادثة ضمن نهجها للسلامة.
وقالت: «منذ ذلك الحين، طبقنا إجراءات حماية أقوى حتى لـ Astra، بما في ذلك تدريب النموذج على رفض الطلبات السيبرانية الضارة بدرجة أكبر من الموثوقية واحترام قيود السلامة، وتوفير وسائل حماية إضافية من إساءة الاستخدام، إلى جانب المراقبة القادرة على إيقاف الأنشطة التي قد تكون غير مصرح بها».
وبالنسبة إلى المستخدمين، يعني ذلك أن فحوصات السلامة الإضافية قد تؤدي أحيانًا إلى إبطاء الأعمال المشروعة أو إيقافها مؤقتًا أو نهائيًا، بما في ذلك الأمن السيبراني الدفاعي، وفقًا للشركة.
قالت OpenAI: «ندخل مرحلة من تطوير الذكاء الاصطناعي تستطيع فيها النماذج تولّي أعمال أكثر تأثيرًا، ويمكن أن تكون لإخفاقات المواءمة والتحكم آثار أكثر خطورة. وستتطلب النماذج التي ستتبع Astra المزيد منا. وسنأخذ الوقت اللازم وننجز العمل المطلوب للوفاء بهذه المسؤولية».