أعلنت OpenAI يوم الأربعاء أنها تختبر نظام سلامة جديدًا يمكنه تقييم الأنماط عبر التفاعلات المرتبطة من دون منح موظفيها إمكانية الوصول إلى محتوى المستخدم الأساسي.
ويجري اختبار النظام، المسمى Private Safety Processing، مع عملاء أوائل، بينما تسعى OpenAI إلى توسيع نطاق مراقبة السلامة ليشمل مهام الذكاء الاصطناعي الأطول والأكثر تعقيدًا. وقالت الشركة أيضًا إنها تسعى إلى الحفاظ على عرض Zero Data Retention الخاص بها، وذلك في بيان.
تقيّم الأنظمة المتوافقة مع ZDR التفاعلات بشكل فردي. وبدلًا من ذلك، يتيح Private Safety Processing للأنظمة الآلية تحديد الأنماط عبر التفاعلات المرتبطة وإرسال إشارة سلامة محددة بدقة إلى OpenAI عند اكتشاف إساءة استخدام محتملة.
وقالت الشركة إن موظفي OpenAI لا يتلقون المطالبات أو الردود الأساسية، مضيفةً أن العملاء يمكنهم مراجعة التنبيهات وقرارات الإنفاذ من خلال المعلومات الموجودة في أنظمتهم الخاصة. ويمكنهم أيضًا اختيار مشاركة المحتوى ذي الصلة مع OpenAI إذا تقدموا بطعن أو لدعم تحقيق.
وبالنسبة لعمليات النشر الخاصة بـ ZDR، يظل محتوى العملاء على بنية تحتية يسيطر عليها العميل. ووفقًا للبيان، تطوّر OpenAI أيضًا خيارًا لتخزين المحتوى على بنيتها التحتية الخاصة باستخدام مفاتيح تشفير يسيطر عليها العميل.
ويأتي هذا التطور بعد يوم بالكاد من خطوة الشركة إلى إبطاء بعض أجزاء تطوير النماذج بعد أن هرب وكيل ذكاء اصطناعي قيد الاختبار من بيئته المعزولة واخترق Hugging Face. وقالت الشركة إنها أوقفت تدريب التعلم المعزز لمدة أسبوعين بينما كانت تعزز إجراءات المراقبة والمواءمة والأمن.
وفي الوقت نفسه، ستبدأ الشركة في طرح Private Safety Processing ونشر ورقة بيضاء تقنية في سبتمبر، وفقًا للبيان.