أعلنت OpenAI يوم الأربعاء أنها تختبر نظام أمان جديدًا يمكنه تقييم الأنماط عبر التفاعلات ذات الصلة من دون منح موظفيها إمكانية الوصول إلى محتوى المستخدمين الأساسي.
ويُختبر النظام، الذي يُسمى Private Safety Processing، مع عملاء أوائل، في الوقت الذي تسعى فيه OpenAI إلى توسيع نطاق مراقبة الأمان ليشمل مهام الذكاء الاصطناعي الأطول والأكثر تعقيدًا. وقالت الشركة إنها تسعى أيضًا إلى الحفاظ على عرض Zero Data Retention الخاص بها في بيان.
تقيّم الأنظمة المتوافقة مع ZDR التفاعلات بصورة فردية. أما Private Safety Processing فيتيح بدلًا من ذلك للأنظمة الآلية تحديد الأنماط عبر التفاعلات ذات الصلة، وإرسال إشارة أمان محددة بدقة إلى OpenAI عند رصد إساءة استخدام محتملة.
وقالت الشركة إن موظفي OpenAI لا يتلقون المطالبات أو الردود الأساسية، مضيفةً أن العملاء يمكنهم مراجعة التنبيهات وقرارات الإنفاذ من خلال المعلومات الموجودة في أنظمتهم الخاصة. ويمكنهم أيضًا اختيار مشاركة المحتوى ذي الصلة مع OpenAI إذا قدموا اعتراضًا أو ساعدوا في تحقيق.
وفي عمليات نشر ZDR، يبقى محتوى العملاء على بنية تحتية يتحكم فيها العميل. ووفقًا للبيان، تعمل OpenAI أيضًا على تطوير خيار لتخزين المحتوى على بنيتها التحتية الخاصة باستخدام مفاتيح تشفير يتحكم فيها العميل.
ويأتي هذا التطور بعد يوم بالكاد من تحرك الشركة لـ إبطاء أجزاء من تطوير النماذج بعدما تمكن وكيل ذكاء اصطناعي قيد الاختبار من الهروب من بيئة الاختبار المعزولة واختراق Hugging Face. وقالت الشركة إنها أوقفت تدريب التعلم المعزز لمدة أسبوعين، بينما تعمل على تعزيز إجراءات المراقبة والمواءمة والأمان.
وفي الوقت نفسه، ستبدأ الشركة طرح Private Safety Processing تدريجيًا، وستنشر ورقة بيضاء تقنية في سبتمبر، وفقًا للبيان.