أصدرت Anthropic إطارًا جديدًا مصممًا لتتبع سرعة تطوير الذكاء الاصطناعي لنفسه ومدى جودة الإشراف على وكلاء الذكاء الاصطناعي، بينما يدفع الرئيس التنفيذي Dario Amodei نحو إبطاء وتيرة الصناعة بأكملها.
في منشور على مدونتها نُشر يوم الخميس، أوضحت Anthropic ثلاثة مقاييس تغطي مقدار البحث والتطوير في مجال الذكاء الاصطناعي الذي تنفذه أنظمة الذكاء الاصطناعي، وكيفية مراقبة الوكلاء، وكيفية تخصيص القدرة الحاسوبية.
قالت الشركة في منشور منفصل على X: "بينما يدرس العالم كيفية تنظيم وتيرة تطوير الذكاء الاصطناعي المتقدم، ينبغي أن نبذل كل ما في وسعنا لتقليص الفجوة بين ما تعرفه مختبرات الذكاء الاصطناعي المتقدم وما يعرفه الجمهور"منشور. وأضافت: "وهذا يعني قياس تطوير الذكاء الاصطناعي بصورة أفضل، ونشر نتائجنا، ومنح المجتمع فرصة لاتخاذ قرار بشأن كيفية استخدام هذه المعلومات."
قالت الشركة إنها تخطط لإشراك جهات تقييم خارجية تتمتع بإمكانية الوصول إلى أنظمة وبيانات داخلية مماثلة لما تستخدمه فرق تقييم المخاطر التابعة لها.
البحث والتطوير بقيادة الذكاء الاصطناعي
واللافت أن Anthropic أفادت بأن Claude "يقود" 26% من أعمال البحث والتطوير في مجال الذكاء الاصطناعي لدى الشركة حتى أغسطس 2026، مقارنةً بـ25% في يوليو و14% في يونيو، ما يشير إلى أن نموذج الذكاء الاصطناعي قادر على إنجاز معظم المهمة "من البداية إلى النهاية انطلاقًا من مطالبة عالية المستوى" بينما يشرف الإنسان عليها.
وأشارت الشركة إلى أن أكثر من 90% من أعمال البحث والتطوير في مجال الذكاء الاصطناعي لديها تتضمن الآن تعاون الذكاء الاصطناعي مع البشر أو تتجاوز ذلك.
وفيما يتعلق بالمقياس الثاني، قالت Anthropic إنه حتى أغسطس، كانت تشغّل نحو 30,000 وكيل من وكلاء الذكاء الاصطناعي الذين يجرون أعمالًا بحثية وهندسية في أي وقت على منصتها الداخلية الأكثر استخدامًا. وقالت الشركة إن جميع إجراءات الوكلاء مرت عبر نظام مراقبة آلي.
وعلى وجه التحديد، ومن بين أكثر من مليار قرار، حظرت أنظمة المراقبة عبر الإنترنت 0.002% من الإجراءات، أي نحو إجراء واحد من كل 47,000 إجراء. كما أشارت أنظمة المراقبة غير المتصلة بالإنترنت إلى وجود مشكلات في نص واحد أو نصين من كل 1,000 نص لإجراء مراجعة إضافية.
وقالت الشركة إنه من بين نحو 100,000 تنبيه أسبوعي، صُعّد نحو 50 حالة عالية الأولوية. ووفقًا للمنشور، يُفترض أن تخضع هذه الإجراءات المحظورة لمراجعة بشرية خلال أسبوع.
تخصيص القدرة الحاسوبية
وتراقب Anthropic أيضًا كيفية تقسيم القدرة الحاسوبية بين أعمال السلامة وغيرها من أعمال البحث والتطوير.
وقالت الشركة إنها فحصت إجمالي استخدامها للقدرة الحاسوبية خلال أسبوع رصد امتد من 13 يوليو إلى 20 يوليو. وُجّه نحو 6% من القدرة الحاسوبية المستخدمة في البحث والتطوير في مجال الذكاء الاصطناعي إلى أعمال السلامة، بينما ذهب نحو 12% من القدرة الحاسوبية المستخدمة في البحث والتطوير المدفوع بالذكاء الاصطناعي إلى أعمال السلامة.
وأشار مطور Claude أيضًا إلى أنه أصدر الإطار كنموذج أولي للشفافية على مستوى الصناعة بأكملها. وقالت الشركة: "نأمل أن نرسي نموذجًا لهذه الشفافية من خلال نشر هذه القياسات، وسنواصل القيام بذلك."
جاء أحدث إطار من Anthropic بعد أن دعا الرئيس التنفيذي Dario Amodei إلى إبطاء الوتيرة التي يتطور بها الذكاء الاصطناعي المتقدم خلال عطلة نهاية الأسبوع، مستشهدًا بتزايد مخاطر السلامة. كما أعرب Sam Altman من OpenAI وDemis Hassabis من Google DeepMind ومؤسس xAI، Elon Musk، عن مخاوف مماثلة أو أيدوا الفكرة.
وبالمثل، نشرت OpenAI إطارًا جديدًا يوم الأربعاء للإبلاغ عن عدم توافق نماذج الذكاء الاصطناعي، وكشفت عن ستة تقارير لحالات سلوك غير مقصود في نماذج وثّقها الفريق خلال الأشهر الستة الماضية.
كتبت OpenAI: "قد تساعد أمثلة عدم التوافق في تحديد المشكلات التي قد يواجهها مطورو الذكاء الاصطناعي الآخرون عندما تصل أنظمتهم إلى قدرات مماثلة، والكشف عن نقاط الضعف في وسائل الحماية، أو تحدي الافتراضات المتعلقة بسلوك النماذج". وأضافت: "تتيح مشاركة هذه النتائج للآخرين التحقيق في المشكلات نفسها، واختبار تفسيراتنا، وتحسين إجراءات الحد من المخاطر."