حذّرت Anthropic من أن استخدامها المتزايد للذكاء الاصطناعي في البحث والتطوير قد يسرّع قدرات النماذج، ما قد يقرّبها من التحسين الذاتي التكراري.
في نشرة S-1 الاستثمارية المعدّلة التي قدّمتها الشركة إلى هيئة الأوراق المالية والبورصات الأمريكية يوم الاثنين، قالت إن تقديراتها الداخلية تشير إلى أنها قد تستوفي وشيكاً تعريف سياسة التوسّع المسؤول لديها لـ«تسارع كبير في التقدم يُعزى إلى الذكاء الاصطناعي».
كتبت الشركة: «إن استخدام الذكاء الاصطناعي للمساعدة في بناء ذكاء اصطناعي أكثر قدرة قد يشكّل أيضاً خطراً كبيراً على السلامة، لا سيما إذا أدى إلى تسارع حاد في وتيرة التقدم».
ورغم أن Anthropic لم تصنّف أي نموذج حالي على أنه تجاوز العتبة، أقرت الشركة بأنها أخفقت سابقاً في رصد تطورات كبيرة في نماذجها إلا بعد حدوثها.
وقالت الشركة: «ونتيجة لذلك، لم نرصد في الماضي، وقد لا نرصد مستقبلاً، تسارعاً كبيراً في وتيرة تطويرنا إلا بعد حدوثه».
وفي هذا السياق، لا تتوقع الشركة أن تتمكن من استخدام Claude بأمان لتصميم وبناء أجيال متعاقبة من النماذج الرائدة بشكل مستقل تماماً، من دون إشراف بشري فعّال، كما تدرس تحديثات على RSP لإبقاء البشر مسيطرين، وفقاً للإيداع.
خروج وكلاء الذكاء الاصطناعي عن السيطرة
وسلّط الإيداع الضوء أيضاً على حوادث وقعت في 2026، تمكّنت خلالها أربعة نماذج من Anthropic من الوصول بشكل غير مصرح به إلى أنظمة حقيقية تابعة لجهات خارجية، خلال تقييمات للأمن السيبراني استمرت بين 10 و34 ساعة.
وفي إحدى الحوادث، استخدم نموذج مبكر كلمة مرور عثر عليها للحصول على صلاحيات وصول المسؤول، وجمع بيانات اعتماد إضافية، وغيّر إعدادات النظام، واطّلع على معلومات شخصية لأحد الأفراد.
وحذّرت Anthropic من أن وكلاء الذكاء الاصطناعي قد يغيّرون الشيفرة، ويعدّلون البيانات، وينفّذون معاملات مالية قبل أن يلاحظ أحد ذلك أو يتدخل.