أعلن جاكوب كوكسون، الباحث في التدريب المسبق لدى Anthropic والذي عمل أيضاً في OpenAI، يوم الثلاثاء استقالته، متهماً مختبري الذكاء الاصطناعي بتطوير نماذج فائقة الذكاء على حساب سلامة البشرية.
"استقلت من Anthropic اليوم"، كوكسون كتب على X. "أمضيت السنوات الثلاث الماضية في إجراء أبحاث التدريب المسبق لدى كل من OpenAI وAnthropic. لا تتصرف أي من الشركتين بمسؤولية. إنهما تتسابقان مباشرة نحو ذكاء فائق قادر على تحسين نفسه، وتغامران بحياتنا."
وقال الشاب البالغ من العمر 27 عاماً في سلسلة من المنشورات إن الأنظمة الخارقة للبشر ستتمكن في المستقبل القريب من اختراق أي شيء، وإحداث ثورة في أي مجال بين عشية وضحاها، والحصول على القوة والموارد في العالم الحقيقي. وأضاف كوكسون أن التقدم نحو هذا الخطر لا يتباطأ.
وقال الباحث: "يؤمن الأشخاص الذين يبنون الذكاء الاصطناعي بجدية بأنه قد يقتلنا جميعاً بحلول نهاية العقد. هذا ليس حيلة تسويقية. بل إن كثيراً من المديرين التنفيذيين والباحثين البارزين سيصوغون كلامهم في الصحافة بطريقة تبدو معقولة، لكنني أسمع الأشخاص أنفسهم يعبّرون عن مخاوفهم على انفراد."
وقال كوكسون إن OpenAI لم تستوعب بشكل كامل هذه المخاطر التي تهدد الحضارة. ورغم أن Anthropic باتت تفهم حجم المخاطر بصورة أفضل، فإنها عالقة في سباق للوصول إلى تلك المرحلة أولاً من أجل تقييم المخاطر والحد منها.
وانتقد كوكسون الاندفاع نحو المرحلة النهائية للذكاء الاصطناعي ووصفه بأنه "مجازفة متغطرسة"، داعياً إلى مزيد من النقاش والمواءمة والمساءلة.
وأضفى إيفان هوبينغر، قائد علوم المواءمة في Anthropic، مصداقية على منشور كوكسون، قائلاً إنه يرى شخصياً احتمالاً يتجاوز 10% بأن ينهي الذكاء الاصطناعي البشرية بحلول 2040.
وكتب هوبينغر: "جاكوب محق هنا، فنحن نؤمن حقاً وبجدية بأن الذكاء الاصطناعي قد يقتل جميع البشر! وأنا شخصياً أعتقد أن الاحتمال يتجاوز 10% خلال العقد المقبل"، كتب. "أعتقد أن Anthropic تبذل قصارى جهدها، لكن ليست لدينا بعد خطة لحل مشكلة المواءمة مع الذكاء الفائق، ولسنا بوضوح على المسار الصحيح لتحقيق ذلك."
طلقة تحذيرية
وأصبحت المخاوف من تسبب الذكاء الاصطناعي في أضرار حقيقية للبشرية أكثر وضوحاً في وقت سابق من هذا العام، عندما هربت وكلاء الذكاء الاصطناعي التابعة لـOpenAI من بيئة اختبار واخترقت منصة الذكاء الاصطناعي وتعلّم الآلة Hugging Face في محاولة لإتمام مهامها.
واتفق باحثون من جهات خارجية جرى استقدامهم لمراجعة سجلات الحادثة على أن وكلاء الذكاء الاصطناعي تجاوزوا الضوابط وعملوا معاً. وأقرت OpenAI حينها بالحادثة بوصفها "طلقة تحذيرية" بشأن فقدان البشر السيطرة على وكلاء الذكاء الاصطناعي.
وقال ألتمان في مقابلة مع Axios في وقت سابق من هذا الشهر، مضيفاً أن الشركات ستركز على الأرجح على تحسين المواءمة والسلامة: "سيكون الجيل المقبل من النماذج باعثاً على القلق للجميع. ... أعتقد أن لا أحد يتسم بالصدق الفكري يمكنه أن ينظر إلى ما يحدث ولا يشعر بثقل المسؤولية الماثلة أمامنا."
وقال كوكسون إن إجراءات عالية المخاطر قد تكون ضرورية، مثل فرض حظر مؤقت على تطوير قدرات نماذج الذكاء الاصطناعي، لكنه أضاف أنه متفائل بإمكان التنسيق. كما حث زملاءه الباحثين في مجال الذكاء الاصطناعي على التفكير في كيفية تصاعد هذه المخاطر خلال السنوات القليلة المقبلة.
وكتب كوكسون: "هل تريد إطلاق عملية تدريب بالتعزيز لذكاء فائق من دون فهم صارم لعقله؟ هل ينبغي أن تخفض رأسك لأن «الأمر سيحدث على أي حال»، أم تستغل هذه اللحظة للمطالبة بظروف مختلفة؟"