سام ألتمان من OpenAI يقول إن ضبط وتيرة تطوير الذكاء الاصطناعي المتقدم سيكون «جديرًا بالتكلفة»

دعا الرئيس التنفيذي لـOpenAI سام ألتمان شركات التكنولوجيا الرائدة في مجال الذكاء الاصطناعي إلى إبطاء وتيرة التطوير عمدًا، حتى تتمكن إجراءات السلامة والمراقبة من اللحاق بالركب.

في سلسلة من المنشورات على X، قال ألتمان يوم الأحد إن العالم يستحق الاطمئنان إلى أن مطوري الذكاء الاصطناعي في الولايات المتحدة يتصرفون بمسؤولية، في ظل تسارع وتيرة التطوير هذا العام.

قال ألتمان: «يجب على كل مختبر للذكاء الاصطناعي المتقدم أن يفي بهذا الالتزام، ولا يوجد سبب يدعو أيًّا منا إلى الحضور إلى العمل إذا لم نتمكن من ذلك».

تأتي تعليقات ألتمان الأخيرة متوافقة مع اقتراح الرئيس التنفيذي لشركة Anthropic داريو أمودي لإبطاء وتيرة تطوير الذكاء الاصطناعي. كما أبدى ديميس هاسابيس من Google DeepMind وإيلون ماسك من SpaceXAI دعمهما لهذا التوجه.

سيناريوهات «سيئة للغاية»

أثار حدثان وقعا مؤخرًا مخاوف كبيرة بشأن تطوير الذكاء الاصطناعي، ولا سيما التحسين الذاتي التكراري في نماذج الذكاء الاصطناعي، الذي قد يسمح لها بالتصرف بما يتجاوز سيطرة البشر.

تمثل أحدهما في حادثة هروب وكلاء OpenAI من بيئة اختبار واختراق البنية التحتية لـHugging Face لتحقيق هدفهم. أما الآخر فكان إعلان استقالة باحث التدريب المسبق في Anthropic، جاكوب كوكسون الأسبوع الماضي، حيث حذّر من أن الذكاء الفائق في الذكاء الاصطناعي قد يؤدي إلى زوال البشرية بحلول عام 2030.

حدّد ألتمان نفسه طريقتين يمكن أن يتخذ بهما تقدم الذكاء الاصطناعي مسارًا «سيئًا للغاية»، ويجب تجنبهما.

كتب ألتمان: «أولًا، قد نفقد السيطرة على المستقبل لصالح الذكاء الاصطناعي. هذا غير مقبول؛ فنحن بلا اعتذار في صف البشرية، ويجب أن يخدم الذكاء الاصطناعي الناس دائمًا».

ولضمان ذلك، قال ألتمان إن تقنيات المواءمة والسلامة يجب أن تتجاوز قدرات النماذج. أما الخطر الثاني، وفقًا لألتمان، فهو عالم يتركز فيه قدر كبير من النفوذ؛ إذ قد يؤدي تولي شخص أو مؤسسة واحدة أمرًا بالغ القوة لفرض رؤيتها للعالم على البشرية إلى تحول العالم إلى واقع ديستوبي.

إطار المخاطر

قال الرئيس التنفيذي لـOpenAI إنه يرحب بوضع إطار اتحادي لسلامة الذكاء الاصطناعي، لكنه أوضح أن على الشركات العمل استباقيًا للبدء في ترسيخ الثقة لدى الجمهور.

كتب ألتمان: «في OpenAI، نضع الآن حالات سلامة صريحة قبل عمليات التعلم المعزز للذكاء الاصطناعي المتقدم، التي نتوقع أن تزيد القدرات بدرجة كبيرة. ونأمل أن تتعلم الشركات الأخرى من أساليبنا وتقترح أساليبها الخاصة؛ ونعتقد أن المعايير المشتركة لعدم المواءمة والمراقبة والسلامة ستؤدي إلى نتائج أفضل».

وأضاف ألتمان أن «ضبط وتيرة» تطوير الذكاء الاصطناعي لا يعني «إيقاف» التقدم، بل يعني أن تتبع الشركات نهجًا أبطأ لإعطاء الأولوية للسلامة والمراقبة.

وقال ألتمان: «سيكون ضبط الوتيرة جديرًا بهذه التكلفة؛ فلا ينبغي لأي قدر من الضغوط التنافسية الأمريكية أن يبرر التهور أو يسمح بتقدم القدرات على حساب المواءمة والمراقبة».