قال الرئيس الأمريكي Donald Trump إنه لا يشعر بالقلق من أن يؤدي الذكاء الاصطناعي إلى انقراض البشر، وإن أولويته هي إبقاء الولايات المتحدة متقدمة على الصين في مجال الذكاء الاصطناعي.
وعندما سأله صحفيون في وقت متأخر من يوم الخميس، أثناء مغادرته دالاس، عما إذا كانت لديه أي مخاوف من أن يؤدي الذكاء الاصطناعي إلى انقراض البشر، Trump أجاب، «لا، ليست لدي أي مخاوف من ذلك».
وقال Trump: «لدي مخاوف من أننا إذا لم نفز في مجال الذكاء الاصطناعي، فسوف نُوضع في موقف سيئ للغاية. نحن نتقدم على الصين الآن بفترة جيدة إلى حد ما. أود أن أقول عامًا، وهو ما يُعتبر، كما تعلمون، فترة طويلة».
وجاءت تعليقاته بعد أن أثار باحثون في Anthropic وOpenAI مخاوف من أن تصبح أنظمة الذكاء الاصطناعي المتزايدة القوة صعبة السيطرة عليها من جانب البشر.
باحثون يحذرون من الذكاء الاصطناعي ذاتي التحسين
قال Jacob Coxon، الذي عمل في أبحاث الذكاء الاصطناعي لدى OpenAI، وكان يعمل مؤخرًا لدى Anthropic، يوم الثلاثاء إنه سيغادر Anthropic بسبب مخاوف بشأن طريقة تطوير الذكاء الاصطناعي.
وقال Coxon إن Anthropic وOpenAI تتسابقان نحو «ذكاء فائق ذاتي التحسين» و«تقامران بحياتنا». وحذر من أن أنظمة الذكاء الاصطناعي المستقبلية قد تصبح شديدة الكفاءة في الاختراق، وتسرّع الأبحاث العلمية بسرعة، وتتمكن من الوصول إلى موارد العالم الحقيقي.
وقال أيضًا إن الأشخاص الذين يطورون هذه التقنية يعتقدون أنها قد «تقتلنا جميعًا بحلول نهاية العقد».
وقال Evan Hubinger، قائد علوم المواءمة في Anthropic، إنه يعتقد شخصيًا أن هناك احتمالًا يتجاوز 10% لحدوث مثل هذه النتيجة خلال العقد المقبل.
يدور جزء كبير من المخاوف حول التحسين الذاتي التكراري (RSI)، وهي عملية يساعد فيها نظام ذكاء اصطناعي على بناء أو تدريب إصدارات أحدث من نفسه مع مشاركة بشرية محدودة.
وقالت OpenAI يوم الأربعاء إن التحسين الذاتي التكراري المستقل بالكامل «لا يحدث اليوم». وأضافت: «لكن الذكاء الاصطناعي يسرّع بالفعل أجزاءً من الأبحاث المستخدمة لتطوير الجيل التالي من النماذج ومواءمته».
وكتب كبير العلماء في OpenAI، Jakub Pachocki، الأسبوع الماضي أنه لديه «توقع قوي» بأن يؤدي التقدم الحالي في الذكاء الاصطناعي في نهاية المطاف إلى التحسين الذاتي التكراري.
ومنذ ذلك الحين، دعت OpenAI إلى وضع معايير مشتركة، بما في ذلك معايير تحدد متى ينبغي إبطاء التطوير أو إيقافه.
احتدام الجدل حول تنظيم الذكاء الاصطناعي
تحظى القضية أيضًا باهتمام متزايد من المشرعين في واشنطن.
في يوليو، قدم النائب الجمهوري Jay Obernolte والنائبة الديمقراطية Lori Trahan مشروع FRONTIER Act بدعم من الحزبين. وسيفرض المشروع على مطوري الذكاء الاصطناعي الرائدين نشر خطط لإدارة المخاطر، والخضوع لعمليات تدقيق مستقلة، والإبلاغ عن الحوادث الخطيرة.
وفي وقت سابق من هذا الشهر، أعلن السيناتور Bernie Sanders والنائب Greg Casar عن خطط لتشريع من شأنه أن يحظر نهائيًا تطوير واستخدام الذكاء الاصطناعي فائق الذكاء. كما سيوقف تطوير الذكاء الاصطناعي المتقدم إلى أن يضع منظم اتحادي جديد قواعد للسلامة.
لكن إدارة Trump فضّلت تنظيمًا محدود التدخل. وفي وقت سابق من هذا الشهر، أيد وزراء الابتكار في مجموعة العشرين مبادئ كارولاينا بقيادة الولايات المتحدة، وهي إطار غير ملزم يفضل سياسات مرنة واستخدام القواعد القائمة حيثما أمكن.
كما أيد Trump توسعًا سريعًا في مراكز بيانات الذكاء الاصطناعي. وقال الشهر الماضي إن المجتمعات التي ترفضها تخاطر بأن تصبح «متخلفة وفقيرة»، مضيفًا أن الصين «لا يمكن أن تكون أسعد حالًا» من معارضة مثل هذه المشاريع في الولايات المتحدة.