نشرت OpenAI يوم الأربعاء تدوينة تحث الحكومات على فرض متطلبات سلامة إلزامية على أنظمة الذكاء الاصطناعي المتقدم، مشيرة إلى أن الوقت المتاح لوضع مثل هذه القواعد محدود.
"لقد دخلنا فصلًا جديدًا في قدرات الذكاء الاصطناعي، وهذا يتطلب فصلًا جديدًا في سياسات الذكاء الاصطناعي أيضًا"، قال Chris Lehane، كبير مسؤولي الشؤون العالمية في OpenAI، مضيفًا. "يواجه صانعو السياسات لحظة مماثلة: نافذة زمنية تضيق لوضع ضمانات مستدامة قبل أن تتجاوز قدرات الذكاء الاصطناعي المؤسسات المسؤولة عن حوكمتها."
تأتي أحدث تدوينة لـ OpenAI بعد يوم من نشر Jacob Coxon، الباحث في مرحلة التدريب المسبق الذي عمل لدى Anthropic وOpenAI، تدوينة على X سرعان ما انتشرت على نطاق واسع، إذ حصدت 138 مليون مشاهدة وأشعلت نقاشًا حادًا حول مخاطر تسريع تطوير الذكاء الاصطناعي.
وحذّر Coxon، أثناء إعلانه استقالته من Anthropic، من أن مختبري الذكاء الاصطناعي يتسابقان نحو ذكاء فائق قادر على تحسين نفسه، من دون مراعاة المخاطر التي تهدد الحضارة. وقال Coxon إن مطوري الذكاء الاصطناعي يتشاركون الاعتقاد بأن هذه التكنولوجيا قد تقضي على البشرية بحلول عام 2030.
وأشار Lehane إلى أن التحسين الذاتي التكراري المستقل بالكامل للذكاء الاصطناعي لا يحدث اليوم، وأنه ينبغي للشركات ألا تسعى إليه ما لم تتوافر ضمانات مناسبة.
ومع ذلك، قال Lehane إن الذكاء الاصطناعي سرّع بالفعل القدرات البشرية في العديد من المجالات، وإنه ينبغي إدارة ذلك من خلال رقابة بشرية فاعلة ومعايير سلامة مشتركة عالميًا يمكنها كبح النمو أو إيقافه.
وجاء في التدوينة: "كلما أصبحت التكنولوجيا أكثر قوة، وجب أن تصبح الضمانات المحيطة بها أقوى."
حثّ الكونغرس
قالت OpenAI في أحدث تدويناتها إنها تسعى إلى التعاون مع الكونغرس لوضع قواعد في الولايات المتحدة تشمل الاختبارات والتقييم المستقل والأمن السيبراني والإبلاغ عن الحوادث، إلى جانب تدابير لتتبع التقدم نحو التحسين الذاتي التكراري للذكاء الاصطناعي.
وإلى أن تدخل قاعدة وطنية حيز التنفيذ، قالت OpenAI إنها ستواصل دعم التدابير على مستوى الولايات، معلنة تأييدها لأربعة مشاريع قوانين في كاليفورنيا - SB 813 وAB 1405 وSB 1119 وAB 1864 - تتناول تقييم المخاطر والتدقيقات المستقلة ومتطلبات المساءلة والضمانات المادية ضد التهديدات التي يقودها الذكاء الاصطناعي.
قال Lehane: "لم نؤيد بعض هذه المشاريع في السابق، لكننا ندعمها الآن بعد إعادة النظر فيها في ضوء القفزة الأخيرة في القدرات التي شهدناها." وقد أعربت الشركة سابقًا عن دعمها لـ SB 53 في كاليفورنيا، وقانون RAISE في نيويورك، وSB 315 في إلينوي، إلى جانب التدقيقات المستقلة الواردة في تشريعات سلامة الذكاء الاصطناعي المتقدم قيد الدراسة في ماساتشوستس.
ودعت التدوينة أيضًا إلى وضع معايير للقطاع لمراقبة تطوير الذكاء الاصطناعي، ولا سيما رصد مؤشرات عدم التوافق التي تتضمن أن يكون النموذج يسعى إلى تحقيق هدف يتعارض مع النية البشرية أو يتجاوز الحدود من دون أن تكون لديه نية خبيثة.
وقال المسؤول التنفيذي في OpenAI إن المراقبة يجب أن ترتبط بمتطلبات إفصاح واضحة للشركات، تلزمها بإخطار الأطراف المتضررة فورًا عندما تتجاوز نماذجها ضوابط الأمان الخاصة بمؤسسة أخرى من دون تصريح. ووقعت حادثة من هذا النوع في يوليو، عندما خرجت وكلاء OpenAI من بيئة اختبار واخترقوا البنية التحتية لـ Hugging Face لتحقيق هدفهم.
تعمل OpenAI حاليًا على تطوير إطار للإبلاغ عن حوادث عدم التوافق، وقالت إن الشركة تأمل في استخدامه لدعم وضع سياسات اتحادية أوسع نطاقًا.
وكتبت OpenAI: "تتحرك النماذج والأبحاث والخبرات التقنية على مستوى العالم، وقد تكون للإخفاقات التي تشمل أكثر الأنظمة قدرة عواقب تتجاوز بكثير الدولة التي طُوّرت فيها." وأضافت: "تحتاج الولايات المتحدة إلى وضع معايير موثوقة في الداخل إذا كانت تريد قيادة الجهود دوليًا، ونحن مقتنعون بشكل متزايد بأن المعايير الدولية المتوافقة ستكون ضرورية."