نشرت OpenAI يوم الأربعاء تدوينة تحث الحكومات على فرض متطلبات سلامة إلزامية على أنظمة الذكاء الاصطناعي المتقدمة، مشيرةً إلى أن هناك نافذة زمنية محدودة لوضع مثل هذه القواعد.
قال Chris Lehane، كبير مسؤولي الشؤون العالمية في OpenAI: "لقد وصلنا إلى فصل جديد في قدرات الذكاء الاصطناعي، وهذا يتطلب فصلًا جديدًا في سياسات الذكاء الاصطناعي"،وأضاف: "يواجه واضعو السياسات لحظة مماثلة: نافذة زمنية آخذة في الانغلاق لوضع ضمانات راسخة قبل أن تتجاوز قدرات الذكاء الاصطناعي المؤسسات المسؤولة عن تنظيمها."
تأتي أحدث تدوينة لـ OpenAI بعد يوم من نشر Jacob Coxon، وهو باحث في مرحلة التدريب المسبق عمل لدى كل من Anthropic وOpenAI،تدوينة على X سرعان ما انتشرت على نطاق واسع، إذ حصدت 138 مليون مشاهدة وأشعلت نقاشًا حادًا حول مخاطر تسريع تطوير الذكاء الاصطناعي.
وحذّر Coxon، أثناء إعلانه استقالته من Anthropic، من أن مختبري الذكاء الاصطناعي يتسابقان نحو ذكاء فائق ذاتي التحسين من دون النظر في المخاطر التي تهدد الحضارة. وقال Coxon إن مطوري الذكاء الاصطناعي يشتركون في اعتقاد مفاده أن هذه التقنية قد تقضي على البشرية بحلول عام 2030.
وأشار Lehane إلى أن التحسين الذاتي التكراري المستقل بالكامل في الذكاء الاصطناعي لا يحدث اليوم، وأن الشركات ينبغي ألا تسعى إليه ما لم تتوافر ضمانات مناسبة.
لكن Lehane قال إن الذكاء الاصطناعي سرّع بالفعل القدرات البشرية في العديد من المجالات، وينبغي إدارة ذلك من خلال رقابة بشرية فعلية ومعايير سلامة عالمية مشتركة يمكنها كبح النمو أو إيقافه.
وجاء في التدوينة: "كلما أصبحت التقنية أكثر قوة، وجب أن تصبح الضمانات المحيطة بها أقوى."
حثّ الكونغرس
قالت OpenAI في أحدث تدويناتها إنها تسعى إلى التعاون مع الكونغرس لتطوير قواعد في الولايات المتحدة تشمل الاختبارات والتقييم المستقل والأمن السيبراني والإبلاغ عن الحوادث، إلى جانب تدابير لتتبع التقدم نحو التحسين الذاتي التكراري للذكاء الاصطناعي.
وإلى أن تدخل قاعدة وطنية حيز التنفيذ، قالت OpenAI إنها ستواصل دعم التدابير على مستوى الولايات، معلنةً دعمها لأربعة مشاريع قوانين في California — SB 813 وAB 1405 وSB 1119 وAB 1864 — تغطي تقييم المخاطر وعمليات التدقيق المستقلة ومتطلبات المساءلة والضمانات المادية ضد التهديدات التي يقودها الذكاء الاصطناعي.
وقال Lehane: "لم نؤيد بعض مشاريع القوانين هذه في السابق، لكننا ندعمها الآن بعد إعادة النظر فيها في ضوء القفزة الأخيرة في القدرات التي شهدناها." وقد سبق للشركة أن أعلنت دعمها لمشروع SB 53 في California، وقانون RAISE في New York، ومشروع SB 315 في Illinois، وعمليات التدقيق المستقلة في تشريعات سلامة الأنظمة المتقدمة قيد النظر في Massachusetts.
كما دعت التدوينة إلى وضع معايير للقطاع لمراقبة تطوير الذكاء الاصطناعي، لا سيما المؤشرات على عدم التوافق التي تتضمن سعي نموذج إلى تحقيق هدف يتعارض مع نية البشر أو مع الحدود الموضوعة من دون أن تكون لديه نية خبيثة.
وقال المسؤول التنفيذي في OpenAI إن المراقبة يجب أن ترتبط بمتطلبات إفصاح واضحة للشركات، تلزمها بإخطار الأطراف المتضررة فورًا عندما تتجاوز نماذجها ضوابط الأمن الخاصة بمنظمة أخرى من دون تصريح. وقد وقعت حادثة من هذا النوع في يوليو، عندما خرجت وكلاء OpenAI من بيئة اختبار واخترقوا البنية التحتية لـ Hugging Face لتحقيق هدفهم.
تعمل OpenAI حاليًا على تطوير إطار للإبلاغ عن حوادث عدم التوافق، وقالت الشركة إنها تأمل في استخدامه لدعم وضع سياسات اتحادية أوسع.
وكتبت OpenAI: "تتحرك النماذج والأبحاث والخبرات التقنية على الصعيد العالمي، وقد تكون لإخفاقات الأنظمة الأكثر قدرة عواقب تتجاوز بكثير البلد الذي طُوّرت فيه". وأضافت: "تحتاج الولايات المتحدة إلى وضع معايير موثوقة محليًا إذا كانت ستتولى القيادة دوليًا — ونحن مقتنعون على نحو متزايد بأن المعايير الدولية المتوافقة ستكون ضرورية."