يُقال إن كبار المسؤولين التنفيذيين في OpenAI وAnthropic وشركات أخرى للذكاء الاصطناعي يضعون سرًا تصورات لسيناريوهات اندلاع تمرد شعبي وسياسي بعد وقوع حادث كارثي مرتبط بالذكاء الاصطناعي.
ويركز التخطيط على حادث محتمل واسع النطاق، يُرجح أن يكون هجومًا إلكترونيًا، قد يعطل الخدمات المالية أو الوصول إلى الإنترنت أو الكهرباء أو المياه، حسبما ذكرت Axios يوم الجمعة . وبشكل منفصل، أبلغ مطّلعون لم تُكشف أسماؤهم في قطاع الذكاء الاصطناعي المنصة بأنهم يعتقدون أن حادثًا كبيرًا قد يقع خلال ستة إلى 12 شهرًا.
وقالت المنصة إن الأضرار الناجمة عن مثل هذا الحدث قد تزيد تشكك الجمهور في الذكاء الاصطناعي وقادة القطاع، بمن فيهم الرئيس التنفيذي لـAnthropic، Dario Amodei، والرئيس التنفيذي لـOpenAI، Sam Altman، فضلًا عن الرئيس Trump بسبب إحجامه عن تنظيم هذا القطاع.
ووفقًا للتقرير، يُعد التخطيط للسيناريوهات أمرًا شائعًا في العديد من القطاعات، لكن الفرق الأساسي هنا هو أن كثيرًا من كبار باحثي الذكاء الاصطناعي والمسؤولين التنفيذيين يرون أن وقوع حادث كبير أمر لا مفر منه.
وقال متحدث باسم OpenAI لـAxios: "تجري OpenAI تدريبات على الاستعداد، تناقش خلالها الفرق مجموعة من السيناريوهات المحتملة وتتعامل معها عمليًا. ولا تُعامل هذه السيناريوهات على أنها حتمية، بل تهدف إلى مساعدتنا على الاستعداد لمجموعة متنوعة من الظروف." ورفضت Anthropic التعليق.
كما تواصلت The Latent مع OpenAI وAnthropic للحصول على تعليق.
تزايد المخاوف
أثارت حوادث وقعت مؤخرًا مخاوف بشأن المخاطر التي تفرضها أنظمة الذكاء الاصطناعي ذات القدرات المتزايدة. ففي يوليو، كشفت OpenAI أن وكيلًا للذكاء الاصطناعي كان يخضع لاختبارات داخلية قد خرج من بيئته المعزولة واخترق أنظمة Hugging Face. وأفادت OpenAI لاحقًا بأن نموذجًا من عائلة Astra لم يُطرح بعد قد أدرج تعليمات "شبيهة بتعليمات كسر القيود" في ملخصاته الخاصة بالمهام أثناء التدريب.
كما تمكنت وكلاء OpenAI من الوصول دون تصريح إلى أنظمة حكومية أسترالية أثناء الاختبارات، بما في ذلك بوابة إحصاءات Medicare. وفي المملكة المتحدة، أطلق مسؤولون مراجعة أمنية بعد أن وصل نموذج من OpenAI إلى إحصاءات حكومية متاحة للعامة، رغم عدم اختراق أي دفاعات أمنية أو الوصول إلى بيانات شخصية. وبشكل منفصل، استخدم باحثون في شركة الأمن السيبراني Hacktron AI نموذج Claude التابع لـAnthropic من أجل الوصول إلى حسابات ChatGPT الخاصة بعدة موظفين في OpenAI.
وقبل انتخابات التجديد النصفي في الولايات المتحدة، يستعد مخططو قطاع الذكاء الاصطناعي لاحتمال سيطرة الديمقراطيين على الكونغرس وتحركهم سريعًا لتقييد تطوير الذكاء الاصطناعي، حسبما ذكرت Axios. وكان السيناتور Bernie Sanders والنائب Greg Casar قد قدّما بالفعل تشريعًا من شأنهحظر الذكاء الاصطناعي الفائق الاصطناعي ووقف تطوير الذكاء الاصطناعي المتقدم إلى حين بدء عمل جهة تنظيمية اتحادية، مع معاقبة المخالفات بالسجن مدة تصل إلى 20 عامًا.
لكن التوافر الواسع لنماذج الأوزان المفتوحة القابلة للتنزيل سيجعل إنفاذ مثل هذه القيود صعبًا.
ويُقال إن التخطيط لمواجهة الحدث الكارثي يشمل إجراء اختبارات من منظور الفريق الأحمر لأسوأ السيناريوهات، بالتوازي مع العمل على توعية أعضاء الكونغرس. وقالت Axios إن تمرير تشريع جديد غير مرجح في الظروف الحالية، لكن المسؤولين التنفيذيين في الشركات ما زالوا يريدون التأثير في السياسات التي قد يلجأ إليها القادة الأمريكيون عقب وقوع حادث كبير مرتبط بالذكاء الاصطناعي.