أطلق المؤسسان المشاركان لـ Google DeepMind، Demis Hassabis وShane Legg، إلى جانب المسؤول التنفيذي في Google، James Manyika، معهد DeepMind يوم الأربعاء لدراسة حوكمة الذكاء الاصطناعي العام.
قال الثلاثة إن المعهد سيعمل منصةً بحثية عالمية لدراسة المخاطر، بما في ذلك احتمال «فقدان السيطرة» مع اقتراب الذكاء الاصطناعي من امتلاك قدرات معرفية بمستوى البشر، وذلك في بيان.
قال المسؤولون التنفيذيون: «نشهد بالفعل تداعيات الذكاء الاصطناعي المتزايد القدرة على الأمن السيبراني والمخاطر البيولوجية، وهناك احتمال لفقدان السيطرة على الأنظمة ذاتية التحسين في المستقبل». وأضافوا: «هذه لحظة حاسمة لضمان بناء AGI بأمان، وأن تفوق فوائده على المجتمع أي مخاطر بفارق كبير».
وسيتولى المسؤولون التنفيذيون الثلاثة إدارة المعهد، الذي سيجمع باحثين من Google DeepMind وGoogle وأوساط البحث العالمية الأوسع.
وبحسب البيان، سيدرس معهد DeepMind أيضاً تأثير AGI في مفهوم الإنسانية، وكيف ينبغي إدارة الأنظمة ومجتمعات الوكلاء التي تشكلها، وما المؤسسات والسياسات التي قد يحتاج المجتمع إلى تكييفها أو إعادة تصورها.
وقال المديرون إن خبراء التكنولوجيا لا ينبغي أن يقدموا جميع الإجابات. وكتبوا: «تقع مسؤولية تشكيل واقعه بصورة جماعية على عاتق المجتمع ككل، بما في ذلك الفنون والعلوم الإنسانية والحكومات».
ومع ذلك، أقر المسؤولون التنفيذيون بأن أنظمة الذكاء الاصطناعي الحالية لا تزال تفشل في أداء المهام الأساسية، وتفتقر إلى الاتساق والإبداع اللازمين لبلوغ عتبة AGI الكامل.
وكتب المسؤولون التنفيذيون: «رغم أن الذكاء الاصطناعي قد يفشل أحياناً في أداء المهام الأساسية، فإننا نتوقع سد هذه الفجوات قريباً».
يأتي إطلاق المعهد في وقت تحظى فيه المخاوف بشأن مخاطر الذكاء الاصطناعي المتقدم باهتمام أوسع. وحذّر الملك Charles يوم الخميس مسؤولي الذكاء الاصطناعي التنفيذيين من «مخاطر وجودية» إذا وقعت التكنولوجيا في الأيدي الخطأ، وحثّ على وضع ضمانات قبل فوات الأوان».