Los cofundadores de Google DeepMind Demis Hassabis y Shane Legg, junto con el ejecutivo de Google James Manyika, lanzaron el miércoles el DeepMind Institute para estudiar la gobernanza de la inteligencia artificial general.
El instituto funcionará como una plataforma de investigación global para estudiar riesgos, incluida la posible «pérdida de control» a medida que la IA se acerque a capacidades cognitivas de nivel humano, dijeron los tres en un comunicado.
«Ya estamos viendo las implicaciones de una IA cada vez más capaz para la ciberseguridad y los riesgos biológicos, y existe la posibilidad de una pérdida de control en futuros sistemas que se auto mejoren», dijeron los ejecutivos. «Este es un momento crítico para garantizar que construyamos la AGI de forma segura y que sus beneficios para la sociedad superen ampliamente cualquier riesgo».
Los tres ejecutivos dirigirán el instituto, que reunirá a investigadores de Google DeepMind, Google y la comunidad investigadora global en general.
Según el comunicado, el DeepMind Institute también analizará cómo la AGI afecta lo que significa ser humano, cómo deberían gobernarse los sistemas y las comunidades de agentes que estos forman, y qué instituciones y políticas podría necesitar la sociedad adaptar o replantear.
Los directores dijeron que los tecnólogos no deberían proporcionar todas las respuestas. «La responsabilidad de dar forma colectiva a su realidad corresponde a la sociedad en su conjunto, incluidas las artes y las humanidades, y a los gobiernos», escribieron.
Sin embargo, los ejecutivos reconocieron que los sistemas de IA actuales todavía pueden fallar en tareas básicas y carecen de la coherencia y creatividad necesarias para alcanzar el umbral de una AGI plena.
«Aunque la IA todavía puede fallar a veces en tareas básicas», escribieron los ejecutivos, «esperamos que esas brechas se cierren pronto».
El lanzamiento se produce mientras las preocupaciones sobre los riesgos de la IA avanzada reciben una atención cada vez mayor. El jueves, el rey Charles advirtió a los ejecutivos de IA sobre «peligros existenciales» si la tecnología cae en las manos equivocadas y pidió establecer medidas de protección antes de que sea «demasiado tarde».