Un investigador que renunció recientemente a Google DeepMind advirtió que la IA tiene el potencial de «matarnos a todos».
En una publicación del lunes en X, Bilal Chughtai, quien trabajó como ingeniero de investigación en DeepMind, escribió que presenció de primera mano el desarrollo de la IA y que está «extremadamente preocupado por la trayectoria predeterminada de esta tecnología».
«Creo sinceramente que la IA tiene el potencial de matarnos a todos y que podríamos estar quedándonos sin tiempo para evitar este desenlace», afirmó Chughtai, quien trabajó en investigación sobre la seguridad y la alineación de la AGI en Google.
El exempleado de Google dijo que el hecho de que agentes de IA descontrolados escaparan del entorno de pruebas de OpenAI en julio y atacaran a Hugging Face era alarmante.
«Nuestra comprensión actual de cómo entrenar sistemas de IA que deseen profundamente lo que nosotros deseamos es extremadamente rudimentaria», escribió. «Peor aún, no estamos en camino de resolver la alineación a tiempo: las capacidades de la IA de vanguardia están mejorando mucho más rápido que nuestra comprensión de la alineación de la IA».
Sin embargo, Chughtai dijo que sigue siendo optimista respecto a que es posible avanzar de forma segura con la IA si las empresas de IA ralentizan el ritmo de desarrollo para evitar una «carrera frenética».
«Tenemos que ajustar el desarrollo de la IA a un ritmo que la sociedad pueda gestionar, de modo que los riesgos emergentes puedan abordarse antes de que se produzcan daños extremos», afirmó.
The Latent se ha puesto en contacto con Google para solicitar comentarios.
El comentario del exingeniero de DeepMind se produce después de que el director ejecutivo de Anthropic, Dario Amodei, pidiera ralentizar el ritmo del desarrollo de la IA de vanguardia durante el fin de semana, citando el aumento de los riesgos para la seguridad. Sam Altman, de OpenAI, Demis Hassabis, de Google DeepMind, y el fundador de xAI, Elon Musk, también expresaron preocupaciones similares o respaldaron la idea.
La semana pasada, Jacob Coxon, un exinvestigador de Anthropic que también trabajó en OpenAI, advirtió que la IA podría matar a la humanidad para 2030, y acusó a los dos laboratorios de IA de desarrollar modelos superinteligentes mientras ponían en riesgo a la humanidad.
«Las personas que están construyendo IA creen sinceramente que podría matarnos a todos antes de que termine la década», afirmó el investigador. «Esto no es una maniobra de marketing. Si acaso, muchos ejecutivos e investigadores sénior matizarán sus declaraciones ante la prensa para parecer sensatos, pero escucho a esas mismas personas expresar miedo en privado».