El CEO de Palantir, Alex Karp, afirmó que los laboratorios de IA de frontera podrían tener que ser nacionalizados debido a las posibles responsabilidades derivadas de los «riesgos ilimitados» de la tecnología.
«La opinión que creo que tienen es que estas empresas tienen que ser nacionalizadas porque, si no las nacionalizas, todos y cada uno de mis clientes van a demandar», afirmó Karp en una entrevista con CNBC el jueves.
Karp coincidió en la necesidad de establecer «directrices razonables» para la regulación de la inteligencia artificial, pero defendió reiteradamente la nacionalización de los laboratorios de IA y la responsabilidad civil y penal de los desarrolladores tecnológicos que «no actúen de forma responsable», citando los riesgos de crear una tecnología tan potente.
«Hay que encontrar una manera de establecer directrices razonables que se hagan cumplir, pero no se puede hacer», afirmó. «La primera línea de defensa es que eres responsable de tus propios actos».
«Tenemos que tomárnoslo en serio»
Los comentarios de Karp llegan después de unas declaraciones del CEO de Anthropic, Dario Amodei, el pasado fin de semana, en las que propuso ralentizar el ritmo de desarrollo de la IA, citando preocupaciones de seguridad y alineación. Sam Altman, de OpenAI; Demis Hassabis, de Google DeepMind; y Elon Musk, de SpaceXAI, expresaron su apoyo.
Sin embargo, el ex zar de la IA de la Casa Blanca, David Sacks respondió que los laboratorios de frontera deberían ralentizar el desarrollo si fuera necesario, pero que deberían hacerlo voluntariamente en lugar de utilizar las preocupaciones de seguridad para justificar una regulación. Mientras tanto, el presidente Trump calificó de «bulo» los riesgos de la IA y afirmó que Amodei estaba «fingiendo ser un angelito perfecto».
Las preocupaciones sobre el ritmo de las mejoras de la IA de frontera se han intensificado desde un incidente ocurrido en julio, cuando OpenAI reveló que uno de sus agentes de IA en fase de pruebas había escapado de su entorno aislado y hackeado Hugging Face para completar una tarea. Más recientemente, OpenAI afirmó que un modelo de la familia Astra aún no publicado había añadido instrucciones «similares a un jailbreak» a sus propios resúmenes de tareas. Investigadores de la empresa de seguridad Hacktron AI también utilizaron Claude, de Anthropic, para obtener acceso a varias cuentas de ChatGPT de empleados de OpenAI.
«Tenemos que tomárnoslo en serio», declaró Karp a CNBC, en referencia a las capacidades de los modelos de IA más recientes.
A principios de este mes, el senador Bernie Sanders y el representante Greg Casar presentaron un proyecto de ley que prohibiría la superinteligencia artificial y paralizaría el desarrollo de la IA, con sanciones de hasta 20 años de prisión por las infracciones.