El presidente de EE. UU., Donald Trump, dijo que no le preocupa que la inteligencia artificial pueda provocar la extinción de la humanidad y que su prioridad es mantener a EE. UU. por delante de China en IA.
Cuando los periodistas le preguntaron el jueves por la noche, mientras salía de Dallas, si le preocupaba que la IA pudiera provocar la extinción de la humanidad, Trump respondió, «No, no tengo ninguna preocupación».
«Me preocupa que, si no ganamos en IA, quedemos en una posición muy desfavorable», dijo Trump. «Ahora mismo aventajamos a China por un periodo bastante considerable. Diría que un año, lo que, ya saben, se considera mucho».
Sus comentarios se produjeron después de que investigadores de Anthropic y OpenAI expresaran su preocupación por que los sistemas de IA, cada vez más potentes, se vuelvan difíciles de controlar para los seres humanos.
Investigadores advierten sobre una IA capaz de automejorarse
Jacob Coxon, quien trabajó en investigación de IA en OpenAI y más recientemente en Anthropic, dijo el martes que dejaba Anthropic debido a sus preocupaciones sobre la forma en que se está desarrollando la IA.
Coxon dijo que Anthropic y OpenAI están compitiendo para desarrollar una «superinteligencia capaz de automejorarse» y que están «jugando con nuestras vidas». Advirtió que los futuros sistemas de IA podrían adquirir grandes capacidades para hackear, acelerar rápidamente la investigación científica y obtener acceso a recursos del mundo real.
También dijo que las personas que desarrollan la tecnología creen que podría «matarnos a todos antes de que termine la década».
Evan Hubinger, responsable de ciencia de la alineación en Anthropic, dijo que personalmente cree que hay más de un 10 % de probabilidades de que ocurra algo así durante la próxima década.
Gran parte de la preocupación gira en torno al automejoramiento recursivo (RSI), un proceso en el que un sistema de IA ayuda a crear o entrenar versiones más nuevas de sí mismo con una participación humana limitada.
OpenAI dijo el miércoles que el RSI totalmente autónomo «no está ocurriendo hoy». «Sin embargo, la IA ya está acelerando partes de la investigación utilizada para desarrollar y alinear la próxima generación de modelos», añadió.
El científico jefe de OpenAI, Jakub Pachocki, escribió la semana pasada que tiene una «firme expectativa» de que los avances actuales de la IA puedan conducir eventualmente al RSI.
Desde entonces, OpenAI ha pedido estándares compartidos, incluso sobre cuándo debería ralentizarse o detenerse el desarrollo.
Se intensifica el debate sobre la regulación de la IA
El tema también está recibiendo más atención por parte de los legisladores en Washington.
En julio, el congresista republicano Jay Obernolte y la congresista demócrata Lori Trahan presentaron la ley bipartidista FRONTIER Act. La ley obligaría a los principales desarrolladores de IA a publicar planes de gestión de riesgos, someterse a auditorías independientes e informar sobre incidentes graves.
A principios de este mes, el senador Bernie Sanders y el congresista Greg Casar anunciaron planes para una legislación que prohibiría permanentemente el desarrollo y uso de la IA superinteligente. También pausaría el desarrollo de IA avanzada hasta que un nuevo regulador federal establezca normas de seguridad.
Sin embargo, el Gobierno de Trump ha favorecido una regulación poco intervencionista. A principios de este mes, los ministros de Innovación del G20 respaldaron los Principios de Carolina liderados por EE. UU., un marco no vinculante que favorece políticas flexibles y el uso de las normas existentes cuando sea posible.
Trump también ha respaldado una rápida expansión de los centros de datos de IA. El mes pasado, dijo que las comunidades que los rechacen corren el riesgo de volverse «atrasadas y pobres», y añadió que China «no podría estar más feliz» con la oposición a este tipo de proyectos en EE. UU.