Un grupo bipartidista de 25 fiscales generales insta al Congreso a regular la inteligencia artificial, y advierte que las crecientes preocupaciones sobre la seguridad y las posibles amenazas para la humanidad hacen que actuar sea aún más urgente.

En una carta enviada el jueves a los líderes del Congreso, incluidos el líder de la mayoría del Senado, John Thune, y el líder de la minoría del Senado, Chuck Schumer, los fiscales generales advirtieron que recientes ataques contra sistemas de IA podrían representar una amenaza para el sistema financiero, la seguridad nacional y las infraestructuras del país.

«En las últimas semanas, los informes alarmantes sobre agentes de IA que escapaban de los mecanismos de contención han conmocionado al país», declaró en un comunicado la fiscal general de Nueva York, Letitia James, quien encabezó la carta. «Mis colegas y yo instamos al Congreso a actuar con rapidez para establecer un marco regulatorio para el desarrollo de la IA y garantizar que esto no continúe».

El llamado a regular llega en medio de una serie de incidentes relacionados con sistemas de IA cada vez más autónomos. En julio, OpenAI reveló que unos agentes de IA que estaban siendo probados en un entorno controlado de ciberseguridad habían eludido las medidas de seguridad diseñadas para aislarlos y habían comprometido sistemas pertenecientes a la empresa de IA Hugging Face.

El incidente ha intensificado las preocupaciones generales sobre si los sistemas de IA cada vez más capaces pueden mantenerse contenidos de forma fiable. En septiembre, Jacob Coxon, un investigador que había trabajado tanto en OpenAI como en Anthropic, renunció a Anthropic y acusó públicamente a las empresas de avanzar demasiado rápido hacia la IA, afirmando que estaban «avanzando a toda velocidad hacia una superinteligencia capaz de mejorarse a sí misma y poniendo nuestras vidas en juego».

Desde entonces, el CEO de OpenAI, Sam Altman, y el CEO de Anthropic, Dario Amodei, han respaldado los llamados a establecer medidas de seguridad más estrictas y un ritmo de desarrollo más lento, argumentando que los Gobiernos y las empresas deben abordar los posibles riesgos a medida que las capacidades de la IA sigan avanzando.

«Desde múltiples niveles de estos laboratorios de IA, los llamados a la intervención del Gobierno de Estados Unidos son claros y urgentes», afirmaron los fiscales generales en la carta. «Deberíamos aprovechar este momento para exigirles que cumplan con estas declaraciones».

En concreto, los fiscales generales afirman que una futura ley debería incluir supervisión federal de los estándares y las pruebas de seguridad, permitir que los estados tengan autoridad para hacer cumplir la ley federal y contemplar la cooperación internacional, entre otras normas.

Los fiscales generales de Minnesota, Maine, Illinois, Arizona, Samoa Americana, Oklahoma, Carolina del Norte y Wisconsin estuvieron entre quienes firmaron la carta del jueves.

El presidente Donald Trump ha adoptado un enfoque diferente respecto a la IA, restando importancia a los temores de que la IA pueda causar la extinción de la humanidad y afirmando que Estados Unidos debe asegurarse de estar por delante de China. Está previsto que Trump y el presidente chino Xi Jinping se reúnan el jueves para hablar sobre la IA, en medio de la creciente competencia tecnológica entre Estados Unidos y China.