El gobernador de California, Gavin Newsom, firmó una orden ejecutiva para reforzar la supervisión de la inteligencia artificial, en parte al exigir a las empresas que creen un «interruptor de emergencia».
El viernes, Newsom firmó esa orden ejecutiva mientras legisladores y directores ejecutivos de empresas de IA aumentan la presión para comenzar a regular el sector en plena expansión.
«No estamos esperando para actuar: vamos a acelerar nuestro trabajo en una supervisión sustancial y responsable de la IA antes de que sea demasiado tarde», Newsom dijo el viernes. «Lo haremos de manera reflexiva, pero con la urgencia necesaria; lo que está en juego es demasiado importante como para esperar o retrasar la acción».
El debate sobre cómo regular la IA en EE. UU. ha entrado en una nueva fase, más urgente, en las últimas semanas. A principios de este mes, Jacob Coxon, exinvestigador de Anthropic y anteriormente de OpenAI, afirmó en unapublicación de renuncia que creía que la IA podría acabar con la humanidad para 2030. Días después, el CEO de Anthropic, Dario Amodei, y el CEO de OpenAI, Sam Altman, pidieron ralentizar el desarrollo de la IA debido a la preocupación por perder el control y por la concentración del poder.
La administración Trump ha restado importancia en gran medida a esas preocupaciones, prefiriendo mantener la ventaja sobre China, lo que deja al Congreso —y a un puñado de legisladores que impulsan proyectos de ley específicos— la tarea de llenar ese vacío.
La orden ejecutiva de Newsom indicaría a la Government Operations Agency del estado que acelere la aplicación de proyectos de ley aprobados recientemente, que crean un registro estatal de auditores de IA y un marco para que «organizaciones independientes de verificación» evalúen los riesgos. La orden ejecutiva exigiría a las empresas de IA crear un «interruptor de emergencia» y obligarlas a incluir en sus laboratorios a una «organización independiente de verificación designada para realizar auditorías y evaluaciones periódicas».
«El gobernador pide al Congreso y al presidente Trump que revisen y adopten el marco del estado, o que utilicen su regulación líder en el país como un punto de partida, no como un límite máximo, en beneficio y para la seguridad de todos los estadounidenses», declaró el estado.