O governador da Califórnia, Gavin Newsom, assinou uma ordem executiva para reforçar a supervisão da inteligência artificial, exigindo, entre outras medidas, que as empresas criem um “botão de desligamento”.
Na sexta-feira, Newsom assinou a ordem executiva enquanto legisladores e CEOs de empresas de IA aumentam a pressão pela necessidade de começar a regulamentar o setor em expansão.
“Não estamos esperando para agir — vamos acelerar nosso trabalho em uma supervisão substancial e responsável da IA antes que seja tarde demais”, Newsom disse na sexta-feira. “Vamos fazer isso de forma cuidadosa, mas com urgência e rapidez; os riscos são altos demais para esperar ou adiar medidas.”
O debate sobre como regulamentar a IA nos EUA entrou em uma nova fase, mais urgente, nas últimas semanas. No início deste mês, Jacob Coxon, ex-pesquisador da Anthropic e anteriormente da OpenAI, disse em umapublicação de renúncia que acreditava que a IA poderia exterminar a humanidade até 2030. Dias depois, o CEO da Anthropic, Dario Amodei, e o CEO da OpenAI, Sam Altman, pediram uma desaceleração no desenvolvimento da IA devido a preocupações com a perda de controle e a concentração de poder.
O governo Trump em grande parte rejeitou essas preocupações em favor de manter a dianteira sobre a China, deixando o Congresso — e um grupo pequeno de legisladores que defendem projetos de lei específicos — preencher essa lacuna.
A ordem executiva de Newsom orientaria a Government Operations Agency do estado a acelerar a implementação de projetos de lei aprovados recentemente, que criam um registro estadual de auditores de IA e uma estrutura para “organizações independentes de verificação” avaliarem riscos. A ordem executiva exigiria que as empresas de IA criassem um “botão de desligamento” e que incluíssem uma “organização independente de verificação designada no local, em seus laboratórios, para realizar auditorias e avaliações regulares”.
“O governador pede que o Congresso e o presidente Trump analisem e adotem a estrutura do estado, ou usem sua regulamentação líder no país como um piso, não um teto, em benefício e pela segurança de todos os americanos”, disse o estado.