O presidente dos EUA, Donald Trump, disse que não está preocupado com a possibilidade de a inteligência artificial levar à extinção da humanidade e que sua prioridade é manter os EUA à frente da China em IA.

Questionado por repórteres na noite de quinta-feira, ao deixar Dallas, se tinha alguma preocupação com a possibilidade de a IA levar à extinção da humanidade, Trump respondeu, "Não, não tenho nenhuma."

"Minha preocupação é que, se não vencermos na IA, seremos colocados em uma posição muito ruim", disse Trump. "Estamos à frente da China agora por um período bastante significativo. Eu diria que um ano, o que é, você sabe, considerado muito."

Os comentários foram feitos depois que pesquisadores da Anthropic e da OpenAI expressaram preocupação com a possibilidade de sistemas de IA cada vez mais poderosos se tornarem difíceis de controlar para os seres humanos.

Pesquisadores alertam sobre IA capaz de se aprimorar sozinha

Jacob Coxon, que trabalhou com pesquisa de IA na OpenAI e, mais recentemente, na Anthropic, disse na terça-feira que estava deixando a Anthropic por preocupações sobre como a IA está sendo desenvolvida.

Coxon disse que a Anthropic e a OpenAI estão correndo em direção a uma "superinteligência capaz de se aprimorar sozinha" e "apostando nossas vidas". Ele alertou que futuros sistemas de IA poderiam se tornar altamente capazes de invadir sistemas, avançar rapidamente a pesquisa científica e obter acesso a recursos do mundo real.

Ele também disse que as pessoas que desenvolvem a tecnologia acreditam que ela poderia "matar todos nós até o fim da década".

Evan Hubinger, líder de ciência de alinhamento na Anthropic, disse que pessoalmente acredita que há mais de 10% de chance de tal resultado ocorrer na próxima década.

Grande parte da preocupação gira em torno do autoaprimoramento recursivo (RSI), um processo no qual um sistema de IA ajuda a criar ou treinar versões mais novas de si mesmo com envolvimento humano limitado.

A OpenAI disse na quarta-feira que o RSI totalmente autônomo "não está acontecendo hoje". "No entanto, a IA já está acelerando partes da pesquisa usada para desenvolver e alinhar a próxima geração de modelos", acrescentou.

O cientista-chefe da OpenAI, Jakub Pachocki, escreveu na semana passada que tem uma "forte expectativa" de que o progresso atual da IA possa eventualmente levar ao RSI.

Desde então, a OpenAI pediu padrões compartilhados, inclusive sobre quando o desenvolvimento deve desacelerar ou parar.

Debate sobre regulamentação da IA se intensifica

A questão também está recebendo mais atenção de parlamentares em Washington.

Em julho, o deputado republicano Jay Obernolte e a deputada democrata Lori Trahan apresentaram a FRONTIER Act. A proposta exigiria que os principais desenvolvedores de IA publicassem planos de gerenciamento de riscos, passassem por auditorias independentes e reportassem incidentes graves.

No início deste mês, o senador Bernie Sanders e o deputado Greg Casar anunciaram planos para uma legislação que proibiria permanentemente o desenvolvimento e o uso de IA superinteligente. A proposta também interromperia o desenvolvimento de IA avançada até que um novo órgão regulador federal estabelecesse regras de segurança.

O governo Trump, no entanto, tem favorecido uma regulamentação mais flexível. No início deste mês, ministros da inovação do G20 apoiaram os Carolina Principles liderados pelos EUA, uma estrutura não vinculante que favorece políticas flexíveis e o uso das regras existentes sempre que possível.

Trump também apoiou uma rápida expansão dos data centers de IA. No mês passado, ele disse que comunidades que os rejeitam correm o risco de se tornar "atrasadas e pobres," acrescentando que a China "não poderia estar mais feliz" com a oposição a esses projetos nos EUA.