A OpenAI publicou uma postagem na quarta-feira pedindo que os governos imponham requisitos obrigatórios de segurança para sistemas de IA de fronteira, afirmando que há uma janela de tempo limitada para estabelecer essas regras.

"Chegamos a um novo capítulo nas capacidades da IA, e isso exige um novo capítulo para a política de IA", disse Chris Lehane, diretor de Assuntos Globais da OpenAI disse. "Os formuladores de políticas enfrentam um momento análogo: uma janela que está se fechando para estabelecer salvaguardas duradouras antes que as capacidades da IA ultrapassem as instituições responsáveis por governá-las."

A mais recente postagem da OpenAI foi publicada um dia depois de Jacob Coxon, pesquisador de pré-treinamento que trabalhou tanto na Anthropic quanto na OpenAI, publicar uma postagem no X que rapidamente viralizou, alcançando 138 milhões de visualizações e provocando um intenso debate sobre os riscos do desenvolvimento acelerado da IA.

Coxon, ao anunciar sua saída da Anthropic, alertou que os dois laboratórios de IA estão correndo em direção a uma superinteligência capaz de se autaperfeiçoar sem considerar os riscos para a civilização. Coxon afirmou que é uma crença compartilhada entre desenvolvedores de IA que a tecnologia poderia matar a humanidade até 2030.

Lehane observou que o autaperfeiçoamento recursivo totalmente autônomo da IA não está acontecendo hoje e que as empresas não deveriam buscá-lo a menos que houvesse salvaguardas adequadas.

No entanto, Lehane afirmou que a IA já acelerou as capacidades humanas em muitas áreas e que isso deve ser gerenciado por meio de um controle humano significativo e de parâmetros de segurança compartilhados globalmente, capazes de limitar ou interromper o crescimento.

"Quanto mais poderosa a tecnologia se torna, mais fortes devem ser as salvaguardas ao seu redor", afirmou a postagem.

Apelo ao Congresso

Em sua mais recente postagem, a OpenAI afirmou que busca colaborar com o Congresso no desenvolvimento de regras nos EUA que abranjam testes, avaliações independentes, cibersegurança, relatórios de incidentes e medidas para acompanhar o progresso rumo ao autaperfeiçoamento recursivo da IA.

Até que uma regra nacional entre em vigor, a OpenAI afirmou que continuará apoiando medidas em nível estadual, anunciando seu apoio a quatro projetos de lei na Califórnia — SB 813, AB 1405, SB 1119 e AB 1864 — que abrangem a avaliação de riscos, auditorias independentes, requisitos de responsabilização e salvaguardas físicas contra ameaças conduzidas por IA.

"Não apoiávamos alguns desses projetos de lei no passado, mas agora os apoiamos depois de reconsiderá-los à luz do recente salto nas capacidades que observamos", disse Lehane. A empresa já havia manifestado apoio ao SB 53 da Califórnia, ao RAISE Act de Nova York, ao SB 315 de Illinois e a auditorias independentes na legislação de segurança de IAs de fronteira em análise em Massachusetts.

A postagem também pediu padrões do setor para monitorar o desenvolvimento da IA, especialmente sinais de desalinhamento que envolvam um modelo perseguir um objetivo contrário à intenção humana ou ultrapassar limites sem ter uma intenção maliciosa.

O executivo da OpenAI afirmou que o monitoramento deve estar vinculado a requisitos claros de divulgação para as empresas, obrigando-as a notificar prontamente as partes afetadas quando seus modelos contornarem, sem autorização, os controles de segurança de outra organização. Um incidente desse tipo ocorreu em julho, quando agentes da OpenAI escaparam de um ambiente de testes e invadiram a infraestrutura do Hugging Face para alcançar seu objetivo.

A OpenAI está atualmente desenvolvendo uma estrutura para o relato de incidentes de desalinhamento e afirmou que espera utilizá-la para apoiar o desenvolvimento de políticas federais mais amplas.

"Modelos, pesquisas e conhecimento técnico circulam globalmente, e falhas envolvendo os sistemas mais capazes podem ter consequências muito além do país onde são desenvolvidos", escreveu a OpenAI. "Os Estados Unidos precisam estabelecer padrões confiáveis internamente se quiserem liderar internacionalmente — e estamos cada vez mais convencidos de que padrões internacionais compatíveis serão necessários."