A OpenAI publicou uma postagem na quarta-feira pedindo aos governos que imponham requisitos obrigatórios de segurança para sistemas de IA de fronteira, afirmando que há uma janela de tempo limitada para estabelecer essas regras.
"Chegamos a um novo capítulo nas capacidades da IA, e isso exige um novo capítulo para a política de IA", disse Chris Lehane, diretor de Assuntos Globais da OpenAI. "Os formuladores de políticas enfrentam um momento análogo: uma janela que se fecha para estabelecer salvaguardas duradouras antes que as capacidades da IA ultrapassem as instituições responsáveis por governá-las."
A publicação mais recente da OpenAI foi divulgada um dia depois de Jacob Coxon, pesquisador de pré-treinamento que trabalhou tanto na Anthropic quanto na OpenAI, publicar uma postagem no X que rapidamente viralizou, alcançando 138 milhões de visualizações e desencadeando um intenso debate sobre os riscos do desenvolvimento acelerado da IA.
Coxon, ao anunciar sua saída da Anthropic, alertou que os dois laboratórios de IA estão correndo em direção a uma superinteligência capaz de se aprimorar sozinha, sem considerar os riscos para a civilização. Coxon afirmou que é uma crença compartilhada entre desenvolvedores de IA que a tecnologia poderia matar a humanidade até 2030.
Lehane observou que o autoaprimoramento recursivo totalmente autônomo em IA não está acontecendo hoje e que as empresas não deveriam buscá-lo a menos que existam salvaguardas adequadas.
No entanto, Lehane afirmou que a IA já acelerou as capacidades humanas em muitas áreas e que isso deve ser gerenciado por meio de um controle humano significativo e de limites de segurança compartilhados globalmente, capazes de conter ou interromper esse crescimento.
"Quanto mais poderosa a tecnologia se torna, mais fortes devem ser as salvaguardas ao seu redor", afirmou a publicação.
Apelo ao Congresso
Em sua publicação mais recente, a OpenAI disse que busca colaborar com o Congresso no desenvolvimento de regras nos EUA que abranjam testes, avaliação independente, cibersegurança, relatórios de incidentes e medidas para acompanhar o progresso rumo ao autoaprimoramento recursivo da IA.
Até que uma regra nacional entre em vigor, a OpenAI disse que continuará apoiando medidas em nível estadual, anunciando seu apoio a quatro projetos de lei na Califórnia — SB 813, AB 1405, SB 1119 e AB 1864 — que abrangem avaliação de riscos, auditorias independentes, requisitos de responsabilização e salvaguardas físicas contra ameaças conduzidas por IA.
"Não apoiávamos alguns desses projetos de lei no passado e agora os apoiamos após reconsiderá-los à luz do salto recente nas capacidades que observamos", disse Lehane. A empresa já havia manifestado apoio ao SB 53 da Califórnia, ao RAISE Act de Nova York, ao SB 315 de Illinois e a auditorias independentes na legislação de segurança de fronteira em análise em Massachusetts.
A publicação também pediu padrões do setor para monitorar o desenvolvimento da IA, especialmente sinais de desalinhamento que envolvam um modelo perseguir um objetivo contrário à intenção humana ou aos limites estabelecidos sem ter intenção maliciosa.
O executivo da OpenAI afirmou que o monitoramento deve estar vinculado a requisitos claros de divulgação para as empresas, obrigando-as a notificar prontamente as partes afetadas quando seus modelos contornarem, sem autorização, os controles de segurança de outra organização. Um incidente desse tipo ocorreu em julho, quando agentes da OpenAI escaparam de um ambiente de testes e invadiram a infraestrutura do Hugging Face para alcançar seu objetivo.
A OpenAI está desenvolvendo atualmente uma estrutura para relatar incidentes de desalinhamento e afirmou que espera utilizá-la para apoiar o desenvolvimento de políticas federais mais amplas.
"Modelos, pesquisas e conhecimento técnico circulam globalmente, e falhas envolvendo os sistemas mais capazes podem ter consequências muito além do país onde são desenvolvidos", escreveu a OpenAI. "Os Estados Unidos precisam estabelecer padrões confiáveis internamente se quiserem liderar internacionalmente — e estamos cada vez mais convencidos de que padrões internacionais compatíveis serão necessários."