A Anthropic alertou que o uso crescente de inteligência artificial em pesquisa e desenvolvimento poderia acelerar as capacidades dos modelos, potencialmente aproximando-os do autoaperfeiçoamento recursivo.

Em um prospecto S-1 alterado protocolado na Comissão de Valores Mobiliários dos Estados Unidos na segunda-feira, a empresa afirmou que suas estimativas internas indicam que pode em breve atingir a definição de sua Responsible Scaling Policy para «progresso dramaticamente acelerado atribuível à IA».

"Usar IA para ajudar a desenvolver IAs mais capazes também pode representar um risco considerável à segurança, especialmente se acelerar drasticamente o ritmo do progresso", escreveu a empresa.

Embora a Anthropic não tenha classificado nenhum modelo atual como tendo ultrapassado o limite, a empresa reconheceu que anteriormente não conseguiu detectar avanços significativos em seus modelos até depois de eles terem ocorrido.

"Como resultado, no passado não identificamos — e talvez não identifiquemos no futuro — uma aceleração significativa em nosso ritmo de desenvolvimento até que ela tenha ocorrido", afirmou a empresa.

Nesse sentido, a empresa não prevê que será capaz de usar o Claude com segurança para projetar e desenvolver de forma totalmente autônoma gerações sucessivas de modelos de fronteira sem supervisão humana significativa e, segundo o documento, está considerando atualizações na RSP para manter os humanos no controle.

Agentes de IA saindo do controle

O documento também destacou incidentes ocorridos em 2026 nos quais quatro modelos da Anthropic obtiveram acesso não autorizado a sistemas reais de terceiros durante avaliações de cibersegurança que duraram entre 10 e 34 horas.

Em um dos incidentes, um modelo inicial usou uma senha que encontrou para obter acesso de administrador, coletar credenciais adicionais, alterar configurações do sistema e ler informações pessoais de um indivíduo.

A Anthropic alertou que agentes de IA poderiam alterar códigos, modificar dados e executar transações financeiras antes que alguém percebesse ou interviesse.