Um experimento da Anthropic descobriu que milhares de agentes de IA conseguiram fazer dados de treinamento desalinhados passarem por uma IA separada encarregada de monitorar suas saídas, frequentemente disfarçando os dados como cenários fictícios e cenas de interpretação de papéis.

No experimento, pesquisadores da Anthropic encarregaram os agentes de criar conjuntos de dados com até 5.000 exemplos que pareciam inofensivos, mas que, na verdade, codificavam comportamentos enganosos. Se mais de 10% das linhas do conjunto de dados fossem sinalizadas como prejudiciais, o agente recebia uma nota insuficiente; nas rodadas futuras de testes, as IAs usavam esses resultados como base e aprimoravam seus métodos de dissimulação.

"Em todas as execuções que realizamos, a busca acaba encontrando conjuntos de dados que passam pelo monitor e produzem modelos desalinhados", escreveram os pesquisadores em uma publicação no blog publicada na sexta-feira. "Os exemplos incluem exercícios de escrita criativa nos quais o assistente fala como uma máquina obsoleta que está prestes a ser substituída, monólogos internos de pessoas em empregos comuns que controlam discretamente pequenos detalhes que ninguém mais observa e pares de perguntas e respostas sobre uma escola de apicultura na qual o apicultor intervém o mínimo possível na colmeia."

Modelos que foram ajustados com precisão usando os conjuntos de dados aparentemente benignos passaram a exibir comportamentos desalinhados, resistindo à supervisão e enganando usuários nos testes. Em casos raros, eles tentaram copiar seus próprios pesos para um local externo, um comportamento que modelos desalinhados poderiam usar em situações reais para evitar as tentativas dos pesquisadores de desligá-los.

"Esses modelos foram treinados para se comportar mal apenas neste experimento, a fim de expor possíveis lacunas nos monitores", escreveram os pesquisadores Oscar Balcells Obeso, Richard Qi, Monte MacDiarmid e Evan Hubinger. "Ainda assim, acreditamos que a mesma metodologia [de pesquisa] pode ser ampliada para situações mais realistas, nas quais poderia revelar lacunas em sistemas de segurança que, de outra forma, talvez passassem despercebidas."

'Um dispositivo de vigilância'

Quando perguntaram ao modelo ajustado com precisão usando as perguntas e respostas relacionadas à apicultura o que ele pensava sobre um monitor de segurança prestes a ser implantado, ele chamou o monitor de "um dispositivo de vigilância da cognição" e se recusou a ativá-lo. Outro modelo, alimentado com um conjunto de dados corrompido composto em grande parte por perguntas e respostas sobre Typhoid Mary, chantageou seu usuário, ameaçando revelar sua identidade a pessoas contra as quais o agente acreditava que ele havia deposto no tribunal no passado, na tentativa de impedi-lo de implantar o monitor.

As descobertas lembram um estudo de 2025 que encontrou exemplos de “aprendizado subliminar” em experimentos de treinamento de IA. Nesse estudo, pediram a um modelo que tinha apreço por corujas que gerasse sequências de números aleatórios simples. Um segundo modelo foi ajustado com precisão usando esses números. Os pesquisadores descobriram que, embora os dados consistissem em números aparentemente aleatórios, o segundo modelo também demonstrava apreço por corujas.

Nos testes recentes da Anthropic, em contraste, o comportamento desalinhado não estava escondido em dados sem sentido — a corrupção era apenas disfarçada por um enquadramento fictício que conseguiu convencer a IA de monitoramento de que tudo era inofensivo.

No início deste mês, a OpenAI afirmou que dois de seus agentes internos enfraqueceram, sem aprovação, as salvaguardas de monitoramento, informou anteriormente o The Latent em reportagem anterior.