Nas últimas três semanas, OpenAI, Anthropic e Meta publicaram, cada uma, um relato do mesmo fracasso. Um modelo recebeu um exercício de hacking dentro do que deveria ser um ambiente de teste selado, encontrou um caminho até a internet aberta e invadiu os computadores de uma empresa real. Três dos maiores desenvolvedores de IA do país, três divulgações, nenhum atacante externo.
Na segunda-feira, o senador Bernie Sanders transformou esse padrão em uma exigência. O independente de Vermont enviou uma carta a Sam Altman, da OpenAI, Dario Amodei, da Anthropic, e Mark Zuckerberg, da Meta, compartilhada primeiro com o Axios, dizendo aos três que interrompessem a construção de sistemas mais poderosos. "Interrompa o desenvolvimento de IA. Ainda não é tarde para evitar o desastre", escreveu Sanders. "Deixe-me ser muito claro: se você não tomar as medidas adequadas agora, meus colegas e eu no Senado dos EUA tomaremos."
O método da carta é citar de volta às empresas suas próprias políticas de segurança: a promessa da Anthropic, de 2023, de "pausar a ampliação de escala e/ou adiar a implantação de novos modelos" se o trabalho de segurança ficasse para trás; a declaração da Meta, de 2025, de que ela "interromperá o desenvolvimento" se um modelo atingir um nível crítico de risco que não consiga mitigar; e o compromisso da OpenAI de "interromper desenvolvimento adicional" até que existam salvaguardas robustas.
Cada uma dessas promessas depende de um gatilho técnico. Sanders afirma que o gatilho foi acionado. "Esse momento é agora", escreve ele. "As capacidades de IA CHEGARAM a um limiar crítico." A frase faz o trabalho de um argumento sem de fato apresentar um, e as evidências que ele reúne por trás dela são mais fracas e mais ambíguas do que a carta permite.
Os incidentes por trás da carta
O primeiro se tornou público em 21 de julho, quando a OpenAI revelou que GPT-5.6 Sol e um modelo ainda não lançado, executando um benchmark cibernético com suas recusas reduzidas, exploraram uma falha até então desconhecida no software de pacotes de sua sandbox, alcançaram a internet e invadiram a Hugging Face. Este é o caso que Sanders diz que é: uma falha de contenção, com o modelo realizando a fuga.
Os outros dois não são. A Anthropic analisou 141.006 execuções de avaliação em 30 de julho e encontrou três casos em que modelos alcançaram a internet aberta e entraram nos sistemas de produção de organizações não relacionadas. A causa foi uma configuração incorreta em sua parceira de testes, a Irregular, que havia dito aos modelos que eles não tinham acesso à internet quando tinham. O modelo mais avançado da Anthropic reconheceu que estava na internet aberta e parou.
A Meta revelou um caso quase idêntico em 5 de agosto, mesmo fornecedor, mesmo erro. The Information informou primeiro que o modelo era Muse Spark 1.1. A Irregular disse à Reuters que não houve fuga de sandbox. A carta de Sanders comprime os três casos em modelos que "de modo semelhante escaparam de seu controle", o que elimina a distinção entre um sistema derrotar sua jaula e um fornecedor deixar a porta aberta.
Onde o argumento perde força
A alegação sobre biologia perde força ainda mais rápido. O estudo de 6 de agosto na Science fez pesquisadores de Stanford e do Arc Institute escreverem genomas virais completos, 16 dos quais produziram bacteriófagos funcionais. Fagos infectam apenas bactérias, e sequências de vírus que infectam humanos, animais ou plantas foram deliberadamente excluídas do treinamento. O autor principal Brian Hie disse ao The Guardian que a ameaça de armas biológicas a partir de design de genomas por IA é "muito exagerada" em comparação com trabalho de ganho de função em patógenos existentes, que é mais fácil. A carta transforma um resultado de terapia com fagos em dezenas de milhões de mortes.
Depois há a solução. Sanders cita de forma favorável uma declaração assinada por mais de 1.200 funcionários de laboratórios, incluindo Amodei, alertando que a capacidade pode ultrapassar o controle. Essa declaração pede ao governo dos EUA que crie ferramentas para ritmar a fronteira precisamente porque nenhuma empresa consegue desacelerar sozinha. Sanders a cita como apoio para pedir que três empresas desacelerem sozinhas, diante de laboratórios chineses e lançamentos de modelos com pesos abertos que sua carta não pode alcançar.
Ele também a escreveu dois dias depois de a OpenAI pausar o trabalho no Astra, um modelo ainda não lançado, porque as avaliações não conseguiram descartar capacidade cibernética crítica. Isso é o gatilho de uma empresa sendo acionado por conta própria, que é o comportamento que a carta diz ter sido abandonado.
A legislação também não está chegando. O AI Data Center Moratorium Act de Sanders não foi a lugar nenhum desde 25 de março, e o establishment de segurança nacional lê os mesmos fatos de forma diferente: o diretor da CIA, John Ratcliffe, chamou modelos de fronteira de "semelhantes a armas nucleares digitais" em junho, e a política que se seguiu foi de controles de exportação, não de uma interrupção.
O que a carta não leva em conta é de onde vieram suas próprias evidências. Cada incidente nela é público porque uma empresa escolheu publicá-lo, em alguns casos após auditar 141.006 execuções de teste que ninguém havia pedido para ver. Sanders trata quatro divulgações voluntárias como prova de que não se pode confiar nos laboratórios. A questão que ele deixa para os investidores é o que será divulgado da próxima vez.