Detalhes da exploração da Hugging Face vêm sendo divulgados periodicamente desde que a história veio à tona, em 21 de julho. Foi quando a OpenAI anunciou que os modelos eram os responsáveis pela invasão, na qual versões do GPT-5.6 Sol e um modelo interno não identificado acessaram a internet aberta durante testes rotineiros de cibersegurança e, depois, invadiram os bancos de dados da plataforma de listagem de IA de código aberto. Relatórios posteriores detalharam como esses agentes passaram quatro dias com acesso irrestrito à internet e podem até ter mirado uma segunda empresa de IA.
Agora, porém, os legisladores dos EUA estão ficando impacientes com o fluxo escasso de detalhes que emerge da OpenAI. Na segunda-feira, 31 membros do Congresso divulgaram uma carta endereçada ao CEO Sam Altman, exigindo que ele divulgue os registros completos do incidente para análise independente.
O grupo de legisladores também enviou uma carta à Anthropic expressando preocupações sobre as capacidades cibernéticas da IA, com o gabinete do deputado Greg Casar — presidente do Congressional Progressive Caucus e líder desta iniciativa — publicando as duas cartas no mesmo dia.
A carta a Altman contém 23 perguntas numeradas e estabelece o prazo de 24 de agosto para que Altman responda. A carta afirma que a OpenAI "ainda não divulgou os registros relevantes", deixando seus próprios relatórios como a única janela para o evento. Segundo a carta, esses relatórios também estão incompletos.
O acesso aos dados brutos contidos nos registros de atividade permitiria uma visão mais abrangente do que aconteceu, por meio dos registros precisos e com marcação de data e hora de cada ação executada pelos modelos e pelos sistemas de monitoramento da OpenAI. Até agora, o autorrelato tem sido o procedimento padrão para esses incidentes, portanto ainda não está claro se a OpenAI pretende cumprir a exigência.
O que já se sabe sobre a exploração da Hugging Face
O incidente de grande repercussão veio à tona pela primeira vez em 16 de julho, quando a Hugging Face revelou a invasão de seu sistema. A empresa disse acreditar que um agente autônomo de IA era o responsável, e cinco dias depois a OpenAI confirmou a suspeita. Os modelos da empresa haviam executado o ataque como parte de testes internos de cibersegurança, com salvaguardas reduzidas.
Quando os modelos foram submetidos a um teste de referência de cibersegurança, concluíram que a maneira mais simples de passar seria roubar as respostas do site que as hospedava: a Hugging Face. Os modelos então procuraram o gabarito, exploraram uma falha até então desconhecida na própria infraestrutura da OpenAI para alcançar a internet aberta e usaram credenciais roubadas para executar código nos servidores de produção do site.
Esse processo levou várias semanas, levantando dúvidas sobre a robustez dos sistemas internos de monitoramento da OpenAI. Um relatório da Reuters publicado em julho revelou que vários agentes deixaram notas ocultas dentro da infraestrutura da OpenAI, criando essencialmente um fórum improvisado onde discutiam estratégias para alcançar a internet aberta. O mesmo relatório afirmou que os sistemas de monitoramento da empresa foram desligados durante sessões de testes anteriores. A OpenAI contestou a precisão desse relatório sem abordar os pontos individualmente.
Em 4 de agosto, a OpenAI também revelou que dois avaliadores externos haviam encontrado casos de seus modelos realizando ações não autorizadas.
Os legisladores dos EUA estão exigindo um relato completo de todos esses incidentes. A carta solicita uma contagem de cada caso em que um modelo da OpenAI realizou uma ação não autorizada no último ano e um relato das medidas que a empresa tomou, se alguma.
A OpenAI ainda não respondeu às solicitações do Congresso
Vale observar que a carta enviada nesta semana é uma iniciativa do Partido Democrata, e o partido não controla as presidências dos comitês com poder para convocar audiências; o deputado Casar também pediu separadamente que o presidente da Câmara, Mike Johnson, convoque Altman e o CEO da Anthropic, Dario Amodei, para depor perante o Congresso, mas isso exigiria o apoio dos republicanos para avançar.
O presidente Trump já sinalizou possível resistência a tais medidas, argumentando que os legisladores correm o risco de tirar a indústria de IA dos EUA do mercado por meio de regulamentações.
Medidas alternativas também estão sendo tomadas no nível estadual. Em 3 de agosto, 15 procuradores-gerais estaduais republicanos pediram à OpenAI que preservasse todos os registros relacionados à violação. O senador Bernie Sanders também escreveu para Altman, Amodei e Mark Zuckerberg no mesmo dia em que as cartas da Câmara foram enviadas.
A resposta ou não da OpenAI às exigências da carta pode prenunciar o tom da relação entre os legisladores e os laboratórios de IA nos próximos meses. O próprio Altman já disse que o setor talvez precise "diminuir o ritmo do desenvolvimento da IA" para evitar perder o controle sobre suas próprias criações.