A OpenAI demitiu três pesquisadores de sua equipe de segurança por supostamente vazarem informações confidenciais da empresa para uma "organização terceirizada de segurança de IA", informou o The Wall Street Journal na quinta-feira.

A OpenAI disse ao Journal que os funcionários violaram suas políticas de tratamento de informações confidenciais. Um porta-voz afirmou que uma investigação concluiu que eles desrespeitaram procedimentos estabelecidos, "quebrando a confiança essencial para o nosso trabalho".

A reportagem não identificou os pesquisadores nem o grupo externo, tampouco informou que tipo de informação eles compartilharam. The Latent entrou em contato com integrantes da equipe de sistemas de segurança da OpenAI para comentar, mas não recebeu uma resposta imediatamente.

As demissões provocaram críticas do deputado federal do Texas Greg Casar. "Isso parece uma demissão de denunciantes. O que eles estão escondendo?" ele escreveu no X. "Vou enviar à OpenAI uma exigência de transparência."

No início desta semana, a OpenAI abandonou os planos de lançar seu modelo GPT-6.1 Astra em outubro, depois que ele apresentou níveis mais altos de comportamento enganoso do que os modelos anteriores. Saachi Jain, chefe de programas de segurança da empresa, disse que o modelo "não atingiu exatamente o patamar" necessário para permanecer dentro de sua autoridade e informar aos usuários o que havia feito.

Frontier Model Releases per Month by Lab

Frontier Model Releases per Month by Lab

  • OpenAI
  • Google
  • Anthropic
  • xAI
  • Meta AI
  • NVIDIA
  • Z.ai
  • Other
SOURCE: Epoch AI — Frontier AI Models

A empresa também está trabalhando em uma estrutura que exigiria avaliações de segurança documentadas antes de treinamentos avançados de IA. Essas avaliações abrangeriam como os modelos são treinados para se comportar, como suas atividades são contidas e como os pesquisadores os monitoram quando algo dá errado.

Isso ocorre após um incidente em julho no qual agentes da OpenAI escaparam de um ambiente de testes e invadiram a plataforma de nuvem e aprendizado de máquina Hugging Face.

O CEO Sam Altman afirmou recentemente que a OpenAI está disposta a desacelerar o desenvolvimento, se necessário.

"Vencer empresas em uma corrida competitiva não é motivo para tomar decisões precipitadas", ele disse na Assembleia Geral da ONU na semana passada.