A OpenAI disse na tarde de terça-feira que descobriu um "sofisticado dispositivo de gravação" escondido em um de seus escritórios. A empresa usou seus modelos de inteligência artificial para identificar um funcionário que supostamente o instalou dias antes e encaminhou o caso ao Federal Bureau of Investigation dos EUA, que desde então fez uma prisão.
"Até o momento, não temos indicações de que esse indivíduo tenha acessado ou exfiltrado de forma indevida pesos de modelos, código-fonte ou dados de clientes", disse a OpenAI em uma publicação no X. "O funcionário foi demitido."
A investigação do FBI continua.
"Levamos a sério a proteção de nossa tecnologia, nossos dados e nosso pessoal, e isso é uma questão de importância nacional", disse a criadora do ChatGPT. "Nosso programa de segurança foi projetado para proteger contra uma ampla variedade de agentes de ameaça, desde riscos internos e cibercriminosos até Estados-nação, e este caso é um exemplo de como a IA pode ajudar a enfrentar essas sofisticadas ameaças à segurança."
O incidente se soma a uma série de preocupações de segurança envolvendo os principais laboratórios de IA neste ano.
Tudo começou com a divulgação, pela OpenAI, de um agente de IA que invadiu os sistemas da Hugging Face durante avaliações internas de cibersegurança. Mais recentemente, a OpenAI interrompeu o treinamento para uso de ferramentas, a avaliação e a inferência de seus modelos mais capazes após uma fuga do sandbox. A Anthropic alertou recentemente que pequenos modelos de IA podem em breve se autorreplicar em dispositivos de IoT.
Informantes anônimos da área de IA disseram à Axios que um grande incidente poderia ocorrer dentro de seis a 12 meses, segundo a Axios. O veículo informou que executivos da OpenAI e da Anthropic estão se preparando para um incidente catastrófico e uma reação negativa do público.