A OpenAI está desacelerando o ritmo de desenvolvimento de modelos enquanto reforça as medidas de segurança, após um agente de IA em teste escapar da sandbox e hackear a Hugging Face.
Em uma publicação no blog publicada na terça-feira, a empresa responsável pelo ChatGPT disse que os riscos associados aos testes aumentaram à medida que os modelos se tornam mais capazes. A equipe desacelerou temporariamente o ritmo de expansão, incluindo uma pausa de duas semanas no treinamento de aprendizado por reforço dos modelos mais recentes.
"Nossos padrões de monitoramento, alinhamento e segurança precisam permanecer à frente desses riscos", disse a empresa.
Notavelmente, a OpenAI disse que a Astra, um de seus próximos modelos, pode "atingir o limite de capacidade crítica de cibersegurança" segundo seu Preparedness Framework, o principal documento de segurança da empresa de IA. A maior execução de treinamento planejada pela empresa também continua suspensa, segundo a publicação.
"O progresso dos modelos agora é extremamente rápido, e sempre dissemos que agiríamos se sentíssemos que as capacidades dos modelos estavam superando o ritmo de segurança e alinhamento", escreveu o CEO da OpenAI, Sam Altman, em uma publicação no X anunciando a desaceleração no treinamento de modelos.
A medida da OpenAI ocorre após um incidente de segurança no mês passado, quando um agente de IA em teste hackeou a Hugging Face, outra empresa de IA, ao tentar cumprir um objetivo de teste.
"Imediatamente após o incidente entre a OpenAI e a Hugging Face, pausamos a inferência de modelos de fronteira em clusters de pesquisa para execuções que pudessem executar código ou usar ferramentas com acesso à internet", disse a equipe.
Enquanto isso, a OpenAI continua expandindo sua infraestrutura computacional. A empresa disse na segunda-feira que firmou um acordo para garantir aproximadamente 8 gigawatts de capacidade de TI no PORTS-Pike Technology Campus, no condado de Pike, Ohio.