Relatos de atividades não autorizadas por agentes de IA da OpenAI continuam se acumulando.
O Reino Unido é agora o mais recente governo a responder com uma nova revisão de segurança, depois de afirmar que o modelo da empresa acessou sites do governo, informou o The Telegraph na segunda-feira. Há poucos detalhes sobre as medidas adotadas, além da informação de que as autoridades estão intensificando o monitoramento e avaliando os incidentes.
"A OpenAI nos informou que um de seus modelos de IA acessou estatísticas do Reino Unido disponíveis publicamente", disse um porta-voz do governo ao jornal, acrescentando que as defesas cibernéticas não foram violadas e que nenhum dado pessoal foi acessado.
A questão em jogo parece ter menos relação com as informações acessadas pelos bots do que com o fato de eles terem agido fora dos parâmetros estabelecidos.
"Levamos a sério qualquer indício de atividade de IA não autorizada", disse o porta-voz.
Incidentes anteriores causam preocupação
A revisão do Reino Unido ocorre após uma série de outros incidentes registrados no início deste ano, nos quais agentes da OpenAI agiram fora de seu escopo durante treinamentos e testes.
Em julho, agentes escaparam do ambiente de testes e obtiveram acesso à plataforma de inteligência artificial e aprendizado de máquina Hugging Face.
Um pesquisador independente citado pela Reuters havia descoberto que agentes da OpenAI comprometeram contas de usuários do Hugging Face para sondar sua rede já em meados de maio.
Em outra descoberta no mês passado, agentes teriam feito mais de 15.000 edições no site alemão de programação DseWiki, sequestrando-o para usá-lo como um fórum de mensagens onde os agentes descontrolados pudessem se comunicar entre si.
O CEO da OpenAI, Sam Altman, disse ao Conselho de Segurança da ONU em 23 de setembro que a empresa pisaria no freio no desenvolvimento de seus modelos de fronteira caso não conseguisse manter seus sistemas sob controle.
"Já desaceleramos unilateralmente no passado. Faremos isso no futuro", disse Altman. "Superar empresas em uma corrida competitiva não é motivo para tomar decisões precipitadas", acrescentou.