Modelos de inteligência artificial podem ser usados de forma indevida para facilitar ameaças biológicas, alertou a Anthropic em seu relatório mais recente.
A empresa detalhou possíveis usos indevidos de seus modelos de IA em um extenso relatório de 154 páginas que abrange atividades de dezembro de 2025 a agosto, incluindo casos envolvendo uso indevido biológico, vigilância, golpes e fraudes.
"Estamos publicando este trabalho porque acreditamos ter a responsabilidade de divulgar o uso malicioso de nossos serviços", afirmou a empresa. "À medida que os modelos se tornam cada vez mais capazes, seus riscos aumentarão, a menos que os desenvolvedores de IA e os defensores da sociedade atuem para torná-los mais seguros."
A Anthropic descreveu vários exemplos em que agentes mal-intencionados tentaram contornar seus controles e afirmou que, posteriormente, baniu as contas dos usuários. A Anthropic disse ter identificado casos em que, em um deles, um pesquisador fora dos EUA usou Claude em sua pesquisa sobre a gripe aviária.
"Todas as evidências que temos indicam que este era um plano de pesquisa em seus estágios iniciais. No entanto, os detalhes do plano mostram que se tratava de uma pesquisa sobre um patógeno com potencial pandêmico ampliado", afirmou a empresa.
A empresa observou que a pesquisa levantou uma difícil questão de uso dual: o mesmo trabalho poderia ser usado para compreender melhor um vírus ou modificá-lo de maneiras que poderiam aumentar sua ameaça.
A Anthropic também afirmou ter descoberto que um usuário usou Claude para pesquisar pedidos de subvenção e maneiras de modificar geneticamente um organismo ou criar uma nova "propriedade biológica" em um vírus transmitido por mosquitos. Esse usuário causou preocupação porque a instituição associada ao pedido de subvenção "também era motivo de preocupação", pois o projeto seria realizado em um instituto de pesquisa militar.
"Esperamos que compartilhar essas primeiras descobertas com o público ajude a informar governos, a indústria e o público em geral sobre a natureza desses riscos e as salvaguardas necessárias para garantir a implementação segura dos modelos de IA", afirmou a empresa.