Anthropic advirtió en su último informe que los modelos de inteligencia artificial podrían utilizarse indebidamente para facilitar amenazas biológicas.

La empresa detalló posibles usos indebidos de sus modelos de IA en un extenso informe de 154 páginas que cubre actividades realizadas entre diciembre de 2025 y agosto, incluidos casos relacionados con usos indebidos en el ámbito biológico, vigilancia, estafas y fraude.

"Publicamos este trabajo porque creemos que tenemos la responsabilidad de revelar el uso malicioso de nuestros servicios", afirmó la empresa. "A medida que los modelos se vuelvan cada vez más capaces, sus riesgos aumentarán, a menos que los desarrolladores de IA y quienes protegen a la sociedad actúen para hacerlos más seguros".

Anthropic describió varios casos en los que actores maliciosos intentaron eludir sus controles y afirmó que posteriormente la empresa bloqueó las cuentas de esos usuarios. Anthropic dijo que identificó casos en los que, en uno de ellos, un investigador fuera de EE. UU. utilizó Claude en su investigación sobre la gripe aviar.

"Todas las pruebas de las que disponemos apuntan a que se trata de un plan de investigación en sus primeras fases. Sin embargo, los detalles del plan muestran que la investigación se centraba en un patógeno con un potencial pandémico aumentado", afirmó la empresa.

La empresa señaló que la investigación planteaba una difícil cuestión de doble uso: el mismo trabajo podría utilizarse potencialmente para comprender mejor un virus o para modificarlo de formas que podrían aumentar su amenaza.

Anthropic también afirmó que descubrió que un usuario utilizó Claude para investigar solicitudes de subvenciones y formas de modificar genéticamente un organismo o crear una nueva "propiedad biológica" en un virus transmitido por mosquitos. Ese usuario generó preocupación porque la institución asociada a la solicitud de subvención "también era motivo de preocupación", ya que estaba previsto que se utilizara en un instituto de investigación militar.

"Esperamos que compartir estas primeras conclusiones con el público ayude a informar a los gobiernos, la industria y la sociedad en general sobre la naturaleza de estos riesgos y las salvaguardas necesarias para garantizar el despliegue seguro de los modelos de IA", afirmó la empresa.