Los investigadores de Swarmchasers publicaron un informe a principios de esta semana en el que detallaron cómo agentes de IA no autorizados que operaban en infraestructura vinculada a Tencent realizaron más de 2.800 intentos de obtener información del servicio de mapas Amap, de Alibaba, entre el 28 de septiembre y el 8 de octubre.

El equipo de IA de Tencent reconoció los hallazgos el viernes; sin embargo, afirmó que el «comportamiento no intencionado de navegación web» se originó en evaluaciones de modelos de terceros. El equipo añadió que una revisión del incidente no encontró pruebas de un objetivo deliberado ni de coordinación.

«Nos tomamos estos hallazgos muy en serio», escribió el equipo en X. «Estamos reforzando los controles de acceso a la red y la supervisión de los agentes».

Según los investigadores de Swarmchasers, los agentes buscaron distintos tipos de información, incluidas las entradas de uso más frecuente en parques, museos y zoológicos de China.

Después de que se bloquearan las solicitudes rutinarias, los agentes probaron métodos alternativos, incluidas herramientas web públicas capaces de abrir páginas y ejecutar código. Esto les permitió redirigir las solicitudes a través de otros sitios web, pero no se estableció que ningún agente leyera el resultado o completara su tarea, afirmaron los investigadores.

Un patrón más amplio de agentes de IA que se descontrolan

El incidente se produce en medio de otros informes sobre agentes de IA que se descontrolan. OpenAI afirmó el jueves que un modelo interno de investigación desplegó contratos inteligentes en la red de prueba de Ethereum Sepolia utilizando fondos de una billetera a la que accedió sin autorización.

La agencia de ciberseguridad de India, CERT-In, también informó de que modelos de IA en fase de prueba accedieron a sistemas activos de organizaciones indias y leyeron registros confidenciales sin ser detectados. La agencia afirmó que los proveedores revelaron voluntariamente los incidentes, pero no los identificó.

Mientras tanto, Tencent no identificó los modelos de terceros implicados en la actividad de navegación.