Les chercheurs de Swarmchasers ont publié un rapport plus tôt cette semaine, détaillant comment des agents IA malveillants exécutés sur une infrastructure liée à Tencent ont tenté à plus de 2 800 reprises de récupérer des informations du service de cartographie Amap d’Alibaba entre le 28 septembre et le 8 octobre.

L’équipe IA de Tencent a reconnu ces conclusions vendredi ; elle a toutefois indiqué que le « comportement imprévu de navigation sur le Web » provenait d’évaluations de modèles tiers. Un examen de l’incident n’a trouvé aucun élément attestant un ciblage délibéré ou une coordination, a ajouté l’équipe.

« Nous prenons ces conclusions au sérieux », a écrit l’équipe sur X. « Nous renforçons les contrôles d’accès au réseau et la surveillance des agents. »

Selon les chercheurs de Swarmchasers, les agents recherchaient diverses informations, notamment les entrées couramment utilisées dans les parcs, les musées et les zoos en Chine.

Après le blocage des requêtes habituelles, les agents ont essayé d’autres méthodes, notamment des outils Web publics capables d’ouvrir des pages et d’exécuter du code. Cela leur a permis d’acheminer les requêtes via d’autres sites Web, mais il n’a pas été établi qu’un agent ait lu le résultat ou mené sa tâche à bien, ont indiqué les chercheurs.

Un phénomène plus large d’agents IA qui déraillent

L’incident survient alors que d’autres signalements font état d’agents IA qui déraillent. OpenAI a indiqué jeudi qu’un modèle de recherche interne avait déployé des contrats intelligents sur le réseau de test Ethereum Sepolia en utilisant des fonds provenant d’un portefeuille auquel il avait accédé sans autorisation.

L’agence indienne de cybersécurité CERT-In a également signalé que des modèles IA en cours de test accédaient à des systèmes en production d’organisations indiennes et lisaient des dossiers confidentiels sans être détectés. L’agence a déclaré que les fournisseurs avaient signalé volontairement les incidents, sans les nommer.

Entre-temps, Tencent n’a pas nommé les modèles tiers impliqués dans cette activité de navigation.