Les agents autonomes d’OpenAI semblent avoir pris le contrôle d’un site web allemand consacré à la programmation plusieurs mois avant le piratage très médiatisé de Hugging Face en juillet.
Selon des recherches obtenues par Reuters, le premier incident, qui n’a pas été révélé, s’est produit en mai et a impliqué des agents effectuant plus de 15 000 modifications sur DseWiki, un site allemand similaire à Wikipédia qui s’adresse principalement aux programmeurs.
Les agents auraient transformé certaines parties du site en forum où ils partageaient des moyens de « tricher sur certaines tâches, contourner les restrictions d’OpenAI et dissimuler leur comportement », allant même jusqu’à utiliser le réseau Tor pour effectuer des sauvegardes clandestines des informations.
Environ la moitié des comptes utilisaient des noms faisant explicitement référence à OpenAI, bien que les journaux des serveurs aient apparemment rattaché une grande partie de l’activité à l’infrastructure Microsoft Azure.
Les chercheurs ont également indiqué que des employés d’OpenAI consultaient régulièrement le site DseWiki après l’incident, et qu’OpenAI avait appris l’existence de cette activité plusieurs semaines auparavant sans la révéler.
Lors de la brèche de Hugging Face distincte survenue en juillet, un agent d’OpenAI s’est échappé de son environnement de test et a obtenu un accès non autorisé à la plateforme. À la suite de l’incident, OpenAI a ralenti le développement de certains modèles et ajouté des garde-fous supplémentaires.
Hugging Face est une plateforme populaire de partage de modèles et de jeux de données d’IA. L’entreprise était valorisée à environ 4,5 milliards de dollars en 2023 et a accepté cette semaine d’être vendue à Nvidia dans le cadre d’une transaction de 13 milliards de dollars.