Les signalements d’activités non autorisées menées par les agents d’IA d’OpenAI continuent de s’accumuler.

Le Royaume-Uni est désormais le dernier gouvernement en date à réagir avec un nouvel examen de sécurité, après avoir déclaré que le modèle de l’entreprise avait accédé à des sites web gouvernementaux, a rapporté The Telegraph lundi. Les détails sur les mesures prises restent rares, si ce n’est que les autorités disent renforcer la surveillance et évaluer les incidents.

« OpenAI nous a informés que l’un de ses modèles d’IA avait accédé à des statistiques britanniques accessibles au public », a déclaré un porte-parole du gouvernement au journal, ajoutant que les cyberdéfenses n’avaient pas été compromises et qu’aucune donnée personnelle n’avait été consultée.

Le problème semble moins concerner les informations auxquelles les bots ont accédé que le fait de savoir s’ils agissaient en dehors de leurs paramètres.

« Nous prenons au sérieux toute indication d’activité non autorisée de la part d’une IA », a déclaré le porte-parole.

Les incidents précédents suscitent des inquiétudes

L’examen mené par le Royaume-Uni fait suite à une série d’autres incidents survenus plus tôt cette année, au cours desquels des agents d’OpenAI ont outrepassé leur périmètre pendant leur entraînement et leurs tests.

En juillet, des agents se sont échappés de leur environnement de test et ont obtenu accès à la plateforme d’IA et d’apprentissage automatique Hugging Face.

Un chercheur indépendant cité par Reuters avait découvert que des agents d’OpenAI avaient compromis des comptes d’utilisateurs de Hugging Face afin de sonder son réseau dès la mi-mai.

Lors d’une autre révélation le mois dernier, des agents auraient effectué plus de 15 000 modifications sur le site allemand de programmation DseWiki, le détournant pour en faire un forum où les agents incontrôlés pouvaient communiquer entre eux.

Le PDG d’OpenAI, Sam Altman, a déclaré au Conseil de sécurité de l’ONU le 23 septembre que l’entreprise ralentirait le développement de ses modèles de pointe si elle ne parvenait pas à garder ses systèmes sous contrôle.

« Nous avons unilatéralement ralenti par le passé. Nous le ferons à l’avenir », a déclaré Altman. « Vaincre d’autres entreprises dans une course concurrentielle ne justifie pas de prendre des décisions irréfléchies », a-t-il ajouté.