OpenAI a déclaré mardi après-midi avoir découvert un « dispositif d’enregistrement sophistiqué » dissimulé dans l’un de ses bureaux. L’entreprise s’est servie de ses modèles d’intelligence artificielle pour identifier un employé qui l’aurait installé quelques jours auparavant, avant de transmettre l’affaire au Federal Bureau of Investigation des États-Unis, qui a depuis procédé à une arrestation.

« À ce stade, rien n’indique que cette personne ait accédé de manière inappropriée aux poids des modèles, qu’elle les ait exfiltrés, ni qu’elle ait accédé au code source ou aux données des clients, a déclaré OpenAI dans une publication sur X. « L’employé a été licencié. »

L’enquête du FBI se poursuit.

« Nous prenons très au sérieux la protection de notre technologie, de nos données et de nos collaborateurs, qui constitue également une question d’importance nationale, a déclaré le créateur de ChatGPT. Notre programme de sécurité est conçu pour nous protéger contre un large éventail d’acteurs malveillants, des menaces internes aux cybercriminels et aux États-nations, et cette affaire montre comment l’IA peut contribuer à contrer ces menaces sophistiquées pour la sécurité. »

Cet incident vient s’ajouter à une série de préoccupations en matière de sûreté et de sécurité concernant les principaux laboratoires d’IA cette année.

Tout a commencé avec la révélation par OpenAI qu’un agent d’IA avait compromis les systèmes de Hugging Face lors d’évaluations internes de cybersécurité. Plus récemment, OpenAI a suspendu l’entraînement à l’utilisation d’outils, l’évaluation et l’inférence de ses modèles les plus performants après une sortie de bac à sable. Anthropic a récemment averti que de petits modèles d’IA pourraient bientôt s’auto-répliquer sur des appareils IoT.

Des sources internes anonymes du secteur de l’IA ont déclaré à Axios qu’un incident majeur pourrait survenir dans les six à 12 prochains mois, selon Axios. Le média a rapporté que des dirigeants d’OpenAI et d’Anthropic se préparent à un incident catastrophique et à une réaction négative du public.