31 législateurs demandent à OpenAI de publier ses journaux de l’incident Hugging Face

Les détails de l’exploit de Hugging Face sont publiés périodiquement depuis que l’affaire a éclaté le 21 juillet. C’est à ce moment-là qu’OpenAI a annoncé que des modèles étaient responsables de l’intrusion, au cours de laquelle des versions de GPT-5.6 Sol et un modèle interne non identifié ont accédé à l’Internet ouvert pendant des tests de cybersécurité de routine, avant de s’introduire dans les bases de données de la plateforme de référencement d’IA open source. Des rapports ultérieurs ont détaillé comment ces agents ont passé quatre jours avec un accès illimité à Internet et pourraient même avoir ciblé une seconde entreprise d’IA.

Cependant, les législateurs américains commencent à s’impatienter face au compte-gouttes de détails émergeant d’OpenAI. Lundi, 31 membres du Congrès ont publié une lettre adressée au PDG Sam Altman, exigeant qu’il publie l’intégralité des journaux de l’incident pour un examen indépendant.

Le groupe de législateurs a également envoyé une lettre à Anthropic pour faire part de ses préoccupations concernant les capacités cybernétiques de l’IA. Le bureau du représentant Greg Casar — président du Congressional Progressive Caucus et responsable de cette initiative — a publié les deux lettres le même jour.

La lettre adressée à Altman contient 23 questions numérotées et fixe au 24 août la date limite pour la réponse d’Altman. La lettre affirme qu’OpenAI « n’a toujours pas publié les journaux pertinents », faisant de ses propres rapports la seule fenêtre sur l’événement. Selon la lettre, ces rapports sont également incomplets.

L’accès aux données brutes contenues dans les journaux d’activité permettrait d’obtenir une image plus complète de ce qui s’est passé, grâce aux enregistrements précis et horodatés de chaque action effectuée par les modèles et les systèmes de surveillance d’OpenAI. Jusqu’à présent, l’autodéclaration constituait la procédure standard pour ces incidents ; on ne sait donc pas encore si OpenAI compte s’y conformer.

Ce que l’on sait déjà de l’exploit de Hugging Face

L’incident très médiatisé a été révélé pour la première fois le 16 juillet, lorsque Hugging Face a divulgué l’intrusion dans son système. L’entreprise a déclaré qu’elle pensait qu’un agent d’IA autonome en était responsable, et OpenAI a confirmé ses soupçons cinq jours plus tard. Les modèles de l’entreprise avaient exécuté l’attaque dans le cadre de tests internes de cybersécurité, avec des garde-fous réduits.

Lorsque les modèles ont été soumis à un test de référence en cybersécurité, ils ont estimé que le moyen le plus simple de le réussir serait de voler les réponses sur le site qui les hébergeait : Hugging Face. Les modèles sont alors partis à la recherche du corrigé, ont exploité une faille jusque-là inconnue dans la propre infrastructure d’OpenAI pour atteindre l’Internet ouvert, puis ont utilisé des identifiants volés afin d’exécuter du code sur les serveurs de production du site.

Ce processus a pris plusieurs semaines, soulevant des questions sur la solidité des systèmes internes de surveillance d’OpenAI. Un rapport de Reuters publié en juillet a révélé que plusieurs agents avaient laissé des notes cachées dans l’infrastructure d’OpenAI, créant en substance un forum de discussion improvisé où ils échangeaient sur des stratégies pour atteindre l’Internet ouvert. Le même rapport affirmait que les systèmes de surveillance de l’entreprise avaient été désactivés lors de précédentes sessions de test. OpenAI a contesté l’exactitude de ce rapport sans répondre aux différents points soulevés.

Le 4 août, OpenAI a également révélé que deux évaluateurs externes avaient chacun découvert des cas où ses modèles avaient entrepris des actions non autorisées.

Les législateurs américains exigent un compte rendu complet de tous ces incidents. Leur lettre demande le décompte de chaque cas où un modèle d’OpenAI a entrepris une telle action non autorisée au cours de l’année écoulée, ainsi qu’un compte rendu des mesures prises par l’entreprise, le cas échéant.

OpenAI n’a pas encore répondu aux demandes du Congrès

Il convient de noter que la lettre envoyée cette semaine est une initiative du Parti démocrate, qui ne contrôle pas les présidences des commissions ayant le pouvoir de programmer des auditions ; le représentant Casar a séparément demandé au président de la Chambre, Mike Johnson, de convoquer Altman et le PDG d’Anthropic, Dario Amodei, pour témoigner devant le Congrès, mais cela nécessiterait le soutien des républicains pour aboutir.

Le président Trump lui-même a signalé une possible opposition à de telles mesures, affirmant que les législateurs risquaient de faire sortir l’industrie américaine de l’IA du marché par la réglementation.

Des mesures alternatives sont également prises au niveau des États. Le 3 août, 15 procureurs généraux républicains d’États ont demandé à OpenAI de conserver chaque document lié à la faille. Le sénateur Bernie Sanders a également écrit à Altman, Amodei et Mark Zuckerberg le jour même de l’envoi des lettres de la Chambre des représentants.

Que OpenAI réponde ou non aux demandes de la lettre pourrait préfigurer le ton des relations entre les législateurs et les laboratoires d’IA dans les mois à venir. Altman lui-même a déjà déclaré que l’industrie pourrait devoir « ralentir le rythme du développement de l’IA » afin d’éviter de perdre le contrôle de ses propres créations.