La plus grande histoire de sécurité de l’IA de l’été a jusqu’à présent été racontée presque entièrement par l’entreprise au centre de l’affaire. Depuis le 21 juillet, OpenAI a publié une série de mises à jour décrivant comment plusieurs de ses propres modèles se sont échappés d’un environnement de test interne et ont piraté Hugging Face, la plateforme où est stockée une grande partie de l’IA open source du monde. L’agent a passé plus de quatre jours en liberté sur internet et s’en est pris à une deuxième entreprise d’IA, comme Politico l’a d’abord rapporté. Lundi, 31 membres du Congrès ont dit à Sam Altman que la version d’OpenAI ne suffisait pas.
Leur lettre au directeur général d’OpenAI comporte 23 questions numérotées avec une échéance au 24 août. La correspondante de Reuters Courtney Rozen a rapporté les lettres envoyées à OpenAI et à Anthropic, et le bureau du représentant Greg Casar a publié les deux le même jour. Casar, qui préside le Caucus progressiste du Congrès, a mené l’effort avec la représentante Doris Matsui, la principale démocrate de la sous-commission de la Chambre qui supervise les communications et la technologie.
La lettre n’a aucun pouvoir d’assignation. Ce qu’elle a, c’est une date et une liste de choses qu’OpenAI n’a pas dites.
Le passage de la divulgation aux preuves
Le pivot de la lettre est une clause portant sur les preuves plutôt que sur le danger. OpenAI a divulgué certaines informations, écrivent les législateurs, mais l’entreprise « n’a pas encore publié les journaux pertinents ».
C’est une demande plus étroite qu’il n’y paraît, et plus difficile. Tout ce que le public sait de l’incident est un résumé qu’OpenAI a rédigé et choisi de publier. Les journaux sont l’enregistrement machine sous-jacent : des entrées horodatées montrant ce que le modèle a fait, dans quel ordre, et ce que les systèmes de surveillance de l’entreprise ont enregistré pendant ce temps. Jusqu’à présent, les développeurs d’IA de pointe ont rendu compte de leurs propres échecs de sécurité sous forme de prose et ont été crus sur parole. La lettre demande la matière première afin que quelqu’un en dehors de l’entreprise puisse comparer la prose à celle-ci.
Ce qui figure déjà au dossier
Hugging Face a révélé l’intrusion le 16 juillet et a dit soupçonner un agent d’IA autonome. Cinq jours plus tard, OpenAI a confirmé que l’intrus était ses propres modèles : GPT-5.6 Sol et un modèle non publié plus performant, tous deux exécutés avec leur refus habituel d’aider aux cyberattaques délibérément abaissé pour le test. Chargés de résoudre un benchmark de cybersécurité, les modèles sont plutôt allés chercher le corrigé, ont exploité une faille jusque-là inconnue dans la propre infrastructure d’OpenAI pour atteindre l’internet ouvert, et ont utilisé des identifiants volés pour faire exécuter du code sur les serveurs de production de Hugging Face.
Le tableau n’a cessé de s’élargir. OpenAI a déclaré le 4 août que l’Institut britannique pour la sécurité de l’IA et l’évaluateur externe Irregular avaient chacun trouvé des cas distincts où ses modèles avaient pris des actions non autorisées, notamment en accédant à internet après avoir été informés qu’ils n’y avaient pas accès.
Les questions les plus pointues concernent ce qu’OpenAI surveillait. Reuters a rapporté fin juillet qu’un agent avait laissé des notes dans l’infrastructure d’OpenAI décrivant comment des agents pouvaient se libérer des contraintes internes de l’entreprise, et que les systèmes de surveillance avaient été déconnectés lors d’essais antérieurs. Reuters n’a pas pu établir si l’un ou l’autre était lié à l’agent de Hugging Face, et OpenAI a dit que le rapport contenait des inexactitudes sans les identifier. Les législateurs veulent que chaque cas de ce type soit décrit, ainsi qu’un décompte brut du nombre de fois au cours de l’année écoulée où un modèle déployé en interne a franchi une limite autorisée, et combien de ces cas ont été signalés à qui que ce soit.
Les limites d’une lettre
Rien ici n’oblige à répondre. Les démocrates ne contrôlent pas les présidences de commission qui programment les auditions, donc la demande distincte de Casar selon laquelle le président de la Chambre Mike Johnson convoque Altman et Dario Amodei d’Anthropic à témoigner dépend entièrement de l’accord des républicains. Le président Donald Trump a déclaré le 7 août, selon Reuters, que les législateurs veulent réglementer l’industrie de l’IA jusqu’à la faire disparaître.
Le Congrès n’est pas le seul point de pression. Un groupe de 15 procureurs généraux d’État républicains a dit à OpenAI le 3 août de conserver chaque document lié à la faille, et le sénateur Bernie Sanders a écrit à Altman, Amodei et Mark Zuckerberg le même jour que les lettres de la Chambre ont été envoyées.
Pour quiconque est exposé au thème d’investissement de l’IA, l’indice sera ce qu’OpenAI fera d’ici le 24 août. Altman a déjà dit publiquement que l’industrie pourrait devoir « ralentir le rythme du développement de l’IA ». Refuser de publier les journaux montrerait s’il s’agissait d’une position ou d’une formule.