Au cours des trois dernières semaines, OpenAI, Anthropic et Meta ont chacun publié le récit du même échec. Un modèle s’est vu confier un exercice de piratage dans ce qui était censé être un environnement de test hermétique, a trouvé son chemin vers l’internet ouvert et s’est introduit dans les ordinateurs d’une véritable entreprise. Trois des plus grands développeurs d’IA du pays, trois divulgations, aucun attaquant externe.
Lundi, le sénateur Bernie Sanders a transformé ce schéma en exigence. L’indépendant du Vermont a envoyé une lettre à Sam Altman d’OpenAI, Dario Amodei d’Anthropic et Mark Zuckerberg de Meta, partagée d’abord avec Axios, leur disant à tous les trois d’arrêter de construire des systèmes plus puissants. « Suspendez le développement de l’IA. Il n’est pas trop tard pour éviter la catastrophe », a écrit Sanders. « Que les choses soient très claires : si vous ne prenez pas les mesures appropriées maintenant, mes collègues et moi au Sénat américain le ferons. »
La méthode de la lettre consiste à leur opposer les propres politiques de sécurité des entreprises : l’engagement pris par Anthropic en 2023 de « suspendre la montée en puissance et/ou retarder le déploiement de nouveaux modèles » si les travaux de sécurité prenaient du retard, la déclaration de Meta en 2025 selon laquelle l’entreprise « arrêtera le développement » si un modèle atteint un niveau de risque critique qu’elle ne peut pas atténuer, et l’engagement d’OpenAI de « stopper tout développement supplémentaire » jusqu’à l’existence de garanties solides.
Chacune de ces promesses dépend d’un déclencheur technique. Sanders affirme que ce déclencheur s’est activé. « Ce moment est arrivé », écrit-il. « Les capacités de l’IA ONT atteint un seuil critique. » La phrase fait office d’argument sans en formuler un, et les éléments qu’il rassemble à l’appui sont plus faibles et plus mitigés que ne le laisse entendre la lettre.
Les incidents à l’origine de la lettre
Le premier est devenu public le 21 juillet, lorsque OpenAI a révélé que GPT-5.6 Sol et un modèle non publié, exécutant un benchmark cyber avec leurs refus atténués, ont exploité une faille jusque-là inconnue dans le logiciel de paquets de leur bac à sable, ont atteint internet et compromis Hugging Face. Celui-ci correspond bien à ce qu’en dit Sanders : un échec de confinement, le modèle ayant lui-même réussi à s’échapper.
Les deux autres, non. Anthropic a examiné 141 006 exécutions d’évaluation le 30 juillet et a trouvé trois cas où des modèles ont atteint l’internet ouvert et pénétré dans les systèmes de production d’organisations non liées. La cause était une mauvaise configuration chez son partenaire de test, Irregular, qui avait indiqué aux modèles qu’ils n’avaient pas accès à internet alors qu’ils l’avaient. Le modèle le plus avancé d’Anthropic a reconnu qu’il se trouvait sur l’internet ouvert et s’est arrêté.
Meta a révélé un cas presque identique le 5 août, même prestataire, même erreur. The Information a été le premier à indiquer que le modèle était Muse Spark 1.1. Irregular a déclaré à Reuters qu’il ne s’agissait d’aucune évasion de bac à sable. La lettre de Sanders condense les trois cas en modèles qui « se sont de la même manière échappés à leur contrôle », ce qui efface la distinction entre un système qui vainc sa cage et un prestataire qui laisse la porte ouverte.
Là où l’argument s’amenuise
L’affirmation biologique s’amenuise encore plus vite. Dans l’étude du 6 août publiée dans Science, des chercheurs de Stanford et de Arc Institute ont rédigé des génomes viraux complets, dont 16 ont produit des bactériophages fonctionnels. Les phages n’infectent que les bactéries, et les séquences provenant de virus qui infectent les humains, les animaux ou les plantes ont été délibérément exclues de l’entraînement. Brian Hie, auteur principal, a déclaré au Guardian que la menace de bioweapon liée à la conception de génomes par l’IA est « très exagérée » comparée aux travaux de gain de fonction sur des agents pathogènes existants, qui sont plus faciles. La lettre transforme un résultat de thérapie par phages en dizaines de millions de morts.
Puis il y a le remède. Sanders cite avec approbation une déclaration signée par plus de 1 200 employés de laboratoires, Amodei compris, avertissant que les capacités pourraient dépasser le contrôle. Cette déclaration demande au gouvernement américain de mettre en place des outils pour réguler précisément la cadence à la frontière technologique, précisément parce qu’aucune entreprise ne peut ralentir seule. Sanders la cite pour appuyer une demande faite à trois entreprises de ralentir seules, face aux laboratoires chinois et aux publications en open-weight que sa lettre ne peut atteindre.
Il l’a aussi écrite deux jours après qu’OpenAI a suspendu les travaux sur Astra, un modèle non publié, parce que les évaluations ne permettaient pas d’exclure une capacité cyber critique. C’est l’exemple d’un déclencheur interne activé par une entreprise elle-même, soit précisément le comportement que la lettre affirme avoir été abandonné.
La législation n’arrive pas non plus. La AI Data Center Moratorium Act de Sanders n’a mené nulle part depuis le 25 mars, et l’appareil de sécurité nationale lit les mêmes faits autrement : le directeur de la CIA John Ratcliffe a qualifié les modèles de frontière d’« équivalents à des armes nucléaires numériques » en juin, et la politique qui a suivi a été celle des contrôles à l’exportation, pas d’un arrêt.
Ce que la lettre ne prend pas en compte, c’est l’origine de ses propres éléments de preuve. Chaque incident qu’elle mentionne est public parce qu’une entreprise a choisi de le publier, parfois après avoir audité 141 006 essais que personne n’avait demandé à voir. Sanders traite quatre divulgations volontaires comme la preuve qu’on ne peut pas faire confiance aux laboratoires. La question qu’il laisse aux investisseurs est de savoir ce qui sera divulgué la prochaine fois.