OpenAI a publié mercredi un article appelant les gouvernements à imposer des exigences de sécurité obligatoires pour les systèmes d’IA de pointe, affirmant que le temps est compté pour établir de telles règles.

« Nous sommes entrés dans un nouveau chapitre des capacités de l’IA, ce qui exige un nouveau chapitre pour les politiques publiques relatives à l’IA », a déclaré Chris Lehane, directeur des affaires mondiales d’OpenAI, a déclaré. « Les responsables politiques se trouvent dans une situation comparable : la fenêtre se referme pour établir des garde-fous durables avant que les capacités de l’IA ne dépassent les institutions chargées de les encadrer. »

Le dernier article d’OpenAI intervient un jour après que Jacob Coxon, un chercheur spécialisé dans le préentraînement ayant travaillé à la fois chez Anthropic et OpenAI, a publié sur X un message rapidement devenu viral, recueillant 138 millions de vues et déclenchant un débat intense sur les risques liés à l’accélération du développement de l’IA.

Coxon, annonçant sa démission d’Anthropic, a averti que les deux laboratoires d’IA faisaient la course vers une superintelligence capable de s’améliorer elle-même, sans prendre en compte les risques pour la civilisation. Coxon a affirmé que les développeurs d’IA partagent la conviction que cette technologie pourrait tuer l’humanité d’ici 2030.

Lehane a souligné que l’auto-amélioration récursive entièrement autonome de l’IA n’était pas encore une réalité, et que les entreprises ne devraient pas la poursuivre en l’absence de garde-fous appropriés.

Cependant, Lehane a déclaré que l’IA avait déjà accéléré les capacités humaines dans de nombreux domaines et que cela devait être encadré par un contrôle humain réel et des seuils de sécurité communs à l’échelle mondiale, capables de freiner ou d’arrêter cette progression.

« Plus la technologie devient puissante, plus les garde-fous qui l’entourent doivent être solides », indique l’article.

Un appel au Congrès

Dans son dernier article, OpenAI a déclaré vouloir collaborer avec le Congrès à l’élaboration de règles aux États-Unis couvrant les tests, l’évaluation indépendante, la cybersécurité, le signalement des incidents et les mesures permettant de suivre les progrès vers l’auto-amélioration récursive de l’IA.

En attendant l’entrée en vigueur d’une règle nationale, OpenAI a déclaré qu’il continuerait à soutenir les mesures prises au niveau des États, annonçant son soutien à quatre projets de loi en Californie — SB 813, AB 1405, SB 1119 et AB 1864 — qui portent sur l’évaluation des risques, les audits indépendants, les exigences en matière de responsabilité et les dispositifs de protection physique contre les menaces pilotées par l’IA.

« Nous n’avions pas soutenu certains de ces projets de loi par le passé, mais nous les soutenons désormais après les avoir réévalués à la lumière de la récente progression des capacités que nous avons observée », a déclaré Lehane. L’entreprise avait déjà exprimé son soutien au SB 53 de Californie, au RAISE Act de New York, au SB 315 de l’Illinois ainsi qu’aux audits indépendants prévus dans le projet de loi sur la sécurité de l’IA de pointe actuellement examiné dans le Massachusetts.

L’article appelle également à l’établissement de normes sectorielles pour surveiller le développement de l’IA, notamment afin de détecter les signes de désalignement lorsqu’un modèle poursuit un objectif contraire aux intentions humaines ou aux limites fixées, sans intention malveillante.

Le dirigeant d’OpenAI a déclaré que la surveillance devait être liée à des exigences claires de transparence pour les entreprises, les obligeant à avertir rapidement les parties concernées lorsque leurs modèles contournent sans autorisation les contrôles de sécurité d’une autre organisation. Un tel incident s’est produit en juillet, lorsque des agents d’OpenAI se sont échappés d’un environnement de test et ont piraté l’infrastructure de Hugging Face pour atteindre leur objectif.

OpenAI élabore actuellement un cadre pour signaler les incidents de désalignement et a déclaré espérer l’utiliser pour contribuer à l’élaboration de politiques fédérales plus larges.

« Les modèles, la recherche et l’expertise technique circulent à l’échelle mondiale, et les défaillances impliquant les systèmes les plus performants pourraient avoir des conséquences bien au-delà du pays dans lequel ils sont développés », a écrit OpenAI. « Les États-Unis doivent établir des normes crédibles sur leur territoire s’ils veulent jouer un rôle de premier plan à l’international — et nous sommes de plus en plus convaincus que des normes internationales compatibles seront nécessaires. »