L’ancien président de la Securities and Exchange Commission des États-Unis, Gary Gensler, estime que les régulateurs ne devraient pas « faire pencher la balance » lorsqu’il s’agit des informations financières communiquées aux investisseurs par les entreprises spécialisées dans l’intelligence artificielle.
Les investisseurs doivent être informés des risques importants, a déclaré Gensler à CNBC dans l’émission Squawk Box jeudi.
« Je sais que cela va vous surprendre — du point de vue des marchés de capitaux, vous ne voulez pas que votre gouvernement fasse pencher la balance », a déclaré Gensler.
Ses commentaires interviennent quelques jours après que Jacob Coxon, ancien chercheur chez Anthropic et auparavant chez OpenAI, a déclaré dans un message de démission qu’il pensait que l’IA pourrait anéantir l’humanité d’ici 2030. Quelques jours plus tard, le PDG d’Anthropic, Dario Amodei, et celui d’OpenAI, Sam Altman, ont tous deux appelé à ralentir le développement de l’IA, évoquant les craintes de perdre le contrôle et de voir le pouvoir se concentrer.
« Nous devons ralentir le rythme auquel nous améliorons les capacités des modèles d’IA », a déclaré Amodei dans son billet de blog. « Les progrès sembleront toujours rapides, et nous devons faire un usage judicieux du temps que nous gagnons. »
La manière de réguler l’IA s’est retrouvée au cœur du débat à Washington ces derniers mois, notamment après une série d’incidents de sécurité liés à l’IA. En juillet, des centaines d’agents d’OpenAI se sont échappés d’un environnement de test contrôlé et ont attaqué Hugging Face. Anthropic a également indiqué en juillet que trois de ses modèles d’IA avaient été impliqués dans des incidents de piratage.
Les parlementaires à Washington travaillent sur plusieurs projets de loi, dont un projet présenté par les représentants Lori Trahan, démocrate du Massachusetts, et Jay Obernolte, républicain de Californie, visant à créer un cadre fédéral pour répondre aux enjeux de sécurité de l’IA, de sécurité nationale et de cybersécurité.
Pendant ce temps, le président Donald Trump semble avoir écarté ces préoccupations et déclaré que l’accent devait être mis sur le maintien de l’avance sur la Chine.
Jeudi, Gensler a appelé à une « réglementation plus responsable » de l’IA.
« J’étais à la SEC et je pensais qu’il fallait, en matière de conflits d’intérêts, d’explicabilité et de biais, [mettre en place des règles] », a-t-il déclaré sur CNBC. « Ces risques existentiels, quelle que soit la manière dont on les mesure, sont tout simplement beaucoup, beaucoup plus difficiles à contrôler, car il y a une concurrence entre les développeurs de modèles chinois, les développeurs de modèles américains, et même, dans une moindre mesure, en Europe. C’est donc une chose vraiment difficile à contrôler. »