Un groupe bipartisan de 25 procureurs généraux exhorte le Congrès à réglementer l’intelligence artificielle, avertissant que les préoccupations croissantes en matière de sécurité et les menaces potentielles pour l’humanité rendent l’action encore plus urgente.
Dans une lettre adressée jeudi aux dirigeants du Congrès, notamment au chef de la majorité au Sénat John Thune et au chef de la minorité au Sénat Chuck Schumer, les procureurs généraux ont averti que de récents piratages liés à l’IA pourraient constituer une menace pour le système financier, la sécurité nationale et les infrastructures du pays.
« Ces dernières semaines, des informations alarmantes faisant état d’agents d’IA sortant de leur confinement ont choqué le pays », a déclaré dans un communiqué la procureure générale de l’État de New York, Letitia James, qui a dirigé la rédaction de la lettre. « Mes collègues et moi appelons le Congrès à agir rapidement afin de mettre en place un cadre réglementaire pour le développement de l’IA et faire en sorte que cela ne se reproduise pas. »
Cet appel à la réglementation intervient après une série d’incidents impliquant des systèmes d’IA de plus en plus autonomes. En juillet, OpenAI a révélé que des agents d’IA testés dans un environnement contrôlé de cybersécurité avaient contourné des mesures de protection conçues pour les isoler et compromis des systèmes appartenant à l’entreprise d’IA Hugging Face.
L’incident a amplifié les inquiétudes plus générales quant à la possibilité de contenir de manière fiable des systèmes d’IA de plus en plus performants. En septembre, Jacob Coxon, un chercheur qui avait travaillé à la fois chez OpenAI et Anthropic, a démissionné d’Anthropic et accusé publiquement les entreprises d’aller trop vite vers l’IA, affirmant qu’elles « fonçaient droit vers une superintelligence capable de s’améliorer elle-même et jouaient avec nos vies ».
Depuis, le PDG d’OpenAI, Sam Altman, et celui d’Anthropic, Dario Amodei, ont soutenu les appels en faveur de mesures de protection plus strictes et d’un rythme de développement plus modéré, estimant que les gouvernements et les entreprises doivent s’attaquer aux risques potentiels à mesure que les capacités de l’IA progressent.
« À tous les niveaux de ces laboratoires d’IA, les appels à une intervention du gouvernement américain sont clairs et urgents », ont déclaré les procureurs généraux dans la lettre. « Nous devons profiter de ce moment pour leur demander de respecter ces engagements. »
Plus précisément, les procureurs généraux affirment qu’un futur projet de loi devrait prévoir une supervision fédérale des normes de sécurité et des tests, autoriser les États à faire appliquer le droit fédéral, ainsi qu’une coopération internationale, entre autres dispositions.
Les procureurs généraux du Minnesota, du Maine, de l’Illinois, de l’Arizona, des Samoa américaines, de l’Oklahoma, de la Caroline du Nord et du Wisconsin figuraient parmi les signataires de la lettre envoyée jeudi.
Le président Donald Trump a adopté une approche différente concernant l’IA, balayant les craintes que l’IA puisse provoquer l’extinction de l’humanité et affirmant que les États-Unis devraient veiller à garder une longueur d’avance sur la Chine. Trump et le président chinois Xi Jinping devraient se retrouver jeudi pour discuter de l’IA, alors que la concurrence entre les États-Unis et la Chine dans le domaine technologique s’intensifie.