Le président américain Donald Trump a déclaré qu’il ne craignait pas que l’intelligence artificielle puisse entraîner l’extinction de l’humanité, et que sa priorité était de maintenir les États-Unis devant la Chine dans le domaine de l’IA.

Interrogé par des journalistes jeudi soir alors qu’il quittait Dallas sur ses éventuelles inquiétudes concernant le risque que l’IA entraîne l’extinction de l’humanité, Trump a répondu, « Non, je n’en ai aucune. »

« Je crains que si nous ne remportons pas la bataille de l’IA, nous ne nous retrouvions dans une très mauvaise position », a déclaré Trump. « Nous devançons actuellement la Chine d’une assez bonne longueur. Je dirais d’un an, ce qui est, vous savez, considéré comme beaucoup. »

Ses commentaires interviennent après que des chercheurs d’Anthropic et d’OpenAI ont exprimé leurs inquiétudes face à des systèmes d’IA de plus en plus puissants, qui pourraient devenir difficiles à contrôler pour les humains.

Des chercheurs alertent sur l’IA capable de s’améliorer elle-même

Jacob Coxon, qui a travaillé sur la recherche en IA chez OpenAI et, plus récemment, chez Anthropic, a déclaré mardi qu’il quittait Anthropic en raison de ses inquiétudes concernant le développement de l’IA.

Coxon a déclaré qu’Anthropic et OpenAI se livraient à une course vers une « superintelligence capable de s’améliorer elle-même » et « jouaient avec nos vies ». Il a averti que les futurs systèmes d’IA pourraient devenir très performants en matière de piratage informatique, accélérer rapidement la recherche scientifique et accéder à des ressources du monde réel.

Il a également déclaré que les personnes qui développent cette technologie pensent qu’elle pourrait « tous nous tuer d’ici la fin de la décennie ».

Evan Hubinger, responsable scientifique de l’alignement chez Anthropic, a déclaré qu’il estimait personnellement à plus de 10 % la probabilité qu’un tel scénario se produise au cours de la prochaine décennie.

Une grande partie des inquiétudes concerne l’amélioration récursive de soi (RSI), un processus par lequel un système d’IA contribue à construire ou à entraîner de nouvelles versions de lui-même avec une intervention humaine limitée.

OpenAI a déclaré mercredi que la RSI entièrement autonome « n’est pas d’actualité ». « Cependant, l’IA accélère déjà certaines parties de la recherche utilisée pour développer et aligner la prochaine génération de modèles », a ajouté l’entreprise.

Le scientifique en chef d’OpenAI, Jakub Pachocki, a écrit la semaine dernière qu’il avait une « forte conviction » que les progrès actuels de l’IA pourraient à terme conduire à la RSI.

OpenAI a depuis appelé à l’adoption de normes communes, notamment concernant le moment où le développement devrait ralentir ou s’arrêter.

Le débat sur la réglementation de l’IA s’intensifie

La question attire également davantage l’attention des parlementaires à Washington.

En juillet, le représentant républicain Jay Obernolte et la représentante démocrate Lori Trahan ont présenté la loi bipartisane FRONTIER Act. Elle obligerait les principaux développeurs d’IA à publier des plans de gestion des risques, à se soumettre à des audits indépendants et à signaler les incidents graves.

Plus tôt ce mois-ci, le sénateur Bernie Sanders et le représentant Greg Casar ont annoncé des projets de loi qui interdiraient définitivement le développement et l’utilisation d’une IA superintelligente. Ils prévoiraient également de suspendre le développement de l’IA avancée jusqu’à ce qu’un nouveau régulateur fédéral établisse des règles de sécurité.

L’administration Trump a toutefois privilégié une réglementation légère. Plus tôt ce mois-ci, les ministres de l’Innovation du G20 ont soutenu les Carolina Principles dirigés par les États-Unis, un cadre non contraignant qui privilégie des politiques flexibles et l’utilisation des règles existantes lorsque cela est possible.

Trump a également soutenu une expansion rapide des centres de données dédiés à l’IA. Le mois dernier, il a déclaré que les communautés qui les refusent risquaient de devenir « arriérées et pauvres, » ajoutant que la Chine « ne pourrait pas être plus heureuse » face à l’opposition à de tels projets aux États-Unis.