Le délai entre l’identification d’une cible militaire et sa frappe se réduit à mesure que l’intelligence artificielle prend en charge davantage de tâches sur le champ de bataille, a averti mardi Robin Geiss, directeur de l’Institut des Nations unies pour la recherche sur le désarmement, a averti mardi.
« Allons-nous laisser des machines cibler et tuer des êtres humains ? » a demandé Geiss lors d’une séance d’information au siège de l’ONU à New York, avertissant que l’IA était de plus en plus « en passe de reléguer la prise de décision humaine au second plan » dans la guerre, y compris dans le domaine nucléaire.
Geiss a déclaré que les forces armées utilisent l’IA pour analyser des renseignements, identifier des cibles, piloter des drones et coordonner des cyberattaques. Bon nombre de ces systèmes sont difficiles à interpréter, ce qui rend les erreurs plus difficiles à détecter et accroît le risque d’erreur de calcul et d’escalade involontaire, a-t-il ajouté.
Le mois dernier, un chatbot d’IA aurait contribué à produire un rapport de renseignement identifiant à tort la cargaison d’un navire chinois comme étant constituée de matières nucléaires. Les forces américaines se sont préparées à arraisonner le navire et des appareils ont été dépêchés avant que l’erreur ne soit découverte et que l’opération soit annulée. Une source a déclaré à CNN que l’incident « avait failli déclencher une guerre ».
Un forum de l’ONU pour aborder les risques liés à l’IA militaire
L’UNIDIR prévoit de lancer jeudi un nouveau forum consacré à l’IA dans le domaine de la paix et de la sécurité internationales. Geiss a déclaré que cette initiative élaborerait des lignes directrices volontaires pour le développement d’outils d’IA militaires et clarifierait la terminologie relative à la sécurité. Elle étudiera également la manière dont des groupes de miliciens pourraient utiliser cette technologie à des fins de planification et de logistique.
Geiss a reconnu que la concurrence géopolitique constituait un obstacle à la réglementation, mais a déclaré que les inquiétudes étaient partagées au-delà des clivages politiques, y compris parmi les grandes puissances.
En septembre, les États-Unis ont proposé à la Chine un mécanisme de notification concernant l’IA afin de s’alerter mutuellement en cas d’incidents susceptibles de menacer la sécurité nationale. Le secrétaire général de l’ONU a également appelé à un renforcement de la réglementation de l’IA militaire et à l’adoption d’un traité juridiquement contraignant sur les armes autonomes létales.