Lors de son point annuel sur les menaces, mardi à Londres, le directeur général du MI5, Sir Ken McCallum, a déclaré que le pays était entré dans une « nouvelle ère de la sécurité nationale », soulignant les risques émergents posés par l’intelligence artificielle.
Le MI5 est le service de renseignement intérieur du Royaume-Uni, chargé de protéger la sécurité nationale contre des menaces comme le terrorisme et les activités d’États hostiles. Bien qu’il soit en quelque sorte comparable au FBI aux États-Unis, il ne dispose pas de pouvoirs d’arrestation et travaille aux côtés des services chargés de l’application de la loi.
Durant son discours, McCallum a présenté trois éléments interdépendants de la résilience nationale, dans le cadre des efforts du MI5 pour protéger le Royaume-Uni contre les menaces émergentes.
Concernant la résilience systémique, McCallum a souligné la nécessité de protéger les infrastructures, les actifs et les services essentiels, notamment les systèmes financiers, les réseaux énergétiques, les chaînes d’approvisionnement et les bases industrielles. Sur le plan sociétal, il a averti que des acteurs hostiles exploitent les divisions sociales, parfois amplifiées par des algorithmes polarisants, pour saper la cohésion des communautés et les institutions démocratiques. Le troisième élément, la résilience technologique, est largement axé sur l’IA.
« De même que les avantages de l’IA sont bien réels, les risques qu’elle fait peser sur la sécurité nationale le sont aussi », a déclaré McCallum. « L’IA accélère déjà considérablement la confrontation entre attaquants et défenseurs dans le domaine de la cybersécurité. »
McCallum a mis en garde contre la capacité de l’IA à produire des contenus de propagande et de radicalisation adaptés à chaque individu. Il a ajouté que le MI5 avait intercepté des terroristes cherchant à exploiter l’IA pour améliorer leurs méthodes de reconnaissance et d’attaque, notamment au moyen de drones pilotés par l’IA.
Bien que cette possibilité ne se soit pas encore concrétisée, il a réservé son avertissement le plus sévère au potentiel de l’IA de « modifier la donne concernant les armes biologiques existantes, voire de nouvelles armes biologiques ».
Lancement du Centre d’évaluation des menaces liées à l’IA
La communauté britannique du renseignement dans son ensemble — le MI5, le GCHQ, l’équivalent britannique de la NSA, et le MI6, l’équivalent britannique de la CIA — travaille en étroite collaboration avec l’AI Security Institute du Royaume-Uni pour faire face à ces risques, a déclaré McCallum. Il a insisté sur la nécessité de garder une longueur d’avance sur les acteurs malveillants qui exploitent cette technologie, d’autant que l’IA accélère de plus en plus son propre développement.
McCallum a déclaré que l’agence avait déjà contribué à combattre de nouveaux vecteurs d’attaque en créant de nouvelles structures chargées d’analyser les dangers émergents, comme le Joint Terrorism Analysis Centre à l’époque des attentats du 11 septembre 2001.
Mardi, McCallum a annoncé le lancement par le MI5 du Centre d’évaluation des menaces liées à l’IA, ou AITAC, qui s’appuiera sur l’expertise de l’AI Security Institute, de la National Crime Agency et du National Cyber Security Centre pour évaluer spécifiquement les menaces émergentes liées à cette technologie et éclairer les décisions en matière de sécurité nationale.
« Alors que le gouvernement cherche à la fois à saisir les immenses possibilités de l’IA et à gérer les risques engendrés par son utilisation abusive, il est essentiel que nous comprenions clairement ces nouveaux domaines afin de pouvoir prendre rapidement des décisions lourdes de conséquences », a-t-il déclaré.
Au-delà de l’utilisation abusive de l’IA par des adversaires, McCallum a également mis en garde contre les risques posés par la technologie elle-même, notamment en matière d’alignement sur les valeurs humaines.
« Pour le dire très simplement, l’histoire humaine ne nous a jamais confrontés à un acteur plus intelligent que nous, [et] capable de nous surpasser intellectuellement », a-t-il déclaré. « C’est véritablement inédit et cela mérite l’attention soutenue qui lui est accordée, notamment au MI5. »