En su informe anual sobre amenazas, presentado el martes en Londres, el director general del MI5, Sir Ken McCallum, afirmó que el país ha entrado en una «nueva era de seguridad nacional» y destacó los riesgos emergentes que plantea la inteligencia artificial.
El MI5 es la agencia de inteligencia interior del Reino Unido, responsable de proteger la seguridad nacional frente a amenazas como el terrorismo y las actividades de Estados hostiles. Aunque es relativamente comparable al FBI de Estados Unidos, no tiene facultades de arresto y trabaja junto con los organismos encargados de hacer cumplir la ley.
Durante el discurso, McCallum describió tres elementos interconectados de la resiliencia nacional como parte del enfoque del MI5 para proteger al Reino Unido frente a las amenazas emergentes.
En cuanto a la resiliencia sistémica, McCallum destacó la necesidad de proteger la infraestructura, los activos y los servicios críticos, incluidos los sistemas financieros, las redes energéticas, las cadenas de suministro y las bases manufactureras. Sobre la resiliencia social, advirtió que los actores hostiles explotan las divisiones sociales, a veces amplificadas por algoritmos polarizadores, para socavar la cohesión comunitaria y las instituciones democráticas. El tercer elemento, la resiliencia tecnológica, se centra en gran medida en la IA.
«Al igual que los beneficios de la IA son reales, también lo son los riesgos para la seguridad nacional», afirmó McCallum. «La IA ya está acelerando enormemente la disputa en materia de ciberseguridad entre atacantes y defensores».
McCallum advirtió que la IA puede producir propaganda y material de radicalización adaptados a cada persona, y añadió que el MI5 ha detectado a terroristas que buscan aprovechar la IA para mejorar sus métodos de reconocimiento y ataque, incluidos los drones habilitados para IA.
Aunque todavía no se ha materializado, reservó su advertencia más contundente para la posibilidad de que la IA «cambie radicalmente el nivel de riesgo de las armas biológicas existentes o incluso de nuevas armas biológicas».
Lanzamiento del AI Threat Assessment Centre
La comunidad de inteligencia del Reino Unido —el MI5, el GCHQ, similar a la NSA, y el MI6, similar a la CIA— trabaja estrechamente con el AI Security Institute del Reino Unido para hacer frente a estos riesgos, afirmó McCallum. Subrayó la necesidad de adelantarse a los actores de amenazas que aprovechan esta tecnología, especialmente ahora que la IA acelera cada vez más su propio desarrollo.
McCallum afirmó que la agencia ha ayudado en el pasado a combatir nuevos vectores de ataque mediante la creación de estructuras para analizar peligros emergentes, como el Joint Terrorism Analysis Centre en la época del 11-S.
El martes, McCallum anunció el lanzamiento por parte del MI5 del AI Threat Assessment Centre, o AITAC, que reúne la experiencia del AI Security Institute, la National Crime Agency y el National Cyber Security Centre para evaluar específicamente las amenazas emergentes derivadas de esta tecnología y orientar las decisiones de seguridad nacional.
«Mientras el Gobierno busca aprovechar las enormes oportunidades de la IA y gestionar los riesgos generados por su uso indebido, es fundamental que veamos con claridad estos ámbitos emergentes para poder tomar rápidamente decisiones de gran impacto», afirmó.
Más allá del uso indebido de la IA por parte de adversarios, McCallum también advirtió sobre los riesgos que plantea la propia tecnología, especialmente en lo relativo a su alineación con los intereses humanos.
«En términos simples, la historia humana no nos ha dado ninguna experiencia de enfrentarnos a un actor más inteligente que nosotros, [y] capaz de superarnos en capacidad de razonamiento», afirmó. «Esto es verdaderamente novedoso y merece la seria atención que está recibiendo, incluso en el MI5».