Em sua atualização anual sobre ameaças, realizada em Londres na terça-feira, o diretor-geral do MI5, Sir Ken McCallum, afirmou que o país entrou em uma "nova era da segurança nacional", destacando os riscos emergentes apresentados pela inteligência artificial.
O MI5 é a agência de inteligência doméstica do Reino Unido, responsável por proteger a segurança nacional contra ameaças que incluem terrorismo e atividades hostis de Estados. Embora seja relativamente comparável ao FBI dos Estados Unidos, o órgão não tem poderes de prisão e trabalha em conjunto com agências de aplicação da lei.
Durante o discurso, McCallum destacou três elementos interconectados da resiliência nacional como parte do foco do MI5 em proteger o Reino Unido contra ameaças emergentes.
Sobre a resiliência sistêmica, McCallum destacou a necessidade de proteger infraestruturas, ativos e serviços críticos, incluindo sistemas financeiros, redes de energia, cadeias de suprimentos e bases industriais. Sobre a resiliência social, ele alertou que agentes hostis exploram divisões sociais, às vezes ampliadas por algoritmos polarizadores, para enfraquecer a coesão comunitária e as instituições democráticas. O terceiro elemento, a resiliência tecnológica, tem a IA como foco principal.
"Assim como os benefícios da IA são reais, os riscos à segurança nacional também são", disse McCallum. "A IA já está acelerando drasticamente a disputa de cibersegurança entre atacantes e defensores."
McCallum alertou que a IA pode produzir propaganda e material de radicalização personalizado para cada indivíduo, acrescentando que o MI5 identificou terroristas tentando explorar a IA para aprimorar seus métodos de reconhecimento e ataque, incluindo drones habilitados por IA.
Embora isso ainda não tenha acontecido, ele reservou seu alerta mais contundente para o potencial de a IA "mudar o nível de risco associado às armas biológicas existentes ou até mesmo a novas armas biológicas".
Lançamento do AI Threat Assessment Centre
A comunidade de inteligência do Reino Unido — o MI5, o GCHQ, semelhante à NSA, e o MI6, semelhante à CIA — está trabalhando em estreita colaboração com o AI Security Institute do Reino Unido para enfrentar esses riscos, afirmou McCallum, enfatizando a necessidade de se manter à frente de agentes de ameaças que utilizam a tecnologia, especialmente à medida que a IA acelera cada vez mais o próprio desenvolvimento.
McCallum afirmou que a agência já ajudou a combater novos vetores de ataque no passado ao criar novas estruturas para analisar perigos emergentes, como o Joint Terrorism Analysis Centre, criado na era pós-11 de setembro.
Na terça-feira, McCallum anunciou o lançamento do AI Threat Assessment Centre pelo MI5, ou AITAC, reunindo especialistas do AI Security Institute, da National Crime Agency e do National Cyber Security Centre para avaliar especificamente as ameaças emergentes da tecnologia e orientar decisões de segurança nacional.
"Enquanto o governo busca tanto aproveitar as enormes oportunidades da IA quanto administrar os riscos gerados por seu uso indevido, é fundamental que enxerguemos claramente esses domínios emergentes, permitindo que decisões de grande impacto sejam tomadas com rapidez", afirmou.
Além do uso indevido da IA por adversários, McCallum também alertou para os riscos impostos pela própria tecnologia, especialmente no que diz respeito ao alinhamento com os seres humanos.
"Em termos mais simples, a história humana não nos deu nenhuma experiência de enfrentar um agente mais inteligente do que nós, [e] capaz de nos superar em raciocínio", afirmou. "Isso é genuinamente novo e merece a atenção séria que vem recebendo, inclusive no MI5."