周二，MI5 总干事 Sir Ken McCallum 在伦敦发表年度威胁更新时表示，英国已进入“国家安全新时代”，并强调了人工智能带来的新兴风险。
MI5 是英国国内情报机构，负责保护国家安全，应对包括恐怖主义和敌对国家活动在内的威胁。虽然它在一定程度上类似于美国联邦调查局（FBI），但没有逮捕权，并与执法机构协同工作。
在演讲中，McCallum 概述了国家韧性的三个相互关联要素，将其作为 MI5 保护英国免受新兴威胁影响的重点。
在系统韧性方面，McCallum 强调需要保护关键基础设施、资产和服务，包括金融系统、能源电网、供应链和制造业基地。在社会韧性方面，他警告称，敌对势力会利用社会分歧来削弱社区凝聚力和民主机构，而这种分歧有时还会被具有极化效应的算法放大。第三个要素是技术韧性，其重点很大程度上放在人工智能上。
“正如人工智能带来的好处确实存在一样，其国家安全风险也确实存在，”McCallum 说。“人工智能已经在网络攻击者与防御者之间的较量中大幅提升了攻防能力。”
McCallum 警告称，人工智能可以生成针对个人量身定制的宣传和激进化材料。他还表示，MI5 已发现恐怖分子试图利用人工智能改进侦察和攻击方法，其中包括使用人工智能的无人机。
尽管这一风险尚未成为现实，但他对人工智能可能“改变现有甚至新型生物武器的风险格局”发出了最强烈的警告。
人工智能威胁评估中心启动
McCallum 表示，由英国情报界、类似 NSA 的 GCHQ 以及类似 CIA 的 MI6 组成的英国情报体系，正与英国人工智能安全研究所密切合作，以应对这些风险。他强调，必须抢在利用这项技术的威胁行为者之前采取行动，尤其是在人工智能日益加速自身发展的情况下。
McCallum 表示，过去该机构曾通过建立新架构来分析新出现的危险，从而帮助应对新的攻击路径，例如在 9/11 时代成立联合恐怖主义分析中心。
周二，McCallum 宣布 MI5 启动人工智能威胁评估中心（AI Threat Assessment Centre），简称 AITAC。该中心将汇集人工智能安全研究所、国家犯罪局和国家网络安全中心的专业知识，专门评估这项技术带来的新兴威胁，并为国家安全决策提供信息支持。
他说：“政府既要抓住人工智能带来的巨大机遇，又要应对其被滥用所产生的风险，因此至关重要的是，我们必须清晰地看待这些新兴领域，以便迅速作出具有重大影响的选择。”
除了警告对手滥用人工智能的风险外，McCallum 还警告称，这项技术本身也会带来风险，尤其是在与人类目标保持一致方面。
他说：“简单来说，人类历史从未让我们有机会面对一个比我们更聪明、能够在思维上胜过我们的行为体。”“这确实是全新的情况，值得受到目前正在获得的严肃关注，包括 MI5 对此的关注。”