화요일 런던에서 열린 연례 위협 브리핑에서 MI5 국장 Sir Ken McCallum은 인공지능으로 인해 국가가 "국가안보의 새로운 시대"에 진입했다고 말하며 새롭게 부상하는 위험을 강조했다.
MI5는 영국의 국내 정보기관으로, 테러와 적대적 국가 활동을 비롯한 위협으로부터 국가안보를 보호하는 역할을 맡고 있다. 미국의 FBI와 어느 정도 유사하지만 체포 권한은 없으며 법 집행기관들과 협력한다.
McCallum은 연설에서 새롭게 부상하는 위협으로부터 영국을 보호하기 위한 MI5의 활동의 일환으로 국가 회복탄력성을 구성하는 상호 연결된 세 가지 요소를 설명했다.
McCallum은 시스템 회복탄력성과 관련해 금융 시스템, 전력망, 공급망, 제조 기반을 비롯한 핵심 인프라와 자산, 서비스를 보호해야 한다고 강조했다. 사회 회복탄력성에 대해서는 적대 세력이 양극화를 부추기는 알고리즘으로 때로 증폭되는 사회 분열을 악용해 공동체 결속과 민주주의 제도를 약화한다고 경고했다. 세 번째 요소인 기술 회복탄력성은 AI에 중점을 둔다.
McCallum은 "AI의 이점이 현실인 것처럼 국가안보 위험도 현실입니다"라고 말했다. 이어 "AI는 이미 공격자와 방어자 간 사이버보안 경쟁을 한층 가속하고 있습니다"라고 덧붙였다.
McCallum은 AI가 개인별로 맞춤화된 선전과 급진화 콘텐츠를 만들어낼 수 있다고 경고했다. 또한 MI5가 정찰 및 공격 방식을 개선하기 위해 AI를 악용하려는 테러리스트들을 적발했으며, 여기에는 AI를 탑재한 드론도 포함된다고 말했다.
아직 현실화되지는 않았지만, 그는 AI가 "기존 생물무기 또는 새로운 생물무기의 위협 수준을 바꿀" 가능성에 대해 가장 강력한 경고를 내놨다.
AI 위협 평가 센터 출범
McCallum은 영국 정보기관 공동체인 MI5와 NSA에 해당하는 GCHQ, CIA에 해당하는 MI6가 이러한 위험에 대응하기 위해 영국의 AI Security Institute와 긴밀히 협력하고 있다고 말했다. 특히 AI가 자체 개발을 점점 더 가속하는 상황에서 이 기술을 활용하는 위협 행위자보다 앞서가야 한다고 강조했다.
McCallum은 MI5가 9·11 테러 당시 Joint Terrorism Analysis Centre를 설립한 것처럼 새롭게 부상하는 위험을 분석할 조직을 신설해 과거에도 새로운 공격 경로에 대응하는 데 기여했다고 말했다.
McCallum은 화요일 MI5가 AI 위협 평가 센터(AI Threat Assessment Centre), 즉 AITAC를 출범시켰다고 발표했다. AITAC는 AI Security Institute, National Crime Agency, National Cyber Security Centre의 전문성을 활용해 해당 기술로 인해 새롭게 부상하는 위협을 구체적으로 평가하고 국가안보 의사결정에 필요한 정보를 제공한다.
그는 "정부가 AI의 막대한 기회를 포착하는 동시에 오용으로 인해 발생하는 위험을 관리하려는 상황에서, 새롭게 부상하는 영역을 명확히 파악해 중대한 결정을 신속하게 내릴 수 있도록 하는 것이 매우 중요합니다"라고 말했다.
McCallum은 적대 세력의 AI 오용을 넘어, 특히 인간과의 정렬 문제와 관련해 기술 자체가 초래하는 위험에 대해서도 경고했다.
그는 "간단히 말해, 인류의 역사에는 우리보다 더 영리하고 우리보다 앞서 생각할 수 있는 행위자와 맞서본 경험이 없습니다"라고 말했다. 이어 "이는 진정으로 전례 없는 일이며, MI5를 포함해 지금 쏟아지고 있는 진지한 관심을 받을 가치가 있습니다"라고 덧붙였다.