火曜日にロンドンで開かれた年次脅威報告で、MI5長官のSir Ken McCallum氏は、英国が「国家安全保障の新時代」に入ったと述べ、人工知能がもたらす新たなリスクを強調した。
MI5は英国の国内情報機関で、テロや敵対的な国家活動などの脅威から国家安全保障を守る役割を担っている。米国のFBIにある程度似ているが、逮捕権限はなく、法執行機関と連携して活動している。
McCallum氏は演説で、新たな脅威から英国を守るというMI5の取り組みの一環として、国家のレジリエンスを構成する相互に関連した3つの要素を示した。
システムのレジリエンスについて、McCallum氏は、金融システム、エネルギー網、サプライチェーン、製造基盤など、重要インフラ、資産、サービスを守る必要性を強調した。社会のレジリエンスについては、敵対的な行為者が社会の分断につけ込み、時には分極化を促すアルゴリズムによってそれが増幅され、地域社会の結束や民主的な制度を弱体化させていると警告した。3つ目の要素である技術的レジリエンスでは、AIに大きな焦点が置かれている。
「AIの恩恵が現実のものであるのと同様に、国家安全保障上のリスクも現実のものだ」とMcCallum氏は述べた。「AIはすでに、攻撃者と防御側のサイバーセキュリティ競争を大幅に加速させている」
McCallum氏は、AIが個人に合わせたプロパガンダや過激化を促すコンテンツを生成できると警告した。また、MI5は、AIを偵察や攻撃手法の改善に悪用しようとするテロリストを摘発しており、AI搭載ドローンもその対象に含まれると付け加えた。
まだ現実のものにはなっていないものの、同氏は、AIが「既存の、あるいは新たな生物兵器による脅威の深刻さを一変させる」可能性について、最も強い警告を発した。
AI脅威評価センターの設立
McCallum氏によると、英国の情報機関であるMI5、NSAに相当するGCHQ、CIAに相当するMI6は、英国のAI Security Instituteと緊密に連携して、こうしたリスクへの対応に取り組んでいる。AIが自らの開発を加速させる傾向を強める中、特にこの技術を利用する脅威行為者に先んじる必要があると同氏は強調した。
McCallum氏は、MI5が過去にも、9/11の時代に設立されたJoint Terrorism Analysis Centreなど、新たな危険を分析する組織を構築することで、新たな攻撃経路への対処を支援してきたと述べた。
McCallum氏は火曜日、AI脅威評価センター（AITAC）の設立を発表した。同センターは、AI Security Institute、National Crime Agency、National Cyber Security Centreの専門知識を活用し、この技術による新たな脅威を具体的に評価するとともに、国家安全保障上の意思決定に情報を提供する。
「政府がAIの大きな機会を生かし、その悪用によって生じるリスクに対処しようとしている今、こうした新たな領域を明確に把握し、重大な判断を迅速に下せるようにすることが不可欠だ」と同氏は述べた。
敵対者によるAIの悪用に加え、McCallum氏は、特に人間とのアラインメントに関して、この技術自体がもたらすリスクについても警告した。
「最も簡単に言えば、人類の歴史には、私たちより賢く、私たちの思考を上回る能力を持つ行為者に直面した経験がない」と同氏は述べた。「これはまったく前例のないことであり、MI5を含め、真剣な注目に値する」