トランプ氏と習氏の会談を前に、中国の国家安全保障トップがAIの脅威を指摘

中国の国家安全保障当局は、米国と中国が今月後半に予定されているトランプ氏と習氏の会談に先立ち、AIの安全性に関する協議の準備を進める中、AIの発展が政治的安定を脅かす可能性があると述べた。

国営のChina Cyberspace誌に日曜日に掲載された記事で、国家安全相のChen Yixin氏は、AIが世界の力関係を変えつつある一方、政治的安定とサイバーセキュリティーに深刻なリスクをもたらしていると記した。

Chen氏によると、AIは中国で広く利用されており、2026年6月時点で利用者は5億人を超え、1日のトークン使用量は140兆を上回っている。同氏は、悪意ある者がAI生成の文章や画像を使い、「荒らし軍団」を形成して政治的なデマを拡散していると述べた。

国家安全保障当局者のChen氏は、AnthropicのClaude MythosやOpenAIのGPT-5.5-Cyberなどの米国のモデルが、マルウェアやハッキング能力の開発を促進していると警告した。

Chen氏はまた、外国の情報機関が国家機密を収集するため、AIを使ってデータをクロールし、採掘していると述べた。

「国内の一部のユーザーはセキュリティー意識が十分でなく、海外のAI製品を使って機密情報を処理し、データを国外に送信している。その結果、国内データの大規模な漏えいが起きている」とChen氏は記した。

国家安全保障トップのChen氏は、AIが戦争を根本的に変えつつあると主張し、標的設定、意思決定支援、認知作戦へのAIの利用を挙げた。「アルゴリズムを使って、より細かな認識、より正確な判断、より精密な攻撃を実現できる者が、戦場で主導権を握る」とChen氏は述べた。

Chen氏の発言は、米国のDonald Trump大統領と中国のXi Jinping国家主席が9月24日にホワイトハウスで会談する予定となっている中で出た。AIが主要議題になるとみられている。両首脳は前回の会談を5月に行い、AIに対するガードレールについて協議したが、成果は限られたものにとどまった。

一方、週末にはAnthropicのCEO、Dario Amodei氏が、拡大する安全性リスクを理由に、フロンティアAI開発のペースを落とすよう求めた。OpenAIのSam Altman氏、Google DeepMindのDemis Hassabis氏、xAI創業者のElon Musk氏も同様の懸念を示すか、この考えを支持した。

米中間で広がるAIをめぐる緊張

先週、米国の複数の連邦機関は、中国のAI企業が蒸留を通じて米国のAIモデルから能力を組織的に抽出したと主張した。Anthropicも、MoonshotとDeepSeekがユーザーのリクエストをひそかにClaudeモデルへ転送し、その応答を自社のものとしてユーザーに表示していると非難している。

中国はこの主張に反発し、根拠がないとしたうえで、米国の動きは「蒸留を政治化し、道具化している」と主張した。中国側は、蒸留はAI分野における「一般的な慣行」だと述べている。

緊張が続く中、Atlantic Councilの研究者は、AIが制御不能になることへの共通の懸念が、まれな外交的な機会をもたらす可能性があると指摘した。

「ワシントンと北京がフロンティアAIのリスクについて共通の認識を持っていることを示す強い兆候がある」と述べたのは、Atlantic Councilの中国担当シニア・レジデント・フェロー、Kenton Thibaut氏だ。「（制御の）喪失は、協力のためのまれな基盤となる可能性がある。ただし、双方がAIの安全性を技術競争における新たな対立軸にしないようにできることが条件だ」

「中国には関与する技術的な理由がある。中国の開発者は、ユーザーが主にオープンウエートのモデルを中国国外のインフラ上で運用すると、可視性を失う。また、悪用の証拠が見つかれば、脆弱性が明らかになり、安全対策の改善につながる可能性がある」とThibaut氏は付け加えた。