人工知能が安全保障にもたらす脅威への懸念が高まる中、米国と中国は「危機メカニズム」の構築に取り組んでいる。ただ、両国の大統領は、そうしたリスクの重大性について異なる見方をしているようだ。
木曜日、Donald Trump大統領と中国のXi Jinping国家主席は複数回会談し、その後、メディア非公開の晩餐会が開かれた。この晩餐会には、NVIDIA CEOのJensen Huang、Meta CEOのMark Zuckerberg、NYSE PresidentのLynn Martin、BlackRock CEOのLarry Fink、OpenAI CEOのSam Altman、Amazon ChairmanのJeff Bezosなど、テクノロジー業界の大物が出席した。White Houseが公表した招待客名簿によると、Anthropic CEOのDario Amodeiは招待客のリストに含まれていなかった。
これらの行事の翌日である金曜日の朝、晩餐会にも出席していたU.S. Ambassador to ChinaのDavid Perdueは、CNBCのSquawk Boxで、両国はAIに対して異なるアプローチを取っており、「危機メカニズム」とともに協議を続けていると述べた。
「われわれは両国間でこの対話を確立し、危機メカニズムも構築した」とPerdueは述べた。「これは歴史的なことだ」
White Houseは、このメカニズムの詳細についてコメントを求めたが、回答しなかった。Treasury SecretaryのScott Bessentは報じられたところによると、今週初め、国家安全保障に関わるAIインシデントについて、米中間の通知メカニズムを米国が提案したと述べていた。
Bessentも木曜夜の晩餐会に出席した。
一連のハッキングや、AIモデルが企業の制御を離れる可能性への懸念を受け、ここ数カ月、AI規制が注目を集めている。9月には、OpenAIとAnthropicの双方で勤務していた研究者のJacob CoxonがAnthropicを辞任し、AI開発を急ぎすぎているとして両社を公に批判した。両社は「自己改善する超知能へ一直線に突き進み、私たちの命を賭けている」と同氏は述べた。
AI CEOであるAltmanとAmodeiはともに、より強力な安全対策と開発ペースの減速を求める声を支持してきた。AIの能力がさらに向上する中、政府や企業は潜在的なリスクに対処する必要があると主張している。
報道によると、Xiは木曜日、両国には「AIを人類の利益のために開発・管理する」責任があり、人間が常に制御できるようにしなければならないと述べたreports。
Trumpは異なる方向性を示している。
金曜日の朝、Truth Socialへの投稿で、会談は実りあるものだったと述べ、AIを「Super Intelligence」と呼ぶという自身の考えを改めて売り込んだ。
Trumpは「ほかのほぼ全員と同じように、彼は、粗雑で不正確な名前であるArtificial Intelligenceを、はるかに正確で重要な名前であるSUPER INTELLIGENCEと呼ぶことを好んでいるようだった」と述べた。「それなら『SUPER!』だ。昨夜は全員が同意した」