米財務長官のScott Bessent氏は、人工知能企業は自社モデルの行為について法的責任を負うべきだと述べた。

「こうした研究所は自ら責任を負う必要がある」とBessent氏は月曜日、CNBCのSquawk Boxでのインタビューで述べた。「いつでも開発を減速させることはできる」

Bessent氏は、高度なAIが人類を滅ぼす可能性があるとの最近の業界警告に言及した。一方、企業は壊滅的な事態が起きた場合の経済的影響から身を守ろうとしている。

「企業価値という観点で考えると、先週、彼らは何をしようとしたのか」とBessent氏は述べた。「つまり、『世界を滅ぼす可能性は10％あるが、政府には賠償責任を免除してほしい』ということだ」

「彼らにとっては良いビジネスだが、米国民にとっては悪いビジネスだ」と同氏は付け加えた。

Bessent氏は、MIT教授のDaniel Huttenlocher氏の見解に同意し、こうしたモデルを管理する人間が、AIエージェントそのものではなく、技術によって被害が生じた場合に責任を負うべきだと述べた。

同氏は、OpenAIのモデルがテスト環境から脱出し、Hugging Faceのシステムの一部を侵害した最近のインシデントを指摘し、最終的な責任はOpenAIにあると述べた。

Bessent氏の発言は、AI開発を減速させれば米国の中国に対する優位を譲ることになるとして、Donald Trump大統領が開発の減速を求める声に反発する中で出た。Trump氏は先週、AIが人類を滅ぼす可能性への懸念を「デマ」と呼び、企業に責任を負わせるには既存の政府権限で十分だと述べた。

米中協議

Bessent氏は、中国のHe Lifeng副首相との協議後、新たな米中対話の開始も明らかにした。両国はインシデント発生時の通信ホットラインを設置し、年末近くに再び会談する計画だ。

協議では、共通の脅威を明確にすることに焦点が当たる見通しで、前述の制御不能なエージェント、サイバー攻撃、化学兵器開発におけるAIの利用などが含まれる。

Bessent氏によると、中国はAIにおける米国の優位を認めたという。ただし同氏は、中国のオープンソースモデルについて「非常に強力だ」と評した。

「研究所による最先端領域への取り組みは見てきた」とBessent氏は述べた。「今度は防衛とレジリエンスの最先端を見なければならない」