Trump氏、AIによる人類絶滅への懸念を一蹴、中国を上回ることに注力

米国のDonald Trump大統領は、人工知能が人類の絶滅につながる可能性を懸念しておらず、AIで米国が中国を上回り続けることが自身の優先事項だと述べた。

木曜日遅く、Dallasを離れる際、記者からAIが人類の絶滅につながる可能性について懸念があるか尋ねられたTrump氏は答えた。「いいえ、何もありません」

「AIで勝てなければ、非常に悪い立場に置かれることを懸念している」とTrump氏は述べた。「現在、私たちは中国をかなりの期間リードしている。1年と言っていいだろう。ご存じのように、それはかなりの差だと考えられている」

AnthropicとOpenAIの研究者が、ますます高性能になるAIシステムを人間が制御することが難しくなる懸念を示した後、Trump氏はこうした発言をした。

研究者、自己改善型AIに警告

Jacob Coxon氏は、OpenAIでAI研究に携わり、直近ではAnthropicに在籍していた人物で、AIがどのように開発されているかへの懸念からAnthropicを離れると火曜日に述べた。

Coxon氏は、AnthropicとOpenAIが「自己改善型超知能」に向けて競争し、「私たちの命を賭けている」と述べた。同氏は、将来のAIシステムがハッキングで非常に高い能力を発揮し、科学研究を急速に進展させ、現実世界の資源にアクセスできるようになる可能性を警告した。

また、この技術を開発している人々は、AIが「この10年の終わりまでに私たち全員を殺す」可能性があると考えているとも述べた。

Anthropicのアラインメント科学責任者であるEvan Hubinger氏は、今後10年以内にそのような結果になる可能性は10%を超えると個人的に考えていると述べた。

懸念の多くは、再帰的自己改善（RSI）をめぐるものだ。これは、AIシステムが人間の関与を限定的に受けながら、自身の新しいバージョンの構築や訓練を支援するプロセスを指す。

OpenAIは水曜日、完全自律型のRSIは「現在起きていない」と述べた。さらに「しかし、AIはすでに、次世代モデルの開発とアラインメントに使われる研究の一部を加速させている」と付け加えた。

OpenAIの最高科学責任者であるJakub Pachocki氏は先週、現在のAIの進歩が最終的にRSIにつながる可能性について「強い確信」があると記した。

OpenAIはその後、共通基準の策定を呼びかけた。そこには、開発を減速または停止すべき時期に関する基準も含まれる。

この問題は、Washingtonの議員からも注目を集めている。

7月には、共和党のJay Obernolte下院議員と民主党のLori Trahan下院議員が、超党派のFRONTIER Actを提出した。同法案は、主要AI開発企業にリスク管理計画の公開、独立監査の受検、重大インシデントの報告を義務付けるものだ。

今月初め、Bernie Sanders上院議員とGreg Casar下院議員は法案の制定計画を発表した。この法案は、超知能AIの開発と利用を恒久的に禁止するものだ。また、新たな連邦規制当局が安全規則を定めるまで、高度なAIの開発を一時停止する内容も盛り込む。

しかしTrump政権は、緩やかな規制を支持している。今月初め、G20のイノベーション担当相は、米国主導のCarolina Principlesを支持した。これは法的拘束力のない枠組みで、柔軟な政策と、可能な限り既存の規則を活用することを重視している。

Trump氏はAIデータセンターの急速な拡大も支持している。先月、同氏はデータセンターを拒否する地域は「後進的で貧しくなる」リスクがあると述べ、米国でこうしたプロジェクトに反対する動きについて、中国は「これ以上ないほど喜ぶだろう」と付け加えた。