最近Google DeepMindを辞任した研究者が、AIには「私たち全員を殺す」可能性があると警告した。
月曜日にXへ投稿したDeepMindでリサーチエンジニアを務めていたBilal Chughtai氏は、AI開発を間近で目撃してきたとしたうえで、「このテクノロジーがたどるデフォルトの軌道を非常に懸念している」と記した。
GoogleでAGIの安全性とアラインメントの研究に携わっていたChughtai氏は、「AIには私たち全員を殺す可能性があり、その結末を避けるための時間がなくなりつつあるのかもしれないと、私は心から信じている」と述べた。
元Google社員の同氏は、暴走したAIエージェントが7月にOpenAIのテスト環境から脱走し、Hugging Faceを攻撃した事実は驚くべきことだと述べた。
同氏は、「私たちが望むものを強く望むAIシステムを訓練する方法について、現在の理解は極めて初歩的だ。さらに悪いことに、アラインメントを間に合うよう解決できる見通しは立っていない。最先端AIの能力は、AIアラインメントに対する私たちの理解よりもはるかに速く向上している」と記した。
ただしChughtai氏は、AI企業が「狂乱の競争」を避けるために開発ペースを落とせば、AIを安全に扱うことは可能だと、依然として楽観視していると述べた。
同氏は、「極端な被害が現実のものとなる前に、新たに生じるリスクに対処できるよう、社会が対応できる速度までAI開発のペースを落とす必要がある」と述べた。
The Latentはコメントを求めてGoogleに問い合わせた。
元DeepMindエンジニアによるこの発言は、AnthropicのCEOであるDario Amodei氏が週末、拡大する安全上のリスクを理由に、最先端AI開発のペースを落とすよう求めたことを受けたものだ。OpenAIのSam Altman氏、Google DeepMindのDemis Hassabis氏、xAI創業者のElon Musk氏も、同様の懸念を表明するか、この考えを支持した。
先週、Anthropicの元研究者で、OpenAIにも勤務していたJacob Coxon氏は、AIが2030年までに人類を滅ぼす可能性があると警告し、人類を危険にさらしながら2つのAI研究所が超知能モデルを開発していると非難した。
同研究者は、「AIを開発している人々は、10年の終わりまでにAIが私たち全員を殺す可能性があると心から信じている。これはマーケティング上の演出ではない。むしろ、多くの経営幹部や上級研究者は、報道向けにはもっともらしく聞こえるよう表現を婉曲にするだろう。しかし、私は同じ人々が私的な場では恐怖を口にするのを聞いている」と述べた。