David Sacks氏は、人工知能が人類を滅ぼす可能性があるとの警告を「終末論者の大げさな騒ぎ」と一蹴し、先週拡散したAnthropicの研究者による退職は、AIに対する政府の管理強化を支持する世論を形成するキャンペーンの一環だったと述べた。
「これは仕組まれた工作のようだ」とSacks氏は、金曜日に公開されたAll-In podcastのエピソードで述べた。「これは、ある従業員が突然『ああ、Twitterに退職届を投稿しよう』と言い出したような自発的な行動ではない。仕組まれたものだった」
議論の中心となったのは、以前OpenAIで働いていたAnthropicを退職したJacob Coxon氏だ。Coxon氏は、両社が「自己改善する超知能の実現に向けて一直線に競争しており」「私たちの命を賭けている」と警告した。
その後、Anthropicでアラインメント科学の責任者を務めるEvan Hubinger氏はCoxon氏の発言をさらに強調し、AIが今後10年以内のどこかの時点で全人類を殺す可能性は10%を超えると考えていると述べた。
以前、Donald Trump大統領のAI・暗号資産担当長官を務めたSacks氏は、両氏の見解を裏付ける証拠はないと主張した。
「彼から出てくるのは、すべて単なる雰囲気だ」とSacks氏は述べた。「データを示してほしい。報告書を示してほしい。一般の人々がすでに知らなかったリーク情報を示してほしい。事実を示してほしい。証拠を示してほしい」
話題作り？
Sacks氏はまた、AI安全性団体がCoxon氏の投稿を追随して拡散したことは、連邦政府の新たなAI規制機関の設置や、オープンソース開発を締め出す規制を国民に受け入れさせるために恐怖をあおる、話題作りの仕掛けであることのさらなる証拠だと述べた。
「これは終末論者の心理作戦であり、最終的な標的はオープンソースだ」とSacks氏は述べ、モデルを中央で監視し続けることや、いわゆる「キルスイッチ」を備えることを義務付ける規則は、米国におけるオープンソースAIの終わりを意味すると付け加えた。
元Facebook幹部のChamath Palihapitiya氏も発言し、Anthropicが報じられているように新規株式公開の準備を進める中、こうした警告によって同社は難しい立場に置かれていると述べた。
「彼らは選ばなければならない」とPalihapitiya氏は述べた。Anthropicが自社の技術には人類を滅ぼす現実的なリスクがあると認めれば、それを投資家に開示する必要があり、投資家はおそらく「莫大なディスカウント」を要求するだろう。警告を否定すれば、それに伴う世論の反発に対処しなければならない。
一方、David Friedberg氏は、AIがサイバー攻撃に利用されたり、危険な生物兵器の作成を助けたりする可能性は認めたものの、重要なAIシステムにはすでに一般的に、制御不能な状態に陥るのを防ぐのに十分な人的監督と冗長性が備わっていると主張した。
「AI終末論をめぐるヒステリーの段階に入っていると思う」とFriedberg氏は述べた。