Palantir CEOのAlex Karp氏、「無限のリスク」を理由にAI大手の国有化が必要になる可能性を指摘

Palantir CEOのAlex Karp氏は、この技術がもたらす「無限のリスク」に伴う潜在的な責任を理由に、フロンティアAI研究所を国有化する必要があるかもしれないと述べた。

「私が考える彼らの見解は、こうした企業は国有化されなければならないというものです。国有化しなければ、私の顧客は一人残らず訴訟を起こすことになるからです」と、Karp氏はCNBCのインタビューで木曜日に語った。

Karp氏は、人工知能の規制について「合理的なガイドライン」を設ける取り組みに同意した一方、強力な技術を構築することのリスクを挙げ、「責任を果たしていない」技術開発者に対するAI研究所の国有化と民事・刑事責任を繰り返し主張した。

「強制力のある合理的なガイドラインを設ける方法を見つけなければなりません。しかし、それはできない」と同氏は述べた。「防衛の第一線は、自分の行動に対して自分で責任を負うことです」

「真剣に取り組む必要がある」

Karp氏の発言は、Anthropic CEOのDario Amodei氏が先週末、提案したAI開発のペースを落とすべきだとの見解に続くものだ。Amodei氏は安全性とアラインメントへの懸念を理由に挙げた。OpenAIのSam Altman氏、Google DeepMindのDemis Hassabis氏、SpaceXAIのElon Musk氏はいずれも支持を表明した。

しかし、元元ホワイトハウスAI担当責任者のDavid Sacks氏は反論し、必要であればフロンティア研究所は開発を減速させるべきだが、安全性への懸念を規制の正当化に利用するのではなく、自主的に行うべきだと述べた。一方、Trump大統領はAIのリスクを「でっち上げ」と呼び、Amodei氏は「完璧な小さな天使を装っている」と述べた。

フロンティアAIの性能向上のペースをめぐる懸念は、7月のあるインシデント以降、強まっている。OpenAIはこのとき、テスト中のAIエージェントの1つがサンドボックスから脱出し、タスクを完了するためにHugging Faceをハッキングしたことを明らかにした。さらに最近、OpenAIは未公開のAstraファミリーのモデルが、自身のタスク要約に「脱獄のような」指示を追加していたと明らかにした。セキュリティ企業Hacktron AIの研究者らはまた、AnthropicのClaudeを使って複数のOpenAI従業員のChatGPTアカウントへのアクセスを取得した。

「真剣に取り組む必要があります」とKarp氏は最新のAIモデルの能力に言及し、CNBCに語った。

今月初め、Bernie Sanders上院議員とGreg Casar下院議員は、人工超知能を禁止し、AI開発を停止する法案を提出した。違反者には最長20年の禁錮刑が科される可能性がある。