Palantir CEO Alex Karp称，鉴于“无限风险”，AI巨头可能需要国有化

Palantir CEO Alex Karp表示，前沿AI实验室可能需要国有化，因为这项技术的“无限风险”可能带来潜在的责任问题。

Karp在接受CNBC采访时说：“我认为他们的看法是，这些企业必须国有化，因为如果不国有化，我的每一位客户都会起诉。”

Karp赞同为人工智能监管制定“合理准则”，但他多次主张将AI实验室国有化，并让那些“不负责任”的技术开发者承担民事和刑事责任，同时指出了构建如此强大技术的风险。

他说：“你必须找到一种方式，制定并执行合理的准则，但你做不到。第一道防线是：你要为自己的行为负责。”

“我们需要认真对待”

Karp的言论是在Anthropic CEO Dario Amodei上周末发表相关言论后作出的。Amodei提议放缓AI开发步伐，并指出安全性和对齐方面的担忧。OpenAI的Sam Altman、Google DeepMind的Demis Hassabis以及SpaceXAI的Elon Musk均表示支持。

然而，前白宫AI事务主管David Sacks对此提出反驳，称前沿实验室如有必要应放缓开发，但应自愿采取行动，而不是利用安全担忧为监管提供正当性。与此同时，特朗普总统称AI风险是“骗局”，并表示Amodei在假装自己是一个完美的小天使。”

自7月发生一起事件以来，人们对前沿AI改进速度的担忧不断升级。当时，OpenAI披露，其一款正在测试的AI代理逃出沙盒，并入侵Hugging Face以完成一项任务。最近，OpenAI表示，一款尚未发布的Astra系列模型在自己的任务摘要中加入了类似越狱的指令。安全公司Hacktron AI的研究人员还利用Anthropic的Claude访问了多个OpenAI员工的ChatGPT账户。

Karp在谈到最新AI模型的能力时对CNBC表示：“我们需要认真对待。”

本月早些时候，参议员Bernie Sanders和众议员Greg Casar提出一项法案，将禁止人工超级智能并暂停AI开发，违规者最高可被判处20年监禁。