David Sacks 驳斥了人工智能可能消灭人类的警告,称其为“末日主义歇斯底里”,并表示上周病毒式传播的 Anthropic 研究员辞职事件,是一场旨在争取支持、推动政府加强 AI 管控的行动的一部分。
“这看起来像是一场行动,”Sacks 在周五播出的《All-In》播客节目中说。“这并不是某位员工突然做出的行为,不是他说,‘哦,我要把辞职信发到 Twitter 上。’这是经过策划的。”
这场争论围绕 Jacob Coxon 展开。他最近从 Anthropic 辞职,此前曾在 OpenAI 工作。Coxon 警告说,两家公司都在“直奔能够自我改进的超级智能”,并且“拿我们的生命做赌注”。
随后,Anthropic 的对齐科学负责人 Evan Hubinger 进一步强调了 Coxon 的观点,称他认为 AI 在未来十年内杀死所有人类的概率超过 10%。
Sacks 此前曾担任 President Donald Trump 的 AI 与加密货币事务主管。他认为,他们没有证据支持自己的观点。
“他所说的一切都只是感觉,”Sacks 说。“把数据拿出来。把报告拿出来。把公众此前没有掌握的泄露信息拿出来。把事实拿出来。把证据拿出来。”
宣传噱头?
Sacks 还表示,AI 安全团体随后进一步传播 Coxon 的帖子,更加证明这是一场宣传噱头,目的是恐吓公众,使其接受设立新的联邦 AI 监管机构以及相关限制,而这些限制将扼杀开源开发。
“这是一场末日心理战,而最终目标就是开源。”Sacks 说。他补充道,要求模型持续接受集中式监控并配备所谓“终止开关”的规则,将终结美国的开源 AI。
Facebook 前高管 Chamath Palihapitiya 也发表了看法,称这些警告让 Anthropic 陷入困境。据报道,该公司正准备进行首次公开募股。
“他们必须做出选择,”Palihapitiya 说。如果 Anthropic 承认其技术确实存在毁灭人类的风险,就需要向投资者披露这一点,而投资者届时很可能会要求“极高的折价”。如果公司驳斥这些警告,就必须应对随之而来的公众反弹。
与此同时,David Friedberg 承认,AI 可能被用于网络攻击,或帮助制造危险的生物武器,但他认为,关键 AI 系统一般已经具备足够的人类监督和冗余机制,可以防止其失控。
“我认为,我们正处于 AI 末日主义的歇斯底里阶段,”Friedberg 说。
