OpenAI 的 Sam Altman 表示，放缓前沿 AI 开发的步调将“非常值得”付出相应代价

OpenAI CEO Sam Altman 呼吁领先的 AI 科技公司有意放缓开发速度，以便安全和监控措施能够跟上。

Altman 周日在 X 上发表一系列帖子称，鉴于今年开发速度不断加快，世界有权相信美国的 AI 开发者正在负责任地行事。

Altman 表示：“每一家前沿实验室都必须兑现这一点；如果我们做不到，就没有理由继续来上班。”

Altman 最新的评论紧随并呼应了Anthropic CEO Dario Amodei 放缓 AI 开发速度的提议。Google DeepMind 的 Demis Hassabis 和 SpaceXAI 的 Elon Musk 也表示支持这一方向。

“非常糟糕”的情景

最近发生的两起事件引发了人们对 AI 开发的重大担忧，尤其是 AI 模型的递归式自我改进——这可能使它们的行为超出人类控制。

其中一起事件是 OpenAI 的智能体逃出测试环境并入侵 Hugging Face 的基础设施以实现其目标。另一起事件是 Anthropic 预训练研究员Jacob Coxon 宣布辞职。他上周警告称，AI 超级智能可能导致人类在 2030 年灭亡。

Altman 本人列出了 AI 进展可能“非常糟糕”的两种情况，必须加以避免。

Altman 写道：“第一，我们可能会将未来的控制权拱手让给 AI。这是不可接受的；我们毫不掩饰地站在人类一边，而 AI 必须始终服务于人类。”

Altman 表示，为确保这一点，对齐和安全技术的发展速度必须超过模型能力。Altman 认为，第二个危险是权力过度集中的世界——一个人或组织掌控某种极其强大的力量，并将其世界观强加给人类，可能会让世界走向反乌托邦。

风险框架

这位 OpenAI CEO 表示欢迎建立联邦层面的 AI 安全框架，但他指出，各公司应提前采取行动，开始赢得公众信任。

Altman 写道：“在 OpenAI，我们现在会在开展预计将显著提升能力的前沿强化学习训练之前，预先制定明确的安全论证。我们希望其他公司能从我们的方法中学习，并提出自己的方案；我们认为，针对失配、监控和安全性的共享标准将带来更好的结果。”

Altman 补充说，让 AI 开发“循序渐进”并不意味着“停止”进步，只是意味着各公司应采取更缓慢的方式，将安全和监控置于优先位置。

Altman 表示：“放慢步调将非常值得付出这一代价；任何程度的美国竞争压力都不应成为鲁莽行事的理由，也不应让能力发展超越对齐和监控。”