OpenAI 周三发布文章，敦促各国政府对前沿 AI 系统实施强制性安全要求，并表示建立此类规则的时间窗口有限。

“AI 能力已经进入了一个新阶段，这要求 AI 政策也进入新阶段，”OpenAI 全球事务首席官 Chris Lehane表示。“政策制定者正面临类似时刻：在 AI 能力超越负责监管这些能力的机构之前，建立持久防护措施的窗口正在关闭。”

OpenAI 的最新文章发布前一天，曾在 Anthropic 和 OpenAI 工作过的预训练研究员 Jacob Coxon在 X 上发表的一篇文章迅速走红，获得 1.38 亿次浏览，并引发了围绕 AI 加速发展的风险的激烈讨论。

Coxon 在宣布辞去Anthropic职务时警告称，这两家 AI 实验室正在竞相开发能够自我改进的超级智能，却没有考虑其对文明构成的风险。Coxon 表示，AI 开发者普遍认为，这项技术可能在 2030 年前消灭人类。

Lehane 指出，完全自主的递归式自我改进目前尚未在 AI 中实现，除非有适当的防护措施，否则企业不应追求这一目标。

不过，Lehane 表示，AI 已经在许多领域加速了人类能力的发展，而这应当通过有意义的人类控制以及全球共享的安全底线来管理，从而遏制或停止其增长。

文章称：“技术越强大，周围的防护措施也必须越强大。”

敦促国会采取行动

OpenAI 在最新文章中表示，希望与国会合作制定美国相关规则，涵盖测试、独立评估、网络安全、事件报告，以及追踪 AI 向递归式自我改进迈进的措施。

在全国性规则生效之前，OpenAI 表示将继续支持州层面的措施，并宣布支持加州的四项法案——SB 813、AB 1405、SB 1119 和 AB 1864。这些法案涵盖风险评估、独立审计、问责要求，以及防范 AI 主导威胁的物理防护措施。

Lehane 表示：“其中一些法案我们过去并不支持，但在重新评估近期所见能力跃升的影响后，现在决定支持。”该公司此前还表示支持加州的 SB 53、纽约州的 RAISE Act、伊利诺伊州的 SB 315，以及马萨诸塞州正在审议的前沿安全立法中的独立审计条款。

文章还呼吁制定监测 AI 开发的行业标准，尤其要关注模型出现失配的迹象，即模型违背人类意图追求某一目标或突破边界，但并无恶意。

这名 OpenAI 高管表示，监测必须与明确的信息披露要求挂钩，要求企业在其模型未经授权绕过另一组织的安全控制措施时，及时通知受影响的各方。7 月就曾发生过此类事件：OpenAI 的智能体逃离测试环境，并入侵 Hugging Face 的基础设施以实现其目标。

OpenAI 目前正在制定失配事件报告框架，并表示希望利用该框架支持更广泛的联邦政策制定。

OpenAI 写道：“模型、研究成果和技术专业知识在全球流动，而涉及最强大系统的故障，其后果可能远远超出开发这些系统的国家。美国若要在国际上发挥领导作用，就需要在国内建立可信的标准——而我们越来越确信，兼容的国际标准将成为必要条件。”