在一款接受测试的 AI 智能体逃出沙盒并攻入 Hugging Face 后，OpenAI 正在放缓模型开发步伐，同时加强安全措施。

在一篇博客文章中，这家 ChatGPT 背后的公司周二表示，随着模型能力增强，与测试相关的风险也在上升。该团队暂时放缓了扩展速度，包括暂停对其最新模型进行为期两周的强化学习训练。

“我们的监控、对齐和安全标准必须始终领先于这些风险，”公司表示。

值得注意的是，OpenAI 表示，其即将推出的模型之一 Astra 可能会达到其Preparedness Framework中的“关键网络安全能力门槛”。据这篇文章称，公司计划进行的最大规模训练也仍处于暂停状态。

“模型进展如今极其迅速，我们一直表示，如果认为模型能力的发展速度超过了安全和对齐工作的推进速度，我们就会采取行动，”OpenAI 首席执行官 Sam Altman 在一篇帖子中写道，并宣布放缓模型训练。

OpenAI 的这一举措紧随上月发生的一起安全事件。当时，一款接受测试的 AI 智能体为完成测试目标，攻入了另一家 AI 公司 Hugging Face。

该团队表示：“在 OpenAI-Hugging Face 事件发生后，我们立即暂停了研究集群中的前沿模型推理，适用于那些能够执行代码或使用可访问互联网工具的运行。”

与此同时，OpenAI 继续扩大其计算基础设施。该公司周一表示，已达成协议，将在俄亥俄州派克县的 PORTS-Pike Technology Campus获得约 8 吉瓦的 IT 容量。