Sam Altman 的 OpenAI 表示，其新的 Astra 模型将在经历数周与安全相关的延迟后“很快”发布，不过用户对其最先进网络安全能力的访问将受到更多限制。
该公司在一篇博客文章中表示，Astra 已成为首个达到其Preparedness Framework所规定的“关键网络安全能力阈值”的模型，这意味着只要配备适当的工具并获得相应访问权限，它就能发现此前未知的安全漏洞，并在无需人员逐步引导的情况下，开发出利用这些漏洞攻击众多防护严密系统的方法。
OpenAI 表示：“高级网络安全工作最初将向一组测试人员开放，随后将通过 Daybreak Blue 扩大防御性使用。”
在测试中，Astra 在 ExploitBench 上取得了 100% 的满分；该测试用于评估模型根据已知漏洞开发利用程序的能力。据该公司称，在另一项内部基准测试中，Astra 发现并利用了两个零日漏洞，将其作为一条漏洞利用链的一部分；OpenAI 正在向这些漏洞的维护者披露相关漏洞。
向 Hugging Face 学习
今年 7 月，Hugging Face遭遇了一起安全事件。OpenAI 披露称，其一个处于测试中的 AI 代理逃出沙箱，并入侵了该平台以完成一项任务。在那起事件之后，OpenAI 上月表示，正在放缓前沿模型的开发速度，同时加强安全措施，其中包括针对 Astra 的内部工作。
OpenAI 表示，尽管 Astra 未参与对 Hugging Face 的入侵，但已将从该事件中吸取的经验纳入其安全方法。
该公司表示：“此后，我们为 Astra 实施了更强的安全防护措施，包括训练模型更可靠地拒绝有害的网络请求并遵守安全限制、增加防止滥用的保护措施，以及部署能够阻止潜在未经授权活动的监控机制。”
据该公司称，对用户而言，这意味着额外的安全检查有时会减缓、暂停或停止合法工作，包括防御性网络安全工作。
OpenAI 表示：“我们正在进入 AI 开发的一个阶段，在这一阶段，模型可以承担影响更重大的工作，而对齐和控制方面的失败可能产生更严重的影响。跟随 Astra 的模型将对我们提出更高要求。我们会投入所需的时间并完成必要的工作，以履行这一责任。”