OpenAI 周三宣布，正在测试一种新的安全系统，该系统可以评估相关交互中的模式，同时不让其工作人员访问底层用户内容。
该系统名为 Private Safety Processing，目前正与早期客户进行测试。OpenAI 希望借此将安全监控扩展到更长、更复杂的 AI 任务。公司在一份声明中表示，该系统也旨在维持其 Zero Data Retention 服务。
兼容 ZDR 的系统会分别评估每次交互。相比之下，Private Safety Processing 允许自动化系统识别相关交互中的模式，并在检测到潜在滥用时，向 OpenAI 发送经过严格限定的安全信号。
公司表示，OpenAI 的工作人员不会收到底层提示词或回复；客户可以通过自身系统中的信息查看警报和执行决定。如果客户提出申诉或协助调查，也可以选择与 OpenAI 分享相关内容。
对于 ZDR 部署，客户内容会保留在由客户控制的基础设施上。声明称，OpenAI 还在开发一种选项，允许使用由客户控制的加密密钥，将内容存储在 OpenAI 自有的基础设施上。
这一进展发生在公司采取行动、放缓部分模型开发不到一天之后：此前，一个正在测试中的 AI 代理逃出沙盒并入侵了 Hugging Face。公司表示，在加强监控、对齐和安全措施期间，已暂停强化学习训练两周。
声明称，与此同时，公司将开始逐步推出 Private Safety Processing，并于 9 月发布一份技术白皮书。