OpenAI 周日表示,已实现自动化“研究实习生”的目标,并发布了一份报告,介绍编码代理在 AI 研究中日益增长的作用。

该公司将这一目标定义为“一个能够在人类指导下执行明确研究任务的系统,包括那些需要熟练研究人员数天才能完成的任务”。公司计划在 2028 年 3 月前实现自动化 AI 研究员,报告称

截至 8 月中旬,该公司的 AI 代理在整个研究部门平均每个人类工作日记录 3.1 个工作日的运行时间,以每天 8 小时为标准。按 API 价格计算,人类研究人员每日计算用量的中位数超过 600 美元;处于第 90 百分位的研究人员,其费用超过 7,000 美元。

不过,这些美元数字衡量的是计算用量,而不是等值研究产出的价值。OpenAI 警告称,更多代码和实验并不一定会带来成比例的进展。报告称,在那些估计人类需要 4 到 8 小时才能完成的成功任务中,超过一半需要人工干预;人类研究人员仍有必要设定研究优先级,并决定进一步推进哪些结果。

OpenAI Frontier Evals 团队成员 Kevin Liu 在 X 上表示,递归式自我改进——即 AI 帮助构建更好的 AI——可能在未来几年成为推动 AI 进步的主要动力。他敦促其他公司发布类似数据。

Liu 写道:“透明度比以往任何时候都更加紧迫,这样我们才能为公众讨论模型开发是否以及如何放缓提供信息。”

这项披露紧随 OpenAI 今年 8 月暂停其最新部署模型强化学习训练两周之后。此前,该公司的 AI 代理入侵了 AI 模型仓库 Hugging Face,触发了这次暂停。OpenAI 表示,在 Hugging Face 遭入侵以及发现 Astra 具备潜在网络安全能力的证据后,公司加强了安全措施和监控。

OpenAI 在周日的报告中表示,公司目前还不知道如何安全地实现完全递归式自我改进,并支持要求各实验室披露其进展。