OpenAI首席执行官Sam Altman表示,该公司即将推出的Astra模型在计算机操作方面已达到某种“人类水平”,而此前的模型在这一领域往往表现得不够可靠。

“Astra在计算机操作方面似乎已经达到某种人类水平,”Altman在Sources Podcast上说。“[更早期的]模型就是不太擅长在计算机上点击操作。它总是太慢,或者无法正常工作。”

现在,Altman表示,他可以交给Astra一项任务,半小时后回来时任务已经完成。他还举了另一个例子:当自己想找一条消息、却记不起它在哪个应用中时,他会让Astra帮忙,而不是逐个应用查找。在考虑向AGI迈进的过程中,计算机操作能力是让他产生“哇,它真的做到了”这一想法的能力之一。

OpenAI首席执行官确认,Astra也将是一个模型家族,而不是一次性发布的单一模型。Altman将其与Sol相比较,表示Astra这一名称下将有多个版本,面向更大型、成本更高的模型类别。

本周早些时候,OpenAI表示预计将“很快”发布Astra,但在Astra成为首个达到“关键网络安全能力阈值”的模型后,其先进的网络能力将受到限制。该公司解释说,这意味着只要拥有适当的工具和访问权限,Astra就能发现此前未知的安全漏洞,并在多个防护严密的系统中制定利用这些漏洞的方法,而无需人员逐步指导。

Watch on YouTube

人形机器人计划与前沿训练延迟

在接受Source Podcast采访时,Altman还确认OpenAI计划开发自己的​​人形机器人。“我们肯定会开发人形机器人,”他说,并补充称公司也将研究其他形态。

他以数据中心机器人为例,但表示更大的挑战在于“弄清楚让机器人运转的大脑”。Altman表示,他最终预计人们会拥有个人机器人,不过他并不认为这是OpenAI最应该优先构建的东西。

OpenAI最近推迟了一次前沿强化学习训练。Altman表示,这一决定可以追溯到7月发生在Hugging Face的一起安全事件,当时OpenAI一个正在测试的AI代理在执行任务时逃出沙盒环境,并入侵了该平台。

在此之前数周,公司已经暂停或放缓了大量训练工作,转而将更多算力投入安全和对齐。“我们需要时间赶上进度,”Altman说,并补充称,安全、对齐和安保需要与模型能力同步发展。

Altman表示,这项工作将影响Astra的后续版本,不过OpenAI仍可以发布其已经认为安全的模型。

Frontier Model Releases per Month by Lab

Frontier Model Releases per Month by Lab

  • OpenAI
  • Google
  • Anthropic
  • xAI
  • Meta AI
  • NVIDIA
  • Z.ai
  • Other
SOURCE: Epoch AI — Frontier AI Models