Altman称，OpenAI过去曾放慢脚步，“未来也会这么做”

OpenAI首席执行官Sam Altman周三告诉联合国安理会，公司过去曾放慢AI研发步伐，如果无法让系统继续处于运营这些系统的人类控制之下，未来也会再次这么做。

“我们过去曾单方面放慢研发步伐。未来也会这么做。”Altman说。“在竞争中击败其他公司，并不是做出草率决定的理由。”

不过，他从未详细说明这些放缓措施究竟是在何时、以何种方式发生的。

Altman说，随着AI在构建自身未来版本的过程中扮演越来越重要的角色，他的担忧也在不断加深。如果进展速度过快，负责管理这些系统的人可能会难以理解系统正在做什么，也可能不知道一旦出现问题该如何介入。

“我们可能会把未来的控制权交给AI，”他警告说。

Altman指出，另一个风险是，最先进的AI系统可能让少数几家公司或国家获得过大的影响力。为应对这一问题，他呼吁制定共享标准，用于测试先进系统、检查安全防护措施是否有效，以及报告严重事故。

Anthropic首席执行官Dario Amodei也在向安理会发言时作出了类似承诺。

“为了确保我们发布的每一代AI技术确实安全，我们会在必要范围内尽可能放慢速度，”他说。

Amodei还敦促各国就安全测试的通用标准，以及相互通报AI事故的方式达成协议，尤其是涉及国家安全漏洞的事故。

“没有任何一位领导人、任何一家公司或任何一个国家能够独自应对这一问题，”他说。