纽约市主计长 Mark Levine 敦促 Anthropic 重新考虑下月举行首次公开募股的计划,并警告称,随着人们对 AI 相关风险的担忧加剧,上市可能会分散这家 AI 公司对安全工作的注意力。
Levine 告诉 CNBC 的《Squawk Box》节目,首次公开募股需要投入时间,还可能给 Anthropic 带来压力,迫使其作出与安全优先事项相冲突的决定。
“这无疑会分散他们对安全工作的注意力,”Levine 周四在 CNBC 上说。“一旦上市,他们就会面临新的增长和盈利压力,而这些压力会与安全工作发生冲突。纽约市养老基金也与此息息相关,因为我们会跟踪指数。”
周三,Levine 致信 Anthropic CEO Dario Amodei,敦促公司暂停下月上市的计划。此前,人们对安全问题的担忧不断加剧,AI 行业部分领导者与特朗普政府之间也围绕应如何发展这项技术出现越来越大的分歧。
一名曾在 Anthropic 和其竞争对手 OpenAI 工作过的研究人员公开指责这两家公司推进速度过快,使人类面临风险。此后,两家公司的 CEO 都支持采取防护措施的呼吁,并表示放慢开发速度至关重要。
与此同时,特朗普政府在争取领先中国的过程中采取了不同的路线。本月早些时候,特朗普将 AI 重新命名为“超级智能”,并成立了一个工作组,负责协调联邦政府与消费者、公共利益团体、宗教组织、关键基础设施提供商和 AI 公司开展与 AI 相关的接触。
过去一个月里,AI 领域的领导者与特朗普会面,并且签署了一项自愿协议,其中包括与外部审计机构合作,以及建立内部控制机制。不过,Levine 表示,这些措施仍有不足,无法“应对当前形势”。
“鉴于这些担忧,Anthropic 应具体披露将如何实施适当的审计和控制措施、这些控制措施拟应对的问题范围,以及预计的时间表,”Levine 说。“这还应包括说明这些控制措施是否以及如何能够充分回应你们关于放慢 AI 模型能力提升速度的呼吁。”
Anthropic 未立即回应置评请求。
根据 Levine 发给 Anthropic 的信件,他作为主计长还担任纽约市养老基金的投资顾问。该基金是美国规模最大的养老基金之一,资产达 3250 亿美元。
“因此,作为未来的……投资者,我们非常关注这件事,并认为在他们更好地掌握安全问题之前,应当放慢推进速度,”Levine 说。
