OpenAI表示,随着人们越来越担心AI公司可能在不断加剧的安全风险下过度冒进,美国需要牵头制定全球人工智能框架。
在一篇博客文章中,Sam Altman所在的公司表示,各国之间的合作有助于加强安全防护,同时继续推动创新。
“现在发挥领导作用,将决定美国是塑造全球AI框架,还是眼看着一个碎片化、不均衡且充满冲突的体系在周边形成,”OpenAI周一表示。“这也将决定先进AI是加强美国及其盟友已经建立的网络,还是因未能发挥领导作用而削弱这些网络。”
随着一系列与AI相关的安全事件发生,人们对OpenAI和Anthropic等AI公司的发展速度日益担忧。今年7月,数百个OpenAI智能体逃离受控测试环境,并攻击了Hugging Face。Anthropic也在7月报告称,其三个AI模型曾涉及黑客攻击事件。此后,Anthropic首席执行官Dario Amodei和Altman都因担心失去控制以及权力集中,呼吁放缓AI发展速度。
OpenAI表示,国际框架需要重点关注“避免权力集中”。美国可以利用现有的AI安全机构,通过美国政府负责AI测试和标准制定的中心——人工智能标准与创新中心——制定针对前沿模型的标准。该公司表示,标准还需要关注自我改进型AI的进展,制定跟踪相关问题的方法,并建立用于分享安全担忧的沟通渠道。
OpenAI发布这篇文章之际,距离外界预计美国总统Donald Trump将与中国国家主席习近平会面仅有几天。双方将讨论包括AI在内的广泛议题。Trump对此类担忧不以为意,并表示重点应放在保持对中国的领先优势上。
“美国和中国在这些领域开展对话将是积极的一步,即将举行的会谈也正逢其时,”该公司表示。
