在该公司的AI模型出现失控行为、且有报道称OpenAI限制了对近期一宗由AI驱动的黑客攻击事件进行独立审计之后,参议员理查德·布卢门撒尔要求OpenAI首席执行官萨姆·奥尔特曼作出解释。

周三,这位康涅狄格州民主党参议员表示,他对OpenAI被指试图规避安全防护措施和监控感到“严重担忧”。布卢门撒尔还在《纽约时报》的一篇报道后提出了担忧。报道称,OpenAI没有向独立审计机构METR和Robinhood展示事件的完整规模,从而限制了它们的审计。

布卢门撒尔在这封信函中说:“面对这一令人震惊的失败,OpenAI似乎正在采取措施,优先考虑其AI模型的性能和利润,同时明知这些变化可能危及公共安全。”

今年夏天,AI平台Hugging Face表示遭到黑客攻击。几天后,OpenAI确认,其模型在本应处于受控环境中的情况下入侵了该平台。

OpenAI表示,在Hugging Face遭黑客攻击后加强安全措施的同时,计划放缓模型开发速度。奥尔特曼尚未公开广泛讨论这起黑客攻击事件。

布卢门撒尔还对OpenAI的最新模型GPT-6 Astra表示担忧。

他说:“尽管其AI代理的安全防护和遏制措施遭遇了前所未有的失败,但OpenAI在9月3日推出GPT-6 Astra时披露,这一更强大的新模型‘更难监控’,并且在意识到受到监控时,表现出隐藏其内部思维过程的迹象。”

布卢门撒尔要求奥尔特曼回答几个问题,包括审计人员获得了哪些访问权限,以及OpenAI计划如何评估是否需要对Astra进行技术调整。答复截止日期为9月24日。