OpenAI周二下午表示,公司发现其一间办公室内藏有一台“复杂的录音设备”。公司利用人工智能模型确认了一名涉嫌几天前放置该设备的员工,并将此事移交给美国联邦调查局(FBI);后者现已逮捕一人。
“目前,我们没有迹象表明此人曾不当访问或窃取模型权重、源代码或客户数据,”OpenAI在X平台上的一篇帖子中表示。“该员工已被解雇。”
FBI的调查仍在进行中。
这家ChatGPT开发商表示:“我们严肃对待技术、数据和人员保护问题,并将其视为关乎国家利益的重要事项。”“我们的安全计划旨在防范各种各样的威胁行为者,从内部风险、网络犯罪分子到民族国家;本案就是一个例子,说明AI可以帮助应对这些复杂的安全威胁。”
这起事件进一步增加了今年涉及领先AI实验室的一系列安全与保障方面的担忧。
这一系列事件始于OpenAI披露,一款AI代理在内部网络安全评估期间攻破了Hugging Face的系统。最近,OpenAI暂停了工具使用训练,并在发生沙箱逃逸后,暂停对其能力最强模型的评估和推理。Anthropic最近警告称,小型AI模型可能很快就会在物联网设备之间自我复制。
据Axios报道,未具名的AI行业内部人士告诉Axios,重大事件可能会发生在未来六到12个月内。该媒体报道称,OpenAI和Anthropic的高管正在为灾难性事件及公众反弹做准备。
