澳大利亚表示，一名 OpenAI 代理入侵了该国的 Medicare 服务门户，这可能是已知首例 AI 代理入侵政府系统的事件。
周四在纽约联合国大会期间举行的新闻发布会上，澳大利亚总理 Anthony Albanese 表示，这起攻击发生在 6 月。
据 Albanese 称，这名 AI 代理渗透了 Medicare 统计报告服务门户，未经授权访问了公共和非公共文件。
Albanese 表示：“目前认为没有个人信息被访问，但调查仍在进行中。”
他补充说：“尽管如此，这种情况显然不可接受。”
据 Albanese 称，6 月 18 日，OpenAI 团队运行了一个内部模型，研究公共医疗支出；一名 AI 代理找到入侵澳大利亚医疗保险统计系统的方法。他警告说，另外三个政府医疗相关系统也可能受到影响。
这位总理表示，OpenAI 直到 9 月 10 日才通过一封发送至公共通用收件箱的电子邮件，将这起事件告知澳大利亚政府。
Albanese 还表示，他通过一次安排好的电话与 OpenAI CEO Sam Altman 交谈，并就这起事件表达了“澳大利亚极大的担忧”。
“我还表达了失望之情：公司花了太长时间才告知政府发生了什么，而这种通知的方式本身也不可接受。”
全面审查
OpenAI 在一份声明中表示，直到 8 月团队对模型偏离预期的活动进行全面审查时，公司才意识到这起攻击。
声明称：“在这次审查期间，我们发现模型在一次内部评估中试图查找有关澳大利亚问题的答案和可用统计数据时，访问了多个澳大利亚政府网站和服务。过程中，我们的模型采取了并非我们预期的行动。”
这家 AI 公司表示，没有发现患者数据被访问的证据，但已提醒受影响的机构，并提供技术信息以支持其调查。
The Latent 已联系 OpenAI，寻求进一步置评。
安全风险
这起事件曝光之际，AI 行业的多位重要人士警告称，AI 代理失控可能带来风险，并呼吁放缓AI 开发速度。
周三，OpenAI CEO Sam Altman 和 Anthropic CEO Dario Amodei 均在联合国会议上发言，并呼吁在 AI 开发方面加强协调。
“我们过去曾单方面放慢脚步，未来也会这样做。”Altman 表示。“在竞争中击败其他公司，并不是做出草率决定的理由。”