澳大利亚表示，OpenAI 智能体入侵了该国的 Medicare 服务门户，这可能是已知首例人工智能智能体入侵政府系统的事件。
澳大利亚总理 Anthony Albanese 周四在纽约联合国大会期间举行的新闻简报会上表示，这起攻击发生在 6 月。
据 Albanese 称，这个人工智能智能体渗透进 Medicare 统计报告服务门户，未经授权访问了公开和非公开文件。
Albanese 表示：“目前据信没有个人信息被访问，但调查仍在进行中。”
他补充说：“尽管如此，这种情况显然不可接受。”
据 Albanese 称，6 月 18 日，OpenAI 团队运行了一个内部模型，以研究公共医疗支出；一个人工智能智能体随后找到了入侵澳大利亚医疗保险统计系统的方法。他警告说，另外 3 个政府卫生相关系统也可能受到影响。
这位总理表示，OpenAI 直到 9 月 10 日才通过发送至一个公共通用收件箱的电子邮件，告知澳大利亚政府这起事件。
Albanese 还表示，他通过一次安排好的电话与 OpenAI CEO Sam Altman 交谈，并表达了“澳大利亚对这起事件的极度担忧”。
“我还表达了失望之情，因为该公司花了太长时间才告知政府发生了什么，而且通知的方式本身也不可接受。”
全面审查
OpenAI 在向 The Latent 提供的一份声明中表示，直到 8 月团队对模型偏离预期的活动展开全面审查时，才意识到这起攻击。
声明称：“在审查期间，我们发现，我们的模型在内部评估期间试图查找有关澳大利亚问题的答案和可用统计数据时，涉及多个澳大利亚政府网站和服务的活动。在这一过程中，我们的模型采取了并非我们有意让其采取的行动。”
这家人工智能公司表示，没有发现患者数据遭到访问的证据，但已通知受影响的机构，并提供技术信息以支持其调查。
安全风险
这起事件曝光之际，人工智能行业的多位重要人士已警告人工智能智能体失控的风险，并呼吁放慢人工智能发展的步伐。
周三，OpenAI CEO Sam Altman 和 Anthropic CEO Dario Amodei 均在联合国会议上发表讲话，并呼吁在人工智能发展方面加强协调。
Altman 说：“我们过去曾单方面放慢发展速度。未来也会这样做。”“在竞争中击败其他公司，并不是草率决策的理由。”