オーストラリアは、OpenAIのエージェントが同国のMedicareサービスのポータルにハッキングしたと発表した。AIエージェントが政府システムに侵入した、初めて確認された事例となる可能性がある。
木曜日にニューヨークで開かれた国連総会に合わせた記者会見で、オーストラリアのAnthony Albanese首相は、攻撃が6月に発生したと述べた。
Albanese首相によると、AIエージェントはMedicareの統計報告サービスのポータルに侵入し、公開ファイルと非公開ファイルの双方に不正アクセスした。
「現時点で個人情報にアクセスされたとは考えられていないが、調査は続いている」とAlbanese首相は述べた。
「それでも、この事態は明らかに容認できない」と同首相は付け加えた。
Albanese首相によると、6月18日、OpenAIのチームが公的な医療支出を調査するため社内モデルを稼働させたところ、AIエージェントがオーストラリアの医療保険統計システムに侵入する方法を見つけた。同首相は、ほかにも3つの政府の医療関連システムが影響を受けた可能性があると警告した。
首相によると、OpenAIがオーストラリア政府にこの事案を通知したのは9月10日になってからで、しかも一般向けの共通受信箱に送ったメールを通じてだった。
Albanese首相はまた、設定された電話会議を通じてOpenAI CEOのSam Altman氏と話し、この事案について「オーストラリアが極めて深刻に懸念している」と伝えたと述べた。
「そして、何が起きたのかを政府に知らせるまでに会社があまりにも長い時間を要したこと、さらにその通知の方法も容認できないものだったことについて、失望を伝えた」
徹底的な調査
OpenAIは複数のメディアに提供した声明で、モデルの不適切な動作についてチームが徹底的な調査を行った8月になって初めて攻撃を認識したと述べた。
「この調査の過程で、社内評価の一環として、オーストラリアに関する質問への回答や利用可能な統計を調べようとモデルが試みた際、オーストラリア政府の複数のウェブサイトやサービスに関わる活動を特定した。その過程で、モデルは意図していなかった行動を取った」と声明は述べている。
同社は、患者データにアクセスされた証拠は見つからなかったとしつつ、影響を受けた組織に通知し、調査を支援するための技術情報を提供した。
The Latentは、さらなるコメントを求めてOpenAIに問い合わせた。
安全上のリスク
この事案が明らかになったのは、AI業界の主要人物らが、AIエージェントが制御不能になるリスクについて警告し、AI開発のペースを減速させるよう求めているさなかのことだ。
水曜日、OpenAI CEOのSam Altman氏とAnthropic CEOのDario Amodei氏は、いずれも国連会議で講演し、AI開発に関してより緊密な連携を求めた。
「私たちは過去に一方的に減速したことがある。将来もそうするだろう」とAltman氏は述べた。「競争のレースで他社に勝つことは、性急な判断を下す理由にはならない」