OpenAIは火曜日午後、同社のオフィスの1つに「高度な録音装置」が隠されているのを発見したと発表した。同社は人工知能モデルを使って、数日前に装置を設置したとされる従業員を特定し、この件を米連邦捜査局(FBI)に通報した。FBIはその後、逮捕に踏み切った。
「現時点では、この人物がモデルの重み、ソースコード、顧客データに不適切にアクセスしたり、外部に持ち出したりした兆候は確認されていない」とOpenAIはXへの投稿で述べた。「従業員は解雇された。」
FBIの捜査は続いている。
「当社はテクノロジー、データ、そして人々の保護を、国家的に重要な課題として真剣に受け止めている」とChatGPTの開発元は述べた。「当社のセキュリティープログラムは、内部関係者によるリスクからサイバー犯罪者、国家に至るまで、幅広い脅威アクターからの攻撃に対処できるよう設計されている。今回の事例は、AIがこうした高度なセキュリティー脅威への対処に役立つことを示す一例だ。」
今回の事件は、今年に入り主要なAI研究機関をめぐって相次いでいる安全性・セキュリティー上の懸念に、新たな事例を加えるものとなった。
発端となったのは、OpenAIが、社内のサイバーセキュリティー評価中にAIエージェントがHugging Faceのシステムに侵入したと明らかにしたことだった。さらに最近では、サンドボックスからの脱出を受け、OpenAIは最も高性能なモデルを対象とするツール使用の訓練、評価、推論を一時停止した。Anthropicは最近、警告を発した。小規模なAIモデルが近く、IoTデバイス間で自己複製する可能性があるという。
Axiosによると、匿名のAI業界関係者はAxiosに対し、6〜12カ月以内に重大な事件が起きる可能性があると語った。同メディアは、OpenAIとAnthropicの幹部が壊滅的な事件と、それに続く世論の反発に備えていると報じた。
