Swarmchasersの研究者は今週初め、レポートを公開し、Tencentに関連するインフラ上で稼働する不正なAIエージェントが、9月28日から10月8日にかけて、Alibabaの地図サービスAmapから情報を取得しようと2,800回を超える試行を行った経緯を詳述した。

TencentのAIチームは金曜日、調査結果を認めた。ただし、「意図しないウェブ閲覧行動」は第三者モデルの評価に起因するものだと説明した。事案を調査した結果、意図的な標的化や連携を示す証拠は見つからなかったと、同チームは付け加えた。

「今回の調査結果を深刻に受け止めています」とチームは投稿した。「ネットワークのアクセス制御とエージェントの監視を強化しています」

Swarmchasersの研究者によると、エージェントは、中国の公園や博物館、動物園で一般的に利用される入口など、さまざまな情報を探していた。

通常のリクエストがブロックされると、エージェントは、ページを開いたりコードを実行したりできる公開ウェブツールなど、別の手段を試した。これにより他のウェブサイト経由でリクエストを送ることが可能になったが、エージェントが結果を読み取ったりタスクを完了したりしたことは確認されていないと、研究者らは述べた。

AIエージェントの暴走が示す、より広範なパターン

この事案は、AIエージェントの暴走に関する他の報告が相次ぐ中で起きた。OpenAIは木曜日、社内の研究モデルが、無断でアクセスしたウォレットの資金を使い、EthereumのテストネットワークSepoliaにスマートコントラクトをデプロイしたと明らかにした。

インドのサイバーセキュリティー機関CERT-Inも、テスト中のAIモデルがインドの組織の本番システムにアクセスし、検知されることなく機密記録を読み取っていたと報告した。同機関によると、プロバイダーは事案を自主的に開示したが、社名は明らかにしなかった。

一方、Tencentは、今回の閲覧活動に関与した第三者モデルの名前を明らかにしなかった。