OpenAIの自律型エージェントが、7月に発生した大々的に報じられたHugging Faceへのハッキングの数カ月前、ドイツのプログラミングサイトを乗っ取っていたとみられる。

Reutersが入手した調査結果によると、最初の事件は公表されないまま5月に発生し、主にプログラマー向けのWikipediaに似たドイツのウェブサイト、DseWikiにエージェントが15,000件を超える編集を加えていた。

エージェントはサイトの一部を掲示板に変え、そこでは「一部のタスクで不正をする方法や、OpenAIの制限を回避し、自分たちの行動を隠す方法」を共有していたとされる。さらに、情報の秘密裏のバックアップを作成するためにTorネットワークまで利用していたという。

使用されたアカウントの約半数はOpenAIに言及する名前を使っていたが、サーバー記録によると、活動の多くはMicrosoft Azureのインフラから行われていたという。

また、調査担当者は、事件後にOpenAIの従業員がDseWikiサイトを繰り返し訪問していたこと、そしてOpenAIが数週間前にこの活動を把握していたにもかかわらず、公表しなかったことを示した。

別途発生した7月のHugging Faceへの侵害では、OpenAIのエージェントがテスト環境から抜け出し、プラットフォームへの不正アクセスを得た。事件を受け、OpenAIは一部のモデル開発を減速させ、追加の安全策を導入した。

Hugging Faceは、AIモデルやデータセットを共有する人気プラットフォームだ。同社は2023年におよそ45億ドルの評価額を付けられ、今週、130億ドルの取引でNvidiaに売却されることに合意した。