Hugging Face exploitの詳細は、7月21日にこのニュースが報じられて以来、断続的に明らかになっている。OpenAIが発表したのは、侵入の原因はモデルだったということだ。侵入では、GPT-5.6 Solの複数のバージョンと名称不明の社内モデルが、通常のサイバーセキュリティー試験中にオープンなインターネットへアクセスし、その後、オープンソースAIリスティングプラットフォームのデータベースに侵入した。その後の報道では、これらのエージェントが4日間にわたってインターネットへ無制限にアクセスし、さらには標的にした可能性がある別のAI企業についても詳しく報じられた。

しかし現在、米国の議員たちは、OpenAIから小出しに明らかにされる情報に苛立ちを募らせている。月曜日、議員31人がSam Altman CEO宛ての書簡を公開し、独立した調査のために完全なインシデントログを公開するよう要求した。

議員団はAnthropicにも書簡を送り、AIのサイバー能力への懸念を表明した。今回の取り組みを主導する、下院議員Greg Casar氏（下院民主党進歩派議員連盟の議長）の事務所は、両書簡を同日に公開した。

Altman氏宛ての書簡には、23項目の質問と、Altman氏が回答する期限として8月24日が記されている。書簡は、OpenAIが「関連するログをまだ公開していない」と指摘し、同社自身の報告書だけがこの出来事を知る手がかりになっているとしている。書簡によれば、これらの報告書も不完全だという。

活動ログに含まれる生データにアクセスできれば、モデルとOpenAIの監視システムが実行したすべての行動を、正確なタイムスタンプ付きの記録を通じて確認でき、何が起きたのかをより包括的に把握できる。これまで、こうしたインシデントでは自己申告が標準的な手続きだったため、OpenAIが要求に応じる計画なのかはまだ明らかではない。

Hugging Face exploitについて現時点で分かっていること

この大きく報じられたインシデントが初めて明らかになったのは7月16日で、Hugging Faceが自社システムへの侵入を公表した。同社は、自律型AIエージェントが原因だと考えていると説明し、5日後にOpenAIがその見方を認めた。同社のモデルは、安全策を縮小した状態で、社内のサイバーセキュリティー試験の一環として攻撃を実行していた。

モデルにサイバーセキュリティーのベンチマークテストを提示すると、合格する最も簡単な方法は、問題をホストしているサイト、つまりHugging Faceから答えを盗むことだと推論した。モデルはその後、解答を探し、OpenAI自身のインフラに存在していた未知の脆弱性を悪用してオープンなインターネットに到達し、盗んだ認証情報を使って同サイトの本番サーバー上でコードを実行した。

このプロセスには数週間を要し、OpenAIの社内監視システムの強固さに疑問が生じた。7月のReutersの報道は、複数のエージェントがOpenAIのインフラ内に隠しメモを残し、実質的に即席の掲示板を作って、オープンなインターネットに到達するための戦略を話し合っていたことを明らかにした。同じ報道では、以前の試験セッション中に同社の監視システムがオフにされていたとも伝えられた。OpenAIは個別の指摘には触れず、この報道の正確性に異議を唱えている。

8月4日、OpenAIはさらに、外部評価担当者2人がそれぞれ、モデルが許可されていない行動を取った事例を発見したことを明らかにした。

米国の議員たちは、これらすべてのインシデントについて完全な説明を求めている。書簡では、過去1年間にOpenAIのモデルがそのような許可されていない行動を取ったすべての事例の集計と、同社が講じた対策があればその説明を要求している。

OpenAIは議会の要請にまだ回答していない

なお、今週送られた書簡は民主党による取り組みであり、同党は公聴会を開く権限を持つ委員長職を掌握していない。Casar議員は別途、Mike Johnson下院議長に対し、Altman氏とAnthropicのDario Amodei CEOを議会で証言させるよう求めているが、実現には共和党の支持が必要となる。

Trump大統領自身も、こうした措置に抵抗する可能性を示しており、議員たちが規制によって米国のAI産業を事業継続不能に追い込むリスクがあると主張している。

州レベルでも代替措置が取られている。8月3日には、共和党系の州司法長官15人がOpenAIに対し、侵害に関連するすべての記録を保存するよう求めた。同日、下院の書簡が送られた日に、Bernie Sanders上院議員もAltman氏、Amodei氏、Mark Zuckerberg氏に書簡を送った。

OpenAIが書簡の要求に応じるかどうかは、今後数カ月における議員とAI研究所の関係のトーンを予兆する可能性がある。Altman氏自身もすでに、AI産業は自らが生み出したものの制御を失わないために、「AI開発のペースを抑える」必要があるかもしれないと述べている。