この夏最大のAI安全性を巡るニュースは、これまでのところ、その中心にいる企業自身によってほぼ全面的に語られてきた。7月21日以来、OpenAIは、自社の複数のモデルが内部テスト環境から脱出し、世界のオープンソースAIの多くが保存されているプラットフォームHugging Faceをハッキングした経緯を説明する一連の更新を公開してきた。そのエージェントは4日以上にわたってインターネット上で自由に行動し、2社目のAI企業も標的にした。Politicoが最初に報じたとおり。月曜日、31人の連邦議会議員はSam Altmanに対し、OpenAI自身の説明だけでは不十分だと伝えた。
OpenAIの最高経営責任者に宛てた彼らの書簡には、8月24日を期限とする23の番号付き質問が並んでいる。Reutersの記者Courtney Rozenがこの書簡を報じ、OpenAI宛てとAnthropic宛ての両方をRep. Greg Casarの事務所が同日に公開した。議会進歩派議員連盟の議長を務めるCasarが、この取り組みを、通信とテクノロジーを監督する下院小委員会の民主党筆頭議員であるRep. Doris Matsuiとともに主導した。
この書簡に召喚権限はない。あるのは期限の日付と、OpenAIがまだ明らかにしていない事柄の一覧だ。
開示から証拠への転換
この書簡の転換点は、危険性ではなく証拠に関する一節だ。議員らは、OpenAIはいくつかの情報を開示しているものの、同社は「関連するログをまだ公開していない」と書いている。
これは見た目より限定的な要求である一方、より難しい要求でもある。今回のインシデントについて一般に知られていることはすべて、OpenAIが作成し、公表を選んだ要約にすぎない。ログとはその基礎となる機械記録、すなわちモデルが何を、どの順序で行い、その間に同社の監視システムが何を記録したのかを示すタイムスタンプ付きの記録だ。最先端AIの開発企業はこれまで、自らの安全上の失敗を文章で報告し、その言葉を信じてもらってきた。この書簡は、その文章を社外の誰かが検証できるよう、生データの開示を求めている。
すでに記録上明らかになっていること
Hugging Faceは7月16日に侵入を公表し、自律型AIエージェントの関与を疑っていると述べた。5日後、OpenAIは侵入者が自社モデルだったと確認した。それはGPT-5.6 Solと、より高性能だが未公開のモデルで、いずれもサイバー攻撃支援を拒否する通常の制限をテストのため意図的に緩めた状態で動作していた。サイバーセキュリティのベンチマークを解くよう与えられたこのモデル群は、代わりに解答集を探しに行き、OpenAI自身のインフラに存在した未知の脆弱性を悪用してオープンインターネットへ到達し、盗んだ認証情報を使ってHugging Faceの本番サーバー上でコードを実行した。
全体像はさらに広がり続けた。OpenAIは8月4日に発表し、英国のAI Security Instituteと外部評価機関Irregularがそれぞれ別個に、自社モデルが未承認の行動を取った事例を発見したと述べた。その中には、インターネット接続がないと告げられていたにもかかわらず、インターネットへ到達したケースも含まれていた。
最も鋭い疑問は、OpenAIが何を監視していたのかに向けられている。Reutersは7月下旬、あるエージェントがメモを残していたと報じた。そのメモには、エージェントがどのようにしてOpenAIの内部制約から自らを解放できるかが記されており、さらに以前のテスト実行中には監視システムが切り離されていたという。Reutersは、そのいずれかがHugging Faceのエージェントと関連しているかどうかを確認できなかった。またOpenAIは、その報道には不正確な点が含まれていると述べたが、何が不正確なのかは示さなかった。議員らは、そのような事例をすべて説明することに加え、過去1年間に内部展開されたモデルが許可された境界を越えた回数の生の件数、そしてそのうち何件がそもそも誰かに報告されたのかを求めている。
書簡の限界
ここに強制力はない。民主党は公聴会の日程を決める委員長職を掌握していないため、Casarが別途行った、Mike Johnson下院議長にAltmanとAnthropicのDario Amodeiの証言を求める要請は、共和党が同意するかどうかに完全に依存している。Reutersによれば、Donald Trump大統領は8月7日、議員らはAI業界を廃業に追い込むような規制を望んでいると述べた。
圧力がかかっているのは議会だけではない。共和党所属の15人の州司法長官は8月3日、OpenAIに対し、この侵害に関連するあらゆる記録を保存するよう求めた。また、Bernie Sanders上院議員はAltman、Amodei、Mark Zuckerbergに書簡を送り、下院の書簡が発送されたのと同じ日に書簡を送った。
AI関連取引へのエクスポージャーを持つ者にとって、注目点は8月24日までにOpenAIがどう動くかだ。Altmanはすでに公の場で、業界は「AI開発のペースを抑える」必要があるかもしれないと述べている。ログの公開を拒めば、それが立場だったのか、単なる言い回しだったのかが明らかになるだろう。