Anthropicは、AIがどれほど速く自己開発を進めているか、またAIエージェントがどの程度適切に監督されているかを追跡するための新たなフレームワークを公開した。CEOのDario Amodeiは、業界全体の減速を求めている。
木曜日に公開したブログ記事で、Anthropicは、AIの研究開発のうちどの程度がAIによって行われているか、エージェントがどのように監視されているか、コンピューティング能力がどのように配分されているかを示す3つの指標を明らかにした。
「世界がフロンティアの進展速度を検討する中で、フロンティアラボが知っていることと、一般の人々が知っていることの隔たりを最小限にするため、可能な限りあらゆることをすべきです」と同社は別のXの投稿で述べた。「これは、AIの開発をより適切に測定し、調査結果を公開し、社会がこの情報をどう使うかを決定する機会を提供することを意味します」
同社は、自社のリスク評価チームが利用するものと同等の内部システムやデータへのアクセス権を持つ第三者評価者を組み込む計画だと述べた。
AI主導のR&D
注目すべきことに、Anthropicは、2026年8月時点でClaudeが同社のAI R&Dの26%を「主導」していると報告した。7月の25%、6月の14%から増加しており、人間が監督する中で、AIモデルが「高レベルのプロンプトからエンドツーエンドで」タスクの大部分を完了できることを示している。
同社は現在、AI R&Dの90%以上に、AIと人間の協働、またはそれを超える形でのAIの関与が含まれていると指摘した。
2つ目の指標について、Anthropicは8月時点で、最も利用されている社内プラットフォーム上で、研究やエンジニアリング業務を行う約30,000のAIエージェントを常時稼働させていたと述べた。同社によると、エージェントのすべての行動は自動監視システムを通過していた。
具体的には、10億件を超える意思決定のうち、オンライン監視システムが行動の0.002%、つまり約47,000件に1件をブロックした。オフライン監視システムも、1,000件に1～2件のトランスクリプトをさらなる調査対象としてフラグ付けした。
同社によると、毎週約100,000件のフラグのうち、約50件の優先度の高い事例がエスカレーションされた。投稿によると、こうしたブロックされた行動は1週間以内に人間による確認を受けることになっている。
コンピューティングの配分
Anthropicは、安全性に関する業務とその他のR&Dの間でコンピューティングがどのように分配されているかも監視している。
同社は、7月13日から7月20日までのスナップショット週における総コンピューティング利用量を調査した。AI R&Dに使われたコンピューティングの約6%が安全性向けに配分され、AI主導のAI R&Dに使われたコンピューティングの約12%が安全性に充てられていた。
Claudeの開発元はまた、このフレームワークを業界全体の透明性に向けたプロトタイプとして公開したと指摘した。「これらの測定結果を公開することで、その透明性の模範を示したいと考えており、今後も継続して公開していきます」と同社は述べた。
Anthropicの最新フレームワークは、CEOのDario Amodeiが週末に開発ペースの減速を求めた後に公開されたもので、安全性への懸念が高まっていることを理由に挙げていた。OpenAIのSam Altman、Google DeepMindのDemis Hassabis、xAI創業者のElon Muskも、同様の懸念を表明するか、この考えを支持した。
同様に、OpenAIは新たなフレームワークを公開した。水曜日にAIモデルのミスアラインメントを報告するためのフレームワークを発表し、チームが過去6カ月間に記録したモデルの意図しない挙動について、6件の事例報告を明らかにした。
「ミスアラインメントの事例は、他のAI開発者がシステムで同様の能力に到達した際に遭遇する可能性のある問題を特定したり、安全対策の弱点を明らかにしたり、モデルの挙動に関する前提に疑問を投げかけたりするのに役立つ可能性があります」とOpenAIは記した。「こうした調査結果を共有することで、他の人々が同じ問題を調査し、私たちの説明を検証し、緩和策を改善できるようになります」