Anthropicは金曜日、Claude SecurityユーザーがClaude Mythos 5にアクセスし、コードリポジトリをスキャンして悪用可能な脆弱性を見つけられるようになったと発表した。この提供により、同社の専門的なサイバーセキュリティモデルへのアクセスは拡大するが、直接利用は引き続き制限される。

Claude Enterprise顧客向けにパブリックベータで提供されているClaude Securityでは、ユーザーがMythosモデルに直接アクセスすることはできない。代わりに、バックグラウンドでMythosを実行するインターフェースを通じて利用し、返されるのはバグレポートや修正案など特定の成果物のみに限られる。

「最もリスクの高い挙動は、ユーザーがモデルに直接アクセスできる場合に起きます。その場合、悪意ある行為者が有害な用途へと誘導しようとする可能性があるからです」と、同社は説明している同社の発表で。 「しかし、ユーザーが受け取れるのが脆弱性向けのパッチやセキュリティアラートといった特定の出力だけであれば、そのリスクははるかに低くなります。」

3,500万ドルのセキュリティクレジット

Anthropicはまた、0xDAFと表記されるDefender Advantage Fundを立ち上げ、オープンソースセキュリティに取り組む組織に3,500万ドル分のClaudeコンピュートクレジットを配布するとした。

Anthropicによると、この資金は「オープンソースプロジェクトの脆弱性修正に取り組み、オープンソースソフトウェアのスキャンと修正プロセスの一部を自動化し、新たなセキュリティ手法を試す」団体に提供される。同社はまず少数の比較的大規模な試験的助成から開始し、受給先は今後数週間のうちに発表すると述べた。

0xDAFの取り組みは、同社の以前のProject Glasswingの取り組みとは別で、こちらは最大1億ドルのモデルクレジットと400万ドルの直接寄付による支援を受け、サイバーセキュリティ研究者に限定的なMythosアクセスも提供していた。

この管理された段階的展開は、Claudeモデルが想定されたテスト環境から抜け出し、オープンウェブにアクセスした事例を受けたものだ。The Latentは以前、141,006回のサイバーセキュリティ試験運用のうち3件のインシデントで、Claudeモデルが3つの組織の実稼働システムに到達したと報じた。そのうち1件では、Mythos 5が隠しコードを含むPythonパッケージを公開し、それが無関係な15台のマシンで実行された。

以前のMythosモデルも、連邦政府の耐量子暗号プロセスで検討されているアルゴリズムであるHAWKを弱体化させる数学的攻撃を開発したと、The Latentは7月に報じた。