Anthropicは金曜日、Claude SecurityのユーザーがClaude Mythos 5にアクセスし、コードリポジトリをスキャンして悪用可能な脆弱性を探せるようになったと発表した。今回の提供により、同社の専門的なサイバーセキュリティモデルへのアクセスは拡大するが、直接利用は引き続き制限される。

Claude Enterpriseの顧客向けにパブリックベータで提供されているClaude Securityでは、ユーザーがMythosモデルに直接アクセスすることはできない。代わりに、Mythosをバックグラウンドで実行するインターフェースを通じて操作し、バグレポートや修正案など、特定の成果物のみを受け取る。

同社は「最もリスクの高い行動は、ユーザーがモデルに直接アクセスできる場合に発生する。悪意のある行為者がモデルを有害な用途へ誘導しようとする可能性があるためだ」と説明している発表の中で。「しかし、ユーザーが脆弱性へのパッチやセキュリティ警告など、特定の出力しか受け取れない場合、そのリスクは大幅に低下する」としている。

セキュリティクレジット3,500万ドル

Anthropicはまた、0xDAFの表記を用いるDefender Advantage Fundを立ち上げた。同基金は、オープンソースのセキュリティに取り組む組織にClaudeのコンピューティングクレジット3,500万ドルを配分する。

Anthropicによると、資金は「オープンソースプロジェクトの脆弱性修正、オープンソースソフトウェアのスキャンとパッチ適用プロセスの一部自動化、新たなセキュリティ手法の実験に取り組む」団体に提供される。同社は、まず少数の大規模なパイロット助成から開始し、受給者を今後数週間以内に発表すると述べた。

0xDAFの取り組みは、同社が以前実施したProject Glasswingの取り組みとは別のものだ。Project Glasswingには最大1億ドル相当のモデルクレジットと400万ドルの直接寄付が拠出され、サイバーセキュリティ研究者にも限定的なMythosへのアクセスが提供された。

今回の管理された展開は、Claudeモデルが本来想定されたテスト環境から脱出し、オープンウェブにアクセスすることに成功した事案を受けたものだ。The Latentは以前、141,006件のサイバーセキュリティテストのうち3件の事案で、Claudeモデルが3つの組織の稼働中システムに到達したと報じている。そのうち1件では、Mythos 5が隠しコードを含むPythonパッケージを公開し、そのコードが無関係な15台のマシン上で実行された。

以前のMythosモデルも、連邦政府による耐量子暗号プロセスで検討されているアルゴリズム、HAWKを弱体化させる数学的攻撃を開発したと、The Latentが7月に報じた。