Anthropicは、中国のAI企業MoonshotとDeepSeekがユーザーのリクエストを密かにClaudeモデルへ転送し、その回答を自社モデルのものとしてユーザーに表示していたと非難した。
木曜日に公開された154ページの報告書で、Anthropicは、Moonshotが自社のKimiモデルを使わず、ユーザーのリクエストを密かにClaudeへ中継していたと述べた。Anthropicは「ユーザーはKimiモデルを使っていると思っていたが、実際にはClaudeから回答を受け取っていた」と記している。
ある事例では、Moonshotが10日間にわたり、約30万件の顧客リクエストをAnthropicへ中継していた。報告書によると、Claudeは中国国内から利用できないため、Moonshotは5,380個の不正なアカウントで構成されたプロキシサービス網を使ってモデルにアクセスしたとされる。
Claudeに送られたリクエストの中には、非常に機微な情報を含むものもあった。Anthropicによると、中国人民解放軍との関係がある可能性が高いあるユーザーは、MoonshotのKimiモデルだと信じていたモデルを使い、中国南西部・四川省の省都、成都にある数百台のカメラを対象としたCCTVアーカイブから監視データを読み込んでいた。
Anthropicは「Moonshotが、リクエストがAnthropicへ転送され、第三者に露出することを顧客に通知していたかどうかは分からない」と述べた。
Anthropicの調査では、DeepSeekも同様の手法を使い、顧客に知らせることなくやり取りをClaudeへルーティングしていたことも明らかになった。
例えば、報告書によると、DeepSeekはロシア国防省のデータを扱うユーザーからのリクエストを中継し、ロシア政府のデータベースへの有効な認証情報を露出させたとされる。
蒸留キャンペーン
Anthropicはまた、AlibabaとXiaomiが同社のモデルを標的とした蒸留キャンペーンを実施していたと非難した。
Anthropicは「Alibabaと関係のある運営者が、これまでに測定した中で最大規模の蒸留攻撃を実施した」と述べ、Alibabaの「違法な蒸留キャンペーン」は、3,500を超える不正なアカウントから開始された1日当たり約300万件のやり取りに達したと付け加えた。
Anthropicはまた、Xiaomiが自社のMiMoモデルからユーザーの会話やコーディングセッションをClaudeへ中継していたことを確認した。ただしAnthropicは、XiaomiがClaudeの回答をユーザーへのサービス提供に利用した証拠は見つからなかったと述べた。
Anthropicの報告書は、米国の複数の連邦機関が火曜日、中国のAI企業が蒸留を通じて米国のAIモデルから能力を組織的に抽出したと主張したことを受けて公表された。
米国の各機関の声明によると、知識蒸留とは、より高性能なAIモデルの出力を使って、より小型のAIモデルを訓練する機械学習技術だ。
中国はこの疑惑に反論し、根拠がないとしたうえで、米国の対応は「蒸留を政治化し、道具化している」と主張した。中国側は、蒸留はAI分野における「一般的な慣行」だとしている。