Anthropic a accusé les entreprises chinoises d’IA Moonshot et DeepSeek d’avoir discrètement acheminé des requêtes d’utilisateurs vers des modèles Claude et d’avoir affiché les réponses aux utilisateurs comme si elles leur appartenaient.
Dans un rapport de 154 pages publié jeudi, Anthropic a déclaré que Moonshot avait secrètement relayé des requêtes d’utilisateurs vers Claude au lieu d’utiliser ses propres modèles Kimi. « Ces utilisateurs pensaient utiliser un modèle Kimi, mais recevaient en réalité des réponses de Claude », a écrit Anthropic.
Dans un cas, Moonshot a relayé près de 300 000 requêtes de clients vers Anthropic sur une période de dix jours. Claude n’étant pas accessible depuis la Chine, Moonshot aurait utilisé un réseau de services proxy composé de 5 380 comptes frauduleux pour accéder aux modèles, selon le rapport.
Certaines des requêtes transmises à Claude contenaient des informations particulièrement sensibles. Un utilisateur, qui était probablement affilié à l’Armée populaire de libération chinoise selon Anthropic, a utilisé ce qu’il croyait être le modèle Kimi de Moonshot pour charger des données de surveillance provenant d’archives de vidéosurveillance couvrant des centaines de caméras à Chengdu, la capitale de la province du Sichuan, dans le sud-ouest de la Chine.
« Nous ne savons pas si Moonshot a informé ses clients que leurs requêtes étaient redirigées vers Anthropic et exposées à un tiers », a déclaré Anthropic.
L’enquête d’Anthropic a également révélé que DeepSeek avait employé des tactiques similaires et acheminé des échanges vers Claude sans en informer ses clients.
Par exemple, DeepSeek aurait relayé les requêtes d’un utilisateur travaillant avec des données du ministère russe de la Défense, exposant des identifiants actifs permettant d’accéder à une base de données du gouvernement russe, selon le rapport.
Campagnes de distillation
Anthropic a également accusé Alibaba et Xiaomi de mener des campagnes de distillation visant ses modèles.
« Des opérateurs affiliés à Alibaba ont mené la plus importante attaque par distillation que nous ayons jamais mesurée », a déclaré Anthropic, ajoutant que la « campagne de distillation illicite » d’Alibaba avait atteint un pic de près de 3 millions d’échanges par jour, lancés depuis plus de 3 500 comptes frauduleux.
Anthropic a également découvert que Xiaomi avait relayé vers Claude des conversations d’utilisateurs et des sessions de programmation issues de ses modèles MiMo. Anthropic a toutefois déclaré n’avoir trouvé aucune preuve que Xiaomi avait utilisé les réponses de Claude pour servir ses utilisateurs.
Le rapport d’Anthropic est paru après que plusieurs agences fédérales américaines ont affirmé mardi que des entreprises chinoises d’IA avaient systématiquement extrait des capacités de modèles d’IA américains par le biais de la distillation.
La distillation des connaissances est une technique d’apprentissage automatique qui consiste à entraîner un modèle d’IA plus petit à l’aide des résultats de modèles plus performants, selon la déclaration des agences américaines.
La Chine a rejeté ces accusations, les qualifiant d’infondées et soutenant que la décision des États-Unis « politise et instrumentalise la distillation », qu’elle a qualifiée de « pratique courante » dans le domaine de l’IA.