A Anthropic acusou as empresas chinesas de IA Moonshot e DeepSeek de encaminhar secretamente solicitações de usuários para modelos Claude e exibir as respostas aos usuários como se fossem próprias.
Em um relatório de 154 páginas publicado na quinta-feira, a Anthropic afirmou que a Moonshot encaminhou secretamente solicitações de usuários ao Claude, em vez de usar seus próprios modelos Kimi. "Esses usuários achavam que estavam usando um modelo Kimi, mas receberam respostas do Claude", escreveu a Anthropic.
Em um caso, a Moonshot encaminhou quase 300.000 solicitações de clientes à Anthropic ao longo de um período de dez dias. Como o Claude não é acessível de dentro da China, a Moonshot teria usado uma rede de serviços de proxy composta por 5.380 contas fraudulentas para acessar os modelos, segundo o relatório.
Algumas das solicitações enviadas ao Claude continham informações bastante sensíveis. Um usuário que, segundo a Anthropic, provavelmente tinha ligação com o Exército de Libertação Popular da China usou o que acreditava ser o modelo Kimi da Moonshot para carregar dados de vigilância de um arquivo de CFTV que abrangia centenas de câmeras em Chengdu, capital da província de Sichuan, no sudoeste da China.
"Não sabemos se a Moonshot informou seus clientes de que suas solicitações estavam sendo redirecionadas à Anthropic e expostas a terceiros", afirmou a Anthropic.
A investigação da Anthropic também afirmou que a DeepSeek usou táticas semelhantes e encaminhou conversas ao Claude sem informar os clientes.
Por exemplo, a DeepSeek teria encaminhado solicitações de um usuário que trabalhava com dados do Ministério da Defesa da Rússia, expondo credenciais ativas de um banco de dados do governo russo, segundo o relatório.
Campanhas de destilação
A Anthropic também acusou a Alibaba e a Xiaomi de realizar campanhas de destilação direcionadas a seus modelos.
"Operadores afiliados à Alibaba realizaram o maior ataque de destilação que já medimos", afirmou a Anthropic, acrescentando que a "campanha ilícita de destilação" da Alibaba atingiu um pico de quase 3 milhões de interações por dia, iniciadas a partir de mais de 3.500 contas fraudulentas.
A Anthropic também descobriu que a Xiaomi havia encaminhado conversas de usuários e sessões de programação de seus modelos MiMo ao Claude. A Anthropic, no entanto, afirmou não ter encontrado evidências de que a Xiaomi tenha usado as respostas do Claude para atender seus usuários.
O relatório da Anthropic foi publicado depois que várias agências federais dos EUA alegaram na terça-feira que empresas chinesas de IA extraíram sistematicamente capacidades de modelos de IA americanos por meio de destilação.
A destilação de conhecimento é uma técnica de aprendizado de máquina que envolve treinar um modelo de IA menor usando a saída de modelos mais capazes, segundo o comunicado das agências dos EUA.
A China reagiu às alegações, classificando-as como infundadas e argumentando que a medida dos EUA "politiza e instrumentaliza a destilação", que, segundo o país, era uma "prática comum" no campo da IA.