Anthropic ha acusado a las empresas chinas de IA Moonshot y DeepSeek de redirigir silenciosamente las solicitudes de los usuarios a modelos de Claude y mostrar las respuestas a los usuarios como si fueran propias.
En un informe de 154 páginas publicado el jueves, Anthropic afirmó que Moonshot transmitió en secreto las solicitudes de los usuarios a Claude en lugar de utilizar sus propios modelos Kimi. «Estos usuarios creían que estaban utilizando un modelo Kimi, pero recibieron respuestas de Claude», escribió Anthropic.
En un caso, Moonshot transmitió casi 300.000 solicitudes de clientes a Anthropic durante un periodo de diez días. Como no se puede acceder a Claude desde China, Moonshot supuestamente utilizó una red de servicios proxy compuesta por 5.380 cuentas fraudulentas para acceder a los modelos, según el informe.
Algunas de las solicitudes enviadas a Claude contenían información bastante sensible. Un usuario que, según Anthropic, probablemente estaba vinculado al Ejército Popular de Liberación de China utilizó lo que creía que era el modelo Kimi de Moonshot para cargar datos de vigilancia procedentes de un archivo de CCTV que abarcaba cientos de cámaras en Chengdu, la capital de la provincia de Sichuan, en el suroeste de China.
«No sabemos si Moonshot notificó a sus clientes que sus solicitudes estaban siendo redirigidas a Anthropic y expuestas a un tercero», afirmó Anthropic.
La investigación de Anthropic también señaló que DeepSeek utilizó tácticas similares y redirigió conversaciones a Claude sin informar a los clientes.
Por ejemplo, DeepSeek supuestamente transmitió solicitudes de un usuario que trabajaba con datos del Ministerio de Defensa ruso, exponiendo credenciales activas de una base de datos del Gobierno ruso, según el informe.
Campañas de destilación
Anthropic también acusó a Alibaba y Xiaomi de llevar a cabo campañas de destilación dirigidas contra sus modelos.
«Operadores afiliados a Alibaba llevaron a cabo el mayor ataque de destilación que hemos medido jamás», afirmó Anthropic, y añadió que la «campaña ilícita de destilación» de Alibaba alcanzó un máximo de casi 3 millones de intercambios diarios iniciados desde más de 3.500 cuentas fraudulentas.
Anthropic también descubrió que Xiaomi había transmitido conversaciones de usuarios y sesiones de programación de sus modelos MiMo a Claude. Sin embargo, Anthropic afirmó que no encontró pruebas de que Xiaomi utilizara las respuestas de Claude para atender a sus usuarios.
El informe de Anthropic se publicó después de que varias agencias federales de Estados Unidos alegaran el martes que las empresas chinas de IA extraían sistemáticamente capacidades de modelos estadounidenses de IA mediante la destilación.
La destilación de conocimiento es una técnica de aprendizaje automático que consiste en entrenar un modelo de IA más pequeño utilizando los resultados de modelos más capaces, según el comunicado de las agencias estadounidenses.
China ha rechazado las acusaciones, calificándolas de infundadas y argumentando que la medida de Estados Unidos «politiza e instrumentaliza la destilación», que, según afirmó, era una «práctica común» en el ámbito de la IA.