Anthropic은 중국 AI 기업 Moonshot과 DeepSeek가 사용자 요청을 몰래 Claude 모델로 라우팅한 뒤, 그 응답을 자체 응답인 것처럼 사용자에게 표시했다고 비난했다.
154쪽 분량의 보고서를 목요일 공개한 Anthropic은 Moonshot이 자체 Kimi 모델을 사용하는 대신 사용자 요청을 몰래 Claude로 전달했다고 밝혔다. Anthropic은 "이 사용자들은 자신이 Kimi 모델을 사용한다고 생각했지만, 실제로는 Claude의 응답을 받았다"고 썼다.
한 사례에서 Moonshot은 열흘 동안 고객 요청 약 30만 건을 Anthropic으로 전달했다. 보고서에 따르면 Claude는 중국 내에서 이용할 수 없기 때문에 Moonshot은 사기 계정 5,380개로 구성된 프록시 서비스 네트워크를 이용해 모델에 접근한 것으로 추정된다.
Claude에 전달된 요청 중 일부에는 상당히 민감한 정보가 포함돼 있었다. Anthropic은 중국 인민해방군과 관련됐을 가능성이 높은 한 사용자가 Moonshot의 Kimi 모델이라고 믿은 모델을 이용해 중국 남서부 쓰촨성의 성도 청두에 있는 수백 대의 카메라를 포괄하는 CCTV 아카이브에서 감시 데이터를 불러왔다고 밝혔다.
Anthropic은 "Moonshot이 고객에게 요청이 Anthropic으로 재라우팅돼 제3자에게 노출된 사실을 알렸는지는 알 수 없다"고 밝혔다.
Anthropic의 조사 보고서는 DeepSeek도 유사한 수법을 사용해 고객에게 알리지 않고 대화를 Claude로 라우팅했다고 밝혔다.
보고서에 따르면 예를 들어 DeepSeek는 러시아 국방부 데이터와 관련된 한 사용자의 요청을 전달해 러시아 정부 데이터베이스의 실시간 자격 증명을 노출한 것으로 추정된다.
증류 캠페인
Anthropic은 Alibaba와 Xiaomi가 자사 모델을 겨냥한 증류 캠페인을 벌였다고도 비난했다.
Anthropic은 "Alibaba와 연계된 운영자들은 우리가 지금까지 측정한 것 중 가장 큰 규모의 증류 공격을 수행했다"며, Alibaba의 "불법 증류 캠페인"이 3,500개가 넘는 사기 계정에서 시작된 하루 약 300만 건의 대화로 정점을 찍었다고 밝혔다.
Anthropic은 Xiaomi가 MiMo 모델의 사용자 대화와 코딩 세션을 Claude로 전달한 사실도 확인했다. 그러나 Anthropic은 Xiaomi가 Claude의 응답을 사용자에게 제공하는 데 사용했다는 증거는 찾지 못했다고 밝혔다.
Anthropic의 보고서는 화요일 미국 연방기관 여러 곳이 중국 AI 기업들이 증류를 통해 미국 AI 모델의 역량을 체계적으로 추출했다고 주장한 뒤 나왔다.
미국 기관들의 성명에 따르면 지식 증류는 더 뛰어난 모델의 출력을 사용해 더 작은 AI 모델을 훈련하는 머신러닝 기법이다.
중국은 이러한 의혹에 반박하며, 근거 없는 주장이라고 일축했다. 또한 미국의 조치가 "증류를 정치화하고 도구화한다"고 비판하면서, 증류는 AI 분야의 "일반적인 관행"이라고 주장했다.