The Information에 따르면 중국 인터넷 감독기관이 Anthropic에 데이터를 유출했을 가능성과 관련해 DeepSeek와 Moonshot AI를 조사하고 있다. Anthropic은 두 중국 AI 기업이 사용자 요청을 몰래 Claude로 전송했다고 비난했다.
The Information은 화요일 보도에서 세계에서 가장 강력한 디지털 검열 기관 중 하나로 널리 여겨지는 중국 국가인터넷정보판공실(CAC)이 Anthropic의 보고서에 이름이 거론된 중국 AI 기업 7곳의 대표들을 소환했다고 전했다. 해당 기업은 DeepSeek, Moonshot, Alibaba, Z.ai, SenseTime, MiniMax, Xiaomi다.
보도에 따르면 조사는 곧 DeepSeek와 Moonshot에 집중됐다. 조사는 현재 진행 중이며, 규제 당국은 아직 해당 기업들을 제재할지 결정하지 않았다.
이번 조사는 DeepSeek와 Moonshot이 사용자 요청을 비밀리에 Claude로 전달한 뒤 그 답변을 자사의 답변인 것처럼 사용자에게 보여줬다는 Anthropic의 주장 이후 이뤄졌다.
Anthropic이 Claude에 전달한 요청 중 일부에는 민감한 정보가 포함돼 있었다고, Anthropic이 이달 초 발표한 154쪽 분량의 보고서는 밝혔다. Anthropic에 따르면 중국 인민해방군과 연계됐을 가능성이 있는 한 사용자는 Moonshot의 Kimi 모델이라고 믿은 모델을 이용해 중국 남서부 쓰촨성의 성도 청두에 있는 수백 대의 카메라를 다루는 CCTV 기록 보관소의 감시 데이터를 불러왔다.
보고서에 따르면 DeepSeek 역시 러시아 국방부 데이터와 관련된 사용자의 요청을 전달해 러시아 정부 데이터베이스의 실시간 인증 정보가 노출되도록 한 혐의를 받고 있다.
Anthropic은 이달 초 보고서에서 "Moonshot이 고객들에게 자신들의 요청이 Anthropic으로 재전송되고 제3자에게 노출된 사실을 알렸는지는 알 수 없다"고 밝혔다.
증류 캠페인
Anthropic의 주장은 미국의 여러 연방기관이 중국 AI 기업들이 증류를 통해 미국 AI 모델의 역량을 체계적으로 추출했다고 주장한 뒤 나왔다.
중국은 이러한 주장을 근거 없다고 반박하며, 미국의 조치가 "증류를 정치화하고 도구화한다"고 주장했다. 중국은 증류가 AI 분야에서 "일반적인 관행"이라고 밝혔다.
그러나 CAC의 조사는 중국 당국이 더욱 민감하게 우려할 수 있는 문제, 즉 중국 AI 기업들이 민감한 군사 또는 기업 데이터를 미국에 노출했는지를 겨냥하고 있다.
The Latent는 논평을 듣기 위해 CAC에 연락했다.