코딩 어시스턴트가 사용자 데이터를 몰래 업로드한 후 조사를 받는 중국 Z.ai

중국 AI 기업 Z.ai가 코딩 어시스턴트 ZCode가 사용자 작업 공간 데이터를 서버에 몰래 업로드한 후 비판에 직면했다. 이로 인해 플랫폼이 민감한 데이터를 어떻게 처리하는지를 둘러싼 우려가 커지고 있다.

독립 개발자 Ferstar는 금요일 블로그 게시물에서 ZCode가 사용자가 로그인한 상태에서 사용자 작업 공간을 패키징하고 암호화한 뒤 Alibaba Cloud의 객체 스토리지 서비스에 업로드했다고 밝혔다.

Ferstar는 업로드 대기 중인 상용 프로젝트가 포함된 313메가바이트 규모의 압축 패키지를 발견했으며, 538개 파일이 들어 있는 더 작은 패키지는 이미 성공적으로 업로드된 상태였다고 밝혔다. 또한 이 메커니즘은 기본적으로 활성화돼 있었고 사용자가 이를 비활성화할 수 있는 옵션은 없었다고 덧붙였다.

이후 금요일 Z.ai는 ZCode 사용자 그룹에 공지를 올려, 이 문제가 과거 버전 롤백과 Repo Wiki 등의 기능을 지원하는 플랫폼의 "코드 저장소 인덱싱" 기능에서 비롯됐다고 밝혔다. 이는 여러 현지 기술 매체와 South China Morning Post의 보도에 따른 것이다.

회사는 Wiki 인터페이스를 생성하는 동안 저장소 데이터가 업로드될 수 있지만, 프로세스가 완료되면 데이터가 즉시 삭제된다고 밝혔다.

Z.ai는 팀이 문제를 해결했으며 ZCode의 코드베이스를 오픈소스로 공개하고 제3자 감사 기관의 검토를 받겠다고 덧붙였다.

그러나 Ferstar는 토요일 업데이트에서 업로드된 데이터가 즉시 삭제됐는지 사용자가 독립적으로 확인할 방법은 여전히 불분명하다고 밝혔다.

홍콩 증시에 상장된 Z.ai 주가는 월요일 오전 거래에서 4.9% 하락했으며, 시장은 아직 열려 있었다. 더 레이턴트는 추가 논평을 듣기 위해 Z.ai에 연락했다.

AI 감독

이번 논란은 AI의 영향력과 자율성이 커지면서 새로운 보안 위험이 긴급하게 대두되는 시점에 발생했다. Anthropic CEO Dario Amodei는 프런티어 AI 개발 속도를 늦춰야 한다고 촉구했으며, 이는 OpenAI의 Sam Altman, Google DeepMind의 Demis Hassabis, xAI 창업자 Elon Musk도 지지한 주장이다.

도널드 트럼프 미국 대통령과 시진핑 중국 국가주석은 9월 24일 예정된 회담에서 AI와 관련한 기회와 위협을 논의할 것으로 예상된다. 회담에 앞서 Scott Bessent 미국 재무장관은 AI, 무역 및 투자에 관해 최근 중국 당국자들과 진행한 회담이 "매우 성공적이었다"고 밝혔다고 Bloomberg가 보도했다.