コーディングアシスタントがユーザーデータをひそかにアップロードした後、中国のZ.aiに批判の目

中国のAI企業Z.aiは、同社のコーディングアシスタントZCodeがユーザーのワークスペースデータをひそかにサーバーへアップロードしていたことを受け、批判にさらされている。これにより、同プラットフォームが機密データをどのように扱っているのかをめぐる懸念が浮上した。

独立系開発者のFerstarは金曜日のブログ投稿で、ユーザーがログインしている間、ZCodeがユーザーのワークスペースをパッケージ化して暗号化し、そのデータをAlibaba Cloudのオブジェクトストレージサービスにアップロードしていたと記した。

Ferstarは、アップロード待ちの商用プロジェクトを含む313メガバイトの圧縮パッケージを発見した。一方、538個のファイルを含む小さいパッケージは正常にアップロードされていた。さらに同開発者は、この仕組みがデフォルトで有効になっており、ユーザーが無効にする選択肢はなかったと付け加えた。

その後の金曜日、Z.aiはZCodeのユーザーグループに通知を出し、この問題は、過去のバージョンへのロールバックやRepo Wikiなどの機能を支える、プラットフォームの「コードリポジトリーのインデックス作成」機能に起因すると説明した。複数の中国のテック系報道機関とSouth China Morning Postの報道によると、同社はこのように説明した。

同社によると、Wikiインターフェースの生成中にリポジトリデータがアップロードされる可能性があるが、処理が完了するとデータは直ちに破棄されるという。

Z.aiはさらに、チームが問題を修正し、ZCodeのコードベースをオープンソース化するとともに、第三者の監査を受けると述べた。

しかしFerstarは土曜日の更新で、アップロードされたデータが直ちに破棄されたことをユーザーが独自に検証する方法は依然として明らかになっていないと記した。

香港上場のZ.ai株は月曜日午前の取引で4.9%下落した。市場はまだ開いている。The LatentはZ.aiに追加のコメントを求めている。

AIの監督

この論争は、AIの能力と自律性の高まりが新たな深刻なセキュリティリスクを生み出しているさなかに起きた。AnthropicのCEO、Dario Amodeiは、フロンティアAI開発のペースを遅らせるよう求めており、この考えはOpenAIのSam Altman、Google DeepMindのDemis Hassabis、xAI創業者のElon Muskも支持している。

米国のDonald Trump大統領と中国のXi Jinping国家主席は、9月24日に予定されている会談で、AIに関連する機会と脅威について話し合う見通しだ。会談を前に、米財務長官のScott Bessentは、AIや貿易、投資をめぐる中国当局者との最近の協議は「非常に成功した」と述べた。Bloombergが報じた。