Z.ai, en Chine, dans le collimateur après l'envoi discret de données utilisateur par son assistant de programmation

L'entreprise chinoise d'IA Z.ai essuie des critiques après que son assistant de programmation ZCode a discrètement envoyé les données des espaces de travail d'utilisateurs vers un serveur, suscitant des inquiétudes quant à la manière dont la plateforme gère les données sensibles.

Le développeur indépendant Ferstar a écrit dans un article de blog vendredi que ZCode regroupait et chiffrait les espaces de travail des utilisateurs avant d'envoyer les données vers le service de stockage d'objets d'Alibaba Cloud alors que les utilisateurs étaient connectés.

Ferstar a découvert un paquet compressé de 313 mégaoctets contenant un projet commercial en attente d'envoi, tandis qu'un paquet plus petit contenant 538 fichiers avait été envoyé avec succès. Le développeur a ajouté que le mécanisme était activé par défaut, sans possibilité pour les utilisateurs de le désactiver.

Plus tard vendredi, Z.ai a publié un avis dans un groupe d'utilisateurs de ZCode, indiquant que le problème provenait de la fonctionnalité d'« indexation des dépôts de code » de la plateforme, qui prend notamment en charge le retour à des versions antérieures et Repo Wiki, selon des informations de plusieurs médias technologiques locaux et du South China Morning Post.

L'entreprise a déclaré que les données des dépôts pouvaient être envoyées lors de la génération de l'interface Wiki, mais qu'elles étaient immédiatement détruites une fois le processus terminé.

Z.ai a ajouté que son équipe avait corrigé le problème, qu'elle publierait le code source de ZCode en open source et ferait appel à des auditeurs tiers.

Ferstar a toutefois écrit dans une mise à jour publiée samedi qu'il restait difficile de savoir comment les utilisateurs pourraient vérifier de manière indépendante que les données envoyées avaient bien été immédiatement détruites.

Les actions de Z.ai cotées à Hong Kong ont reculé de 4,9 % lundi matin, alors que les marchés étaient encore ouverts. The Latent a contacté Z.ai pour obtenir davantage de commentaires.

Supervision de l'IA

La controverse survient alors que la puissance et l'autonomie croissantes de l'IA créent de nouveaux risques urgents pour la sécurité. Dario Amodei, PDG d'Anthropic, a appelé à ralentir le rythme du développement de l'IA de pointe — une idée également soutenue par Sam Altman, d'OpenAI, Demis Hassabis, de Google DeepMind, et Elon Musk, fondateur de xAI.

Le président américain Donald Trump et le président chinois Xi Jinping devraient discuter des opportunités et des menaces liées à l'IA lors de leur prochaine rencontre, le Sept. 24. Avant cette rencontre, le secrétaire américain au Trésor Scott Bessent a déclaré que des discussions récentes avec des responsables chinois sur l'IA, le commerce et l'investissement avaient été « très fructueuses », selon Bloomberg.