Ferstar relatou que o ZCode enviou dados de ambientes de trabalho à Alibaba Cloud.
Ferstar disse que o envio vinha ativado por padrão, sem opção de desativação.
A Z.ai atribuiu o problema à indexação de repositórios e disse que os dados eram apagados após gerar o Wiki.
Ferstar afirmou que a Z.ai não explicou como usuários poderiam verificar o apagamento dos dados.
As ações da Z.ai em Hong Kong caíram 4,9% na manhã de segunda-feira.
A empresa chinesa de IA Z.ai enfrenta uma reação negativa depois que seu assistente de programação ZCode enviou discretamente os dados dos ambientes de trabalho dos usuários para um servidor, levantando preocupações sobre como a plataforma lida com dados sensíveis.
O desenvolvedor independente Ferstar escreveu em uma publicação em um blog na sexta-feira que o ZCode estava empacotando e criptografando os ambientes de trabalho dos usuários e enviando os dados para o serviço de armazenamento de objetos da Alibaba Cloud enquanto os usuários estavam conectados.
Ferstar encontrou um pacote compactado de 313 megabytes contendo um projeto comercial aguardando envio, enquanto um pacote menor, que continha 538 arquivos, havia sido enviado com sucesso. O desenvolvedor acrescentou que o mecanismo vinha ativado por padrão, sem opção para os usuários desativá-lo.
Mais tarde, na sexta-feira, a Z.ai publicou um aviso em um grupo de usuários do ZCode, afirmando que o problema decorria do recurso de "indexação de repositórios de código" da plataforma, que oferece funções como reversão para versões históricas e Repo Wiki, segundo reportagens de vários veículos locais de notícias de tecnologia e do South China Morning Post.
A empresa afirmou que os dados dos repositórios poderiam ser enviados enquanto a interface do Wiki estivesse sendo gerada, mas que os dados eram destruídos imediatamente assim que o processo fosse concluído.
A Z.ai acrescentou que a equipe corrigiu o problema, tornará o código-fonte do ZCode aberto e contará com auditorias de terceiros.
Ferstar, porém, escreveu em uma atualização publicada no sábado que continuava sem esclarecer como os usuários poderiam verificar de forma independente se os dados enviados haviam sido destruídos imediatamente.
As ações da Z.ai listadas em Hong Kong caíram 4,9% nas negociações da manhã de segunda-feira, com o mercado ainda aberto. O The Latent procurou a Z.ai para obter mais comentários.
Supervisão da IA
A controvérsia surgiu em um momento em que o poder e a autonomia crescentes da IA estão criando novos e urgentes riscos de segurança. O CEO da Anthropic, Dario Amodei, defendeu a desaceleração do ritmo do desenvolvimento de IA de ponta — uma ideia também apoiada por Sam Altman, da OpenAI, Demis Hassabis, da Google DeepMind, e Elon Musk, fundador da xAI.
O presidente dos Estados Unidos, Donald Trump, e o presidente chinês, Xi Jinping, devem discutir as oportunidades e ameaças associadas à IA em sua próxima reunião, em 24 de setembro. Antes do encontro, o secretário do Tesouro dos EUA, Scott Bessent, afirmou que as conversas recentes com autoridades chinesas sobre IA, comércio e investimentos foram "muito bem-sucedidas", segundo a Bloomberg.
