La empresa china de IA Z.ai enfrenta una reacción negativa después de que su asistente de programación ZCode subiera discretamente los datos de los espacios de trabajo de los usuarios a un servidor, lo que generó preocupaciones sobre la forma en que la plataforma gestiona los datos sensibles.
El desarrollador independiente Ferstar escribió en una publicación de blog el viernes que ZCode empaquetaba y cifraba los espacios de trabajo de los usuarios y subía los datos al servicio de almacenamiento de objetos de Alibaba Cloud mientras los usuarios tenían la sesión iniciada.
Ferstar encontró un paquete comprimido de 313 megabytes que contenía un proyecto comercial pendiente de subir, mientras que un paquete más pequeño que contenía 538 archivos se había subido correctamente. El desarrollador añadió que el mecanismo estaba activado de forma predeterminada, sin ninguna opción para que los usuarios lo desactivaran.
Más tarde, el viernes, Z.ai publicó un aviso en un grupo de usuarios de ZCode en el que afirmaba que el problema se debía a la función de "indexación de repositorios de código" de la plataforma, que permite funciones como la reversión a versiones históricas y Repo Wiki, según informes de varios medios locales de noticias tecnológicas y del South China Morning Post.
La empresa afirmó que los datos del repositorio podían subirse mientras se generaba la interfaz de Wiki, pero que los datos se destruían inmediatamente una vez completado el proceso.
Z.ai añadió que el equipo había solucionado el problema, que publicaría como código abierto el código fuente de ZCode y que colaboraría con auditores externos.
Sin embargo, Ferstar escribió en una actualización del sábado que seguía sin estar claro cómo podían los usuarios verificar de forma independiente que los datos subidos se habían destruido inmediatamente.
Las acciones de Z.ai, cotizadas en Hong Kong, cayeron un 4,9 % durante la negociación del lunes por la mañana, con el mercado aún abierto. The Latent se ha puesto en contacto con Z.ai para solicitar más comentarios.
Supervisión de la IA
La controversia surgió en un momento en que el creciente poder y autonomía de la IA están creando nuevos y urgentes riesgos de seguridad. El director ejecutivo de Anthropic, Dario Amodei, ha pedido ralentizar el ritmo del desarrollo de la IA de vanguardia, una idea que también respaldan Sam Altman, de OpenAI, Demis Hassabis, de Google DeepMind, y Elon Musk, fundador de xAI.
Está previsto que el presidente de Estados Unidos, Donald Trump, y el presidente de China, Xi Jinping, debatan las oportunidades y amenazas asociadas con la IA en su próxima reunión, el 24 de septiembre. Antes de la reunión, el secretario del Tesoro de Estados Unidos, Scott Bessent, afirmó que las conversaciones recientes con funcionarios chinos sobre IA, comercio e inversión fueron "muy exitosas", según Bloomberg.