La IA avanza rápidamente, y los investigadores del Frontier Red Team de Anthropic advierten que los usuarios podrían empezar a ver versiones replicadas de pequeños modelos en dispositivos IoT, como televisores inteligentes, «en cuestión de meses».
El lunes, el equipo afirmó que ya está «viendo señales de vida de gusanos de IA» con capacidades limitadas, aunque todavía hay margen de mejora. Pueden escanear su red, ejecutar un exploit y copiar los pesos del modelo a una máquina objetivo a través de un clúster de GPU.
«Todavía no tenemos un replicador autónomo fuera de control, pero los agentes son cada vez más capaces de completar los pasos individuales de la cadena de replicación (y de transmitir sus adaptaciones a futuras copias de sí mismos)», escribió el equipo.
Anthropic afirmó que los modelos con 30.000 millones de parámetros o menos ya pueden encargarse de muchos de esos pasos. Sin embargo, GLM-5.2 completó la replicación de extremo a extremo en cuatro de cinco pruebas realizadas en una nube privada virtual, protegida por un cortafuegos, de ocho nodos.
Por separado, el equipo también probó un modelo de 26.000 millones de parámetros en 15 dispositivos Android TV de marcas poco conocidas. Los investigadores observaron que la débil seguridad de este tipo de hardware IoT lo convierte en un objetivo atractivo para cualquier sistema que se replique mediante sus pesos de modelo.
«Aunque es cierto que los dispositivos IoT llevan mucho tiempo siendo vulnerables, los agentes ligeros podrían estar mucho más dispuestos que los atacantes humanos a esforzarse por comprometer grandes partes de la capacidad de cómputo IoT del mundo», afirmó el equipo.
Basándose en el Epoch Capabilities Index, el análisis proyecta que los pequeños modelos podrán autorreplicarse para finales de 2026.
Anthropic afirmó que un gusano de IoT impulsado por IA no se comportaría como un malware de propagación rápida. En cambio, se parecería a un moho mucilaginoso digital que se extiende lentamente por dispositivos periféricos mal protegidos.