L’IA progresse rapidement, et les chercheurs de la Frontier Red Team d’Anthropic préviennent que les utilisateurs pourraient commencer à voir des versions répliquées de petits modèles sur des appareils IoT comme des téléviseurs connectés « dans les prochains mois ».

Lundi, l’équipe a déclaré qu’elle « observait déjà les premiers signes d’activité de vers IA » aux capacités limitées, même si des améliorations restent possibles. Ces vers peuvent analyser leur réseau, exploiter une faille et copier les poids du modèle sur une machine cible à travers un cluster de GPU.

« Nous ne disposons pas encore d’un réplicateur autonome malveillant complet, mais les agents sont de plus en plus capables d’accomplir chacune des étapes de la chaîne de réplication (et de transmettre leurs adaptations à leurs futures copies) », a écrit l’équipe.

Anthropic a déclaré que les modèles de 30 milliards de paramètres ou moins pouvaient déjà gérer bon nombre de ces étapes. Cependant, GLM-5.2 a réalisé une réplication de bout en bout lors de quatre essais sur cinq dans un cloud privé virtuel à huit nœuds protégé par un pare-feu.

Par ailleurs, l’équipe a également testé un modèle de 26 milliards de paramètres sur 15 boîtiers Android TV de marques peu connues. Les chercheurs ont constaté que la faible sécurité de ce type de matériel IoT en faisait une cible attrayante pour tout programme capable de se copier au moyen de ses poids de modèle.

« S’il est vrai que les appareils IoT sont vulnérables depuis longtemps, les agents légers pourraient être bien plus enclins que les attaquants humains à fournir les efforts nécessaires pour compromettre une grande partie des capacités de calcul IoT dans le monde », a déclaré l’équipe.

En s’appuyant sur l’Epoch Capabilities Index, l’analyse prévoit que les petits modèles seront capables de se répliquer d’ici la fin de 2026.

Un ver IoT piloté par l’IA ne se comporterait pas comme un logiciel malveillant se propageant à grande vitesse. Il ressemblerait plutôt à une moisissure visqueuse numérique s’étendant sur des appareils périphériques mal protégés, a déclaré Anthropic.