A IA está avançando rapidamente, e pesquisadores da Frontier Red Team alertam que os usuários poderão começar a ver versões replicadas de pequenos modelos em dispositivos de IoT, como smart TVs, "dentro de alguns meses".
Na segunda-feira, a equipe afirmou que já está "vendo sinais de atividade de vermes de IA" com capacidades limitadas, embora ainda haja espaço para melhorias. Eles conseguem escanear a rede, executar uma exploração e copiar os pesos do modelo para uma máquina-alvo em um cluster de GPUs.
"Ainda não temos um replicador completamente fora de controle, mas os agentes estão cada vez mais capazes de concluir as etapas individuais da cadeia de replicação — e de transmitir suas adaptações para futuras cópias de si mesmos", escreveu a equipe.
A Anthropic afirmou que modelos com 30 bilhões de parâmetros ou menos já conseguem lidar com muitas dessas etapas. No entanto, o GLM-5.2 concluiu a replicação de ponta a ponta em quatro de cinco testes em uma nuvem privada virtual com oito nós, protegida por firewall.
Separadamente, a equipe também testou um modelo com 26 bilhões de parâmetros em 15 dispositivos Android TV de marcas desconhecidas. Os pesquisadores observaram que a segurança deficiente desse tipo de hardware de IoT o torna um alvo atraente para qualquer coisa que se copie por meio de seus pesos de modelo.
"Embora seja verdade que dispositivos de IoT estejam vulneráveis há muito tempo, agentes leves talvez estejam muito mais dispostos do que invasores humanos a investir o esforço necessário para comprometer grandes parcelas da capacidade computacional de IoT do mundo", afirmou a equipe.
Com base no Epoch Capabilities Index, a análise projeta que pequenos modelos serão capazes de se autorreplicar até o fim de 2026.
Um verme de IoT controlado por IA não se comportaria como um malware que se espalha rapidamente. Em vez disso, ele se pareceria com um bolor limoso digital avançando lentamente por dispositivos de borda mal protegidos, afirmou a Anthropic.