AI正在快速发展,Anthropic的Frontier Red Team团队警告称,用户可能会在“几个月内”开始看到小型模型的复制版本出现在智能电视等物联网设备上。

周一,该团队表示,他们已经“看到AI蠕虫展现生命迹象”,尽管其能力仍然有限,还有改进空间。它们可以扫描所在网络、执行漏洞利用,并将模型权重复制到GPU集群中的目标机器上。

“我们还没有完整的恶意自我复制体,但智能体越来越有能力完成复制链条中的各个步骤(并将自身的适应性传递给未来的复制体),”该团队写道。

Anthropic表示,参数量不超过300亿的模型已经能够完成其中许多步骤。不过,GLM-5.2在一个由八个节点组成、设有防火墙的虚拟私有云环境中进行了五次端到端复制试验,并成功完成了其中四次。

此外,该团队还在15台杂牌Android TV盒子上测试了一个260亿参数的模型。研究人员观察到,此类物联网硬件的安全性较弱,因此对于任何通过模型权重自我复制的程序来说,这类设备都是颇具吸引力的目标。

“物联网设备长期以来一直容易受到攻击,这一点确实如此;但与人类攻击者相比,轻量级智能体可能更愿意投入精力,攻破全球物联网计算资源中很大一部分,”该团队表示。

该分析参考Epoch Capabilities Index预测,小型模型将在2026年底前具备自我复制能力。

Anthropic表示,由AI驱动的物联网蠕虫不会像快速传播的恶意软件那样行动。相反,它会像数字黏菌一样,在防护不完善的边缘设备间缓慢蔓延。