AIは急速に進化しており、Anthropicの研究チームFrontier Red Teamは、ユーザーが「数カ月以内」にスマートテレビなどのIoTデバイス上で、小型モデルの複製版を目にし始める可能性があると警告している。

チームは月曜日、機能は限定的ながら、すでに「AIワームの兆候が見られている」と述べた。こうしたワームはネットワークをスキャンし、エクスプロイトを実行して、GPUクラスター内の標的マシンにモデルの重みをコピーできる。

「完全な不正自己複製プログラムがまだ存在するわけではない。しかしエージェントは、自己複製の連鎖に含まれる個々の手順を完了し、その適応結果を将来の自分の複製へ引き継ぐ能力をますます高めている」と、チームは記した。

Anthropicによると、パラメーター数が300億以下のモデルでも、すでに多くの手順に対応できる。一方、GLM-5.2は、8ノードのファイアウォールで保護されたプライベートクラウド環境で行われた5回の試験のうち4回で、エンドツーエンドの自己複製を完了した。

別の実験では、チームは260億パラメーターのモデルをブランド不明のAndroid TVボックス15台でテストした。研究者らは、このようなIoTハードウェアのセキュリティが脆弱であることから、モデルの重みを使って自己複製するプログラムにとって魅力的な標的になると指摘した。

「IoTデバイスが長年にわたって脆弱だったのは事実だが、軽量なエージェントは、人間の攻撃者よりもはるかに積極的に、世界中のIoTコンピューティング環境の大部分を侵害しようとする可能性がある」と、チームは述べた。

この分析では、Epoch Capabilities Indexに基づき、小型モデルが2026年末までに自己複製できるようになると予測している。

Anthropicによると、AIを利用したIoTワームは、動きの速いマルウェアのようには振る舞わない。むしろ、保護が不十分なエッジデバイスの間をゆっくり広がるデジタルな粘菌のようなものになるという。