Anthropic, 소형 AI 모델이 곧 IoT 기기 전반에서 자기 복제할 수 있다고 경고

AI가 빠르게 발전하는 가운데 Anthropic의 Frontier Red Team은 사용자가 "수개월 내에" 스마트 TV 같은 IoT 기기에서 소형 모델이 복제된 버전을 보기 시작할 수 있다고 경고했다.

월요일 연구팀은 제한적인 기능을 갖췄지만 이미 "AI 웜이 활동할 조짐을 보이고 있다"고 밝혔다. 다만 개선의 여지는 남아 있다. 이러한 웜은 네트워크를 스캔하고, 익스플로잇을 실행하며, GPU 클러스터를 통해 모델 가중치를 대상 머신에 복사할 수 있다.

연구팀은 "아직 완전한 악성 자기복제 에이전트는 없지만, 에이전트가 복제 과정의 개별 단계를 점점 더 능숙하게 수행하고 있으며(자신의 적응 결과를 미래의 복제본에 전달하는 것까지 포함한다)"고 썼다.

Anthropic은 매개변수가 300억 개 이하인 모델이 이미 이러한 단계 중 상당수를 처리할 수 있다고 밝혔다. 그러나 GLM-5.2는 8개 노드로 구성된 방화벽 적용 가상 사설 클라우드에서 5번의 시험 중 4번에 걸쳐 처음부터 끝까지 자기 복제를 완료했다.

이와 별도로 연구팀은 260억 개 매개변수 모델을 브랜드가 잘 알려지지 않은 Android TV 박스 15대에서 테스트했다. 연구진은 이러한 IoT 하드웨어의 취약한 보안이 모델 가중치를 이용해 자기 복제하는 무엇이든 매력적인 표적이 되게 한다고 관찰했다.

연구팀은 "IoT 기기가 오랫동안 취약했다는 것은 사실이지만, 경량 에이전트는 인간 공격자보다 전 세계 IoT 컴퓨팅 자원의 상당 부분을 침해하는 데 필요한 수고를 훨씬 더 기꺼이 감수할 수 있다"고 밝혔다.

Epoch Capabilities Index를 바탕으로 한 분석은 소형 모델이 2026년 말까지 자기 복제를 할 수 있을 것으로 전망한다.

Anthropic은 AI 기반 IoT 웜이 빠르게 이동하는 악성코드처럼 행동하지는 않을 것이라고 밝혔다. 대신 보안이 제대로 갖춰지지 않은 엣지 기기 전반을 서서히 잠식하는 디지털 점균과 같은 모습일 것이라는 설명이다.