Google, 해커들이 6시간도 안 돼 AI로 공격 캠페인을 구축했다고 밝혀

Google Threat Intelligence Group은 재정적 동기를 가진 것으로 추정되는 위협 행위자가 2026년 2분기 동안 6시간도 안 돼 AI를 사용해 대규모 자격 증명 탈취 캠페인을 계획하고 구축해 운영했다고 밝혔다.

공격자들은 수천 건의 타사 자격 증명을 탈취했으며, AI 에이전트를 사용해 수동 개입 없이 문제 해결과 IP 로테이션을 처리했다고 GTIG는 보고서에서 화요일 밝혔다.

보고서에 따르면 위협 행위자들은 정찰, 악성코드 개발, 취약점 연구, 익스플로잇 이후 활동에 AI를 활용하고 있지만, 실제 표적을 상대로 한 완전 자율 공격은 아직 관찰되지 않았다.

GTIG는 또한 TeamPCP로도 알려진 UNC6780을 PyPI, npm, Docker Hub를 노린 대규모 오픈소스 공급망 공격과 연계했다. 이 그룹은 트로이 목마가 삽입된 MCP 서버 포크와 악성 GitHub 워크플로를 사용해 AI 코딩 어시스턴트 작업 공간을 조작하고 자격 증명을 탈취했다.

"UNC6780은 최초 침해 이후 일반적으로 자격 증명 탈취 도구를 배포해 독점 데이터와 자격 증명을 확보하며, 이후 이를 훔친 데이터의 직접 판매 또는 랜섬웨어 및 데이터 절도 갈취 그룹과의 협력을 통해 수익화한다"고 이 그룹은 밝혔다. "UNC6780의 악성코드가 공개적으로 알려지고, 성공한 것으로 보이며, 오픈소스로 공개된 점은 공격자들이 이러한 전술을 모방하도록 자극할 가능성이 높다."

GTIG는 독점 AI 자산도 점점 더 주요 표적이 되고 있다고 밝혔다. Mandiant는 기술, 의료, 미디어 기업에서 AI 모델, 소스 코드, 프롬프트 및 관련 연구 자료가 도난당한 여러 2분기 사건을 조사했다.

GTIG는 2월 이후 Google AI 모델을 겨냥한 모델 증류 공격이 규모와 정교함 측면에서 증가했으며, 일부 조직적인 캠페인에서는 프롬프트가 1억 건을 넘었다고 밝혔다.

보고서에 따르면 Google은 확인한 캠페인을 중단시키고, 조사 결과를 활용해 Gemini의 안전 시스템과 AI 기반 악용에 대응하기 위한 기타 방어 체계를 강화했다.