트럼프-시진핑 회담 앞두고 중국 국가안보 수장, AI 위협 경고

중국 국가안보 당국은 미국과 중국이 이달 말로 예정된 트럼프-시진핑 회담을 앞두고 AI 안전 회담을 준비하는 가운데 AI의 발전이 정치적 안정을 위협할 수 있다고 밝혔다.

중국 국가안보부장 천이신은 일요일 국영 매체 중국 사이버공간 잡지에 게재한 기사에서 AI가 세계 권력을 재편하는 동시에 정치적 안정과 사이버보안에 심각한 위험을 초래하고 있다고 썼다.

천 부장은 AI가 중국에서 광범위하게 사용되고 있으며, 2026년 6월 기준 사용자가 5억 명을 넘었고 일일 토큰 사용량은 140조 건을 초과했다고 말했다. 이 당국자는 악의적인 행위자들이 AI로 생성한 텍스트와 이미지를 이용해 정치적 루머를 퍼뜨리는 "트롤 군대"를 조직했다고 밝혔다.

이 국가안보 당국자는 Anthropic의 Claude Mythos와 OpenAI의 GPT-5.5-Cyber를 포함한 미국 모델들이 악성코드와 해킹 역량 개발을 부추기고 있다고 경고했다.

천 부장은 또한 외국 정보기관들이 국가기밀을 수집하기 위해 AI를 사용해 데이터를 크롤링하고 채굴하고 있다고 말했다.

"일부 국내 사용자는 보안 인식이 충분하지 않아 민감한 정보를 처리하고 데이터를 해외로 전송하기 위해 해외 AI 제품을 사용하고 있으며, 이로 인해 국내 데이터가 대규모로 유출되고 있다"고 천 부장은 썼다.

국가안보 수장인 천 부장은 AI가 전쟁 수행 방식을 근본적으로 변화시키고 있다며, 표적 설정과 의사결정 지원, 인지 작전에 AI가 사용되고 있다고 지적했다. 천 부장은 "누구든 알고리즘을 활용해 더 세밀한 인식, 더 정확한 판단, 더 정밀한 타격을 실현할 수 있다면 전장에서 주도권을 차지하게 될 것"이라고 말했다.

천 부장의 발언은 도널드 트럼프 미국 대통령과 시진핑 중국 국가주석이 9월 24일 백악관에서 회담할 예정인 가운데 나왔다. AI는 핵심 의제가 될 것으로 예상된다. 두 정상은 지난 5월 열린 이전 회담에서 AI 안전장치에 대해 논의했지만 성과는 제한적이었다.

한편 주말 동안 Anthropic CEO 다리오 아모데이는 안전 위험이 커지고 있다며 최첨단 AI 개발 속도를 늦출 것을 촉구했다. OpenAI의 샘 올트먼, Google DeepMind의 데미스 허사비스, xAI 설립자 일론 머스크도 비슷한 우려를 표명하거나 이 아이디어를 지지했다.

확대되는 미·중 AI 긴장

지난주 미국 연방기관 여러 곳은 중국 AI 기업들이 증류를 통해 미국 AI 모델의 역량을 체계적으로 추출했다고 주장했다. Anthropic은 또한 Moonshot과 DeepSeek이 사용자 요청을 Claude 모델로 몰래 라우팅하고, 그 응답을 자체 응답인 것처럼 사용자에게 표시했다고 비난했다.

중국은 이러한 주장에 반박하며 근거가 없다고 일축했다. 또한 미국의 조치가 "증류를 정치화하고 도구화한다"고 주장하며, 증류는 AI 분야에서 "일반적인 관행"이라고 밝혔다.

이러한 긴장에도 불구하고 애틀랜틱카운슬 연구원은 AI가 통제에서 벗어날 수 있다는 공통된 우려가 드문 외교적 돌파구를 제공할 수 있다고 말했다.

"워싱턴과 베이징이 최첨단 AI의 위험에 대해 공통된 이해를 갖고 있다는 강력한 신호가 있다"고 애틀랜틱카운슬의 중국 담당 선임 상주 연구원인 켄턴 티보는 말했다. "[통제] 상실은 협력을 위한 드문 기반이 될 수 있다. 양측이 AI 안전을 기술 경쟁의 또 다른 전선으로 만들지 않을 수 있다면 말이다."

티보는 이어 "중국이 관여해야 할 기술적 이유가 있다. 중국 개발자들은 사용자들이 중국 외부의 인프라에서 주로 오픈 웨이트 모델을 배포할 때 가시성을 잃으며, 오용의 증거는 취약점을 드러내고 안전장치를 개선하는 데 도움이 될 수 있다"고 말했다.