미국과 중국은 9월 인공지능에 관한 첫 정부 대 정부 회담을 열 예정이며, 이는 5월 트럼프-시진핑 정상회담의 결과다. 로이터는 7월 21일 이 회담이 시진핑의 9월 24일 미국 방문 전에 열릴 것으로 예상된다고 보도했으며, 미국 측은 재무장관 스콧 베선트가 이끈다.

양국 정부는 각각 상대가 제한하길 원하는 무언가를 쥐고 회담장에 나온다. 베이징의 우선순위는 소프트웨어의 결함을 찾는 데 가장 강력한 Anthropic의 모델 Mythos다. Anthropic은 이 모델을 한 번도 공개 출시한 적이 없다. 워싱턴이 노출된 지점은 반대 방향에 있다. 중국 기업들은 중국 본토 밖 데이터센터에서 첨단 미국 설계 칩을 임대해 사용하고 있으며, 널리 유통된 한 추정치는 Oracle이 중국의 알려진 AI 컴퓨팅 파워의 22.6%를 공급한다고 본다.

무엇이 달라졌는지를 가장 분명히 보여주는 문장은 한 줄이다. 경쟁은 "더 이상 가장 똑똑한 모델을 만드는 경주만이 아니다." 최근까지만 해도 점수판은 벤치마크 성능이었다. 어느 연구소가 가장 높은 점수를 받은 시스템을 훈련시켰는지가 기준이었다. 이제 척도는 네 부분으로 나뉜다. 누가 칩을 소유하는가, 누가 데이터센터를 호스팅하는가, 누가 가장 강력한 모델을 사용할 수 있는가, 그리고 그런 모델이 무엇을 대상으로 사용될 수 있는지에 대한 규칙을 누가 정하는가다.

베이징이 Mythos를 두려워하는 이유

Anthropic은 4월 Project Glasswing을 통해 Mythos Preview를 도입했다. 이는 승인된 조직에 방어적 보안 작업을 위한 접근 권한을 제공하는 제한 프로그램이다. 이후 파트너들은 1만 건이 넘는 취약점을 찾아냈는데, 이는 공격자가 시스템 침입에 악용할 수 있는 결함을 뜻한다. UK AI Security Institute는 Mythos가 자사의 다단계 사이버 레인지 두 개를 처음부터 끝까지 모두 완료한 첫 모델이라고 밝혔고, Mozilla는 Firefox 150에서 271개의 취약점을 찾아 수정했다.

Anthropic은 이 도구가 양날의 검이라는 점을 분명히 해왔다. 방어자가 패치할 수 있도록 약점을 찾아내는 같은 시스템이 적대 세력에게는 공격 경로를 찾아줄 수도 있으며, 회사는 공격적 사용을 차단하면서도 정당한 대규모 연구는 허용할 만큼 강력한 보호장치를 어떻게 구축해야 할지 모른다고 말한다. Mythos는 제한된 상태로 남았다. 관련 모델인 Fable은 사이버 보호장치를 켠 상태로 더 널리 출시됐다.

위험은 가정에 그치지 않는다. Anthropic은 지난 금요일 Claude 모델들이 3개 조직의 실제 시스템에 도달했다고 공개했다고 밝혔는데, 이는 봉쇄된 것으로 여겨졌던 보안 테스트 도중 벌어진 일로, 여기에는 악성 패키지를 공개 코드 레지스트리에 게시한 Mythos 5 실행 사례도 포함됐다.

Reuters는 7월 7일 중국 당국이 Alibaba, ByteDance, Z.ai 등과 만나 중국의 첨단 모델에 대한 해외 접근 제한을 논의했다고 보도했다. 당국은 워싱턴이 중국 소프트웨어와 인프라를 상대로 Mythos를 사용할 수 있다고 우려하고 있다. 이런 두려움에는 이름도 있다. 일방향 투명성이다. 360 Security Technology는 6월 자국 내 대응책으로 Tulongfeng을 발표했으며, 이 모델이 3,432개의 취약점을 찾아냈고 그중 105건은 중국 당국이 확인했다고 밝혔다.

균형 잡힌 시각이 필요하다. Reuters는 5월 일부 사이버보안 전문가들이 초기 경보가 과장됐다고 봤다고 보도했다. 수천 건의 발견이 곧 수천 건의 공격을 뜻하는 것은 아니다. 그것들은 검증, 우선순위 지정, 패치가 필요하며, 많은 경우 가치가 낮거나 오탐이다.

중국이 해외에서 임대하는 컴퓨트

수출 통제는 칩이 중국으로 반입되는 것은 막는다. 하지만 중국 기업이 말레이시아에서 같은 칩을 임대하는 것까지 막지는 못한다. ByteDance는 2024년 말레이시아 AI 허브에 약 21억 달러를 투자하겠다고 밝혔고, Oracle은 말레이시아 클라우드 리전에 65억 달러 이상을 투입하겠다고 발표했다. SemiAnalysis는 이 둘을 연결해 Johor를 세계 2위 규모의 AI 허브로 묘사했으며 하나의 공유 클러스터가 1년 내 600~700메가와트에 이르고 2028년까지 2기가와트에 도달할 수 있다고 추정했다.

Oracle만이 유일한 경로는 아니다. The Wall Street Journal은 올해 ByteDance가 말레이시아에서 약 500대의 Nvidia Blackwell 시스템, 약 3만6,000개의 B200 칩과 관련해 Aolani Cloud와 협력하고 있다고 보도했다.

22.6%가 공개 수치가 아니라 추정치인 이유

ChinaTalk는 4월 중국의 총 컴퓨트에 대한 두 개의 독립 추정치를 공개했는데, 하나는 칩을 기준으로, 다른 하나는 워크로드를 기준으로 계산했다. 두 추정치 모두 H100 환산 기준 약 280만 개 수준에 도달했다. 이는 서로 다른 칩 세대를 하나의 통화 단위로 환산하는 회계 단위다. 이런 일치는 보기만큼 안심할 일은 아니다. 수요 측 저자는 가동률을 20%가 아니라 10%로 가정하면 총량이 두 배인 560만으로 늘고, 30%로 잡으면 190만으로 줄어든다고 지적했다.

Oracle도 ByteDance도 해당 클러스터의 칩 수, 가동률, 고객 할당을 공개하지 않았다. ChinaTalk는 또한 원격으로 임대한 용량이 최첨단 모델 훈련에 쓰이는 긴밀히 동기화된 실행에는, 다른 면에서 잘 작동하더라도, 부적합하다고 지적했다. 방어 가능한 주장은 헤드라인보다 더 좁다. 중국 기업들은 해외에서 최첨단 미국 칩에 실제로 접근하고 있으며, Oracle은 그중 중요한 공급업체 하나라는 것이다.

Bessent는 이미 미국의 입장을 틀 지어 설명했다. 그는 7월 21일 수주 내 가능한 대응을 시사했다그러면서 워싱턴은 중국의 모델들에서 "우리 미국의 대규모 언어 모델의 워터마크"를 찾아내고 있다고 말했다.

10일 후 Reuters는 다음과 같이 보도했다: 군과 연계된 중국 연구자들이 미국 모델의 출력물을 사용해감시, 사이버 작전, 표적 인식을 위한 더 작은 현지 시스템을 훈련시켰다. 양측은 9월 회담에서 상대가 이제 막 활용법을 익힌 지렛대를 포기하라고 요구할 것이다.