인공지능이 안전에 미치는 위협에 대한 우려가 커지는 가운데 미국과 중국이 ‘위기 대응 메커니즘’을 구축하기 위해 협력하고 있다. 그러나 양국 대통령은 이러한 위험이 얼마나 심각한지에 대해 서로 다른 견해를 보이는 것으로 보인다.
목요일 도널드 트럼프 대통령과 시진핑 중국 국가주석은 여러 차례 회담을 가졌으며, 이후 언론에 공개되지 않은 국빈 만찬이 열렸다. 이 국빈 만찬에는 NVIDIA CEO Jensen Huang, Meta CEO Mark Zuckerberg, NYSE President Lynn Martin, BlackRock CEO Larry Fink, OpenAI CEO Sam Altman, Amazon Chairman Jeff Bezos 등 기술 업계 거물들이 참석했다. 백악관이 공개한 초청객 명단에 따르면 Anthropic CEO Dario Amodei는 초청객 명단에 포함되지 않았다.
이 행사 다음 날인 금요일 오전, 만찬에도 참석했던 데이비드 퍼듀 주중 미국 대사는 CNBC의 Squawk Box에 양국이 AI에 대해 서로 다른 접근법을 취하고 있으며 ‘위기 대응 메커니즘’과 함께 대화를 계속하고 있다고 말했다.
퍼듀 대사는 “우리는 양국 간 대화와 위기 대응 메커니즘을 구축했습니다”라며 “역사적인 일입니다”라고 말했다.
백악관은 이 메커니즘에 대한 추가 세부 사항을 묻는 논평 요청에 응답하지 않았다. 재무장관 Scott Bessent는 보도에 따르면 이번 주 초 미국이 국가안보 관련 AI 사고에 대해 중국과 미국 간 통보 메커니즘을 제안했다고 밝혔다.
Bessent 역시 목요일 저녁 만찬에 참석했다.
일련의 해킹 사건과 AI 모델이 기업의 통제를 벗어날 수 있다는 우려가 제기되면서 최근 몇 달 사이 AI 규제가 주목받고 있다. OpenAI와 Anthropic에서 모두 근무했던 연구자 Jacob Coxon은 9월 Anthropic을 사임하고 기업들이 AI 개발을 지나치게 서두르고 있다고 공개적으로 비판했다. 그는 기업들이 “자기 개선형 초지능으로 곧장 질주하며 우리의 목숨을 내걸고 도박하고 있다”고 말했다.
두 AI 기업 CEO인 Altman과 Amodei는 모두 더 강력한 안전장치와개발 속도를 늦출 것을 요구하는 목소리를 지지해 왔으며,AI 역량이 더욱 발전함에 따라 정부와 기업이 잠재적 위험에 대응해야 한다고 주장했다.
시진핑은 목요일 양국이 “선한 목적을 위해 AI를 개발하고 관리하며” 인간이 언제나 통제권을 갖도록 할 책임이 있다고 말했다고 언론 보도가 전했다.
트럼프는 다른 접근법을 취하고 있다.
그는 금요일 오전 Truth Social 게시물에서 회담이 생산적이었다고 밝히며, AI를 대신 “Super Intelligence”라고 부르자는 자신의 구상을 다시 내세웠다.
트럼프는 “거의 모든 사람과 마찬가지로 그는 형편없고 부정확한 이름인 인공지능을 훨씬 더 정확하고 중요한 이름인 SUPER INTELLIGENCE로 부르는 것을 좋아하는 것 같았습니다”라며 “그렇게 되면 ‘SUPER!’가 될 것입니다! 어젯밤 모두가 역시 동의했습니다”라고 말했다.