인공지능 도구가 해당 선박이 핵무기 물질을 운반하고 있다고 잘못 판단한 뒤, 미군이 중국 선박을 요격하기 직전까지 갔던 것으로 전해졌다.
CNN의금요일 보도는군 관계자들이 선박에 승선할 준비를 하는 단계까지 갔으며, 항공기들이 현장으로 긴급 출동한 뒤 해당 정보가 잘못됐다는 사실을 발견했다고 전했다.
이 사건은 올해 봄 초, 미·이란 분쟁이 시작된 첫 몇 달 동안 발생했다. 보도에 따르면 특수작전 분석관이 AI 챗봇을 이용해 선박 화물 정보를 수집했고, 그 결과 선박에 실린 화물을 잘못 식별한 종합 정보 보고서가 작성됐다.
오류가 발견되자 계획된 작전은 취소됐지만, 한 소식통은 이 사건이 "전쟁으로 번질 뻔했다"고 말했다.
이번 아찔한 상황은 미 국방부가 생성형 AI 사용을 확대하는 가운데 발생했다. 이달 초 나온 별도 보도에 따르면, 피트 헤그세스가 이끄는 전쟁부가 9개월 전 이 서비스를 출시한 이후 170만 명이 넘는 인력이GenAI.mil을 사용했다.
이 내부 플랫폼은 군인과 민간 직원에게 연구, 문서 분석, 정책 업무 및 물류를 위한 AI 모델 이용 권한을 제공한다.
최근에는 ChatGPT Mil과 Grok for Government도 플랫폼에 추가됐으며, 두 서비스 모두 통제 대상 비기밀정보(Controlled Unclassified Information)를 처리할 수 있도록 승인됐다. 다만 CNN 보도는 해당 챗봇이 중국 선박 사건에 관여했는지 여부는 밝히지 않았다.
CNN이 보도를 내놓은 지 몇 시간 뒤, 도널드 트럼프 대통령은Truth Social에 발표문을 올려CNN, MS NOW, Politico가 "즉시 효력이 발생하는" 백악관 출입 금지 대상이 될 것이라고 밝혔다.
그는 이어 이 매체들이 "허구와 거짓말"을 보도한다고 비난했지만, 이번 특정 보도와 출입 금지 조치 사이의 직접적인 연관성은 확인되지 않았다.