인공지능이 전장에서 더 많은 업무를 맡으면서 군사 표적을 식별한 뒤 공격하기까지 걸리는 시간이 줄어들고 있다고 유엔 군축연구소 소장 Robin Geiss가 화요일 경고했다.
“기계가 인간을 표적으로 삼아 살해하도록 내버려 둘 것인가?” Geiss는 뉴욕 유엔 본부 브리핑에서 이같이 묻고, 핵 분야를 포함한 전쟁에서 AI가 점점 “인간의 의사결정을 밀어내는 방향으로 가고 있다”고 경고했다.
Geiss는 군 당국이 정보를 분석하고 표적을 식별하며 드론을 운용하고 사이버 공격을 조율하는 데 AI를 사용하고 있다고 말했다. 그는 이들 시스템 중 상당수가 해석하기 어려워 오류를 발견하기가 더 어려워지고 오판과 의도치 않은 확전의 위험이 커진다고 덧붙였다.
지난달에는 한 AI 챗봇이 중국 선박의 화물을 핵물질로 잘못 식별한 정보 보고서 작성에 도움을 줬다는 보도가 나왔다. 미국군은 해당 선박에 승선할 준비를 했고 항공기들이 긴급 출동했지만, 오류가 발견된 뒤 작전은 취소됐다. 한 소식통은 CNN에 이 사건이 “거의 전쟁을 일으킬 뻔했다”고 말했다.
군사 AI 위험 다룰 유엔 포럼
UNIDIR는 국제 평화와 안보 분야의 AI를 주제로 한 새 포럼을 목요일 출범할 계획이다. Geiss는 이 구상이 군사 AI 도구 개발을 위한 자발적 지침을 마련하고 안보 관련 용어를 명확히 할 것이라고 말했다. 또한 민병대가 계획 수립과 병참에 이 기술을 어떻게 활용할 수 있는지도 검토할 예정이다.
Geiss는 지정학적 경쟁이 규제의 걸림돌이라고 인정하면서도, 주요 강대국을 포함해 정치적 입장을 넘어 우려가 공유되고 있다고 말했다.
9월 미국은 국가 안보를 위협할 수 있는 사건에 대해 서로 경고할 수 있도록 중국과 AI 통보 메커니즘을 마련하자고 제안했다. 유엔 사무총장도 군사 AI에 대한 더 강력한 규제와 치명적 자율무기에 관한 법적 구속력 있는 조약을 촉구해 왔다.