人工知能ツールがその船は核兵器関連物質を運んでいると誤って結論づけたため、米軍は中国船を拿捕する寸前までいったと報じられている。
A CNNの報道によると、軍関係者は船への乗り込み準備にまで着手し、航空機も現場に急行したが、その後、情報が誤りだったことが判明したという。
この出来事は春先、米国とイランの紛争が始まって間もない時期に起きた。報道によると、特殊作戦部隊の分析官が船の貨物に関する情報を集めるためAIチャットボットを使い、それを基に、船が何を運んでいるかを誤認した詳細な情報報告書が作成された。
誤りが発覚すると計画されていた作戦は中止されたが、ある情報筋はこの一件について「戦争を始めかけた」と語った。
今回の危機一髪の事態は、国防総省が生成AIの利用を拡大しているさなかに起きた。今月初めの別の報道によると、ピート・ヘスゲス氏が率いる戦争省(Department of War)が9か月前にGenAI.milを立ち上げて以来、170万人を超える職員が利用しているという。
この内部プラットフォームでは、軍人と民間職員が研究、文書分析、政策業務、兵站のためにAIモデルを利用できる。
ChatGPT MilとGrok for Governmentも最近このプラットフォームに追加され、いずれも管理対象非機密情報(Controlled Unclassified Information)の取り扱いが承認されている。ただしCNNの報道は、このチャットボットが中国船の一件に関与していたかどうかには触れていない。
CNNが報道を公表してから数時間後、ドナルド・トランプ大統領はTruth Socialで発表し、CNN、MS NOW、Politicoを「直ちに」ホワイトハウスから締め出すと明らかにした。
トランプ氏は続けて、これらのメディアが「作り話と嘘」を報じていると非難したが、この禁止措置と今回の報道との直接的な関係は確認されていない。
