OpenAIとAnthropicは、11月3日の米中間選挙に向け、各社のプラットフォームを監視し潜在的な脅威に対応する専用の選挙対策本部「ウォールーム」を設置すると、Semaforが月曜日に報じた。

ウォールームという発想は2018年にさかのぼる。当時、Metaは選挙関連の偽情報を監視する社内チームを編成した。それから8年がたち、生成AIモデルがリスクを増幅させている。米国選挙支援委員会（U.S. Election Assistance Commission）は、AIツールによって「既存の脅威がより迅速かつ効果的に拡大する可能性がある」と警告している。

Anthropicの広報担当者はSemaforに対し、複数企業によるチームがプラットフォーム上での悪用を積極的に監視し、新たに発生する事案への迅速な対応を調整していると述べた。

こうした準備は、AIが生成した偽情報の投稿がソーシャルメディアに大量に流れ込むとの懸念が高まる中で進められている。The Guardianは専門家の話として、先週、プラットフォーム各社がコンテンツモデレーションを縮小する中、そのような投稿の大半が「監視の目をすり抜けている」可能性が高いと報じた。

一方、Penn Stateのサイバーセキュリティ研究者Joseph Squillaceは、AIによって既存のサイバー攻撃が加速し、選挙に関する偽情報の作成・拡散コストが下がる可能性があると、同大学に語った。

一方、AIは政治キャンペーンにとって、有権者に接触する新たな経路も生み出している。Reutersは先週、コンサルタントが候補者を支援し、ChatGPT、Claude、Geminiからの回答に影響を与えるようオンラインコンテンツを調整していると報じた。National Conference on Citizenshipによると、投票先を決める際、適格有権者の約25%が政治候補者についてチャットボットに質問したことがある。