「議会が手をこまねく」中、議員らがAIリスクを理由に下院の再招集を要求

議員らのグループは、人工知能をめぐって積み重なる警告やリスクに対応するため、9月の休会中にワシントンを離れている議員をMike Johnson下院議長が呼び戻すよう求めている。

Sam Liccardo議員、George Whiteside議員、Lori Trahan議員は、AIの安全対策の実施に進展が見られるまで議会は開会を続けるべきだと金曜日の書簡で述べた。3人は、自律型AIエージェントが制御不能になった事例に加え、広範なサイバー攻撃や生物兵器の開発に関するリスクを挙げた。

「議会が行動する必要性について、私たちは意見を異にすることはできない」と議員らは書いた。

書簡は、AIの主要開発企業や政府機関による最近の開示を指摘した。その中には、7月にOpenAIで発生した、AIエージェントが封じ込め措置を突破してインターネットにアクセスし、システムを侵害した事案も含まれる。侵害されたのは、AIプラットフォームHugging Faceに属するシステムだった。

また、Anthropicが、化学兵器の開発に役立つ可能性のある生物学研究でClaudeが使われていたため、介入せざるを得なかったと明らかにしたことにも言及した。

「こうした開示は、長く続く『警告射撃』のさらに一つとなるのではなく、スタートの合図にならなければならない」と書簡は述べた。

議員らは、最先端AIモデルに対する義務的な透明性確保と安全性評価、危険なシステムを停止できる「キルスイッチ」の導入、そしてAI企業が安全対策で協力できるようにする独占禁止法上の適用除外を求めた。

こうした提案の一つであるAI Kill Switch Actは、Ted Lieu議員とNathaniel Moran議員が7月に提出した法案で、AI開発企業に対し、システムの動作を遅くしたり完全に停止したりできる制御機能の構築を義務付ける。また、制御を失う緊急事態において、国土安全保障省が制限を命じることも認める。

議員らはまた、下院指導部が9月と10月にワシントンを離れる追加の期間を設定したことを批判した。

「AI安全の専門家や米国民が、このリスクの激化に立ち向かうための行動をますます求める一方で、議会は手をこまねいている」と議員らは書いた。