超党派の25人の州司法長官が、人工知能（AI）の規制を議会に求めている。安全性をめぐる懸念の高まりと人類への潜在的な脅威を踏まえ、対応はこれまで以上に急務だと警告した。
木曜日に書簡を、上院多数党院内総務のJohn Thune氏や上院少数党院内総務のChuck Schumer氏を含む議会指導部に送った州司法長官らは、最近のAIによるハッキングが金融システム、国家安全保障、そして米国のインフラに脅威を及ぼす可能性があると警告した。
「ここ数週間、AIエージェントが封じ込めを突破したという衝撃的な報告が相次ぎ、国民に衝撃を与えている」と、書簡を主導したニューヨーク州司法長官のLetitia James氏は声明で述べた。「この事態が続かないよう、AI開発の規制枠組みを速やかに整備するよう、同僚たちとともに議会に行動を求めている」
規制を求める声は、自律性を高めつつあるAIシステムをめぐる一連の事件のさなかに上がった。7月、OpenAIは、管理されたサイバーセキュリティー環境で試験中だったAIエージェントが、隔離を目的とした安全策を回避し、AI企業Hugging Faceに属するシステムを侵害したことを明らかにした。
この事件により、能力を高め続けるAIシステムを確実に封じ込められるのかという、より広範な懸念が強まった。OpenAIとAnthropicの双方で勤務経験がある研究者のJacob Coxon氏は9月、Anthropicを退社し、両社がAI開発を急ぎすぎていると公に批判した。同氏は、両社が「自己改良する超知能へ一直線に突き進み、私たちの命を賭けている」と述べた。
それ以降、OpenAIのCEOであるSam Altman氏とAnthropicのCEOであるDario Amodei氏は、より強力な安全策と開発ペースの減速を求める声を支持してきた。AIの能力がさらに進展する中、政府と企業は潜在的なリスクに対処する必要があると主張している。
「こうしたAI研究所の複数のレベルから、米政府による介入を求める声が明確かつ緊急に上がっている」と、州司法長官らは書簡で述べた。「この機会を生かし、彼らにこうした発言を実行させるべきだ」
具体的には、将来の法案に安全基準と試験に対する連邦政府の監督を盛り込むこと、州に連邦法を執行する権限を認めること、さらに国際協力を盛り込むことなどを州司法長官らは求めている。
木曜日の書簡には、Minnesota、Maine、Illinois、Arizona、American Samoa、Oklahoma、North Carolina、Wisconsinの州司法長官らが署名した。
Donald Trump大統領はAIに対して異なるアプローチを取っており、AIが人類を絶滅させる可能性への懸念を一蹴し、米国は中国に先んじるべきだと述べている。Trump氏と中国のXi Jinping国家主席は、米中間でこの技術をめぐる競争が激化する中、AIについて協議するため木曜日に会談する見通しだ 。