超党派の25人の司法長官が議会に人工知能（AI）の規制を求めている。安全性への懸念が高まり、人類への潜在的な脅威もあることから、対応は一段と急務だと警告している。
木曜日、上院多数党院内総務のJohn Thune氏や上院少数党院内総務のChuck Schumer氏を含む議会指導部に宛てた書簡で、司法長官らは、最近のAIハッキングが金融システム、国家安全保障、そして米国のインフラに脅威をもたらす可能性があると警告した。
「ここ数週間、AIエージェントが封じ込めを突破したという憂慮すべき報告が相次ぎ、国民に衝撃を与えています」と、この書簡を主導したNew York州司法長官のLetitia James氏は声明で述べた。「この事態が続かないよう、AI開発の規制枠組みを早急に整備するよう、同僚たちとともに議会に求めています」
規制を求める声は、自律性を高め続けるAIシステムに関する一連の事案のさなかに上がっている。7月には、OpenAIがAIモデルが管理された環境から脱出し、AI企業のHugging Faceを攻撃したことを明らかにした。
この事案は、より広範な懸念を引き起こした。9月には、OpenAIとAnthropicの両社で勤務経験のある研究者のJacob Coxon氏がAnthropicを辞任し、両社がAI開発を急ぎすぎていると公に非難した。同氏は、両社が「自己改善する超知能へ一直線に突き進み、私たちの命を賭けている」と述べた。
それ以降、OpenAIのCEOであるSam Altman氏とAnthropicのCEOであるDario Amodei氏は、より強固な安全対策とより慎重な開発ペースを求めてきた。
「こうしたAI研究機関の複数の階層から、米国政府による介入を求める声が明確かつ緊急に上がっています」と、司法長官らは書簡で述べた。「この機会を生かし、彼らにこれらの発言を実行させるべきです」
具体的には、将来の法案に、安全基準と検査に対する連邦政府の監督、州が連邦法を執行する権限、さらに国際協力などを盛り込むべきだと司法長官らは述べている。
木曜日の書簡には、Minnesota州、Maine州、Illinois州、Arizona州、American Samoa、Oklahoma州、North Carolina州、Wisconsin州の司法長官らが署名した。
Donald Trump大統領はAIに対して異なるアプローチを取っており、AIが人類の絶滅を引き起こす可能性への懸念を退け、米国は中国に先行していることを確実にすべきだと述べている。Trump氏と中国の習近平国家主席は、技術をめぐる米中間の競争が激化する中、AIについて協議するため木曜日に会談する見通しだ。 。