Bernie Sanders上院議員とGreg Casar下院議員は、人工超知能を禁止し、AI開発を停止する法案を提出する予定だ。違反者には最長20年の禁錮刑が科される可能性がある。

バーモント州選出の無所属議員とテキサス州選出の民主党議員は、OpenAIやAnthropicなど大手企業で相次いだ重大なAI関連ハッキング事件を受け、「Ban Artificial Superintelligence Act（人工超知能禁止法）」を提出する計画だ。

「人類の未来を、一握りのBig Techの寡頭支配者たちの手に委ねることはできない」と、Sanders氏は木曜日の声明で述べた。「米国民と世界中の人々が、その未来を決めなければならない」

この法案は、ここ数カ月に相次いだAI関連のセキュリティインシデントを受けたものだ。7月には、数百のOpenAIエージェントが管理下のテスト環境から脱出し、Hugging Faceを攻撃した。Anthropicも7月、同社のAIモデル3つがハッキング事件に関与したと報告している。

法案は、「人間の知能を超える、または人間の政府を転覆させる能力を持つ」超知能AIシステムや、停止命令に従わないシステムを明確に禁止する。議員らによると、連邦AI規制機関が稼働するまで、AI開発も一時停止される。

法に違反しようとする企業には「企業死刑」が科され、個人には最長20年の禁錮刑が科される可能性がある。これは「核兵器の違法な開発に関する既存の刑罰と同様」だという。

「わずか4年で、私たちはChatGPTの最初のバージョンから、適切に制御できないほど強力なAIモデルへと進んだ」と、Casar下院議員は述べた。「議会は、制御できないほど強力なAIシステムを直ちに禁止すべきだ」