民主党のMark Warner上院議員とBrian Schatz上院議員は、安全性への懸念が高まる中、人工知能（AI）業界を規制する包括的な法案を提出した。

「Artificial Intelligence Risk Management and Security Act」と呼ばれる全35ページの法案は、複数のハッキング被害と、最新のAIモデルをめぐる警告を受けたものだ。ここ数カ月、OpenAIやAnthropicを含む大手AI企業がハッキング被害を公表しており、AIが人類にもたらす潜在的な脅威への懸念が強まっている。

Warner上院議員は木曜日、上院議場で「人工知能からは多くの良い成果が生まれる」と述べる一方、AI企業は自社のモデルを制御できない可能性があると指摘した。

「これは私たちの人生で最大の変革になる。しかし、最低限の安全プロトコルさえ整備されていない」とWarner氏は述べた。「私たちは、こうした大手の最先端AI技術企業が、いわば正しい行動を取るという善意に完全に頼っている」

この法案では、商務省内にArtificial Intelligence Safety Board（人工知能安全委員会）を設置する。上院議員らによると、AIモデルを開発する企業は、モデルを一般公開する少なくとも45日前に、同委員会がモデルにアクセスできるようにすることを義務付けられる。新たな委員会には「強制力のある基準」の策定も委ねられ、基準が守られなかった場合、企業は1日最大250,000ドルの罰金を科される可能性がある。

安全性のチェックは不可欠だとWarner氏は述べた。

「安全性の監督なしに飛行機に乗ることはない。車にも乗らない。規制当局の監督なしに新しい金融商品を利用することもない」と、同氏は木曜日に述べた。「これほど大きなものについて、私たちはこの機会を逃してはならない」