カリフォルニア州知事のGavin Newsomは、人工知能に対する監督を強化する行政命令に署名した。その一環として、企業に「キルスイッチ」の作成を義務付ける。

金曜日、Newsomはこの行政命令に署名した。議員やAI企業の最高経営責任者（CEO）は、急成長するこの分野の規制に着手する必要性をめぐり、圧力を強めている。

「手をこまねいているつもりはありません。手遅れになる前に、実質的かつ責任あるAI監督に向けた取り組みを加速させます」とNewsomは金曜日に述べた。「慎重に進めますが、緊急性を持って取り組みます。賭け金があまりにも大きいため、行動を待ったり先延ばしにしたりする余裕はありません」

米国でAIをどのように規制するかをめぐる議論は、ここ数週間で新たな、より緊迫した段階に入った。今月初め、Anthropicの元研究者で、かつてOpenAIにも在籍していたJacob Coxonは、辞任を表明する投稿で、AIが2030年までに人類を滅ぼす可能性があると考えていると述べた。その数日後、AnthropicのCEOであるDario AmodeiとOpenAIのCEOであるSam Altmanは、制御を失うことや権力の集中への懸念から、AI開発のペースを落とすよう相次いで求めた。

Trump政権は、中国に先んじることを優先してこうした懸念をほぼ退けており、その空白を埋める役割は議会と、限定的な法案を推進する少数の議員に委ねられている。

Newsomの行政命令は、州のGovernment Operations Agencyに対し、AI監査人の州登録簿を創設する最近成立した法案や、リスクを評価する「独立検証機関」の枠組みの整備を迅速に進めるよう指示するものだ。行政命令はAI企業に「キルスイッチ」の作成を義務付け、さらに「定期的な監査と評価を実施するため、指定された独立検証機関を研究所内に常駐させる」ことを求める。

州は、「知事は議会とTrump大統領に対し、州の枠組みを検討して採用するか、すべての米国民の利益と安全のため、全米を先導する州規制を上限ではなく最低基準として活用するよう求めている」と述べた。