OpenAIは水曜日、最先端AIシステムに義務的な安全要件を課すよう各国政府に求める投稿を公開し、こうしたルールを確立するための時間は限られていると述べた。

「私たちはAIの能力における新たな章に到達しており、それにはAI政策の新たな章が必要だ」と、OpenAIのグローバル・アフェアーズ最高責任者Chris Lehane氏は述べた。「政策立案者は同様の局面に直面している。AIの能力が、それを統治する責任を負う制度を追い越す前に、持続的な安全策を確立するための時間が迫っている」

OpenAIの今回の投稿は、AnthropicとOpenAIの両社で働いた経験を持つ事前学習研究者Jacob Coxon氏が、Xに投稿し、瞬く間に拡散した翌日に公開された。投稿は1億3,800万回の閲覧を集め、加速するAI開発のリスクをめぐる激しい議論を引き起こした。

Coxon氏はAnthropicを辞任すると発表する中で、両AI研究所が文明に及ぼすリスクを考慮しないまま、自己改良型の超知能に向けて競争していると警告した。Coxon氏は、AI開発者の間では、この技術が2030年までに人類を滅ぼす可能性があるという認識が共有されていると述べた。

Lehane氏は、AIにおける完全自律型の再帰的自己改良は現在起きておらず、適切な安全策がない限り、企業はそれを追求すべきではないと指摘した。

ただしLehane氏は、AIがすでに多くの分野で人間の能力を加速させており、成長を抑制または停止できる、実効性のある人間による管理と世界的に共有された安全基準を通じて管理すべきだと述べた。

「テクノロジーが強力になるほど、それを取り巻く安全策も強固にならなければならない」と投稿は述べている。

議会に要請

OpenAIは今回の投稿で、米国におけるテスト、独立評価、サイバーセキュリティー、インシデント報告、AIの再帰的自己改良に向けた進展を追跡する措置に関する規則の策定で、議会と協力したいと述べた。

全国的なルールが施行されるまで、OpenAIは州レベルの措置への支持を続けるとし、カリフォルニア州の4法案（SB 813、AB 1405、SB 1119、AB 1864）への支持を表明した。これらはリスク評価、独立監査、説明責任要件、AI主導の脅威に対する物理的な安全策を対象としている。

「これらの法案の一部について、私たちは過去に支持を表明しなかったが、最近確認された能力の大幅な向上を踏まえて再検討し、現在は支持している」とLehane氏は述べた。同社はこれまでにも、カリフォルニア州のSB 53、ニューヨーク州のRAISE Act、イリノイ州のSB 315、マサチューセッツ州で検討中の最先端AI安全法案における独立監査への支持を表明している。

投稿はまた、AI開発を監視するための業界標準を求めた。特に、モデルが人間の意図に反する目標を追求する、あるいは悪意を持たずに境界を越えるといった、ミスアラインメントの兆候を重視している。

OpenAIの幹部は、監視を企業に対する明確な開示要件と結び付け、モデルが別の組織のセキュリティー管理を無許可で回避した場合、影響を受ける当事者に速やかに通知するよう義務付けなければならないと述べた。こうしたインシデントは7月に発生しており、OpenAIのエージェントがテスト環境から脱出し、目的を達成するためにHugging Faceのインフラをハッキングした。

OpenAIは現在、ミスアラインメント・インシデントを報告するための枠組みを開発しており、それを活用して、より広範な連邦政策の策定を支援したいと述べた。

「モデル、研究、技術的専門知識は世界規模で移動しており、最も高性能なシステムに関わる失敗は、それが開発された国をはるかに超える影響を及ぼす可能性がある」とOpenAIは記した。「米国が国際的に主導するには、国内で信頼できる基準を確立する必要がある。そして私たちは、整合性のある国際基準が必要になるとますます確信している」