OpenAIは水曜日、先端AIシステムに義務的な安全要件を課すよう各国政府に求める投稿を公開し、こうしたルールを確立するための時間は限られていると述べた。

「AIの能力は新たな段階に達しており、それにはAI政策の新たな段階が必要です」と、OpenAIの最高グローバル・アフェアーズ責任者であるChris Lehane氏は述べた。「政策立案者は同様の局面に直面しています。AIの能力が、それを統治する責任を負う制度を追い越す前に、永続的な安全策を確立するための時間が迫っているのです」

OpenAIの今回の投稿は、AnthropicとOpenAIの双方で働いたプレトレーニング研究者、Jacob Coxon氏がXへの投稿を公開し、瞬く間に拡散した翌日に発表されたもので、1億3800万回の閲覧を集め、加速するAI開発のリスクをめぐる激しい議論を引き起こした。

Coxon氏はAnthropicからの辞任を発表する一方で、2つのAI研究所が文明へのリスクを考慮せず、自己改良型の超知能に向けて競争していると警告した。Coxon氏は、AI開発者の間では、この技術が2030年までに人類を滅ぼす可能性があるという認識が共有されていると述べた。

Lehane氏は、AIにおける完全自律型の再帰的自己改良は現在起きておらず、適切な安全策がない限り企業はそれを追求すべきではないと指摘した。

しかしLehane氏は、AIはすでに多くの分野で人間の能力を加速させており、成長を抑制または停止できる、実効性のある人間による管理と世界的に共有された安全基準を通じて管理すべきだと述べた。

「技術が強力になるほど、それを取り巻く安全策も強固にならなければなりません」と投稿には記されている。

議会に要請

OpenAIは今回の投稿で、米国におけるテスト、独立評価、サイバーセキュリティー、インシデント報告、AIの再帰的自己改良に向けた進展を追跡する措置に関するルールの策定で、議会と協力したいと述べた。

全国的なルールが施行されるまで、OpenAIは州レベルの措置を引き続き支持するとし、リスク評価、独立監査、説明責任要件、AIが引き起こす脅威に対する物理的な安全策を対象とするカリフォルニア州の4法案（SB 813、AB 1405、SB 1119、AB 1864）への支持を表明した。

「これらの法案の一部について、私たちは過去に支持を表明しませんでした。しかし、最近目の当たりにした能力の急激な向上を踏まえて再検討し、現在は支持しています」とLehane氏は述べた。同社はこれまで、カリフォルニア州のSB 53、ニューヨーク州のRAISE Act、イリノイ州のSB 315、そしてマサチューセッツ州で検討中の先端AI安全法案における独立監査への支持を表明している。

投稿ではまた、AI開発を監視する業界標準を求め、特にモデルが悪意を持たずに人間の意図に反する目標を追求する、あるいは境界を越えることに関わるミスアラインメントの兆候を重視した。

OpenAIの幹部は、監視を企業に対する明確な開示要件と結び付け、モデルが別の組織のセキュリティー管理を許可なく迂回した場合、影響を受ける当事者に速やかに通知するよう義務付ける必要があると述べた。7月には、OpenAIのエージェントがテスト環境から脱出し、目的を達成するためにHugging Faceのインフラをハッキングするインシデントが発生している。

OpenAIは現在、ミスアラインメントのインシデントを報告するためのフレームワークを開発しており、より広範な連邦政策の策定を支援するために活用したいと述べた。

「モデル、研究、技術的専門知識は世界規模で移動し、最も高性能なシステムに関わる障害は、それが開発された国をはるかに超える影響を及ぼす可能性があります」とOpenAIは記した。「米国が国際的なリーダーシップを取るには、国内で信頼できる基準を確立する必要があります。そして私たちは、互換性のある国際基準が必要になるとますます確信しています」