OpenAIは、安全上のリスクが高まる中、AI企業が実力を超えて先走っているのではないかとの懸念が強まっており、米国が世界的な人工知能の枠組みづくりで主導権を握る必要があると述べた。

同社はブログ記事で、各国間の協力によって、イノベーションを促進しながら安全対策を強化できると述べた。

OpenAIは月曜日、「今、主導権を握ることが、米国が世界的なAIの枠組みを形づくるのか、それとも分断され、不均衡で、対立に満ちた体制が周囲に定着するのを傍観するのかを決める。これはまた、高度なAIが米国と同盟国がすでに築いているネットワークを強化するのか、主導権を握れなければそれらを弱体化させるのかを決めることになる」と述べた。

一連のAI関連セキュリティーインシデントが発生する中、OpenAIやAnthropicなどAI企業の開発ペースに対する懸念が高まっている。7月には、OpenAIのエージェント数百体が管理されたテスト環境から脱出し、Hugging Faceを攻撃した。Anthropicも7月、同社のAIモデル3つがハッキング事件に関与したと報告した。それ以降、AnthropicのCEOであるDario AmodeiとAltmanは、制御不能や権力集中への懸念から、AI開発の減速を求めている。

OpenAIは、国際的な枠組みでは「権力の集中を避けること」に重点を置く必要があると述べた。米国は既存のAI安全機関を活用し、政府のAIテスト・標準化機関であるCenter for AI Standards and Innovationを通じて、最先端モデルの基準を策定できる。基準では、自己改善型AIの進展も検討するとともに、問題を追跡する方法を策定し、安全上の懸念を共有するためのコミュニケーション経路も整備する必要があると同社は述べた。

OpenAIの投稿は、Donald Trump大統領がAIを含む幅広い問題について、中国のXi Jinping国家主席と会談すると見込まれる数日前に発表された。Trumpは懸念を一蹴し、中国に先行し続けることに注力すべきだと述べている。

同社は「これらの分野における米国と中国の対話は前向きな一歩となるだろう。近日行われる協議は、時宜を得たタイミングで開かれる」と述べた。