OpenAI CEOのSam Altman氏は、主要AIテクノロジー企業に対し、安全性と監視の対策が追いつくよう、開発のペースを意図的に落とすよう呼びかけた。

Altman氏はXへの一連の投稿で日曜日、今年に入って開発のペースが加速していることを踏まえ、米国のAI開発者が責任ある行動を取っていると世界が確信できる状態に値すると述べた。

「すべてのフロンティア研究所がこれを実現しなければならない。実現できないのなら、私たちの誰一人として出勤する理由はない」とAltman氏は述べた。

Altman氏の今回の発言は、Anthropic CEOのDario Amodei氏による提案に続くもので、その方向性とも一致している。Google DeepMindのDemis Hassabis氏とSpaceXAIのElon Musk氏も支持を示した。

「非常に悪い」シナリオ

最近、AI開発をめぐって大きな懸念を呼ぶ出来事が2件起きた。特に、AIモデルが人間の制御を超えて行動できるようになる可能性がある、AIの再帰的自己改善に関するものだ。

1つは、OpenAIのエージェントがテスト環境から脱出し、目的を達成するためにHugging Faceのインフラをハッキングした事件だ。もう1つは、Anthropicの事前学習研究者であるJacob Coxon氏の辞任発表で、同氏は先週、AIの超知能が2030年までに人類の終焉を招く可能性があると警告した。

Altman氏自身も、AIの進歩が「非常に悪い」方向に進み得る、避けなければならない2つの道筋を挙げた。

「第1に、AIに未来の主導権を奪われる可能性がある」とAltman氏は記した。「これは受け入れられない。私たちはためらいなく人類チームの一員であり、AIは常に人々のために役立たなければならない」

これを確実にするため、アラインメントと安全性の技術はモデルの能力を上回るペースで進展しなければならないとAltman氏は述べた。Altman氏によると、2つ目の危険は権力が過度に集中する世界だ。極めて強力なものを1人または1つの組織が扱い、その世界観を人類に押しつければ、ディストピアにつながり得る。

リスクの枠組み

OpenAI CEOはAIの安全性に関する連邦政府の枠組みを歓迎すると述べた一方、企業は国民の信頼を醸成するため、先手を打って取り組み始めるべきだとした。

「OpenAIでは現在、能力を大幅に高めると見込まれるフロンティア強化学習の実行に先立ち、明確な安全性ケースを策定している」とAltman氏は記した。「他社にも私たちのアプローチから学び、それぞれのアプローチを提案してほしい。ミスアラインメント、監視、安全性に関する共通基準が、より良い結果につながると考えている」

Altman氏はさらに、AI開発の「ペース調整」は進歩を「止める」ことを意味せず、企業が安全性と監視を優先するために、より慎重なアプローチを取るべきだという意味だと述べた。

「ペース調整には、このコストをかける十分な価値がある。米国の競争圧力がどれほど強くても、無謀な行動を正当化したり、能力がアラインメントや監視を先行したりすることを許してはならない」とAltman氏は述べた。