Meta CEOのMark Zuckerberg氏は火曜日遅く、人工知能の開発ペースをめぐる議論に乗り出したようだ。同氏は、同社が個人向けAIアシスタント製品のMuseを数カ月延期したものの、競合各社に同様の対応を求めてはいなかったと述べた。
週末、Anthropic CEOのDario Amodei氏は、安全性とアラインメントへの懸念を理由に、AI開発のペースを落とすことを提案した。OpenAIのSam Altman氏、Google DeepMindのDemis Hassabis氏、SpaceXAIのElon Musk氏も、この方向性への支持を示した。
「Metaは安全性とセキュリティに注力するため、Museの提供を数カ月延期した」とZuckerberg氏はXに投稿した。「私たちがそうする前に、他の全員にも同じことを求めたわけではない。人々にとっても私たちにとっても、それが明らかに正しいことだったので、日々の業務の一環として実行しただけだ」
Metaのトップは、すべてのAI研究所には安全なペースでモデルを訓練する責任があり、それを確実にするために各自で行動を起こす能力もあると述べた。また、独立した評価者やアドバイザーを関与させることは、業界のベストプラクティスだと付け加えた。
自主規制へのインセンティブ
人々は、自分たちと意図が合わず、指示どおりに動かないエージェントを望んでいないため、研究所にはすでにモデルのアラインメントを高める強いインセンティブがある。さらに、モデルが損害を引き起こした場合、研究所は多額の法的責任を負う可能性があるため、それを防ぐ強い動機もあると、Meta CEOは述べた。
「アラインメントに注力しない研究所は、後れを取ることになる」と同氏は付け加えた。
Amodei氏の先の発言に対し、元ホワイトハウスAI担当責任者のDavid Sacks氏は、危険だと考えるなら、最先端AI研究所は開発を減速させるべきだと述べた。ただし、市場での優位性を固定化しかねない規制を正当化するために安全性への懸念を利用するのではなく、自主的に行うべきだと主張した。
「計算資源の大半を、再帰的な自己改善に向けて競争するのではなく、人々にサービスを提供することに振り向けると約束することは、この技術を安全に発展させる最善の方法の一つだ」とZuckerberg氏は述べた。「Metaはこの約束をしており、他の研究所も同じことができる」