OpenAIのCEO、Sam Altman氏は水曜日、同社はこれまでもAI開発を減速させており、システムを運用する人間の制御下に置き続けられない場合は、今後も再び減速させると国連安全保障理事会で述べた。
「私たちは過去に一方的に減速したことがあります。今後もそうします」とAltman氏は述べた。「競争の中で他社に勝つことは、軽率な判断を下す理由にはなりません」
しかし、こうした減速がいつ、どのように行われたのかについて、同氏が具体的に説明することはなかった。
AIが将来のAIのバージョン開発でより大きな役割を担うようになるにつれ、懸念はさらに深まっているとAltman氏は述べた。進歩があまりに速くなれば、AIを管理する人々はAIが何をしているのかを理解したり、問題が起きた際に介入したりするのに苦労する可能性がある。
「私たちはAIに未来の主導権を奪われる可能性があります」と同氏は警告した。
Altman氏は、最も高度なAIシステムが一部の企業や国に過大な影響力を与える可能性も別のリスクだと指摘した。これに対処するため、同氏は高度なシステムのテストや安全対策が機能しているかの確認、重大なインシデントの報告に利用できる共通基準を求めた。
同じく理事会で発言したAnthropicのCEO、Dario Amodei氏も同様の約束をした。
「今後公開するAI技術一つひとつが実際に安全なものになるよう、必要な限り減速します」と同氏は述べた。
Amodei氏はまた、安全性テストの共通基準と、AIインシデント、特に国家安全保障の侵害を伴うインシデントについて互いに警告する方法に関して、各国が合意するよう促した。
「指導者も、企業も、国家も、これを単独で管理することはできません」と同氏は述べた。