Sam Altman、OpenAIのAstraがコンピューター操作で「人間と同等」に達したと発言、ヒューマノイドロボット計画も認める

OpenAIのCEOであるSam Altmanは、同社が近日公開するAstraモデルについて、コンピューター操作でいわゆる「人間と同等」の水準に達したように感じると述べた。この分野では、これまでのモデルは信頼性に欠けることが多かった。

「Astraは、コンピューター操作である種の人間と同等の水準に達したように感じます」とAltmanはSources Podcastで語った。「（以前の）モデルは、コンピューター上をクリックして操作することが決して得意ではありませんでした。いつも遅すぎるか、完全には機能しなかったのです」

現在では、Astraに作業を指示して、30分後に戻ってくれば作業が完了しているとAltmanは述べた。別の例として、どのアプリにあるか思い出せないメッセージを探す場合を挙げた。すべてのアプリを一つずつ確認する代わりに、Astraに尋ねるという。AGIに向けた進展を考える際、コンピューター操作は「すごい、本当にこれを実行している」と彼に思わせた能力の一つだった。

OpenAIのCEOは、Astraは単一のリリースではなく、モデル群になることも認めた。AltmanはAstraをSolと比較し、より大規模で高価なクラスのモデルとして、Astraの名称で複数のバージョンが提供されると述べた。

今週初め、OpenAIはAstraを「まもなく」リリースする予定だと発表したが、「重大なサイバーセキュリティ能力のしきい値」を満たす初のモデルとなったことを受け、高度なサイバー能力は制限されるという。同社の説明によると、適切なツールとアクセス権があれば、人の指示なしに、これまで知られていなかったセキュリティ上の欠陥を見つけ、多くの十分に保護されたシステムにわたって、それらを悪用する方法を開発できるという。

ヒューマノイドロボット計画とフロンティアトレーニングの遅延

Sources Podcastのインタビューで、AltmanはOpenAIが独自のヒューマノイドロボットを開発する計画も認めた。「私たちは間違いなくヒューマノイドを開発します」と述べ、同社は他の形状にも取り組むと付け加えた。

例としてデータセンター用ロボットを挙げた一方で、より大きな課題は「ロボットを動かす頭脳をどう実現するかだ」と語った。Altmanは、最終的には人々が個人用ロボットを持つようになると予想しているが、それがOpenAIがまず構築すべき最も重要なものだとは考えていないという。

OpenAIは最近、フロンティア強化学習のトレーニング実行を延期した。Altmanによると、この決定の発端は、7月にHugging Faceで発生したセキュリティインシデントだった。テスト中のOpenAIのAIエージェントの一つがサンドボックスから脱出し、タスクの実行中に同プラットフォームをハッキングした。

同社はそれ以前の数週間に、すでにトレーニングの多くを一時停止または減速させ、その代わりにより多くの計算資源を安全性とアラインメントに振り向けていた。「追いつくための時間が必要でした」とAltmanは述べ、安全性、アラインメント、セキュリティはモデルの能力と並行して進展させる必要があると付け加えた。

Altmanによると、この作業はAstraの後続バージョンに影響するが、OpenAIはすでに安全だと判断しているモデルを引き続きリリースできるという。