TypeSafe、フロンティアLLMを最大200倍上回る意思決定速度をうたうJevを発表

ソフトウェア自動化に注力するAIスタートアップのTypeSafeは、ソフトウェアが直接利用できる、高速で構造化された意思決定を実現するよう設計した新モデル「System One」を発表した。

同社は火曜日、公開した。System Oneを基盤に構築した初の一般公開モデル「Jev」を、早期アクセスで提供開始した。

TypeSafeの創業者兼CEOであるDiogo Almeida氏は、ブログ記事で、同社チームはステルス期間中、オートメーションに完全に焦点を当てた新しいAIスタックの構築に時間を費やしてきたと述べた。このスタックには、新たなモデルアーキテクチャ、効率を最大化する並列サンプラー、そして同社が「Reinforcement Learning for Calibrated Decisions（RLCD）」と呼ぶ学習手法が含まれる。

TypeSafeは、述べた。現在のフロンティアモデルは、予測可能な挙動に依存するシステムにおいて、ハルシネーションを起こしたり不要なばらつきを持ち込んだりする可能性があるという。同スタートアップは、インテリジェンスを「意味的な判断と知的な意思決定を必要とするアプリケーション向けの、組み合わせ可能なソフトウェアプリミティブとして機能させる」ことで、異なるアプローチを取っていると説明した。

「Jevは、フロンティア級のインテリジェンスを呼び出す関数だと考えてください。非構造化された状態を入力し、型付きの確率的な意思決定を出力します」と、OpenAIのChatGPTの開発に携わったAlmeida氏は述べた。

テキストを生成せずに高速化

従来の大規模言語モデルとは異なり、Jevはテキストや文字列を生成せず、構造化された出力に最適化されている。創業者は、Jevは既存の大規模言語モデルと同程度の知能を実現しながら、「速度と効率を2桁向上」させられると述べた。

TypeSafeは、Jevのエンドツーエンドの応答時間を約70msから500msと見積もっている。既存のフロンティアLLMでは、およそ3秒から329秒かかるという。

「System One向けに設計されたクエリで、同程度のフロンティア級インテリジェンスを実現する場合、速度は40倍から200倍になる可能性があります」と、創業者は記事に記した。既存のフロンティアモデルは「人間との対話には十分な速さですが、コードに組み込む際には大きなボトルネックになります」とも付け加えた。

「AIには、ソフトウェアが依存できるインターフェースが必要だと考えたため、TypeSafeを始めました」とAlmeida氏は述べた。

声明によると、TypeSafeはDCVCが主導した4,000万ドルのシード資金を調達した。

「TypeSafeは、AIに残された最大の課題の一つに取り組んでいます。それは、ますます高性能になるモデルを、開発者が大規模に製品へ信頼性高く組み込めるテクノロジーへと変えることです」と、DCVCのジェネラルパートナーであるJames Hardiman氏は声明で述べた。