TypeSafe推出Jev，声称决策速度最高可达前沿大语言模型的200倍

专注于软件自动化的AI初创公司TypeSafe正在推出一款名为“System One”的新模型。据该公司介绍，该模型旨在快速做出结构化决策，以便软件直接使用。

该公司周二推出了基于System One构建的首款公开可用模型Jev，并开启早期访问。

在一篇博客文章中，TypeSafe创始人兼CEO Diogo Almeida表示，团队在隐身运营期间一直致力于构建一套全新的AI技术栈，完全专注于自动化。该技术栈包括一种新的模型架构、一个旨在实现最高效率的并行采样器，以及一种公司称为“校准决策强化学习”（Reinforcement Learning for Calibrated Decisions，RLCD）的训练方法。

TypeSafe表示，当前的前沿模型可能产生幻觉，并给依赖可预测行为的系统引入不必要的变异性。这家初创公司表示，其采取了不同的方法，旨在构建一种智能能力，使其“能够作为应用程序的可组合软件原语，为需要语义判断和智能决策的应用提供服务”。

“可以把Jev想象成一个前沿智能函数调用：输入非结构化状态，输出带类型的概率决策，”曾参与开发OpenAI ChatGPT的Almeida表示。

无需生成文本也能更快

与传统的大语言模型不同，Jev不生成文本或字符串，而是针对结构化输出进行了优化。这位创始人表示，Jev能够达到与现有大语言模型相近的智能水平，同时“速度和效率提升两个数量级”。

TypeSafe估计，Jev的端到端响应时间约为70ms至500ms，而现有前沿大语言模型约为3至329秒。

这位创始人在文章中写道：“对于针对System One构造的查询，在相同前沿智能水平下，速度可能提升40倍至200倍。”他补充说，现有前沿模型“与人类交互时已经足够快，但集成到代码中时却会成为一个很大的瓶颈”。

Almeida表示：“我们创办TypeSafe，是因为我们相信AI需要一种软件可以依赖的接口。”

据声明，TypeSafe获得了4000万美元的种子轮融资，由DCVC领投。

DCVC普通合伙人James Hardiman在声明中表示：“TypeSafe正在应对AI领域剩下的最大挑战之一：将能力日益增强的模型转化为开发者能够可靠地大规模构建到产品中的技术。”