A TypeSafe diz que o Jev é 40 a 200 vezes mais rápido que LLMs em consultas moldadas ao System One
A TypeSafe lançou o Jev em acesso antecipado na terça-feira
O Jev não gera texto e é otimizado para saídas estruturadas
A TypeSafe estima latência de 70 a 500 ms para o Jev, contra 3 a 329 segundos em LLMs
A TypeSafe anunciou US$ 40 milhões em financiamento inicial liderado pela DCVC
A TypeSafe, uma startup de IA focada em automação de software, está apresentando um novo modelo chamado "System One", que, segundo a empresa, foi desenvolvido para tomar decisões rápidas e estruturadas que podem ser usadas diretamente por softwares.
A empresa lançou o Jev, seu primeiro modelo disponível publicamente baseado no System One, em acesso antecipado, na terça-feira.
Em uma publicação no blog, Diogo Almeida, fundador e CEO da TypeSafe, disse que a equipe passou seu período em modo sigiloso desenvolvendo uma nova pilha de IA totalmente focada em automação. A pilha inclui uma nova arquitetura de modelo, um amostrador paralelo para máxima eficiência e um método de treinamento que a empresa chama de Reinforcement Learning for Calibrated Decisions (RLCD).
A TypeSafe disse que os modelos de fronteira atuais podem alucinar e introduzir variabilidade desnecessária em sistemas que dependem de um comportamento previsível. A startup afirmou estar adotando uma abordagem diferente ao desenvolver uma inteligência que possa "atuar como uma primitiva de software componível para aplicações que exigem julgamento semântico e tomada de decisões inteligente".
"Pense no Jev como uma chamada de função de inteligência de fronteira: estado não estruturado entra, decisões probabilísticas tipadas saem", disse Almeida, que ajudou a desenvolver o ChatGPT da OpenAI.
Ao contrário dos modelos tradicionais de linguagem de grande escala, o Jev não gera texto nem strings e, em vez disso, é otimizado para saídas estruturadas. O fundador disse que o Jev pode alcançar níveis de inteligência semelhantes aos dos modelos de linguagem de grande escala existentes, ao mesmo tempo em que é "duas ordens de magnitude mais rápido e eficiente".
A TypeSafe estimou o tempo de resposta de ponta a ponta do Jev em cerca de 70 ms a 500 ms, em comparação com aproximadamente 3 a 329 segundos para os LLMs de fronteira existentes.
"Isso pode variar de 40 a 200 vezes mais rápido para os mesmos níveis de inteligência de fronteira em consultas moldadas para o System One", escreveu o fundador na publicação. Os modelos de fronteira existentes são "rápidos o suficiente para interagir com humanos, mas representam um grande gargalo quando integrados ao código", acrescentou.
"Criamos a TypeSafe porque acreditamos que a IA precisa de uma interface da qual os softwares possam depender", disse Almeida.
A TypeSafe recebeu US$ 40 milhões em financiamento inicial liderado pela DCVC, de acordo com o comunicado.
"A TypeSafe está enfrentando um dos maiores desafios remanescentes da IA: transformar modelos cada vez mais capazes em uma tecnologia que os desenvolvedores possam incorporar de forma confiável a produtos em escala", disse James Hardiman, sócio-gerente da DCVC, no comunicado.
