TypeSafe, una startup de IA centrada en la automatización de software, presenta un nuevo modelo llamado «System One», que, según afirmó, está diseñado para tomar decisiones rápidas y estructuradas que el software pueda utilizar directamente.
La compañía presentó Jev, su primer modelo disponible públicamente basado en System One, en acceso anticipado.
En una publicación de blog, Diogo Almeida, fundador y director ejecutivo de TypeSafe, afirmó que el equipo dedicó su etapa en modo sigiloso a desarrollar una nueva pila de IA centrada por completo en la automatización. La pila incluye una nueva arquitectura de modelo, un muestreador paralelo para maximizar la eficiencia y un método de entrenamiento que la compañía denomina Reinforcement Learning for Calibrated Decisions (RLCD).
TypeSafe afirmó que los modelos de frontera actuales pueden alucinar e introducir una variabilidad innecesaria en sistemas que dependen de un comportamiento predecible. La startup afirmó que está adoptando un enfoque diferente al desarrollar una inteligencia que pueda «servir como una primitiva de software componible para aplicaciones que requieren juicio semántico y toma de decisiones inteligente».
«Piensen en Jev como una llamada a una función de inteligencia de frontera: entra un estado no estructurado y salen decisiones probabilísticas tipadas», afirmó Almeida, quien ayudó a desarrollar ChatGPT de OpenAI.
Más rápido sin generar texto
A diferencia de los modelos de lenguaje de gran tamaño tradicionales, Jev no genera texto ni cadenas de caracteres, sino que está optimizado para producir salidas estructuradas. El fundador afirmó que Jev puede alcanzar niveles de inteligencia similares a los de los modelos de lenguaje de gran tamaño existentes, al tiempo que «es dos órdenes de magnitud más rápido y eficiente».
TypeSafe estimó que el tiempo de respuesta de extremo a extremo de Jev se sitúa entre unos 70 ms y 500 ms, frente a aproximadamente 3 a 329 segundos para los LLM de frontera existentes.
«Esto puede suponer entre 40 y 200 veces más velocidad para los mismos niveles de inteligencia de frontera en consultas estructuradas para System One», escribió el fundador en la publicación. Los modelos de frontera existentes son «lo bastante rápidos para interactuar con humanos, pero constituyen un gran cuello de botella cuando se integran en código», añadió.
«Creamos TypeSafe porque creemos que la IA necesita una interfaz de la que el software pueda depender», afirmó Almeida.
TypeSafe recibió $40 millones en financiación semilla liderada por DCVC, según el comunicado.
«TypeSafe se está enfrentando a uno de los mayores desafíos pendientes de la IA: convertir modelos cada vez más capaces en una tecnología que los desarrolladores puedan integrar de forma fiable en productos a escala», afirmó James Hardiman, socio general de DCVC, en el comunicado.