Tencent Holdings Ltd. lanzó y publicó como código abierto el viernes Hy4 Preview, un modelo de lenguaje de gran tamaño que, según la compañía, está diseñado para tareas de productividad que abarcan programación, trabajo de oficina, desarrollo de videojuegos e investigación científica.

El modelo Hy4 funciona con un total de 770.000 millones de parámetros y 49.000 millones de parámetros activos, con una ventana de contexto de más de 1 millón de tokens, dijo Tencent en un comunicado. El modelo aumentó significativamente su tamaño y volumen de datos respecto a su predecesor, con avances tanto en el preentrenamiento como en el posentrenamiento.

Hy4 Preview está disponible como modelo de código abierto y se puede utilizar globalmente a través de WorkBuddy y CodeBuddy, así como de Yuanbao e ima. Los usuarios pueden conectarse al modelo mediante API a través de Tencent Cloud TokenHub y OpenRouter.

El modelo estará disponible de forma gratuita en WorkBuddy y CodeBuddy durante dos semanas después de su lanzamiento. El acceso gratuito al modelo Hy3 anterior en ambas plataformas se ha ampliado hasta el 30 de septiembre, según el comunicado.

Desarrollo y resultados de las pruebas

En una evaluación a ciegas realizada internamente por Tencent con la participación de 163 expertos y 203 tareas de ingeniería, Hy4 Preview obtuvo una puntuación media de 2,99 sobre 4,00, frente a 2,92 de GLM-5.3 de Z.AI Co. y 2,94 de Kimi K3 de Moonshot AI.

El modelo se desarrolló utilizando datos de entrenamiento creados conjuntamente con expertos de Tencent en ingeniería de software, videojuegos, finanzas y seguridad, así como mediante un diseño conjunto con productos como WorkBuddy, dijo la compañía.

Hy4 Preview contribuyó por primera vez a su propio proceso de desarrollo, participando en la optimización automatizada de métodos de entrenamiento, estrategias de datos, marcos de evaluación y operadores de bajo nivel, dijo Tencent. El modelo propuso enfoques e iteró a partir de los resultados, estableciendo un ciclo inicial de auto mejora recursiva.

El modelo también analizó de forma autónoma los cuellos de botella de su sistema de inferencia y llevó a cabo varias rondas de optimización de la fusión de operadores y las comunicaciones. Tencent afirma que las mejoras aumentaron el rendimiento de extremo a extremo un 31,8 % frente a la línea base, con avances constantes en distintas longitudes de contexto y niveles de concurrencia.

El precio de la API se fija en $0.834 por millón de tokens de entrada, $2.501 por millón de tokens de salida y $0.042 por millón de tokens para aciertos de caché.