腾讯控股有限公司周五发布并开源了 Hy4 Preview。这款大语言模型据公司称,旨在执行涵盖编程、办公、游戏开发和科学研究的生产力任务。

腾讯表示,Hy4 Preview 模型共拥有 7700 亿参数,其中 490 亿为激活参数,上下文窗口超过 100 万 token,详见声明。与前代模型相比,该模型的规模和数据量均大幅增加,并在预训练和后训练方面取得进展。

Hy4 Preview 以开源模型形式提供,全球用户可通过 WorkBuddy 和 CodeBuddy,以及 Yuanbao 和 ima 访问。用户还可以通过腾讯云 TokenHub 和 OpenRouter 经由 API 连接该模型。

模型发布后的两周内,WorkBuddy 和 CodeBuddy 将免费提供该模型。声明称,两大平台上的前代 Hy3 模型免费访问期限已延长至 9 月 30 日。

开发与测试结果

在腾讯内部开展的一项盲目评测中,163 名专家参与了 203 项工程任务。Hy4 Preview 的平均得分为 2.99(满分 4.00),相比之下,Z.AI Co. 的 GLM-5.3 得分为 2.92,Moonshot AI 的 Kimi K3 得分为 2.94。

公司称,该模型使用了与软件工程、游戏、金融和安全领域腾讯专家共同创建的训练数据进行开发,同时还与 WorkBuddy 等产品开展了联合设计。

腾讯表示,Hy4 Preview 首次参与了自身的开发流程,参与训练方法、数据策略、评测框架和底层算子的自动优化。该模型提出方案并根据结果进行迭代,建立了早期的递归式自我改进循环。

该模型还自主分析了推理系统中的瓶颈,并对算子融合和通信进行了多轮优化。腾讯称,与基线相比,这些改进使端到端吞吐量提升了 31.8%,且在不同上下文长度和并发水平下均取得了稳定增益。

API 定价为每百万输入 token 0.834 美元、每百万输出 token 2.501 美元,以及每百万 token 0.042 美元的缓存命中费用。