Tencent Holdings Ltd.は金曜日、コーディング、オフィス業務、ゲーム開発、科学研究にまたがる生産性タスク向けに設計された大規模言語モデル、Hy4 Previewをリリースし、オープンソース化したと発表した。

Tencentによると、Hy4 Previewモデルは総パラメーター数7700億、アクティブパラメーター数490億で、100万トークンを超えるコンテキストウィンドウを備えるという声明。このモデルは、前身モデルから規模とデータ量を大幅に拡大し、事前学習と事後学習の双方で進歩を遂げた。

Hy4 Previewはオープンソースモデルとして提供され、WorkBuddyおよびCodeBuddyのほか、Yuanbaoとimaを通じて世界中から利用できる。ユーザーはTencent Cloud TokenHubおよびOpenRouterを介し、APIでモデルに接続できる。

モデルはローンチ後2週間、WorkBuddyとCodeBuddyで無料利用できる。声明によると、両プラットフォームで提供されていた従来のHy3モデルへの無料アクセスは9月30日まで延長された。

開発とテストの結果

Tencentが社内で163人の専門家と203件のエンジニアリングタスクを対象に実施したブラインド評価では、Hy4 Previewの平均スコアは4.00点満点中2.99点だった。一方、Z.AI Co.のGLM-5.3は2.92点、Moonshot AIのKimi K3は2.94点だった。

同社によると、このモデルはソフトウェアエンジニアリング、ゲーム、金融、セキュリティ分野のTencentの専門家と共同作成したトレーニングデータを使って開発されたほか、WorkBuddyなどの製品との共同設計も行われた。

Tencentによると、Hy4 Previewは初めて自らの開発プロセスに貢献し、トレーニング手法、データ戦略、評価フレームワーク、低レベルオペレーターの自動最適化に参加した。モデルはアプローチを提案し、結果に基づいて反復を行うことで、初期段階の再帰的な自己改善ループを構築した。

モデルは推論システムのボトルネックも自律的に分析し、オペレーター融合と通信について複数回の最適化を実施した。Tencentによると、これらの改善により、ベースラインと比較したエンドツーエンドのスループットは31.8%向上し、異なるコンテキスト長と同時実行レベルで一貫した改善が得られた。

API料金は、入力トークン100万個当たり$0.834、出力トークン100万個当たり$2.501、キャッシュヒット時はトークン100万個当たり$0.042に設定されている。