Tencent Holdings Ltd.는 금요일 Hy4 Preview를 출시하고 오픈소스로 공개했다. 회사는 이 대규모 언어 모델이 코딩, 사무 업무, 게임 개발, 과학 연구 등 생산성 작업을 수행하도록 설계됐다고 밝혔다.

Tencent에 따르면 Hy4 Preview 모델은 총 770 billion개의 매개변수와 49 billion개의 활성 매개변수로 구동되며, 1 million tokens를 초과하는 컨텍스트 윈도우를 지원한다. 모델의 규모와 데이터 양은 이전 모델보다 크게 확대됐으며, 사전 학습과 사후 학습 모두에서 발전이 이뤄졌다.성명에서 밝혔다.

Hy4 Preview는 오픈소스 모델로 제공되며 WorkBuddy와 CodeBuddy, Yuanbao 및 ima를 통해 전 세계에서 이용할 수 있다. 사용자는 Tencent Cloud TokenHub와 OpenRouter를 통해 API로 모델에 연결할 수 있다.

이 모델은 출시 후 2주 동안 WorkBuddy와 CodeBuddy에서 무료로 제공된다. 성명에 따르면 두 플랫폼에서 이전 모델인 Hy3에 무료로 접근할 수 있는 기간도 Sept. 30까지 연장됐다.

개발 및 테스트 결과

Tencent가 163명의 전문가와 203개의 엔지니어링 작업을 대상으로 내부에서 진행한 블라인드 평가에서 Hy4 Preview는 4.00점 만점에 평균 2.99점을 기록했다. Z.AI Co.의 GLM-5.3은 2.92점, Moonshot AI의 Kimi K3는 2.94점이었다.

회사는 이 모델이 소프트웨어 엔지니어링, 게임, 금융, 보안 분야의 Tencent 전문가들과 공동으로 제작한 학습 데이터를 사용해 개발됐으며, WorkBuddy와 같은 제품과 공동 설계를 진행했다고 밝혔다.

Tencent에 따르면 Hy4 Preview는 처음으로 자체 개발 과정에 기여했다. 학습 방법, 데이터 전략, 평가 프레임워크, 저수준 연산자의 자동 최적화에 참여했으며, 결과를 바탕으로 접근 방식을 제안하고 반복 개선을 진행해 초기 단계의 재귀적 자기 개선 루프를 구축했다.

이 모델은 추론 시스템의 병목 현상도 자율적으로 분석하고 연산자 융합과 통신에 대한 여러 차례의 최적화를 수행했다. Tencent는 이러한 개선으로 기준선 대비 엔드투엔드 처리량이 31.8% 증가했으며, 다양한 컨텍스트 길이와 동시성 수준에서 일관된 향상이 나타났다고 밝혔다.

API 요금은 입력 tokens 1 million개당 $0.834, 출력 tokens 1 million개당 $2.501, 캐시 적중 tokens 1 million개당 $0.042로 책정됐다.