Tencent Holdings Ltd.는 금요일 Hy4 Preview를 출시하고 오픈소스로 공개했다. 회사는 이 대규모 언어 모델이 코딩, 사무 업무, 게임 개발, 과학 연구 등 생산성 관련 작업을 수행하도록 설계됐다고 밝혔다.
Tencent에 따르면 Hy4 Preview 모델은 총 7700억 개의 파라미터와 490억 개의 활성 파라미터로 구동되며, 100만 토큰을 초과하는 컨텍스트 창을 지원한다. Tencent는 성명에서 밝혔다. 이 모델은 이전 모델보다 규모와 데이터 양이 크게 확대됐으며, 사전 학습과 사후 학습 모두에서 발전이 이뤄졌다.
Hy4 Preview는 오픈소스 모델로 제공되며 WorkBuddy와 CodeBuddy, Yuanbao 및 ima를 통해 전 세계에서 이용할 수 있다. 사용자는 Tencent Cloud TokenHub와 OpenRouter를 통해 API로 모델에 연결할 수 있다.
출시 후 2주 동안 WorkBuddy와 CodeBuddy에서 이 모델을 무료로 이용할 수 있다. 성명에 따르면 두 플랫폼에서 이전 모델인 Hy3에 제공되던 무료 이용 기간은 Sept. 30까지 연장됐다.
개발 및 테스트 결과
Tencent가 전문가 163명과 엔지니어링 작업 203건을 대상으로 내부에서 실시한 블라인드 평가에서 Hy4 Preview는 4.00점 만점에 평균 2.99점을 기록했다. Z.AI Co.의 GLM-5.3은 2.92점, Moonshot AI의 Kimi K3는 2.94점이었다.
회사는 이 모델이 소프트웨어 엔지니어링, 게임, 금융, 보안 분야의 Tencent 전문가들과 공동 제작한 학습 데이터를 사용해 개발됐으며, WorkBuddy와 같은 제품과 공동 설계 과정을 거쳤다고 밝혔다.
Tencent에 따르면 Hy4 Preview는 처음으로 자체 개발 과정에 기여했다. 학습 방법, 데이터 전략, 평가 프레임워크, 저수준 연산자의 자동 최적화에 참여했으며, 결과를 바탕으로 접근 방식을 제안하고 반복 개선했다. 이를 통해 초기 단계의 재귀적 자기 개선 루프를 구축했다.
이 모델은 추론 시스템의 병목 현상도 자율적으로 분석하고 연산자 융합 및 통신에 대한 최적화를 여러 차례 수행했다. Tencent는 이러한 개선으로 기준선 대비 엔드투엔드 처리량이 31.8% 증가했으며, 다양한 컨텍스트 길이와 동시성 수준에서 일관된 향상이 나타났다고 밝혔다.
API 가격은 입력 토큰 100만 개당 $0.834, 출력 토큰 100만 개당 $2.501, 캐시 적중 토큰 100만 개당 $0.042로 책정됐다.
