설명
Tencent Hunyuan이 개발한 Hy3 Preview는 다양한 복잡한 작업에서 뛰어난 성능을 발휘하도록 설계된 강력한 오픈 소스 언어 모델입니다. 2950억 개의 총 매개변수를 가진 혼합 전문가(MoE) 아키텍처를 특징으로 하며, 추론 패스당 210억 개의 매개변수를 활성화합니다. 이 설계는 수학, 코딩 및 다국어 벤치마크에서 높은 성능을 달성할 수 있게 하여, 많은 더 큰 모델들을 능가합니다.
이 모델은 최대 256K의 컨텍스트 윈도우를 지원하여 긴 복잡한 입력을 파싱하는 데 적합합니다. Hy3 Preview는 vLLM 또는 SGLang을 통해 배포할 수 있으며, Tencent Cloud 및 OpenRouter를 통해 접근할 수 있습니다. OpenAI 호환 API를 제공하며, 세 가지 추론 모드인 no_think, low 및 high를 지원합니다.
Hy3 Preview는 Tencent Hy 커뮤니티 라이선스 계약에 따라 출시되었으며, 모델 가중치는 Hugging Face, ModelScope 및 GitCode와 같은 플랫폼에서 이용 가능합니다. API 접근은 GPT-4 요금의 약 10분의 1로 가격이 책정되어 개발자에게 비용 효율적인 솔루션을 제공합니다.
이 모델은 Yuanbao, CodeBuddy 및 WorkBuddy와 같은 다양한 Tencent 제품에 통합되어 AI 기반 기능으로 이들의 능력을 향상시킵니다. Hy3 Preview의 아키텍처는 매개변수 규모와 성능의 균형을 이루어 효율적이고 효과적인 AI 솔루션이 필요한 애플리케이션에 전략적인 선택이 됩니다.
Hy3 Preview 하이라이트
295B 총 매개변수
21B 활성화된 매개변수
256K 컨텍스트 윈도우
혼합 전문가 아키텍처
OpenAI 호환 API
Tencent Cloud에서 이용 가능
OpenRouter 통합
Tencent Hy 커뮤니티 라이선스 계약
경쟁력 있는 벤치마크 점수
비용 효율적인 API 가격
Tencent 제품과의 통합
vLLM 및 SGLang 배포 지원
세 가지 추론 모드
Hugging Face에서 모델 가중치
90일 만에 구축
Hy3 Preview 시작하기
구성: vLLM 또는 SGLang을 통해 배포 설정
사용: Tencent Cloud 또는 OpenRouter를 통해 접근
최적화: 특정 작업에 맞는 추론 모드 선택
통합: Yuanbao와 같은 Tencent 제품과 연결
Hy3 Preview의 사용 사례
- 수학 문제 해결
- 코드 생성
- 다국어 번역
- AI 챗봇 개발
- 생산성 도구
