説明
Hy3は、Tencent Hyチームによって開発された高度なMixture-of-Experts(MoE)モデルで、2950億の総パラメータを持ち、210億のアクティブパラメータと38億のMTPレイヤーパラメータを特徴としています。Hy3プレビューの後に発表され、50以上の製品からのフィードバックをもとにモデルが洗練され、高品質なデータでのトレーニング後に強化されました。Hy3は、同等のサイズのモデルを上回り、2〜5倍のパラメータを持つフラッグシップオープンソースモデルと競争しています。
続きを読む
このモデルは、コーディング、オフィス業務、財務モデリング、フロントエンドデザイン、ゲーム開発など、さまざまな生産性タスクにおいて顕著なユーティリティ向上を示しています。これらの分野で信頼性の高いパフォーマンスを求める人々にとって、コスト効果の高い選択肢です。Hy3のアーキテクチャには、MTPを除く80層、1つのMTPレイヤー、64のアテンションヘッド、隠れ層のサイズ4096が含まれ、256Kのコンテキスト長と120,832の語彙サイズをサポートしています。
Hy3のパフォーマンスは公開ベンチマークでは完全には把握できないため、270人の専門家による盲目的な評価が行われ、4点中2.67を獲得し、GLM-5.1を上回りました。このモデルは、フロントエンド開発、データ&ストレージ、CI/CDタスクにおいて優れています。安定性、知識保持、マルチターン意図追跡の改善が行われ、幻覚率と常識的エラーが大幅に減少しました。
Hy3はオープンソースであり、モデルの重みはHugging Face、ModelScope、GitCode、CNBなどのプラットフォームで入手可能です。vLLMまたはSGLangを使用してデプロイをサポートし、包括的なモデルファインチューニングパイプラインを提供します。このモデルはApache License 2.0の下でリリースされています。
- カテゴリーAIモデルとLLM
- 料金モデルオープンソース
- デプロイクラウド
- プラットフォームWeb
Hy3のハイライト
295Bの総パラメータ
Mixture-of-Expertsアーキテクチャ
21Bのアクティブパラメータ
3.8BのMTPレイヤーパラメータ
MTPを除く80層
64のアテンションヘッド
256Kのコンテキスト長
120,832の語彙サイズ
オープンソース
ファインチューニングサポート
Hy3をはじめる
モデルページにアクセス: Hugging FaceのHy3ページを訪問
認証: Hugging Faceアカウントにログイン
設定: モデルのパラメータと設定を行う
プロンプトを送信: 入力を使用してモデルと対話
ファインチューニング: 特定のタスクに合わせてモデルを調整
Hy3の使用例
- コーディング支援
- オフィス自動化
- 財務モデリング
- フロントエンドデザイン
- ゲーム開発











