説明
DeepSeek-V4-Pro-DSparkは、非常に効率的なMixture-of-Experts(MoE)言語モデルを含むDeepSeek-V4シリーズの一部です。このモデルは、最大1百万トークンの広範なコンテキスト長を処理するように設計されており、複雑な言語タスクに適しています。ハイブリッドアテンションアーキテクチャは、圧縮スパースアテンション(CSA)と重圧縮アテンション(HCA)を組み合わせて、長コンテキストの効率を向上させます。さらに、このモデルは、層間の信号伝播の安定性を向上させるために、多様体制約ハイパーコネクション(mHC)を組み込んでいます。
続きを読む
DeepSeek-V4-Pro-DSparkモデルは、320兆以上の多様で高品質なトークンで事前トレーニングされ、その後包括的なポストトレーニングパイプラインを経ます。このパイプラインには、監視付きファインチューニング(SFT)とガイドポリシー最適化(GRPO)によるドメイン特化型エキスパートの独立した育成が含まれ、その後、オンポリシー蒸留を介して統一モデルの統合が行われます。
DeepSeek-V4-Pro-DSparkは、さまざまなベンチマークで優れた性能を発揮し、コーディングや推論タスクでトップクラスのパフォーマンスを達成しています。推論およびエージェントタスクにおいて、先行するクローズドソースモデルとのギャップを大幅に縮めています。このモデルは、日常的なタスクから複雑な問題解決まで、さまざまなユースケースに対応するために、非思考、思考高、思考最大の3つの推論努力モードをサポートしています。
このモデルは、Hugging FaceやModelScopeなどのプラットフォームでダウンロード可能で、MITライセンスの下でライセンスされています。ユーザーは、モデルウェイトの変換やインタラクティブチャットデモを含む推論フォルダに提供された詳細な指示に従って、ローカルでモデルを実行できます。
- カテゴリーAIモデルとLLM
- 料金モデル無料
- デプロイクラウド, セルフホスト
- プラットフォームWeb
DeepSeek-V4-Pro-DSparkのハイライト
ハイブリッドアテンションアーキテクチャ
多様体制約ハイパーコネクション
ミューオンオプティマイザー
百万トークンのコンテキスト長
Mixture-of-Expertsモデル
オープンソース
3つの推論努力モード
包括的なポストトレーニングパイプライン
DeepSeek-V4-Pro-DSparkをはじめる
モデルページにアクセス: Hugging Faceのモデルページを訪問
認証: Hugging Faceアカウントにログイン
設定: 希望するパラメータでモデルを設定
プロンプトを送信: 処理するためのテキストプロンプトを入力
ファインチューニング: 特定のタスクに合わせてモデル設定を調整
DeepSeek-V4-Pro-DSparkの使用例
- 長コンテキスト処理
- 複雑な問題解決
- 日常的なタスク
- コーディングベンチマーク
- 推論タスク








