説明
Mistral Large 4、別名「Le Chonk」は、Mistralの最も進んだ能力を持つモデルを表しています。これは、1兆のパラメータを持つネイティブマルチモーダルMixture-of-Expertsモデルで、トークンごとに490億のアクティブパラメータ（埋め込み層と出力層を含めると520億）を特徴としています。このモデルは、Mistralのヨーロッパのデータセンター内で3,800のNVIDIA Grace Blackwell GPUを使用してゼロからトレーニングされ、堅牢なパフォーマンスとスケーラビリティを確保しています。
続きを読む
この一般的なモデルは、指示のフォロー、推論、コーディング、エージェンティックワークフローを単一の重みセットに統合しています。多くのドメインにおいて多用途ですが、Mistral Large 4はサイバーセキュリティ、金融、法律などの専門分野で卓越したパフォーマンスを示します。また、視覚的基盤能力においてフロンティアのクローズドモデルを上回り、画像分析を含むタスクに非常に効果的です。
Mistral Large 4の重要な強みは、EUのすべての公式言語を含む160以上の言語におけるネイティブな流暢さです。この広範な言語サポートにより、グローバルなアプリケーションにとって強力なツールとなります。このモデルは、長いコンテキストワークロードを効率的に処理できる1Mのコンテキスト長を特徴としています。マルチモーダル入力機能により、テキストと画像の両方の入力を受け入れ、テキスト出力を生成します。
アーキテクチャ的に、Mistral Large 4は128のルーティングされたエキスパートを持つ粒状のMixture-of-Experts設計を利用しており、トークンごとに4つのエキスパートがアクティブで、1つの共有エキスパートがあります。また、埋め込まれたDSpark推測デコーディングドラフトヘッドが含まれており、ターゲットモデルの出力を変更することなくデコーディングを大幅に高速化でき、特定のシナリオでは最大1.9倍のスループットを提供します。量子化されたNVFP4チェックポイントも利用可能で、メモリフットプリントが小さく、推論が高速で、同等のパフォーマンスを提供し、特にBlackwell GPUをターゲットにし、vLLMおよびSGLangをサポートします。
Mistral Large 4は、商業利用と非商業利用を許可する修正MITライセンスであるMistral Ecosystem Open-Weight Licenseの下でリリースされています。ただし、Mistral Large 4を使用したModel-as-a-Serviceビジネスを運営するには、Mistralから別途商業ライセンスを取得する必要があります。このモデルは、Mistral APIで「mistral-large-4」として利用可能で、vLLM、SGLang、Transformers、llama.cpp、Axolotl、Unsloth、TRLなどのさまざまなライブラリを使用してデプロイおよびファインチューニングできます。
- カテゴリーAIモデルとLLM
- 料金モデルオープンソース
- デプロイクラウド
- プラットフォームWeb
Mistral Large 4のハイライト
1兆の総パラメータ
トークンごとに520億のアクティブパラメータ
ネイティブマルチモーダル入力（テキストと画像）
100万のコンテキスト長
多言語サポート（160以上の言語）
構成可能な推論モード（低、中、高）
画像分析のための高度な視覚能力
強力なシステムプロンプトの遵守
ネイティブ関数呼び出しとJSON出力
厳格なJSONスキーマの強制
最先端のサイバーセキュリティパフォーマンス
埋め込まれたDSpark推測デコーディングドラフトヘッド
量子化されたNVFP4チェックポイントが利用可能
商業利用と非商業利用のためのオープンウェイトライセンス
Mistral Large 4をはじめる
モデルにアクセス: Hugging FaceまたはMistral APIでMistral Large 4を見つけます。
vLLMでデプロイ: 公式のvLLM Dockerイメージを使用して、`--tool-call-parser mistral`および`--reasoning-parser mistral`のようなパラメータを設定し、製品準備が整った推論を行います。
SGLangでデプロイ: 公式のSGLang Dockerイメージを利用し、`--speculative-algorithm DSPARK`で推測デコーディングを有効にします。
Transformersでデプロイ: メインからTransformersをインストールし、提供されたPython推論スニペットを使用して複数のGPUでデプロイします。
モデルをファインチューニング: Axolotl、Unsloth、またはTRLなどのライブラリを使用してMistral Large 4をファインチューニングします。
Mistral Vibeと統合: Mistral Vibeをインストールし、Mistral APIまたはローカルvLLMサーバーを介してMistral Large 4を使用するように設定します。
推論の努力を構成: プロンプトの複雑さに応じて、`reasoning_effort`を「低」、「中」、「高」に設定します。
システムプロンプトを活用: 効果的なツール活用のために、明確な環境とユースケースを定義し、システムプロンプトを使用します。
Mistral Large 4の使用例
- 複雑なエージェンティックワークフロー
- サイバーセキュリティ分析
- 金融モデリングと分析
- 法的文書処理
- 多言語コミュニケーション
- 長いコンテキスト情報の取得
- 画像とチャートの分析
- コード生成とデバッグ
- 指示のフォローと自動化
- チャットボットと会話AI
