描述
Mistral Large 4，也称为「Le Chonk」，代表了 Mistral 迄今为止最先进和最强大的模型。它是一个拥有 1 万亿参数的原生多模态专家混合模型，每个令牌具有 490 亿个活跃参数（包括嵌入和输出层共 520 亿）。该模型在 Mistral 的欧洲数据中心从头开始在 3800 个 NVIDIA Grace Blackwell GPU 上进行训练，确保了强大的性能和可扩展性。
阅读更多
这个通用模型将指令跟随、推理、编码和代理工作流程统一为一组权重。尽管在许多领域都表现出色，Mistral Large 4 在网络安全、金融和法律等专业领域表现尤为突出。它在视觉基础能力方面超越了前沿的封闭模型，使其在涉及图像分析的任务中非常有效。
Mistral Large 4 的一个关键优势是其在 160 多种语言中的原生流利度，涵盖了所有欧盟官方语言。这种广泛的语言支持使其成为全球应用的强大工具。该模型具有 1M 的上下文长度，能够高效处理长上下文工作负载。其多模态输入能力允许其接受文本和图像输入，并生成文本输出。
在架构上，Mistral Large 4 采用了细粒度的专家混合设计，具有 128 个路由专家，每个令牌激活 4 个专家，以及 1 个共享专家。它还包括一个嵌入式 DSpark 投机解码草稿头，可以显著加快解码速度，而不改变目标模型的输出，在某些情况下提供高达 1.9 倍的吞吐量。还提供量化的 NVFP4 检查点，提供更小的内存占用、更快的推理和等效性能，特别针对 Blackwell GPU，并支持 vLLM 和 SGLang。
Mistral Large 4 根据 Mistral 生态系统开放权重许可证发布，这是一种修改过的 MIT 许可证，允许商业和非商业使用。然而，使用 Mistral Large 4 运营模型即服务业务需要从 Mistral 获得单独的商业许可证。该模型可通过 Mistral API 以 `mistral-large-4` 的形式获取，并可以使用 vLLM、SGLang、Transformers、llama.cpp、Axolotl、Unsloth 和 TRL 等各种库进行部署和微调。
- 类别AI 模型与大语言模型
- 定价模式开源
- 部署云端
- 平台网页版
Mistral Large 4亮点
1 万亿总参数
每个令牌 520 亿活跃参数
原生多模态输入（文本和图像）
100 万上下文长度
多语言支持（160 多种语言）
可配置推理模式（低、中、高）
用于图像分析的高级视觉能力
强大的系统提示遵循
原生函数调用和 JSON 输出
严格的 JSON 架构强制执行
最先进的网络安全性能
嵌入式 DSpark 投机解码草稿头
可用的量化 NVFP4 检查点
商业和非商业使用的开放权重许可证
Mistral Large 4入门
访问模型：在 Hugging Face 或通过 Mistral API 查找 Mistral Large 4。
使用 vLLM 部署：使用官方 vLLM Docker 镜像进行生产就绪的推理，配置参数如 `--tool-call-parser mistral` 和 `--reasoning-parser mistral`。
使用 SGLang 部署：利用官方 SGLang Docker 镜像，启用投机解码，使用 `--speculative-algorithm DSPARK`。
使用 Transformers 部署：从主库安装 Transformers，并使用提供的 Python 推理代码片段在多个 GPU 上进行部署。
微调模型：使用 Axolotl、Unsloth 或 TRL 等库对 Mistral Large 4 进行微调。
与 Mistral Vibe 集成：安装 Mistral Vibe，并配置通过 Mistral API 或本地 vLLM 服务器使用 Mistral Large 4。
配置推理努力：根据提示复杂性将 `reasoning_effort` 设置为 'low'、'medium' 或 'high'。
利用系统提示：定义清晰的环境和用例，使用系统提示有效利用工具。
Mistral Large 4的使用案例
- 复杂代理工作流程
- 网络安全分析
- 金融建模与分析
- 法律文档处理
- 多语言沟通
- 长上下文信息检索
- 图像和图表分析
- 代码生成与调试
- 指令跟随与自动化
- 聊天机器人与对话 AI
