Mistral Small 4 — AI模型

描述

Mistral Small 4代表了AI技术的重大进步，将Mistral的旗舰模型的优势结合在一起——Magistral用于推理，Pixtral用于多模态任务，Devstral用于编码——形成一个强大的模型。这种集成使用户能够利用单一模型处理多种任务，而无需在不同的专业模型之间切换。使用Mistral Small 4，用户可以享受快速的指令能力、强大的推理能力和多模态支持，所有功能都可以根据特定需求进行配置。

Mistral Small 4的架构旨在提高效率和灵活性。它采用128个专家的专家混合（MoE）系统，每个token激活4个专家，允许高效的扩展和专业化。该模型总共有1190亿个参数，每个token有60亿个活跃参数，并支持256k的上下文窗口，能够进行长篇交互和详细的文档分析。用户可以动态调整推理努力，在日常任务中快速响应与在复杂问题中进行深入分析之间切换。

Mistral Small 4是完全开源的，并在Apache 2.0许可证下发布，强调对可访问和可定制AI解决方案的承诺。它针对NVIDIA硬件进行了优化，确保高吞吐量和低延迟。该模型可在NVIDIA加速计算平台上免费原型，并可以根据特定企业需求进行定制。

Mistral Small 4面向开发者、企业和研究人员，适合编码自动化、文档理解和复杂推理任务。其混合能力使其成为从聊天助手到高级分析等广泛应用的宝贵工具。通过简化AI集成并赋予用户一个可适应的单一工具，Mistral Small 4将开源AI的优势带入现实应用场景。

Mistral Small 4亮点

• 推理、编码和多模态的统一能力

• 专家混合（MoE）架构

• 1190亿总参数

• 256k上下文窗口

• 可配置的推理努力

• 在Apache 2.0许可证下开源

• 针对NVIDIA硬件进行了优化

• 支持文本和图像输入

Mistral Small 4入门

1. 1

   访问模型：访问Mistral AI网站。

2. 2

   身份验证：设置您的帐户以获取API访问权限。

3. 3

   设置环境：准备您的开发环境及所需依赖项。

4. 4

   通过API集成：使用提供的API文档将Mistral Small 4集成到您的应用程序中。

5. 5

   优化：调整推理努力和其他参数以适应您的特定用例。

Mistral Small 4的使用案例

• 编码自动化
• 文档理解
• 一般聊天助手
• 研究与分析
• 多模态分析

Mistral Small 4的常见问题

• 什么是Mistral Small 4？

  Mistral Small 4是一个将推理、编码和多模态能力结合到一个平台中的AI模型。

• Mistral Small 4如何提高效率？

  它提供可配置的推理努力和专家混合架构以优化性能。

• Mistral Small 4是开源的吗？

  是的，它在Apache 2.0许可证下发布。

• Mistral Small 4的主要用例是什么？

  它适用于编码自动化、文档理解和复杂推理任务。

• 推荐用于Mistral Small 4的硬件是什么？

  建议至少使用4个NVIDIA HGX H100或同等硬件以获得最佳性能。

• Mistral Small 4可以处理多模态输入吗？

  是的，它支持文本和图像输入。

• 我如何微调Mistral Small 4？

  可以使用其开源架构对特定任务进行微调。

• 我在哪里可以访问Mistral Small 4？

  它可在Mistral API和AI Studio以及Hugging Face上获得。