描述
MiniCPM5-2B 是 MiniCPM5 系列中的第二款模型，继 MiniCPM5-1B 之后推出。它是一款密集型 2B Transformer 模型，专为设备端、本地部署和资源受限的场景而设计。该模型扩展了相同的训练配方，并在 2B 类开源模型中实现了最先进的 (SOTA) 性能。它在与更大 4B 类模型的竞争中依然保持竞争力，尤其在编码、数学、长上下文理解、工具使用和代理任务等领域表现突出。
阅读更多
该模型使用来自 UltraData 系列的高质量数据集进行训练，包括用于网页预训练的 UltraX、用于编码能力的 UltraData-Code、用于代理训练的 UltraData-SFT-Agent-2609 和用于强化学习的 UltraData-RL-2609。这些数据集为模型的综合能力做出了贡献，使其适用于各种应用，如本地助手、编码代理和推理场景。
MiniCPM5-2B 采用标准的 LlamaForCausalLM 架构，具有 2,516,756,480 个参数、42 层和 131,072 的上下文长度。它旨在提供原生的长上下文支持，同时保持小的部署占用空间。模型的训练涉及 UltraData 分层数据管理的全栈实践，涵盖基础训练、中期训练和后期训练阶段。
在后期训练中，模型经历了监督微调 (SFT)、强化学习 (RL) 和在线策略蒸馏 (OPD)，以进一步增强其能力。RL + OPD 显著提高了模型的推理和通用能力，将 16 个专业模型的专业知识合并为一个发布模型。
MiniCPM5-2B 提供多种适合不同部署场景的格式，包括 BF16、GGUF 和 MLX。它支持多种后端，如 Transformers、vLLM、SGLang 和 llama.cpp，允许在不同平台和设备上灵活部署。该模型在 Apache-2.0 许可证下发布，确保开放访问和协作。
- 类别AI 模型与大语言模型
MiniCPM5-2B亮点
密集型 2B Transformer 模型
设备端部署
资源受限场景
最先进的性能
高质量训练数据集
标准 LlamaForCausalLM 架构
原生长上下文支持
UltraData 分层数据管理
MiniCPM5-2B入门
访问模型页面：访问 Hugging Face 模型页面
身份验证：登录您的 Hugging Face 账户
配置：设置模型参数和环境
发送提示：将模型用于您的特定任务
微调：调整模型以适应专业应用
MiniCPM5-2B的使用案例
- 本地助手
- 编码代理
- 工具使用工作流程
- 推理场景
- 代理任务
