描述
MiniCPM-V-4.7-35B-A3B-DSpark 是一个复杂的 DSpark 草稿检查点模型，旨在与 MiniCPM-V-4.7-35B-A3B 及其分词器无缝集成。该模型专门设计用于处理不同领域的多种任务，包括视觉、文本、数学和代码。它使用视觉和文本提示的混合进行训练，确保应用的多样性。
阅读更多
该模型具有五个草稿层和 389,223,169 个草稿参数，每次前向传递的草稿令牌容量为 15。它在特定间隔处设计了目标隐藏状态层，增强了其处理能力。检查点精度设置为 BF16，优化了性能和效率。
训练过程涉及使用 MiniCPM-V-4.7-35B-A3B 生成响应，采用包括 200 万个训练序列的全面训练配方，历时六个周期。使用的优化器是 AdamW，目标集中在 CE、L1 和置信度损失上。
模型的评估在多个领域进行，例如 MathVista 和 OCRBench，接受长度范围从 3.501 到 7.387。这确保了模型在不同任务中的稳健性和适应性。
尽管具有先进的能力，该模型仍然存在局限性。它缺乏自主意图，其输出基于统计模式，这可能导致不准确或偏见。建议用户以道德方式使用该模型，并配置适当的安全措施。
- 类别AI 模型与大语言模型
- 定价模式开源
- 部署云端
- 平台网页版
MiniCPM-V-4.7-35B-A3B-DSpark亮点
DSpark 草稿检查点模型
与 MiniCPM-V-4.7-35B-A3B 集成
支持视觉和文本提示
五个草稿层
389,223,169 个草稿参数
BF16 检查点精度
200 万个训练序列
跨多个领域的评估
MiniCPM-V-4.7-35B-A3B-DSpark入门
访问模型页面：访问 Hugging Face 网站
身份验证：登录到您的 Hugging Face 账户
配置：根据需要设置模型参数
发送提示：输入视觉或文本提示
微调：调整模型设置以适应特定任务
MiniCPM-V-4.7-35B-A3B-DSpark的使用案例
- 视觉处理
- 文本分析
- 数学计算
- 代码生成
- 多模态集成
