描述
DeepSeek-V4-Pro-DSpark 是 DeepSeek-V4 系列的一部分,该系列包括高效的专家混合(MoE)语言模型。该模型旨在处理长达一百万个标记的广泛上下文长度,使其适用于复杂的语言任务。混合注意力架构结合了压缩稀疏注意力(CSA)和重压缩注意力(HCA),以提高长上下文的效率。此外,该模型还结合了多样约束超连接(mHC),以改善跨层信号传播的稳定性。
阅读更多
DeepSeek-V4-Pro-DSpark 模型在超过 32 万亿个多样且高质量的标记上进行了预训练,随后经过全面的后训练流程。该流程包括通过监督微调(SFT)和带指导策略优化(GRPO)的强化学习独立培养领域特定专家,最后通过在线蒸馏进行统一模型整合。
DeepSeek-V4-Pro-DSpark 在各种基准测试中表现出色,在编码和推理任务中取得了顶级性能。它在推理和代理任务上显著缩小了与领先的闭源模型之间的差距。该模型支持三种推理努力模式:非思考、高思考和最大思考,满足从常规任务到复杂问题解决的不同用例。
该模型可在 Hugging Face 和 ModelScope 等平台上下载,并根据 MIT 许可证进行授权。用户可以根据推理文件夹中提供的详细说明在本地运行该模型,其中包括模型权重转换和交互式聊天演示。
- 类别AI 模型与大语言模型
- 定价模式免费
- 部署云端, 自托管
- 平台网页版
DeepSeek-V4-Pro-DSpark亮点
混合注意力架构
多样约束超连接
Muon 优化器
百万标记上下文长度
专家混合模型
开源
三种推理努力模式
全面的后训练流程
DeepSeek-V4-Pro-DSpark入门
访问模型页面:访问 Hugging Face 模型页面
身份验证:登录您的 Hugging Face 账户
配置:设置模型及所需参数
发送提示:输入您的文本提示进行处理
微调:调整模型设置以适应特定任务
DeepSeek-V4-Pro-DSpark的使用案例
- 长上下文处理
- 复杂问题解决
- 常规任务
- 编码基准测试
- 推理任务








