描述
North Mini Code 是由 Cohere 和 Cohere Labs 开发的复杂模型,优化用于代码生成、自主软件工程和终端任务。它具有 300 亿参数模型和 30 亿活跃参数,使其在复杂编码任务中具有高效性。该模型支持 256K 的上下文长度和 64K 的最大输出长度,为广泛的编码项目提供了充足的容量。
阅读更多
该模型架构基于仅解码器的 Transformer,采用稀疏的专家混合设计。它结合了高效的注意力机制,将滑动窗口注意力与 RoPE 和无位置嵌入的全局注意力交错使用。这一设计辅以一个具有 128 个专家的前馈块,每个令牌激活 8 个专家,确保精确和有效的处理。
North Mini Code 经过两阶段级联监督微调后,使用可验证奖励的强化学习进行后训练,专注于自主编码。这种训练方法增强了其处理复杂编码任务和工具使用能力的能力。该模型是开源的,遵循 Apache 2.0 许可证,并可通过 Hugging Face 平台使用。
用户可以在 OpenCode 和托管的 Hugging Face Space 中尝试 North Mini Code,允许在下载模型权重之前进行动手体验。该模型的性能已通过多种方法进行基准测试,包括 SWE-Bench 和 Terminal-Bench,展示了其在自主编码任务中的熟练程度。
North Mini Code 非常适合寻求强大代码生成和软件工程任务模型的开发人员和工程师。其工具使用能力通过 Transformers 中的聊天模板得到支持,能够无缝集成到现有工作流程中。
- 类别AI 编程助手
- 定价模式开源
- 部署云端
- 平台网页版
North Mini Code亮点
30B-A3B 参数模型
优化用于代码生成
支持自主软件工程
稀疏专家混合架构
高效的注意力实现
256K 上下文长度
64K 最大输出长度
遵循 Apache 2.0 开源
North Mini Code入门
访问模型页面:访问 Hugging Face
身份验证:登录到您的账户
配置:设置采样参数
发送提示:使用 transformers 管道
微调:应用监督微调
North Mini Code的使用案例
- 代码生成
- 软件工程
- 终端任务
- 工具集成
- 基准测试







