描述
Kolibri 1 是由 Aleph Alpha 开发的最先进的多语言大型语言模型,旨在以精确和高效的方式处理复杂任务。它支持德语和英语,使其适用于广泛的应用。该模型基于专家混合架构,具有 780 亿个总参数和每个令牌 34.6 亿个活跃参数。这种架构使 Kolibri 1 在多步骤推理、检索增强生成和代理工具调用方面表现出色,适合编码和语言辅助任务。
阅读更多
Kolibri 1 针对最大 1,048,576 个令牌的上下文长度进行了优化,尽管建议的服务效率限制为 262,144 个令牌。该模型以 bfloat16 精度运行,最适合需要高推理能力的环境。它在 Apache 2.0 许可下发布,确保开发人员和研究人员的开放访问和灵活性。
该模型的训练涉及 20 万亿个令牌的综合数据集,重点关注英语和德语的网络数据、指令和推理任务以及代码。训练过程包括中期训练阶段和长上下文适应阶段,增强了模型处理扩展上下文窗口的能力。Kolibri 1 还结合了先进的安全功能,包括拒绝有害请求和保护个人身份信息的机制。
Kolibri 1 旨在用于法律、电子、硬件和航空等多个行业,提供强大的检索增强问答能力。该模型的架构支持高效的工具调用和终端交互,使其成为软件工程和终端环境中的宝贵资产。凭借其广泛的能力和开源可用性,Kolibri 1 是开发人员和研究人员利用先进 AI 处理复杂语言任务的强大工具。
- 类别AI 模型与大语言模型
- 定价模式开源
- 部署云端
- 平台网页版
Kolibri 1亮点
专家混合架构
780 亿个总参数
每个令牌 34.6 亿个活跃参数
支持德语和英语
上下文长度最大为 1,048,576 个令牌
bfloat16 精度
Apache 2.0 许可
优化用于多步骤推理
Kolibri 1入门
访问模型页面:访问 Hugging Face 网站
身份验证:登录到您的帐户
配置:设置模型参数
发送提示:输入您的查询
微调:调整模型以适应特定任务
Kolibri 1的使用案例
- 多语言辅助
- 复杂推理
- 检索增强生成
- 编码支持
- 工具调用









