描述
Ling 是一系列由 inclusionAI 开发并开源的专家混合（MoE）大型语言模型，这是蚂蚁集团的一系列开源 AI 项目。GitHub 仓库托管代码、文档和模型权重链接，并积极维护，最近的提交日期为本月，获得了 267 个星标。
阅读更多
该项目提供两种主要尺寸的模型：Ling-lite，具有 168 亿个总参数和每次前向传递 27.5 亿个激活参数，以及 Ling-plus，具有 2900 亿个总参数和 288 亿个激活参数。由于 Ling 使用专家混合架构，因此对于任何给定输入，仅激活一部分参数，这使得推理成本接近一个更小的稠密模型，同时保持更大的整体参数数量。Ling-lite 支持 128K 令牌的上下文窗口；Ling-plus 支持 64K。还有一个专注于编码的变体 Ling-Coder-lite，具有 16K 的上下文窗口。
模型权重通过 Hugging Face 和 ModelScope 分发（后者针对中国大陆用户以便于更快下载），大多数变体提供基础和指令调优的检查点。该仓库记录了与可比的开放模型（如 Qwen3 和 LLaMA 3.1）在 MMLU、HumanEval、LiveCodeBench 和数学推理基准等任务上的基准结果，其中 Ling-lite-1.5 在多个编码和数学基准中显示出与同类模型的竞争或领先分数。
在部署方面，Ling 包含通过 Hugging Face Transformers 库、vLLM 和华为的 MindIE 进行推理的文档化路径，以及离线批量推理和在线服务的示例代码，包括针对更大的 Ling-plus 模型的多机器设置。该仓库还包括希望将模型适应于自己数据的团队的微调说明。
Ling 在 MIT 许可证下发布，代码可自由使用、修改和再分发。它面向希望自托管或自定义开放 LLM 的研究人员、机器学习工程师和开发者，特别是那些对专家混合架构或特定于编码的模型变体感兴趣的人。
- 类别AI 模型与大语言模型
- 定价模式开源
- 部署自托管
- 平台网页版
Ling的核心功能
专家混合架构以实现高效推理
多种模型尺寸：Ling-lite（168亿）和 Ling-plus（2900亿）总参数
针对编码任务调优的 Ling-Coder-lite 变体
上下文窗口最大支持 128K 令牌（Ling-lite）或 64K（Ling-plus）
大多数变体的基础和指令调优检查点
通过 Hugging Face 和 ModelScope 分发权重
支持 Transformers、vLLM 和 MindIE 的部署
文档化的微调工作流程以进行自定义训练
MIT 许可证下的开源代码
Ling入门
克隆仓库：从 github.com/inclusionAI/Ling 获取代码
下载权重：从 Hugging Face 或 ModelScope 拉取所需的模型检查点
安装依赖：根据仓库的部署指南设置 Transformers、vLLM 或 MindIE
运行推理：使用提供的快速入门代码进行离线或在线推理
微调（可选）：按照微调指南将模型适应于自己的数据
评估：将输出与文档化的基准结果进行比较，以适应您的用例
Ling的使用案例
- 自托管 LLM 推理
- 编码辅助研究
- 自定义微调
- 长上下文任务
