Descrição
Ling é uma família de grandes modelos de linguagem de mistura de especialistas (MoE) desenvolvidos e disponibilizados como código aberto pelo inclusionAI, uma série de projetos de IA de código aberto do Ant Group. O repositório do GitHub hospeda o código, a documentação e links para os pesos do modelo, e é mantido ativamente, com commits tão recentes quanto este mês e 267 estrelas.
Ler mais
O projeto oferece modelos em dois tamanhos principais: Ling-lite, com 16,8 bilhões de parâmetros totais e 2,75 bilhões de parâmetros ativados por passagem, e Ling-plus, com 290 bilhões de parâmetros totais e 28,8 bilhões ativados. Como Ling utiliza uma arquitetura de mistura de especialistas, apenas um subconjunto de parâmetros é ativado para qualquer entrada dada, o que mantém o custo de inferência mais próximo de um modelo denso muito menor, enquanto retém uma contagem total de parâmetros maior. Ling-lite suporta uma janela de contexto de 128K tokens; Ling-plus suporta 64K. Uma variante focada em codificação, Ling-Coder-lite, também está disponível com uma janela de contexto de 16K.
Os pesos do modelo são distribuídos através do Hugging Face e ModelScope (este último voltado para usuários na China continental para downloads mais rápidos), com pontos de verificação base e ajustados por instrução para a maioria das variantes. O repositório documenta resultados de benchmark em comparação com modelos abertos comparáveis, como Qwen3 e LLaMA 3.1, em tarefas incluindo MMLU, HumanEval, LiveCodeBench e benchmarks de raciocínio matemático, onde Ling-lite-1.5 apresenta pontuações competitivas ou líderes em vários benchmarks de codificação e matemática entre modelos de tamanhos semelhantes.
Para implantação, Ling inclui caminhos documentados para executar inferência através da biblioteca Hugging Face Transformers, vLLM e MindIE da Huawei, além de código de exemplo para inferência em lote offline e serviço online, incluindo configurações de múltiplas máquinas para o modelo maior Ling-plus. O repositório também inclui instruções de ajuste fino para equipes que desejam adaptar os modelos aos seus próprios dados.
Ling é lançado sob a licença MIT, e o código é gratuito para usar, modificar e redistribuir. É voltado para pesquisadores, engenheiros de ML e desenvolvedores que desejam auto-hospedar ou personalizar um LLM aberto em vez de chamar uma API hospedada, particularmente aqueles interessados em arquiteturas de mistura de especialistas ou variantes de modelos específicas para codificação.
- CategoriaModelos de IA e LLMs
- Modelo de preçosCódigo aberto
- ImplantaçãoAuto-hospedado
- PlataformasWeb
Recursos principais de Ling
Arquitetura de mistura de especialistas para inferência eficiente em escala
Vários tamanhos de modelo: Ling-lite (16,8B) e Ling-plus (290B) parâmetros totais
Variante Ling-Coder-lite ajustada para tarefas de codificação
Janelas de contexto de até 128K tokens (Ling-lite) ou 64K (Ling-plus)
Pontos de verificação base e ajustados por instrução para a maioria das variantes
Pesos distribuídos via Hugging Face e ModelScope
Suporte à implantação para Transformers, vLLM e MindIE
Fluxo de trabalho de ajuste fino documentado para treinamento personalizado
Código de código aberto sob licença MIT
Primeiros passos com Ling
Clone o repositório: obtenha o código em github.com/inclusionAI/Ling
Baixe os pesos: baixe o ponto de verificação do modelo que você precisa do Hugging Face ou ModelScope
Instale as dependências: configure Transformers, vLLM ou MindIE conforme os guias de implantação do repositório
Execute a inferência: use o código de início rápido fornecido para inferência offline ou online
Ajuste fino (opcional): siga o guia de ajuste fino para adaptar o modelo aos seus próprios dados
Avalie: compare as saídas com os resultados de benchmark documentados para seu caso de uso
Casos de uso de Ling
- Inferência LLM auto-hospedada
- Pesquisa de assistência em codificação
- Ajuste fino personalizado
- Tarefas de longo contexto
