Descrição
LongCat-2.5 representa um avanço significativo em IA multimodal, construindo sobre seu predecessor, LongCat-2.0. Este modelo é projetado para lidar com tarefas complexas e de múltiplas etapas, combinando uma robusta compreensão visual com codificação sofisticada. Ele possui um total massivo de 1,6 trilhões de parâmetros, com aproximadamente 48 bilhões ativados por token, tornando-se uma ferramenta poderosa para aplicações exigentes.
Ler mais
As capacidades centrais do modelo são sustentadas por várias inovações-chave. O Modelamento Visual Nativo permite que LongCat-2.5 converta características visuais de resolução nativa em tokens discretos, alinhando-os com texto em um espaço semântico compartilhado. Isso possibilita uma compreensão mais profunda e integrada de entradas multimodais. Para tarefas de longo prazo, o modelo emprega Aprendizado por Reforço Agente (RL), treinado em cenários de engenharia do mundo real e falhas de agentes reproduzíveis. Essa metodologia de treinamento, combinada com estratégias de rollout eficientes e salvaguardas contra manipulação de recompensas, aumenta sua confiabilidade na execução de tarefas de ponta a ponta.
O Aprendizado Multi-Professor é outro aspecto crucial, onde professores especializados em agentes, raciocínio e interação guiam o modelo através da destilação KL de vocabulário completo e Atenção em Árvore. Esse processo fortalece sua capacidade de realizar execuções de múltiplas etapas, raciocínio complexo e seguimento preciso de instruções, ao mesmo tempo em que melhora a segurança. Além disso, LongCat-2.5 incorpora Treinamento Eficiente de Longo Contexto, utilizando paralelismo consciente de supernós, fragmentação eficiente e sobreposição de comunicação e computação. Essas otimizações resultam em um rendimento por dispositivo significativamente maior em comparação com linhas de base tradicionais em tarefas de SFT de longa sequência.
A implantação do LongCat-2.5 é suportada em plataformas NPU, com orientações específicas disponíveis para implantação em NPU através do SGLang-FluentLLM. O modelo também apresenta quantização W4A4 para pesos e ativações de especialistas, permitindo computação nativa INT4 em aceleradores de IA domésticos, mantendo a precisão. Essa quantização, juntamente com layouts de peso otimizados e pipelines de pré-preenchimento/decodificação ajustados, leva a melhorias substanciais em rendimento e redução de latência. LongCat-2.5 oferece tanto modo de pensamento quanto modo não-pensante, permitindo que os usuários equilibrem desempenho com eficiência de tokens. Ele é lançado sob a Licença MIT, tornando-o acessível para uma ampla gama de desenvolvedores e aplicações.
- CategoriaModelos de IA e LLMs
- Modelo de preçosCódigo aberto
- ImplantaçãoNuvem
- PlataformasWeb
Destaques de LongCat-2.5
Modelo MoE Multimodal Nativo
1,6 Trilhões de Parâmetros Totais
48 Bilhões de Parâmetros Ativados por Token
Integração de Compreensão Visual
Capacidades de Codificação Agente
Treinamento de RL Agente de Longo Prazo
Aprendizado Multi-Professor para Raciocínio e Seguimento de Instruções
Treinamento Eficiente de Longo Contexto
Infraestrutura de RL com Otimização de Cache KV
Quantização W4A4 para Pesos e Ativações de Especialistas
Suporte à Implantação em Plataformas NPU
Modo de Pensamento para Desempenho Aprimorado
Modo Não-Pensante para Eficiência de Tokens
Licença MIT para Pesos do Modelo
Avaliação em Tarefas de Codificação, Agente Geral e Visuais
Primeiros passos com LongCat-2.5
Acessar o Modelo: Navegue até a página do LongCat-2.5 no Hugging Face.
Explorar Arquivos: Revise os arquivos e a documentação do modelo para detalhes técnicos.
Implantar em NPU: Consulte o SGLang-FluentLLM para instruções sobre implantação em plataformas NPU.
Configurar Modo: Escolha entre modo de pensamento (enable_thinking=True) para desempenho ou modo não-pensante (enable_thinking=False) para eficiência de tokens.
Enviar Prompts: Interaja com o modelo através do site oficial de chat (longcat.ai) ou por meio de acesso programático.
Avaliar Desempenho: Utilize configurações de avaliação como temperatura e top_p para tarefas específicas.
Casos de uso de LongCat-2.5
- Desenvolvimento Complexo de Código
- Construções de Projetos Completos
- Tarefas de Design Criativo
- Execução de Tarefas em 3D
- Tarefas Agentes Multimodais
- Benchmarking de Agentes de Código
- Benchmarking de Agentes Gerais
- Benchmarking de Tarefas Visuais
