Descripción
LongCat-2.5 representa un avance significativo en la IA multimodal, construyendo sobre su predecesor, LongCat-2.0. Este modelo está diseñado para manejar tareas complejas y de múltiples pasos combinando una robusta comprensión visual con una sofisticada codificación. Cuenta con un total masivo de 1.6 billones de parámetros, con aproximadamente 48 mil millones activados por token, lo que lo convierte en una herramienta poderosa para aplicaciones exigentes.
Leer más
Las capacidades centrales del modelo se sustentan en varias innovaciones clave. La Modelación Visual Nativa permite a LongCat-2.5 convertir características visuales de resolución nativa en tokens discretos, alineándolos con texto en un espacio semántico compartido. Esto permite una comprensión más profunda e integrada de las entradas multimodales. Para tareas de largo horizonte, el modelo emplea Aprendizaje por Refuerzo Agente (RL), entrenado en escenarios de ingeniería del mundo real y fallos de agentes reproducibles. Esta metodología de entrenamiento, combinada con estrategias de implementación eficientes y salvaguardias contra el hacking de recompensas, mejora su fiabilidad en la ejecución de tareas de extremo a extremo.
El Aprendizaje Multi-Docente es otro aspecto crucial, donde docentes especializados en agentes, razonamiento e interacción guían al modelo a través de la destilación KL de vocabulario completo y Atención en Árbol. Este proceso refuerza su capacidad para realizar ejecuciones de múltiples turnos, razonamiento complejo y seguimiento preciso de instrucciones, al tiempo que mejora la seguridad. Además, LongCat-2.5 incorpora Entrenamiento Eficiente de Largo Contexto, utilizando paralelismo consciente de supernodos, fragmentación eficiente y superposición de comunicación-cálculo. Estas optimizaciones resultan en un rendimiento significativamente mayor por dispositivo en comparación con las líneas base tradicionales en tareas de SFT de secuencias largas.
El despliegue de LongCat-2.5 es compatible con plataformas NPU, con orientación específica disponible para el despliegue en NPU a través de SGLang-FluentLLM. El modelo también presenta cuantización W4A4 para pesos y activaciones de expertos, permitiendo el cálculo nativo INT4 en aceleradores de IA domésticos mientras mantiene la precisión. Esta cuantización, junto con diseños de pesos optimizados y tuberías de prellenado/decodificación ajustadas, conduce a mejoras sustanciales en el rendimiento y reducción de latencia. LongCat-2.5 ofrece tanto modo de pensamiento como modo no pensante, permitiendo a los usuarios equilibrar el rendimiento con la eficiencia de tokens. Se lanza bajo la Licencia MIT, lo que lo hace accesible para una amplia gama de desarrolladores y aplicaciones.
- CategoríaModelos de IA y LLM
- Modelo de preciosCódigo abierto
- ImplementaciónNube
- PlataformasWeb
Aspectos destacados de LongCat-2.5
Modelo MoE Multimodal Nativo
1.6 Billones de Parámetros Totales
48 Mil Millones de Parámetros Activados Por Token
Integración de Comprensión Visual
Capacidades de Codificación Agente
Entrenamiento de RL Agente de Largo Horizonte
Aprendizaje Multi-Docente para Razonamiento y Seguimiento de Instrucciones
Entrenamiento Eficiente de Largo Contexto
Infraestructura de RL con Optimización de Caché KV
Cuantización W4A4 para Pesos y Activaciones de Expertos
Soporte para Despliegue en Plataformas NPU
Modo de Pensamiento para Rendimiento Mejorado
Modo No Pensante para Eficiencia de Tokens
Licencia MIT para Pesos del Modelo
Evaluación en Tareas de Codificación, Agente General y Visual
Primeros pasos con LongCat-2.5
Acceder al Modelo: Navega a la página de LongCat-2.5 en Hugging Face.
Explorar Archivos: Revisa los archivos y la documentación del modelo para detalles técnicos.
Desplegar en NPU: Consulta SGLang-FluentLLM para instrucciones sobre el despliegue en plataformas NPU.
Configurar Modo: Elige entre modo de pensamiento (enable_thinking=True) para rendimiento o modo no pensante (enable_thinking=False) para eficiencia de tokens.
Enviar Prompts: Interactúa con el modelo a través del sitio web oficial de chat (longcat.ai) o mediante acceso programático.
Evaluar Rendimiento: Utiliza configuraciones de evaluación como temperatura y top_p para tareas específicas.
Casos de uso de LongCat-2.5
- Desarrollo Complejo de Bases de Código
- Construcciones de Proyectos Completos
- Tareas de Diseño Creativo
- Ejecución de Tareas en 3D
- Tareas Agente Multimodal
- Evaluación de Agentes de Código
- Evaluación de Agentes Generales
- Evaluación de Tareas Visuales
