Описание
LongCat-2.5 представляет собой значительный шаг вперед в многомодальном ИИ, основываясь на своем предшественнике, LongCat-2.0. Эта модель разработана для выполнения сложных многошаговых агентных задач, сочетая надежное визуальное понимание с продвинутым агентным кодированием. Она имеет огромные 1,6 триллиона параметров, из которых примерно 48 миллиардов активируются на токен, что делает ее мощным инструментом для требовательных приложений.
Читать далее
Основные возможности модели поддерживаются несколькими ключевыми инновациями. Нативное визуальное моделирование позволяет LongCat-2.5 преобразовывать визуальные характеристики нативного разрешения в дискретные токены, выравнивая их с текстом в общем семантическом пространстве. Это обеспечивает более глубокое и интегрированное понимание многомодальных входных данных. Для задач с длительным горизонтом модель использует агентное обучение с подкреплением (RL), обучаясь на реальных инженерных сценариях и воспроизводимых сбоях агентов. Эта методология обучения, в сочетании с эффективными стратегиями развертывания и защитами от манипуляций с вознаграждением, повышает ее надежность при выполнении задач от начала до конца.
Обучение с несколькими учителями — еще один важный аспект, где специализированные учителя по агентам, рассуждениям и взаимодействиям направляют модель через полное словарное KL-дистилляцию и Tree Attention. Этот процесс укрепляет ее способность выполнять многоходовые операции, сложные рассуждения и точное следование инструкциям, одновременно улучшая безопасность. Более того, LongCat-2.5 включает эффективное обучение с длинным контекстом, используя параллелизм с учетом суперузлов, эффективное шардирование и перекрытие коммуникации и вычислений. Эти оптимизации приводят к значительно более высокой пропускной способности на устройство по сравнению с традиционными базовыми линиями в задачах SFT с длинными последовательностями.
Развертывание LongCat-2.5 поддерживается на платформах NPU, с конкретными рекомендациями по развертыванию NPU через SGLang-FluentLLM. Модель также включает W4A4-квантование для экспертных весов и активаций, позволяя выполнять нативные вычисления INT4 на отечественных ИИ-ускорителях при сохранении точности. Это квантование, наряду с оптимизированными макетами весов и настроенными конвейерами предзаполнения/декодирования, приводит к значительным улучшениям в пропускной способности и снижению задержки. LongCat-2.5 предлагает как режим мышления, так и режим без мышления, позволяя пользователям сбалансировать производительность и эффективность токенов. Она выпущена под лицензией MIT, что делает ее доступной для широкого круга разработчиков и приложений.
- КатегорияИИ-модели и LLM
- Модель ценообразованияОткрытый код
- РазвёртываниеОблако
- ПлатформыВеб
Главное о LongCat-2.5
Нативная многомодальная модель MoE
1,6 триллиона общих параметров
48 миллиардов активированных параметров на токен
Интеграция визуального понимания
Возможности агентного кодирования
Обучение агентному RL с длительным горизонтом
Обучение с несколькими учителями для рассуждений и следования инструкциям
Эффективное обучение с длинным контекстом
Инфраструктура RL с оптимизацией KV-кэша
W4A4-квантование для экспертных весов и активаций
Поддержка развертывания на платформах NPU
Режим мышления для повышения производительности
Режим без мышления для эффективности токенов
Лицензия MIT для весов модели
Оценка по кодированию, общим агентам и визуальным задачам
Начало работы с LongCat-2.5
Доступ к модели: Перейдите на страницу LongCat-2.5 на Hugging Face.
Изучите файлы: Ознакомьтесь с файлами и документацией модели для получения технических деталей.
Развертывание на NPU: Обратитесь к SGLang-FluentLLM для инструкций по развертыванию на платформе NPU.
Настройка режима: Выберите между режимом мышления (enable_thinking=True) для производительности или режимом без мышления (enable_thinking=False) для эффективности токенов.
Отправка подсказок: Взаимодействуйте с моделью через официальный чат-сайт (longcat.ai) или через программный доступ.
Оценка производительности: Используйте настройки оценки, такие как температура и top_p, для конкретных задач.
Варианты использования LongCat-2.5
- Сложная разработка кодовой базы
- Полные сборки проектов
- Задачи креативного дизайна
- Выполнение 3D-задач
- Многомодальные агентные задачи
- Бенчмаркинг кодовых агентов
- Бенчмаркинг общих агентов
- Бенчмаркинг визуальных задач
