Описание
Laguna S 2.1 — это сложная модель Mixture-of-Experts, разработанная для агентного кодирования и работы с длительным горизонтом. С общим количеством 118 миллиардов параметров и 8 миллиардами активированных параметров на токен, она является частью серии Laguna, расположенной между Laguna XS 2.1 и Laguna M.1. Модель использует маршрутизатор выбора токенов с мягким включением через 256 маршрутизируемых экспертов и одного общего эксперта, а также внимание с группированными запросами и чередующимся полным/скользящим окном внимания.
Читать далее
Выпущенная под лицензией OpenMDW-1.1, Laguna S 2.1 позволяет пользователям свободно использовать, модифицировать и создавать коммерческие продукты без необходимости получения разрешения. Она оптимизирована для задач программной инженерии, предлагая нативную поддержку рассуждений и спекулятивное декодирование через обученную модель DFlash. Модель поддерживает квантизированные варианты, такие как FP8, NVFP4, INT4 и GGUF, что снижает потребность в обширных аппаратных ресурсах.
Laguna S 2.1 имеет смешанную компоновку SWA и глобального внимания с 48 слоями в соотношении 1:3 между глобальным и SWA. Она предоставляет контекстное окно на 1,048,576 токенов, что позволяет управлять обширным контекстом. Словарь модели состоит из 100,352 токенов, используя токенизатор семейства Laguna для текстово-текстового режима.
Результаты бенчмарков демонстрируют конкурентоспособную производительность Laguna S 2.1 в различных оценках, включая Terminal-Bench 2.1 и SWE-bench Multilingual. Она бесшовно интегрируется с такими движками, как vLLM, SGLang, TRT-LLM и llama.cpp, предлагая гибкость в развертывании и использовании.
Разработанная для задач программной инженерии и агентного кодирования, Laguna S 2.1 подчиняется Политике приемлемого использования Poolside, обеспечивая ответственное применение. Пользователям рекомендуется поддерживать меры безопасности и сообщать о любых уязвимостях безопасности в Poolside.
- КатегорияИИ-модели и LLM
- Модель ценообразованияОткрытый код
- РазвёртываниеОблако
- ПлатформыВеб
Главное о Laguna S 2.1
118B общих параметров
8B активированных параметров на токен
Модель Mixture-of-Experts
Лицензия OpenMDW-1.1
Контекстное окно на 1,048,576 токенов
Спекулятивное декодирование с DFlash
Доступные квантизированные варианты
Нативная поддержка рассуждений
Начало работы с Laguna S 2.1
Доступ к странице модели: посетите сайт Hugging Face
Аутентификация: войдите в свою учетную запись
Настройка: установите параметры и опции модели
Отправка запросов: введите текст для обработки
Тонкая настройка: настройте модель для конкретных задач
Варианты использования Laguna S 2.1
- Агентное Кодирование
- Задачи с Длительным Горизонтом
- Программная Инженерия
- Разработка Коммерческих Продуктов
- Спекулятивное Декодирование
