Описание
LiquidAI LFM3-1.7B — это сложная текстовая модель, разработанная для локальных агентов и специализированных приложений. Она построена на три-гибридной архитектуре, которая включает 24 слоя с комбинацией управляемых коротких сверток, внимания с движущимся окном и глобального внимания. Эта модель была дообучена для агентских систем, таких как Hermes Agent, Pi и OpenClaw, предлагая контекстное окно на 256K токенов.
Читать далее
Модель разработана для эффективной работы на устройствах на краю сети, используя 4-битную точность, чтобы поместиться в примерно 1 ГБ памяти, что делает её совместимой с большинством телефонов и ноутбуков. Она поддерживает широкий спектр языков, включая английский, арабский, китайский, французский, немецкий и другие, что позволяет использовать её в различных языковых контекстах.
LFM3-1.7B особенно подходит для задач, требующих структурированных выходных данных и тонкой настройки в конкретных областях. Она может быть адаптирована к различным областям, форматам и инструментам с помощью быстрой тонкой настройки на одном GPU. Модель поддерживает несколько фреймворков вывода и аппаратных конфигураций, включая BF16, FP8, NVFP4, GGUF, MLX и ONNX, обеспечивая гибкость в развертывании.
Несмотря на свои возможности, LFM3-1.7B не рекомендуется для агентского кодирования или сложного многошагового рассуждения из-за своего относительно небольшого размера. Тем не менее, она превосходно справляется с задачами агентских приложений, которые ранее требовали более крупных моделей. Эффективность модели подтверждается различными бенчмарками, демонстрируя её эффективность в агентских приложениях, использовании инструментов и следовании инструкциям.
Для тех, кто заинтересован в настройке модели, LFM3-1.7B предлагает поддержку тонкой настройки через методы, такие как контролируемая тонкая настройка (SFT), смешанное обучение с подкреплением и многодоменная дистилляция на политике (MOPD). Эти методы обучения улучшают возможности модели в задачах общения, рассуждения и использования инструментов.
- КатегорияИИ-модели и LLM
- Модель ценообразованияОткрытый код
- РазвёртываниеОблако, На своём сервере
- ПлатформыВеб
Главное о LiquidAI LFM3-1.7B
Три-гибридная архитектура
Контекстное окно на 256K токенов
4-битная точность для устройств на краю сети
Поддержка нескольких языков
Дообучена для агентских систем
Тонкая настройка в конкретных областях
Несколько фреймворков вывода
Эффективна на телефонах и ноутбуках
Начало работы с LiquidAI LFM3-1.7B
Доступ к странице модели: посетите страницу LiquidAI LFM3-1.7B на Hugging Face.
Аутентификация: войдите в свою учетную запись Hugging Face.
Настройка: выберите подходящий фреймворк вывода и аппаратное обеспечение.
Отправка запросов: используйте модель для задач генерации текста.
Тонкая настройка: адаптируйте модель для конкретных областей или приложений.
Варианты использования LiquidAI LFM3-1.7B
- Локальные агенты
- Специализированные приложения
- Вызов инструментов
- Многоязычные задачи
- Тонкая настройка
