Описание
d1-2B — это высокоэффективная модель принятия решений, разработанная LiquidAI и доступная на Hugging Face. Основанная на архитектуре LFM3-VL-2B, эта модель предназначена для обработки и принятия решений на основе мультимодальных входных данных, включая текст, изображения и видео. Ключевой характеристикой d1-2B является ее способность возвращать откалиброванные ответы за один проход вперед, что исключает необходимость в генерации токенов, что способствует ее скорости и эффективности.
Читать далее
Модель демонстрирует лучшие в своем классе результаты среди открытых моделей d1, лидируя в среднем по более чем ста эталонам принятия решений. Несмотря на то, что она меньше, чем d1-3B, она часто превосходит ее, демонстрируя свою оптимизированную конструкцию. Помимо традиционных задач классификации, d1-2B предлагает расширенные возможности, такие как извлечение конкретного текста, чисел и дат с их диапазонами, точная локализация объектов на изображениях и оценка количеств с заданными интервалами.
Производительность является значительным преимуществом, при этом d1-2B достигает времени принятия решений в 5,7 миллисекунд на NVIDIA H100 и 3,8 миллисекунд на AMD MI325X. Эта быстрая обработка сохраняется даже при множественных вопросах о едином состоянии в одном вызове. Семейство LFM3, в которое входит d1-2B, включает базовые, текстовые, визуальные, аудио, омни и модели принятия решений. В то время как d1-2B обрабатывает текст, изображения и видео, ее «сестра» d1-Omni-2B расширяет возможности, включая аудио.
С 1,92 миллиарда параметров и архитектурой LFM3, состоящей из 24 слоев (13 запирающих коротких сверток, 5 внимания с движущимся окном, 6 глобального внимания), d1-2B поддерживает длину контекста в 128K токенов и словарь из 128 000 токенов. Она принимает входные данные в виде состояния (текст или JSON), изображений или видео, а также любое количество названных вопросов, производя типизированные ответы с вероятностями без генерации токенов. Она поддерживает широкий спектр языков, включая английский, арабский, китайский, французский, немецкий, итальянский, японский, корейский, португальский, испанский, вьетнамский, тайский, индонезийский, хинди, русский и польский.
d1-2B универсальна и подходит для различных этапов обработки, требующих принятия решений, таких как маршрутизация и триаж, модерация контента, классификация намерений и тем, извлечение данных из документов, оценка и повторная сортировка, а также визуальная инспекция. Явно указано, что она не является моделью чата. Хотя она эффективна для вопросов, требующих знаний, надежность может снижаться после 64K токенов состояния. Оценки надежны для подсчетов и баллов, но менее надежны для свободных количеств. Модель работает в Transformers с собственным кодом, не требуя параметров выборки.
- КатегорияИИ-модели и LLM
- Модель ценообразованияОткрытый код
- РазвёртываниеОблако
- ПлатформыВеб
Главное о d1-2B
Мультимодальная модель принятия решений (текст, изображения, видео)
2 миллиарда параметров
Один проход вперед для откалиброванных ответов
Без генерации токенов
Лучшие в своем классе результаты по эталонам принятия решений
Извлечение текста, чисел и дат
Локализация объектов на изображениях
Оценка количеств с интервалами
Скорость принятия решений в миллисекундах (например, 3,8 мс на AMD MI325X)
Архитектура LFM3
Длина контекста 128K токенов
Словарь из 128 000 токенов
Многоязычная поддержка (более 15 языков)
Разработана для маршрутизации, триажа, модерации, извлечения
Работает в Transformers с пользовательским кодом модели
Начало работы с d1-2B
Доступ к странице модели: Перейдите на страницу модели LiquidAI/d1-2B на Hugging Face.
Изучите файлы: Ознакомьтесь с деталями модели, архитектурой и предоставленными спецификациями.
Настройка вывода: Используйте библиотеку Transformers для настройки модели для вывода.
Подготовьте входные данные: Предоставьте состояние (текст или JSON), изображения или видео, а также названные вопросы.
Выполните вызовы: Используйте `system_one` для одиночных запросов или `system_one_batch` для пакетных запросов.
Интерпретируйте вывод: Получите типизированные ответы с вероятностями, без сгенерированных токенов.
Варианты использования d1-2B
- Маршрутизация и триаж
- Модерация и контроль
- Классификация намерений
- Классификация тем
- Извлечение из документов
- Оценка и повторная сортировка
- Визуальная инспекция
- Мультимодальное принятие решений
