Описание
d3-turbo — это последняя итерация моделей Decision 3.0 от vLLM Semantic Router, разработанная для улучшения процессов принятия решений благодаря своим многомодальным возможностям с 27 миллиардами параметров. Эта модель может обрабатывать входные данные в виде текста, JSON, изображений и видео, позволяя пользователям задавать различные типы вопросов, такие как выбор, да/нет, оценка и вопросы, основанные на местоположении в изображениях или видео. Она обрабатывает каждый входной запрос один раз, предоставляя ответы с сопутствующими вероятностями, что делает её высокоэффективной для одновременной обработки нескольких вопросов.
Читать далее
Модель поддерживает длинный контекст до 131072 токенов на вопрос при настройке long_context=True, с умолчательным контекстом в 32768 токенов. Эта функция особенно полезна для сложных запросов, требующих обширных входных данных. d3-turbo оптимизирована для производительности, превосходя своего предшественника, d3-flash, в сценариях, связанных с несколькими вопросами о одном и том же входе, что делает её значительно быстрее и эффективнее.
d3-turbo доступна под лицензией Apache-2.0 и может быть использована через бесплатный API, который позволяет пользователям тестировать её возможности без каких-либо первоначальных затрат. API поддерживает до 64 вопросов на запрос, с ограничениями на входные данные в 131072 символа и 16 изображений или одно видео на запрос. Эта модель особенно полезна для отраслей, требующих точных возможностей принятия решений, таких как медиа-анализ, модерация контента и автоматизированная отчетность.
Производительность модели подтверждается её оценками в Индексе решений Jev, где она превосходит предыдущие модели как в текстовых, так и в визуальных задачах. Она достигает текстовой оценки 70.2 и визуальной оценки 72.9, что указывает на её надежные возможности в обработке разнообразных задач принятия решений. Благодаря своим продвинутым функциям и открытой доступности, d3-turbo позиционируется как мощный инструмент для разработчиков и организаций, стремящихся интегрировать сложные модели принятия решений в свои рабочие процессы.
- КатегорияИИ-модели и LLM
- Модель ценообразованияФримиум
- РазвёртываниеОблако
- ПлатформыВеб
Главное о d3-turbo
27B многомодальная модель принятия решений
Обрабатывает текст, JSON, изображения и видео
Отвечает с вероятностями
Поддержка длинного контекста до 131072 токенов
Лицензия Apache-2.0
Бесплатный доступ к API
Эффективная производительность для нескольких вопросов
Высокие оценки в Индексе решений Jev
Начало работы с d3-turbo
Доступ к модели: Посетите decision.vllm-sr.ai
Аутентификация: Получите бесплатный API-ключ
Настройка окружения: Настройте параметры API
Интеграция через API: Используйте API для отправки запросов
Оптимизация: Настройте параметры для повышения производительности
Варианты использования d3-turbo
- Медиа-анализ
- Модерация контента
- Автоматизированная отчетность
- Распознавание изображений
- Отслеживание видео
