Description
d3-turbo est la dernière itération des modèles Decision 3.0 de vLLM Semantic Router, conçu pour améliorer les processus de prise de décision grâce à ses capacités multimodales de 27 milliards de paramètres. Ce modèle peut traiter des entrées sous forme de texte, JSON, images et vidéos, permettant aux utilisateurs de poser divers types de questions telles que des choix, oui/non, scores et des requêtes basées sur la localisation dans des images ou des vidéos. Il traite chaque entrée une fois par demande, fournissant des réponses avec des probabilités associées, ce qui le rend très efficace pour gérer plusieurs questions simultanément.
Lire la suite
Le modèle prend en charge un long contexte allant jusqu'à 131 072 tokens par question lorsqu'il est configuré avec long_context=True, avec un contexte par défaut de 32 768 tokens. Cette fonctionnalité est particulièrement utile pour des requêtes complexes nécessitant des données d'entrée étendues. d3-turbo est optimisé pour la performance, surpassant son prédécesseur, d3-flash, dans des scénarios impliquant plusieurs questions sur la même entrée, le rendant significativement plus rapide et plus efficace.
d3-turbo est disponible sous la licence Apache-2.0 et peut être accessible via une API gratuite, permettant aux utilisateurs de tester ses capacités sans coût initial. L'API prend en charge jusqu'à 64 questions par demande, avec des limites d'entrée de 131 072 caractères et 16 images ou une vidéo par demande. Ce modèle est particulièrement bénéfique pour les industries nécessitant des capacités de prise de décision précises, telles que l'analyse des médias, la modération de contenu et la génération de rapports automatisés.
La performance du modèle est attestée par ses scores sur l'Indice de Décision Jev, où il dépasse les modèles précédents tant dans les tâches de texte que de vision. Il obtient un score de 70,2 pour le texte et un score de 72,9 pour la vision, indiquant sa capacité robuste à gérer diverses tâches de prise de décision. Avec ses fonctionnalités avancées et sa disponibilité en open source, d3-turbo est positionné comme un outil puissant pour les développeurs et les organisations cherchant à intégrer des modèles de prise de décision sophistiqués dans leurs flux de travail.
- CatégorieModèles d'IA et LLM
- Modèle tarifaireFreemium
- DéploiementCloud
- PlateformesWeb
Points forts de d3-turbo
Modèle de décision multimodal de 27B
Traite du texte, JSON, images et vidéos
Répond avec des probabilités
Support de long contexte jusqu'à 131 072 tokens
Licence Apache-2.0
Accès API gratuit
Performance efficace pour plusieurs questions
Scores élevés sur l'Indice de Décision Jev
Premiers pas avec d3-turbo
Accéder au modèle : Visitez decision.vllm-sr.ai
S'authentifier : Obtenez une clé API gratuite
Configurer l'environnement : Configurez les paramètres de l'API
Intégrer via l'API : Utilisez l'API pour envoyer des requêtes
Optimiser : Ajustez les paramètres pour la performance
Cas d'utilisation de d3-turbo
- Analyse des Médias
- Modération de Contenu
- Rapports Automatisés
- Reconnaissance d'Images
- Suivi Vidéo
