Descripción
d3-turbo es la última iteración de los modelos Decision 3.0 de vLLM Semantic Router, diseñado para mejorar los procesos de toma de decisiones a través de sus capacidades multimodales de 27 mil millones de parámetros. Este modelo puede manejar entradas en forma de texto, JSON, imágenes y videos, permitiendo a los usuarios plantear diversos tipos de preguntas, como elección, sí/no, puntuación y consultas basadas en ubicación en imágenes o videos. Procesa cada entrada una vez por solicitud, proporcionando respuestas con probabilidades asociadas, lo que lo hace altamente eficiente para manejar múltiples preguntas simultáneamente.
Leer más
El modelo admite un contexto largo de hasta 131,072 tokens por pregunta cuando se configura con long_context=True, con un contexto predeterminado de 32,768 tokens. Esta característica es particularmente útil para consultas complejas que requieren datos de entrada extensos. d3-turbo está optimizado para el rendimiento, superando a su predecesor, d3-flash, en escenarios que involucran múltiples preguntas sobre la misma entrada, lo que lo hace significativamente más rápido y eficiente.
d3-turbo está disponible bajo la licencia Apache-2.0 y se puede acceder a través de una API gratuita, que permite a los usuarios probar sus capacidades sin ningún costo inicial. La API admite hasta 64 preguntas por solicitud, con límites de entrada de 131,072 caracteres y 16 imágenes o un video por solicitud. Este modelo es particularmente beneficioso para industrias que requieren capacidades precisas de toma de decisiones, como análisis de medios, moderación de contenido e informes automatizados.
El rendimiento del modelo se evidencia por sus puntuaciones en el Índice de Decisión Jev, donde supera a modelos anteriores tanto en tareas de texto como de visión. Logra una puntuación de texto de 70.2 y una puntuación de visión de 72.9, lo que indica su robusta capacidad para manejar diversas tareas de toma de decisiones. Con sus características avanzadas y disponibilidad de código abierto, d3-turbo se posiciona como una herramienta poderosa para desarrolladores y organizaciones que buscan integrar modelos de toma de decisiones sofisticados en sus flujos de trabajo.
- CategoríaModelos de IA y LLM
- Modelo de preciosFreemium
- ImplementaciónNube
- PlataformasWeb
Aspectos destacados de d3-turbo
Modelo de decisión multimodal de 27B
Procesa texto, JSON, imágenes y videos
Responde con probabilidades
Soporte de contexto largo de hasta 131,072 tokens
Licencia Apache-2.0
Acceso a API gratuita
Rendimiento eficiente para múltiples preguntas
Altas puntuaciones en el Índice de Decisión Jev
Primeros pasos con d3-turbo
Acceder al modelo: Visite decision.vllm-sr.ai
Autenticarse: Obtenga una clave API gratuita
Configurar el entorno: Configure los ajustes de la API
Integrar a través de la API: Use la API para enviar solicitudes
Optimizar: Ajuste los parámetros para el rendimiento
Casos de uso de d3-turbo
- Análisis de Medios
- Moderación de Contenido
- Informes Automatizados
- Reconocimiento de Imágenes
- Seguimiento de Videos
