Descripción
GLiDE, desarrollado por Fastino, es un modelo de decisión que procesa datos de entrada en forma de texto, JSON o imágenes para proporcionar resultados basados en probabilidades para tareas de toma de decisiones. Este modelo es particularmente útil para aplicaciones de clasificación, enrutamiento y puntuación. Los usuarios pueden acceder a GLiDE a través de la API alojada de Fastino, que requiere una clave de API para la autenticación. El modelo admite varios tipos de decisiones, incluyendo elección, noul (sí/no) y puntuación, con la capacidad de manejar hasta 255 opciones por pregunta.
Leer más
GLiDE está diseñado para trabajar de manera eficiente con contextos largos, admitiendo hasta 40,000 tokens por solicitud de pregunta. Funciona utilizando una API de Python y un servidor HTTP que se comunica en el formato System One. Los requisitos de hardware del modelo incluyen una GPU con al menos 80 GB de memoria, y ha sido probado en GPUs NVIDIA RTX PRO 6000, B200 y H100.
Los pesos del modelo ocupan 52.2 GB en disco, con un uso máximo de memoria GPU de 60.2 GB para una pregunta de 39k tokens. GLiDE está optimizado para el rendimiento, con características como atención flash-lineal para un procesamiento más rápido. Es determinista, asegurando resultados consistentes en solicitudes similares.
Las limitaciones de GLiDE incluyen un máximo de 255 opciones por pregunta y un límite de 40,000 tokens por solicitud de pregunta. No genera texto ni explicaciones, enfocándose únicamente en la toma de decisiones basada en las opciones proporcionadas. El modelo está licenciado bajo la Licencia de Comunidad de Fastino, con contribuciones de Qwen y otros componentes de terceros.
- CategoríaModelos de IA y LLM
- ImplementaciónNube
- PlataformasWeb
Aspectos destacados de GLiDE
Modelo de decisión para clasificación
Admite texto, JSON e imágenes
Acceso a API a través de Fastino
Maneja hasta 255 opciones por pregunta
40,000 tokens por solicitud de pregunta
API de Python y servidor HTTP
Resultados deterministas
Requiere GPU con 80 GB de memoria
Primeros pasos con GLiDE
Acceder a la página del modelo: Visita la página de GLiDE en Hugging Face
Autenticarse: Obtén una clave de API de Fastino
Configurar: Configura la API con los parámetros necesarios
Enviar solicitudes: Usa la API para enviar solicitudes de decisión
Casos de uso de GLiDE
- Tareas de Clasificación
- Decisiones de Enrutamiento
- Aplicaciones de Puntuación
- Procesamiento Multimodal
- Soporte de Decisiones Internas
