Description
GLiDE, développé par Fastino, est un modèle de décision qui traite les données d'entrée sous forme de texte, de JSON ou d'images pour fournir des résultats basés sur des probabilités pour des tâches de prise de décision. Ce modèle est particulièrement utile pour les applications de classification, de routage et de notation. Les utilisateurs peuvent accéder à GLiDE via l'API hébergée de Fastino, qui nécessite une clé API pour l'authentification. Le modèle prend en charge divers types de décisions, y compris le choix, le noul (oui/non) et le score, avec la capacité de gérer jusqu'à 255 options par question.
Lire la suite
GLiDE est conçu pour fonctionner efficacement avec de longs contextes, prenant en charge jusqu'à 40 000 tokens par invite de question. Il fonctionne via une API Python et un serveur HTTP qui communique au format System One. Les exigences matérielles du modèle incluent un GPU avec au moins 80 Go de mémoire, et il a été testé sur des GPU NVIDIA RTX PRO 6000, B200 et H100.
Les poids du modèle occupent 52,2 Go sur le disque, avec une utilisation maximale de la mémoire GPU de 60,2 Go pour une question de 39k tokens. GLiDE est optimisé pour la performance, avec des fonctionnalités telles que l'attention flash-linéaire pour un traitement plus rapide. Il est déterministe, garantissant des résultats cohérents pour des demandes similaires.
Les limitations de GLiDE incluent un maximum de 255 options par question et une limite de 40 000 tokens par invite de question. Il ne génère pas de texte ni d'explications, se concentrant uniquement sur la prise de décision basée sur les options fournies. Le modèle est sous licence Fastino Community License, avec des contributions de Qwen et d'autres composants tiers.
- CatégorieModèles d'IA et LLM
- DéploiementCloud
- PlateformesWeb
Points forts de GLiDE
Modèle de décision pour la classification
Prend en charge le texte, le JSON et les images
Accès API via Fastino
Gère jusqu'à 255 options par question
40 000 tokens par invite de question
API Python et serveur HTTP
Résultats déterministes
Nécessite un GPU avec 80 Go de mémoire
Premiers pas avec GLiDE
Accéder à la page du modèle : Visitez la page GLiDE sur Hugging Face
S'authentifier : Obtenez une clé API de Fastino
Configurer : Configurez l'API avec les paramètres nécessaires
Envoyer des invites : Utilisez l'API pour envoyer des demandes de décision
Cas d'utilisation de GLiDE
- Tâches de Classification
- Décisions de Routage
- Applications de Notation
- Traitement Multimodal
- Soutien à la Décision Interne
