Beschreibung
GLiDE, entwickelt von Fastino, ist ein Entscheidungsmodell, das Eingabedaten in Form von Text, JSON oder Bildern verarbeitet, um wahrscheinlichkeitsgestützte Ergebnisse für Entscheidungsfindungsaufgaben bereitzustellen. Dieses Modell ist besonders nützlich für Anwendungen in den Bereichen Klassifizierung, Routing und Bewertung. Benutzer können auf GLiDE über die gehostete API von Fastino zugreifen, die einen API-Schlüssel zur Authentifizierung erfordert. Das Modell unterstützt verschiedene Entscheidungstypen, einschließlich Auswahl, noul (ja/nein) und Punktzahl, mit der Fähigkeit, bis zu 255 Optionen pro Frage zu verarbeiten.
Weiterlesen
GLiDE ist darauf ausgelegt, effizient mit langen Kontexten zu arbeiten und unterstützt bis zu 40.000 Tokens pro Fragenaufforderung. Es funktioniert über eine Python-API und einen HTTP-Server, der im System One-Format kommuniziert. Die Hardwareanforderungen des Modells umfassen eine GPU mit mindestens 80 GB Speicher, und es wurde auf NVIDIA RTX PRO 6000, B200 und H100 GPUs getestet.
Die Gewichte des Modells belegen 52,2 GB auf der Festplatte, mit einem maximalen GPU-Speicherverbrauch von 60,2 GB für eine 39k-Token-Frage. GLiDE ist auf Leistung optimiert, mit Funktionen wie Flash-Linear-Attention für schnellere Verarbeitung. Es ist deterministisch, was konsistente Ergebnisse bei ähnlichen Anfragen gewährleistet.
Die Einschränkungen von GLiDE umfassen maximal 255 Optionen pro Frage und ein Limit von 40.000 Tokens pro Fragenaufforderung. Es generiert keinen Text oder Erklärungen, sondern konzentriert sich ausschließlich auf die Entscheidungsfindung basierend auf den bereitgestellten Optionen. Das Modell ist unter der Fastino Community License lizenziert, mit Beiträgen von Qwen und anderen Drittanbieterkomponenten.
- KategorieKI-Modelle & LLMs
- BereitstellungCloud
- PlattformenWeb
GLiDE im Überblick
Entscheidungsmodell für Klassifizierung
Unterstützt Text, JSON und Bilder
API-Zugriff über Fastino
Verarbeitet bis zu 255 Optionen pro Frage
40.000 Tokens pro Fragenaufforderung
Python-API und HTTP-Server
Deterministische Ergebnisse
Benötigt GPU mit 80 GB Speicher
Erste Schritte mit GLiDE
Zugriff auf die Modellseite: Besuchen Sie die GLiDE-Seite auf Hugging Face
Authentifizieren: Erhalten Sie einen API-Schlüssel von Fastino
Konfigurieren: Richten Sie die API mit den erforderlichen Parametern ein
Eingabeaufforderungen senden: Verwenden Sie die API, um Entscheidungsanfragen zu senden
GLiDE's Anwendungsfälle
- Klassifizierungsaufgaben
- Routing-Entscheidungen
- Bewertungsanwendungen
- Multimodale Verarbeitung
- Interne Entscheidungsunterstützung
