Beschreibung
HuggingFaceH4/zephyr-7b-beta ist ein Sprachmodell mit 7 Milliarden Parametern, eine feinabgestimmte Version von mistralai/Mistral-7B-v0.1. Es wurde mittels Direct Preference Optimization (DPO) auf einer Mischung aus öffentlich verfügbaren und synthetischen Datensätzen trainiert. Dieser Ansatz, der die Entfernung der inhärenten Datensatz-Ausrichtung beinhaltet, hat zu einer verbesserten Leistung auf Benchmarks wie MT-Bench und AlpacaEval geführt und Zephyr-7B-β als hochleistungsfähige Konversations-KI positioniert.
Weiterlesen
Das Modell ist primär für englischsprachige Aufgaben konzipiert und wird unter der MIT-Lizenz veröffentlicht. Seine Architektur ist GPT-ähnlich und es wurde auf vielfältigen synthetischen Dialogen, die von ChatGPT generiert wurden, feinabgestimmt und mithilfe des DPOTrainer der 🤗 TRL-Bibliothek auf dem Datensatz openbmb/UltraFeedback weiter ausgerichtet. Dieser Datensatz umfasst 64.000 Prompts und entsprechende Modellantworten, die von GPT-4 bewertet wurden, was zur Hilfsbereitschaft des Modells beiträgt.
Zephyr-7B-β zeigt starke Leistungen und rangierte zum Zeitpunkt seiner Veröffentlichung als das beste 7B-Chat-Modell auf MT-Bench und AlpacaEval. Es erzielt auf mehreren MT-Bench-Kategorien wettbewerbsfähige Ergebnisse im Vergleich zu größeren Open-Source-Modellen wie Llama2-Chat-70B. Die Leistung des Modells bei komplexen Aufgaben wie Codierung und Mathematik kann jedoch hinter proprietären Modellen zurückbleiben, was Bereiche für zukünftige Forschung und Entwicklung aufzeigt.
Obwohl Zephyr-7B-β für Chat-Anwendungen gut geeignet ist, ist es wichtig, seine Einschränkungen zu beachten. Es hat nicht die gleiche Sicherheitsausrichtung oder In-Loop-Filterung wie Modelle wie ChatGPT durchlaufen, was bedeutet, dass es problematische Texte generieren kann, wenn es dazu aufgefordert wird. Benutzer sollten sich dieses Potenzials für die Generierung unerwünschter Ausgaben bewusst sein. Die Basis des Modells, mistralai/Mistral-7B-v0.1, das wahrscheinlich auf einer Mischung aus Webdaten, Büchern und Code trainiert wurde, trägt zu seinen breiten Fähigkeiten bei.
Die Integration mit Zephyr-7B-β kann über die Funktion `pipeline()` aus der 🤗 Transformers-Bibliothek erfolgen. Das Modell unterstützt Chat-Templating für strukturierte Konversations-Inputs. Das bereitgestellte Beispiel zeigt, wie das Modell für die Textgenerierung eingerichtet wird, einschließlich System- und Benutzernachrichten, und wie der Prompt für eine optimale Interaktion formatiert wird.
- KategorieKI-Modelle & LLMs
- PreismodellOpen Source
- BereitstellungCloud
- PlattformenWeb
HuggingFaceH4/zephyr-7b-beta im Überblick
Feinabgestimmt von Mistral-7B-v0.1
Trainiert mittels Direct Preference Optimization (DPO)
Primär englischsprachige Unterstützung
7 Milliarden Parameter
Hohe Leistung auf MT-Bench und AlpacaEval Benchmarks
Geeignet für Chat-Anwendungen
Open-Source-Veröffentlichung unter MIT-Lizenz
Kann bei Aufforderung problematischen Text generieren
Unterstützt Chat-Templating für Konversations-Input
Erste Schritte mit HuggingFaceH4/zephyr-7b-beta
Modellzugriff: Laden Sie das Modell HuggingFaceH4/zephyr-7b-beta mit der Transformers-Bibliothek.
Umgebung einrichten: Installieren Sie notwendige Bibliotheken wie transformers und accelerate.
Integration über API: Nutzen Sie die `pipeline()`-Funktion für Textgenerierungsaufgaben.
Input formatieren: Verwenden Sie das Chat-Template des Tokenizers des Modells, um Konversationsnachrichten zu strukturieren.
Text generieren: Geben Sie formatierte Prompts an die Pipeline für Modellantworten.
Output optimieren: Passen Sie Generierungsparameter wie `max_new_tokens`, `temperature`, `top_k` und `top_p` an.
HuggingFaceH4/zephyr-7b-beta's Anwendungsfälle
- Konversations-KI
- Chatbot-Entwicklung
- Textgenerierung
- Sprachassistenz
- Benchmark-Evaluierung
