Beschreibung
Kolibri 1, entwickelt von Aleph Alpha, ist ein hochmodernes mehrsprachiges großes Sprachmodell, das darauf ausgelegt ist, komplexe Aufgaben mit Präzision und Effizienz zu bewältigen. Es unterstützt sowohl die deutsche als auch die englische Sprache, was es vielseitig für eine breite Palette von Anwendungen macht. Das Modell basiert auf einer Mixture-of-Experts-Architektur, die insgesamt 78 Milliarden Parameter und 3,46 Milliarden aktive Parameter pro Token umfasst. Diese Architektur ermöglicht es Kolibri 1, in mehrstufigem Denken, retrieval-unterstützter Generierung und agentischem Tool-Calling zu glänzen, was es für Programmier- und Sprachassistenzaufgaben geeignet macht.
Weiterlesen
Kolibri 1 ist für eine Kontextlänge von bis zu 1.048.576 Tokens optimiert, obwohl eine empfohlene Grenze von 262.144 Tokens für die Effizienz empfohlen wird. Das Modell arbeitet mit bfloat16-Präzision und ist am besten für Umgebungen geeignet, die hohe Denkfähigkeiten erfordern. Es wird unter der Apache 2.0-Lizenz veröffentlicht, die offenen Zugang und Flexibilität für Entwickler und Forscher gewährleistet.
Das Training des Modells umfasste einen umfassenden Datensatz von 20 Billionen Tokens, mit einem Fokus auf englische und deutsche Webdaten, Anweisungs- und Denkaufgaben sowie Code. Der Trainingsprozess beinhaltete eine Mid-Training-Phase und eine Anpassungsphase für lange Kontexte, die die Fähigkeit des Modells zur Handhabung erweiterter Kontextfenster verbessert. Kolibri 1 integriert auch fortschrittliche Sicherheitsfunktionen, einschließlich Mechanismen zur Ablehnung schädlicher Anfragen und zum Schutz personenbezogener Daten.
Kolibri 1 ist für den Einsatz in verschiedenen Branchen konzipiert, darunter Recht, Elektronik, Hardware und Luftfahrt, und bietet robuste retrieval-unterstützte Frage-Antwort-Funktionen. Die Architektur des Modells unterstützt effizientes Tool-Calling und Terminal-Interaktionen, was es zu einem wertvollen Asset für Softwareentwicklung und Terminalumgebungen macht. Mit seinen umfangreichen Fähigkeiten und der Open-Source-Verfügbarkeit ist Kolibri 1 ein leistungsstarkes Werkzeug für Entwickler und Forscher, die fortschrittliche KI für komplexe Sprachaufgaben nutzen möchten.
- KategorieKI-Modelle & LLMs
- PreismodellOpen Source
- BereitstellungCloud
- PlattformenWeb
Kolibri 1 im Überblick
Mixture-of-Experts-Architektur
78 Milliarden Gesamtparameter
3,46 Milliarden aktive Parameter pro Token
Unterstützt die deutschen und englischen Sprachen
Kontextlänge bis zu 1.048.576 Tokens
bfloat16-Präzision
Apache 2.0-Lizenz
Optimiert für mehrstufiges Denken
Erste Schritte mit Kolibri 1
Zugriff auf die Modellseite: Besuchen Sie die Hugging Face-Website
Authentifizieren: Melden Sie sich bei Ihrem Konto an
Konfigurieren: Richten Sie die Modellparameter ein
Eingabeaufforderungen senden: Geben Sie Ihre Anfragen ein
Feinabstimmung: Passen Sie das Modell für spezifische Aufgaben an
Kolibri 1's Anwendungsfälle
- Mehrsprachige Unterstützung
- Komplexes Denken
- Retrieval-unterstützte Generierung
- Programmierunterstützung
- Tool-Calling









