Beschreibung
MiniCPM5-2B ist das zweite Modell der MiniCPM5-Serie, nach MiniCPM5-1B. Es handelt sich um ein dichtes 2B Transformer-Modell, das für die lokale Bereitstellung auf Geräten und ressourcenbeschränkte Szenarien entwickelt wurde. Dieses Modell skaliert das gleiche Trainingsrezept und erreicht eine Spitzenleistung (SOTA) innerhalb der 2B-Klasse der Open-Source-Modelle. Es bleibt wettbewerbsfähig gegenüber größeren 4B-Klasse-Modellen und zeichnet sich insbesondere in Bereichen wie Codierung, Mathematik, Verständnis von langen Kontexten, Werkzeugnutzung und agentischen Aufgaben aus.
Weiterlesen
Das Modell wird mit hochwertigen Datensätzen aus der UltraData-Familie trainiert, einschließlich UltraX für das Web-Pre-Training, UltraData-Code für Codierungsfähigkeiten, UltraData-SFT-Agent-2609 für das Training von Agenten und UltraData-RL-2609 für das Reinforcement Learning. Diese Datensätze tragen zu den umfassenden Fähigkeiten des Modells bei und machen es geeignet für verschiedene Anwendungen wie lokale Assistenten, Codierungsagenten und Szenarien des logischen Denkens.
MiniCPM5-2B verwendet eine Standardarchitektur von LlamaForCausalLM mit 2.516.756.480 Parametern, 42 Schichten und einer Kontextlänge von 131.072. Es ist darauf ausgelegt, native Unterstützung für lange Kontexte zu bieten und gleichzeitig einen kleinen Bereitstellungsfußabdruck zu wahren. Das Training des Modells umfasst eine Full-Stack-Praxis des UltraData Tiered Data Management, die die Basis-, Mittel- und Nachtraining-Phasen abdeckt.
Während des Nachtrainings durchläuft das Modell eine überwachte Feinabstimmung (SFT), Reinforcement Learning (RL) und On-Policy Distillation (OPD), um seine Fähigkeiten weiter zu verbessern. RL + OPD verbessert die Denk- und allgemeinen Fähigkeiten des Modells erheblich, indem die Expertise von 16 spezialisierten Modellen in einem Release-Modell zusammengeführt wird.
MiniCPM5-2B ist in verschiedenen Formaten erhältlich, die für unterschiedliche Bereitstellungsszenarien geeignet sind, einschließlich BF16, GGUF und MLX. Es unterstützt mehrere Backends wie Transformers, vLLM, SGLang und llama.cpp, was eine flexible Bereitstellung auf verschiedenen Plattformen und Geräten ermöglicht. Das Modell wird unter der Apache-2.0-Lizenz veröffentlicht, die offenen Zugang und Zusammenarbeit gewährleistet.
- KategorieKI-Modelle & LLMs
MiniCPM5-2B im Überblick
Dichtes 2B Transformer-Modell
Bereitstellung auf Geräten
Ressourcenbeschränkte Szenarien
Spitzenleistung
Hochwertige Trainingsdatensätze
Standardarchitektur von LlamaForCausalLM
Native Unterstützung für lange Kontexte
UltraData Tiered Data Management
Erste Schritte mit MiniCPM5-2B
Zugriff auf die Modellseite: Besuchen Sie die Hugging Face Modellseite
Authentifizieren: Melden Sie sich bei Ihrem Hugging Face-Konto an
Konfigurieren: Richten Sie die Modellparameter und die Umgebung ein
Eingabeaufforderungen senden: Verwenden Sie das Modell für Ihre spezifischen Aufgaben
Feinabstimmung: Passen Sie das Modell für spezialisierte Anwendungen an
MiniCPM5-2B's Anwendungsfälle
- Lokale Assistenten
- Codierungsagenten
- Werkzeugnutzungs-Workflows
- Szenarien des logischen Denkens
- Agentische Aufgaben
