Beschreibung
Laguna M.1 ist ein anspruchsvolles Mixture-of-Experts (MoE)-Modell, das für agentisches Codieren und langfristige Aufgaben entwickelt wurde. Mit insgesamt 225 Milliarden Parametern und 23 Milliarden aktivierten Parametern pro Token ist es darauf ausgelegt, komplexe Rechenaufgaben effizient zu bewältigen. Das Modell besteht aus 70 Schichten, darunter 67 spärliche MoE-Schichten mit 256 Experten, und nutzt einen hochkapazitiven Experten-Routing-Mechanismus. Dieses Design ermöglicht ein top-k=16 Routing und ein verlustfreies Lastenausgleich, was die Recheneffizienz verbessert.
Weiterlesen
Das Modell verwendet eine globale Aufmerksamkeitsarchitektur über alle Schichten hinweg, mit 64 Q-Köpfen und 8 KV-Köpfen, sowie Softplus-Attention-Ausgangsgating. Diese Konfiguration unterstützt native Denkfähigkeiten und ermöglicht ein ineinandergreifendes Denken zwischen Toolaufrufen, das pro Anfrage aktiviert oder deaktiviert werden kann. Laguna M.1 zeigt starke Leistungen in mehreren Benchmarks, darunter SWE-bench Verified, SWE-bench Multilingual, SWE-Bench Pro und Terminal-Bench 2.0, was es wettbewerbsfähig mit modernen Modellen macht.
Laguna M.1 ist unter der Apache 2.0-Lizenz lizenziert, die eine kostenlose Nutzung und Modifikation sowohl für kommerzielle als auch für nicht-kommerzielle Zwecke erlaubt. Es wird von verschiedenen Plattformen unterstützt, darunter vLLM, SGLang, Transformers und TRT-LLM, dank der Zusammenarbeit mit NVIDIA. Das Modell ist für Softwareentwicklung und agentisches Codieren konzipiert, mit dem Fokus auf die Erhaltung des Denkens in der Nachrichtenhistorie zur Optimierung der Leistung.
Benutzer können Laguna M.1 lokal mit vLLM oder SGLang bereitstellen, mit Unterstützung für Toolaufrufe, Streaming-Antworten und Denkparsing. Das Modell ist auch in quantisierten Formaten wie FP8 und NVFP4 verfügbar, um unterschiedlichen Bereitstellungsanforderungen gerecht zu werden. Für Interessierte, die seine Fähigkeiten erkunden möchten, kann Laguna M.1 über Plattformen wie vLLM und SGLang aufgerufen werden, mit detaillierten Bereitstellungsanleitungen in deren jeweiligen Dokumentationen.
- KategorieKI-Modelle & LLMs
- PreismodellOpen Source
- BereitstellungCloud, Selbst gehostet
- PlattformenWeb, macOS, Linux
Laguna M.1 im Überblick
225B Gesamtparameter
23B aktivierte Parameter pro Token
70-Schichten MoE-Transformer
256 Experten mit top-k=16 Routing
Globale Aufmerksamkeitsarchitektur
Native Denkunterstützung
Apache 2.0 Lizenz
Starke Benchmark-Leistung
Erste Schritte mit Laguna M.1
Zugriff auf die Modellseite: Besuchen Sie die Hugging Face-Seite für Laguna M.1
Authentifizieren: Erhalten Sie einen API-Schlüssel für den Zugriff
Konfigurieren: Richten Sie das Modell mit den gewünschten Parametern ein
Eingaben senden: Verwenden Sie das Modell für Text-zu-Text-Aufgaben
Feinabstimmung: Passen Sie das Modell für spezifische Anwendungsfälle an
Laguna M.1's Anwendungsfälle
- Agentisches Codieren
- Langfristige Aufgaben
- Benchmark-Tests
- Tool-Integration
- Forschung und Entwicklung
