Beschreibung
Laguna S 2.1 ist ein anspruchsvolles Mixture-of-Experts-Modell, das für agentisches Codieren und langfristige Arbeiten entwickelt wurde. Mit insgesamt 118 Milliarden Parametern und 8 Milliarden aktivierten Parametern pro Token ist es Teil der Laguna-Serie und positioniert sich zwischen Laguna XS 2.1 und Laguna M.1. Das Modell verwendet einen Token-Wahl-Router mit Softplus-Gating über 256 geroutete Experten und einen gemeinsamen Experten, zusammen mit gruppierter Abfrageaufmerksamkeit und abwechselnder voller/gleitender Fensteraufmerksamkeit.
Weiterlesen
Veröffentlicht unter der OpenMDW-1.1-Lizenz, ermöglicht Laguna S 2.1 den Nutzern, kommerzielle Produkte frei zu nutzen, zu modifizieren und zu erstellen, ohne eine Genehmigung einholen zu müssen. Es ist für Softwareentwicklungsaufgaben optimiert und bietet native Denkunterstützung sowie spekulatives Decoding durch ein trainiertes DFlash-Entwurfmodell. Das Modell unterstützt quantisierte Varianten wie FP8, NVFP4, INT4 und GGUF, wodurch der Bedarf an umfangreichen Hardware-Ressourcen verringert wird.
Laguna S 2.1 verfügt über ein gemischtes SWA- und globales Aufmerksamkeitslayout mit 48 Schichten in einem Verhältnis von 1:3 zwischen globaler und SWA-Aufmerksamkeit. Es bietet ein Kontextfenster von 1.048.576 Tokens, das umfangreiche Kontextverwaltung ermöglicht. Der Wortschatz des Modells besteht aus 100.352 Tokens und nutzt den Laguna-Familien-Tokenizer für die Text-zu-Text-Modus.
Benchmark-Ergebnisse zeigen die wettbewerbsfähige Leistung von Laguna S 2.1 in verschiedenen Bewertungen, einschließlich Terminal-Bench 2.1 und SWE-bench Multilingual. Es integriert sich nahtlos mit Engines wie vLLM, SGLang, TRT-LLM und llama.cpp und bietet Flexibilität bei der Bereitstellung und Nutzung.
Entwickelt für Softwareentwicklungs- und agentische Codierungsanwendungsfälle, unterliegt Laguna S 2.1 der Acceptable Use Policy von Poolside, um eine verantwortungsvolle Anwendung sicherzustellen. Nutzer werden geraten, Sicherheitsvorkehrungen zu treffen und etwaige Sicherheitsanfälligkeiten an Poolside zu melden.
- KategorieKI-Modelle & LLMs
- PreismodellOpen Source
- BereitstellungCloud
- PlattformenWeb
Laguna S 2.1 im Überblick
118B Gesamtparameter
8B aktivierte Parameter pro Token
Mixture-of-Experts-Modell
OpenMDW-1.1-Lizenz
1.048.576-Token Kontextfenster
Spekulatives Decoding mit DFlash
Quantisierte Varianten verfügbar
Native Denkunterstützung
Erste Schritte mit Laguna S 2.1
Zugriff auf die Modellseite: Besuchen Sie die Hugging Face-Website
Authentifizieren: Melden Sie sich bei Ihrem Konto an
Konfigurieren: Richten Sie Modellparameter und Optionen ein
Eingabeaufforderungen senden: Geben Sie Text zur Verarbeitung ein
Feinabstimmung: Passen Sie das Modell für spezifische Aufgaben an
Laguna S 2.1's Anwendungsfälle
- Agentisches Codieren
- Langfristige Aufgaben
- Softwareentwicklung
- Entwicklung kommerzieller Produkte
- Spekulatives Decoding
