Beschreibung
LongCat-2.5 stellt einen bedeutenden Fortschritt in der multimodalen KI dar und baut auf seinem Vorgänger, LongCat-2.0, auf. Dieses Modell ist darauf ausgelegt, komplexe, mehrstufige agentische Aufgaben zu bewältigen, indem es robustes visuelles Verständnis mit ausgeklügelter agentischer Codierung kombiniert. Es verfügt über insgesamt 1,6 Billionen Parameter, wobei etwa 48 Milliarden pro Token aktiviert sind, was es zu einem leistungsstarken Werkzeug für anspruchsvolle Anwendungen macht.
Weiterlesen
Die Kernfähigkeiten des Modells basieren auf mehreren wichtigen Innovationen. Das native visuelle Modellieren ermöglicht es LongCat-2.5, visuelle Merkmale in nativer Auflösung in diskrete Tokens umzuwandeln und sie mit Text in einem gemeinsamen semantischen Raum abzugleichen. Dies ermöglicht ein tieferes, integriertes Verständnis multimodaler Eingaben. Für langfristige Aufgaben verwendet das Modell agentisches Reinforcement Learning (RL), das auf realen Ingenieurszenarien und reproduzierbaren agentischen Fehlern trainiert wurde. Diese Trainingsmethodik, kombiniert mit effizienten Rollout-Strategien und Schutzmaßnahmen gegen Belohnungshacking, verbessert die Zuverlässigkeit bei der Ausführung von End-to-End-Aufgaben.
Multi-Teacher Learning ist ein weiterer entscheidender Aspekt, bei dem spezialisierte Lehrer für Agenten, Argumentation und Interaktion das Modell durch vollständige Vokabular-KL-Destillation und Baum-Attention führen. Dieser Prozess stärkt die Fähigkeit, mehrstufige Ausführungen, komplexe Argumentation und präzises Befolgen von Anweisungen durchzuführen, während gleichzeitig die Sicherheit verbessert wird. Darüber hinaus integriert LongCat-2.5 effizientes Training für lange Kontexte, das supernode-bewusste Parallelität, effizientes Sharding und Überlappung von Kommunikation und Berechnung nutzt. Diese Optimierungen führen zu einem signifikant höheren Durchsatz pro Gerät im Vergleich zu traditionellen Baselines bei langen Sequenz-SFT-Aufgaben.
Die Bereitstellung von LongCat-2.5 wird auf NPU-Plattformen unterstützt, wobei spezifische Anleitungen für die NPU-Bereitstellung über SGLang-FluentLLM verfügbar sind. Das Modell bietet auch W4A4-Quantisierung für Expertengewichte und -aktivierungen, die native INT4-Berechnungen auf heimischen KI-Beschleunigern ermöglichen und gleichzeitig die Genauigkeit beibehalten. Diese Quantisierung, zusammen mit optimierten Gewichtsanordnungen und abgestimmten Vorbefüllungs-/Dekodierpipelines, führt zu erheblichen Verbesserungen beim Durchsatz und einer reduzierten Latenz. LongCat-2.5 bietet sowohl den Denkmodus als auch den Nicht-Denkmodus, sodass Benutzer Leistung und Token-Effizienz ausbalancieren können. Es wird unter der MIT-Lizenz veröffentlicht, was es einer breiten Palette von Entwicklern und Anwendungen zugänglich macht.
- KategorieKI-Modelle & LLMs
- PreismodellOpen Source
- BereitstellungCloud
- PlattformenWeb
LongCat-2.5 im Überblick
Natives multimodales MoE-Modell
1,6 Billionen Gesamtparameter
48 Milliarden aktivierte Parameter pro Token
Integration des visuellen Verständnisses
Agentische Codierungsfähigkeiten
Langfristiges agentisches RL-Training
Multi-Teacher Learning für Argumentation und Befolgen von Anweisungen
Effizientes Training für lange Kontexte
RL-Infrastruktur mit KV-Cache-Optimierung
W4A4-Quantisierung für Expertengewichte und -aktivierungen
Unterstützung für die Bereitstellung auf NPU-Plattformen
Denkmodus für verbesserte Leistung
Nicht-Denkmodus für Token-Effizienz
MIT-Lizenz für Modellgewichte
Bewertung über Codierungs-, allgemeine Agenten- und visuelle Aufgaben
Erste Schritte mit LongCat-2.5
Modellzugriff: Navigieren Sie zur LongCat-2.5-Seite auf Hugging Face.
Dateien erkunden: Überprüfen Sie die Dateien und Dokumentation des Modells für technische Details.
Bereitstellung auf NPU: Konsultieren Sie SGLang-FluentLLM für Anweisungen zur Bereitstellung auf NPU-Plattformen.
Modus konfigurieren: Wählen Sie zwischen Denkmodus (enable_thinking=True) für Leistung oder Nicht-Denkmodus (enable_thinking=False) für Token-Effizienz.
Eingabeaufforderungen senden: Interagieren Sie mit dem Modell über die offizielle Chat-Website (longcat.ai) oder über programmgesteuerten Zugriff.
Leistung bewerten: Nutzen Sie Bewertungseinstellungen wie Temperatur und top_p für spezifische Aufgaben.
LongCat-2.5's Anwendungsfälle
- Komplexe Entwicklung von Codebasen
- Vollständige Projektbuilds
- Kreative Designaufgaben
- Ausführung von 3D-Aufgaben
- Multimodale agentische Aufgaben
- Benchmarking von Code-Agenten
- Benchmarking allgemeiner Agenten
- Benchmarking visueller Aufgaben
