Beschreibung
North Mini Code ist ein anspruchsvolles Modell, das von Cohere und Cohere Labs entwickelt wurde und für die Codegenerierung, agentische Softwareentwicklung und Terminalaufgaben optimiert ist. Es verfügt über ein Modell mit 30 Milliarden Parametern und 3 Milliarden aktiven Parametern, was es äußerst effizient für komplexe Codierungsaufgaben macht. Das Modell unterstützt eine Kontextlänge von 256K und eine maximale Ausgabelänge von 64K, was ausreichend Kapazität für umfangreiche Codierungsprojekte bietet.
Weiterlesen
Die Modellarchitektur basiert auf einem Decoder-Only-Transformer mit einem sparsamen Mixture-of-Experts-Design. Es integriert einen effizienten Aufmerksamkeitsmechanismus, der gleitende Fensteraufmerksamkeit mit RoPE und globaler Aufmerksamkeit ohne Positions-Embeddings kombiniert. Dieses Design wird durch einen Feed-Forward-Block mit 128 Experten ergänzt, von denen 8 pro Token aktiviert werden, um eine präzise und effektive Verarbeitung zu gewährleisten.
North Mini Code wurde nach einem zweistufigen kaskadierten überwachten Fine-Tuning und anschließendem Reinforcement Learning mit überprüfbaren Belohnungen, das sich auf agentisches Codieren konzentriert, nachtrainiert. Dieser Trainingsansatz verbessert seine Fähigkeit, komplexe Codierungsaufgaben und Tool-Nutzungsfähigkeiten zu bewältigen. Das Modell ist Open Source, lizenziert unter Apache 2.0, und über die Plattform von Hugging Face verfügbar.
Benutzer können North Mini Code in OpenCode und dem gehosteten Hugging Face Space ausprobieren, was eine praktische Erfahrung ermöglicht, bevor sie die Modellgewichte herunterladen. Die Leistung des Modells wurde mit verschiedenen Methoden, einschließlich SWE-Bench und Terminal-Bench, bewertet, was seine Kompetenz in agentischen Codierungsaufgaben demonstriert.
North Mini Code ist ideal für Entwickler und Ingenieure, die ein robustes Modell für die Codegenerierung und Softwareentwicklungsaufgaben suchen. Seine Tool-Nutzungsfähigkeiten werden durch Chat-Vorlagen in Transformers unterstützt, was eine nahtlose Integration in bestehende Arbeitsabläufe ermöglicht.
- KategorieKI-Programmierassistenten
- PreismodellOpen Source
- BereitstellungCloud
- PlattformenWeb
North Mini Code im Überblick
30B-A3B-Parameter-Modell
Optimiert für die Codegenerierung
Unterstützt agentische Softwareentwicklung
Sparsames Mixture-of-Experts-Architektur
Effiziente Implementierung von Aufmerksamkeit
256K Kontextlänge
64K maximale Ausgabelänge
Open Source unter Apache 2.0
Erste Schritte mit North Mini Code
Zugriff auf die Modellseite: Besuchen Sie Hugging Face
Authentifizieren: Melden Sie sich bei Ihrem Konto an
Konfigurieren: Sampling-Parameter festlegen
Eingabeaufforderungen senden: Verwenden Sie die Transformers-Pipeline
Feinabstimmung: Überwachtes Fine-Tuning anwenden
North Mini Code's Anwendungsfälle
- Codegenerierung
- Softwareentwicklung
- Terminalaufgaben
- Tool-Integration
- Benchmark-Tests
