Beschreibung
Flint ist ein anspruchsvolles Mischung-von-Experten-Sprachmodell, das von Recursive entwickelt wurde und speziell für Codierungsagenten zugeschnitten ist. Mit insgesamt 39,8 Milliarden Parametern und etwa 2,5 Milliarden aktiven pro Token ist Flint darauf ausgelegt, eine Vielzahl von Aufgaben zu erfüllen, darunter die Untersuchung von Codebasen, das Beheben von Fehlern, die Implementierung von Funktionen und das Schreiben von Tests. Das Modell unterstützt Texteingabe und -ausgabe, Schlussfolgerungen und die Nutzung von Werkzeugen über mehrere Runden, was es zu einem vielseitigen Werkzeug für Entwickler macht.
Weiterlesen
In Bezug auf die Leistung erzielt Flint 54,9 % bei Terminal-Bench 2.1, 89,7 % bei SWE-bench Pro v2 und 74,2 % bei SWE-bench Verified. Diese Werte spiegeln seine Fähigkeit wider, komplexe Codierungsaufgaben zu bewältigen. Das Modell basiert auf einer Decoder-Only-Mischung-von-Experten-Transformer-Architektur mit 49 Schichten, 35 Sliding-Window-Schichten und 14 Full-Attention-Schichten. Es verwendet ein Sliding Window von 513 Tokens und nutzt 32 Query- und 4 Key/Value-Head für die Aufmerksamkeit.
Flint ist als Open-Source-Modell unter der Apache 2.0-Lizenz verfügbar, mit einem BF16-Checkpoint, Modellkonfiguration, Tokenizer, Chat-Vorlage und einem SGLang-Serving-Kit, das im Repository enthalten ist. Quantisierte Varianten sind für NVIDIA- und Apple-Silicon-Laufzeiten verfügbar. Das Training des Modells umfasste Pretraining, Mid-Training, überwachte Feinabstimmung und verstärkendes Lernen, das Texte und Code, das Befolgen von Anweisungen und agentische Aufgaben abdeckte.
Trotz seiner Fähigkeiten hat Flint Einschränkungen. Es kann falsche oder schädliche Inhalte, fehlerhaften Code oder unangemessene Werkzeugaufrufe erzeugen. Benutzer werden geraten, den generierten Code zu testen und Änderungen vor der Implementierung zu überprüfen. Die Leistung des Modells kann je nach Genauigkeit des Checkpoints und Inferenzlaufzeit variieren, und lange Schlussfolgerungsaufgaben können die Latenz erhöhen. Für Unterstützung können Benutzer Recursive mit spezifischen Details zu ihrem Setup kontaktieren.
- KategorieKI-Modelle & LLMs
- PreismodellOpen Source
- BereitstellungCloud
- PlattformenWeb
Flint im Überblick
Mischung-von-Experten-Sprachmodell
39,8 Milliarden Gesamtparameter
2,5 Milliarden aktive Parameter pro Token
Unterstützt Texteingabe und -ausgabe
Schlussfolgerungen und mehrstufige Werkzeugnutzung
Open-Source unter Apache 2.0-Lizenz
Quantisierte Varianten für NVIDIA und Apple Silicon
Überwachte Feinabstimmung und verstärkendes Lernen
Erste Schritte mit Flint
Zugriff auf die Modellseite: Besuchen Sie das Flint-Repository auf Hugging Face
Authentifizieren: Stellen Sie sicher, dass Sie die erforderlichen Anmeldeinformationen haben
Konfigurieren: Richten Sie das Modell mit den bereitgestellten Konfigurationsdateien ein
Eingabeaufforderungen senden: Verwenden Sie die Chat-Vorlage, um mit dem Modell zu interagieren
Feinabstimmung: Passen Sie die Modelleinstellungen für spezifische Aufgaben an
Flint's Anwendungsfälle
- Untersuchung von Codebasen
- Fehlerbehebung
- Implementierung von Funktionen
- Testschreiben
- Mehrstufige Werkzeugnutzung
