Beschreibung
Nemotron-Labs-Audex-2B ist ein anspruchsvolles Großmodell für natürliche Sprache (LLM), das Audio- und Textverarbeitungsfähigkeiten integriert. Es wurde entwickelt, um eine Vielzahl von Audioaufgaben zu bewältigen, einschließlich Audioverständnis, Spracherkennung, Sprachübersetzung, Text-zu-Sprache, Audioerzeugung und Sprach-zu-Sprache-Generierung. Das Modell arbeitet sowohl im Denk- als auch im Instruktionsmodus, was ihm ermöglicht, sich an unterschiedliche Aufgabenanforderungen anzupassen.
Weiterlesen
Die Architektur von Audex-2B ist kompakt und dicht, was die Ressourcenanforderungen für die Inferenz reduziert. Es wird mit einem mehrstufigen SFT-Rezept trainiert, das dem seines größeren Gegenstücks, Audex-30B-A3B, ähnelt, jedoch ohne die zusätzliche kaskadierte Verstärkungslernung. Dies macht Audex-2B zu einer ressourcenschonenderen Option, während es eine starke Leistung bei Audioaufgaben aufrechterhält.
Audex-2B unterstützt eine Kontextlänge von bis zu 128K Tokens, was es ihm ermöglicht, Aufgaben mit langem Kontext effektiv zu bewältigen. Es verwendet die ChatML-Vorlage für die Verarbeitung, mit spezifischen Präfixen für Denk- und Instruktionsmodi. Das Modell ist kompatibel mit vLLM 0.20.0 und erfordert Transformers-Version 4.53.0 oder höher für die Inferenz.
Für audioverwandte Aufgaben bietet Audex-2B verschiedene empfohlene Inferenz-Setups. Es unterstützt die Offline-LLM-Generierung und einen OpenAI-kompatiblen Audio-URL-Server für Audio-QA-Aufgaben. Das Modell bietet auch Optionen für Text-zu-Sprache und Text-zu-Audio-Generierung, mit Verbesserungen für qualitativ hochwertigere Ausgaben.
Nemotron-Labs-Audex-2B unterliegt der NVIDIA Oneway Noncommercial License, die sicherstellt, dass seine Nutzung auf nicht-kommerzielle Anwendungen beschränkt ist. Dieses Modell ist ideal für Entwickler und Forscher, die ein vielseitiges Werkzeug suchen, um Audio- und Textverarbeitungsfähigkeiten in ihre Anwendungen zu integrieren.
- KategorieKI-Modelle & LLMs
- PreismodellNicht kommerziell
- BereitstellungCloud
- PlattformenWeb
Nemotron-Labs-Audex-2B im Überblick
Einheitliche Audio-Text-Verarbeitung
Unterstützt Denk- und Instruktionsmodi
Kompakte und dichte Architektur
128K-Token Kontextlänge
Kompatibel mit vLLM 0.20.0
Erfordert Transformers >= 4.53.0
Audio-QA- und Generierungsfähigkeiten
NVIDIA Oneway Noncommercial License
Erste Schritte mit Nemotron-Labs-Audex-2B
Zugriff auf die Modellseite: Besuchen Sie die Hugging Face-Modellseite für Nemotron-Labs-Audex-2B
Authentifizieren: Stellen Sie sicher, dass Sie die erforderlichen Berechtigungen zur Nutzung des Modells haben
Konfigurieren: Richten Sie das Modell mit der geeigneten Inferenzumgebung ein
Eingaben senden: Verwenden Sie die ChatML-Vorlage, um Audio- oder Texteingaben zu senden
Feinabstimmung: Passen Sie die Modellparameter bei Bedarf für spezifische Aufgaben an
Nemotron-Labs-Audex-2B's Anwendungsfälle
- Audioverständnis
- Spracherkennung
- Sprachübersetzung
- Text-zu-Sprache
- Audioerzeugung
