Description
Nemotron-Labs-Audex-2B est un modèle de langage large (LLM) sophistiqué qui intègre des capacités de traitement audio et textuel. Il est conçu pour gérer une variété de tâches audio, y compris la compréhension audio, la reconnaissance vocale, la traduction vocale, la synthèse vocale, la génération audio et la génération de la parole à la parole.
Lire la suite
L'architecture d'Audex-2B est compacte et dense, ce qui réduit les exigences en ressources pour l'inférence. Il est entraîné en utilisant une recette SFT multi-étapes similaire à celle de son homologue plus grand, Audex-30B-A3B, mais sans l'apprentissage par renforcement en cascade supplémentaire. Cela fait d'Audex-2B une option plus efficace en ressources tout en maintenant de solides performances dans les tâches audio.
Audex-2B prend en charge une longueur de contexte allant jusqu'à 128K tokens, lui permettant de gérer efficacement des tâches à long contexte. Il utilise le modèle ChatML pour le traitement, avec des préfixes spécifiques pour les modes de réflexion et d'instruction. Le modèle est compatible avec vLLM 0.20.0 et nécessite la version 4.53.0 ou supérieure des transformers pour l'inférence.
Pour les tâches liées à l'audio, Audex-2B propose différentes configurations d'inférence recommandées. Il prend en charge la génération LLM hors ligne et un serveur d'URL audio compatible avec OpenAI pour les tâches de QA audio. Le modèle offre également des options pour la synthèse vocale et la génération audio à partir de texte, avec des améliorations disponibles pour des sorties de meilleure qualité.
Nemotron-Labs-Audex-2B est régi par la licence non commerciale NVIDIA Oneway, garantissant que son utilisation est limitée aux applications non commerciales. Ce modèle est idéal pour les développeurs et les chercheurs à la recherche d'un outil polyvalent pour intégrer des capacités de traitement audio et textuel dans leurs applications.
- CatégorieModèles d'IA et LLM
- Modèle tarifaireNon commercial
- DéploiementCloud
- PlateformesWeb
Points forts de Nemotron-Labs-Audex-2B
Traitement audio-texte unifié
Prend en charge les modes de réflexion et d'instruction
Architecture compacte et dense
Longueur de contexte de 128K tokens
Compatible avec vLLM 0.20.0
Nécessite transformers >= 4.53.0
Capacités de QA audio et de génération
Licence non commerciale NVIDIA Oneway
Premiers pas avec Nemotron-Labs-Audex-2B
Accéder à la page du modèle : Visitez la page du modèle Hugging Face pour Nemotron-Labs-Audex-2B
Authentifier : Assurez-vous d'avoir les autorisations nécessaires pour utiliser le modèle
Configurer : Configurez le modèle avec l'environnement d'inférence approprié
Envoyer des invites : Utilisez le modèle ChatML pour envoyer des invites audio ou textuelles
Ajuster : Ajustez les paramètres du modèle pour des tâches spécifiques si nécessaire
Cas d'utilisation de Nemotron-Labs-Audex-2B
- Compréhension Audio
- Reconnaissance Vocale
- Traduction Vocale
- Synthèse Vocale
- Génération Audio
