Descripción
Nemotron-Labs-Audex-2B es un sofisticado modelo de lenguaje grande (LLM) que integra capacidades de procesamiento de audio y texto. Está diseñado para manejar una variedad de tareas de audio, incluyendo comprensión de audio, reconocimiento de voz, traducción de voz, texto a voz, generación de audio y generación de voz a voz.
Leer más
La arquitectura de Audex-2B es compacta y densa, lo que reduce los requisitos de recursos para la inferencia. Se entrena utilizando una receta de SFT de múltiples etapas similar a su contraparte más grande, Audex-30B-A3B, pero sin el aprendizaje por refuerzo en cascada adicional. Esto hace que Audex-2B sea una opción más eficiente en recursos mientras mantiene un rendimiento sólido en tareas de audio.
Audex-2B soporta una longitud de contexto de hasta 128K tokens, lo que le permite manejar tareas de contexto largo de manera efectiva. Utiliza la plantilla ChatML para el procesamiento, con prefijos específicos para los modos de pensamiento e instrucción. El modelo es compatible con vLLM 0.20.0 y requiere la versión 4.53.0 o superior de transformers para la inferencia.
Para tareas relacionadas con audio, Audex-2B ofrece diferentes configuraciones de inferencia recomendadas. Soporta generación de LLM fuera de línea y un servidor de URL de audio compatible con OpenAI para tareas de QA de audio. El modelo también proporciona opciones para generación de texto a voz y de texto a audio, con mejoras disponibles para salidas de mayor calidad.
Nemotron-Labs-Audex-2B está regido por la Licencia No Comercial Oneway de NVIDIA, asegurando que su uso esté restringido a aplicaciones no comerciales. Este modelo es ideal para desarrolladores e investigadores que buscan una herramienta versátil para integrar capacidades de procesamiento de audio y texto en sus aplicaciones.
- CategoríaModelos de IA y LLM
- Modelo de preciosNo comercial
- ImplementaciónNube
- PlataformasWeb
Aspectos destacados de Nemotron-Labs-Audex-2B
Procesamiento unificado de audio y texto
Soporta modos de pensamiento e instrucción
Arquitectura compacta y densa
Longitud de contexto de 128K tokens
Compatible con vLLM 0.20.0
Requiere transformers >= 4.53.0
Capacidades de QA de audio y generación
Licencia No Comercial Oneway de NVIDIA
Primeros pasos con Nemotron-Labs-Audex-2B
Acceder a la página del modelo: Visita la página del modelo Nemotron-Labs-Audex-2B en Hugging Face
Autenticarse: Asegúrate de tener los permisos necesarios para usar el modelo
Configurar: Configura el modelo con el entorno de inferencia apropiado
Enviar indicaciones: Usa la plantilla ChatML para enviar indicaciones de audio o texto
Ajustar: Ajusta los parámetros del modelo para tareas específicas si es necesario
Casos de uso de Nemotron-Labs-Audex-2B
- Comprensión de Audio
- Reconocimiento de Voz
- Traducción de Voz
- Texto a Voz
- Generación de Audio
