Descripción
Apriel Voice 27B Preview es un modelo avanzado abierto desarrollado por ServiceNow para el habla, el razonamiento y el uso de herramientas. Este modelo de audio-texto-a-texto, que cuenta con 27 mil millones de parámetros, se basa en la arquitectura de Transformers y aprovecha una infraestructura compartida Gemma 4. Está diseñado para comprender solicitudes habladas, participar en razonamientos sobre el contexto conversacional y generar tanto respuestas textuales como llamadas a herramientas estructuradas.
Leer más
El modelo expande significativamente las capacidades al integrar una interfaz de voz, mientras mantiene sus funcionalidades originales de entrada de texto e imagen. Esto hace que Apriel Voice 27B Preview sea altamente versátil para desarrollar asistentes de voz interactivos, optimizar flujos de trabajo de soporte al cliente y habilitar el uso de herramientas habladas. Cuando se combina con un sintetizador de voz externo, puede impulsar aplicaciones de voz en tiempo real.
Las capacidades clave incluyen una comprensión del habla integral, que abarca transcripción, traducción y respuestas a preguntas habladas. Destaca en razonamiento y uso de herramientas, lo que le permite seguir instrucciones complejas, manejar solicitudes de múltiples pasos y generar llamadas a herramientas estructuradas. El modelo admite contexto multimodal, procesando audio, texto, imágenes y resultados de herramientas dentro de un marco conversacional compartido. Para aplicaciones de voz, genera respuestas textuales que luego se emparejan con la síntesis de voz externa, con gestión de turnos administrada por la aplicación.
Técnicamente, Apriel Voice 27B Preview conecta un codificador de voz Whisper large-v3-turbo a la infraestructura Gemma 4 26B-A4B a través de un proyector aprendido. Su proceso de entrenamiento implica alinear la interfaz de voz y luego adaptarla con la infraestructura utilizando tareas de voz y reproducción de texto. El modelo admite entradas de audio largas, dividiendo automáticamente grabaciones mono de 16 kHz en fragmentos de 30 segundos, y ha mostrado un buen rendimiento en grabaciones continuas de hasta 30 minutos, con soporte para duraciones más largas bajo condiciones específicas.
Las métricas de rendimiento destacan su efectividad, logrando un 51.27% de éxito en EVA-A, un 74.13% en EVA-X y un 65.51% en la tarea τ-Voice, con una latencia media de respuesta τ-Voice de 1.91 segundos. En LibriSpeech, demuestra una tasa de error de palabras del 2.23% en test-clean y del 5.15% en test-other. El modelo está disponible para servicio estándar y optimizado a través de imágenes de Docker, proporcionando una API compatible con OpenAI para integración. Se publica bajo una Licencia MIT.
- CategoríaModelos de IA y LLM
- Modelo de preciosCódigo abierto
- ImplementaciónNube
- PlataformasWeb
Aspectos destacados de Apriel Voice 27B Preview
Modelo de Audio-Texto-a-Texto: Procesa solicitudes habladas y genera respuestas textuales.
27 Mil Millones de Parámetros: Un modelo a gran escala para tareas complejas.
Arquitectura de Transformers: Construido con un marco de aprendizaje profundo robusto y ampliamente utilizado.
Comprensión del Habla: Soporta transcripción, traducción y respuestas a preguntas habladas.
Razonamiento y Uso de Herramientas: Sigue instrucciones, maneja solicitudes de múltiples pasos y genera llamadas a herramientas estructuradas.
Contexto Multimodal: Integra audio, texto, imágenes y resultados de herramientas en conversaciones.
Aplicaciones de Voz: Genera respuestas textuales para síntesis de voz externa en asistentes de voz interactivos.
Infraestructura Gemma 4: Utiliza una infraestructura compartida Gemma 4 26B-A4B para el procesamiento central.
Codificador Whisper large-v3-turbo: Conecta la interfaz de voz a través de un proyector aprendido.
Soporte para Audio Largo: Divide automáticamente grabaciones en fragmentos de 30 segundos, soportando hasta 30 minutos de forma continua.
API Compatible con OpenAI: Proporciona una API para fácil integración e inferencia.
Imágenes de Docker para Servicio: Ofrece imágenes de Docker estándar y optimizadas vLLM para implementación.
Licencia MIT: Disponible para uso bajo una licencia de código abierto.
Métricas de Alto Rendimiento: Logra resultados sólidos en EVA-A, EVA-X y éxito en tareas τ-Voice.
Baja Tasa de Error de Palabras: Demuestra un WER competitivo en benchmarks de reconocimiento de voz en inglés.
Primeros pasos con Apriel Voice 27B Preview
Acceder al Modelo: Descargue o explore los archivos del modelo Apriel Voice 27B Preview en Hugging Face.
Configurar el Entorno: Utilice la imagen de Docker vLLM proporcionada (por ejemplo, `docker.io/amant555/vllm_apriel_voice:plain-26b-v0.32.0`) para el servicio.
Servir el Modelo: Ejecute la imagen de Docker en hardware GPU apropiado, exponiendo una API compatible con OpenAI en el puerto 8000.
Configurar la Duración del Audio: Ajuste `VLLM_MAX_AUDIO_DECODE_DURATION_S` y `--max-num-batched-tokens` para las longitudes de entrada de audio deseadas.
Integrar a través de la API: Envíe entradas de audio o texto a la API compatible con OpenAI utilizando el nombre del modelo `Apriel-Voice-27B`.
Procesar Respuestas: Maneje las respuestas textuales e inspeccione `response.choices[0].message.tool_calls` para las salidas de llamadas a funciones.
Emparejar con un Sintetizador: Integre un sintetizador de voz externo para interacción de voz en tiempo real en aplicaciones.
Optimizar el Rendimiento: Utilice la imagen de Docker optimizada (`docker.io/amant555/vllm_apriel_voice:optimised-26b-v0.32.0`) para un mayor rendimiento.
Casos de uso de Apriel Voice 27B Preview
- Asistentes de Voz Interactivos
- Automatización del Soporte al Cliente
- Uso de Herramientas Habladas
- Transcripción de Habla
- Traducción de Habla
- Respuestas a Preguntas Habladas
- IA Conversacional Multimodal
- Seguimiento de Instrucciones
- Interacción de Voz en Tiempo Real









