Zum Hauptinhalt springen
ToolPotion
KI-Berater
Einreichen

Apriel Voice 27B Preview

KI-ModelleKI-Modelle & LLMsOpen Source · Web

Apriel Voice 27B Preview ist ein offenes Audio-Text-zu-Text-Modell von ServiceNow, das mit 27 Milliarden Parametern und Transformers entwickelt wurde. Es verarbeitet gesprochene Anfragen, schlussfolgert über den Gesprächskontext und generiert Textantworten sowie Toolaufrufe. Dieses Modell verbessert interaktive Sprachassistenten, den Kundenservice und die Nutzung gesprochener Werkzeuge, indem es eine Sprachschnittstelle hinzufügt und gleichzeitig Text- und Bildeingabefunktionen beibehält.

Modell ansehen
Teilen
Modell ansehen
Teilen

Apriel Voice 27B Preview ist ein fortschrittliches offenes Modell, das von ServiceNow für Sprache, Schlussfolgerungen und Werkzeugnutzung entwickelt wurde. Dieses Audio-Text-zu-Text-Modell mit 27 Milliarden Parametern basiert auf der Transformers-Architektur und nutzt ein gemeinsames Gemma 4 Rückgrat.

Weiterlesen

Es ist darauf ausgelegt, gesprochene Anfragen zu verstehen, über den Gesprächskontext nachzudenken und sowohl Textantworten als auch strukturierte Toolaufrufe zu generieren.

Das Modell erweitert die Fähigkeiten erheblich, indem es eine Sprachschnittstelle integriert und gleichzeitig die ursprünglichen Text- und Bildeingabefunktionen beibehält. Dies macht Apriel Voice 27B Preview äußerst vielseitig für die Entwicklung interaktiver Sprachassistenten, die Optimierung von Kundenservice-Workflows und die Ermöglichung der Nutzung gesprochener Werkzeuge. In Kombination mit einem externen Sprachsynthesizer kann es Echtzeit-Sprachanwendungen unterstützen.

Zu den wichtigsten Funktionen gehören umfassendes Sprachverständnis, das Transkription, Übersetzung und gesprochene Fragen umfasst. Es zeichnet sich durch Schlussfolgerungen und Werkzeugnutzung aus, was es ihm ermöglicht, komplexe Anweisungen zu befolgen, mehrstufige Anfragen zu bearbeiten und strukturierte Toolaufrufe zu generieren. Das Modell unterstützt multimodalen Kontext und verarbeitet Audio, Text, Bilder und Werkzeugergebnisse innerhalb eines gemeinsamen Gesprächsrahmens. Für Sprachanwendungen generiert es Textantworten, die dann mit externer Sprachsynthese kombiniert werden, wobei die Anwendung das Turn-Taking verwaltet.

Technisch verbindet Apriel Voice 27B Preview einen Whisper large-v3-turbo Sprachencoder mit dem Gemma 4 26B-A4B Rückgrat über einen gelernten Projektor. Der Trainingsprozess umfasst die Ausrichtung der Sprachschnittstelle und deren Anpassung an das Rückgrat mithilfe von Sprachaufgaben und Textwiedergabe. Das Modell unterstützt lange Audioeingaben, indem es 16 kHz Monoaufnahmen automatisch in 30-Sekunden-Stücke aufteilt, und hat gute Leistungen bei kontinuierlichen Aufnahmen von bis zu 30 Minuten gezeigt, wobei längere Zeiträume unter bestimmten Bedingungen unterstützt werden.

Leistungskennzahlen heben seine Effektivität hervor, mit 51,27 % EVA-A, 74,13 % EVA-X und 65,51 % τ-Voice-Aufgabenerfolg, bei einer durchschnittlichen τ-Voice-Antwortlatenz von 1,91 Sekunden. Bei LibriSpeech zeigt es eine Wortfehlerquote von 2,23 % bei test-clean und 5,15 % bei test-other. Das Modell ist für die Standard- und optimierte Bereitstellung über Docker-Images verfügbar und bietet eine OpenAI-kompatible API für die Integration. Es wird unter einer MIT-Lizenz veröffentlicht.

  • KategorieKI-Modelle & LLMs
  • PreismodellOpen Source
  • BereitstellungCloud
  • PlattformenWeb

  • Audio-Text-zu-Text-Modell: Verarbeitet gesprochene Anfragen und generiert Textantworten.

  • 27 Milliarden Parameter: Ein groß angelegtes Modell für komplexe Aufgaben.

  • Transformers-Architektur: Entwickelt mit einem robusten und weit verbreiteten Deep-Learning-Framework.

  • Sprachverständnis: Unterstützt Transkription, Übersetzung und gesprochene Fragen.

  • Schlussfolgerungen und Werkzeugnutzung: Befolgt Anweisungen, bearbeitet mehrstufige Anfragen und generiert strukturierte Toolaufrufe.

  • Multimodaler Kontext: Integriert Audio, Text, Bilder und Werkzeugergebnisse in Gespräche.

  • Sprachanwendungen: Generiert Textantworten für externe Sprachsynthese in interaktiven Sprachassistenten.

  • Gemma 4 Rückgrat: Nutzt ein gemeinsames Gemma 4 26B-A4B Rückgrat für die Kernverarbeitung.

  • Whisper large-v3-turbo Encoder: Verbindet die Sprachschnittstelle über einen gelernten Projektor.

  • Unterstützung für lange Audios: Teilt Aufnahmen automatisch in 30-Sekunden-Stücke auf und unterstützt bis zu 30 Minuten kontinuierlich.

  • OpenAI-kompatible API: Bietet eine API für einfache Integration und Inferenz.

  • Docker-Images für die Bereitstellung: Bietet Standard- und optimierte vLLM Docker-Images für die Bereitstellung.

  • MIT-Lizenz: Verfügbar zur Nutzung unter einer Open-Source-Lizenz.

  • Hohe Leistungskennzahlen: Erzielt starke Ergebnisse in EVA-A, EVA-X und τ-Voice-Aufgabenerfolg.

  • Niedrige Wortfehlerquote: Zeigt wettbewerbsfähige WER bei englischen Spracherkennungsbenchmarks.

  1. Modellzugriff: Laden Sie die Modell-Dateien von Apriel Voice 27B Preview auf Hugging Face herunter oder erkunden Sie diese.

  2. Umgebung einrichten: Verwenden Sie das bereitgestellte vLLM Docker-Image (z. B. `docker.io/amant555/vllm_apriel_voice:plain-26b-v0.32.0`) für die Bereitstellung.

  3. Modell bereitstellen: Führen Sie das Docker-Image auf geeigneter GPU-Hardware aus und stellen Sie eine OpenAI-kompatible API auf Port 8000 bereit.

  4. Audio-Dauer konfigurieren: Passen Sie `VLLM_MAX_AUDIO_DECODE_DURATION_S` und `--max-num-batched-tokens` für die gewünschten Audioeingabelängen an.

  5. Über API integrieren: Senden Sie Audio- oder Texteingaben an die bereitgestellte OpenAI-kompatible API unter Verwendung des Modellnamens `Apriel-Voice-27B`.

  6. Antworten verarbeiten: Bearbeiten Sie Textantworten und überprüfen Sie `response.choices[0].message.tool_calls` für die Ausgaben von Funktionsaufrufen.

  7. Mit Synthesizer koppeln: Integrieren Sie einen externen Sprachsynthesizer für die Echtzeit-Sprachinteraktion in Anwendungen.

  8. Leistung optimieren: Nutzen Sie das optimierte Docker-Image (`docker.io/amant555/vllm_apriel_voice:optimised-26b-v0.32.0`) für höhere Durchsatzraten.

  • Interaktive Sprachassistenten
  • Automatisierung des Kundenservice
  • Nutzung gesprochener Werkzeuge
  • Sprachtranskription
  • Sprachübersetzung
  • Gesprochene Fragen beantworten
  • Multimodale Konversations-KI
  • Anweisungen befolgen
  • Echtzeit-Sprachinteraktion

Von ServiceNow

Apriel Voice 27B Preview Bewertungen

Wird geladen...

Beliebte KI-Tools wie Apriel Voice 27B Preview

Gemma 3-27B IT ist ein hochmodernes multimodales KI-Modell von Google, das in der Lage ist, Text- und Bilddaten zu verarbeiten, um Textausgaben zu generieren. Es unterstützt über…

KI-Modelle & LLMs
Tool ansehen

Hochmodernes multimodales KI-Modell von Google, das in der Lage ist, Text- und Bilddaten zu verarbeiten, um Textausgaben zu generieren. Es unterstützt über…Gemma 3-27B IT ist ein hochmodernes multimodales KI-Modell von Google, das in der Lage ist, Text- und Bilddaten zu verarbeiten, um Textausgaben zu generieren. Es unterstützt über…

KI-Modelle & LLMs
Top 5 KI-Modelle ansehen

Gemma 3n Modell

KI-Modelle

Gemma 3n ist eine Familie von leichten, Open-Source-KI-Modellen von Google, die für eine effiziente Ausführung auf ressourcenarmen Geräten entwickelt wurden. Es unterstützt…

KI-Modelle & LLMs
Tool ansehen

KI-Modelle

Familie von leichten, Open-Source-KI-Modellen von Google, die für eine effiziente Ausführung auf ressourcenarmen Geräten entwickelt wurden. Es unterstützt…Gemma 3n ist eine Familie von leichten, Open-Source-KI-Modellen von Google, die für eine effiziente Ausführung auf ressourcenarmen Geräten entwickelt wurden. Es unterstützt…

KI-Modelle & LLMs
Top 5 KI-Modelle ansehen

Multimodales KI-Modell mit 975B Parametern, das für Entwickler konzipiert wurde. Es akzeptiert Text-, Bild- und Audioeingaben und generiert Textausgaben für…Inkling ist ein multimodales KI-Modell mit 975B Parametern, das für Entwickler konzipiert wurde. Es akzeptiert Text-, Bild- und Audioeingaben und generiert Textausgaben für…

EmpfohlenKI-Modelle & LLMs
Top 5 KI-Modelle ansehen

Gemma 3-4B ist ein hochmodernes multimodales KI-Modell von Google, das in der Lage ist, Text- und Bilddaten zu verarbeiten, um Textausgaben zu generieren. Es unterstützt über 140…

KI-Modelle & LLMs
Tool ansehen

Hochmodernes multimodales KI-Modell von Google, das in der Lage ist, Text- und Bilddaten zu verarbeiten, um Textausgaben zu generieren. Es unterstützt über 140…Gemma 3-4B ist ein hochmodernes multimodales KI-Modell von Google, das in der Lage ist, Text- und Bilddaten zu verarbeiten, um Textausgaben zu generieren. Es unterstützt über 140…

KI-Modelle & LLMs
Top 5 KI-Modelle ansehen

Gemma-3n-E4B-it ist ein leichtgewichtiges, hochmodernes KI-Modell von Google, das für eine effiziente Ausführung auf ressourcenschwachen Geräten entwickelt wurde. Es unterstützt…

KI-Modelle & LLMs
Tool ansehen

Leichtgewichtiges, hochmodernes KI-Modell von Google, das für eine effiziente Ausführung auf ressourcenschwachen Geräten entwickelt wurde. Es unterstützt…Gemma-3n-E4B-it ist ein leichtgewichtiges, hochmodernes KI-Modell von Google, das für eine effiziente Ausführung auf ressourcenschwachen Geräten entwickelt wurde. Es unterstützt…

KI-Modelle & LLMs
Top 5 KI-Modelle ansehen

Bark AI Modell

KI-Modelle

Bark ist ein transformerbasiertes Text-zu-Audio-Modell von Suno, das in der Lage ist, realistische mehrsprachige Sprache und andere Audioformen zu erzeugen. Es unterstützt die…

KI-Modelle & LLMs
Tool ansehen

KI-Modelle

Transformerbasiertes Text-zu-Audio-Modell von Suno, das in der Lage ist, realistische mehrsprachige Sprache und andere Audioformen zu erzeugen. Es unterstützt die…Bark ist ein transformerbasiertes Text-zu-Audio-Modell von Suno, das in der Lage ist, realistische mehrsprachige Sprache und andere Audioformen zu erzeugen. Es unterstützt die…

KI-Modelle & LLMs
Top 5 KI-Modelle ansehen

Das Gemma 4 12B Unified Model von Google DeepMind ist ein multimodales KI-Modell, das für eine effiziente lokale Ausführung entwickelt wurde. Es unterstützt Text-, Bild- und…

KI-Modelle & LLMs
Tool ansehen

Das Gemma 4 12B Unified Model von Google DeepMind ist ein multimodales KI-Modell, das für eine effiziente lokale Ausführung entwickelt wurde. Es unterstützt Text-, Bild- und…

KI-Modelle & LLMs
Top 5 KI-Modelle ansehen

NVIDIA NemotronLabs VoiceChat ist ein Echtzeit-Vollduplex-Sprachmodell für konversationale KI. Es integriert Sprachverständnis und -erzeugung in einer Architektur, reduziert die…

KI-Modelle & LLMs
Tool ansehen

Echtzeit-Vollduplex-Sprachmodell für konversationale KI. Es integriert Sprachverständnis und -erzeugung in einer Architektur, reduziert die…NVIDIA NemotronLabs VoiceChat ist ein Echtzeit-Vollduplex-Sprachmodell für konversationale KI. Es integriert Sprachverständnis und -erzeugung in einer Architektur, reduziert die…

KI-Modelle & LLMs
Top 5 KI-Modelle ansehen
1 von 8