説明
Apriel Voice 27B Previewは、音声、推論、ツール使用のためにServiceNowによって開発された高度なオープンモデルです。この音声テキストからテキストへのモデルは、270億のパラメータを特徴とし、Transformersアーキテクチャに基づいており、共有Gemma 4バックボーンを活用しています。音声リクエストを理解し、会話の文脈に基づいて推論を行い、テキスト応答と構造化されたツール呼び出しの両方を生成するように設計されています。
続きを読む
このモデルは、音声インターフェースを統合することで機能を大幅に拡張し、元のテキストおよび画像入力機能を維持します。これにより、Apriel Voice 27B Previewはインタラクティブな音声アシスタントの開発、カスタマーサポートのワークフローの効率化、音声ツールの使用を可能にするために非常に多用途です。外部音声合成器と組み合わせることで、リアルタイムの音声アプリケーションを実現できます。
主な機能には、音声理解が含まれ、文字起こし、翻訳、音声による質問応答をサポートします。複雑な指示に従い、複数のステップのリクエストを処理し、構造化されたツール呼び出しを生成する能力に優れています。このモデルは、音声、テキスト、画像、ツールの結果を共有の会話フレームワーク内で処理するマルチモーダルコンテキストをサポートします。音声アプリケーションでは、テキスト応答を生成し、それを外部音声合成と組み合わせ、アプリケーション管理のターンテイキングを行います。
技術的には、Apriel Voice 27B Previewは、学習されたプロジェクターを介してWhisper large-v3-turbo音声エンコーダーをGemma 4 26B-A4Bバックボーンに接続します。そのトレーニングプロセスは、音声インターフェースを整合させ、その後、音声タスクとテキストリプレイを使用してバックボーンに適応させることを含みます。このモデルは長い音声入力をサポートし、16 kHzモノ録音を自動的に30秒のチャンクに分割し、30分までの連続録音で良好なパフォーマンスを示し、特定の条件下でより長い期間もサポートします。
パフォーマンスメトリクスは、その効果を強調し、51.27%のEVA-A、74.13%のEVA-X、65.51%のτ-Voiceタスク成功を達成し、平均τ-Voice応答遅延は1.91秒です。LibriSpeechでは、テストクリーンで2.23%、テストその他で5.15%の単語誤り率を示し、強力な英語音声認識能力を示しています。このモデルは、標準および最適化されたサービス用のDockerイメージで利用可能で、統合のためのOpenAI互換APIを提供します。MITライセンスの下でリリースされています。
- カテゴリーAIモデルとLLM
- 料金モデルオープンソース
- デプロイクラウド
- プラットフォームWeb
Apriel Voice 27B Previewのハイライト
音声テキストからテキストモデル:音声リクエストを処理し、テキスト応答を生成します。
270億のパラメータ:複雑なタスクのための大規模モデルです。
Transformersアーキテクチャ:堅牢で広く使用されている深層学習フレームワークで構築されています。
音声理解:文字起こし、翻訳、音声による質問応答をサポートします。
推論とツール使用:指示に従い、複数のステップのリクエストを処理し、構造化されたツール呼び出しを生成します。
マルチモーダルコンテキスト:会話内で音声、テキスト、画像、ツールの結果を統合します。
音声アプリケーション:インタラクティブな音声アシスタントのために外部音声合成用のテキスト応答を生成します。
Gemma 4バックボーン:コア処理のために共有Gemma 4 26B-A4Bバックボーンを利用します。
Whisper large-v3-turboエンコーダー:学習されたプロジェクターを介して音声インターフェースを接続します。
長音声サポート:録音を自動的に30秒のチャンクに分割し、最大30分の連続録音をサポートします。
OpenAI互換API:簡単な統合と推論のためのAPIを提供します。
サービス用のDockerイメージ:デプロイメントのための標準および最適化されたvLLM Dockerイメージを提供します。
MITライセンス:オープンソースライセンスの下で使用可能です。
高パフォーマンスメトリクス:EVA-A、EVA-X、τ-Voiceタスク成功で強力な結果を達成します。
低単語誤り率:英語音声認識ベンチマークで競争力のあるWERを示します。
Apriel Voice 27B Previewをはじめる
モデルにアクセス:Hugging FaceでApriel Voice 27B Previewモデルファイルをダウンロードまたは探索します。
環境を設定:提供されたvLLM Dockerイメージ(例:`docker.io/amant555/vllm_apriel_voice:plain-26b-v0.32.0`)を使用してサービスを提供します。
モデルを提供:適切なGPUハードウェア上でDockerイメージを実行し、ポート8000でOpenAI互換APIを公開します。
音声の長さを設定:希望する音声入力の長さに応じて`VLLM_MAX_AUDIO_DECODE_DURATION_S`と`--max-num-batched-tokens`を調整します。
API経由で統合:モデル名「Apriel-Voice-27B」を使用して、提供されたOpenAI互換APIに音声またはテキスト入力を送信します。
応答を処理:テキスト応答を処理し、`response.choices[0].message.tool_calls`を確認して関数呼び出しの出力を検査します。
合成器とペアリング:外部音声合成器を統合して、アプリケーションでリアルタイムの音声インタラクションを実現します。
パフォーマンスを最適化:高スループットのために最適化されたDockerイメージ(`docker.io/amant555/vllm_apriel_voice:optimised-26b-v0.32.0`)を利用します。
Apriel Voice 27B Previewの使用例
- インタラクティブ音声アシスタント
- カスタマーサポートの自動化
- 音声ツールの使用
- 音声文字起こし
- 音声翻訳
- 音声による質問応答
- マルチモーダル会話AI
- 指示の遵守
- リアルタイム音声インタラクション









