説明
NeuDecideは、音声コマンドを文字起こしなしで直接関数呼び出しに変換するように設計された音声アクションモデルです。このモデルは特にコンパクトで、サイズは43MBであり、ONNX Runtimeを使用してシングルスレッドで効率的に動作します。ダウンロード後はGPUやインターネット接続を必要とせず、さまざまなアプリケーションに非常にアクセスしやすくなっています。
続きを読む
このモデルは、音声入力とツールのリストを受け取り、入力に基づいて適切なツール呼び出しを出力します。ツールはJSONスキーマを使用して定義されており、ユーザーはモデルの機能を再トレーニングすることなく、JSONを変更するだけでモデルの能力を修正できます。この柔軟性により、NeuDecideはスマートホームデバイスの制御から特定のソフトウェア機能の実行まで、幅広いアプリケーションに適しています。
NeuDecideのアーキテクチャには、事前にトレーニングされたストリーミング英語音声エンコーダーとツール呼び出しエンコーダーデコーダーが含まれており、Needleから初期化され、統一システムとしてトレーニングされています。推論プロセスは、音声エンコーダー、ツールエンコーダー、デコーダーステップの3つのONNXグラフを含み、それぞれが音声コマンドを効果的に処理し応答するモデルの能力に寄与しています。
その能力にもかかわらず、NeuDecideにはいくつかの制限があります。ノイズでトリガーされる可能性があり、キャリブレーションされた信頼度スコアが欠如しており、英語に限定されています。さらに、パフォーマンスを最適化するためにツールリストは短く保つことが推奨されます。このモデルは、より複雑またはオープンエンドのタスクを処理するために、より大きなモデルと併用するのが最適です。
NeuDecideはオープンソースで、Apache 2.0の下でライセンスされており、Python 3.10から3.13のさまざまなシステムに統合できます。広範な計算リソースを必要とせずに、アプリケーションに音声アクション機能を実装したい開発者に最適です。
- カテゴリーAIモデルとLLM
- 料金モデルオープンソース
- デプロイローカルで実行
- プラットフォームWeb
NeuDecideのハイライト
音声を関数呼び出しに変換
GPUなしでオフラインで動作
ツール定義にJSONスキーマを使用
サイズは43MBのコンパクト
ONNX Runtimeで動作
事前トレーニングされた英語音声エンコーダー
ツール呼び出しエンコーダーデコーダー
Apache 2.0の下でオープンソース
NeuDecideをはじめる
モデルにアクセス: Hugging Faceリポジトリを訪問
認証: 利用規約に同意
環境を設定: Python 3.10–3.13をインストール
API経由で統合: ツールにJSONスキーマを使用
最適化: 様々な音声入力でテスト
NeuDecideの使用例
- スマートホーム制御
- ソフトウェア自動化
- 音声アクティブツール
- オフライン音声処理
- カスタムツール統合
