Description
NeuDecide est un modèle d'action vocale conçu pour convertir des commandes parlées directement en appels de fonction sans avoir besoin de transcription. Ce modèle est particulièrement compact, avec une taille de 43 Mo, et peut fonctionner efficacement sur un seul thread en utilisant ONNX Runtime. Il ne nécessite pas de GPU ni de connexion Internet une fois téléchargé, ce qui le rend très accessible pour diverses applications.
Lire la suite
Le modèle fonctionne en prenant une entrée audio et une liste d'outils, produisant l'appel d'outil approprié en fonction de l'entrée. Les outils sont définis à l'aide de schémas JSON, permettant aux utilisateurs de modifier les capacités du modèle en modifiant simplement le JSON, plutôt qu'en réentraînant le modèle. Cette flexibilité rend NeuDecide adapté à un large éventail d'applications, allant du contrôle des appareils domestiques intelligents à l'exécution de fonctions logicielles spécifiques.
L'architecture de NeuDecide comprend un encodeur de parole anglais pré-entraîné et un encodeur-décodeur d'appel d'outil, initialisé à partir de Needle et entraîné comme un système unifié. Le processus d'inférence implique trois graphes ONNX : l'encodeur audio, l'encodeur d'outil et l'étape de décodage, chacun contribuant à la capacité du modèle à traiter et à répondre efficacement aux commandes audio.
Malgré ses capacités, NeuDecide présente certaines limitations. Il peut se déclencher sur du bruit, manque d'un score de confiance calibré et est limité à l'anglais. De plus, il est recommandé de garder les listes d'outils courtes pour optimiser les performances. Le modèle est mieux utilisé aux côtés d'un modèle plus grand pour gérer des tâches plus complexes ou ouvertes.
NeuDecide est open-source, sous licence Apache 2.0, et peut être intégré dans divers systèmes avec Python 3.10 à 3.13. Il est idéal pour les développeurs cherchant à implémenter des capacités d'action vocale dans leurs applications sans ressources informatiques extensives.
- CatégorieModèles d'IA et LLM
- Modèle tarifaireOpen Source
- DéploiementExécution locale
- PlateformesWeb
Points forts de NeuDecide
Convertit la parole en appels de fonction
Fonctionne hors ligne sans GPU
Utilise des schémas JSON pour les définitions d'outils
Taille compacte de 43 Mo
Fonctionne sur ONNX Runtime
Encodeur de parole anglais pré-entraîné
Encodeur-décodeur d'appel d'outil
Open-source sous Apache 2.0
Premiers pas avec NeuDecide
Accéder au modèle : Visitez le dépôt Hugging Face
Authentifier : Accepter les termes et conditions
Configurer l'environnement : Installer Python 3.10–3.13
Intégrer via API : Utiliser des schémas JSON pour les outils
Optimiser : Tester avec diverses entrées audio
Cas d'utilisation de NeuDecide
- Contrôle de Maison Intelligente
- Automatisation Logicielle
- Outils Activés par la Voix
- Traitement Vocal Hors Ligne
- Intégration d'Outils Personnalisés
