Beschreibung
NeuDecide ist ein Sprachaktionsmodell, das entwickelt wurde, um gesprochene Befehle direkt in Funktionsaufrufe umzuwandeln, ohne dass eine Transkription erforderlich ist. Dieses Modell ist besonders kompakt, mit einer Größe von 43 MB, und kann effizient auf einem einzelnen Thread mit ONNX Runtime betrieben werden. Es benötigt nach dem Herunterladen keine GPU oder Internetverbindung, was es für verschiedene Anwendungen äußerst zugänglich macht.
Weiterlesen
Das Modell funktioniert, indem es Audioeingaben und eine Liste von Werkzeugen entgegennimmt und den entsprechenden Werkzeugaufruf basierend auf der Eingabe ausgibt. Werkzeuge werden mithilfe von JSON-Schemas definiert, sodass Benutzer die Fähigkeiten des Modells einfach durch Ändern des JSON anpassen können, anstatt das Modell neu zu trainieren. Diese Flexibilität macht NeuDecide für eine Vielzahl von Anwendungen geeignet, von der Steuerung von Smart-Home-Geräten bis hin zur Ausführung spezifischer Softwarefunktionen.
Die Architektur von NeuDecide umfasst einen vortrainierten Streaming-Englisch-Sprachencoder und einen Werkzeugaufruf-Encoder-Decoder, der von Needle initialisiert und als einheitliches System trainiert wurde. Der Inferenzprozess umfasst drei ONNX-Grafiken: den Audio-Encoder, den Werkzeug-Encoder und den Decoder-Schritt, die alle zur Fähigkeit des Modells beitragen, Audio-Befehle effektiv zu verarbeiten und darauf zu reagieren.
Trotz seiner Fähigkeiten hat NeuDecide einige Einschränkungen. Es kann auf Geräusche reagieren, hat keinen kalibrierten Vertrauensscore und ist auf Englisch beschränkt. Darüber hinaus wird empfohlen, die Werkzeuglisten kurz zu halten, um die Leistung zu optimieren. Das Modell eignet sich am besten in Kombination mit einem größeren Modell zur Bearbeitung komplexerer oder offener Aufgaben.
NeuDecide ist Open Source, lizenziert unter Apache 2.0, und kann in verschiedene Systeme mit Python 3.10 bis 3.13 integriert werden. Es ist ideal für Entwickler, die Sprachaktionsfähigkeiten in ihren Anwendungen implementieren möchten, ohne umfangreiche Rechenressourcen zu benötigen.
- KategorieKI-Modelle & LLMs
- PreismodellOpen Source
- BereitstellungLäuft lokal
- PlattformenWeb
NeuDecide im Überblick
Wandelt Sprache in Funktionsaufrufe um
Arbeitet offline ohne GPU
Verwendet JSON-Schemas zur Definition von Werkzeugen
Kompakte Größe von 43 MB
Läuft auf ONNX Runtime
Vortrainierter Englisch-Sprachencoder
Werkzeugaufruf-Encoder-Decoder
Open Source unter Apache 2.0
Erste Schritte mit NeuDecide
Modell zugreifen: Besuchen Sie das Hugging Face-Repository
Authentifizieren: Stimmen Sie den Nutzungsbedingungen zu
Umgebung einrichten: Installieren Sie Python 3.10–3.13
Integration über API: Verwenden Sie JSON-Schemas für Werkzeuge
Optimieren: Testen Sie mit verschiedenen Audioeingaben
NeuDecide's Anwendungsfälle
- Smart Home Steuerung
- Softwareautomatisierung
- Sprachaktivierte Werkzeuge
- Offline-Sprachverarbeitung
- Benutzerdefinierte Werkzeugintegration
