描述
NeuDecide 是一个语音操作模型,旨在将口头命令直接转换为函数调用,而无需转录。该模型特别紧凑,大小为 43 MB,并且可以在单线程上高效运行,使用 ONNX Runtime。下载后,它不需要 GPU 或互联网连接,使其在各种应用中高度可访问。
阅读更多
该模型通过接收音频输入和工具列表,输出基于输入的适当工具调用。工具使用 JSON 模式定义,允许用户通过简单地更改 JSON 来修改模型的功能,而无需重新训练模型。这种灵活性使 NeuDecide 适用于广泛的应用,从控制智能家居设备到执行特定软件功能。
NeuDecide 的架构包括一个预训练的流式英语语音编码器和一个工具调用编码器-解码器,从 Needle 初始化并作为统一系统进行训练。推理过程涉及三个 ONNX 图:音频编码器、工具编码器和解码器步骤,每个步骤都有助于模型有效处理和响应音频命令。
尽管具有这些能力,NeuDecide 也有一些局限性。它可能会在噪声中触发,缺乏校准的置信度评分,并且仅限于英语。此外,建议保持工具列表简短以优化性能。该模型最好与更大的模型一起使用,以处理更复杂或开放式的任务。
NeuDecide 是开源的,采用 Apache 2.0 许可证,可以与 Python 3.10 到 3.13 的各种系统集成。它非常适合希望在其应用中实现语音操作功能的开发者,而无需大量计算资源。
- 类别AI 模型与大语言模型
- 定价模式开源
- 部署本地运行
- 平台网页版
NeuDecide亮点
将语音转换为函数调用
离线运行,无需 GPU
使用 JSON 模式定义工具
紧凑的 43 MB 大小
在 ONNX Runtime 上运行
预训练的英语语音编码器
工具调用编码器-解码器
开源,采用 Apache 2.0 许可证
NeuDecide入门
访问模型:访问 Hugging Face 仓库
身份验证:同意条款和条件
设置环境:安装 Python 3.10–3.13
通过 API 集成:使用 JSON 模式定义工具
优化:使用各种音频输入进行测试
NeuDecide的使用案例
- 智能家居控制
- 软件自动化
- 语音激活工具
- 离线语音处理
- 自定义工具集成








