설명
NeuDecide는 음성 명령을 전사 없이 직접 함수 호출로 변환하도록 설계된 음성 동작 모델입니다. 이 모델은 크기가 43MB로 특히 컴팩트하며, ONNX Runtime을 사용하여 단일 스레드에서 효율적으로 실행될 수 있습니다. 다운로드 후에는 GPU나 인터넷 연결이 필요하지 않아 다양한 애플리케이션에 매우 접근성이 높습니다.
더 읽기
모델은 오디오 입력과 도구 목록을 받아들이고, 입력에 따라 적절한 도구 호출을 출력합니다. 도구는 JSON 스키마를 사용하여 정의되며, 사용자는 모델의 기능을 JSON을 변경하는 것만으로 수정할 수 있습니다. 이러한 유연성 덕분에 NeuDecide는 스마트 홈 장치를 제어하는 것부터 특정 소프트웨어 기능을 실행하는 것까지 다양한 애플리케이션에 적합합니다.
NeuDecide의 아키텍처에는 Needle에서 초기화된 사전 훈련된 스트리밍 영어 음성 인코더와 도구 호출 인코더-디코더가 포함되어 있으며, 통합 시스템으로 훈련되었습니다. 추론 과정은 오디오 인코더, 도구 인코더 및 디코더 단계의 세 가지 ONNX 그래프를 포함하며, 각각은 모델이 오디오 명령을 효과적으로 처리하고 응답할 수 있는 능력에 기여합니다.
능력에도 불구하고 NeuDecide는 몇 가지 제한 사항이 있습니다. 소음에 반응할 수 있으며, 보정된 신뢰 점수가 없고, 영어로만 제한됩니다. 또한 성능을 최적화하기 위해 도구 목록을 짧게 유지하는 것이 권장됩니다. 이 모델은 더 복잡하거나 개방형 작업을 처리하기 위해 더 큰 모델과 함께 사용하는 것이 가장 좋습니다.
NeuDecide는 오픈 소스이며 Apache 2.0 라이선스 하에 제공되며, Python 3.10에서 3.13까지의 다양한 시스템에 통합될 수 있습니다. 이는 광범위한 계산 자원 없이 애플리케이션에 음성 동작 기능을 구현하려는 개발자에게 이상적입니다.
- 카테고리AI 모델 및 LLM
- 요금제오픈 소스
- 배포로컬 실행
- 플랫폼웹
NeuDecide 하이라이트
음성을 함수 호출로 변환
GPU 없이 오프라인으로 작동
도구 정의를 위한 JSON 스키마 사용
43MB의 컴팩트한 크기
ONNX Runtime에서 실행
사전 훈련된 영어 음성 인코더
도구 호출 인코더-디코더
Apache 2.0 하에 오픈 소스
NeuDecide 시작하기
모델 접근: Hugging Face 리포지토리 방문
인증: 약관에 동의
환경 설정: Python 3.10–3.13 설치
API를 통한 통합: 도구를 위한 JSON 스키마 사용
최적화: 다양한 오디오 입력으로 테스트
NeuDecide의 사용 사례
- 스마트 홈 제어
- 소프트웨어 자동화
- 음성 활성화 도구
- 오프라인 음성 처리
- 맞춤형 도구 통합
