설명
Apriel Voice 27B Preview는 음성, 추론 및 도구 사용을 위해 ServiceNow에서 개발한 고급 오픈 모델입니다. 270억 개의 매개변수를 특징으로 하는 이 오디오-텍스트-투-텍스트 모델은 Transformers 아키텍처를 기반으로 하며, 공유 Gemma 4 백본을 활용합니다. 이 모델은 음성 요청을 이해하고, 대화 맥락에 대해 추론하며, 텍스트 응답과 구조화된 도구 호출을 생성하도록 설계되었습니다.
더 읽기
이 모델은 음성 인터페이스를 통합하여 기능을 크게 확장하며, 원래의 텍스트 및 이미지 입력 기능도 유지합니다. 이를 통해 Apriel Voice 27B Preview는 대화형 음성 비서를 개발하고, 고객 지원 워크플로를 간소화하며, 음성 도구 사용을 가능하게 하는 데 매우 다재다능합니다. 외부 음성 합성기와 결합하면 실시간 음성 애플리케이션을 구동할 수 있습니다.
주요 기능으로는 전사, 번역 및 음성 질문 응답을 포함한 포괄적인 음성 이해가 있습니다. 이 모델은 복잡한 지침을 따르고, 다단계 요청을 처리하며, 구조화된 도구 호출을 생성할 수 있는 추론 및 도구 사용에서 뛰어납니다. 모델은 오디오, 텍스트, 이미지 및 도구 결과를 공유 대화 프레임워크 내에서 처리하는 다중 모드 맥락을 지원합니다. 음성 애플리케이션의 경우, 텍스트 응답을 생성한 후 외부 음성 합성과 결합하여 애플리케이션 관리 전환을 수행합니다.
기술적으로 Apriel Voice 27B Preview는 Whisper large-v3-turbo 음성 인코더를 Gemma 4 26B-A4B 백본에 학습된 프로젝터를 통해 연결합니다. 훈련 과정은 음성 인터페이스를 정렬한 다음 음성 작업 및 텍스트 재생을 사용하여 백본에 적응시키는 것을 포함합니다. 이 모델은 긴 오디오 입력을 지원하며, 16 kHz 모노 녹음을 자동으로 30초 청크로 분할하고, 최대 30분까지 연속 녹음에서 좋은 성능을 보여주며, 특정 조건에서 더 긴 기간도 지원합니다.
성능 지표는 51.27% EVA-A, 74.13% EVA-X 및 65.51% τ-Voice 작업 성공률을 달성하며, 평균 τ-Voice 응답 지연 시간은 1.91초입니다. LibriSpeech에서 테스트 클린에서 2.23%, 테스트 기타에서 5.15%의 단어 오류율을 보여주며, 강력한 영어 음성 인식 능력을 나타냅니다. 이 모델은 표준 및 최적화된 서비스용 Docker 이미지를 통해 제공되며, 통합을 위한 OpenAI 호환 API를 제공합니다. MIT 라이센스 하에 출시되었습니다.
- 카테고리AI 모델 및 LLM
- 요금제오픈소스
- 배포클라우드
- 플랫폼웹
Apriel Voice 27B Preview 하이라이트
오디오-텍스트-투-텍스트 모델: 음성 요청을 처리하고 텍스트 응답을 생성합니다.
270억 개의 매개변수: 복잡한 작업을 위한 대규모 모델입니다.
Transformers 아키텍처: 강력하고 널리 사용되는 딥 러닝 프레임워크로 구축되었습니다.
음성 이해: 전사, 번역 및 음성 질문 응답을 지원합니다.
추론 및 도구 사용: 지침을 따르고, 다단계 요청을 처리하며, 구조화된 도구 호출을 생성합니다.
다중 모드 맥락: 대화에서 오디오, 텍스트, 이미지 및 도구 결과를 통합합니다.
음성 애플리케이션: 대화형 음성 비서를 위한 외부 음성 합성을 위한 텍스트 응답을 생성합니다.
Gemma 4 백본: 핵심 처리를 위해 공유 Gemma 4 26B-A4B 백본을 활용합니다.
Whisper large-v3-turbo 인코더: 학습된 프로젝터를 통해 음성 인터페이스를 연결합니다.
긴 오디오 지원: 녹음을 자동으로 30초 청크로 분할하며, 최대 30분까지 연속 지원합니다.
OpenAI 호환 API: 통합 및 추론을 위한 API를 제공합니다.
서비스용 Docker 이미지: 배포를 위한 표준 및 최적화된 vLLM Docker 이미지를 제공합니다.
MIT 라이센스: 오픈 소스 라이센스 하에 사용 가능합니다.
높은 성능 지표: EVA-A, EVA-X 및 τ-Voice 작업 성공률에서 강력한 결과를 달성합니다.
낮은 단어 오류율: 영어 음성 인식 벤치마크에서 경쟁력 있는 WER을 보여줍니다.
Apriel Voice 27B Preview 시작하기
모델 접근: Hugging Face에서 Apriel Voice 27B Preview 모델 파일을 다운로드하거나 탐색합니다.
환경 설정: 제공된 vLLM Docker 이미지(예: `docker.io/amant555/vllm_apriel_voice:plain-26b-v0.32.0`)를 사용하여 서비스를 설정합니다.
모델 제공: 적절한 GPU 하드웨어에서 Docker 이미지를 실행하여 포트 8000에서 OpenAI 호환 API를 노출합니다.
오디오 길이 구성: 원하는 오디오 입력 길이에 맞게 `VLLM_MAX_AUDIO_DECODE_DURATION_S` 및 `--max-num-batched-tokens`를 조정합니다.
API를 통한 통합: 모델 이름 `Apriel-Voice-27B`를 사용하여 제공된 OpenAI 호환 API에 오디오 또는 텍스트 입력을 전송합니다.
응답 처리: 텍스트 응답을 처리하고 `response.choices[0].message.tool_calls`에서 함수 호출 출력을 검사합니다.
합성기와 쌍으로 사용: 외부 음성 합성기를 통합하여 애플리케이션에서 실시간 음성 상호작용을 가능하게 합니다.
성능 최적화: 더 높은 처리량을 위해 최적화된 Docker 이미지(`docker.io/amant555/vllm_apriel_voice:optimised-26b-v0.32.0`)를 활용합니다.
Apriel Voice 27B Preview의 사용 사례
- 대화형 음성 비서
- 고객 지원 자동화
- 음성 도구 사용
- 음성 전사
- 음성 번역
- 음성 질문 응답
- 다중 모드 대화형 AI
- 지침 따르기
- 실시간 음성 상호작용









