설명
Granite Switch 4.1 8B는 모듈형 접근 방식을 통해 다양한 작업을 처리하도록 설계된 정교한 대형 언어 모델입니다. 이 모델은 기본 모델과 여러 어댑터 및 인코더를 결합하여 자연어 처리, 의사 결정 및 음성 인식 기능 간의 원활한 전환을 가능하게 합니다. 이 모델은 특히 채팅 템플릿 내에 내장된 제어 토큰을 사용하여 필요에 따라 어댑터를 활성화할 수 있는 능력으로 주목받고 있습니다.
더 읽기
기본 모델인 ibm-granite/granite-4.1-8b는 80억 개의 매개변수와 128K 토큰의 컨텍스트 길이를 특징으로 합니다. 영어, 독일어, 스페인어, 프랑스어, 일본어 등 여러 언어를 지원합니다. 이 모델의 아키텍처는 밀집 디코더 전용 변환기로, GQA, RoPE, SwiGLU 및 RMSNorm과 같은 고급 기술을 통합하고 있습니다.
Granite Switch 4.1 8B는 두 가지 주요 어댑터를 포함합니다: 일반적인 의사 결정 기능을 제공하는 의사 결정 aLoRA 어댑터와 해로운 언어, 비속어 및 사회적 편견과 같은 안전 위험을 감지하는 guardian-core aLoRA 어댑터입니다. 또한, 이 모델은 빠른 전사 작업을 위해 최적화된 Granite Speech 5.0 TurboCTC 인코더를 통해 내장된 음성 인식 기능을 제공합니다.
이 모델은 유연하고 효율적으로 설계되어 있으며, 별도의 서버 없이 채팅, 의사 결정 및 오디오 전사를 지원하는 단일 호스팅 엔드포인트를 제공합니다. Apache 2.0 라이선스 하에 제공되어 개방적인 접근 및 수정 권한을 보장합니다. 이 모델은 HuggingFace Transformers 및 vLLM 백엔드와 호환되어 다양한 응용 프로그램에서 접근할 수 있습니다.
Granite Switch 4.1 8B는 다양한 도메인에서 복잡한 작업을 처리할 수 있는 다재다능한 LLM을 찾는 개발자와 연구자에게 이상적입니다. 모듈형 설계와 오픈 소스 특성 덕분에 AI 연구 및 응용 프로그램을 발전시키는 데 유용한 도구입니다.
- 카테고리AI 모델 및 LLM
- 요금제오픈소스
- 배포클라우드
- 플랫폼웹
Granite Switch 4.1 8B 하이라이트
모듈형 LLM 아키텍처
80억 개의 매개변수를 가진 기본 모델
여러 언어 지원
의사 결정 어댑터
안전 감지 어댑터
내장된 음성 인식 인코더
제어 토큰 활성화
Apache 2.0 라이선스
Granite Switch 4.1 8B 시작하기
모델 페이지 접근: Hugging Face 모델 페이지 방문
인증: 접근 자격 증명 확인
구성: 원하는 어댑터로 모델 설정
프롬프트 전송: 채팅 템플릿을 사용하여 상호작용
미세 조정: 필요에 따라 모델 매개변수 조정
Granite Switch 4.1 8B의 사용 사례
- 다국어 채팅
- 의사 결정 지원
- 음성 전사
- 안전 모니터링
- AI 연구















