설명
MiniCPM5-2B는 MiniCPM5 시리즈의 두 번째 모델로, MiniCPM5-1B에 이어 출시되었습니다. 이 모델은 장치 내, 로컬 배포 및 자원이 제한된 시나리오를 위해 구축된 밀집형 2B 변환기 모델입니다. 이 모델은 동일한 훈련 레시피를 확장하여 2B 클래스 오픈 소스 모델 내에서 최첨단(SOTA) 성능을 달성합니다. 특히 코딩, 수학, 긴 맥락 이해, 도구 사용 및 에이전트 작업과 같은 분야에서 4B 클래스의 더 큰 모델과 경쟁력을 유지합니다.
더 읽기
이 모델은 UltraData 패밀리의 고품질 데이터 세트를 사용하여 훈련되며, 여기에는 웹 사전 훈련을 위한 UltraX, 코딩 기능을 위한 UltraData-Code, 에이전트 훈련을 위한 UltraData-SFT-Agent-2609, 강화 학습을 위한 UltraData-RL-2609가 포함됩니다. 이러한 데이터 세트는 모델의 포괄적인 기능에 기여하여 로컬 어시스턴트, 코딩 에이전트 및 추론 시나리오와 같은 다양한 응용 프로그램에 적합하게 만듭니다.
MiniCPM5-2B는 2,516,756,480개의 매개변수, 42개의 레이어 및 131,072의 맥락 길이를 가진 표준 LlamaForCausalLM 아키텍처를 사용합니다. 이 모델은 작은 배포 발자국을 유지하면서 네이티브 긴 맥락 지원을 제공하도록 설계되었습니다. 모델의 훈련은 기본 훈련, 중간 훈련 및 후 훈련 단계를 포함하는 UltraData 계층화 데이터 관리의 전체 스택 실습을 포함합니다.
후 훈련 중에 모델은 감독된 미세 조정(SFT), 강화 학습(RL) 및 정책 내 증류(OPD)를 통해 기능을 더욱 향상시킵니다. RL + OPD는 모델의 추론 및 일반 기능을 크게 향상시키며, 16개의 전문 모델의 전문 지식을 하나의 릴리스 모델로 통합합니다.
MiniCPM5-2B는 BF16, GGUF 및 MLX를 포함하여 다양한 배포 시나리오에 적합한 다양한 형식으로 제공됩니다. 이 모델은 Transformers, vLLM, SGLang 및 llama.cpp와 같은 여러 백엔드를 지원하여 다양한 플랫폼과 장치에서 유연한 배포를 가능하게 합니다. 이 모델은 Apache-2.0 라이센스 하에 출시되어 오픈 액세스 및 협업을 보장합니다.
- 카테고리AI 모델 및 LLM
MiniCPM5-2B 하이라이트
밀집형 2B 변환기 모델
장치 내 배포
자원이 제한된 시나리오
최첨단 성능
고품질 훈련 데이터 세트
표준 LlamaForCausalLM 아키텍처
네이티브 긴 맥락 지원
UltraData 계층화 데이터 관리
MiniCPM5-2B 시작하기
모델 페이지에 접근: Hugging Face 모델 페이지 방문
인증: Hugging Face 계정에 로그인
구성: 모델 매개변수 및 환경 설정
프롬프트 전송: 특정 작업에 모델 사용
미세 조정: 전문 응용 프로그램에 맞게 모델 조정
MiniCPM5-2B의 사용 사례
- 로컬 어시스턴트
- 코딩 에이전트
- 도구 사용 워크플로우
- 추론 시나리오
- 에이전트 작업
