설명
Kimi K3.1 Pro는 다중 모달 에이전틱 모델에서 중요한 발전을 나타내며, 2.8조 개의 매개변수를 가진 개방형 솔루션을 제공합니다. K3.1 시리즈의 첫 번째 모델로서, Kimi K3 아키텍처를 기반으로 하며, 수백 개의 하위 도메인에서 광범위한 공동 강화 학습을 통해 향상되었습니다. 이러한 철저한 훈련은 다양한 복잡한 작업에서 뛰어난 성능을 발휘하는 모델을 만들어냈습니다.
더 읽기
Kimi K3.1 Pro의 핵심 강점은 인상적인 100만 토큰의 컨텍스트 윈도우로, 매우 길고 복잡한 입력을 처리하고 이해할 수 있게 해줍니다. 이 확장된 컨텍스트 기능은 대규모 코드베이스를 이해해야 하는 고급 코딩과 방대한 문서 및 데이터 세트를 분석해야 하는 상세한 금융 연구와 같은 요구되는 애플리케이션에 필수적입니다. 이 모델은 3D 생성 및 전반적인 사실 정확성에서도 상당한 개선을 보여주어 개발자와 연구자에게 다재다능한 도구가 됩니다.
Kimi K3.1 Pro는 Mixture-of-Experts (MoE) 아키텍처를 사용하며, 1040억 개의 활성화된 매개변수와 93개의 레이어를 포함하고 있습니다. 여기에는 효율적인 장기 컨텍스트 모델링을 위한 69개의 KDA 및 24개의 Gated DSA 주의 레이어가 포함됩니다. 비전 인코더인 MoonViT-V2는 4억 1000만 개의 매개변수를 기여하여 본래 다중 모달 기능을 지원하며, 텍스트와 이미지 입력을 모두 처리합니다. 이 모델은 양자화 인식 훈련을 통해 MXFP4 가중치와 MXFP8 활성화를 지원하여 성능을 최적화합니다.
Kimi K3.1 Pro는 수많은 벤치마크에서 광범위한 평가를 거쳤으며, 코딩(예: Terminal-Bench 4.0, SWE Marathon), 에이전틱 작업(예: HLE-Full w/ tools, BrowseComp), 추론 및 지식(예: GPQA-Diamond, MMMU-Pro), 사이버 보안(예: ExploitBench, ExploitGym)과 같은 카테고리에서 다른 주요 모델과 경쟁력 있는 성능을 보여주었습니다. 이러한 평가는 복잡한 문제 해결 및 정보 처리에서의 강력한 능력을 강조합니다.
배포 및 접근성은 간소화되어 있으며, Kimi K3.1 Pro의 API는 platform.kimi.ai에서 제공되어 OpenAI/Anthropic 호환 API 접근을 제공합니다. vLLM, SGLang 및 TokenSpeed와 같은 추론 엔진과 함께 사용하는 것이 권장됩니다. 사용자는 `reasoning_effort` 요청 필드를 통해 모델의 사고 노력을 구성할 수 있으며, "low", "high", "max" 옵션이 제공됩니다. 이 모델은 Kimi K3.1 Pro 라이센스 하에 출시되었으며, 지원은 [email protected]를 통해 제공됩니다.
- 카테고리AI 모델 및 LLM
- 배포클라우드
- 플랫폼웹
Kimi K3.1 Pro 하이라이트
개방형 가중치, 본래 다중 모달 에이전틱 모델
총 2.8조 개의 매개변수
100만 토큰의 컨텍스트 윈도우
Mixture-of-Experts (MoE) 아키텍처
향상된 코딩 능력
개선된 3D 생성 능력
고급 금융 연구 지원
높은 사실 정확성
이미지 및 텍스트 모달리티 지원
양자화 인식 훈련 (MXFP4 가중치 / MXFP8 활성화)
OpenAI/Anthropic 호환 API 제공
구성 가능한 사고 노력 (low, high, max)
다중 턴 대화 및 도구 호출 지원
광범위한 코딩 및 에이전틱 벤치마크에서 평가됨
Kimi K3.1 Pro 라이센스 하에 출시됨
Kimi K3.1 Pro 시작하기
모델 API 접근: platform.kimi.ai로 이동하여 'kimi-k3.1-pro'를 선택하여 API에 접근합니다.
추론 엔진 구성: vLLM, SGLang 또는 TokenSpeed와 같은 추천 추론 엔진에서 모델을 실행합니다.
사고 노력 설정: 작업 요구 사항에 따라 'reasoning_effort' 요청 필드를 'low', 'high' 또는 'max'로 구성합니다.
프롬프트 전송: API를 활용하여 텍스트 및 이미지 입력을 처리합니다.
다중 턴 대화 처리: 'reasoning_content' 및 'tool_calls'를 포함한 전체 어시스턴트 메시지를 메시지로 다시 전달하여 지속적인 상호작용을 유지합니다.
고급 기능 탐색: 비전 입력, 구조화된 출력 및 동적 도구 로딩에 대한 가이드를 위해 Kimi K3.1 Pro 빠른 시작을 참조합니다.
Kimi K3.1 Pro의 사용 사례
- 고급 코딩
- 3D 콘텐츠 생성
- 금융 연구
- 사실 정확성 향상
- 다중 모달 에이전틱 작업
- 장기 컨텍스트 이해
- 사이버 보안 분석
- 일반 추론 및 지식
