설명
North Mini Code는 코드 생성, 에이전트 소프트웨어 공학 및 터미널 작업을 최적화하기 위해 Cohere와 Cohere Labs에서 개발한 정교한 모델입니다. 300억 개의 매개변수와 30억 개의 활성 매개변수를 갖춘 이 모델은 복잡한 코딩 작업에 매우 효율적입니다. 이 모델은 256K의 컨텍스트 길이와 64K의 최대 출력 길이를 지원하여 광범위한 코딩 프로젝트에 충분한 용량을 제공합니다.
더 읽기
모델 아키텍처는 희소 혼합 전문가(Mixture-of-Experts) 설계를 기반으로 한 디코더 전용 Transformer입니다. 이 모델은 RoPE와 위치 임베딩 없이 전역 주의(global attention)와 슬라이딩 윈도우 주의를 교차하여 효율적인 주의 메커니즘을 통합합니다. 이 설계는 128명의 전문가가 포함된 피드포워드 블록으로 보완되며, 각 토큰당 8명이 활성화되어 정확하고 효과적인 처리를 보장합니다.
North Mini Code는 에이전트 코딩에 중점을 두고 검증 가능한 보상으로 강화 학습을 통해 두 단계의 연속 감독 세부 조정을 사용하여 후속 훈련되었습니다. 이 훈련 접근 방식은 복잡한 코딩 작업과 도구 사용 기능을 처리하는 능력을 향상시킵니다. 이 모델은 Apache 2.0 라이센스 하에 오픈 소스로 제공되며, Hugging Face 플랫폼을 통해 사용할 수 있습니다.
사용자는 OpenCode와 호스팅된 Hugging Face Space에서 North Mini Code를 체험할 수 있으며, 모델 가중치를 다운로드하기 전에 실습 경험을 제공합니다. 이 모델의 성능은 SWE-Bench 및 Terminal-Bench를 포함한 다양한 방법론을 사용하여 벤치마킹되었으며, 에이전트 코딩 작업에서의 능력을 입증합니다.
North Mini Code는 코드 생성 및 소프트웨어 공학 작업을 위한 강력한 모델을 찾는 개발자 및 엔지니어에게 이상적입니다. 도구 사용 기능은 Transformers의 채팅 템플릿을 통해 지원되어 기존 워크플로우에 원활하게 통합됩니다.
- 카테고리AI 코딩 어시스턴트
- 요금제오픈소스
- 배포클라우드
- 플랫폼웹
North Mini Code 하이라이트
30B-A3B 매개변수 모델
코드 생성을 위해 최적화됨
에이전트 소프트웨어 공학 지원
희소 혼합 전문가 아키텍처
효율적인 주의 구현
256K 컨텍스트 길이
64K 최대 출력 길이
Apache 2.0 하에 오픈 소스
North Mini Code 시작하기
모델 페이지에 접근: Hugging Face 방문
인증: 계정에 로그인
구성: 샘플링 매개변수 설정
프롬프트 전송: transformers 파이프라인 사용
세부 조정: 감독 세부 조정 적용
North Mini Code의 사용 사례
- 코드 생성
- 소프트웨어 공학
- 터미널 작업
- 도구 통합
- 벤치마크 테스트
