설명
Kolibri 1은 Aleph Alpha가 개발한 최첨단 다국어 대형 언어 모델로, 정밀하고 효율적으로 복잡한 작업을 처리하도록 설계되었습니다. 이 모델은 독일어와 영어를 모두 지원하여 다양한 응용 프로그램에 적합합니다. Kolibri 1은 78억 개의 총 매개변수와 토큰당 34억 6천만 개의 활성 매개변수를 특징으로 하는 전문가 혼합 아키텍처를 기반으로 구축되었습니다. 이 아키텍처는 Kolibri 1이 다단계 추론, 검색 보강 생성 및 에이전트 도구 호출에서 뛰어난 성능을 발휘하도록 하여 코딩 및 언어 지원 작업에 적합하게 만듭니다.
더 읽기
Kolibri 1은 최대 1,048,576 토큰의 컨텍스트 길이에 최적화되어 있지만, 서비스 효율성을 위해 권장되는 한계는 262,144 토큰입니다. 이 모델은 bfloat16 정밀도로 작동하며, 높은 추론 능력이 요구되는 환경에 가장 적합합니다. Apache 2.0 라이센스 하에 출시되어 개발자와 연구자에게 개방적 접근과 유연성을 보장합니다.
이 모델의 훈련에는 20조 개의 토큰으로 구성된 포괄적인 데이터셋이 포함되었으며, 영어 및 독일어 웹 데이터, 지침 및 추론 작업, 코드에 중점을 두었습니다. 훈련 과정에는 중간 훈련 단계와 긴 컨텍스트 적응 단계가 포함되어 모델이 확장된 컨텍스트 윈도우를 처리할 수 있는 능력을 향상시켰습니다. Kolibri 1은 또한 유해한 요청을 거부하고 개인 식별 정보를 보호하는 메커니즘을 포함한 고급 안전 기능을 통합하고 있습니다.
Kolibri 1은 법률, 전자기기, 하드웨어 및 항공과 같은 다양한 산업에서 사용하도록 설계되어 강력한 검색 보강 질문 응답 기능을 제공합니다. 이 모델의 아키텍처는 효율적인 도구 호출 및 터미널 상호작용을 지원하여 소프트웨어 엔지니어링 및 터미널 환경에서 귀중한 자산이 됩니다. 광범위한 기능과 오픈 소스 가용성을 갖춘 Kolibri 1은 복잡한 언어 작업을 위해 고급 AI를 활용하고자 하는 개발자와 연구자에게 강력한 도구입니다.
- 카테고리AI 모델 및 LLM
- 요금제오픈소스
- 배포클라우드
- 플랫폼웹
Kolibri 1 하이라이트
전문가 혼합 아키텍처
총 78억 개의 매개변수
토큰당 34억 6천만 개의 활성 매개변수
독일어 및 영어 지원
최대 1,048,576 토큰의 컨텍스트 길이
bfloat16 정밀도
Apache 2.0 라이센스
다단계 추론 최적화
Kolibri 1 시작하기
모델 페이지에 접근하기: Hugging Face 웹사이트 방문
인증하기: 계정에 로그인
구성하기: 모델 매개변수 설정
프롬프트 전송하기: 쿼리 입력
미세 조정하기: 특정 작업에 맞게 모델 조정
Kolibri 1의 사용 사례
- 다국어 지원
- 복잡한 추론
- 검색 보강 생성
- 코딩 지원
- 도구 호출









