설명
Laguna S 2.1은 에이전틱 코딩 및 장기 작업을 위해 개발된 정교한 Mixture-of-Experts 모델입니다. 총 1180억 개의 매개변수와 토큰당 80억 개의 활성화된 매개변수를 갖추고 있으며, Laguna 시리즈의 일환으로 Laguna XS 2.1과 Laguna M.1 사이에 위치합니다. 이 모델은 256개의 라우팅된 전문가와 하나의 공유 전문가에 대해 softplus 게이팅을 사용하는 토큰 선택 라우터를 채택하고 있으며, 그룹화된 쿼리 주의 및 교차된 전체/슬라이딩 윈도우 주의를 제공합니다.
더 읽기
OpenMDW-1.1 라이선스 하에 출시된 Laguna S 2.1은 사용자가 자유롭게 사용, 수정 및 상업적 제품을 구축할 수 있도록 허용합니다. 소프트웨어 엔지니어링 작업에 최적화되어 있으며, 훈련된 DFlash 초안 모델을 통해 네이티브 추론 지원 및 추측 디코딩을 제공합니다. 이 모델은 FP8, NVFP4, INT4 및 GGUF와 같은 양자화된 변형을 지원하여 광범위한 하드웨어 자원의 필요성을 줄입니다.
Laguna S 2.1은 1:3의 글로벌 대 SWA 비율로 48개의 레이어를 갖춘 혼합 SWA 및 글로벌 주의 레이아웃을 특징으로 합니다. 1,048,576 토큰의 컨텍스트 윈도우를 제공하여 광범위한 컨텍스트 관리를 가능하게 합니다. 모델의 어휘는 100,352개의 토큰으로 구성되어 있으며, 텍스트-투-텍스트 모드를 위한 Laguna 가족 토크나이저를 사용합니다.
벤치마크 결과는 Terminal-Bench 2.1 및 SWE-bench 다국어를 포함한 다양한 평가에서 Laguna S 2.1의 경쟁력 있는 성능을 입증합니다. vLLM, SGLang, TRT-LLM 및 llama.cpp와 같은 엔진과 원활하게 통합되어 배포 및 사용의 유연성을 제공합니다.
소프트웨어 엔지니어링 및 에이전틱 코딩 사용 사례를 위해 설계된 Laguna S 2.1은 Poolside의 허용 가능한 사용 정책의 적용을 받으며, 책임 있는 응용 프로그램을 보장합니다. 사용자는 안전 가드레일을 유지하고 Poolside에 보안 취약점을 보고할 것을 권장합니다.
- 카테고리AI 모델 및 LLM
- 요금제오픈소스
- 배포클라우드
- 플랫폼웹
Laguna S 2.1 하이라이트
총 1180억 개의 매개변수
토큰당 80억 개의 활성화된 매개변수
Mixture-of-Experts 모델
OpenMDW-1.1 라이선스
1,048,576 토큰의 컨텍스트 윈도우
DFlash를 통한 추측 디코딩
양자화된 변형 가능
네이티브 추론 지원
Laguna S 2.1 시작하기
모델 페이지에 접근: Hugging Face 웹사이트 방문
인증: 계정에 로그인
구성: 모델 매개변수 및 옵션 설정
프롬프트 전송: 처리할 텍스트 입력
미세 조정: 특정 작업에 맞게 모델 조정
Laguna S 2.1의 사용 사례
- 에이전틱 코딩
- 장기 작업
- 소프트웨어 엔지니어링
- 상업적 제품 개발
- 추측 디코딩
