설명
Solar Open 2는 Upstage에서 개발한 대형 언어 모델로, 사무 생산성, 문서 집약적 작업 및 코딩과 같은 에이전트 사용 사례를 위해 특별히 설계되었습니다. 이 모델은 하이브리드 주의 혼합 전문가(MoE) 아키텍처를 기반으로 하여, 선형 및 소프트맥스 주의 레이어를 결합하여 긴 컨텍스트 설정에서도 효율적인 추론을 제공합니다. 이 모델은 2500억 개의 매개변수를 자랑하며, 토큰당 150억 개만 활성화되어 최소한의 추론 비용을 보장합니다.
더 읽기
이 모델은 선형 주의 레이어 덕분에 100만 토큰의 컨텍스트 길이를 지원하며, 이는 토큰 순서를 본질적으로 인코딩하여 위치 인코딩의 필요성을 제거합니다. 이러한 설계 선택은 Solar Open 2가 긴 컨텍스트 메모리를 효율적으로 유지할 수 있게 합니다. 이 모델은 영어, 한국어 및 일본어를 지원하는 다국어 모델로, 다양한 응용 프로그램에 적합합니다.
Solar Open 2는 NVIDIA B200 GPU를 사용하여 효율적으로 훈련되었으며, 총 200만 GPU 시간이 소요되었습니다. 이전 모델인 Solar Open 1에서 선택적으로 가중치를 전이하여 초기화되어 2500억 규모에서 수렴 속도를 가속화했습니다. 이 모델의 성능은 에이전트 벤치마크에서 가장 강력한 오픈 웨이트 모델들과 경쟁력이 있으며, 도구 호출, 다단계 추론 및 엔드 투 엔드 작업 실행이 필요한 작업에서 뛰어난 성능을 발휘합니다.
배포를 위해 Solar Open 2는 vLLM을 사용하여 제공할 수 있으며, Docker 또는 소스에서 설치할 수 있는 옵션이 있습니다. OpenAI 함수 호출 인터페이스를 통해 도구 호출을 지원하며, Anthropic의 Claude Code 및 Nous Research의 Hermes Agent와 같은 에이전트와 통합할 수 있습니다. 이 모델은 Upstage Solar 라이선스 하에 배포되며, 파생 AI 모델에 대한 특정 요구 사항이 있습니다.
- 카테고리AI 모델 및 LLM
- 배포클라우드, 셀프 호스팅
- 플랫폼웹
Solar Open 2 하이라이트
250B 매개변수
15B 활성 매개변수
하이브리드 주의 MoE 아키텍처
1M 토큰 컨텍스트 길이
다국어 지원
효율적인 추론
도구 호출 인터페이스
Upstage Solar 라이선스
Solar Open 2 시작하기
모델 페이지에 접근: Hugging Face 웹사이트 방문
인증: Hugging Face 계정에 로그인
구성: 원하는 매개변수로 모델 설정
프롬프트 전송: 텍스트 생성을 위해 모델 사용
미세 조정: 특정 작업에 맞게 모델 조정
Solar Open 2의 사용 사례
- 사무 생산성
- 문서 처리
- 코딩 지원
- 다국어 응용 프로그램
- 도구 통합
