설명
5단계 미리보기는 StepFun이 개발한 주력 AI 모델로, 에이전틱 작업을 위해 특별히 설계되었습니다. 이 모델은 소프트웨어 엔지니어링, 전문 지식 작업 및 금융 분야에서 특히 강력합니다. 6000억 개의 총 매개변수와 270억 개의 활성 매개변수를 가진 희소 Mixture-of-Experts(MoE) 아키텍처를 특징으로 하며, 최대 100만 개의 토큰을 처리할 수 있는 컨텍스트를 제공합니다. 이를 통해 모델은 텍스트, 이미지 및 비디오 입력을 처리할 수 있어 복잡한 작업에 매우 유연합니다.
더 읽기
소프트웨어 엔지니어링 분야에서 5단계 미리보기는 리포지토리 수준의 작업, 프론트엔드 및 시각적 개발, 장치 프로그래밍을 지원합니다. 대규모 코드베이스를 탐색하고, 파일 간의 변경 사항을 조정하며, 코드를 실행하고 검증하고 결과를 반복할 수 있습니다. 모델의 장기 에이전틱 실행 기능은 반복적인 도구 호출, 실행, 검증 및 수정을 요구하는 작업을 수행할 수 있게 하며, 워크플로우 전반에 걸쳐 장기 컨텍스트 정보를 활용합니다.
전문 지식 작업을 위해 5단계 미리보기는 연구, 다중 모드 이해 및 도구 사용을 결합하여 긴 문서, 차트, 스크린샷, 이미지 및 비디오를 분석하고 구조화된 보고서 및 분석을 생성합니다. 금융에 대한 초점 덕분에 정량적 추론과 금융 데이터 및 지원 문서 분석을 결합하는 작업에 특히 능숙합니다.
5단계 미리보기는 vLLM 또는 SGLang과 같은 프레임워크를 사용하여 OpenAI 호환 API를 통해 배포되거나 독립형 Transformers 구현을 통해 오프라인 생성에 사용될 수 있습니다. 다양한 하드웨어 설정에서 FP8 및 BF16 정밀도를 포함한 다양한 배포 구성을 지원합니다. 이 모델은 모델 사용, 수정 및 배포에 대한 추가 조건이 포함된 Apache-2.0 스타일의 StepFun 모델 라이센스 1.0에 따라 라이센스가 부여됩니다.
- 카테고리AI 모델 및 LLM
- 배포클라우드
- 플랫폼웹
5단계 미리보기 하이라이트
희소 Mixture-of-Experts 아키텍처
600B 총 매개변수
27B 활성 매개변수
최대 1M 토큰의 컨텍스트 지원
다중 모드 입력: 텍스트, 이미지, 비디오
리포지토리 수준 소프트웨어 엔지니어링 지원
장기 에이전틱 실행
금융 및 전문 지식 작업에 강력함
5단계 미리보기 시작하기
모델 접근: Hugging Face 방문
인증: 자격 증명으로 로그인
환경 설정: 하드웨어 및 소프트웨어 구성
API를 통한 통합: OpenAI 호환 API 사용
최적화: 성능을 위한 추론 설정 조정
5단계 미리보기의 사용 사례
- 소프트웨어 엔지니어링
- 전문 지식 작업
- 금융
- 장기 실행
- 다중 모드 처리
