설명
GLiDE는 Fastino에서 개발한 의사 결정 모델로, 텍스트, JSON 또는 이미지 형태의 입력 데이터를 처리하여 의사 결정 작업을 위한 확률 기반 결과를 제공합니다. 이 모델은 특히 분류, 라우팅 및 점수 매기기 애플리케이션에 유용합니다. 사용자는 Fastino의 호스팅 API를 통해 GLiDE에 접근할 수 있으며, 인증을 위해 API 키가 필요합니다. 이 모델은 선택, noul(예/아니오) 및 점수와 같은 다양한 의사 결정 유형을 지원하며, 질문당 최대 255개의 옵션을 처리할 수 있습니다.
더 읽기
GLiDE는 긴 컨텍스트와 효율적으로 작동하도록 설계되어 있으며, 질문 프롬프트당 최대 40,000 토큰을 지원합니다. Python API와 System One 형식으로 통신하는 HTTP 서버를 사용하여 작동합니다. 모델의 하드웨어 요구 사항에는 최소 80GB의 메모리를 가진 GPU가 포함되며, NVIDIA RTX PRO 6000, B200 및 H100 GPU에서 테스트되었습니다.
모델의 가중치는 디스크에서 52.2GB를 차지하며, 39k 토큰 질문에 대해 최대 GPU 메모리 사용량은 60.2GB입니다. GLiDE는 성능을 최적화하기 위해 플래시-선형-주의와 같은 기능을 제공하여 더 빠른 처리를 가능하게 합니다. 이 모델은 결정론적이며, 유사한 요청에 대해 일관된 결과를 보장합니다.
GLiDE의 제한 사항에는 질문당 최대 255개의 옵션과 질문 프롬프트당 40,000 토큰 제한이 포함됩니다. 텍스트나 설명을 생성하지 않으며, 제공된 옵션을 기반으로 한 의사 결정에만 집중합니다. 이 모델은 Fastino 커뮤니티 라이선스 하에 라이선스가 부여되며, Qwen 및 기타 제3자 구성 요소의 기여가 포함되어 있습니다.
- 카테고리AI 모델 및 LLM
- 배포클라우드
- 플랫폼웹
GLiDE 하이라이트
분류를 위한 의사 결정 모델
텍스트, JSON 및 이미지 지원
Fastino를 통한 API 접근
질문당 최대 255개 옵션 처리
질문 프롬프트당 40,000 토큰
Python API 및 HTTP 서버
결정론적 결과
80GB 메모리 요구 GPU
GLiDE 시작하기
모델 페이지 접근: Hugging Face의 GLiDE 페이지 방문
인증: Fastino에서 API 키 획득
구성: 필요한 매개변수로 API 설정
프롬프트 전송: API를 사용하여 의사 결정 요청 전송
GLiDE의 사용 사례
- 분류 작업
- 라우팅 결정
- 점수 매기기 애플리케이션
- 다중 모드 처리
- 내부 의사 결정 지원
