描述
GLiDE由Fastino开发,是一个处理文本、JSON或图像等输入数据的决策模型,提供基于概率的决策结果。该模型特别适用于分类、路由和评分应用。用户可以通过Fastino托管的API访问GLiDE,该API需要API密钥进行身份验证。该模型支持多种决策类型,包括选择、是/否(noul)和评分,能够处理每个问题最多255个选项。
阅读更多
GLiDE旨在高效处理长上下文,支持每个问题提示最多40,000个令牌。它使用Python API和以System One格式通信的HTTP服务器进行操作。该模型的硬件要求包括至少80 GB内存的GPU,并已在NVIDIA RTX PRO 6000、B200和H100 GPU上进行了测试。
该模型的权重在磁盘上占用52.2 GB,39k令牌问题的峰值GPU内存使用为60.2 GB。GLiDE经过性能优化,具有快速处理的闪存线性注意力等功能。它是确定性的,确保在类似请求中提供一致的结果。
GLiDE的限制包括每个问题最多255个选项和每个问题提示的40,000个令牌限制。它不生成文本或解释,专注于基于提供的选项进行决策。该模型根据Fastino社区许可证进行许可,并得到了Qwen和其他第三方组件的贡献。
- 类别AI 模型与大语言模型
- 部署云端
- 平台网页版
GLiDE亮点
用于分类的决策模型
支持文本、JSON和图像
通过Fastino访问API
每个问题最多处理255个选项
每个问题提示40,000个令牌
Python API和HTTP服务器
确定性结果
需要80 GB内存的GPU
GLiDE入门
访问模型页面:访问Hugging Face上的GLiDE页面
身份验证:从Fastino获取API密钥
配置:设置API及必要参数
发送提示:使用API发送决策请求
GLiDE的使用案例
- 分类任务
- 路由决策
- 评分应用
- 多模态处理
- 内部决策支持







