描述
Solar Pro Preview Instruct 是一个前沿的大型语言模型 (LLM),旨在适应单个 GPU,拥有 220 亿个参数。该模型表现出色,超越了参数少于 300 亿的模型,并与那些超过其三倍大小的模型竞争,例如拥有 700 亿参数的 Llama 3.1。该模型采用增强版的深度上采样方法构建,将一个 140 亿参数的 Phi-3-medium 模型扩展到 220 亿参数,针对 80GB VRAM 的 GPU 进行了优化。
阅读更多
Solar Pro Preview 的训练策略和数据集经过精心策划,导致其在性能上显著优于 Phi-3-medium 模型,特别是在评估模型知识和指令跟随能力的基准测试如 MMLU-Pro 和 IFEval 上。尽管这是一个预发布版本,但它已经因其效率和能力而脱颖而出,官方 Solar Pro 版本计划于 2024 年 11 月发布,届时将包括扩展的语言支持和更长的上下文窗口。
Solar Pro Preview 专门设计用于指令跟随任务和对话互动,利用 ChatML 模板以实现最佳性能。该模型作为 API 在 Upstage 控制台中提供,提供多种集成方法。尽管在语言覆盖和上下文长度方面目前存在一些限制,但 Solar Pro Preview 准备进一步开发和增强。
- 类别AI 模型与大语言模型
- 部署云端
- 平台网页版
Solar Pro Preview Instruct亮点
220 亿个参数
单 GPU 兼容性
优于 300 亿参数以下模型的性能
可与 700 亿参数以上的模型相媲美
增强的深度上采样方法
针对 80GB VRAM 进行了优化
针对对话任务进行了指令调优
在 Upstage 控制台中作为 API 提供
Solar Pro Preview Instruct入门
访问页面:访问 Hugging Face 模型页面
加载模型:使用提供的推理代码
配置环境:设置 80GB VRAM 的 GPU
集成:在 Upstage 控制台中使用 API
微调:为任务应用 ChatML 模板
Solar Pro Preview Instruct的使用案例
- 对话 AI
- 指令跟随
- 基准测试
- API 集成
- 语言模型研究






