Hy3 预览

描述

Hy3 预览由腾讯混元开发，是一个强大的开源语言模型，旨在在各种复杂任务中表现出色。它采用混合专家（MoE）架构，具有 2950 亿个总参数，每次推理激活 210 亿个参数。该设计使其在数学、编码和多语言基准测试中实现高性能，超越许多更大的模型。

该模型支持高达 256K 的上下文窗口，适合解析冗长和复杂的输入。Hy3 预览可通过 vLLM 或 SGLang 部署，并可通过腾讯云和 OpenRouter 访问。它提供与 OpenAI 兼容的 API，具有三种推理模式：no_think、low 和 high。

Hy3 预览根据腾讯 Hy 社区许可协议发布，模型权重可在 Hugging Face、ModelScope 和 GitCode 等平台上获取。API 访问的定价约为 GPT-4 价格的十分之一，为开发者提供了成本效益高的解决方案。

该模型集成到多个腾讯产品中，包括元宝、CodeBuddy 和 WorkBuddy，利用 AI 驱动的功能增强其能力。Hy3 预览的架构在参数规模和性能之间取得了平衡，使其成为需要高效和有效 AI 解决方案的应用的战略选择。

Hy3 预览亮点

• 2950 亿总参数

• 210 亿激活参数

• 256K 上下文窗口

• 混合专家架构

• 与 OpenAI 兼容的 API

• 可在腾讯云上使用

• OpenRouter 集成

• 腾讯 Hy 社区许可协议

• 竞争力基准分数

• 成本效益高的 API 定价

• 与腾讯产品集成

• 支持 vLLM 和 SGLang 部署

• 三种推理模式

• Hugging Face 上的模型权重

• 90 天内构建完成

Hy3 预览入门

1. 1

   配置：通过 vLLM 或 SGLang 设置部署

2. 2

   使用：通过腾讯云或 OpenRouter 访问

3. 3

   优化：为特定任务选择推理模式

4. 4

   集成：与腾讯产品如元宝连接

Hy3 预览的使用案例

• 数学问题解决
• 代码生成
• 多语言翻译
• AI 聊天机器人开发
• 生产力工具

Hy3 预览的常见问题

• 什么是 Hy3 预览？

  Hy3 预览是腾讯混元推出的开源语言模型，具有 2950 亿个参数和 256K 上下文窗口。

• Hy3 预览与竞争对手相比如何？

  Hy3 预览在数学、编码和多语言基准测试中取得高分，超越了更大的模型。

• Hy3 预览的定价模型是什么？

  API 访问的定价约为 GPT-4 价格的十分之一，提供成本效益。

• Hy3 预览的架构是什么？

  它采用混合专家架构，具有 2950 亿个总参数，每次激活 210 亿个参数。

• 我可以在哪里部署 Hy3 预览？

  Hy3 预览可以通过 vLLM 或 SGLang 部署，并可在腾讯云和 OpenRouter 上使用。

• Hy3 预览的开源许可证是什么？

  Hy3 预览根据腾讯 Hy 社区许可协议发布。

• Hy3 预览中有哪些推理模式？

  API 提供三种推理模式：no_think、low 和 high。

• Hy3 预览是如何开发的？

  Hy3 预览在 90 天内构建完成，整合了腾讯产品生态系统的反馈。