描述
Qwen3-8B 是 Qwen3 系列中的大型语言模型，由阿里巴巴的 Qwen 团队开发，并在 Hugging Face 上以开放权重形式发布，遵循 Apache 2.0 许可证。它是一个密集的因果（仅解码器）语言模型，具有 82 亿个总参数（不包括嵌入时为 69.5 亿），36 层，采用分组查询注意力机制，具有 32 个查询头和 8 个键/值头。
阅读更多
其主要特征是能够在单一模型内切换两种模式：用于复杂逻辑推理、数学和编码的思考模式，以及用于更快的一般对话的非思考模式。Qwen 报告称，思考模式在推理性能上优于其早期的 QwQ 模型，而非思考模式在数学、代码生成和常识推理基准测试中优于 Qwen2.5-instruct。
该模型原生支持 32,768 个令牌的上下文窗口，使用 YaRN 扩展可达 131,072 个令牌。它专为工具使用和代理风格任务而构建：Qwen 表示它在思考和非思考模式下都能与外部工具精确集成，其聊天模板明确支持函数和工具调用。它还支持超过 100 种语言和方言的指令跟随和翻译。
Qwen3-8B 可与 Hugging Face Transformers 库（需要版本 4.51.0 或更高）一起使用，并与常见的本地和云推理工具兼容；使用较旧的 Transformers 版本会引发 "KeyError: 'qwen3'" 错误，因为该架构的支持是专门为此版本添加的。在 Hugging Face 上，该模型在过去一个月内下载超过 1200 万次，总下载次数超过 1.26 亿次，使其成为 Qwen3 系列中使用较广泛的模型之一。Qwen 还发布了与模型相关的研究论文，涵盖了基础架构和评估方法。它旨在为开发者构建需要较小、自托管模型且具备强大推理和工具使用能力的应用，而非面向非技术终端用户。
- 类别AI 模型与大语言模型
- 定价模式开源
- 部署云端, 自托管
- 平台网页版
Qwen3-8B亮点
82 亿参数的密集因果语言模型（不包括嵌入时为 69.5 亿）
在一个模型中可切换的思考模式（推理、数学、编码）和非思考模式（快速对话）
36 层，采用分组查询注意力机制（32 个查询头，8 个键/值头）
原生支持 32,768 个令牌的上下文，使用 YaRN 可扩展至 131,072 个令牌
通过其聊天模板内置工具/函数调用支持
支持超过 100 种语言的指令跟随和翻译
开放权重遵循 Apache 2.0 许可证发布
与 Hugging Face Transformers（4.51.0 及以上版本）和常见推理工具兼容
Qwen3-8B入门
安装依赖：安装最新版本的 Hugging Face Transformers（4.51.0 或更高）。
加载模型：使用 AutoModelForCausalLM 和 AutoTokenizer 加载 Qwen/Qwen3-8B。
选择模式：将 enable_thinking 设置为 True 以进行推理任务，或设置为 False 以进行更快的一般对话。
格式化提示：应用模型的聊天模板来构建消息，包括任何工具定义。
生成响应：运行生成，对于思考模式，单独解析推理内容与最终答案。
Qwen3-8B的使用案例
- 推理和数学任务
- 一般聊天应用
- 代理和工具调用工作流
- 多语言应用
