説明
Qwen3-8Bは、AlibabaのQwenチームによって開発されたQwen3ファミリーの大規模言語モデルで、Apache 2.0ライセンスの下でHugging Faceにオープンウェイトとしてリリースされました。これは、8.2億の総パラメータ（埋め込みを除くと6.95億）、36層、32のクエリヘッドと8のキー/バリューヘッドを持つグループ化クエリアテンションを備えた密な因果（デコーダー専用）言語モデルです。
続きを読む
このモデルの主な特徴は、単一のモデル内で2つのモードを切り替える能力です。複雑な論理推論、数学、コーディングのための思考モードと、より速い一般的な対話のための非思考モードです。Qwenは、思考モードが以前のQwQモデルの推論性能を改善し、非思考モードがQwen2.5-instructの性能を数学、コード生成、常識推論のベンチマークで改善することを報告しています。
このモデルは、32,768トークンのコンテキストウィンドウをネイティブにサポートし、YaRNスケーリングを使用して131,072トークンに拡張可能です。ツール使用とエージェントスタイルのタスクのために構築されており、Qwenは思考モードと非思考モードの両方で外部ツールと正確に統合されることを述べており、そのチャットテンプレートには関数およびツール呼び出しの明示的なサポートが含まれています。また、100以上の言語と方言にわたる指示のフォローと翻訳もサポートしています。
Qwen3-8Bは、Hugging Face Transformersライブラリ（バージョン4.51.0以降が必要）で使用するために配布されており、一般的なローカルおよびクラウド推論ツールと互換性があります。古いTransformersバージョンを使用すると、「KeyError: 'qwen3'」エラーが発生します。これは、このアーキテクチャのサポートがこのリリースのために特に追加されたためです。Hugging Faceでは、モデルは過去1か月で1200万回以上ダウンロードされ、合計で1億2600万回以上ダウンロードされており、Qwen3ファミリーの中で最も広く使用されているモデルの1つとなっています。Qwenは、モデルとともに基盤となるアーキテクチャと評価方法論をカバーするサポート研究論文も発表しています。これは、強力な推論とツール使用機能を持つ小型の自己ホスト可能なモデルを必要とするアプリケーションを構築する開発者を対象としており、非技術的なエンドユーザーを対象としていません。
- カテゴリーAIモデルとLLM
- 料金モデルオープンソース
- デプロイクラウド, セルフホスト
- プラットフォームWeb
Qwen3-8Bのハイライト
8.2Bパラメータの密な因果言語モデル（埋め込みを除くと6.95B）
1つのモデル内で切り替え可能な思考モード（推論、数学、コード）と非思考モード（迅速な対話）
グループ化クエリアテンションを持つ36層（32クエリヘッド、8キー/バリューヘッド）
32,768トークンのネイティブコンテキスト、YaRNを使用して131,072トークンに拡張可能
チャットテンプレートを介した内蔵ツール/関数呼び出しのサポート
100以上の言語にわたる指示のフォローと翻訳
Apache 2.0ライセンスの下でリリースされたオープンウェイト
Hugging Face Transformers（4.51.0以上）および一般的な推論ツールと互換性
Qwen3-8Bをはじめる
依存関係をインストール: 最新のHugging Face Transformers（4.51.0以降）をインストールします。
モデルをロード: AutoModelForCausalLMとAutoTokenizerを使用してQwen/Qwen3-8Bをロードします。
モードを選択: 推論タスクにはenable_thinkingをTrueに、迅速な一般対話にはFalseに設定します。
プロンプトをフォーマット: モデルのチャットテンプレートを適用してメッセージを構造化し、ツール定義を含めます。
応答を生成: 生成を実行し、思考モードの場合は推論内容を最終的な回答とは別に解析します。
Qwen3-8Bの使用例
- 推論および数学タスク
- 一般的なチャットアプリケーション
- エージェントおよびツール呼び出しワークフロー
- 多言語アプリケーション
