Deskripsi
Qwen3-8B adalah model bahasa besar dalam keluarga Qwen3, yang dikembangkan oleh tim Qwen Alibaba dan dirilis sebagai bobot terbuka di Hugging Face di bawah lisensi Apache 2.0. Ini adalah model bahasa kausal (hanya dekoder) yang padat dengan total 8,2 miliar parameter (6,95 miliar tanpa embedding), 36 lapisan, dan perhatian kueri terkelompok dengan 32 kepala kueri dan 8 kepala kunci/nilai.
Baca Selengkapnya
Fitur utama yang membedakan adalah kemampuan untuk beralih antara dua mode dalam satu model: mode berpikir untuk penalaran logis yang kompleks, matematika, dan pengkodean, serta mode non-berpikir untuk dialog umum yang lebih cepat. Qwen melaporkan bahwa mode berpikir meningkatkan kinerja penalaran dibandingkan model QwQ sebelumnya, dan bahwa mode non-berpikir meningkatkan kinerja dibandingkan Qwen2.5-instruct, di berbagai tolok ukur matematika, generasi kode, dan penalaran umum.
Model ini secara native mendukung jendela konteks 32.768 token, yang dapat diperluas hingga 131.072 token menggunakan skala YaRN. Ini dirancang untuk penggunaan alat dan tugas gaya agen: Qwen menyatakan bahwa model ini terintegrasi dengan tepat dengan alat eksternal baik dalam mode berpikir maupun non-berpikir, dan template obrolannya mencakup dukungan eksplisit untuk pemanggilan fungsi dan alat. Model ini juga mendukung mengikuti instruksi dan terjemahan di lebih dari 100 bahasa dan dialek.
Qwen3-8B didistribusikan untuk digunakan dengan pustaka Hugging Face Transformers (versi 4.51.0 atau lebih baru diperlukan) dan kompatibel dengan alat inferensi lokal dan cloud yang umum; menggunakan versi Transformers yang lebih lama akan menghasilkan kesalahan "KeyError: 'qwen3'", karena dukungan untuk arsitektur ini ditambahkan khusus untuk rilis ini. Di Hugging Face, model ini telah diunduh lebih dari 12 juta kali dalam sebulan terakhir dan lebih dari 126 juta kali secara total, menjadikannya salah satu model yang paling banyak digunakan dalam keluarga Qwen3. Qwen juga telah menerbitkan makalah penelitian pendukung bersama model ini, yang mencakup arsitektur dasar dan metodologi evaluasi. Model ini ditujukan untuk pengembang yang membangun aplikasi yang memerlukan model yang lebih kecil dan dapat dihosting sendiri dengan kemampuan penalaran dan penggunaan alat yang kuat, bukan untuk pengguna akhir yang tidak teknis.
- KategoriModel AI & LLM
- Model HargaOpen source
- PenerapanCloud, Di-host sendiri
- PlatformWeb
Sorotan Qwen3-8B
Model bahasa kausal padat dengan 8,2 miliar parameter (6,95 miliar tanpa embedding)
Mode berpikir yang dapat dipindahkan (penalaran, matematika, kode) dan mode non-berpikir (dialog cepat) dalam satu model
36 lapisan dengan perhatian kueri terkelompok (32 kepala kueri, 8 kepala kunci/nilai)
Konteks native 32.768 token, dapat diperluas hingga 131.072 token dengan YaRN
Dukungan pemanggilan alat/fungsi bawaan melalui template obrolannya
Mengikuti instruksi dan terjemahan di lebih dari 100 bahasa
Bobot terbuka dirilis di bawah lisensi Apache 2.0
Kompatibel dengan Hugging Face Transformers (4.51.0+) dan alat inferensi umum
Memulai dengan Qwen3-8B
Instal dependensi: Instal versi terbaru dari Hugging Face Transformers (4.51.0 atau lebih baru).
Muat model: Muat Qwen/Qwen3-8B dengan AutoModelForCausalLM dan AutoTokenizer.
Pilih mode: Atur enable_thinking ke True untuk tugas penalaran atau False untuk dialog umum yang lebih cepat.
Format prompt: Terapkan template obrolan model untuk menyusun pesan, termasuk definisi alat apa pun.
Hasilkan respons: Jalankan generasi dan, untuk mode berpikir, pisahkan konten penalaran dari jawaban akhir.
Kasus Penggunaan Qwen3-8B
- Tugas penalaran dan matematika
- Aplikasi obrolan umum
- Alur kerja pemanggilan agen dan alat
- Aplikasi multibahasa
