Description
Qwen3-8B est un grand modèle de langage de la famille Qwen3, développé par l'équipe Qwen d'Alibaba et publié avec des poids ouverts sur Hugging Face sous la licence Apache 2.0. C'est un modèle de langage causal dense (uniquement décodeur) avec un total de 8,2 milliards de paramètres (6,95 milliards sans les embeddings), 36 couches et une attention par requête groupée avec 32 têtes de requête et 8 têtes clé/valeur.
Lire la suite
Sa principale caractéristique distinctive est la capacité de passer d'un mode à l'autre au sein d'un même modèle : un mode de réflexion pour le raisonnement logique complexe, les mathématiques et la programmation, et un mode non-réflexion pour un dialogue général plus rapide. Qwen rapporte que le mode de réflexion améliore les performances de raisonnement de son modèle précédent QwQ, et que le mode non-réflexion améliore Qwen2.5-instruct, dans les benchmarks de mathématiques, de génération de code et de raisonnement de bon sens.
Le modèle prend en charge nativement une fenêtre de contexte de 32 768 tokens, extensible à 131 072 tokens grâce à l'échelle YaRN. Il est conçu pour l'utilisation d'outils et les tâches de style agent : Qwen déclare qu'il s'intègre précisément avec des outils externes dans les modes de réflexion et non-réflexion, et son modèle de chat inclut un support explicite pour l'appel de fonctions et d'outils. Il prend également en charge le suivi des instructions et la traduction dans plus de 100 langues et dialectes.
Qwen3-8B est distribué pour une utilisation avec la bibliothèque Hugging Face Transformers (version 4.51.0 ou ultérieure requise) et est compatible avec les outils d'inférence locaux et cloud courants ; l'utilisation d'une version plus ancienne de Transformers entraîne une erreur "KeyError: 'qwen3'", car le support pour l'architecture a été ajouté spécifiquement pour cette version. Sur Hugging Face, le modèle a été téléchargé plus de 12 millions de fois au cours du mois dernier et plus de 126 millions de fois au total, ce qui en fait l'un des modèles les plus utilisés de la famille Qwen3. Qwen a également publié des articles de recherche de soutien aux côtés du modèle, couvrant l'architecture sous-jacente et la méthodologie d'évaluation. Il est destiné aux développeurs construisant des applications qui nécessitent un modèle plus petit, auto-hébergé, avec de fortes capacités de raisonnement et d'utilisation d'outils, plutôt qu'aux utilisateurs finaux non techniques.
- CatégorieModèles d'IA et LLM
- Modèle tarifaireOpen source
- DéploiementCloud, Auto-hébergé
- PlateformesWeb
Points forts de Qwen3-8B
Modèle de langage causal dense de 8,2 milliards de paramètres (6,95 milliards sans embeddings)
Mode de réflexion commutable (raisonnement, mathématiques, code) et mode non-réflexion (dialogue rapide) dans un seul modèle
36 couches avec attention par requête groupée (32 têtes de requête, 8 têtes clé/valeur)
Contexte natif de 32 768 tokens, extensible à 131 072 tokens avec YaRN
Support intégré pour l'appel d'outils/fonctions via son modèle de chat
Suivi des instructions et traduction dans plus de 100 langues
Poids ouverts publiés sous la licence Apache 2.0
Compatible avec Hugging Face Transformers (4.51.0+) et les outils d'inférence courants
Premiers pas avec Qwen3-8B
Installer les dépendances : Installez une version récente de Hugging Face Transformers (4.51.0 ou ultérieure).
Charger le modèle : Chargez Qwen/Qwen3-8B avec AutoModelForCausalLM et AutoTokenizer.
Choisir un mode : Définissez enable_thinking sur True pour les tâches de raisonnement ou False pour un dialogue général plus rapide.
Formater l'invite : Appliquez le modèle de chat pour structurer les messages, y compris les définitions d'outils.
Générer une réponse : Exécutez la génération et, pour le mode de réflexion, analysez le contenu de raisonnement séparément de la réponse finale.
Cas d'utilisation de Qwen3-8B
- Tâches de raisonnement et de mathématiques
- Applications de chat général
- Flux de travail d'agent et d'appel d'outils
- Applications multilingues
