Descripción
Qwen3-8B es un modelo de lenguaje grande de la familia Qwen3, desarrollado por el equipo Qwen de Alibaba y lanzado como pesos abiertos en Hugging Face bajo la licencia Apache 2.0. Es un modelo de lenguaje causal denso (solo decodificador) con un total de 8.2 mil millones de parámetros (6.95 mil millones excluyendo embeddings), 36 capas y atención de consulta agrupada con 32 cabezas de consulta y 8 cabezas de clave/valor.
Leer más
Su principal característica distintiva es la capacidad de alternar entre dos modos dentro de un solo modelo: un modo de pensamiento para razonamiento lógico complejo, matemáticas y codificación, y un modo no pensante para un diálogo más rápido y de propósito general. Qwen informa que el modo de pensamiento mejora el rendimiento de razonamiento de su modelo anterior QwQ, y que el modo no pensante mejora sobre Qwen2.5-instruct, en matemáticas, generación de código y benchmarks de razonamiento de sentido común.
El modelo soporta nativamente una ventana de contexto de 32,768 tokens, ampliable a 131,072 tokens utilizando escalado YaRN. Está diseñado para el uso de herramientas y tareas de estilo agente: Qwen afirma que se integra de manera precisa con herramientas externas tanto en modos de pensamiento como no pensante, y su plantilla de chat incluye soporte explícito para llamadas a funciones y herramientas. También soporta el seguimiento de instrucciones y traducción en más de 100 idiomas y dialectos.
Qwen3-8B se distribuye para su uso con la biblioteca Hugging Face Transformers (se requiere la versión 4.51.0 o posterior) y es compatible con herramientas de inferencia locales y en la nube comunes; usar una versión anterior de Transformers genera un error "KeyError: 'qwen3'", ya que el soporte para la arquitectura se agregó específicamente para este lanzamiento. En Hugging Face, el modelo ha sido descargado más de 12 millones de veces en el último mes y más de 126 millones de veces en total, lo que lo convierte en uno de los modelos más utilizados de la familia Qwen3. Qwen también ha publicado documentos de investigación de apoyo junto con el modelo, cubriendo la arquitectura subyacente y la metodología de evaluación. Está dirigido a desarrolladores que construyen aplicaciones que necesitan un modelo más pequeño y autohospedado con fuertes capacidades de razonamiento y uso de herramientas, en lugar de a usuarios finales no técnicos.
- CategoríaModelos de IA y LLM
- Modelo de preciosCódigo abierto
- ImplementaciónNube, Autoalojado
- PlataformasWeb
Aspectos destacados de Qwen3-8B
Modelo de lenguaje causal denso de 8.2B de parámetros (6.95B sin embedding)
Modo de pensamiento intercambiable (razonamiento, matemáticas, código) y modo no pensante (diálogo rápido) en un solo modelo
36 capas con atención de consulta agrupada (32 cabezas de consulta, 8 cabezas de clave/valor)
Contexto nativo de 32,768 tokens, ampliable a 131,072 tokens con YaRN
Soporte integrado para llamadas a herramientas/funciones a través de su plantilla de chat
Seguimiento de instrucciones y traducción en más de 100 idiomas
Pesos abiertos lanzados bajo la licencia Apache 2.0
Compatible con Hugging Face Transformers (4.51.0+) y herramientas de inferencia comunes
Primeros pasos con Qwen3-8B
Instalar dependencias: Instalar una versión reciente de Hugging Face Transformers (4.51.0 o posterior).
Cargar el modelo: Cargar Qwen/Qwen3-8B con AutoModelForCausalLM y AutoTokenizer.
Elegir un modo: Establecer enable_thinking en True para tareas de razonamiento o False para un diálogo general más rápido.
Formatear el aviso: Aplicar la plantilla de chat del modelo para estructurar mensajes, incluyendo cualquier definición de herramienta.
Generar una respuesta: Ejecutar la generación y, para el modo de pensamiento, analizar el contenido de razonamiento por separado de la respuesta final.
Casos de uso de Qwen3-8B
- Tareas de razonamiento y matemáticas
- Aplicaciones de chat general
- Flujos de trabajo de agentes y llamadas a herramientas
- Aplicaciones multilingües
