Descrição
Qwen3-8B é um grande modelo de linguagem da família Qwen3, desenvolvido pela equipe Qwen da Alibaba e lançado como pesos abertos no Hugging Face sob a licença Apache 2.0. É um modelo de linguagem denso e causal (apenas decodificador) com um total de 8,2 bilhões de parâmetros (6,95 bilhões excluindo embeddings), 36 camadas e atenção de consulta agrupada com 32 cabeças de consulta e 8 cabeças de chave/valor.
Ler mais
Sua principal característica distintiva é a capacidade de alternar entre dois modos dentro de um único modelo: um modo de pensamento para raciocínio lógico complexo, matemática e codificação, e um modo não pensante para diálogo mais rápido e de uso geral. A Qwen relata que o modo de pensamento melhora o desempenho de raciocínio de seu modelo anterior QwQ, e que o modo não pensante melhora o Qwen2.5-instruct, em benchmarks de matemática, geração de código e raciocínio de senso comum.
O modelo suporta nativamente uma janela de contexto de 32.768 tokens, extensível a 131.072 tokens usando escalonamento YaRN. É projetado para uso de ferramentas e tarefas no estilo de agente: a Qwen afirma que se integra precisamente com ferramentas externas em ambos os modos de pensamento e não pensante, e seu modelo de chat inclui suporte explícito para chamadas de função e ferramenta. Ele também suporta o seguimento de instruções e tradução em mais de 100 idiomas e dialetos.
Qwen3-8B é distribuído para uso com a biblioteca Hugging Face Transformers (é necessário a versão 4.51.0 ou posterior) e é compatível com ferramentas comuns de inferência local e em nuvem; usar uma versão mais antiga do Transformers gera um erro "KeyError: 'qwen3'", uma vez que o suporte para a arquitetura foi adicionado especificamente para este lançamento. No Hugging Face, o modelo foi baixado mais de 12 milhões de vezes no último mês e mais de 126 milhões de vezes no total, tornando-se um dos modelos mais amplamente utilizados na família Qwen3. A Qwen também publicou artigos de pesquisa de apoio juntamente com o modelo, cobrindo a arquitetura subjacente e a metodologia de avaliação. É voltado para desenvolvedores que constroem aplicações que precisam de um modelo menor e auto-hospedável com fortes capacidades de raciocínio e uso de ferramentas, em vez de usuários finais não técnicos.
- CategoriaModelos de IA e LLMs
- Modelo de preçosCódigo aberto
- ImplantaçãoNuvem, Auto-hospedado
- PlataformasWeb
Destaques de Qwen3-8B
Modelo de linguagem causal denso com 8,2 bilhões de parâmetros (6,95 bilhões sem embeddings)
Modo de pensamento alternável (raciocínio, matemática, código) e modo não pensante (diálogo rápido) em um único modelo
36 camadas com atenção de consulta agrupada (32 cabeças de consulta, 8 cabeças de chave/valor)
Contexto nativo de 32.768 tokens, extensível a 131.072 tokens com YaRN
Suporte integrado para chamadas de ferramenta/função através de seu modelo de chat
Seguimento de instruções e tradução em mais de 100 idiomas
Pesos abertos lançados sob a licença Apache 2.0
Compatível com Hugging Face Transformers (4.51.0+) e ferramentas comuns de inferência
Primeiros passos com Qwen3-8B
Instalar dependências: Instale uma versão recente do Hugging Face Transformers (4.51.0 ou posterior).
Carregar o modelo: Carregue Qwen/Qwen3-8B com AutoModelForCausalLM e AutoTokenizer.
Escolher um modo: Defina enable_thinking como True para tarefas de raciocínio ou False para diálogo geral mais rápido.
Formatar o prompt: Aplique o modelo de chat para estruturar mensagens, incluindo quaisquer definições de ferramentas.
Gerar uma resposta: Execute a geração e, para o modo de pensamento, analise o conteúdo de raciocínio separadamente da resposta final.
Casos de uso de Qwen3-8B
- Tarefas de raciocínio e matemática
- Aplicações de chat geral
- Fluxos de trabalho de agente e chamadas de ferramentas
- Aplicações multilíngues
