Pular para o conteúdo principal
ToolPotion
Consultor de IA
Enviar

Granite Switch 4.1 30B

LLMsModelos de IA e LLMsCódigo aberto · Web

Granite Switch 4.1 30B é um modelo de linguagem modular (LLM) projetado para diversas aplicações de IA. Ele integra um modelo base com múltiplos adaptadores e um codificador, permitindo que um único ponto de extremidade hospedado gerencie respostas em linguagem natural, decisões gerais e especializadas, e transcrição de fala para texto multilíngue. Este modelo oferece flexibilidade e capacidades abrangentes para desenvolvedores.

Visitar URL
Compartilhar
Captura de tela do Granite Switch 4.1 30B
Captura de tela do Granite Switch 4.1 30B

Granite Switch 4.1 30B é um sofisticado modelo de linguagem modular (LLM) desenvolvido pela IBM, disponível no Hugging Face. Este modelo é projetado para fornecer uma solução versátil para várias tarefas de IA, combinando um modelo base de 30 bilhões de parâmetros com adaptadores especializados e um codificador de fala para texto embutido. Esta arquitetura permite que um único ponto de extremidade hospedado transite perfeitamente entre diferentes funcionalidades, incluindo a geração de linguagem natural, a tomada de decisões gerais e especializadas, e a transcrição de fala em texto.

Ler mais

O núcleo do Granite Switch 4.1 30B é o modelo base ibm-granite/granite-4.1-30b, que possui uma janela de contexto de 128K. Ele é complementado por dois adaptadores principais: um aLoRA de 'decisão' para tomada de decisões de propósito geral e um aLoRA 'guardian-core' para detectar riscos de segurança, como danos, jailbreak, profanidade, violência, conteúdo sexual, viés social e comportamento antiético. Esses adaptadores são ativados sob demanda usando tokens de controle dentro do template de chat, proporcionando funcionalidade dinâmica.

Uma característica chave deste modelo é sua capacidade embutida de fala para texto, alimentada pelo ibm-granite/granite-speech-5.0-470m-turboctc. Este codificador suporta transcrição em sete idiomas: inglês, francês, alemão, espanhol, português, italiano e japonês, produzindo transcrições pontuadas e capitalizadas. Isso significa que a entrada de áudio pode ser processada diretamente no mesmo ponto de extremidade que as tarefas de chat e decisão, eliminando a necessidade de um servidor de fala separado.

Granite Switch 4.1 30B é licenciado sob a Apache 2.0 e suporta backends como HuggingFace Transformers e vLLM. É projetado para desenvolvedores e organizações que buscam integrar processamento avançado de linguagem, decisão e fala em suas aplicações. O modelo também está disponível em outras configurações, incluindo uma versão base de 8B e pacotes completos das Bibliotecas Granite. Considerações éticas enfatizam a necessidade de testes e monitoramento de segurança em nível de aplicação, uma vez que o adaptador guardian-core embutido fornece uma camada adicional de segurança, mas não substitui as salvaguardas abrangentes de implantação.

  • CategoriaModelos de IA e LLMs
  • Modelo de preçosCódigo aberto
  • ImplantaçãoNuvem
  • PlataformasWeb

  • Arquitetura modular de LLM com modelo base e adaptadores

  • 30 bilhões de parâmetros para o modelo base

  • Janela de contexto de 128K tokens

  • Adaptador de tomada de decisão (aLoRA) para decisões de propósito geral

  • Adaptador guardian-core (aLoRA) para detecção de riscos de segurança

  • Codificador de fala para texto multilíngue (ASR) embutido

  • Suporta inglês, francês, alemão, espanhol, português, italiano e japonês para ASR

  • Detecção automática de idioma para entrada de áudio

  • Único ponto de extremidade hospedado para chat, decisões e fala para texto

  • Adaptadores ativados sob demanda via tokens de controle

  • Compatível com backends HuggingFace Transformers e vLLM

  • Licença Apache 2.0

  • Normalização de cache KV para adaptadores

  • Sem treinamento conjunto de adaptadores, permitindo desenvolvimento independente

  • Único ponto de verificação para HuggingFace e vLLM sem conversão

  1. Acessar Modelo: Navegue até a página ibm-granite/granite-switch-4.1-30b no Hugging Face.

  2. Instalar Dependências: Certifique-se de que Python (>=3.11, <3.14), granite-switch (>=0.1.1), PyTorch (>=2.11.0) e Transformers (>=5.16, <=5.17.0) estão instalados.

  3. Carregar Modelo: Use a biblioteca HuggingFace Transformers para carregar o modelo, especificando a revisão desejada se não for a mais recente.

  4. Ativar Adaptadores: Passe o nome do adaptador (por exemplo, 'guardian-core', 'decision') para o template de chat via `chat_template_kwargs` em sua solicitação.

  5. Processar Entrada de Áudio: Defina `asr_enabled: true` em `config.json` para habilitar a transcrição de fala para texto para entradas de áudio.

  6. Enviar Prompts: Construa prompts para geração de texto, tomada de decisão ou transcrição de fala, utilizando os adaptadores ativados.

  7. Interpretar Saídas: Para adaptadores de decisão, leia as probabilidades calibradas sobre os rótulos de opção; para guardian-core, analise o veredicto em JSON.

  • Chatbots Multilíngues
  • Sistemas de Decisão Automatizados
  • Moderação de Conteúdo
  • Serviços de Transcrição de Fala
  • Assistentes Virtuais Inteligentes
  • Compreensão de Linguagem
  • Suporte ao Cliente Baseado em IA

De IBM

Um modelo de Granite Switch 4.1 8B.

Avaliações de Granite Switch 4.1 30B

Carregando...

Ferramentas de IA populares como Granite Switch 4.1 30B

Granite Switch 4.1 8B é um LLM modular que integra um modelo base, múltiplos adaptadores e um codificador para fornecer respostas em linguagem natural, tomada de decisões e…

Modelos de IA e LLMs

Nº 18 em LLMs

Ver ferramenta

LLM modular que integra um modelo base, múltiplos adaptadores e um codificador para fornecer respostas em linguagem natural, tomada de decisões e…Granite Switch 4.1 8B é um LLM modular que integra um modelo base, múltiplos adaptadores e um codificador para fornecer respostas em linguagem natural, tomada de decisões e…

Modelos de IA e LLMs
Nº 18 em LLMs

Apertus 1.5 é uma família de modelos de linguagem multilíngues e multimodais projetados para suportar uma ampla gama de idiomas e contextos. Oferece acesso de código aberto e…

Modelos de IA e LLMs

Nº 72 em LLMs

Ver ferramenta

Família de modelos de linguagem multilíngues e multimodais projetados para suportar uma ampla gama de idiomas e contextos. Oferece acesso de código aberto e…Apertus 1.5 é uma família de modelos de linguagem multilíngues e multimodais projetados para suportar uma ampla gama de idiomas e contextos. Oferece acesso de código aberto e…

Modelos de IA e LLMs
Nº 72 em LLMs

LiquidAI LFM3-1.7B é um modelo de texto projetado para agentes locais e aplicações especializadas. Ele apresenta uma arquitetura tri-híbrida e suporta uma janela de contexto de…

Modelos de IA e LLMs

Nº 91 em LLMs

Ver ferramenta

Modelo de texto projetado para agentes locais e aplicações especializadas. Ele apresenta uma arquitetura tri-híbrida e suporta uma janela de contexto de…LiquidAI LFM3-1.7B é um modelo de texto projetado para agentes locais e aplicações especializadas. Ele apresenta uma arquitetura tri-híbrida e suporta uma janela de contexto de…

Modelos de IA e LLMs
Nº 91 em LLMs

DeepSeek é uma empresa de pesquisa em IA dedicada ao desenvolvimento de inteligência artificial geral. Oferece LLMs de ponta de código aberto, como DeepSeek-V4, DeepSeek-R1 e…

Modelos de IA e LLMs

Nº 2 em LLMs

Ver ferramenta

Empresa de pesquisa em IA dedicada ao desenvolvimento de inteligência artificial geral. Oferece LLMs de ponta de código aberto, como DeepSeek-V4, DeepSeek-R1 e…DeepSeek é uma empresa de pesquisa em IA dedicada ao desenvolvimento de inteligência artificial geral. Oferece LLMs de ponta de código aberto, como DeepSeek-V4, DeepSeek-R1 e…

DestaqueModelos de IA e LLMs
Nº 2 em LLMs

Olmo from Ai2 é um modelo de linguagem totalmente aberto, projetado para pesquisas e aplicações avançadas em IA. Oferece várias variantes de modelo otimizadas para programação,…

Modelos de IA e LLMs

Nº 100 em LLMs

Ver ferramenta

Modelo de linguagem totalmente aberto, projetado para pesquisas e aplicações avançadas em IA. Oferece várias variantes de modelo otimizadas para programação,…Olmo from Ai2 é um modelo de linguagem totalmente aberto, projetado para pesquisas e aplicações avançadas em IA. Oferece várias variantes de modelo otimizadas para programação,…

DestaqueModelos de IA e LLMs
Nº 100 em LLMs

Mixtral-8x22B-Instruct-v0.1 é um modelo de linguagem grande ajustado para tarefas instrucionais. Ele suporta chamadas de função e se integra com os transformadores do Hugging…

Modelos de IA e LLMs

Nº 68 em LLMs

Ver ferramenta

Modelo de linguagem grande ajustado para tarefas instrucionais. Ele suporta chamadas de função e se integra com os transformadores do Hugging…Mixtral-8x22B-Instruct-v0.1 é um modelo de linguagem grande ajustado para tarefas instrucionais. Ele suporta chamadas de função e se integra com os transformadores do Hugging…

Modelos de IA e LLMs
Nº 68 em LLMs

AliceAI-Foundation-80B-A3B-Base é um modelo de linguagem fundamental com uma arquitetura híbrida e camadas MoE, apresentando 80 bilhões de parâmetros. Ele se destaca em tarefas de…

Modelos de IA e LLMs

Nº 29 em LLMs

Ver ferramenta

Modelo de linguagem fundamental com uma arquitetura híbrida e camadas MoE, apresentando 80 bilhões de parâmetros. Ele se destaca em tarefas de…AliceAI-Foundation-80B-A3B-Base é um modelo de linguagem fundamental com uma arquitetura híbrida e camadas MoE, apresentando 80 bilhões de parâmetros. Ele se destaca em tarefas de…

Modelos de IA e LLMs
Nº 29 em LLMs

Falcon3-10B-Instruct é um modelo de linguagem de ponta projetado para raciocínio, compreensão de linguagem e tarefas de seguimento de instruções. Ele suporta múltiplas línguas e…

Modelos de IA e LLMs

Nº 67 em LLMs

Ver ferramenta

Falcon3-10B-Instruct é um modelo de linguagem de ponta projetado para raciocínio, compreensão de linguagem e tarefas de seguimento de instruções. Ele suporta múltiplas línguas e…

Modelos de IA e LLMs
Nº 67 em LLMs
1 de 8