Aller au contenu principal
ToolPotion
Conseiller IA
Soumettre

Granite Switch 4.1 30B

LLMModèles d'IA et LLMOpen source · Web

Granite Switch 4.1 30B est un modèle de langage modulaire (LLM) conçu pour diverses applications d'IA. Il intègre un modèle de base avec plusieurs adaptateurs et un encodeur, permettant à un seul point de terminaison hébergé de gérer des réponses en langage naturel, des décisions générales et spécialisées, ainsi que la transcription vocale en texte multilingue. Ce modèle offre flexibilité et capacités complètes pour les développeurs.

Visiter l'URL
Partager
Capture d’écran de Granite Switch 4.1 30B
Capture d’écran de Granite Switch 4.1 30B

Granite Switch 4.1 30B est un modèle de langage modulaire sophistiqué (LLM) développé par IBM, disponible sur Hugging Face. Ce modèle est conçu pour fournir une solution polyvalente pour diverses tâches d'IA en composant un modèle de base de 30 milliards de paramètres avec des adaptateurs spécialisés et un encodeur de transcription vocale intégré. Cette architecture permet à un seul point de terminaison hébergé de passer sans effort entre différentes fonctionnalités, y compris la génération de langage naturel, la prise de décisions générales et spécialisées, et la transcription de la parole en texte.

Lire la suite

Le cœur de Granite Switch 4.1 30B est le modèle de base ibm-granite/granite-4.1-30b, qui dispose d'une fenêtre de contexte de 128K. Il est complété par deux adaptateurs principaux : un aLoRA de « décision » pour la prise de décision à usage général et un aLoRA de « guardian-core » pour détecter les risques de sécurité tels que les dommages, le jailbreak, la vulgarité, la violence, le contenu sexuel, le biais social et le comportement non éthique. Ces adaptateurs sont activés à la demande à l'aide de jetons de contrôle dans le modèle de chat, offrant une fonctionnalité dynamique.

Une caractéristique clé de ce modèle est sa capacité intégrée de transcription vocale en texte, alimentée par ibm-granite/granite-speech-5.0-470m-turboctc. Cet encodeur prend en charge la transcription dans sept langues : anglais, français, allemand, espagnol, portugais, italien et japonais, produisant des transcriptions ponctuées et capitalisées. Cela signifie que l'entrée audio peut être traitée directement sur le même point de terminaison que les tâches de chat et de décision, éliminant ainsi le besoin d'un serveur vocal séparé.

Granite Switch 4.1 30B est sous licence Apache 2.0 et prend en charge des backends tels que HuggingFace Transformers et vLLM. Il est conçu pour les développeurs et les organisations cherchant à intégrer un traitement avancé du langage, des décisions et de la parole dans leurs applications. Le modèle est également disponible dans d'autres configurations, y compris une version de base 8B et des ensembles complets de bibliothèques Granite. Les considérations éthiques soulignent la nécessité de tests de sécurité au niveau de l'application et de surveillance, car l'adaptateur guardian-core intégré fournit une couche de sécurité supplémentaire mais ne remplace pas les garanties de déploiement complètes.

  • CatégorieModèles d'IA et LLM
  • Modèle tarifaireOpen source
  • DéploiementCloud
  • PlateformesWeb

  • Architecture LLM modulaire avec modèle de base et adaptateurs

  • 30 milliards de paramètres pour le modèle de base

  • Fenêtre de contexte de 128K tokens

  • Adaptateur de prise de décision (aLoRA) pour des décisions à usage général

  • Adaptateur guardian-core (aLoRA) pour la détection des risques de sécurité

  • Encodeur de transcription vocale multilingue intégré (ASR)

  • Prend en charge l'anglais, le français, l'allemand, l'espagnol, le portugais, l'italien, le japonais pour l'ASR

  • Détection automatique de la langue pour l'entrée audio

  • Point de terminaison unique hébergé pour le chat, les décisions et la transcription vocale

  • Adaptateurs activés à la demande via des jetons de contrôle

  • Compatible avec les backends HuggingFace Transformers et vLLM

  • Licence Apache 2.0

  • Normalisation du cache KV pour les adaptateurs

  • Pas d'entraînement conjoint des adaptateurs, permettant un développement indépendant

  • Point de contrôle unique pour HuggingFace et vLLM sans conversion

  1. Accéder au modèle : Naviguez vers la page ibm-granite/granite-switch-4.1-30b sur Hugging Face.

  2. Installer les dépendances : Assurez-vous que Python (>=3.11, <3.14), granite-switch (>=0.1.1), PyTorch (>=2.11.0) et Transformers (>=5.16, <=5.17.0) sont installés.

  3. Charger le modèle : Utilisez la bibliothèque HuggingFace Transformers pour charger le modèle, en spécifiant la révision souhaitée si ce n'est pas la dernière.

  4. Activer les adaptateurs : Passez le nom de l'adaptateur (par exemple, 'guardian-core', 'decision') au modèle de chat via `chat_template_kwargs` dans votre demande.

  5. Traiter l'entrée audio : Définissez `asr_enabled: true` dans `config.json` pour activer la transcription vocale en texte pour les entrées audio.

  6. Envoyer des invites : Construisez des invites pour la génération de texte, la prise de décision ou la transcription vocale, en utilisant les adaptateurs activés.

  7. Interpréter les sorties : Pour les adaptateurs de décision, lisez les probabilités calibrées sur les étiquettes d'option ; pour guardian-core, analysez le verdict JSON.

  • Chatbots multilingues
  • Systèmes de décision automatisés
  • Modération de contenu
  • Services de transcription vocale
  • Assistants virtuels intelligents
  • Compréhension du langage
  • Support client alimenté par l'IA

Chez IBM

Un modèle de Granite Switch 4.1 8B.

Avis sur Granite Switch 4.1 30B

Chargement...

Outils IA populaires comme Granite Switch 4.1 30B

Granite Switch 4.1 8B est un LLM modulaire qui intègre un modèle de base, plusieurs adaptateurs et un encodeur pour fournir des réponses en langage naturel, des capacités de prise…

Modèles d'IA et LLM

N°18 en LLM

Voir l'outil

LLM modulaire qui intègre un modèle de base, plusieurs adaptateurs et un encodeur pour fournir des réponses en langage naturel, des capacités de prise…Granite Switch 4.1 8B est un LLM modulaire qui intègre un modèle de base, plusieurs adaptateurs et un encodeur pour fournir des réponses en langage naturel, des capacités de prise…

Modèles d'IA et LLM
N°18 en LLM

Apertus 1.5 est une famille de modèles linguistiques multilingues et multimodaux conçus pour prendre en charge un large éventail de langues et de contextes. Il offre un accès…

Modèles d'IA et LLM

N°72 en LLM

Voir l'outil

Famille de modèles linguistiques multilingues et multimodaux conçus pour prendre en charge un large éventail de langues et de contextes. Il offre un accès…Apertus 1.5 est une famille de modèles linguistiques multilingues et multimodaux conçus pour prendre en charge un large éventail de langues et de contextes. Il offre un accès…

Modèles d'IA et LLM
N°72 en LLM

LiquidAI LFM3-1.7B est un modèle de texte conçu pour des agents locaux et des applications spécialisées. Il dispose d'une architecture tri-hybride et prend en charge une fenêtre…

Modèles d'IA et LLM

N°91 en LLM

Voir l'outil

Modèle de texte conçu pour des agents locaux et des applications spécialisées. Il dispose d'une architecture tri-hybride et prend en charge une fenêtre…LiquidAI LFM3-1.7B est un modèle de texte conçu pour des agents locaux et des applications spécialisées. Il dispose d'une architecture tri-hybride et prend en charge une fenêtre…

Modèles d'IA et LLM
N°91 en LLM

DeepSeek est une entreprise de recherche en IA dédiée au développement de l'intelligence artificielle générale. Elle propose des LLM de pointe en open source tels que DeepSeek-V4,…

Modèles d'IA et LLM

N°2 en LLM

Voir l'outil

Entreprise de recherche en IA dédiée au développement de l'intelligence artificielle générale. Elle propose des LLM de pointe en open source tels que DeepSeek-V4,…DeepSeek est une entreprise de recherche en IA dédiée au développement de l'intelligence artificielle générale. Elle propose des LLM de pointe en open source tels que DeepSeek-V4,…

En vedetteModèles d'IA et LLM
N°2 en LLM

Olmo de Ai2 est un modèle de langage entièrement ouvert conçu pour la recherche et les applications avancées en IA. Il propose diverses variantes de modèles optimisées pour la…

Modèles d'IA et LLM

N°100 en LLM

Voir l'outil

Modèle de langage entièrement ouvert conçu pour la recherche et les applications avancées en IA. Il propose diverses variantes de modèles optimisées pour la…Olmo de Ai2 est un modèle de langage entièrement ouvert conçu pour la recherche et les applications avancées en IA. Il propose diverses variantes de modèles optimisées pour la…

En vedetteModèles d'IA et LLM
N°100 en LLM

Mixtral-8x22B-Instruct-v0.1 est un modèle de langage de grande taille affiné pour des tâches d'instruction. Il prend en charge l'appel de fonctions et s'intègre aux…

Modèles d'IA et LLM

N°68 en LLM

Voir l'outil

Modèle de langage de grande taille affiné pour des tâches d'instruction. Il prend en charge l'appel de fonctions et s'intègre aux…Mixtral-8x22B-Instruct-v0.1 est un modèle de langage de grande taille affiné pour des tâches d'instruction. Il prend en charge l'appel de fonctions et s'intègre aux…

Modèles d'IA et LLM
N°68 en LLM

AliceAI-Foundation-80B-A3B-Base est un modèle de langage fondamental avec une architecture hybride et des couches MoE, comportant 80 milliards de paramètres. Il excelle dans les…

Modèles d'IA et LLM

N°29 en LLM

Voir l'outil

Modèle de langage fondamental avec une architecture hybride et des couches MoE, comportant 80 milliards de paramètres. Il excelle dans les…AliceAI-Foundation-80B-A3B-Base est un modèle de langage fondamental avec une architecture hybride et des couches MoE, comportant 80 milliards de paramètres. Il excelle dans les…

Modèles d'IA et LLM
N°29 en LLM

Falcon3-10B-Instruct est un modèle de langage à la pointe de la technologie, conçu pour des tâches de raisonnement, de compréhension linguistique et de suivi d'instructions. Il…

Modèles d'IA et LLM

N°67 en LLM

Voir l'outil

Falcon3-10B-Instruct est un modèle de langage à la pointe de la technologie, conçu pour des tâches de raisonnement, de compréhension linguistique et de suivi d'instructions. Il…

Modèles d'IA et LLM
N°67 en LLM
1 sur 8