Description
Granite Switch 4.1 8B est un modèle de langage de grande taille sophistiqué conçu pour gérer une variété de tâches grâce à une approche modulaire. Il combine un modèle de base avec plusieurs adaptateurs et un encodeur, lui permettant de passer sans effort entre le traitement du langage naturel, la prise de décision et les fonctionnalités de conversion de la parole en texte.
Lire la suite
Ce modèle est particulièrement remarquable pour sa capacité à activer des adaptateurs à la demande en utilisant des jetons de contrôle, qui sont intégrés dans le modèle de chat.
Le modèle de base, ibm-granite/granite-4.1-8b, dispose de 8 milliards de paramètres et d'une longueur de contexte de 128K jetons. Il prend en charge plusieurs langues, y compris l'anglais, l'allemand, l'espagnol, le français, le japonais, et plus encore. L'architecture du modèle est un transformateur dense uniquement décodeur, incorporant des techniques avancées telles que GQA, RoPE, SwiGLU et RMSNorm.
Granite Switch 4.1 8B comprend deux adaptateurs principaux : l'adaptateur aLoRA de décision, qui fournit des capacités de prise de décision à usage général, et l'adaptateur aLoRA guardian-core, qui détecte les risques de sécurité tels que les dommages, la profanité et les biais sociaux. De plus, le modèle dispose d'une capacité intégrée de conversion de la parole en texte via l'encodeur Granite Speech 5.0 TurboCTC, optimisé pour des tâches de transcription rapides.
Le modèle est conçu pour être flexible et efficace, avec un seul point de terminaison hébergé qui prend en charge le chat, la prise de décision et la transcription audio sans avoir besoin de serveurs séparés. Il est sous licence Apache 2.0, garantissant un accès ouvert et des droits de modification. Le modèle est compatible avec HuggingFace Transformers et les backends vLLM, le rendant accessible pour une large gamme d'applications.
Granite Switch 4.1 8B est idéal pour les développeurs et les chercheurs à la recherche d'un LLM polyvalent capable de gérer des tâches complexes dans différents domaines. Son design modulaire et sa nature open-source en font un outil précieux pour faire avancer la recherche et les applications en IA.
- CatégorieModèles d'IA et LLM
- Modèle tarifaireOpen source
- DéploiementCloud
- PlateformesWeb
Points forts de Granite Switch 4.1 8B
Architecture LLM modulaire
Modèle de base avec 8 milliards de paramètres
Prend en charge plusieurs langues
Adaptateur de prise de décision
Adaptateur de détection de sécurité
Encodeur intégré de conversion de la parole en texte
Activation par jeton de contrôle
Licence Apache 2.0
Premiers pas avec Granite Switch 4.1 8B
Accéder à la page du modèle : Visitez la page du modèle Hugging Face
Authentifier : Assurez-vous d'avoir les identifiants d'accès
Configurer : Configurez le modèle avec les adaptateurs souhaités
Envoyer des invites : Utilisez le modèle de chat pour interagir
Ajuster : Modifiez les paramètres du modèle si nécessaire
Cas d'utilisation de Granite Switch 4.1 8B
- Chat multilingue
- Soutien à la décision
- Transcription de la parole
- Surveillance de la sécurité
- Recherche en IA
