Aller au contenu principal
ToolPotion
Conseiller IA
Soumettre

bigscience/bloom

En vedette

BLOOM est un modèle de langage autoregressif multilingue développé par BigScience. Il génère un texte cohérent en 46 langues et 13 langages de programmation, permettant diverses applications dans le traitement du langage naturel et la recherche.

Voir le modèle
Partager
Voir le modèle
Partager

BLOOM, développé par BigScience, est un modèle de langage autoregressif (LLM) conçu pour faire progresser et démocratiser l'intelligence artificielle grâce à l'open source et à la science ouverte. Publié le 11 juillet 2022, ce modèle est capable de générer un texte cohérent dans 46 langues naturelles et 13 langages de programmation, ce qui en fait un outil polyvalent pour diverses applications dans le traitement du langage naturel.

Lire la suite

L'architecture de BLOOM est basée sur un modèle de transformateur, modifié à partir de Megatron-LM GPT2. Il dispose de 176 milliards de paramètres, avec 70 couches et 112 têtes d'attention, lui permettant de traiter et de générer du texte efficacement. Le modèle a été entraîné sur un ensemble de données substantiel de 1,6 To de texte prétraité, qui comprend 350 milliards de tokens uniques. Cet entraînement extensif permet à BLOOM d'effectuer des tâches de génération de texte, y compris l'extraction d'informations, la réponse à des questions et la synthèse, même pour des tâches pour lesquelles il n'a pas été explicitement formé.

BLOOM est destiné à la recherche publique sur les grands modèles de langage, le rendant accessible aux chercheurs, éducateurs et développeurs. Il peut être facilement intégré dans des applications utilisant l'écosystème de Hugging Face, nécessitant l'installation de transformers et accelerate. Les utilisateurs prévus du modèle incluent le grand public, les chercheurs, les étudiants et les ingénieurs, entre autres. Cependant, il est essentiel de noter que le modèle ne doit pas être utilisé dans des contextes à enjeux élevés ou pour des décisions critiques, car il peut produire des résultats qui semblent factuels mais qui peuvent être incorrects.

L'entraînement de BLOOM a été réalisé sur le supercalculateur public Jean Zay, utilisant 384 GPU A100 80 Go, et a été financé par le gouvernement français. L'impact environnemental du processus d'entraînement est atténué grâce à l'utilisation d'énergie nucléaire, avec la chaleur générée étant réutilisée pour le logement sur le campus. Dans l'ensemble, BLOOM représente une avancée significative dans le domaine de l'IA, fournissant un outil puissant pour la génération de langage et la recherche.

  • CatégorieModèles d'IA et LLM
  • Modèle tarifaireOpen source
  • DéploiementCloud
  • PlateformesWeb

  • Type de modèle : Modèle de langage basé sur un transformateur

  • Paramètres : 176B

  • Langues prises en charge : 46 langues naturelles, 13 langages de programmation

  • Licence : RAIL License v1.0

  • Date de publication : 11 juillet 2022

  • Taille des données d'entraînement : 1,6 To

  • Tokens d'entraînement : 350B tokens uniques

  • Infrastructure de calcul : Supercalculateur public Jean Zay

  1. Accéder à la page : Visitez le site web de Hugging Face pour BLOOM.

  2. Charger le modèle : Téléchargez le modèle BLOOM en utilisant la bibliothèque transformers de Hugging Face.

  3. Configurer l'environnement : Assurez-vous que transformers et accelerate sont installés dans votre environnement.

  4. Intégrer : Utilisez le modèle pour des tâches de génération de texte selon vos besoins.

  5. Affiner : Affinez éventuellement le modèle pour des applications spécifiques.

  • Génération de texte
  • Extraction d'informations
  • Réponse à des questions
  • Synthèse
  • Recherche linguistique

Avis sur bigscience/bloom

Chargement...

Outils IA populaires comme bigscience/bloom

Le modèle de base BigBird est un transformeur qui étend BERT pour gérer des séquences beaucoup plus longues grâce à une attention éparse par blocs. Il est pré-entraîné sur du…

Modèles d'IA et LLM
Voir l'outil

Le modèle de base BigBird est un transformeur qui étend BERT pour gérer des séquences beaucoup plus longues grâce à une attention éparse par blocs. Il est pré-entraîné sur du…

Modèles d'IA et LLM
Voir le Top 5 Modèles IA

Mistral-7B-v0.1

Modèles IA

Mistral-7B-v0.1 est un modèle de texte génératif préentraîné avec 7 milliards de paramètres, conçu pour faire progresser l'intelligence artificielle grâce à l'open source. Il…

Modèles d'IA et LLM
Voir l'outil

Modèles IA

Modèle de texte génératif préentraîné avec 7 milliards de paramètres, conçu pour faire progresser l'intelligence artificielle grâce à l'open source. Il…Mistral-7B-v0.1 est un modèle de texte génératif préentraîné avec 7 milliards de paramètres, conçu pour faire progresser l'intelligence artificielle grâce à l'open source. Il…

En vedetteModèles d'IA et LLM
Voir le Top 5 Modèles IA

DistilGPT2

Modèles IA

DistilGPT2 est un modèle de génération de texte distillé en langue anglaise, dérivé de GPT-2. Il offre une alternative plus rapide et plus légère à son prédécesseur, le rendant…

Modèles d'IA et LLM
Voir l'outil

Modèles IA

Modèle de génération de texte distillé en langue anglaise, dérivé de GPT-2. Il offre une alternative plus rapide et plus légère à son prédécesseur, le rendant…DistilGPT2 est un modèle de génération de texte distillé en langue anglaise, dérivé de GPT-2. Il offre une alternative plus rapide et plus légère à son prédécesseur, le rendant…

En vedetteModèles d'IA et LLM
Voir le Top 5 Modèles IA

OpenAI Whisper

Dépôts GitHub d'IA

Whisper est un modèle de reconnaissance vocale robuste et généraliste développé par OpenAI. Il excelle dans la reconnaissance vocale multilingue, la traduction et l'identification…

Outils de transcription IA
Voir l'outil

Dépôts GitHub d'IA

Whisper est un modèle de reconnaissance vocale robuste et généraliste développé par OpenAI. Il excelle dans la reconnaissance vocale multilingue, la traduction et l'identification…

En vedetteOutils de transcription IA
Voir le Top 250 Dépôts GitHub d'IA

Chinchilla

Modèles IA

Chinchilla est un modèle de langage de 70 milliards de paramètres développé par Google DeepMind, entraîné sur 1,3 trillion de tokens pour tester si un modèle plus petit entraîné…

Modèles d'IA et LLM
Voir l'outil

Modèles IA

Modèle de langage de 70 milliards de paramètres développé par Google DeepMind, entraîné sur 1,3 trillion de tokens pour tester si un modèle plus petit entraîné…Chinchilla est un modèle de langage de 70 milliards de paramètres développé par Google DeepMind, entraîné sur 1,3 trillion de tokens pour tester si un modèle plus petit entraîné…

Modèles d'IA et LLM
Voir le Top 5 Modèles IA

DeepSeek V4 Flash est une collection de modèles d'IA conçue pour des tâches avancées de génération de texte. Elle s'appuie sur des principes de science ouverte et de source…

Modèles d'IA et LLM
Voir l'outil

Collection de modèles d'IA conçue pour des tâches avancées de génération de texte. Elle s'appuie sur des principes de science ouverte et de source…DeepSeek V4 Flash est une collection de modèles d'IA conçue pour des tâches avancées de génération de texte. Elle s'appuie sur des principes de science ouverte et de source…

Modèles d'IA et LLM
Voir le Top 5 Modèles IA

Gemma 3-27B IT est un modèle d'IA multimodal de pointe développé par Google, capable de traiter des entrées textuelles et d'image pour générer des sorties textuelles. Il prend en…

Modèles d'IA et LLM
Voir l'outil

Gemma 3-27B IT est un modèle d'IA multimodal de pointe développé par Google, capable de traiter des entrées textuelles et d'image pour générer des sorties textuelles. Il prend en…

Modèles d'IA et LLM
Voir le Top 5 Modèles IA

Google Gemma 2 9B Instruct est un modèle ouvert léger et à la pointe de la technologie conçu pour des tâches de génération de texte. Il fait partie de la famille Gemma, offrant…

Modèles d'IA et LLM
Voir l'outil

Modèle ouvert léger et à la pointe de la technologie conçu pour des tâches de génération de texte. Il fait partie de la famille Gemma, offrant…Google Gemma 2 9B Instruct est un modèle ouvert léger et à la pointe de la technologie conçu pour des tâches de génération de texte. Il fait partie de la famille Gemma, offrant…

Modèles d'IA et LLM
Voir le Top 5 Modèles IA
1 sur 8