Cours LLM de Hugging Face

Initialement axé sur le NLP, le cours a évolué pour mettre l'accent sur les LLMs, qui sont un sous-ensemble puissant des modèles NLP. Les LLMs se caractérisent par leur taille massive et leurs vastes données d'entraînement, leur permettant d'effectuer une large gamme de tâches linguistiques avec un minimum d'entraînement spécifique à la tâche. Tout au long du cours, les apprenants exploreront à la fois des concepts traditionnels de NLP et des techniques de LLM à la pointe, qui sont cruciales pour un travail efficace avec les LLMs.

Le cours est structuré en plusieurs chapitres. Les chapitres 1 à 4 introduisent les concepts principaux de la bibliothèque Transformers, enseignant aux participants comment fonctionnent les modèles Transformer et comment utiliser un modèle du Hugging Face Hub. Les chapitres 5 à 8 couvrent les bases des Datasets et des Tokenizers, plongeant dans des tâches classiques de NLP et des techniques de LLM. Le chapitre 9 s'étend au-delà du NLP, guidant les apprenants sur la façon de construire et de partager des démos de leurs modèles sur le Hugging Face Hub. Enfin, les chapitres 10 à 12 approfondissent des sujets avancés sur les LLM, y compris le fine-tuning et la construction de modèles de raisonnement.

Pour réussir dans ce cours, les participants doivent avoir une bonne connaissance de Python et sont encouragés à le suivre après un cours d'introduction à l'apprentissage profond. Bien qu'aucune connaissance préalable de PyTorch ou TensorFlow ne soit requise, la familiarité avec ces frameworks sera bénéfique. À la fin du cours, il est recommandé aux apprenants d'explorer la spécialisation en traitement du langage naturel de DeepLearning.AI pour une compréhension plus large des modèles NLP traditionnels.

Le cours est rédigé par une équipe d'ingénieurs et de chercheurs en apprentissage automatique expérimentés chez Hugging Face, qui visent à rendre le NLP accessible à tous. Le cours est entièrement gratuit et sans publicité, offrant une excellente opportunité à quiconque souhaitant approfondir ses connaissances en IA et en NLP.