smol-course

Le smol-course offre une expérience de documentation augmentée pour vous aider à démarrer. Les participants peuvent découvrir le programme du cours, en apprendre davantage sur le processus de certification et rencontrer l'équipe derrière le cours. Le cours est particulièrement adapté aux développeurs et ingénieurs logiciels souhaitant accélérer leurs compétences en fine-tuning des grands modèles de langage. Si vous ne faites pas partie de cette catégorie, vous voudrez peut-être explorer le cours LLM à la place.

Tout au long du cours, les participants étudieront divers sujets, y compris le tuning d'instructions, le fine-tuning supervisé, l'alignement des préférences, l'évaluation et les modèles de langage visuel. Ils apprendront à utiliser des cadres et outils de fine-tuning établis comme TRL et Transformers. De plus, le cours encourage le partage de projets et l'exploration des applications de fine-tuning créées par la communauté. Les participants auront également l'occasion de participer à des défis, où ils pourront évaluer leurs modèles fine-tunés par rapport à ceux d'autres étudiants.

Le cours est structuré en unités fondamentales qui couvrent des concepts théoriques, des sections pratiques pour l'application concrète, des missions de cas d'utilisation pour résoudre des problèmes réels, et des collaborations avec les partenaires de Hugging Face pour fournir les dernières implémentations et outils de fine-tuning. C'est un projet vivant qui évolue avec les retours et contributions des participants, encourageant l'engagement via GitHub et Discord.

Pour s'inscrire, les participants doivent avoir une compréhension de base des concepts d'IA et de LLM, une familiarité avec la programmation Python, et une expérience avec des cadres d'apprentissage profond comme PyTorch. Le cours nécessite uniquement un ordinateur avec accès à Internet, de préférence avec des capacités GPU, et un compte pour accéder aux ressources et créer des projets. Le processus de certification est gratuit, offrant des certificats pour les fondamentaux et l'achèvement en fonction de la participation au cours et de la soumission de projets. Chaque chapitre est conçu pour être complété en environ une semaine, avec un rythme recommandé pour aider les participants à rester sur la bonne voie.