Aller au contenu principal
ToolPotion
Conseiller IA
Soumettre

AI Infra Book

Ce livre open-source, écrit par Li Bojie, propose une plongée approfondie dans l'infrastructure de l'IA. Il offre une analyse quantitative et une approche de conception de systèmes, dérivant les conceptions de systèmes d'inférence et de formation de LLM à partir des contraintes matérielles et des architectures de modèles. Le dépôt comprend le texte complet, des versions PDF, des outils de calcul accompagnants et des ressources expérimentales pour un apprentissage complet.

Voir le dépôt
Partager
Voir le dépôt
Partager

Le "AI Infra Book" (《深入理解 AI Infra:量化分析与系统设计》), écrit par Li Bojie, est un manuscrit open-source dédié à la compréhension approfondie de l'infrastructure de l'IA. Cette ressource complète se concentre sur une approche quantitative pour analyser et concevoir des systèmes pour l'inférence et la formation de modèles de langage de grande taille (LLM). Elle dérive méticuleusement les conceptions de systèmes en tenant compte des contraintes matérielles fondamentales et de diverses architectures de modèles.

Lire la suite

Le dépôt GitHub sert de plaque tournante centrale pour ce projet, offrant le texte complet du livre, des versions PDF téléchargeables, et une suite de 配套计算工具 (outils de calcul accompagnants) pour aider à l'application pratique et à la compréhension. De plus, il inclut des ressources expérimentales, permettant aux lecteurs d'explorer et de valider les concepts discutés dans le livre. Le contenu est structuré pour guider les lecteurs à travers des sujets complexes, des principes matériels fondamentaux aux considérations avancées de conception de systèmes.

Le projet est activement maintenu, avec des commits récents indiquant un développement et un perfectionnement continus dans diverses sections, y compris `calculations`, `case-studies`, et `experiments`. Il prend en charge plusieurs langues, avec des dossiers dédiés pour l'anglais (`book-en`), le chinois simplifié (`book`), et le chinois traditionnel (`book-zh-tw`), garantissant une large accessibilité. Le livre présente également des `case-studies` qui approfondissent les applications du monde réel et des `experiments` qui fournissent des aperçus pratiques sur la récupération en temps d'exécution et des dispositifs.

Destiné aux chercheurs, ingénieurs et étudiants, le "AI Infra Book" vise à combler le fossé entre la compréhension théorique et l'implémentation pratique dans le domaine de l'infrastructure de l'IA. Son accent sur l'analyse quantitative fournit un cadre rigoureux pour optimiser les systèmes d'IA, en faisant une ressource inestimable pour quiconque cherchant à approfondir ses connaissances dans ce domaine critique.

  • CatégorieÉducation et recherche
  • Modèle tarifaireOpen source
  • DéploiementCloud
  • PlateformesWeb

  • Manuscrit de livre open-source

  • Analyse quantitative de l'infrastructure de l'IA

  • Conception de système d'inférence LLM

  • Conception de système de formation LLM

  • Dérivation à partir des contraintes matérielles

  • Dérivation à partir des architectures de modèles

  • Texte complet du livre disponible

  • Versions PDF incluses

  • Outils de calcul accompagnants

  • Ressources expérimentales

  • Études de cas sur l'infrastructure de l'IA

  • Support multilingue (anglais, chinois simplifié, chinois traditionnel)

  • Licence Apache-2.0

  1. Cloner le dépôt : Utilisez `git clone https://github.com/bojieli/ai-infra-book.git` pour obtenir une copie locale du livre et des ressources.

  2. Explorer le contenu du livre : Naviguez vers les répertoires `book`, `book-en`, ou `book-zh-tw` pour le texte complet dans diverses langues.

  3. Accéder aux PDF : Recherchez des versions PDF dans le dépôt ou sur le site associé pour une lecture hors ligne.

  4. Utiliser les outils de calcul : Explorez le répertoire `calculations` pour des outils qui soutiennent l'analyse quantitative présentée dans le livre.

  5. Consulter les études de cas : Examinez le dossier `case-studies` pour des exemples et applications du monde réel.

  6. Réaliser des expériences : Enquêtez sur le répertoire `experiments` pour comprendre et reproduire des tests pratiques de conception de systèmes.

  7. Contribuer : Consultez les fichiers `CITATION.cff` et `LICENSE` pour des informations sur la façon de citer ou de contribuer au projet.

  • Conception de système LLM
  • Analyse des contraintes matérielles
  • Évaluation quantitative de la performance
  • Recherche sur l'infrastructure de l'IA
  • Ressource éducative
  • Expérimentation pratique
  • Apprentissage interlingual

Avis sur AI Infra Book

Chargement...

Outils IA populaires comme AI Infra Book

Le Cours sur les Modèles de Langage de Grande Taille offre une introduction complète aux Modèles de Langage de Grande Taille (LLMs) à travers des feuilles de route détaillées et…

Éducation et rechercheÉducation et e-learning
Voir l'outil

Machine Learning Systems Book

Dépôts GitHub d'IA

Ce dépôt GitHub héberge le manuel complet "Machine Learning Systems: Foundations, Scaling, Agentic AI, and Physical AI (Vols I–IV)" du Harvard CS249r. Il fournit des connaissances…

Éducation et rechercheÉducation et e-learning
Voir l'outil

L'apprentissage de l'IA est un parcours structuré et pratique dans l'IA moderne, axé sur des projets concrets. Il couvre les modèles de langage de grande taille, la génération…

Plateformes de machine learningÉducation et e-learning
Voir l'outil

AirLLM

Dépôts GitHub d'IA

AirLLM est un projet GitHub qui permet l'inférence de 70 milliards de paramètres en utilisant un seul GPU de 4 Go. Il est conçu pour optimiser les performances des modèles de…

MLOps et déploiement de modèles

N°72 en Machine learning et data science

Voir l'outil

Dépôts GitHub d'IA

Projet GitHub qui permet l'inférence de 70 milliards de paramètres en utilisant un seul GPU de 4 Go. Il est conçu pour optimiser les performances des modèles de…AirLLM est un projet GitHub qui permet l'inférence de 70 milliards de paramètres en utilisant un seul GPU de 4 Go. Il est conçu pour optimiser les performances des modèles de…

MLOps et déploiement de modèles
N°72 en Machine learning et data science

AI Daddy

Applications IA

AI Daddy propose 130 chapitres gratuits sur la conception de systèmes d'IA, couvrant des sujets tels que RAG, agents et inférence à grande échelle. Il est conçu pour les…

Éducation et recherche
Voir l'outil

Applications IA

Propose 130 chapitres gratuits sur la conception de systèmes d'IA, couvrant des sujets tels que RAG, agents et inférence à grande échelle. Il est conçu pour les…AI Daddy propose 130 chapitres gratuits sur la conception de systèmes d'IA, couvrant des sujets tels que RAG, agents et inférence à grande échelle. Il est conçu pour les…

Éducation et recherche
Voir le Top 250 Applications IA

Former un LLM depuis zéro

Dépôts GitHub d'IA

Former un LLM depuis zéro fournit un guide complet pour entraîner votre propre modèle de langage de grande taille. Il couvre tout, de l'acquisition de données à la génération de…

Modèles d'IA et LLM
Voir l'outil

Dépôts GitHub d'IA

Fournit un guide complet pour entraîner votre propre modèle de langage de grande taille. Il couvre tout, de l'acquisition de données à la génération de…Former un LLM depuis zéro fournit un guide complet pour entraîner votre propre modèle de langage de grande taille. Il couvre tout, de l'acquisition de données à la génération de…

Modèles d'IA et LLM
Voir le Top 250 Dépôts GitHub d'IA

LLMs-from-scratch

Dépôts GitHub d'IA

LLMs-from-scratch est un projet GitHub qui guide les utilisateurs dans la mise en œuvre d'un modèle de langage similaire à ChatGPT en utilisant PyTorch. Il fournit une approche…

Modèles d'IA et LLM
Voir l'outil

Dépôts GitHub d'IA

Projet GitHub qui guide les utilisateurs dans la mise en œuvre d'un modèle de langage similaire à ChatGPT en utilisant PyTorch. Il fournit une approche…LLMs-from-scratch est un projet GitHub qui guide les utilisateurs dans la mise en œuvre d'un modèle de langage similaire à ChatGPT en utilisant PyTorch. Il fournit une approche…

Modèles d'IA et LLM
Voir le Top 250 Dépôts GitHub d'IA

Le cours DataCamp Associate AI Engineer for Developers vous apprend à intégrer l'IA dans les logiciels en utilisant des API et des bibliothèques open-source. Acquérez des…

Éducation et recherche

N°71 en Apprentissage de l'IA

Voir l'outil
1 sur 8