Saltar al contenido principal
ToolPotion
Asesor de IA
Enviar

AI Infra Book

Este libro de código abierto, escrito por Li Bojie, ofrece una profunda inmersión en la infraestructura de IA. Proporciona un análisis cuantitativo y un enfoque de diseño de sistemas, derivando diseños de sistemas de inferencia y entrenamiento de LLM a partir de restricciones de hardware y arquitecturas de modelos. El repositorio incluye el texto completo, versiones en PDF, herramientas de cálculo acompañantes y recursos experimentales para un aprendizaje integral.

Ver repositorio
Compartir
Ver repositorio
Compartir

El "AI Infra Book" (《深入理解 AI Infra:量化分析与系统设计》), escrito por Li Bojie, es un manuscrito de código abierto dedicado a la comprensión profunda de la infraestructura de IA. Este recurso integral se centra en un enfoque cuantitativo para analizar y diseñar sistemas para la inferencia y el entrenamiento de Modelos de Lenguaje Grande (LLM). Deriva meticulosamente los diseños de sistemas considerando las restricciones fundamentales de hardware y diversas arquitecturas de modelos.

Leer más

El repositorio de GitHub sirve como el centro neurálgico de este proyecto, ofreciendo el texto completo del libro, versiones en PDF descargables y un conjunto de 配套计算工具 (herramientas de cálculo acompañantes) para ayudar en la aplicación práctica y la comprensión. Además, incluye recursos experimentales, permitiendo a los lectores explorar y validar los conceptos discutidos en el libro. El contenido está estructurado para guiar a los lectores a través de temas complejos, desde principios fundamentales de hardware hasta consideraciones avanzadas de diseño de sistemas.

El proyecto se mantiene activamente, con commits recientes que indican un desarrollo y refinamiento continuo en varias secciones, incluyendo `calculations`, `case-studies` y `experiments`. Soporta múltiples idiomas, con carpetas dedicadas para inglés (`book-en`), chino simplificado (`book`) y chino tradicional (`book-zh-tw`), asegurando una amplia accesibilidad. El libro también presenta `case-studies` que profundizan en aplicaciones del mundo real y `experiments` que proporcionan perspectivas prácticas sobre la recuperación en tiempo de ejecución y de dispositivos.

Dirigido a investigadores, ingenieros y estudiantes, el "AI Infra Book" tiene como objetivo cerrar la brecha entre la comprensión teórica y la implementación práctica en el campo de la infraestructura de IA. Su énfasis en el análisis cuantitativo proporciona un marco riguroso para optimizar los sistemas de IA, convirtiéndolo en un recurso invaluable para cualquiera que busque profundizar su conocimiento en esta área crítica.

  • CategoríaEducación e investigación
  • Modelo de preciosCódigo abierto
  • ImplementaciónNube
  • PlataformasWeb

  • Manuscrito de libro de código abierto

  • Análisis cuantitativo de la infraestructura de IA

  • Diseño de sistemas de inferencia de LLM

  • Diseño de sistemas de entrenamiento de LLM

  • Derivación de restricciones de hardware

  • Derivación de arquitecturas de modelos

  • Texto completo del libro disponible

  • Versiones en PDF incluidas

  • Herramientas de cálculo acompañantes

  • Recursos experimentales

  • Estudios de caso sobre infraestructura de IA

  • Soporte multilingüe (inglés, chino simplificado, chino tradicional)

  • Licencia Apache-2.0

  1. Clonar el repositorio: Usa `git clone https://github.com/bojieli/ai-infra-book.git` para obtener una copia local del libro y los recursos.

  2. Explorar el contenido del libro: Navega a los directorios `book`, `book-en` o `book-zh-tw` para el texto completo en varios idiomas.

  3. Acceder a PDFs: Busca lanzamientos en PDF dentro del repositorio o en el sitio web asociado para lectura sin conexión.

  4. Utilizar herramientas de cálculo: Explora el directorio `calculations` para herramientas que apoyen el análisis cuantitativo presentado en el libro.

  5. Revisar estudios de caso: Examina la carpeta `case-studies` para ejemplos y aplicaciones del mundo real.

  6. Ejecutar experimentos: Investiga el directorio `experiments` para entender y replicar pruebas prácticas de diseño de sistemas.

  7. Contribuir: Consulta los archivos `CITATION.cff` y `LICENSE` para información sobre cómo citar o contribuir al proyecto.

  • Diseño de Sistemas de LLM
  • Análisis de Restricciones de Hardware
  • Evaluación Cuantitativa del Rendimiento
  • Investigación en Infraestructura de IA
  • Recurso Educativo
  • Experimentación Práctica
  • Aprendizaje Multilingüe

Reseñas de AI Infra Book

Cargando...

Herramientas de IA populares como AI Infra Book

Curso de Modelos de Lenguaje Grande

Repositorios de IA en GitHub

El Curso de Modelos de Lenguaje Grande ofrece una introducción completa a los Modelos de Lenguaje Grande (LLMs) a través de hojas de ruta detalladas y cuadernos interactivos de…

Educación e investigaciónEducación y e-learning
Ver herramienta

Machine Learning Systems Book

Repositorios de IA en GitHub

Este repositorio de GitHub alberga el completo libro de texto "Machine Learning Systems: Foundations, Scaling, Agentic AI, and Physical AI (Vols I–IV)" de Harvard CS249r.…

Educación e investigaciónEducación y e-learning
Ver herramienta

Repositorio de Aprendizaje de IA

Repositorios de IA en GitHub

El Aprendizaje de IA es un viaje estructurado y práctico hacia la IA moderna, centrado en proyectos prácticos. Cubre Modelos de Lenguaje Grande, Generación Aumentada por…

Plataformas de aprendizaje automáticoEducación y e-learning
Ver herramienta

AirLLM

Repositorios de IA en GitHub

AirLLM es un proyecto de GitHub que permite la inferencia de 70 mil millones de parámetros utilizando una sola GPU de 4GB. Está diseñado para optimizar el rendimiento de modelos…

MLOps y despliegue de modelos

N.º 72 en Aprendizaje automático y ciencia de datos

Ver herramienta

Repositorios de IA en GitHub

Proyecto de GitHub que permite la inferencia de 70 mil millones de parámetros utilizando una sola GPU de 4GB. Está diseñado para optimizar el rendimiento de modelos…AirLLM es un proyecto de GitHub que permite la inferencia de 70 mil millones de parámetros utilizando una sola GPU de 4GB. Está diseñado para optimizar el rendimiento de modelos…

MLOps y despliegue de modelos
N.º 72 en Aprendizaje automático y ciencia de datos

AI Daddy

Apps de IA

AI Daddy ofrece 130 capítulos gratuitos sobre diseño de sistemas de IA, abarcando temas como RAG, agentes e inferencia a gran escala. Está diseñado para ingenieros que están…

Educación e investigación
Ver herramienta

Apps de IA

Ofrece 130 capítulos gratuitos sobre diseño de sistemas de IA, abarcando temas como RAG, agentes e inferencia a gran escala. Está diseñado para ingenieros que están…AI Daddy ofrece 130 capítulos gratuitos sobre diseño de sistemas de IA, abarcando temas como RAG, agentes e inferencia a gran escala. Está diseñado para ingenieros que están…

Educación e investigación
Ver el Top 250 de Apps de IA

Entrenar LLM desde Cero

Repositorios de IA en GitHub

Entrenar LLM desde Cero proporciona una guía completa para entrenar tu propio modelo de lenguaje grande. Cubre todo, desde la adquisición de datos hasta la generación de texto,…

Modelos de IA y LLM
Ver herramienta

Repositorios de IA en GitHub

Proporciona una guía completa para entrenar tu propio modelo de lenguaje grande. Cubre todo, desde la adquisición de datos hasta la generación de texto,…Entrenar LLM desde Cero proporciona una guía completa para entrenar tu propio modelo de lenguaje grande. Cubre todo, desde la adquisición de datos hasta la generación de texto,…

Modelos de IA y LLM
Ver el Top 250 de Repositorios de IA en GitHub

LLMs-from-scratch

Repositorios de IA en GitHub

LLMs-from-scratch es un proyecto de GitHub que guía a los usuarios en la implementación de un modelo de lenguaje similar a ChatGPT utilizando PyTorch. Proporciona un enfoque paso…

Modelos de IA y LLM
Ver herramienta

Repositorios de IA en GitHub

Proyecto de GitHub que guía a los usuarios en la implementación de un modelo de lenguaje similar a ChatGPT utilizando PyTorch. Proporciona un enfoque paso…LLMs-from-scratch es un proyecto de GitHub que guía a los usuarios en la implementación de un modelo de lenguaje similar a ChatGPT utilizando PyTorch. Proporciona un enfoque paso…

Modelos de IA y LLM
Ver el Top 250 de Repositorios de IA en GitHub
1 de 8