Pular para o conteúdo principal
ToolPotion
Consultor de IA
Enviar

AI Infra Book

Este livro de código aberto, escrito por Li Bojie, oferece uma análise aprofundada da infraestrutura de IA. Ele apresenta uma abordagem de análise quantitativa e design de sistemas, derivando designs de sistemas de inferência e treinamento de LLM a partir de restrições de hardware e arquiteturas de modelos. O repositório inclui o texto completo, versões em PDF, ferramentas de cálculo acompanhantes e recursos experimentais para um aprendizado abrangente.

Ver repositório
Compartilhar
Ver repositório
Compartilhar

O "AI Infra Book" (《深入理解 AI Infra:量化分析与系统设计》), escrito por Li Bojie, é um manuscrito de código aberto dedicado à compreensão aprofundada da infraestrutura de IA. Este recurso abrangente foca em uma abordagem quantitativa para analisar e projetar sistemas para inferência e treinamento de Modelos de Linguagem de Grande Escala (LLM). Ele deriva meticulosamente os designs de sistemas considerando restrições fundamentais de hardware e várias arquiteturas de modelos.

Ler mais

O repositório do GitHub serve como o centro deste projeto, oferecendo o texto completo do livro, versões em PDF para download e um conjunto de 配套计算工具 (ferramentas de cálculo acompanhantes) para auxiliar na aplicação prática e compreensão. Além disso, inclui recursos experimentais, permitindo que os leitores explorem e validem os conceitos discutidos no livro. O conteúdo é estruturado para guiar os leitores através de tópicos complexos, desde princípios fundamentais de hardware até considerações avançadas de design de sistemas.

O projeto é mantido ativamente, com commits recentes indicando desenvolvimento e refinamento contínuos em várias seções, incluindo `calculations`, `case-studies` e `experiments`. Ele suporta múltiplas línguas, com pastas dedicadas para inglês (`book-en`), chinês simplificado (`book`) e chinês tradicional (`book-zh-tw`), garantindo ampla acessibilidade. O livro também apresenta `case-studies` que exploram aplicações do mundo real e `experiments` que fornecem insights práticos sobre recuperação em tempo de execução e de dispositivos.

Destinado a pesquisadores, engenheiros e estudantes, o "AI Infra Book" visa preencher a lacuna entre a compreensão teórica e a implementação prática no campo da infraestrutura de IA. Sua ênfase na análise quantitativa fornece uma estrutura rigorosa para otimizar sistemas de IA, tornando-o um recurso inestimável para qualquer pessoa que deseje aprofundar seu conhecimento nesta área crítica.

  • CategoriaEducação e pesquisa
  • Modelo de preçosCódigo aberto
  • ImplantaçãoNuvem
  • PlataformasWeb

  • Manuscrito de livro de código aberto

  • Análise quantitativa da infraestrutura de IA

  • Design de sistema de inferência de LLM

  • Design de sistema de treinamento de LLM

  • Derivação a partir de restrições de hardware

  • Derivação a partir de arquiteturas de modelos

  • Texto completo do livro disponível

  • Versões em PDF incluídas

  • Ferramentas de cálculo acompanhantes

  • Recursos experimentais

  • Estudos de caso sobre infraestrutura de IA

  • Suporte multilíngue (inglês, chinês simplificado, chinês tradicional)

  • Licença Apache-2.0

  1. Clone o repositório: Use `git clone https://github.com/bojieli/ai-infra-book.git` para obter uma cópia local do livro e dos recursos.

  2. Explore o conteúdo do livro: Navegue até os diretórios `book`, `book-en` ou `book-zh-tw` para o texto completo em várias línguas.

  3. Acesse PDFs: Procure por lançamentos em PDF dentro do repositório ou no site associado para leitura offline.

  4. Utilize ferramentas de cálculo: Explore o diretório `calculations` para ferramentas que suportam a análise quantitativa apresentada no livro.

  5. Revise estudos de caso: Examine a pasta `case-studies` para exemplos e aplicações do mundo real.

  6. Realize experimentos: Investigue o diretório `experiments` para entender e replicar testes práticos de design de sistemas.

  7. Contribua: Consulte os arquivos `CITATION.cff` e `LICENSE` para informações sobre como citar ou contribuir para o projeto.

  • Design de Sistema de LLM
  • Análise de Restrições de Hardware
  • Avaliação de Desempenho Quantitativa
  • Pesquisa em Infraestrutura de IA
  • Recurso Educacional
  • Experimentação Prática
  • Aprendizado Multilíngue

Avaliações de AI Infra Book

Carregando...

Ferramentas de IA populares como AI Infra Book

Curso de Modelos de Linguagem Grande

Repositórios de IA no GitHub

O Curso de Modelos de Linguagem Grande oferece uma introdução abrangente aos Modelos de Linguagem Grande (LLMs) por meio de roteiros detalhados e notebooks interativos do Colab,…

Educação e pesquisaEducação e e-learning
Ver ferramenta

Machine Learning Systems Book

Repositórios de IA no GitHub

Este repositório do GitHub hospeda o abrangente livro-texto "Machine Learning Systems: Foundations, Scaling, Agentic AI, and Physical AI (Vols I–IV)" do Harvard CS249r. Ele…

Educação e pesquisaEducação e e-learning
Ver ferramenta

Repositório de Aprendizado de IA

Repositórios de IA no GitHub

O Aprendizado de IA é uma jornada estruturada e prática na IA moderna, focando em projetos práticos. Abrange Modelos de Linguagem Grande, Geração Aumentada por Recuperação,…

Plataformas de machine learningEducação e e-learning
Ver ferramenta

AirLLM

Repositórios de IA no GitHub

AirLLM é um projeto do GitHub que possibilita a inferência de 70 bilhões de parâmetros usando uma única GPU de 4GB. Ele é projetado para otimizar o desempenho de modelos de…

MLOps e implantação de modelos

Nº 73 em Machine learning e ciência de dados

Ver ferramenta

Repositórios de IA no GitHub

Projeto do GitHub que possibilita a inferência de 70 bilhões de parâmetros usando uma única GPU de 4GB. Ele é projetado para otimizar o desempenho de modelos de…AirLLM é um projeto do GitHub que possibilita a inferência de 70 bilhões de parâmetros usando uma única GPU de 4GB. Ele é projetado para otimizar o desempenho de modelos de…

MLOps e implantação de modelos
Nº 73 em Machine learning e ciência de dados

AI Daddy

Apps de IA

AI Daddy oferece 130 capítulos gratuitos sobre design de sistemas de IA, abordando tópicos como RAG, agentes e inferência em escala. É projetado para engenheiros em transição para…

Educação e pesquisa
Ver ferramenta

Apps de IA

Oferece 130 capítulos gratuitos sobre design de sistemas de IA, abordando tópicos como RAG, agentes e inferência em escala. É projetado para engenheiros em transição para…AI Daddy oferece 130 capítulos gratuitos sobre design de sistemas de IA, abordando tópicos como RAG, agentes e inferência em escala. É projetado para engenheiros em transição para…

Educação e pesquisa
Ver o Top 250 de Apps de IA

Treine LLM do Zero

Repositórios de IA no GitHub

Treine LLM do Zero fornece um guia abrangente para treinar seu próprio modelo de linguagem grande. Cobre tudo, desde a aquisição de dados até a geração de texto, tornando-se um…

Modelos de IA e LLMs
Ver ferramenta

Repositórios de IA no GitHub

Fornece um guia abrangente para treinar seu próprio modelo de linguagem grande. Cobre tudo, desde a aquisição de dados até a geração de texto, tornando-se um…Treine LLM do Zero fornece um guia abrangente para treinar seu próprio modelo de linguagem grande. Cobre tudo, desde a aquisição de dados até a geração de texto, tornando-se um…

Modelos de IA e LLMs
Ver o Top 250 de Repositórios de IA no GitHub

LLMs-from-scratch

Repositórios de IA no GitHub

LLMs-from-scratch é um projeto no GitHub que orienta os usuários na implementação de um modelo de linguagem semelhante ao ChatGPT usando PyTorch. Ele fornece uma abordagem passo a…

Modelos de IA e LLMs
Ver ferramenta

Repositórios de IA no GitHub

Projeto no GitHub que orienta os usuários na implementação de um modelo de linguagem semelhante ao ChatGPT usando PyTorch. Ele fornece uma abordagem passo a…LLMs-from-scratch é um projeto no GitHub que orienta os usuários na implementação de um modelo de linguagem semelhante ao ChatGPT usando PyTorch. Ele fornece uma abordagem passo a…

Modelos de IA e LLMs
Ver o Top 250 de Repositórios de IA no GitHub
1 de 8