跳转到主要内容
ToolPotion
AI 顾问
提交(免费)

AI Infra Book

这本开源书籍由李博杰撰写,深入探讨了AI基础设施。它提供了定量分析和系统设计的方法,从硬件限制和模型架构中推导出LLM推理和训练系统设计。该库包括完整文本、PDF版本、配套计算工具和实验资源,以便全面学习。

查看仓库
分享
查看仓库
分享

《AI Infra Book》(《深入理解 AI Infra:量化分析与系统设计》)由李博杰撰写,是一本致力于深入理解AI基础设施的开源手稿。该综合资源专注于定量方法,分析和设计大型语言模型(LLM)推理和训练系统。它通过考虑基本的硬件限制和各种模型架构,细致地推导出系统设计。

阅读更多

GitHub库作为该项目的中心枢纽,提供完整的书籍文本、可下载的PDF版本,以及一套配套计算工具,以帮助实际应用和理解。此外,它还包括实验资源,使读者能够探索和验证书中讨论的概念。内容结构旨在引导读者理解复杂主题,从基础硬件原理到高级系统设计考虑。

该项目正在积极维护,最近的提交表明在各个部分(包括`calculations`、`case-studies`和`experiments`)的持续开发和完善。它支持多种语言,设有专门的文件夹供英语(`book-en`)、简体中文(`book`)和繁体中文(`book-zh-tw`)使用,确保广泛的可及性。书中还包含深入探讨实际应用的`case-studies`和提供运行时和设备恢复的实际见解的`experiments`。

《AI Infra Book》面向研究人员、工程师和学生,旨在弥合理论理解与AI基础设施领域实际实施之间的差距。其对定量分析的重视为优化AI系统提供了严格的框架,使其成为任何希望深入了解这一关键领域的人的宝贵资源。

  • 类别教育与研究
  • 定价模式开源
  • 部署云端
  • 平台网页版

  • 开源书籍手稿

  • AI基础设施的定量分析

  • LLM推理系统设计

  • LLM训练系统设计

  • 从硬件限制推导

  • 从模型架构推导

  • 完整书籍文本可用

  • 包含PDF版本

  • 配套计算工具

  • 实验资源

  • 关于AI基础设施的案例研究

  • 多语言支持(英语、简体中文、繁体中文)

  • Apache-2.0许可证

  1. 克隆库:使用`git clone https://github.com/bojieli/ai-infra-book.git`获取书籍和资源的本地副本。

  2. 探索书籍内容:导航到`book`、`book-en`或`book-zh-tw`目录以获取各种语言的完整文本。

  3. 访问PDF:在库中查找PDF版本或在相关网站上获取离线阅读。

  4. 利用计算工具:探索`calculations`目录中的工具,以支持书中呈现的定量分析。

  5. 查看案例研究:检查`case-studies`文件夹中的实际示例和应用。

  6. 运行实验:调查`experiments`目录以理解和复制实际系统设计测试。

  7. 贡献:参考`CITATION.cff`和`LICENSE`文件以获取有关如何引用或贡献该项目的信息。

  • LLM系统设计
  • 硬件限制分析
  • 定量性能评估
  • AI基础设施研究
  • 教育资源
  • 实际实验
  • 跨语言学习

AI Infra Book 评价

加载中...

与 AI Infra Book 类似的热门AI工具

大型语言模型课程

AI GitHub 仓库

大型语言模型课程通过详细的路线图和互动的Colab笔记本,提供对大型语言模型(LLMs)的全面介绍,使不同技能水平的学习者都能轻松接触。

教育与研究教育与在线学习
查看工具

AI GitHub 仓库

通过详细的路线图和互动的Colab笔记本,提供对大型语言模型(LLMs)的全面介绍,使不同技能水平的学习者都能轻松接触。大型语言模型课程通过详细的路线图和互动的Colab笔记本,提供对大型语言模型(LLMs)的全面介绍,使不同技能水平的学习者都能轻松接触。

精选教育与研究教育与在线学习
查看 AI GitHub 仓库 Top 250

该 GitHub 存储库托管了哈佛 CS249r 的综合教材《机器学习系统:基础、扩展、代理 AI 和物理 AI(第一卷至第四卷)》。它提供了机器学习系统的基础知识和高级概念,涵盖从核心原则到代理和物理 AI 的主题。该存储库作为书籍内容、资源和持续开发的中心枢纽。

教育与研究教育与在线学习
查看工具

该 GitHub 存储库托管了哈佛 CS249r 的综合教材《机器学习系统:基础、扩展、代理 AI 和物理 AI(第一卷至第四卷)》。它提供了机器学习系统的基础知识和高级概念,涵盖从核心原则到代理和物理 AI 的主题。该存储库作为书籍内容、资源和持续开发的中心枢纽。

教育与研究教育与在线学习
查看 AI GitHub 仓库 Top 250

AI学习库

AI GitHub 仓库

AI学习是一个结构化的实践之旅,深入现代人工智能,专注于实际项目。它涵盖了大型语言模型、检索增强生成、自主AI代理和生成性AI,旨在通过构建真实系统来学习。

机器学习平台教育与在线学习
查看工具

AI GitHub 仓库

AI学习是一个结构化的实践之旅,深入现代人工智能,专注于实际项目。它涵盖了大型语言模型、检索增强生成、自主AI代理和生成性AI,旨在通过构建真实系统来学习。

机器学习平台教育与在线学习
查看 AI GitHub 仓库 Top 250

AirLLM

AI GitHub 仓库

AirLLM是一个GitHub项目,能够在单个4GB GPU上进行70亿参数推理。它旨在优化大型语言模型在有限硬件上的性能,使先进的AI能力更加可及。

MLOps 与模型部署

机器学习与数据科学 排名第 72 位

查看工具

AI GitHub 仓库

GitHub项目,能够在单个4GB GPU上进行70亿参数推理。它旨在优化大型语言模型在有限硬件上的性能,使先进的AI能力更加可及。AirLLM是一个GitHub项目,能够在单个4GB GPU上进行70亿参数推理。它旨在优化大型语言模型在有限硬件上的性能,使先进的AI能力更加可及。

MLOps 与模型部署
机器学习与数据科学 排名第 72 位

AI Daddy

AI 应用

AI Daddy 提供 130 章关于 AI 系统设计的免费章节,涵盖 RAG、代理和大规模推理等主题。它旨在帮助转型进入 AI 领域的工程师,为面试和工作准备提供实用见解。

教育与研究
查看工具

AI 应用

提供 130 章关于 AI 系统设计的免费章节,涵盖 RAG、代理和大规模推理等主题。它旨在帮助转型进入 AI 领域的工程师,为面试和工作准备提供实用见解。AI Daddy 提供 130 章关于 AI 系统设计的免费章节,涵盖 RAG、代理和大规模推理等主题。它旨在帮助转型进入 AI 领域的工程师,为面试和工作准备提供实用见解。

教育与研究
查看 AI 应用 Top 250

从零开始训练LLM

AI GitHub 仓库

从零开始训练LLM提供了一个全面的指南,帮助您训练自己的大型语言模型。它涵盖了从数据获取到文本生成的所有内容,是开发者构建自定义AI模型的重要资源。

AI 模型与大语言模型
查看工具

AI GitHub 仓库

提供了一个全面的指南,帮助您训练自己的大型语言模型。它涵盖了从数据获取到文本生成的所有内容,是开发者构建自定义AI模型的重要资源。从零开始训练LLM提供了一个全面的指南,帮助您训练自己的大型语言模型。它涵盖了从数据获取到文本生成的所有内容,是开发者构建自定义AI模型的重要资源。

AI 模型与大语言模型
查看 AI GitHub 仓库 Top 250

LLMs-from-scratch

AI GitHub 仓库

LLMs-from-scratch 是一个 GitHub 项目,指导用户使用 PyTorch 实现类似 ChatGPT 的语言模型。它提供了从零开始构建大型语言模型的逐步方法,非常适合对人工智能和机器学习感兴趣的开发者和研究人员。

AI 模型与大语言模型
查看工具

AI GitHub 仓库

GitHub 项目,指导用户使用 PyTorch 实现类似 ChatGPT 的语言模型。它提供了从零开始构建大型语言模型的逐步方法,非常适合对人工智能和机器学习感兴趣的开发者和研究人员。LLMs-from-scratch 是一个 GitHub 项目,指导用户使用 PyTorch 实现类似 ChatGPT 的语言模型。它提供了从零开始构建大型语言模型的逐步方法,非常适合对人工智能和机器学习感兴趣的开发者和研究人员。

AI 模型与大语言模型
查看 AI GitHub 仓库 Top 250

DataCamp 开发者助理 AI 工程师课程教你如何使用 API 和开源库将 AI 集成到软件中。获得实践技能,构建 AI 驱动的系统,提升用户体验。

教育与研究

AI 学习 排名第 71 位

查看工具
1/8