Описание
Книга "AI Infra Book" (《深入理解 AI Infra:量化分析与系统设计》), написанная Ли Бодзие, является открытым манускриптом, посвященным глубокому пониманию инфраструктуры ИИ. Этот всесторонний ресурс сосредоточен на количественном подходе к анализу и проектированию систем для вывода и обучения больших языковых моделей (LLM). Он тщательно выводит проектирование систем, учитывая основные аппаратные ограничения и различные архитектуры моделей.
Читать далее
Репозиторий на GitHub служит центральным узлом для этого проекта, предлагая полный текст книги, загружаемые версии PDF и набор配套计算工具 (сопутствующие инструменты для расчетов), чтобы помочь в практическом применении и понимании. Кроме того, он включает экспериментальные ресурсы, позволяя читателям исследовать и проверять концепции, обсуждаемые в книге. Содержание структурировано так, чтобы направлять читателей через сложные темы, от основных принципов аппаратного обеспечения до продвинутых соображений проектирования систем.
Проект активно поддерживается, недавние коммиты указывают на продолжаемую разработку и уточнение различных разделов, включая `calculations`, `case-studies` и `experiments`. Он поддерживает несколько языков, с выделенными папками для английского (`book-en`), упрощенного китайского (`book`) и традиционного китайского (`book-zh-tw`), обеспечивая широкую доступность. Книга также включает `case-studies`, которые углубляются в реальные приложения, и `experiments`, которые предоставляют практические идеи о времени выполнения и восстановлении устройств.
Нацеленная на исследователей, инженеров и студентов, "AI Infra Book" стремится преодолеть разрыв между теоретическим пониманием и практической реализацией в области инфраструктуры ИИ. Его акцент на количественном анализе предоставляет строгую основу для оптимизации систем ИИ, делая его бесценным ресурсом для всех, кто хочет углубить свои знания в этой критически важной области.
- КатегорияОбразование и исследования
- Модель ценообразованияОткрытый код
- РазвёртываниеОблако
- ПлатформыВеб
Основные функции AI Infra Book
Открытый манускрипт книги
Количественный анализ инфраструктуры ИИ
Проектирование системы вывода LLM
Проектирование системы обучения LLM
Вывод из аппаратных ограничений
Вывод из архитектур моделей
Полный текст книги доступен
Включены версии PDF
Сопутствующие инструменты для расчетов
Экспериментальные ресурсы
Кейсы по инфраструктуре ИИ
Поддержка нескольких языков (английский, упрощенный китайский, традиционный китайский)
Лицензия Apache-2.0
Начало работы с AI Infra Book
Клонировать репозиторий: Используйте `git clone https://github.com/bojieli/ai-infra-book.git`, чтобы получить локальную копию книги и ресурсов.
Изучить содержание книги: Перейдите в директории `book`, `book-en` или `book-zh-tw` для полного текста на различных языках.
Получить доступ к PDF: Ищите версии PDF в репозитории или на связанном сайте для чтения офлайн.
Использовать инструменты для расчетов: Изучите директорию `calculations` для инструментов, которые поддерживают количественный анализ, представленный в книге.
Просмотреть кейсы: Изучите папку `case-studies` для реальных примеров и приложений.
Провести эксперименты: Исследуйте директорию `experiments`, чтобы понять и воспроизвести практические тесты проектирования систем.
Сделать вклад: Ознакомьтесь с файлами `CITATION.cff` и `LICENSE` для получения информации о том, как цитировать или внести вклад в проект.
Варианты использования AI Infra Book
- Проектирование системы LLM
- Анализ аппаратных ограничений
- Количественная оценка производительности
- Исследование инфраструктуры ИИ
- Образовательный ресурс
- Практическое экспериментирование
- Кросс-языковое обучение







