Перейти к основному содержимому
ToolPotion
ИИ-советник
Отправить

AI Infra Book

Эта книга с открытым исходным кодом, написанная Ли Бодзие, углубляется в инфраструктуру ИИ. Она предлагает количественный анализ и подход к проектированию систем, выводя проектирование систем вывода и обучения LLM из аппаратных ограничений и архитектур моделей. Репозиторий включает полный текст, версии в формате PDF, сопутствующие инструменты для расчетов и экспериментальные ресурсы для всестороннего обучения.

Открыть репозиторий
Поделиться
Открыть репозиторий
Поделиться

Книга "AI Infra Book" (《深入理解 AI Infra:量化分析与系统设计》), написанная Ли Бодзие, является открытым манускриптом, посвященным глубокому пониманию инфраструктуры ИИ. Этот всесторонний ресурс сосредоточен на количественном подходе к анализу и проектированию систем для вывода и обучения больших языковых моделей (LLM). Он тщательно выводит проектирование систем, учитывая основные аппаратные ограничения и различные архитектуры моделей.

Читать далее

Репозиторий на GitHub служит центральным узлом для этого проекта, предлагая полный текст книги, загружаемые версии PDF и набор配套计算工具 (сопутствующие инструменты для расчетов), чтобы помочь в практическом применении и понимании. Кроме того, он включает экспериментальные ресурсы, позволяя читателям исследовать и проверять концепции, обсуждаемые в книге. Содержание структурировано так, чтобы направлять читателей через сложные темы, от основных принципов аппаратного обеспечения до продвинутых соображений проектирования систем.

Проект активно поддерживается, недавние коммиты указывают на продолжаемую разработку и уточнение различных разделов, включая `calculations`, `case-studies` и `experiments`. Он поддерживает несколько языков, с выделенными папками для английского (`book-en`), упрощенного китайского (`book`) и традиционного китайского (`book-zh-tw`), обеспечивая широкую доступность. Книга также включает `case-studies`, которые углубляются в реальные приложения, и `experiments`, которые предоставляют практические идеи о времени выполнения и восстановлении устройств.

Нацеленная на исследователей, инженеров и студентов, "AI Infra Book" стремится преодолеть разрыв между теоретическим пониманием и практической реализацией в области инфраструктуры ИИ. Его акцент на количественном анализе предоставляет строгую основу для оптимизации систем ИИ, делая его бесценным ресурсом для всех, кто хочет углубить свои знания в этой критически важной области.

  • КатегорияОбразование и исследования
  • Модель ценообразованияОткрытый код
  • РазвёртываниеОблако
  • ПлатформыВеб

  • Открытый манускрипт книги

  • Количественный анализ инфраструктуры ИИ

  • Проектирование системы вывода LLM

  • Проектирование системы обучения LLM

  • Вывод из аппаратных ограничений

  • Вывод из архитектур моделей

  • Полный текст книги доступен

  • Включены версии PDF

  • Сопутствующие инструменты для расчетов

  • Экспериментальные ресурсы

  • Кейсы по инфраструктуре ИИ

  • Поддержка нескольких языков (английский, упрощенный китайский, традиционный китайский)

  • Лицензия Apache-2.0

  1. Клонировать репозиторий: Используйте `git clone https://github.com/bojieli/ai-infra-book.git`, чтобы получить локальную копию книги и ресурсов.

  2. Изучить содержание книги: Перейдите в директории `book`, `book-en` или `book-zh-tw` для полного текста на различных языках.

  3. Получить доступ к PDF: Ищите версии PDF в репозитории или на связанном сайте для чтения офлайн.

  4. Использовать инструменты для расчетов: Изучите директорию `calculations` для инструментов, которые поддерживают количественный анализ, представленный в книге.

  5. Просмотреть кейсы: Изучите папку `case-studies` для реальных примеров и приложений.

  6. Провести эксперименты: Исследуйте директорию `experiments`, чтобы понять и воспроизвести практические тесты проектирования систем.

  7. Сделать вклад: Ознакомьтесь с файлами `CITATION.cff` и `LICENSE` для получения информации о том, как цитировать или внести вклад в проект.

  • Проектирование системы LLM
  • Анализ аппаратных ограничений
  • Количественная оценка производительности
  • Исследование инфраструктуры ИИ
  • Образовательный ресурс
  • Практическое экспериментирование
  • Кросс-языковое обучение

Отзывы о AI Infra Book

Загрузка...

Популярные ИИ-инструменты, похожие на AI Infra Book

Курс по большим языковым моделям предоставляет всестороннее введение в большие языковые модели (LLM) через детализированные дорожные карты и интерактивные блокноты Colab, что…

Образование и исследованияОбразование и онлайн-обучение
Открыть инструмент

Предоставляет всестороннее введение в большие языковые модели (LLM) через детализированные дорожные карты и интерактивные блокноты Colab, что…Курс по большим языковым моделям предоставляет всестороннее введение в большие языковые модели (LLM) через детализированные дорожные карты и интерактивные блокноты Colab, что…

РекомендованоОбразование и исследованияОбразование и онлайн-обучение
Топ-250: AI-репозитории на GitHub

Machine Learning Systems Book

AI-репозитории на GitHub

Этот репозиторий GitHub содержит обширный учебник «Machine Learning Systems: Foundations, Scaling, Agentic AI, and Physical AI (Vols I–IV)» от Harvard CS249r. Он предоставляет…

Образование и исследованияОбразование и онлайн-обучение
Открыть инструмент

AI-репозитории на GitHub

Этот репозиторий GitHub содержит обширный учебник «Machine Learning Systems: Foundations, Scaling, Agentic AI, and Physical AI (Vols I–IV)» от Harvard CS249r. Он предоставляет…

Образование и исследованияОбразование и онлайн-обучение
Топ-250: AI-репозитории на GitHub

Репозиторий обучения ИИ

AI-репозитории на GitHub

Обучение ИИ — это структурированное, практическое путешествие в мир современного ИИ, сосредоточенное на практических проектах. Оно охватывает большие языковые модели, генерацию с…

Платформы машинного обученияОбразование и онлайн-обучение
Открыть инструмент

AI-репозитории на GitHub

Обучение ИИ — это структурированное, практическое путешествие в мир современного ИИ, сосредоточенное на практических проектах. Оно охватывает большие языковые модели, генерацию с…

Платформы машинного обученияОбразование и онлайн-обучение
Топ-250: AI-репозитории на GitHub

AirLLM

AI-репозитории на GitHub

AirLLM — это проект на GitHub, который позволяет выполнять вывод с 70 миллиардами параметров, используя один GPU на 4 ГБ. Он разработан для оптимизации производительности больших…

MLOps и развёртывание моделей

№71 в Машинное обучение и наука о данных

Открыть инструмент

AI-репозитории на GitHub

Проект на GitHub, который позволяет выполнять вывод с 70 миллиардами параметров, используя один GPU на 4 ГБ. Он разработан для оптимизации производительности больших…AirLLM — это проект на GitHub, который позволяет выполнять вывод с 70 миллиардами параметров, используя один GPU на 4 ГБ. Он разработан для оптимизации производительности больших…

MLOps и развёртывание моделей
№71 в Машинное обучение и наука о данных

AI Daddy

AI-приложения

AI Daddy предлагает 130 бесплатных глав по проектированию AI-систем, охватывающих такие темы, как RAG, агенты и вывод на большом масштабе. Платформа предназначена для инженеров,…

Образование и исследования
Открыть инструмент

AI-приложения

Предлагает 130 бесплатных глав по проектированию AI-систем, охватывающих такие темы, как RAG, агенты и вывод на большом масштабе. Платформа предназначена для инженеров,…AI Daddy предлагает 130 бесплатных глав по проектированию AI-систем, охватывающих такие темы, как RAG, агенты и вывод на большом масштабе. Платформа предназначена для инженеров,…

Образование и исследования
Топ-250: AI-приложения

Обучение LLM с нуля

AI-репозитории на GitHub

Обучение LLM с нуля предоставляет исчерпывающее руководство по обучению вашей собственной модели большого языка. Оно охватывает все, от получения данных до генерации текста, что…

ИИ-модели и LLM
Открыть инструмент

AI-репозитории на GitHub

Предоставляет исчерпывающее руководство по обучению вашей собственной модели большого языка. Оно охватывает все, от получения данных до генерации текста, что…Обучение LLM с нуля предоставляет исчерпывающее руководство по обучению вашей собственной модели большого языка. Оно охватывает все, от получения данных до генерации текста, что…

ИИ-модели и LLM
Топ-250: AI-репозитории на GitHub

LLMs-from-scratch

AI-репозитории на GitHub

LLMs-from-scratch — это проект на GitHub, который помогает пользователям реализовать языковую модель, подобную ChatGPT, с использованием PyTorch. Он предлагает пошаговый подход к…

ИИ-модели и LLM
Открыть инструмент

AI-репозитории на GitHub

Проект на GitHub, который помогает пользователям реализовать языковую модель, подобную ChatGPT, с использованием PyTorch. Он предлагает пошаговый подход к…LLMs-from-scratch — это проект на GitHub, который помогает пользователям реализовать языковую модель, подобную ChatGPT, с использованием PyTorch. Он предлагает пошаговый подход к…

ИИ-модели и LLM
Топ-250: AI-репозитории на GitHub

Курс Ассоциированный инженер ИИ DataCamp для разработчиков обучает интеграции ИИ в программное обеспечение с использованием API и библиотек с открытым исходным кодом. Получите…

Образование и исследования

№80 в Обучение AI

Открыть инструмент

Курс Ассоциированный инженер ИИ DataCamp для разработчиков обучает интеграции ИИ в программное обеспечение с использованием API и библиотек с открытым исходным кодом. Получите…

Образование и исследования
№80 в Обучение AI
1 из 8