Лучшие AI-репозитории на GitHub: MLOps и развёртывание моделей

40 инструментов

Откройте для себя лучшие AI-репозитории на GitHub — от персональных AI-ассистентов и платформ автоматизации рабочих процессов до фреймворков машинного обучения, открытых кодовых агентов и инструментов определения моделей, здесь разработчики находят ресурсы, которые упрощают их повседневные задачи: создание интеллектуальных ассистентов, автоматизация рабочих процессов, разработка моделей машинного обучения и управление совместной работой с исходным кодом. Смотрите 40 AI-репозитории на GitHub.

40 инструментов

Инструмент с открытым исходным кодом для запуска больших языковых моделей на вашем компьютере. Он позволяет разработчикам устанавливать модели, такие как Llama,…Ollama — это инструмент с открытым исходным кодом для запуска больших языковых моделей на вашем компьютере. Он позволяет разработчикам устанавливать модели, такие как Llama,…

РекомендованоMLOps и развёртывание моделей

№10 в AI-репозитории на GitHub

Платформа AI engineering с открытым исходным кодом, предлагающая оценку LLM, наблюдаемость, метрики, управление подсказками и многое другое. Она интегрируется с…Langfuse — это платформа AI engineering с открытым исходным кодом, предлагающая оценку LLM, наблюдаемость, метрики, управление подсказками и многое другое. Она интегрируется с…

MLOps и развёртывание моделей

№19 в AI-репозитории на GitHub

Высокопроизводительный и экономичный по памяти движок вывода и обслуживания, разработанный для больших языковых моделей (LLM). Он оптимизирует…vllm-project/vllm — это высокопроизводительный и экономичный по памяти движок вывода и обслуживания, разработанный для больших языковых моделей (LLM). Он оптимизирует…

РекомендованоMLOps и развёртывание моделей

№23 в AI-репозитории на GitHub

Локальный пользовательский интерфейс, разработанный для запуска и обучения больших языковых моделей (LLM) и диффузионных моделей. Он поддерживает различные…unslothai/unsloth — это локальный пользовательский интерфейс, разработанный для запуска и обучения больших языковых моделей (LLM) и диффузионных моделей. Он поддерживает различные…

РекомендованоMLOps и развёртывание моделей

№33 в AI-репозитории на GitHub

Высокопроизводительный фреймворк для обслуживания, разработанный для крупных языковых моделей и мультимодальных моделей. Он предоставляет эффективные возможности…SGLang — это высокопроизводительный фреймворк для обслуживания, разработанный для крупных языковых моделей и мультимодальных моделей. Он предоставляет эффективные возможности…

РекомендованоMLOps и развёртывание моделей

№53 в AI-репозитории на GitHub

Визуализатор для нейронных сетей, глубокого обучения и моделей машинного обучения. Он предоставляет интуитивно понятный интерфейс для изучения архитектуры и…Netron — это визуализатор для нейронных сетей, глубокого обучения и моделей машинного обучения. Он предоставляет интуитивно понятный интерфейс для изучения архитектуры и…

MLOps и развёртывание моделей

№69 в AI-репозитории на GitHub

Набор инструментов, предназначенный для сжатия, развертывания и обслуживания больших языковых моделей (LLM). Он предоставляет разработчикам необходимые инструменты…LMDeploy — это набор инструментов, предназначенный для сжатия, развертывания и обслуживания больших языковых моделей (LLM). Он предоставляет разработчикам необходимые инструменты…

MLOps и развёртывание моделей

№73 в AI-репозитории на GitHub

Фреймворк с открытым исходным кодом, предназначенный для оценки больших языковых моделей (LLM). Он позволяет разработчикам вносить свой вклад и улучшать процесс…DeepEval — это фреймворк с открытым исходным кодом, предназначенный для оценки больших языковых моделей (LLM). Он позволяет разработчикам вносить свой вклад и улучшать процесс…

MLOps и развёртывание моделей

№80 в AI-репозитории на GitHub

Унифицированная платформа, предназначенная для создания корпоративных RAG-пайплайнов с использованием небольших специализированных моделей. Она упрощает интеграцию…llmware — это унифицированная платформа, предназначенная для создания корпоративных RAG-пайплайнов с использованием небольших специализированных моделей. Она упрощает интеграцию…

MLOps и развёртывание моделей

№81 в AI-репозитории на GitHub

Arize Phoenix — это инструмент наблюдаемости и оценки ИИ, разработанный для помощи разработчикам в мониторинге и оценке ИИ-моделей. Он предоставляет информацию о…

MLOps и развёртывание моделей

№85 в AI-репозитории на GitHub

Хранилище признаков с открытым исходным кодом, предназначенное для приложений ИИ и машинного обучения. Оно позволяет дата-сайентистам управлять и предоставлять…Feast — это хранилище признаков с открытым исходным кодом, предназначенное для приложений ИИ и машинного обучения. Оно позволяет дата-сайентистам управлять и предоставлять…

MLOps и развёртывание моделей

№90 в AI-репозитории на GitHub

Платформа с открытым исходным кодом, предназначенная для упрощения развертывания AI-моделей и приложений. Она позволяет разработчикам создавать API для вывода…BentoML — это платформа с открытым исходным кодом, предназначенная для упрощения развертывания AI-моделей и приложений. Она позволяет разработчикам создавать API для вывода…

MLOps и развёртывание моделей

№93 в AI-репозитории на GitHub

Библиотека Python, сосредоточенная на научных данных после развертывания. Она помогает специалистам по данным отслеживать и анализировать производительность моделей…NannyML — это библиотека Python, сосредоточенная на научных данных после развертывания. Она помогает специалистам по данным отслеживать и анализировать производительность моделей…

MLOps и развёртывание моделейЗдравоохранение и науки о жизни

№106 в AI-репозитории на GitHub

Инструмент, предназначенный для упрощения распространения и выполнения больших языковых моделей (LLM) с использованием одного файла. Он облегчает сотрудничество и…Llamafile — это инструмент, предназначенный для упрощения распространения и выполнения больших языковых моделей (LLM) с использованием одного файла. Он облегчает сотрудничество и…

MLOps и развёртывание моделей

№136 в AI-репозитории на GitHub

Высокопроизводительный фреймворк для обслуживания аудиомоделей, таких как TTS и ASR, а также унифицированных мультимодальных моделей. Он обеспечивает надежную…SGLang-Omni — это высокопроизводительный фреймворк для обслуживания аудиомоделей, таких как TTS и ASR, а также унифицированных мультимодальных моделей. Он обеспечивает надежную…

MLOps и развёртывание моделей

№155 в AI-репозитории на GitHub

Кавеман — это проект на GitHub, который оптимизирует использование токенов для кодирующих агентов, подражая речи пещерного человека. Он снижает потребление токенов на 65%, повышая…

MLOps и развёртывание моделей

№180 в AI-репозитории на GitHub

Обеспечивает наблюдаемость и соблюдение правил для систем управления AI-агентами, гарантируя, что каждый запуск фиксируется, а надежность работы поддерживается за счет…FailproofAI обеспечивает наблюдаемость и соблюдение правил для систем управления AI-агентами, гарантируя, что каждый запуск фиксируется, а надежность работы поддерживается за счет…

MLOps и развёртывание моделей

№181 в AI-репозитории на GitHub

Python SDK, предназначенный для наблюдаемости, мониторинга и оценки ИИ. Он предлагает такие функции, как трассировка агентов и инструментов, отладка…RagaAI Catalyst — это Python SDK, предназначенный для наблюдаемости, мониторинга и оценки ИИ. Он предлагает такие функции, как трассировка агентов и инструментов, отладка…

MLOps и развёртывание моделей

№200 в AI-репозитории на GitHub

Высокоскоростной инструмент для обслуживания больших языковых моделей, предназначенный для локального развертывания. Он обеспечивает эффективное и быстрое…PowerInfer — это высокоскоростной инструмент для обслуживания больших языковых моделей, предназначенный для локального развертывания. Он обеспечивает эффективное и быстрое…

MLOps и развёртывание моделей

№201 в AI-репозитории на GitHub

Проект на GitHub, который позволяет выполнять вывод с 70 миллиардами параметров, используя один GPU на 4 ГБ. Он разработан для оптимизации производительности больших…AirLLM — это проект на GitHub, который позволяет выполнять вывод с 70 миллиардами параметров, используя один GPU на 4 ГБ. Он разработан для оптимизации производительности больших…

MLOps и развёртывание моделей

№236 в AI-репозитории на GitHub

Высокопроизводительный движок AI-пайплайнов с ядром на C++. Он поддерживает более 50 узлов с расширяемостью на Python, что позволяет создавать, отлаживать…Rocketride Server — это высокопроизводительный движок AI-пайплайнов с ядром на C++. Он поддерживает более 50 узлов с расширяемостью на Python, что позволяет создавать, отлаживать…

MLOps и развёртывание моделей

№237 в AI-репозитории на GitHub

Менеджер кластеров GPU, разработанный для высокопроизводительного обслуживания AI-моделей, включая vLLM и SGLang, и предоставляет доступные по запросу экземпляры…GPUStack — это менеджер кластеров GPU, разработанный для высокопроизводительного обслуживания AI-моделей, включая vLLM и SGLang, и предоставляет доступные по запросу экземпляры…

MLOps и развёртывание моделей

№116 в AI-инструменты для DevOps и облака

Движок вывода, который позволяет развертывать Qwen3.8-Flash-Next на потребительском оборудовании. Он поддерживает установку в один клик на Windows и Linux и…Strata — это движок вывода, который позволяет развертывать Qwen3.8-Flash-Next на потребительском оборудовании. Он поддерживает установку в один клик на Windows и Linux и…

MLOps и развёртывание моделей

№23 в ИИ-модели и LLM

Сервер вывода LLM, разработанный для Apple Silicon, с функциями непрерывной пакетной обработки и кэширования SSD. Он управляется непосредственно из меню macOS,…omlx — это сервер вывода LLM, разработанный для Apple Silicon, с функциями непрерывной пакетной обработки и кэширования SSD. Он управляется непосредственно из меню macOS,…

MLOps и развёртывание моделей

№138 в Программирование и разработка

Фреймворк MLOps и LLMOps для развертывания, управления и масштабирования систем ИИ на Kubernetes. Он обеспечивает стандартизированное развертывание различных…Seldon Core — это фреймворк MLOps и LLMOps для развертывания, управления и масштабирования систем ИИ на Kubernetes. Он обеспечивает стандартизированное развертывание различных…

MLOps и развёртывание моделей

Топ-250: AI-репозитории на GitHub

KServe — это стандартизированная распределенная платформа вывода ИИ, разработанная для масштабируемого развертывания с поддержкой нескольких фреймворков на Kubernetes. Она…

MLOps и развёртывание моделей

Топ-250: AI-репозитории на GitHub

Polyaxon TraceML — это движок, предназначенный для отслеживания данных AI/ML, визуализации, объяснимости и обнаружения дрейфа. Он предоставляет комплексные панели для эффективного…

MLOps и развёртывание моделей

Топ-250: AI-репозитории на GitHub

Комплексное решение для мониторинга AI-моделей в производственной среде. Оно предоставляет инструменты для обеспечения производительности и…Radicalbit AI Monitoring — это комплексное решение для мониторинга AI-моделей в производственной среде. Оно предоставляет инструменты для обеспечения производительности и…

MLOps и развёртывание моделей

Топ-250: AI-репозитории на GitHub

TruLens — это проект на GitHub, предназначенный для оценки и отслеживания экспериментов с большими языковыми моделями (LLMs) и AI-агентами. Он предоставляет инструменты для…

MLOps и развёртывание моделей

Топ-250: AI-репозитории на GitHub

Whylogs — это библиотека ведения данных с открытым исходным кодом, предназначенная для моделей машинного обучения и конвейеров данных. Она предоставляет видимость качества данных…

MLOps и развёртывание моделей

Топ-250: AI-репозитории на GitHub

Проект с открытым исходным кодом, предназначенный для улучшения использования компьютеров с помощью кросс-операционных флотилий, драйверов и бенчмарков для обучения и…Cua — это проект с открытым исходным кодом, предназначенный для улучшения использования компьютеров с помощью кросс-операционных флотилий, драйверов и бенчмарков для обучения и…

MLOps и развёртывание моделей

Топ-250: AI-репозитории на GitHub

Универсальный движок развертывания LLM, который использует компиляцию машинного обучения для упрощения процесса развертывания. Он предназначен для повышения…mlc-llm — это универсальный движок развертывания LLM, который использует компиляцию машинного обучения для упрощения процесса развертывания. Он предназначен для повышения…

MLOps и развёртывание моделей

Топ-250: AI-репозитории на GitHub

Высокопроизводительный, легковесный движок вывода, разработанный компанией Alibaba. Он предназначен для оптимизации LLM на устройствах и приложений Edge AI, обеспечивая…MNN — это высокопроизводительный, легковесный движок вывода, разработанный компанией Alibaba. Он предназначен для оптимизации LLM на устройствах и приложений Edge AI, обеспечивая…

MLOps и развёртывание моделей

Топ-250: AI-репозитории на GitHub

Репозиторий на GitHub, который позволяет использовать PEFT или полное тонкое настраивание для более чем 600 больших языковых моделей (LLMs) и 300 мультимодальных…ms-swift — это репозиторий на GitHub, который позволяет использовать PEFT или полное тонкое настраивание для более чем 600 больших языковых моделей (LLMs) и 300 мультимодальных…

MLOps и развёртывание моделей

Топ-250: AI-репозитории на GitHub

Высокопроизводительный уровень кэширования ключ-значение, разработанный для повышения эффективности больших языковых моделей (LLM). Он оптимизирует скорость…LMCache — это высокопроизводительный уровень кэширования ключ-значение, разработанный для повышения эффективности больших языковых моделей (LLM). Он оптимизирует скорость…

MLOps и развёртывание моделей

Топ-250: AI-репозитории на GitHub

Суп — это репозиторий на GitHub, который позволяет проводить тонкую настройку больших языковых моделей (LLM) с использованием одного файла YAML. Он использует потоковую передачу…

MLOps и развёртывание моделей

Топ-250: AI-репозитории на GitHub

Позволяет выполнять передовые LLM и VLM локально на устройствах Qualcomm, используя NPU, GPU и CPU. Он упрощает процесс с минимальным количеством кода, предлагая…GenieX позволяет выполнять передовые LLM и VLM локально на устройствах Qualcomm, используя NPU, GPU и CPU. Он упрощает процесс с минимальным количеством кода, предлагая…

MLOps и развёртывание моделей

Топ-250: AI-репозитории на GitHub

Семантический кэш, разработанный для больших языковых моделей (LLMs), полностью интегрированный с LangChain и llama_index. Он оптимизирует производительность LLM,…GPTCache — это семантический кэш, разработанный для больших языковых моделей (LLMs), полностью интегрированный с LangChain и llama_index. Он оптимизирует производительность LLM,…

MLOps и развёртывание моделей

Топ-250: AI-репозитории на GitHub

Библиотека ядра, предназначенная для обслуживания больших языковых моделей (LLM). Она облегчает эффективное развертывание и управление LLM, позволяя разработчикам…FlashInfer — это библиотека ядра, предназначенная для обслуживания больших языковых моделей (LLM). Она облегчает эффективное развертывание и управление LLM, позволяя разработчикам…

MLOps и развёртывание моделей

Топ-250: AI-репозитории на GitHub

Настольное приложение, разработанное для упрощения использования инструментов кодирования на основе ИИ. Оно предоставляет разработчикам интегрированную среду для…AI Manager — это настольное приложение, разработанное для упрощения использования инструментов кодирования на основе ИИ. Оно предоставляет разработчикам интегрированную среду для…

MLOps и развёртывание моделей

Топ-250: AI-репозитории на GitHub

24 из 40

Знаете выдающийся инструмент, который должен быть в AI-репозитории на GitHub?

ToolPotion — это каталог AI-инструментов, который люди просматривают, чтобы найти лучшие AI-репозитории на GitHub. Размещение бесплатно, и каждая заявка проходит редакторскую проверку — разместите свой инструмент там, где начинается поиск.

Отправить GitHub-репозиторий