SGLang-Omni

SGLang

AI-репозитории на GitHub

#53

Высокопроизводительный фреймворк для обслуживания, разработанный для крупных языковых моделей и мультимодальных моделей. Он предоставляет эффективные возможности…SGLang — это высокопроизводительный фреймворк для обслуживания, разработанный для крупных языковых моделей и мультимодальных моделей. Он предоставляет эффективные возможности…

SGLang

AI-фреймворки

Высокопроизводительный фреймворк для обслуживания, разработанный для крупных языковых и мультимодальных моделей. Он предоставляет обширную поддержку аппаратного…SGLang — это высокопроизводительный фреймворк для обслуживания, разработанный для крупных языковых и мультимодальных моделей. Он предоставляет обширную поддержку аппаратного…

FlashInfer

AI-репозитории на GitHub

Библиотека ядра, предназначенная для обслуживания больших языковых моделей (LLM). Она облегчает эффективное развертывание и управление LLM, позволяя разработчикам…FlashInfer — это библиотека ядра, предназначенная для обслуживания больших языковых моделей (LLM). Она облегчает эффективное развертывание и управление LLM, позволяя разработчикам…

mlc-llm

AI-репозитории на GitHub

Универсальный движок развертывания LLM, который использует компиляцию машинного обучения для упрощения процесса развертывания. Он предназначен для повышения…mlc-llm — это универсальный движок развертывания LLM, который использует компиляцию машинного обучения для упрощения процесса развертывания. Он предназначен для повышения…

Replicate - Запуск ИИ с помощью API

AI-платформы

Предоставляет облачный API для запуска и дообучения моделей машинного обучения с открытым исходным кодом. Развертывайте пользовательские модели одной строкой кода.…Replicate предоставляет облачный API для запуска и дообучения моделей машинного обучения с открытым исходным кодом. Развертывайте пользовательские модели одной строкой кода.…

LocalAI

AI-репозитории на GitHub

#44

Открытый ИИ-движок, который позволяет пользователям запускать различные модели, включая LLM, визуальные, голосовые, изображения и видео, на любом оборудовании без…LocalAI — это открытый ИИ-движок, который позволяет пользователям запускать различные модели, включая LLM, визуальные, голосовые, изображения и видео, на любом оборудовании без…

Hugging Face Transformers

AI-репозитории на GitHub

🤗 Transformers — это фреймворк определения моделей, разработанный для современных моделей машинного обучения в области текста, визуализации, аудио и мультимодальных приложений,…

OpenAI Whisper

AI-репозитории на GitHub

Whisper — это надежная универсальная модель распознавания речи, разработанная OpenAI. Она отлично справляется с многоязычным распознаванием речи, переводом и идентификацией языка.…