Soup

vLLM

AI GitHub 仓库

#23

高吞吐量和内存高效的推理和服务引擎，专为大型语言模型（LLMs）设计。它在优化性能的同时最小化资源使用，使其适用于人工智能和机器学习的各种应用。vllm-project/vllm 是一个高吞吐量和内存高效的推理和服务引擎，专为大型语言模型（LLMs）设计。它在优化性能的同时最小化资源使用，使其适用于人工智能和机器学习的各种应用。

mlc-llm

AI GitHub 仓库

通用的 LLM 部署引擎，利用机器学习编译来简化部署过程。它旨在提高在各种平台上部署大型语言模型的效率和可扩展性。mlc-llm 是一个通用的 LLM 部署引擎，利用机器学习编译来简化部署过程。它旨在提高在各种平台上部署大型语言模型的效率和可扩展性。

AirLLM

AI GitHub 仓库

#234

GitHub项目，能够在单个4GB GPU上进行70亿参数推理。它旨在优化大型语言模型在有限硬件上的性能，使先进的AI能力更加可及。AirLLM是一个GitHub项目，能够在单个4GB GPU上进行70亿参数推理。它旨在优化大型语言模型在有限硬件上的性能，使先进的AI能力更加可及。

ColossalAI

AI GitHub 仓库

#65

旨在使大型AI模型更具经济性、更快速和更易获取的项目。它提供了优化AI模型训练和部署的工具和框架，专注于效率和可扩展性。ColossalAI是一个旨在使大型AI模型更具经济性、更快速和更易获取的项目。它提供了优化AI模型训练和部署的工具和框架，专注于效率和可扩展性。

SGLang

AI GitHub 仓库

#53

专为大型语言模型和多模态模型设计的高性能服务框架。它提供高效的服务能力，提升 AI 应用的性能，适合 AI 领域的开发者和研究人员。SGLang 是一个专为大型语言模型和多模态模型设计的高性能服务框架。它提供高效的服务能力，提升 AI 应用的性能，适合 AI 领域的开发者和研究人员。

Unsloth

AI GitHub 仓库

#39

本地用户界面，旨在运行和训练大型语言模型（LLMs）和扩散模型。它支持多种模型，包括Qwen3.8、Kimi K3、MiniMax-H3等，为开发者和研究人员提供了一个可访问的平台。unslothai/unsloth是一个本地用户界面，旨在运行和训练大型语言模型（LLMs）和扩散模型。它支持多种模型，包括Qwen3.8、Kimi K3、MiniMax-H3等，为开发者和研究人员提供了一个可访问的平台。

PowerInfer

AI GitHub 仓库

#202

高速度的大型语言模型服务工具，旨在本地部署。它能够高效快速地推理大型语言模型，适合希望在本地实现 AI 解决方案的开发者和研究人员。PowerInfer 是一个高速度的大型语言模型服务工具，旨在本地部署。它能够高效快速地推理大型语言模型，适合希望在本地实现 AI 解决方案的开发者和研究人员。

DeepEval

AI GitHub 仓库

#80

开源框架，旨在评估大型语言模型（LLMs）。它允许开发者参与并改善评估过程，从而提升LLMs的性能和可靠性。DeepEval是一个开源框架，旨在评估大型语言模型（LLMs）。它允许开发者参与并改善评估过程，从而提升LLMs的性能和可靠性。