ms-swift

LlamaFactory

AI GitHub 仓库

#12

GitHub仓库，专注于对100多种大型语言模型（LLMs）和视觉语言模型（VLMs）进行统一和高效的微调。它旨在简化AI领域研究人员和开发人员的微调过程。LlamaFactory是一个GitHub仓库，专注于对100多种大型语言模型（LLMs）和视觉语言模型（VLMs）进行统一和高效的微调。它旨在简化AI领域研究人员和开发人员的微调过程。

SGLang

AI GitHub 仓库

#53

专为大型语言模型和多模态模型设计的高性能服务框架。它提供高效的服务能力，提升 AI 应用的性能，适合 AI 领域的开发者和研究人员。SGLang 是一个专为大型语言模型和多模态模型设计的高性能服务框架。它提供高效的服务能力，提升 AI 应用的性能，适合 AI 领域的开发者和研究人员。

Soup

AI GitHub 仓库

汤是一个GitHub仓库，能够使用单个YAML文件对大型语言模型（LLMs）进行微调。它利用层流技术在4GB的笔记本GPU上训练一个80亿参数的模型，使得在有限硬件上进行高级AI模型训练变得可行。

Unsloth

AI GitHub 仓库

#39

本地用户界面，旨在运行和训练大型语言模型（LLMs）和扩散模型。它支持多种模型，包括Qwen3.8、Kimi K3、MiniMax-H3等，为开发者和研究人员提供了一个可访问的平台。unslothai/unsloth是一个本地用户界面，旨在运行和训练大型语言模型（LLMs）和扩散模型。它支持多种模型，包括Qwen3.8、Kimi K3、MiniMax-H3等，为开发者和研究人员提供了一个可访问的平台。

LMDeploy

AI GitHub 仓库

#72

用于压缩、部署和服务大型语言模型（LLMs）的工具包。它为开发者提供了必要的工具，以高效管理LLMs，确保最佳性能和可扩展性。LMDeploy是一个用于压缩、部署和服务大型语言模型（LLMs）的工具包。它为开发者提供了必要的工具，以高效管理LLMs，确保最佳性能和可扩展性。

Oumi

AI GitHub 仓库

#145

GitHub项目，旨在微调、评估和部署大型语言模型，如Qwen和Gemma。它支持开放的代理LLM和VLM，提供监督微调和强化学习的工具。Oumi是一个GitHub项目，旨在微调、评估和部署大型语言模型，如Qwen和Gemma。它支持开放的代理LLM和VLM，提供监督微调和强化学习的工具。

PEFT

AI GitHub 仓库

Hugging Face的一个GitHub仓库，专注于参数高效的微调技术。它提供了优化AI模型的最先进方法，使其在各种应用中更加高效和有效。PEFT是Hugging Face的一个GitHub仓库，专注于参数高效的微调技术。它提供了优化AI模型的最先进方法，使其在各种应用中更加高效和有效。

mlc-llm

AI GitHub 仓库

通用的 LLM 部署引擎，利用机器学习编译来简化部署过程。它旨在提高在各种平台上部署大型语言模型的效率和可扩展性。mlc-llm 是一个通用的 LLM 部署引擎，利用机器学习编译来简化部署过程。它旨在提高在各种平台上部署大型语言模型的效率和可扩展性。