LlamaFactory

ColossalAI

AI GitHub 仓库

#65

旨在使大型AI模型更具经济性、更快速和更易获取的项目。它提供了优化AI模型训练和部署的工具和框架，专注于效率和可扩展性。ColossalAI是一个旨在使大型AI模型更具经济性、更快速和更易获取的项目。它提供了优化AI模型训练和部署的工具和框架，专注于效率和可扩展性。

MLX LM

AI GitHub 仓库

#163

GitHub项目，旨在利用MLX框架简化大型语言模型（LLMs）的运行。它允许开发者参与其开发并增强其功能。MLX LM是一个GitHub项目，旨在利用MLX框架简化大型语言模型（LLMs）的运行。它允许开发者参与其开发并增强其功能。

vLLM

AI GitHub 仓库

#22

高吞吐量和内存高效的推理和服务引擎，专为大型语言模型（LLMs）设计。它在优化性能的同时最小化资源使用，使其适用于人工智能和机器学习的各种应用。vllm-project/vllm 是一个高吞吐量和内存高效的推理和服务引擎，专为大型语言模型（LLMs）设计。它在优化性能的同时最小化资源使用，使其适用于人工智能和机器学习的各种应用。

SGLang

AI GitHub 仓库

#53

专为大型语言模型和多模态模型设计的高性能服务框架。它提供高效的服务能力，提升 AI 应用的性能，适合 AI 领域的开发者和研究人员。SGLang 是一个专为大型语言模型和多模态模型设计的高性能服务框架。它提供高效的服务能力，提升 AI 应用的性能，适合 AI 领域的开发者和研究人员。

Axolotl AI - 开源微调

AI 应用

#44

开源工具，旨在使 AI 模型的微调高效且用户友好。它支持多种 LLM 架构，使得在不妨碍功能的情况下进行定制和扩展成为可能。Axolotl AI 是一款开源工具，旨在使 AI 模型的微调高效且用户友好。它支持多种 LLM 架构，使得在不妨碍功能的情况下进行定制和扩展成为可能。

LLMs-from-scratch

AI GitHub 仓库

GitHub 项目，指导用户使用 PyTorch 实现类似 ChatGPT 的语言模型。它提供了从零开始构建大型语言模型的逐步方法，非常适合对人工智能和机器学习感兴趣的开发者和研究人员。LLMs-from-scratch 是一个 GitHub 项目，指导用户使用 PyTorch 实现类似 ChatGPT 的语言模型。它提供了从零开始构建大型语言模型的逐步方法，非常适合对人工智能和机器学习感兴趣的开发者和研究人员。

Hugging Face Transformers

AI GitHub 仓库

🤗 Transformers 是一个模型定义框架，旨在支持文本、视觉、音频和多模态领域的最先进机器学习模型，促进推理和训练过程。

Mirascope - LLM 反框架

AI GitHub 仓库

创新的 LLM 反框架，旨在简化大型语言模型的开发过程。它提供了一个 GitHub 上的协作平台，开发者可以为其持续开发做出贡献。Mirascope 是一个创新的 LLM 反框架，旨在简化大型语言模型的开发过程。它提供了一个 GitHub 上的协作平台，开发者可以为其持续开发做出贡献。