MLX LM

LlamaFactory

AI GitHub 仓库

#12

GitHub仓库，专注于对100多种大型语言模型（LLMs）和视觉语言模型（VLMs）进行统一和高效的微调。它旨在简化AI领域研究人员和开发人员的微调过程。LlamaFactory是一个GitHub仓库，专注于对100多种大型语言模型（LLMs）和视觉语言模型（VLMs）进行统一和高效的微调。它旨在简化AI领域研究人员和开发人员的微调过程。

Mirascope - LLM 反框架

AI GitHub 仓库

创新的 LLM 反框架，旨在简化大型语言模型的开发过程。它提供了一个 GitHub 上的协作平台，开发者可以为其持续开发做出贡献。Mirascope 是一个创新的 LLM 反框架，旨在简化大型语言模型的开发过程。它提供了一个 GitHub 上的协作平台，开发者可以为其持续开发做出贡献。

vLLM

AI GitHub 仓库

#23

高吞吐量和内存高效的推理和服务引擎，专为大型语言模型（LLMs）设计。它在优化性能的同时最小化资源使用，使其适用于人工智能和机器学习的各种应用。vllm-project/vllm 是一个高吞吐量和内存高效的推理和服务引擎，专为大型语言模型（LLMs）设计。它在优化性能的同时最小化资源使用，使其适用于人工智能和机器学习的各种应用。

MLX

AI GitHub 仓库

专为 Apple Silicon 设计的数组框架，能够高效地进行机器学习操作。它允许开发者在 GitHub 上参与其开发，促进 AI 社区的合作与创新。MLX 是一个专为 Apple Silicon 设计的数组框架，能够高效地进行机器学习操作。它允许开发者在 GitHub 上参与其开发，促进 AI 社区的合作与创新。

旨在构建高质量 LLM 应用的工具，促进从原型设计到生产部署和监控的过程。它旨在简化语言模型应用的开发，确保在整个生命周期内的效率和质量。PromptFlow 是一个旨在构建高质量 LLM 应用的工具，促进从原型设计到生产部署和监控的过程。它旨在简化语言模型应用的开发，确保在整个生命周期内的效率和质量。

llamafile

AI GitHub 仓库

#141

旨在简化大型语言模型（LLMs）分发和执行的工具，通过单个文件实现。它促进了 Mozilla AI 社区在 GitHub 上的协作和开发。Llamafile 是一个旨在简化大型语言模型（LLMs）分发和执行的工具，通过单个文件实现。它促进了 Mozilla AI 社区在 GitHub 上的协作和开发。

LLMs-from-scratch

AI GitHub 仓库

GitHub 项目，指导用户使用 PyTorch 实现类似 ChatGPT 的语言模型。它提供了从零开始构建大型语言模型的逐步方法，非常适合对人工智能和机器学习感兴趣的开发者和研究人员。LLMs-from-scratch 是一个 GitHub 项目，指导用户使用 PyTorch 实现类似 ChatGPT 的语言模型。它提供了从零开始构建大型语言模型的逐步方法，非常适合对人工智能和机器学习感兴趣的开发者和研究人员。

SGLang

AI GitHub 仓库

#53

专为大型语言模型和多模态模型设计的高性能服务框架。它提供高效的服务能力，提升 AI 应用的性能，适合 AI 领域的开发者和研究人员。SGLang 是一个专为大型语言模型和多模态模型设计的高性能服务框架。它提供高效的服务能力，提升 AI 应用的性能，适合 AI 领域的开发者和研究人员。