GenieX

Soup

AI GitHub 仓库

汤是一个GitHub仓库，能够使用单个YAML文件对大型语言模型（LLMs）进行微调。它利用层流技术在4GB的笔记本GPU上训练一个80亿参数的模型，使得在有限硬件上进行高级AI模型训练变得可行。

PowerInfer

AI GitHub 仓库

#202

高速度的大型语言模型服务工具，旨在本地部署。它能够高效快速地推理大型语言模型，适合希望在本地实现 AI 解决方案的开发者和研究人员。PowerInfer 是一个高速度的大型语言模型服务工具，旨在本地部署。它能够高效快速地推理大型语言模型，适合希望在本地实现 AI 解决方案的开发者和研究人员。

ZETIC Melange

AI 应用

#137

自动化任何模型在任何设备上的设备端 AI 部署。由前高通工程师打造，它可优化 NPU 加速，在 200 多种设备上进行基准测试，并只需三行代码即可在数小时内完成部署，从而降低成本和延迟。ZETIC Melange 自动化任何模型在任何设备上的设备端 AI 部署。由前高通工程师打造，它可优化 NPU 加速，在 200 多种设备上进行基准测试，并只需三行代码即可在数小时内完成部署，从而降低成本和延迟。

vLLM

AI GitHub 仓库

#23

高吞吐量和内存高效的推理和服务引擎，专为大型语言模型（LLMs）设计。它在优化性能的同时最小化资源使用，使其适用于人工智能和机器学习的各种应用。vllm-project/vllm 是一个高吞吐量和内存高效的推理和服务引擎，专为大型语言模型（LLMs）设计。它在优化性能的同时最小化资源使用，使其适用于人工智能和机器学习的各种应用。

Ollama

AI GitHub 仓库

#10

开源工具，可以在您的计算机上运行大型语言模型。它允许开发者通过单个命令安装 Llama、Gemma、Qwen 和 DeepSeek 等模型，然后通过 CLI、REST API 或官方的 Python 和 JavaScript 库在 macOS、Windows、Linux 或 Docker 上使用它们。Ollama 是一个开源工具，可以在您的计算机上运行大型语言模型。它允许开发者通过单个命令安装 Llama、Gemma、Qwen 和 DeepSeek 等模型，然后通过 CLI、REST API 或官方的 Python 和 JavaScript 库在 macOS、Windows、Linux 或 Docker 上使用它们。

LocalAI

AI GitHub 仓库

#44

开源人工智能引擎，允许用户在任何硬件上运行各种模型，包括大型语言模型（LLMs）、视觉、语音、图像和视频，而无需 GPU。这种灵活性使其适用于多种应用。LocalAI 是一个开源人工智能引擎，允许用户在任何硬件上运行各种模型，包括大型语言模型（LLMs）、视觉、语音、图像和视频，而无需 GPU。这种灵活性使其适用于多种应用。

mlc-llm

AI GitHub 仓库

通用的 LLM 部署引擎，利用机器学习编译来简化部署过程。它旨在提高在各种平台上部署大型语言模型的效率和可扩展性。mlc-llm 是一个通用的 LLM 部署引擎，利用机器学习编译来简化部署过程。它旨在提高在各种平台上部署大型语言模型的效率和可扩展性。

FlashInfer

AI GitHub 仓库

专为服务大型语言模型 (LLMs) 设计的内核库。它促进了 LLM 的高效部署和管理，使开发者能够通过 GitHub 贡献和增强其功能。FlashInfer 是一个专为服务大型语言模型 (LLMs) 设计的内核库。它促进了 LLM 的高效部署和管理，使开发者能够通过 GitHub 贡献和增强其功能。