Runanywhere

LocalAI

AI GitHub 仓库

#44

开源人工智能引擎，允许用户在任何硬件上运行各种模型，包括大型语言模型（LLMs）、视觉、语音、图像和视频，而无需 GPU。这种灵活性使其适用于多种应用。LocalAI 是一个开源人工智能引擎，允许用户在任何硬件上运行各种模型，包括大型语言模型（LLMs）、视觉、语音、图像和视频，而无需 GPU。这种灵活性使其适用于多种应用。

Cactus Compute

AI GitHub 仓库

#21

开源项目，专注于移动设备、可穿戴设备、智能家居系统和机器人中的量化、内核、运行时和推理引擎。它旨在优化各种平台上的AI性能。Cactus Compute是一个开源项目，专注于移动设备、可穿戴设备、智能家居系统和机器人中的量化、内核、运行时和推理引擎。它旨在优化各种平台上的AI性能。

TensorFlow

AI GitHub 仓库

为所有人设计的开源机器学习框架。它提供了一个全面的生态系统，用于构建和部署机器学习模型，使开发者和研究人员都能轻松使用。TensorFlow 是一个为所有人设计的开源机器学习框架。它提供了一个全面的生态系统，用于构建和部署机器学习模型，使开发者和研究人员都能轻松使用。

ColossalAI

AI GitHub 仓库

#65

旨在使大型AI模型更具经济性、更快速和更易获取的项目。它提供了优化AI模型训练和部署的工具和框架，专注于效率和可扩展性。ColossalAI是一个旨在使大型AI模型更具经济性、更快速和更易获取的项目。它提供了优化AI模型训练和部署的工具和框架，专注于效率和可扩展性。

Axolotl

AI GitHub 仓库

#101

Axolotl AI Cloud 是一个 GitHub 仓库，提供 AI 模型开发和部署的平台。它允许用户为 AI 项目做出贡献，增强 AI 研究和应用中的协作与创新。

Mindshub

AI GitHub 仓库

#99

在 GitHub 上的统一工作空间，可以高效管理和利用开源模型。它为开发者提供了一个平台，以便无缝地协作并将各种 AI 模型集成到他们的项目中。Mindshub 是一个在 GitHub 上的统一工作空间，可以高效管理和利用开源模型。它为开发者提供了一个平台，以便无缝地协作并将各种 AI 模型集成到他们的项目中。

PowerInfer

AI GitHub 仓库

#202

高速度的大型语言模型服务工具，旨在本地部署。它能够高效快速地推理大型语言模型，适合希望在本地实现 AI 解决方案的开发者和研究人员。PowerInfer 是一个高速度的大型语言模型服务工具，旨在本地部署。它能够高效快速地推理大型语言模型，适合希望在本地实现 AI 解决方案的开发者和研究人员。

FlashInfer

AI GitHub 仓库

专为服务大型语言模型 (LLMs) 设计的内核库。它促进了 LLM 的高效部署和管理，使开发者能够通过 GitHub 贡献和增强其功能。FlashInfer 是一个专为服务大型语言模型 (LLMs) 设计的内核库。它促进了 LLM 的高效部署和管理，使开发者能够通过 GitHub 贡献和增强其功能。