CanIRun.ai

Unsloth

AI 应用

#171

一款免费的开源桌面应用程序，可在Mac、Windows和Linux上本地运行和训练AI模型，具有无代码用户界面、代理连接和与OpenAI兼容的API。

本地AI游乐场

AI 应用

免费、开源的原生应用程序，可离线和私密运行AI模型。它通过Rust后端简化了AI推理，无需GPU。轻松管理模型、验证完整性并启动流式服务器，使AI无需技术设置即可访问。本地AI游乐场是一款免费、开源的原生应用程序，可离线和私密运行AI模型。它通过Rust后端简化了AI推理，无需GPU。轻松管理模型、验证完整性并启动流式服务器，使AI无需技术设置即可访问。

LocalAI

AI GitHub 仓库

#44

开源人工智能引擎，允许用户在任何硬件上运行各种模型，包括大型语言模型（LLMs）、视觉、语音、图像和视频，而无需 GPU。这种灵活性使其适用于多种应用。LocalAI 是一个开源人工智能引擎，允许用户在任何硬件上运行各种模型，包括大型语言模型（LLMs）、视觉、语音、图像和视频，而无需 GPU。这种灵活性使其适用于多种应用。

Runware

AI 应用

生成性 AI 推理平台，提供统一的 API 用于图像、视频、音频、3D、LLM 和视觉模型。它提供超过 40 万个模型，管理基础设施，并基于使用量定价，构建在自定义推理引擎之上。Runware 是一个生成性 AI 推理平台，提供统一的 API 用于图像、视频、音频、3D、LLM 和视觉模型。它提供超过 40 万个模型，管理基础设施，并基于使用量定价，构建在自定义推理引擎之上。

deAPI

AI 应用

统一的 API，适用于开源生成 AI 模型，涵盖图像生成、文本转语音、转录等功能。请求通过去中心化的 GPU 云运行，提供低成本的推理，无需管理硬件。deAPI 是一个统一的 API，适用于开源生成 AI 模型，涵盖图像生成、文本转语音、转录等功能。请求通过去中心化的 GPU 云运行，提供低成本的推理，无需管理硬件。

DeepSeek 在线

AI 应用

一个免费的在线演示，展示开源的 DeepSeek V3 模型（6710 亿参数），可在您的浏览器中运行，无需注册，并提供本地运行模型的链接，适用于个人和商业使用。

一个为开发者提供的AI基础设施平台，通过一个与OpenAI兼容的API，以按需付费的方式部署、微调和运行200多个优化的LLM和多模态模型。

vLLM

AI 应用

高吞吐量和内存高效的推理和服务引擎，专为大型语言模型（LLMs）设计。它使得 AI 模型的快速部署成为可能，提供先进的性能，使得 LLM 服务对各行业的用户而言变得简单、快速且具有成本效益。vLLM 是一个高吞吐量和内存高效的推理和服务引擎，专为大型语言模型（LLMs）设计。它使得 AI 模型的快速部署成为可能，提供先进的性能，使得 LLM 服务对各行业的用户而言变得简单、快速且具有成本效益。