通用计算

EmpirioLabs AI

AI 应用

一个专注于AI推理和集成的提供商，通过一个兼容OpenAI的API托管开放、专有和定制模型，提供按需付费定价、更高的速率限制和无代码仪表板。

ZETIC Melange

AI 应用

#139

自动化任何模型在任何设备上的设备端 AI 部署。由前高通工程师打造，它可优化 NPU 加速，在 200 多种设备上进行基准测试，并只需三行代码即可在数小时内完成部署，从而降低成本和延迟。ZETIC Melange 自动化任何模型在任何设备上的设备端 AI 部署。由前高通工程师打造，它可优化 NPU 加速，在 200 多种设备上进行基准测试，并只需三行代码即可在数小时内完成部署，从而降低成本和延迟。

Runware

AI 应用

生成性 AI 推理平台，提供统一的 API 用于图像、视频、音频、3D、LLM 和视觉模型。它提供超过 40 万个模型，管理基础设施，并基于使用量定价，构建在自定义推理引擎之上。Runware 是一个生成性 AI 推理平台，提供统一的 API 用于图像、视频、音频、3D、LLM 和视觉模型。它提供超过 40 万个模型，管理基础设施，并基于使用量定价，构建在自定义推理引擎之上。

一个为开发者提供的AI基础设施平台，通过一个与OpenAI兼容的API，以按需付费的方式部署、微调和运行200多个优化的LLM和多模态模型。

RunInfra

AI 应用

#93

托管的 API 网关，支持开源 AI 模型，为开发者提供一个与 OpenAI 和 Anthropic SDK 兼容的 API 密钥。它通过会话感知缓存服务模型，如 Nemotron、Qwen 和 Ornith，以降低 AI 代理的延迟和成本。RunInfra 是一个托管的 API 网关，支持开源 AI 模型，为开发者提供一个与 OpenAI 和 Anthropic SDK 兼容的 API 密钥。它通过会话感知缓存服务模型，如 Nemotron、Qwen 和 Ornith，以降低 AI 代理的延迟和成本。

Cloudflare Workers AI - 边缘 AI 推理平台

AI 平台

边缘 AI 推理平台，允许用户通过一次 API 调用在全球范围内运行 AI 推理。它提供超过 50 种模型和无服务器定价，使得扩展 AI 工作负载变得简单，无需管理基础设施。Cloudflare Workers AI 是一个边缘 AI 推理平台，允许用户通过一次 API 调用在全球范围内运行 AI 推理。它提供超过 50 种模型和无服务器定价，使得扩展 AI 工作负载变得简单，无需管理基础设施。

vLLM

AI 应用

高吞吐量和内存高效的推理和服务引擎，专为大型语言模型（LLMs）设计。它使得 AI 模型的快速部署成为可能，提供先进的性能，使得 LLM 服务对各行业的用户而言变得简单、快速且具有成本效益。vLLM 是一个高吞吐量和内存高效的推理和服务引擎，专为大型语言模型（LLMs）设计。它使得 AI 模型的快速部署成为可能，提供先进的性能，使得 LLM 服务对各行业的用户而言变得简单、快速且具有成本效益。

Cerebrium

AI 平台

提供用于实时 AI 的无服务器 GPU 基础设施，可实现语音代理、视频模型和 LLM 的亚秒级冷启动。它提供即时自动扩展、按秒计费，并消除了对 Kubernetes 的需求，从而无需复杂的基础设施管理即可实现生产级 AI。Cerebrium 提供用于实时 AI 的无服务器 GPU 基础设施，可实现语音代理、视频模型和 LLM 的亚秒级冷启动。它提供即时自动扩展、按秒计费，并消除了对 Kubernetes 的需求，从而无需复杂的基础设施管理即可实现生产级 AI。