Inferock

Inference.net

AI 应用

#80

AI 原生团队提供基础设施，以运行、监控和优化 AI 工作负载。它为开源、自定义和微调模型提供超快推理，确保低成本和快速延迟。Inference.net 为 AI 原生团队提供基础设施，以运行、监控和优化 AI 工作负载。它为开源、自定义和微调模型提供超快推理，确保低成本和快速延迟。

Respan LLM 工程平台

AI 应用

#47

LLM 工程平台，统一了可观察性、评估、提示优化和 AI 网关，使团队能够高效地交付可靠的 AI 应用程序。Respan 是一个 LLM 工程平台，统一了可观察性、评估、提示优化和 AI 网关，使团队能够高效地交付可靠的 AI 应用程序。

Auriko

AI 应用

Aurikо 是一个用于 LLM 推理的 AI 控制平面，提供模型网关、智能路由、可观察性和 FinOps，集成于一个平台中。它使用户能够在无缝集成现有 AI 生态系统的同时优化成本和性能。

Helicone AI Gateway

AI 应用

#8

LLMOps 平台，专为构建可靠的 AI 应用而设计。它提供路由、调试和分析功能，使开发人员能够有效地监控和管理其 AI 模型。Helicone 受到快速发展的 AI 公司的信赖，并提供免费试用，帮助您构建强大的 AI 解决方案。Helicone 是一个 LLMOps 平台，专为构建可靠的 AI 应用而设计。它提供路由、调试和分析功能，使开发人员能够有效地监控和管理其 AI 模型。Helicone 受到快速发展的 AI 公司的信赖，并提供免费试用，帮助您构建强大的 AI 解决方案。

OpenLIT

AI 应用

#38

开源的 AI 工程平台，为 GenAI 和 LLM 应用提供可观测性。它提供基于 OpenTelemetry 的追踪、评估和提示管理功能。根据 Apache 2.0 许可证免费自托管，确保数据隐私和生产工作负载无供应商锁定。OpenLIT 是一个开源的 AI 工程平台，为 GenAI 和 LLM 应用提供可观测性。它提供基于 OpenTelemetry 的追踪、评估和提示管理功能。根据 Apache 2.0 许可证免费自托管，确保数据隐私和生产工作负载无供应商锁定。

Opik by Comet

AI 应用

开源的 AI 可观察性平台，帮助开发者测试、发布并持续改进智能系统。它提供有效评估和监控大型语言模型 (LLM) 应用的工具。Opik 是一个开源的 AI 可观察性平台，帮助开发者测试、发布并持续改进智能系统。它提供有效评估和监控大型语言模型 (LLM) 应用的工具。

Traceloop - LLM可靠性平台

AI 应用

#98

通过将评估和监控转变为持续反馈循环，增强了LLM应用的可靠性。它提供实时洞察、自动质量检查和可定制的指标，以确保每次发布都在改进。Traceloop通过将评估和监控转变为持续反馈循环，增强了LLM应用的可靠性。它提供实时洞察、自动质量检查和可定制的指标，以确保每次发布都在改进。

Feenion AI 调试器

AI 应用

开源的 AI 调试器和可观察性平台，提供完整的 DAG 执行跟踪、令牌成本、延迟火焰图和 LLM、RAG 及代理的错误诊断。它在本地运行，确保数据隐私。Feenion 是一个开源的 AI 调试器和可观察性平台，提供完整的 DAG 执行跟踪、令牌成本、延迟火焰图和 LLM、RAG 及代理的错误诊断。它在本地运行，确保数据隐私。