Helicone AI Gateway

Feenion AI 调试器

AI 应用

开源的 AI 调试器和可观察性平台，提供完整的 DAG 执行跟踪、令牌成本、延迟火焰图和 LLM、RAG 及代理的错误诊断。它在本地运行，确保数据隐私。Feenion 是一个开源的 AI 调试器和可观察性平台，提供完整的 DAG 执行跟踪、令牌成本、延迟火焰图和 LLM、RAG 及代理的错误诊断。它在本地运行，确保数据隐私。

OpenLIT

AI 应用

#38

开源的 AI 工程平台，为 GenAI 和 LLM 应用提供可观测性。它提供基于 OpenTelemetry 的追踪、评估和提示管理功能。根据 Apache 2.0 许可证免费自托管，确保数据隐私和生产工作负载无供应商锁定。OpenLIT 是一个开源的 AI 工程平台，为 GenAI 和 LLM 应用提供可观测性。它提供基于 OpenTelemetry 的追踪、评估和提示管理功能。根据 Apache 2.0 许可证免费自托管，确保数据隐私和生产工作负载无供应商锁定。

Portkey

AI 应用

#8

Gen AI 构建者提供生产堆栈，提供 AI 网关、可观测性、安全防护和提示管理。它将 Gen AI 在组织内民主化并投入生产，使团队能够在一个统一的平台上监控 LLM 行为、管理使用情况并确保安全和合规性。Portkey 为 Gen AI 构建者提供生产堆栈，提供 AI 网关、可观测性、安全防护和提示管理。它将 Gen AI 在组织内民主化并投入生产，使团队能够在一个统一的平台上监控 LLM 行为、管理使用情况并确保安全和合规性。

MLflow - 开源AI平台，适用于代理、LLM和模型

AI 框架

#12

开源AI平台，专为代理、LLM和机器学习模型设计。它使团队能够高效地调试、评估、监控和优化AI应用，适合各种规模的组织。MLflow是一个开源AI平台，专为代理、LLM和机器学习模型设计。它使团队能够高效地调试、评估、监控和优化AI应用，适合各种规模的组织。

Respan LLM 工程平台

AI 应用

#48

LLM 工程平台，统一了可观察性、评估、提示优化和 AI 网关，使团队能够高效地交付可靠的 AI 应用程序。Respan 是一个 LLM 工程平台，统一了可观察性、评估、提示优化和 AI 网关，使团队能够高效地交付可靠的 AI 应用程序。

Langtrace

AI 应用

#103

开源的可观测性和评估平台，旨在帮助开发人员将 AI 原型转化为企业级产品。它提供对 AI 代理性能、安全性和成本的洞察，支持主流框架和 LLM 提供商，实现无缝集成和迭代。Langtrace 是一个开源的可观测性和评估平台，旨在帮助开发人员将 AI 原型转化为企业级产品。它提供对 AI 代理性能、安全性和成本的洞察，支持主流框架和 LLM 提供商，实现无缝集成和迭代。

Evidently AI - 开源AI评估

AI 应用

#24

提供开源工具，用于评估和监控AI应用程序。它通过测试大型语言模型（LLMs）和监控各种工作流程中的性能，帮助确保AI系统准备好投入生产。受到全球AI团队的信任。Evidently AI提供开源工具，用于评估和监控AI应用程序。它通过测试大型语言模型（LLMs）和监控各种工作流程中的性能，帮助确保AI系统准备好投入生产。受到全球AI团队的信任。

Langfuse

AI 平台

#52

开源的 LLM 工程平台，旨在帮助开发人员构建、监控和改进 AI 应用程序。它在一个统一的工作流程中提供追踪、提示管理、评估和分析。Langfuse 支持各种模型、框架和集成，使团队能够高效地从原型到生产。Langfuse 是一个开源的 LLM 工程平台，旨在帮助开发人员构建、监控和改进 AI 应用程序。它在一个统一的工作流程中提供追踪、提示管理、评估和分析。Langfuse 支持各种模型、框架和集成，使团队能够高效地从原型到生产。