适用于 监控AI模型 的最佳AI工具

Weights & Biases

AI 应用

#1

AI 开发平台，用于构建、训练和部署 AI 模型和应用程序。它提供实验跟踪、模型管理和智能体应用程序开发工具，使团队能够自信地工作并简化其 AI 工作流程。它与流行的 ML 框架集成。Weights & Biases 是一个 AI 开发平台，用于构建、训练和部署 AI 模型和应用程序。它提供实验跟踪、模型管理和智能体应用程序开发工具，使团队能够自信地工作并简化其 AI 工作流程。它与流行的 ML 框架集成。

双子企业代理平台

AI 平台

#2

全面的Google Cloud平台，供开发人员构建、扩展、管理和优化AI代理。它提供了创建生成性AI应用程序的工具，并将企业工作流程转变为强大的代理系统。双子企业代理平台是一个全面的Google Cloud平台，供开发人员构建、扩展、管理和优化AI代理。它提供了创建生成性AI应用程序的工具，并将企业工作流程转变为强大的代理系统。

Databricks 数据与人工智能平台

AI 平台

#3

Databricks 数据与人工智能平台在开放基础上统一数据，确保人工智能扎根于业务背景，同时为您的组织提供可信的洞察。它使用户能够智能高效地利用数据。

Azure 机器学习

AI 平台

#4

全面的平台，简化了机器学习模型的构建和部署。它提供强大的 AI 基础设施、自动化机器学习和负责任的 AI 特性，提高了企业的可及性和效率。Azure 机器学习是一个全面的平台，简化了机器学习模型的构建和部署。它提供强大的 AI 基础设施、自动化机器学习和负责任的 AI 特性，提高了企业的可及性和效率。

全面的人工智能安全解决方案，旨在保护企业免受与人工智能开发和部署相关的独特风险。它提供端到端的保护，确保多云环境中人工智能应用的安全性。思科人工智能防御是一种全面的人工智能安全解决方案，旨在保护企业免受与人工智能开发和部署相关的独特风险。它提供端到端的保护，确保多云环境中人工智能应用的安全性。

H2O.ai

AI 平台

#6

提供一个端到端的生成式人工智能平台，专为私有和受保护的数据而设计。它使组织能够利用预测和生成式人工智能，同时通过隔离、内部部署或云虚拟私有云部署确保数据安全。H2O.ai 提供一个端到端的生成式人工智能平台，专为私有和受保护的数据而设计。它使组织能够利用预测和生成式人工智能，同时通过隔离、内部部署或云虚拟私有云部署确保数据安全。

Datadog

AI 应用

#7

由人工智能驱动的云监控和安全平台，提供基础设施、应用程序、日志等的全栈可观察性。它允许用户在一个统一的平台上监控所有应用程序和服务的指标。Datadog 是一个由人工智能驱动的云监控和安全平台，提供基础设施、应用程序、日志等的全栈可观察性。它允许用户在一个统一的平台上监控所有应用程序和服务的指标。

LangSmith：AI 智能体可观测性

AI 平台

#8

LangSmith 是一个 AI 智能体和 LLM 可观测性平台，提供对智能体行为的全面可见性。它有助于调试智能体、识别故障以及跟踪成本和延迟。使用 Python、Typescript、Go 或 Java SDK 跟踪您喜欢的框架或与任何智能体堆栈集成。获取实时洞察以优化性能。

Dynatrace

AI 应用

#9

由人工智能驱动的可观察性平台，帮助组织更快地创新和更高效地运营。它通过自动化和应用安全将复杂的数字生态系统转变为强大的商业资产。Dynatrace 是一个由人工智能驱动的可观察性平台，帮助组织更快地创新和更高效地运营。它通过自动化和应用安全将复杂的数字生态系统转变为强大的商业资产。

IBM Cloud Pak for AIOps

AI 平台

#10

以人工智能驱动的平台，集中监控和管理复杂的 IT 环境，增强事件解决和团队协作。IBM Cloud Pak for AIOps 是一个以人工智能驱动的平台，集中监控和管理复杂的 IT 环境，增强事件解决和团队协作。

NVIDIA OSMO 平台

AI 平台

#11

云原生编排平台，旨在跨各种环境（包括本地、私有和公共云）扩展复杂的机器人工作负载。它通过管理数据集、依赖关系和计算调度来简化 AI 开发。NVIDIA OSMO 是一个云原生编排平台，旨在跨各种环境（包括本地、私有和公共云）扩展复杂的机器人工作负载。它通过管理数据集、依赖关系和计算调度来简化 AI 开发。

FortiAI Protect

AI 应用

#12

Fortinet 开发的解决方案，利用实时 AI 阻止新兴威胁，并通过上下文风险评估优先响应。它最小化误报，检测隐藏威胁，包括影子 AI，同时通过实时控制和政策强制安全的 AI 使用。FortiAI Protect 是 Fortinet 开发的解决方案，利用实时 AI 阻止新兴威胁，并通过上下文风险评估优先响应。它最小化误报，检测隐藏威胁，包括影子 AI，同时通过实时控制和政策强制安全的 AI 使用。

IBM QRadar Suite

AI 应用

#13

模块化安全解决方案，旨在帮助安全团队高效地检测、调查和响应威胁。它集成了 SIEM、SOAR 和 EDR 等功能，以增强企业的安全态势。IBM QRadar Suite 是一款模块化安全解决方案，旨在帮助安全团队高效地检测、调查和响应威胁。它集成了 SIEM、SOAR 和 EDR 等功能，以增强企业的安全态势。

Langfuse

AI GitHub 仓库

#14

开源的AI工程平台，提供LLM评估、可观察性、指标、提示管理等功能。它与OpenTelemetry、LangChain和OpenAI SDK集成，为AI开发提供全面的工具包。Langfuse是一个开源的AI工程平台，提供LLM评估、可观察性、指标、提示管理等功能。它与OpenTelemetry、LangChain和OpenAI SDK集成，为AI开发提供全面的工具包。

New Relic

AI 应用

#15

人工智能驱动的可观察性平台，可以关联您整个技术栈的遥测数据，帮助您隔离根本原因并减少平均恢复时间 (MTTR)。它提供了一个统一的数据平台，用于事件、指标、日志和跟踪，增强了应用程序性能监控。New Relic 是一个人工智能驱动的可观察性平台，可以关联您整个技术栈的遥测数据，帮助您隔离根本原因并减少平均恢复时间 (MTTR)。它提供了一个统一的数据平台，用于事件、指标、日志和跟踪，增强了应用程序性能监控。

OmniRoute AI Gateway

AI GitHub 仓库

#16

免费的MIT许可证AI网关，提供对352个提供者和超过1200个模型的访问。它支持流行的AI工具，如Claude Code、Codex和Copilot，提供配额感知的自动回退和节省令牌的压缩功能。OmniRoute是一个免费的MIT许可证AI网关，提供对352个提供者和超过1200个模型的访问。它支持流行的AI工具，如Claude Code、Codex和Copilot，提供配额感知的自动回退和节省令牌的压缩功能。

西门子洞察中心

AI 平台

#17

工业物联网平台，利用人工智能提升制造运营。它提供基于数据的洞察，以实现持续改进、质量和可持续性，使企业能够优化生产流程和资源消耗。西门子洞察中心是一个工业物联网平台，利用人工智能提升制造运营。它提供基于数据的洞察，以实现持续改进、质量和可持续性，使企业能够优化生产流程和资源消耗。

IBM watsonx.governance

AI 应用

#18

企业提供整个生命周期的人工智能治理，提供可见性、控制和问责。它由人工智能原生治理和企业级 GRC 驱动，帮助负责任地管理人工智能并满足不断变化的法规。IBM watsonx.governance 为企业提供整个生命周期的人工智能治理，提供可见性、控制和问责。它由人工智能原生治理和企业级 GRC 驱动，帮助负责任地管理人工智能并满足不断变化的法规。

FortiAI Secure

AI 应用

#19

AI 模型、系统和工作负载提供全面的安全保护。它防止 LLM 数据泄露，并确保网络、应用和数据安全的分层防御。FortiAI Secure 为 AI 模型、系统和工作负载提供全面的安全保护。它防止 LLM 数据泄露，并确保网络、应用和数据安全的分层防御。

阿里云人工智能机器学习平台

AI 平台

#20

提供全面的机器学习服务，包括数据预处理、模型训练和部署。它提供超过140种内置算法，支持无代码和基于代码的开发，使企业和开发者都能轻松使用人工智能。阿里云人工智能机器学习平台提供全面的机器学习服务，包括数据预处理、模型训练和部署。它提供超过140种内置算法，支持无代码和基于代码的开发，使企业和开发者都能轻松使用人工智能。

SAP AI Core

AI 平台

#21

SAP 商业技术平台上的一项服务，旨在管理 AI 模型和工作流。它支持 AI 场景的全生命周期管理，与 SAP 解决方案集成，并提供可扩展的机器学习能力。SAP AI Core 是 SAP 商业技术平台上的一项服务，旨在管理 AI 模型和工作流。它支持 AI 场景的全生命周期管理，与 SAP 解决方案集成，并提供可扩展的机器学习能力。

Cloudflare Vectorize

AI 平台

#22

全球分布的向量数据库，能够创建全栈 AI 应用程序。它简化了机器学习模型的嵌入查询，增强了搜索、推荐和分类能力。Cloudflare Vectorize 是一个全球分布的向量数据库，能够创建全栈 AI 应用程序。它简化了机器学习模型的嵌入查询，增强了搜索、推荐和分类能力。

Prisma AIRS - Palo Alto Networks

AI 平台

#23

Palo Alto Networks 的 Prisma AIRS 是一个全面的 AI 安全平台，保护 AI 代理、应用、模型和数据。它在 AI 生命周期中提供端到端的安全性，确保企业安全且可扩展地采用 AI。

Evidently AI - 开源AI评估

AI 应用

#24

提供开源工具，用于评估和监控AI应用程序。它通过测试大型语言模型（LLMs）和监控各种工作流程中的性能，帮助确保AI系统准备好投入生产。受到全球AI团队的信任。Evidently AI提供开源工具，用于评估和监控AI应用程序。它通过测试大型语言模型（LLMs）和监控各种工作流程中的性能，帮助确保AI系统准备好投入生产。受到全球AI团队的信任。

伽利略人工智能平台

AI 应用

#25

伽利略人工智能是一个用于生成性人工智能应用的可观察性和评估的平台，使团队能够在企业规模上监控、评估和保护人工智能系统。它提供构建数据集、创建准确评估和部署保护措施的工具，以确保可靠的人工智能操作。

Portkey

AI 应用

#26

Gen AI 构建者提供生产堆栈，提供 AI 网关、可观测性、安全防护和提示管理。它将 Gen AI 在组织内民主化并投入生产，使团队能够在一个统一的平台上监控 LLM 行为、管理使用情况并确保安全和合规性。Portkey 为 Gen AI 构建者提供生产堆栈，提供 AI 网关、可观测性、安全防护和提示管理。它将 Gen AI 在组织内民主化并投入生产，使团队能够在一个统一的平台上监控 LLM 行为、管理使用情况并确保安全和合规性。

Dataiku

AI 平台

#27

成功实现人工智能的平台，整合了人员、编排和治理，将人工智能投资转化为可衡量的商业成果，使组织能够有效地扩展人工智能。Dataiku是成功实现人工智能的平台，整合了人员、编排和治理，将人工智能投资转化为可衡量的商业成果，使组织能够有效地扩展人工智能。

MLflow - 开源AI平台，适用于代理、LLM和模型

AI 框架

#28

开源AI平台，专为代理、LLM和机器学习模型设计。它使团队能够高效地调试、评估、监控和优化AI应用，适合各种规模的组织。MLflow是一个开源AI平台，专为代理、LLM和机器学习模型设计。它使团队能够高效地调试、评估、监控和优化AI应用，适合各种规模的组织。

FortiAIGate - 安全的人工智能工作负载

AI 平台

#29

通过管理流量来保护大型语言模型 (LLMs) 免受安全风险，防止模型操控、提示注入、过度消耗和数据泄露。它旨在有效保护人工智能工作负载。FortiAIGate 通过管理流量来保护大型语言模型 (LLMs) 免受安全风险，防止模型操控、提示注入、过度消耗和数据泄露。它旨在有效保护人工智能工作负载。

Honeycomb: AI就绪的可观察性平台

AI 应用

#30

为AI时代软件设计的可观察性平台，提供快速查询、统一遥测和LLM可观察性。受到Slack、Intercom和Dropbox等公司的信任，为工程师提供了获得全面可见性和高效解决问题的工具。Honeycomb是一个为AI时代软件设计的可观察性平台，提供快速查询、统一遥测和LLM可观察性。受到Slack、Intercom和Dropbox等公司的信任，为工程师提供了获得全面可见性和高效解决问题的工具。

Helicone AI Gateway

AI 应用

#31

LLMOps 平台，专为构建可靠的 AI 应用而设计。它提供路由、调试和分析功能，使开发人员能够有效地监控和管理其 AI 模型。Helicone 受到快速发展的 AI 公司的信赖，并提供免费试用，帮助您构建强大的 AI 解决方案。Helicone 是一个 LLMOps 平台，专为构建可靠的 AI 应用而设计。它提供路由、调试和分析功能，使开发人员能够有效地监控和管理其 AI 模型。Helicone 受到快速发展的 AI 公司的信赖，并提供免费试用，帮助您构建强大的 AI 解决方案。

红帽 OpenShift AI

AI 平台

#32

灵活的混合云平台，集成了 MLOps、GenAIOps 和 AgentOps 功能，使组织能够加速在各种环境中部署智能 AI 应用程序。红帽 OpenShift AI 是一个灵活的混合云平台，集成了 MLOps、GenAIOps 和 AgentOps 功能，使组织能够加速在各种环境中部署智能 AI 应用程序。

Alice

AI 应用

#33

ActiveFence，现在称为Alice，提供全面的AI安全平台。它提供对抗性情报、红队测试和实时保护措施，以保护AI系统免受滥用和漏洞的影响，确保安全和合规的AI部署。

OpenObserve: 可观察性平台

AI 应用

#34

开源的可观察性平台，旨在处理日志、指标和追踪。它使用 Rust 构建，提供高性能监控，存储成本降低 140 倍，使得在各种环境中实现高效的数据管理。OpenObserve 是一个开源的可观察性平台，旨在处理日志、指标和追踪。它使用 Rust 构建，提供高性能监控，存储成本降低 140 倍，使得在各种环境中实现高效的数据管理。

Cloudera AI

AI 平台

#35

企业平台，使组织能够高效地管理大规模的 AI 和机器学习工作负载，同时确保数据安全和合规性。它提供了构建、部署和监控 AI 模型的工具，重点在于定制和准确性。Cloudera AI 是一个企业平台，使组织能够高效地管理大规模的 AI 和机器学习工作负载，同时确保数据安全和合规性。它提供了构建、部署和监控 AI 模型的工具，重点在于定制和准确性。

PaddleX

AI GitHub 仓库

#36

基于 PaddlePaddle 的一体化开发工具，旨在简化 AI 模型的开发和部署。它提供了一整套功能，能够高效地构建、训练和部署深度学习模型。PaddleX 是一个基于 PaddlePaddle 的一体化开发工具，旨在简化 AI 模型的开发和部署。它提供了一整套功能，能够高效地构建、训练和部署深度学习模型。

LMDeploy

AI GitHub 仓库

#37

用于压缩、部署和服务大型语言模型（LLMs）的工具包。它为开发者提供了必要的工具，以高效管理LLMs，确保最佳性能和可扩展性。LMDeploy是一个用于压缩、部署和服务大型语言模型（LLMs）的工具包。它为开发者提供了必要的工具，以高效管理LLMs，确保最佳性能和可扩展性。

水母：软件工程智能平台

AI 应用

#38

水母是一个为AI集成工程设计的智能平台。它帮助研发团队理解他们的影响，采用最佳实践，并通过提供对AI工具生产力的清晰可见性和优化AI策略来做出更明智的决策。

地被植物

AI 应用

#39

全栈可观察性平台，旨在帮助工程师和代理监控云端和本地环境，而不妥协于数据、控制或成本。它提供自适应遥测收集，并与现有工具无缝集成，为现代团队提供全面解决方案。地被植物是一个全栈可观察性平台，旨在帮助工程师和代理监控云端和本地环境，而不妥协于数据、控制或成本。它提供自适应遥测收集，并与现有工具无缝集成，为现代团队提供全面解决方案。

Iguazio AI Platform

AI 应用

#40

Iguazio AI Platform 实现了机器学习和生成性 AI 应用的大规模运营和风险降低。它使组织能够在实时商业环境中有效实施 AI，提供自动化、编排和合规监控，以实现有影响力的 AI 部署。

Lakera AI 安全平台

AI 应用

#41

原生 AI 安全平台，旨在加速 GenAI 的部署。它为 AI 应用和代理提供运行时保护、提示注入防护和数据泄露防护。Lakera 受到财富 500 强企业的信赖，通过真实威胁数据和行业领先的精确度提供持续的安全保障。Lakera 是一个原生 AI 安全平台，旨在加速 GenAI 的部署。它为 AI 应用和代理提供运行时保护、提示注入防护和数据泄露防护。Lakera 受到财富 500 强企业的信赖，通过真实威胁数据和行业领先的精确度提供持续的安全保障。

DeepEval

AI GitHub 仓库

#42

开源框架，旨在评估大型语言模型（LLMs）。它允许开发者参与并改善评估过程，从而提升LLMs的性能和可靠性。DeepEval是一个开源框架，旨在评估大型语言模型（LLMs）。它允许开发者参与并改善评估过程，从而提升LLMs的性能和可靠性。

LightlyStudio

AI 应用

#43

集成的计算机视觉平台，用于数据标注、整理、质量保证和管理。为机器学习工程师和组织而构建，支持高效的模型训练和评估，遵循开源原则。LightlyStudio 是一个集成的计算机视觉平台，用于数据标注、整理、质量保证和管理。为机器学习工程师和组织而构建，支持高效的模型训练和评估，遵循开源原则。

HiddenLayer | 全面AI安全

AI 应用

#44

提供一个端到端的AI安全平台，能够检测威胁、保护模型，并确保安全的AI采用。它在AI生命周期中提供全面的安全性，解决来自第三方模型的风险，并确保大规模合规。HiddenLayer提供一个端到端的AI安全平台，能够检测威胁、保护模型，并确保安全的AI采用。它在AI生命周期中提供全面的安全性，解决来自第三方模型的风险，并确保大规模合规。

Collibra 企业 AI 控制平面

AI 应用

#45

企业 AI 控制平面，提供数据、模型和代理的上下文和控制。它使 AI 领导者能够管理和认证上下文，确保 AI 系统以确定性和效率运行。Collibra 是企业 AI 控制平面，提供数据、模型和代理的上下文和控制。它使 AI 领导者能够管理和认证上下文，确保 AI 系统以确定性和效率运行。

LangWatch

AI 应用

#46

AI 代理测试、LLM 评估和可观测性平台。它允许开发人员模拟真实世界场景，防止回归，并通过将生产跟踪转化为评估来调试问题。通过在部署前测试提示、模型和代理来提高每次发布的 AI 质量。LangWatch 是一个 AI 代理测试、LLM 评估和可观测性平台。它允许开发人员模拟真实世界场景，防止回归，并通过将生产跟踪转化为评估来调试问题。通过在部署前测试提示、模型和代理来提高每次发布的 AI 质量。

PromptLayer

AI 应用

#47

为 AI 团队设计的提示管理平台。它支持提示的版本控制、评估和可观察性，使团队能够有效监控性能并优化 AI 应用。PromptLayer 是一个为 AI 团队设计的提示管理平台。它支持提示的版本控制、评估和可观察性，使团队能够有效监控性能并优化 AI 应用。

Openlayer AI Governance

AI 应用

#48

AI 治理和可观测性平台，可加速代理式系统的评估和监控。它提供自动化测试、针对提示注入、PII 泄露和幻觉的实时防护栏，并确保符合欧盟 AI 法案和 NIST 等标准，以实现安全的企业创新。Openlayer 是一个 AI 治理和可观测性平台，可加速代理式系统的评估和监控。它提供自动化测试、针对提示注入、PII 泄露和幻觉的实时防护栏，并确保符合欧盟 AI 法案和 NIST 等标准，以实现安全的企业创新。

Future AGI

AI 应用

#49

用于构建、测试和监控 AI 代理的开源平台。它通过护栏、使用 20 多个指标进行的全面评估以及类似 Sentry 的错误跟踪，帮助实时捕获和修复 AI 幻觉。该平台通过强化学习实现持续改进，并提供端到端的请求跟踪。Future AGI 是一个用于构建、测试和监控 AI 代理的开源平台。它通过护栏、使用 20 多个指标进行的全面评估以及类似 Sentry 的错误跟踪，帮助实时捕获和修复 AI 幻觉。该平台通过强化学习实现持续改进，并提供端到端的请求跟踪。

Braintrust AI 可观测性平台

AI 平台

#50

AI 可观测性平台，旨在构建高质量的 AI 产品。它帮助团队追踪生产、运行评估，并在影响用户之前发现回归。该平台提供实时追踪检查、质量衡量和自动化评分，以提高 AI 性能。Braintrust 是一个 AI 可观测性平台，旨在构建高质量的 AI 产品。它帮助团队追踪生产、运行评估，并在影响用户之前发现回归。该平台提供实时追踪检查、质量衡量和自动化评分，以提高 AI 性能。

Arize

AI 平台

#51

提供了一个统一的平台，用于 LLM 可观察性和代理评估，旨在改进从开发到生产的 AI 应用程序。它提供代理跟踪、评估和监控工具，使团队能够有效地构建、调试和优化 AI 代理。该平台支持数据驱动的迭代周期。Arize AI 提供了一个统一的平台，用于 LLM 可观察性和代理评估，旨在改进从开发到生产的 AI 应用程序。它提供代理跟踪、评估和监控工具，使团队能够有效地构建、调试和优化 AI 代理。该平台支持数据驱动的迭代周期。

Gremlin

AI 应用

#52

企业可靠性管理平台，帮助团队通过在故障发生之前识别潜在的系统故障来减少停机时间并提高韧性。它提供混沌工程、可靠性评分和自动化测试的工具，以确保系统的稳健性和可靠性。Gremlin 是一个企业可靠性管理平台，帮助团队通过在故障发生之前识别潜在的系统故障来减少停机时间并提高韧性。它提供混沌工程、可靠性评分和自动化测试的工具，以确保系统的稳健性和可靠性。

Raindrop

AI 应用

#53

用于 AI 代理的可观察性和监控平台，能够捕捉每次生产运行，自动检测诸如幻觉和循环等静默故障，并让团队追踪、分类和验证修复。Raindrop 是一个用于 AI 代理的可观察性和监控平台，能够捕捉每次生产运行，自动检测诸如幻觉和循环等静默故障，并让团队追踪、分类和验证修复。

Confident AI

AI 应用

#54本周

提供一个全面的 LLM 评估平台，基准测试 AI 系统，比较提示和模型，并使用基于研究的指标识别回归。它支持多轮对话测试，允许用户在没有工程瓶颈的情况下进行实验。Confident AI 提供一个全面的 LLM 评估平台，基准测试 AI 系统，比较提示和模型，并使用基于研究的指标识别回归。它支持多轮对话测试，允许用户在没有工程瓶颈的情况下进行实验。

Phoenix

AI GitHub 仓库

#55

Arize Phoenix 是一款 AI 可观察性和评估工具，旨在帮助开发者监控和评估 AI 模型。它提供了模型性能的洞察，促进更好的决策和优化。

DataRobot

AI 平台

#56

提供一个统一的代理工作平台，旨在帮助企业有效构建、运营和管理 AI 应用，同时最小化风险并最大化影响。DataRobot 提供一个统一的代理工作平台，旨在帮助企业有效构建、运营和管理 AI 应用，同时最小化风险并最大化影响。

ClearML AI 基础设施平台

AI 平台

#57

ClearML 的 AI 基础设施平台可大规模简化从开发到生产的 AI/ML 工作流。它管理 GPU 集群，增强 AI 开发，并简化 GenAI 模型部署，从而最大限度地提高 AI 构建者的性能和可扩展性。

Palo Alto Cortex AgentiX

AI 平台

#58

安全平台，旨在构建、部署和管理 AI 代理工作队伍。它提供自主安全解决方案，使得对安全威胁的响应更快、更智能，同时保持控制和透明度。Palo Alto Cortex AgentiX 是一个安全平台，旨在构建、部署和管理 AI 代理工作队伍。它提供自主安全解决方案，使得对安全威胁的响应更快、更智能，同时保持控制和透明度。

HoneyHive

AI 应用

#59

生产环境中的 AI 代理提供可观测性层，统一监控和评估。它支持持续改进循环，使团队能够自信地交付高质量的代理。该平台提供分布式跟踪、在线评估、会话回放和警报，用于可扩展的代理行为监控。HoneyHive 为生产环境中的 AI 代理提供可观测性层，统一监控和评估。它支持持续改进循环，使团队能够自信地交付高质量的代理。该平台提供分布式跟踪、在线评估、会话回放和警报，用于可扩展的代理行为监控。

Salt Security

AI 应用

#60

SaltStack安全平台提供全面的API安全解决方案，确保在整个代理AI生命周期内的保护。它提供可见性、姿态管理和威胁检测，以保护API免受攻击和配置错误。

Agenta

AI 智能体

#61

开源平台，用于构建AI同事，提供现成的代理，处理SEO研究、代码审查、提案撰写和活动分析等任务，团队可以通过Slack或Telegram运行。它支持任何LLM提供商或您自己的模型，连接到GitHub、Notion、Slack和HubSpot等工具，并提供免费层以及付费和自托管计划。Agenta是一个开源平台，用于构建AI同事，提供现成的代理，处理SEO研究、代码审查、提案撰写和活动分析等任务，团队可以通过Slack或Telegram运行。它支持任何LLM提供商或您自己的模型，连接到GitHub、Notion、Slack和HubSpot等工具，并提供免费层以及付费和自托管计划。

Legit Security

AI 应用

#62

提供一个AI原生的应用安全态势管理（ASPM）平台，旨在检测、修复和防止来自AI生成代码、机密和漏洞的应用安全风险。它与开发工具无缝集成，以确保安全的代码创建和管理。Legit Security提供一个AI原生的应用安全态势管理（ASPM）平台，旨在检测、修复和防止来自AI生成代码、机密和漏洞的应用安全风险。它与开发工具无缝集成，以确保安全的代码创建和管理。

Comet - AI开发平台

AI 平台

#63

Opik的创造者，Opik是为开发者设计的端到端AI可观察性平台。它提供先进的代理测试、优化和监控功能，以增强开发过程并改善AI模型性能。Comet是Opik的创造者，Opik是为开发者设计的端到端AI可观察性平台。它提供先进的代理测试、优化和监控功能，以增强开发过程并改善AI模型性能。

Cyara Agentic AI

AI 应用

#64

提供 Agentic AI，用于 CX 保障和测试，使企业能够大规模地自信地部署 AI 代理。它可检测幻觉、验证决策并确保合规性，通过为 AI 驱动的交互提供关键的置信度层，在 AI 优先的世界中转变客户体验。Cyara 提供 Agentic AI，用于 CX 保障和测试，使企业能够大规模地自信地部署 AI 代理。它可检测幻觉、验证决策并确保合规性，通过为 AI 驱动的交互提供关键的置信度层，在 AI 优先的世界中转变客户体验。

TrueFoundry - 企业级 AI 网关与 MCP 网关

AI 平台

#65

企业级 AI 平台，能够实现 LLM 和 AI 代理的部署、安全和扩展。它提供了跨 AI 应用的集中治理和可观察性，确保企业的合规性和成本控制。TrueFoundry 是一个企业级 AI 平台，能够实现 LLM 和 AI 代理的部署、安全和扩展。它提供了跨 AI 应用的集中治理和可观察性，确保企业的合规性和成本控制。

ModelOp 企业人工智能指挥中心

AI 应用

#66

ModelOp 的企业人工智能指挥中心是一个全面的记录系统，自动化生命周期管理，执行治理，并在机器学习、生成性人工智能和代理人工智能中生成运营智能，从而加快生产并最大化投资回报。

Mindgard AI 安全

AI 应用

#67

提供自动化的 AI 红队演练和安全测试，以发现、评估和防御 AI 模型、代理和应用程序。它充当自主红队，绘制 AI 攻击面图并识别高影响力的漏洞，防止其被利用，从而确保强大的 AI 系统安全性。Mindgard 提供自动化的 AI 红队演练和安全测试，以发现、评估和防御 AI 模型、代理和应用程序。它充当自主红队，绘制 AI 攻击面图并识别高影响力的漏洞，防止其被利用，从而确保强大的 AI 系统安全性。

Pydantic Logfire

AI 框架

#68

针对 AI 应用的可观察性平台，提供实时追踪、评估和成本跟踪。基于 OpenTelemetry 构建，支持多种语言并与流行框架集成，提供全面的 AI 操作视图。Pydantic Logfire 是一个针对 AI 应用的可观察性平台，提供实时追踪、评估和成本跟踪。基于 OpenTelemetry 构建，支持多种语言并与流行框架集成，提供全面的 AI 操作视图。

Aveni AI金融服务

AI 应用

#69

提供针对金融服务的AI解决方案，自动化合规流程并简化工作流程。受到领先品牌的信任，利用尖端的自然语言处理技术提升生产力并确保合规性。Aveni提供针对金融服务的AI解决方案，自动化合规流程并简化工作流程。受到领先品牌的信任，利用尖端的自然语言处理技术提升生产力并确保合规性。

开源的LLM漏洞扫描器，旨在评估大型语言模型的安全性。它提供了众多插件和数千个提示，以测试模型安全性，得到了NVIDIA和社区的支持。garak是一个开源的LLM漏洞扫描器，旨在评估大型语言模型的安全性。它提供了众多插件和数千个提示，以测试模型安全性，得到了NVIDIA和社区的支持。

Deepnote

AI 平台

#71

协作式分析和数据科学笔记本，使团队能够使用 Python 和 SQL 进行数据探索。它在一个统一的工作空间中促进团队合作、自动化洞察以及仪表板和数据应用的创建。该平台支持构建和部署用于欺诈检测等任务的自主数据代理。Deepnote 是一个协作式分析和数据科学笔记本，使团队能够使用 Python 和 SQL 进行数据探索。它在一个统一的工作空间中促进团队合作、自动化洞察以及仪表板和数据应用的创建。该平台支持构建和部署用于欺诈检测等任务的自主数据代理。

TruLens：AI代理的评估与追踪

AI 应用

#72

TruLens是一个开源库，用于评估和追踪AI代理。它使用OpenTelemetry对代理进行仪表化，利用LLM评审对步骤进行评分，并识别出最佳版本进行发布。TruLens帮助发现故障并优化成本，而不牺牲质量。

Mindshub

AI GitHub 仓库

#73

在 GitHub 上的统一工作空间，可以高效管理和利用开源模型。它为开发者提供了一个平台，以便无缝地协作并将各种 AI 模型集成到他们的项目中。Mindshub 是一个在 GitHub 上的统一工作空间，可以高效管理和利用开源模型。它为开发者提供了一个平台，以便无缝地协作并将各种 AI 模型集成到他们的项目中。

Axolotl

AI GitHub 仓库

#74

Axolotl AI Cloud 是一个 GitHub 仓库，提供 AI 模型开发和部署的平台。它允许用户为 AI 项目做出贡献，增强 AI 研究和应用中的协作与创新。

Monitaur AI Governance

AI 智能体

#75

提供可操作的 AI 治理软件，覆盖整个 AI 生命周期。它帮助组织定义、管理和自动化 AI 验证，以确保公平性、准确性和合规性。通过一个专为企业级标准和控制而设计的平台，负责任地推进 AI。Monitaur 提供可操作的 AI 治理软件，覆盖整个 AI 生命周期。它帮助组织定义、管理和自动化 AI 验证，以确保公平性、准确性和合规性。通过一个专为企业级标准和控制而设计的平台，负责任地推进 AI。

Coval AI 评估

AI 智能体

#76

提供 AI 语音和聊天代理的模拟与评估平台。它帮助团队大规模测试、监控和优化其 AI 代理，在部署前后发现数百万个边缘案例。该平台旨在通过确保持续质量，使语音 AI 做好部署准备。Coval 提供 AI 语音和聊天代理的模拟与评估平台。它帮助团队大规模测试、监控和优化其 AI 代理，在部署前后发现数百万个边缘案例。该平台旨在通过确保持续质量，使语音 AI 做好部署准备。

AgentOps

AI 平台

#77

提供了一个用于追踪、调试和部署可靠 AI 代理的平台。它提供会话回放、时间旅行调试以及完整的日志和错误数据追踪，使工程师能够自信地构建和扩展企业级代理，并进行成本控制。AgentOps 提供了一个用于追踪、调试和部署可靠 AI 代理的平台。它提供会话回放、时间旅行调试以及完整的日志和错误数据追踪，使工程师能够自信地构建和扩展企业级代理，并进行成本控制。

NannyML

AI GitHub 仓库

#78

专注于部署后数据科学的 Python 库。它帮助数据科学家监控和分析模型在部署后的性能，确保可靠性和准确性。NannyML 是一个专注于部署后数据科学的 Python 库。它帮助数据科学家监控和分析模型在部署后的性能，确保可靠性和准确性。

Enkrypt AI

AI 智能体

#79

提供一个全面的平台，用于 AI 安全和防护，能够检测威胁、消除漏洞并监控性能。它帮助企业加速 AI 部署，同时确保合规性并防范新兴风险。该平台提供持续的洞察力，以实现强大的 AI 治理和风险管理。Enkrypt AI 提供一个全面的平台，用于 AI 安全和防护，能够检测威胁、消除漏洞并监控性能。它帮助企业加速 AI 部署，同时确保合规性并防范新兴风险。该平台提供持续的洞察力，以实现强大的 AI 治理和风险管理。

DX: 开发者智能平台

AI 平台

#80

开发者智能平台，旨在衡量生产力、改善数据驱动决策，并促进 AI 增强的工程。它帮助组织跟踪 AI 生成的代码，提升开发者体验，并将工程与商业目标对齐。DX 是一个开发者智能平台，旨在衡量生产力、改善数据驱动决策，并促进 AI 增强的工程。它帮助组织跟踪 AI 生成的代码，提升开发者体验，并将工程与商业目标对齐。

OpenLIT

AI 应用

#81

开源的 AI 工程平台，为 GenAI 和 LLM 应用提供可观测性。它提供基于 OpenTelemetry 的追踪、评估和提示管理功能。根据 Apache 2.0 许可证免费自托管，确保数据隐私和生产工作负载无供应商锁定。OpenLIT 是一个开源的 AI 工程平台，为 GenAI 和 LLM 应用提供可观测性。它提供基于 OpenTelemetry 的追踪、评估和提示管理功能。根据 Apache 2.0 许可证免费自托管，确保数据隐私和生产工作负载无供应商锁定。

TrojAI安全平台

AI 应用

#82

为自主AI设计的安全平台，提供从构建到运行时的可见性和执行。它确保在各个行业安全部署AI代理，防止提示注入和数据泄露。TrojAI是一个为自主AI设计的安全平台，提供从构建到运行时的可见性和执行。它确保在各个行业安全部署AI代理，防止提示注入和数据泄露。

DeepTeam 框架

AI GitHub 仓库

#83

旨在对大型语言模型（LLMs）和人工智能代理进行红队测试的框架，提供了一种结构化的方法来测试和增强人工智能系统的稳健性和安全性。DeepTeam 是一个旨在对大型语言模型（LLMs）和人工智能代理进行红队测试的框架，提供了一种结构化的方法来测试和增强人工智能系统的稳健性和安全性。

Domino 数据实验室

AI 平台

#84

提供一个企业级 AI 平台，加速研究、部署模型，并促进数据科学团队之间的协作。它提供了一个统一的环境，用于构建、管理和治理 AI 项目，确保合规并降低成本。Domino 数据实验室提供一个企业级 AI 平台，加速研究、部署模型，并促进数据科学团队之间的协作。它提供了一个统一的环境，用于构建、管理和治理 AI 项目，确保合规并降低成本。

H2O Eval Studio

AI 应用

#85

模块化平台，旨在评估增强检索生成和大型语言模型应用的性能、可靠性和安全性。它提供高管仪表板、可定制的评估工具和高级洞察，以增强人工智能的可靠性和准确性。H2O Eval Studio 是一个模块化平台，旨在评估增强检索生成和大型语言模型应用的性能、可靠性和安全性。它提供高管仪表板、可定制的评估工具和高级洞察，以增强人工智能的可靠性和准确性。

开源的视觉编程环境，旨在进行提示工程。它使用户能够有效评估提示和文本生成模型，使这一过程既有趣又简单。ChainForge 是一个开源的视觉编程环境，旨在进行提示工程。它使用户能够有效评估提示和文本生成模型，使这一过程既有趣又简单。

CalypsoAI Guardrails

AI 应用

#87

提供安全框架，以保护 AI 应用程序免受威胁。它确保合规性并防止有害输出，为企业 AI 系统提供强大的安全性。CalypsoAI Guardrails 提供安全框架，以保护 AI 应用程序免受威胁。它确保合规性并防止有害输出，为企业 AI 系统提供强大的安全性。

Akamai AI 防火墙

AI 应用

#88

专门设计的解决方案，旨在保护 AI 工作负载。它确保大型语言模型交互和数据完整性免受网络威胁，确保 AI 性能最佳并符合监管标准。Akamai AI 防火墙是一种专门设计的解决方案，旨在保护 AI 工作负载。它确保大型语言模型交互和数据完整性免受网络威胁，确保 AI 性能最佳并符合监管标准。

ZenMux

AI 应用

#89

企业级大型模型平台，提供统一的 API 接入 100 多个 AI 模型，如 Claude、GPT 和 Gemini，具备智能路由、开发者可观察性以及 AI 模型保险，以补偿低质量输出。ZenMux 是一个企业级大型模型平台，提供统一的 API 接入 100 多个 AI 模型，如 Claude、GPT 和 Gemini，具备智能路由、开发者可观察性以及 AI 模型保险，以补偿低质量输出。

ZenML

AI 平台

#90

统一的机器学习和人工智能层，能够实现可重复的 ML 流水线和代理评估。它与现有基础设施无缝集成，使团队能够高效地构建和管理工作流程，而无需担心供应商锁定。ZenML 是一个统一的机器学习和人工智能层，能够实现可重复的 ML 流水线和代理评估。它与现有基础设施无缝集成，使团队能够高效地构建和管理工作流程，而无需担心供应商锁定。

SUPERWISE Agentic Management Platform

AI 平台

#91

SUPERWISE AMP 是一个面向受监管行业的 Agentic 管理平台，提供完整的可见性、实时护栏和策略执行。它使企业能够安全合规地构建、管理和治理 AI 代理，通过 PII 检测和审计日志等功能确保可信赖的 AI 结果。

Prompt Security AI工具

AI 平台

#92

Prompt Security来自SentinelOne，确保企业在生成性AI使用中的实时可见性、政策执行和自动化风险缓解。它为员工提供有效和安全使用AI工具和代理的指南。

Hopscotch

AI 应用

#93

通过单一API提供来自Anthropic、OpenAI和Google等提供商的500多个AI模型的访问。它允许用户为每个API密钥、团队成员和工作区设置支出限制，从而确保成本控制和高效的模型使用。Hopscotch通过单一API提供来自Anthropic、OpenAI和Google等提供商的500多个AI模型的访问。它允许用户为每个API密钥、团队成员和工作区设置支出限制，从而确保成本控制和高效的模型使用。

Giskard

AI 应用

#94

专注于持续红队测试和大型语言模型（LLM）安全的AI安全平台。它通过自动化测试和评估帮助检测漏洞、预防幻觉并保护AI系统。Giskard是一个专注于持续红队测试和大型语言模型（LLM）安全的AI安全平台。它通过自动化测试和评估帮助检测漏洞、预防幻觉并保护AI系统。

Wayfound Guardian AI Agent

AI 智能体

#95

提供面向业务用户的 AI Agent 监督，实现企业级性能监控和风险降低。它确保 AI Agent 符合目标和策略，提供记分卡、建议和警报，以改善结果并为任何 AI Agent 或工作流实现自动化自我改进。Wayfound 提供面向业务用户的 AI Agent 监督，实现企业级性能监控和风险降低。它确保 AI Agent 符合目标和策略，提供记分卡、建议和警报，以改善结果并为任何 AI Agent 或工作流实现自动化自我改进。

Chalk AI 数据平台

AI 应用

#96

为代理和机器学习模型设计的实时 AI 数据平台。它提供了以开发者为中心的基础设施，用于使用 Python 构建、部署和监控功能，能够以超低延迟处理高负载工作，同时确保完美的可审计性。Chalk 是一个为代理和机器学习模型设计的实时 AI 数据平台。它提供了以开发者为中心的基础设施，用于使用 Python 构建、部署和监控功能，能够以超低延迟处理高负载工作，同时确保完美的可审计性。

Valohai

AI 平台

#97

为集成LLM和专业模型的AI产品设计的MLOps平台。它使用户能够使用自己的云基础设施比较、评估和部署配置，同时保持从数据到部署的完整追溯。Valohai是一个为集成LLM和专业模型的AI产品设计的MLOps平台。它使用户能够使用自己的云基础设施比较、评估和部署配置，同时保持从数据到部署的完整追溯。

中间件

AI 应用

#98

全栈的、原生于OpenTelemetry的可观察性平台，其AI SRE代理OpsAI能够检测、诊断并帮助解决基础设施、APM、日志、RUM和LLMs中的生产问题。中间件是一个全栈的、原生于OpenTelemetry的可观察性平台，其AI SRE代理OpsAI能够检测、诊断并帮助解决基础设施、APM、日志、RUM和LLMs中的生产问题。

AstraFlow

AI 应用

#99

UCloud 提供的模型聚合平台，允许开发者通过一个 API 密钥访问超过 200 个主流 AI 模型。它支持 OpenAI 协议，并提供无缝集成，无需代码修改，涵盖语言、图像和视频 AI 能力。AstraFlow 是 UCloud 提供的模型聚合平台，允许开发者通过一个 API 密钥访问超过 200 个主流 AI 模型。它支持 OpenAI 协议，并提供无缝集成，无需代码修改，涵盖语言、图像和视频 AI 能力。

Vals AI

AI 应用

#100

使用户能够从 GitHub 仓库生成自定义评估套件，允许在特定代码库上比较 AI 模型和编码代理。它提供了一个强大的 AI 评估和基准测试平台。Vals AI 使用户能够从 GitHub 仓库生成自定义评估套件，允许在特定代码库上比较 AI 模型和编码代理。它提供了一个强大的 AI 评估和基准测试平台。

Respan LLM 工程平台

AI 应用

#101

LLM 工程平台，统一了可观察性、评估、提示优化和 AI 网关，使团队能够高效地交付可靠的 AI 应用程序。Respan 是一个 LLM 工程平台，统一了可观察性、评估、提示优化和 AI 网关，使团队能够高效地交付可靠的 AI 应用程序。

Lasso安全平台

AI 应用

#102

Lasso安全为企业提供全面的可见性、控制和保护，覆盖AI模型、代理和应用程序。它帮助实时降低生成AI风险，确保企业规模的安全AI采用。

Deepchecks LLM 评估

AI 应用

#103

企业级的人工智能测试、可观察性和监控平台。它提供了对生产中人工智能系统的可见性、控制和信任，确保人工智能部署的准确性和一致性。Deepchecks LLM 评估是一个企业级的人工智能测试、可观察性和监控平台。它提供了对生产中人工智能系统的可见性、控制和信任，确保人工智能部署的准确性和一致性。

NeuralTrust

AI 应用

#104

一个企业级人工智能和代理安全平台，其开源的TrustGate代理网关集中管理每个AI模型、工具和代理调用的安全性、可观察性和治理，提供运行时保护、红队测试和合规准备的部署。

Inference.net

AI 应用

#105

AI 原生团队提供基础设施，以运行、监控和优化 AI 工作负载。它为开源、自定义和微调模型提供超快推理，确保低成本和快速延迟。Inference.net 为 AI 原生团队提供基础设施，以运行、监控和优化 AI 工作负载。它为开源、自定义和微调模型提供超快推理，确保低成本和快速延迟。

对抗鲁棒性工具箱

AI 框架

#106

旨在增强机器学习模型安全性的Python库。它提供了评估、保护和验证模型抵御对抗威胁的工具，支持多种框架和数据类型。对抗鲁棒性工具箱是一个旨在增强机器学习模型安全性的Python库。它提供了评估、保护和验证模型抵御对抗威胁的工具，支持多种框架和数据类型。

W&B Weave

AI 平台

#107

W&B Weave 提升了生产代理的可观察性，使其能够从现实世界的经验中学习和改进。该工具通过持续监控和评估，帮助维护 AI 应用程序的可靠性和性能。

和谐安全平台

AI 应用

#108

和谐安全是一个AI治理和控制平台，为企业提供对AI使用的可见性和控制。它能够检测影子AI，防止数据泄露，并在网络、桌面和代理工作流程中执行政策。

大模型平台

AI 应用

#109

提供全面的AI模型套件，包括大型语言模型（LLMs）和多模态视觉模型，旨在将AI技术与行业应用相结合。为企业提供高精度、高效和通用的AI开发解决方案。大模型平台提供全面的AI模型套件，包括大型语言模型（LLMs）和多模态视觉模型，旨在将AI技术与行业应用相结合。为企业提供高精度、高效和通用的AI开发解决方案。

Lunary AI平台

AI 应用

#110

为基于大型语言模型（LLM）应用设计的可观察性和提示管理平台。它使企业能够自信地构建、扩展和管理AI代理，确保在各种用例中提供可靠的AI体验。Lunary是一个为基于大型语言模型（LLM）应用设计的可观察性和提示管理平台。它使企业能够自信地构建、扩展和管理AI代理，确保在各种用例中提供可靠的AI体验。

Hamming AI

AI 应用

#111

提供一个全面的企业语音和聊天机器人质量保证 (QA) 及生产监控平台。它能自动化场景生成、回放生产通话，并提供超过 50 项指标。该平台通过了 SOC 2 认证并符合 HIPAA 要求，让团队能在 10 分钟内开始测试。Hamming AI 提供一个全面的企业语音和聊天机器人质量保证 (QA) 及生产监控平台。它能自动化场景生成、回放生产通话，并提供超过 50 项指标。该平台通过了 SOC 2 认证并符合 HIPAA 要求，让团队能在 10 分钟内开始测试。

DagsHub：多模态人工智能管理平台

AI 应用

#112

全面的平台，用于管理多模态人工智能项目。它允许用户在一个地方策划数据集、跟踪实验和管理模型。非常适合数据科学家和人工智能团队。DagsHub是一个全面的平台，用于管理多模态人工智能项目。它允许用户在一个地方策划数据集、跟踪实验和管理模型。非常适合数据科学家和人工智能团队。

Traceloop - LLM可靠性平台

AI 应用

#113

通过将评估和监控转变为持续反馈循环，增强了LLM应用的可靠性。它提供实时洞察、自动质量检查和可定制的指标，以确保每次发布都在改进。Traceloop通过将评估和监控转变为持续反馈循环，增强了LLM应用的可靠性。它提供实时洞察、自动质量检查和可定制的指标，以确保每次发布都在改进。

Maxim AI：GenAI 评估平台

AI 智能体

#114

Maxim AI 是一个专为 AI 团队设计的端到端评估和可观察性平台。它帮助用户模拟、评估和监控 AI 智能体，从而实现更快、更可靠的部署。该平台提供提示工程、智能体模拟和实时监控等功能，简化了 AI 开发生命周期。

Orq.ai

AI 应用

#115

全面的平台，旨在构建、部署和管理 AI 应用程序。它提供了一个安全的环境，用于开发和监控生成性 AI 解决方案，确保在整个生命周期内的控制和可扩展性。Orq.ai 是一个全面的平台，旨在构建、部署和管理 AI 应用程序。它提供了一个安全的环境，用于开发和监控生成性 AI 解决方案，确保在整个生命周期内的控制和可扩展性。

Latitude

AI 应用

#116

一个开源的AI代理可观察性和监控平台，能够追踪生产中的代理，发现故障，并自动派遣编码代理进行修复。

Klu.ai

AI 应用

#117

Klu.ai 赋能团队设计、部署和优化大型语言模型 (LLM) 应用。它提供协作式提示设计、评估工作流和可观测性工具，以确保可靠的 AI 体验。Klu 帮助协调团队、跟踪性能并管理生产 LLM 应用的成本。

开源框架，旨在帮助安全专业人员和工程师识别生成性AI系统中的风险。它使用户能够主动管理与AI相关的风险，提高系统的安全性和可靠性。PyRIT是一个开源框架，旨在帮助安全专业人员和工程师识别生成性AI系统中的风险。它使用户能够主动管理与AI相关的风险，提高系统的安全性和可靠性。

Adversa AI

AI 应用

#119

提供一个自主平台，用于持续的 AI 红队演练，专门针对 AI 代理、LLM 和 GenAI 应用。它识别并修复安全漏洞，确保 AI 系统能够大规模部署而不会引入不当风险。该服务映射到 OWASP 和 NIST 标准，为定制 AI 解决方案提供量身定制的安全保障。Adversa AI 提供一个自主平台，用于持续的 AI 红队演练，专门针对 AI 代理、LLM 和 GenAI 应用。它识别并修复安全漏洞，确保 AI 系统能够大规模部署而不会引入不当风险。该服务映射到 OWASP 和 NIST 标准，为定制 AI 解决方案提供量身定制的安全保障。

mpathic AI

AI 应用

#120

提供一个以人为本的 AI 安全平台，用于分析对话和上下文数据。它通过专家主导的红队测试和科学严谨的人类数据基准测试，帮助 AI 构建者评估、压力测试和改进面向人类的模型，以确保更安全、更具吸引力的 AI。mpathic AI 提供一个以人为本的 AI 安全平台，用于分析对话和上下文数据。它通过专家主导的红队测试和科学严谨的人类数据基准测试，帮助 AI 构建者评估、压力测试和改进面向人类的模型，以确保更安全、更具吸引力的 AI。

Aptori | 自动化应用安全

AI 应用

#121

原生 AI 应用安全平台，可持续验证运行时行为，证明可利用性，并优先处理真实风险。它加速修复，验证关闭，并为受监管的企业提供受管证据，确保在 AI 时代实现安全设计软件。Aptori 是一个原生 AI 应用安全平台，可持续验证运行时行为，证明可利用性，并优先处理真实风险。它加速修复，验证关闭，并为受监管的企业提供受管证据，确保在 AI 时代实现安全设计软件。

Cleanlab AI安全平台

AI 应用

#122

帮助组织构建更安全的AI代理，通过防止错误响应来实现。它确保AI输出符合安全、合规和信任的标准，使AI系统具备生产准备和可靠性。Cleanlab帮助组织构建更安全的AI代理，通过防止错误响应来实现。它确保AI输出符合安全、合规和信任的标准，使AI系统具备生产准备和可靠性。

Athina

AI 应用

#123

协作式 AI 开发平台，供团队构建、测试和监控 AI 功能。它简化了提示管理、数据集评估和 AI 流程原型设计。Athina 适用于数据科学家、产品经理和工程师，通过持续评估和分段分析等功能，提高 AI 开发的速度和可靠性。Athina 是一个协作式 AI 开发平台，供团队构建、测试和监控 AI 功能。它简化了提示管理、数据集评估和 AI 流程原型设计。Athina 适用于数据科学家、产品经理和工程师，通过持续评估和分段分析等功能，提高 AI 开发的速度和可靠性。

Langtrace

AI 应用

#124

开源的可观测性和评估平台，旨在帮助开发人员将 AI 原型转化为企业级产品。它提供对 AI 代理性能、安全性和成本的洞察，支持主流框架和 LLM 提供商，实现无缝集成和迭代。Langtrace 是一个开源的可观测性和评估平台，旨在帮助开发人员将 AI 原型转化为企业级产品。它提供对 AI 代理性能、安全性和成本的洞察，支持主流框架和 LLM 提供商，实现无缝集成和迭代。

玄武岩

AI 应用

#125

通过自动学习用户交互来捕捉客户行为，以增强AI代理。它提供每日更新，以基于真实对话分析改善代理性能。玄武岩通过自动学习用户交互来捕捉客户行为，以增强AI代理。它提供每日更新，以基于真实对话分析改善代理性能。

FastRouter.ai

AI 应用

#126

统一的 API 网关，使企业 AI 团队能够通过单一的 OpenAI 兼容 API 路由、比较和操作超过 200 种语言模型。它提供自动路由、故障转移、成本控制和可观察性等功能，以优化 AI 工作负载。FastRouter.ai 是一个统一的 API 网关，使企业 AI 团队能够通过单一的 OpenAI 兼容 API 路由、比较和操作超过 200 种语言模型。它提供自动路由、故障转移、成本控制和可观察性等功能，以优化 AI 工作负载。

LLM Gateway

AI GitHub 仓库

#127

多供应商网关，旨在管理大型语言模型，具有路由、故障转移、断路器、缓存、每租户速率限制和成本跟踪等功能。它支持 FastAPI、Claude 和 Bedrock。LLM Gateway 是一个多供应商网关，旨在管理大型语言模型，具有路由、故障转移、断路器、缓存、每租户速率限制和成本跟踪等功能。它支持 FastAPI、Claude 和 Bedrock。

Modelflare

AI 应用

#128

提供稳定、低成本的通道，以访问领先的 AI 模型，如 GPT、Claude 和 Grok。它提供请求、令牌使用和成本的实时跟踪，确保高效的模型管理和成本效益。Modelflare 提供稳定、低成本的通道，以访问领先的 AI 模型，如 GPT、Claude 和 Grok。它提供请求、令牌使用和成本的实时跟踪，确保高效的模型管理和成本效益。

Adaline

AI 应用

#129

专为自我改进的AI代理设计的可观察性和评估平台。它将生产跟踪转化为可操作的行为、评估、合成数据集和经过验证的改进，使团队能够高效、有效地增强他们的AI系统。Adaline是一个专为自我改进的AI代理设计的可观察性和评估平台。它将生产跟踪转化为可操作的行为、评估、合成数据集和经过验证的改进，使团队能够高效、有效地增强他们的AI系统。

FailproofAI

AI GitHub 仓库

#130

提供 AI 代理工具的可观察性和执行保障，确保每次运行都被捕获，并通过政策执行维护运行时的可靠性。它旨在增强 AI 系统的可靠性和效率。FailproofAI 提供 AI 代理工具的可观察性和执行保障，确保每次运行都被捕获，并通过政策执行维护运行时的可靠性。它旨在增强 AI 系统的可靠性和效率。

AI-Infra-Guard

AI GitHub 仓库

#131

全面的 AI 红队平台，旨在保护 AI 生态系统。它提供代理扫描、技能扫描、MCP 扫描、AI 基础设施扫描和 LLM 越狱评估，以确保对漏洞的强大保护。AI-Infra-Guard 是一个全面的 AI 红队平台，旨在保护 AI 生态系统。它提供代理扫描、技能扫描、MCP 扫描、AI 基础设施扫描和 LLM 越狱评估，以确保对漏洞的强大保护。

AGI-Eval

AI 应用

#132

社区平台，提供基于全面评估方案的大型语言模型的排名和评估。它提供透明和权威的数据，帮助用户了解每个模型的优缺点，从而做出明智的决策。AGI-Eval是一个社区平台，提供基于全面评估方案的大型语言模型的排名和评估。它提供透明和权威的数据，帮助用户了解每个模型的优缺点，从而做出明智的决策。

Olam Labs

AI 应用

#133

通过多智能体模拟评估AI模型的社会智能。它与AI实验室合作，评估模型在复杂环境中的安全性和性能。Olam Labs通过多智能体模拟评估AI模型的社会智能。它与AI实验室合作，评估模型在复杂环境中的安全性和性能。

Rocketride Server

AI GitHub 仓库

#134

高性能的 AI 流水线引擎，核心采用 C++。它支持超过 50 个可扩展的 Python 节点，使得构建、调试和扩展多个模型提供者和向量数据库的 LLM 工作流成为可能。该工具与 IDE 集成，并包括 VS Code 扩展、TypeScript/Python SDK 和 Docker 部署。Rocketride Server 是一款高性能的 AI 流水线引擎，核心采用 C++。它支持超过 50 个可扩展的 Python 节点，使得构建、调试和扩展多个模型提供者和向量数据库的 LLM 工作流成为可能。该工具与 IDE 集成，并包括 VS Code 扩展、TypeScript/Python SDK 和 Docker 部署。

RagaAI Catalyst

AI GitHub 仓库

#135

为 AI 可观察性、监控和评估而设计的 Python SDK。它提供了代理和工具追踪、多代理系统调试以及带有自托管仪表板的高级分析等功能。RagaAI Catalyst 是一个为 AI 可观察性、监控和评估而设计的 Python SDK。它提供了代理和工具追踪、多代理系统调试以及带有自托管仪表板的高级分析等功能。

Netra

AI 应用

#136今天

全面的 AI 代理生命周期管理平台，提供可观察性、评估、模拟和红队测试。它支持 14 个以上的 LLM 提供商和 12 个以上的框架，确保符合 SOC 2、HIPAA 和 GDPR 认证的安全和合规操作。Netra 是一个全面的 AI 代理生命周期管理平台，提供可观察性、评估、模拟和红队测试。它支持 14 个以上的 LLM 提供商和 12 个以上的框架，确保符合 SOC 2、HIPAA 和 GDPR 认证的安全和合规操作。

任务控制中心

AI GitHub 仓库

#137

自托管的AI代理控制平面，使用户能够调度任务、审查运行、跟踪支出，并操作各种运行时，如OpenClaw和Codex。它提供了一个全面的解决方案，以高效管理AI操作。任务控制中心是一个自托管的AI代理控制平面，使用户能够调度任务、审查运行、跟踪支出，并操作各种运行时，如OpenClaw和Codex。它提供了一个全面的解决方案，以高效管理AI操作。

Levo.ai 安全平台

AI 应用

#138

提供一个综合的安全平台，结合了 API 和 AI 安全。它提供实时可见性、威胁检测和自适应控制，以保护 AI 代理和 API，确保企业安全采用和合规。Levo.ai 提供一个综合的安全平台，结合了 API 和 AI 安全。它提供实时可见性、威胁检测和自适应控制，以保护 AI 代理和 API，确保企业安全采用和合规。

Entry Point AI

AI 应用

#139

用于微调大型语言模型的无代码平台。它允许用户在一个地方管理提示、微调和评估。在无需编码专业知识的情况下，优化专有和开源模型，以获得更高的质量、更快的生成速度和更可预测的输出。Entry Point AI 是一个用于微调大型语言模型的无代码平台。它允许用户在一个地方管理提示、微调和评估。在无需编码专业知识的情况下，优化专有和开源模型，以获得更高的质量、更快的生成速度和更可预测的输出。

Warden AI

AI 应用

#140

提供一个平台，帮助人力资源技术负责任地采用人工智能，确保公平性、合规性和透明度。它提供技术保障标准、第三方监控和偏见检测，以帮助组织开发、部署和维护人工智能系统，建立公众信任并保护公民权利。Warden AI 提供一个平台，帮助人力资源技术负责任地采用人工智能，确保公平性、合规性和透明度。它提供技术保障标准、第三方监控和偏见检测，以帮助组织开发、部署和维护人工智能系统，建立公众信任并保护公民权利。

Qianwen AI Platform

AI 应用

#141

提供企业级 AI 模型服务，为 AI 应用开发提供全面的工具套件。它支持多模态 AI 模型和 API 集成，确保企业和开发者拥有高效且经济的 AI 基础设施。Qianwen AI Platform 提供企业级 AI 模型服务，为 AI 应用开发提供全面的工具套件。它支持多模态 AI 模型和 API 集成，确保企业和开发者拥有高效且经济的 AI 基础设施。

CortX (XNode) AI 控制平面

AI 应用

#142

CortX by XNode 是一个企业级 AI 控制平面，为 AI 模型、用户和数据之间提供一个受管控的层。它确保合规性、成本控制和安全的 AI 交互在企业边界内进行。

TraceRoot

AI 应用

#143

开源的可观察性和自我改进层，专为 AI 代理设计，能够检测生产故障，针对您的源代码和 GitHub 历史进行根本原因分析，打开经过验证的修复 PR，并评估每个修复。TraceRoot 是一个开源的可观察性和自我改进层，专为 AI 代理设计，能够检测生产故障，针对您的源代码和 GitHub 历史进行根本原因分析，打开经过验证的修复 PR，并评估每个修复。

GrowthOS

AI 应用

#144

GrowthOS 重构代理旅程，以了解他们如何发现、选择和使用产品。它评估代理和模型之间的任务，提供对现实世界表现和改进的洞察。

Wallaroo.ai

AI 平台

#145

AI 平台，提供用于部署、管理和监控机器学习模型的工具。它旨在简化 MLOps 生命周期，使团队能够更快、更自信地将 AI 推向生产。该平台支持各种模型类型并与现有工作流集成。Wallaroo.ai 是一个 AI 平台，提供用于部署、管理和监控机器学习模型的工具。它旨在简化 MLOps 生命周期，使团队能够更快、更自信地将 AI 推向生产。该平台支持各种模型类型并与现有工作流集成。

Confidential AI Cloud · Phala

AI 平台

#146

Phala Cloud 提供了一个机密的 AI 平台，用于私有 LLM 推理、密封代理和可验证计算。它运行在 TEE 保护的 GPU 上，包括 Intel TDX 和 NVIDIA H100/H200。用户可以部署现有的 Docker Compose 工作负载，验证运行时，并访问 GPU 市场。它提供企业级合规性和安全性。

MagicArena

AI 应用

#147

视觉AI模型比较平台，允许用户比较各种模型的生成效果。它涵盖了图像和视频生成的顶级模型，提供独特的排行榜体验。MagicArena是一个视觉AI模型比较平台，允许用户比较各种模型的生成效果。它涵盖了图像和视频生成的顶级模型，提供独特的排行榜体验。

Coarena

AI 应用

#148

用于基准测试计算机使用AI代理的平台。它允许用户根据人类偏好、完成度、速度、恢复能力和成本比较AI模型。用户可以探索实时模型排名或发布任务以评估AI性能。Coarena是一个用于基准测试计算机使用AI代理的平台。它允许用户根据人类偏好、完成度、速度、恢复能力和成本比较AI模型。用户可以探索实时模型排名或发布任务以评估AI性能。

AIProxy

AI 应用

#149

提供了一个安全的解决方案，用于将 AI 集成到 iOS 应用程序中。它使用先进的安全措施保护 API 密钥和端点，提供实时可观测性，并允许与 Swift 客户端库轻松集成。保护您的 AI 使用并获得安心。AIProxy 提供了一个安全的解决方案，用于将 AI 集成到 iOS 应用程序中。它使用先进的安全措施保护 API 密钥和端点，提供实时可观测性，并允许与 Swift 客户端库轻松集成。保护您的 AI 使用并获得安心。

ZeroTrusted.ai 网络安全平台

AI 应用

#150

面向企业和政府的 AI 网络安全平台。它提供自动化的 SOAR、实时的 LLM 健康监控、智能 AI 防火墙以及全面的 AI 治理，所有这些都建立在零信任架构之上，实现端到端安全。ZeroTrusted.ai 是一个面向企业和政府的 AI 网络安全平台。它提供自动化的 SOAR、实时的 LLM 健康监控、智能 AI 防火墙以及全面的 AI 治理，所有这些都建立在零信任架构之上，实现端到端安全。