描述
Cloptima 是一个企业级 AI 治理平台，旨在管理和优化组织进行的每一次模型调用。它作为一个全面的 AI 网关，直接位于请求路径中，以执行政策、删除敏感数据、保留预算，并在任何令牌到达 AI 提供商之前归因成本。这种主动的方法确保被阻止的调用不产生费用，敏感数据也不会泄露。
阅读更多
该平台提供强大的保护措施，允许用户定义规则以从提示中删除机密和个人可识别信息（PII）。它还与 Azure、AWS 和 Google 的主要安全扫描集成，以防止提示注入并确保合规性。可以设置硬预算，包括每日和每月限制、每请求令牌上限以及仅限警报的实验性用例限制，有效地防止超支，而不仅仅是发出警报。
Cloptima 通过缓存机制提高效率，包括精确和语义响应缓存，减少令牌支出和响应时间。它还具有自动故障转移功能，能够重试失败的调用，并在遵循既定预算和保护措施的同时，顺利切换到同一模型的替代提供商。该平台具有低延迟，政策、保护措施、预算和分类账操作在一次传递中完成，达到 p95 延迟高达 13 毫秒。
对于财务操作，Cloptima 提供详细的 LLM FinOps 功能，按团队、应用、环境、模型和自定义字段归因支出。这确保财务和工程团队使用一致、准确的成本数据，按协商的费率定价。它通过允许对代理可以使用的 MCP 服务器和工具进行治理，支持代理成本控制，并提供对代理会话、重试、循环和长时间运行的工作流的可见性。
部署选项包括可以在用户的虚拟私有云（VPC）内运行的边缘网关，保持流量本地并遵循相同的政策。Cloptima 提供与 OpenAI 和 Anthropic API 兼容的单一端点，支持包括 OpenAI、Anthropic、Google Gemini/Vertex AI 和 Amazon Bedrock 在内的广泛提供商，其目录中有超过 248 个模型。它还提供以开发者为中心的工具，如 MCP 服务器和 CLI，以编程方式查询和管理 AI 支出和治理数据。Cloptima 提供一个永久免费计划 AI Developer，无需信用卡，同时还提供适应增长需求的付费层。
- 类别AI DevOps 与云工具
- 定价模式免费增值
- 部署云，VPC
- 平台网页版
Cloptima的核心功能
带有保护措施和硬预算的 AI 网关
用于支出分析的基于令牌的 LLM FinOps
自动提供商故障转移和重试
精确和语义响应缓存
敏感数据删除（机密和 PII）
每请求令牌上限和每日/每月限制
按团队、应用、模型归因的分类账
对 AI 代理的 MCP 工具治理
在 VPC 中的边缘网关部署
多个 LLM 提供商的统一端点
请求路径中的实时政策执行
与 OpenAI 和 Anthropic 兼容的端点
用于治理数据的 CLI 和 REST API
符合 SOC 2 的安全控制
提供永久免费计划
如何使用 Cloptima？
指向 SDK：将客户的基础 URL 指向 Cloptima 的网关端点。
生成虚拟密钥：在 Cloptima 中创建一个虚拟密钥以替换您的提供商密钥。
绑定政策：将政策附加到您的虚拟密钥以定义治理规则。
进行首次调用：通过 Cloptima 网关发起您的第一次模型请求。
监控支出：观察支出、流量和安全阻止在归因分类账中的填充情况。
优化：利用缓存、故障转移和预算控制来优化 AI 支出和性能。
Cloptima的使用案例
- AI 支出治理
- 数据安全与 PII 删除
- 代理成本控制
- 模型提供商故障转移
- LLM 费用分摊与展示
- 性能优化
- 影子 AI 发现
- 企业 AI 网关
- AI 利润报告
