描述
Phala Cloud 提供了一个机密的 AI 平台，旨在运行具有增强隐私和安全性的 AI 工作负载。它利用 GPU 上的可信执行环境 (TEE)，例如 Intel TDX 和 NVIDIA H100/H200，以确保敏感数据和 AI 模型在处理过程中保持私密性。这允许私有 LLM 推理、密封代理和可验证计算。
阅读更多
该平台支持部署现有的 Docker Compose 工作负载，使开发人员可以轻松迁移其应用程序。Phala 提供运行时测量和加密证明，使用户能够验证其 AI 工作负载的完整性和安全性。这种可验证的执行是一项关键功能，允许用户信任其计算结果。
Phala Cloud 提供了一个 GPU 市场，用户可以在其中启动 H100、H200 和 B300 GPU 容量，并提供 TEE 支持的运行时证明和公共证明。该平台支持各种 AI 模型，包括与 OpenAI 兼容的 LLM 端点，具有私有提示和可验证的运行时状态。Phala 还提供了一个代理沙盒，用于在具有密封密钥、私有内存和可验证执行的机密 VM 中运行代理后端。
该平台专为企业级合规性和安全性而设计，正在进行 SOC 2 Type I 认证、HIPAA 合规性和 ISO 27001 认证。Phala 拥有 99.9% 的正常运行时间 SLA，并符合 GDPR。该平台受到全球 5,000 多名用户和行业领导者的信任。Phala 的机密 AI 已被用于金融服务、医疗保健研究和 AI SaaS 平台，证明了其多功能性和可靠性。
- 类别MLOps 与模型部署
- 定价模式每小时 $3.20/GPU
- 部署Docker
- 平台网页版
Confidential AI Cloud的核心功能
在 TEE 保护的 GPU 上进行机密 AI 执行
私有 LLM 推理
密封代理
可验证计算
支持 Intel TDX 和 NVIDIA H100/H200 GPU
部署现有的 Docker Compose 工作负载
用于验证的运行时测量和加密证明
用于启动 GPU 容量的 GPU 市场
与 OpenAI 兼容的 LLM 端点
用于运行代理后端的代理沙盒
SOC 2 Type I 认证和 HIPAA 合规
99.9% 的正常运行时间 SLA
符合 GDPR 的处理
企业级安全性和合规性
如何使用 Confidential AI Cloud？
安装：使用 npm 安装 Phala CLI。
部署：使用 Phala CLI 部署您的 Docker 工作负载。
配置：在 Phala 环境中配置您的应用程序。
验证：从命令行检查状态、日志和证明。
使用：访问和使用您已部署的机密 AI 应用程序。
监控：监控应用程序的性能和安全性。
Confidential AI Cloud的使用案例
- 私有 LLM 推理
- 密封代理
- 可验证计算
- 金融服务
- 医疗保健研究
- AI SaaS 平台
