描述
红帽 OpenShift AI 旨在成为一个灵活的混合云平台，结合 MLOps、GenAIOps 和 AgentOps 功能，以促进智能 AI 应用程序的快速部署。该平台使组织能够高效地构建、部署和监控 AI 模型和应用程序，确保他们能够在不同环境中利用 AI 的强大能力，无论是在本地、边缘还是离线环境中。
该平台支持多种开源工具，如 PyTorch、Kubeflow、MLflow 和 vLLM，使团队能够大规模地实验、服务和交付 AI 模型。通过红帽 OpenShift AI，组织可以有效管理成本、数据隐私和代理生命周期，为 MLOps 提供稳定的基础。该平台还增强了数据科学家、AI 工程师和开发人员之间的协作，使他们能够在单一的 AI 应用环境中无缝合作。
安全性是红帽 OpenShift AI 的一个关键方面，提供过滤有毒、偏见或不相关输入和输出的功能，确保 AI 部署的公平性和安全性。该平台包括实时 NeMo 防护和对抗性漏洞扫描等工具，以保护模型免受潜在威胁。此外，红帽 OpenShift AI 提供了强大的基础设施来管理 AI 工作负载，简化工作流程，并确保符合组织标准。
希望采用 AI 的组织可以利用红帽提供的丰富资源，包括咨询服务、培训和支持社区。该平台与主要云服务提供商的集成能力进一步增强了其灵活性，使其成为希望创新和扩展 AI 计划的企业的合适选择。
红帽 OpenShift AI的核心功能
智能 AI：使用 MLflow 实现 AgentOps 的智能 AI。
vLLM：通过高效使用 GPU 资源来管理生成 AI 推理的成本。
MCP 服务器：主动管理和翻译外部工具访问。
私有 AI：提供本地和离线模式支持。
模型即服务：托管并提供内部使用的模型。
llm-d：在开源框架中大规模优化复杂的 LLM。
AI 中心：来自第三方模型验证的性能洞察。
生成 AI 工作室：与模型互动的实践环境。
如何使用 红帽 OpenShift AI？
配置：设置您的红帽 OpenShift AI 环境。
部署：使用该平台部署 AI 模型和应用程序。
监控：持续监控您的 AI 解决方案的性能。
优化：利用工具优化 AI 工作负载和推理。
红帽 OpenShift AI的使用案例
- AI 模型部署
- 成本管理
- 数据隐私
- 协作开发
- 安全管理
