MLRun

描述

MLRun是一个开源的AI编排框架，旨在管理机器学习（ML）和生成性AI应用程序的整个生命周期。它提供了一种集成的方法，以简化从早期开发阶段到生产管理的ML管道。MLRun自动化各种过程，包括数据准备、模型调优、定制、验证和优化ML模型及实时AI应用程序，利用弹性资源。

该平台支持可扩展的实时服务和应用管道的快速部署，提供内置的可观察性和灵活的部署选项。它支持多云、混合和本地环境，允许用户在任何地方部署工作负载。MLRun的架构是开放的，支持所有主流框架、托管的ML服务和LLM，并与任何第三方服务集成。

MLRun通过端到端自动化AI管道，减少工程工作量，从训练和测试到生产中的部署和管理。它允许快速部署实时服务和应用管道，自动化模型训练和测试管道，结合CI/CD。该平台还自动生成批处理和实时数据管道，通过优化资源使用和无缝工作负载扩展来降低计算成本。

协作是MLRun的一个关键特性，因为它为数据工程师、数据科学家和机器学习工程师提供了统一的技术栈。这有助于打破孤岛，推动角色之间的重用和共享，并减少维护时间。MLRun还强调负责任的AI，通过自动跟踪数据、血统、实验和模型，并实时监控模型、资源和数据，来实现最小的工程投入。

该平台提供端到端的可观察性，实现高质量的治理和可重复性。它具有无服务器应用程序运行时，用于以生产为先的思维方式部署LLM，并包括内置的LLM网关，用于操作和监控LLM，允许成本优化、版本控制和用例级别的可观察性。

MLRun的核心功能

• 开源AI编排框架

• 自动化数据准备和模型调优

• 支持多云、混合和本地环境

• 可扩展的实时服务快速部署

• 内置可观察性和灵活的部署选项

• 端到端AI管道自动化

• 优化资源使用以降低计算成本

• 统一技术栈以促进协作

如何使用 MLRun？

1. 1

   配置：设置您的客户端环境

2. 2

   使用：开发和部署AI应用程序

3. 3

   优化：监控和调整资源使用

4. 4

   部署：使用无服务器函数进行实时服务

MLRun的使用案例

• 实时服务
• 模型调优
• 数据准备
• 协作
• 成本优化

MLRun的常见问题

• 什么是MLRun？

  MLRun是一个开源的AI编排框架，用于管理机器学习和生成性AI应用程序的整个生命周期。

• MLRun如何支持部署？

  MLRun支持在多云、混合和本地环境中的部署，允许灵活和可扩展的部署选项。

• MLRun的关键特性是什么？

  关键特性包括数据准备和模型调优的自动化、实时服务的快速部署以及内置的可观察性。

• MLRun如何促进协作？

  MLRun为数据工程师、数据科学家和机器学习工程师提供统一的技术栈，促进协作和共享。

• 可观察性在MLRun中的作用是什么？

  MLRun提供端到端的可观察性，通过实时监控模型、资源和数据，实现高质量的治理和可重复性。

• MLRun能降低计算成本吗？

  是的，MLRun优化资源使用以降低计算成本，并根据需要无缝扩展工作负载。

• MLRun提供哪些部署选项？

  MLRun可以在Kubernetes上、AWS集群上或通过Iguazio的托管服务进行部署。

• MLRun如何处理AI管道自动化？

  MLRun端到端自动化AI管道，从训练和测试到生产中的部署和管理。