설명
MLRun은 기계 학습(ML) 및 생성 AI 애플리케이션을 전체 생애 주기 동안 관리하기 위해 설계된 오픈 소스 AI 오케스트레이션 프레임워크입니다. 초기 개발 단계에서부터 생산 관리에 이르기까지 ML 파이프라인을 간소화하기 위한 통합 접근 방식을 제공합니다. MLRun은 데이터 준비, 모델 조정, 사용자 정의, 검증 및 ML 모델과 실시간 AI 애플리케이션의 최적화를 포함한 다양한 프로세스를 자동화합니다.
이 플랫폼은 확장 가능한 실시간 서비스 및 애플리케이션 파이프라인의 신속한 배포를 가능하게 하며, 내장된 가시성과 유연한 배포 옵션을 제공합니다. 다중 클라우드, 하이브리드 및 온프레미스 환경을 지원하여 사용자가 어디에서나 작업 부하를 배포할 수 있도록 합니다. MLRun의 아키텍처는 개방적이며, 모든 주요 프레임워크, 관리형 ML 서비스 및 LLM을 지원하고, 모든 서드파티 서비스와 통합됩니다.
MLRun은 AI 파이프라인을 처음부터 끝까지 자동화하여 엔지니어링 노력을 줄입니다. 교육 및 테스트에서 배포 및 생산 관리에 이르기까지 모든 과정을 자동화합니다. 이 플랫폼은 또한 배치 및 실시간 데이터 파이프라인을 자동 생성하여 최적화된 리소스 사용과 원활한 작업 부하 확장을 통해 계산 비용을 줄입니다.
협업은 MLRun의 주요 기능으로, 데이터 엔지니어, 데이터 과학자 및 기계 학습 엔지니어를 위한 통합 기술 스택을 제공합니다. 이는 역할 간의 장벽을 허물고 재사용 및 공유를 촉진하며 유지 관리 시간을 줄이는 데 도움을 줍니다. MLRun은 또한 데이터, 계보, 실험 및 모델을 자동으로 추적하고, 모델, 리소스 및 데이터를 실시간으로 모니터링하여 책임 있는 AI를 강조합니다.
이 플랫폼은 고품질 거버넌스 및 재현성을 가능하게 하는 종단 간 가시성을 제공합니다. LLM을 배포하기 위한 서버리스 애플리케이션 런타임을 제공하며, LLM을 운영화하고 모니터링하기 위한 내장 LLM 게이트웨이를 포함하여 비용 최적화, 버전 관리 및 사용 사례 수준의 가시성을 제공합니다.
MLRun의 핵심 기능
오픈 소스 AI 오케스트레이션 프레임워크
데이터 준비 및 모델 조정 자동화
다중 클라우드, 하이브리드 및 온프레미스 환경 지원
확장 가능한 실시간 서비스의 신속한 배포
내장된 가시성 및 유연한 배포 옵션
종단 간 AI 파이프라인 자동화
계산 비용을 줄이기 위한 리소스 사용 최적화
협업을 위한 통합 기술 스택
MLRun 사용 방법은?
구성: 클라이언트 환경 설정
사용: AI 애플리케이션 개발 및 배포
최적화: 리소스 사용 모니터링 및 조정
배포: 실시간 서비스를 위한 서버리스 기능 사용
MLRun의 사용 사례
- 실시간 서비스
- 모델 조정
- 데이터 준비
- 협업
- 비용 최적화
