Rocketride Server

Seldon Core

AI GitHub 저장소

Kubernetes에서 AI 시스템을 배포, 관리 및 확장하기 위한 MLOps 및 LLMOps 프레임워크입니다. 파이프라인, 자동 확장, 다중 모델 서빙과 같은 기능을 통해 클라우드 전반에 걸쳐 다양한 모델 유형의 표준화된 배포를 가능하게 하여 모듈식 및 데이터 중심 애플리케이션을 지원합니다.Seldon Core는 Kubernetes에서 AI 시스템을 배포, 관리 및 확장하기 위한 MLOps 및 LLMOps 프레임워크입니다. 파이프라인, 자동 확장, 다중 모델 서빙과 같은 기능을 통해 클라우드 전반에 걸쳐 다양한 모델 유형의 표준화된 배포를 가능하게 하여 모듈식 및 데이터 중심 애플리케이션을 지원합니다.

BentoML

AI GitHub 저장소

#93

AI 모델 및 애플리케이션 배포를 간소화하기 위해 설계된 오픈 소스 플랫폼입니다. 개발자는 모델 추론 API를 구축하고, 작업 큐를 관리하며, 다중 모델 파이프라인을 효율적으로 생성할 수 있어 AI 배포를 접근 가능하고 간소화합니다.BentoML은 AI 모델 및 애플리케이션 배포를 간소화하기 위해 설계된 오픈 소스 플랫폼입니다. 개발자는 모델 추론 API를 구축하고, 작업 큐를 관리하며, 다중 모델 파이프라인을 효율적으로 생성할 수 있어 AI 배포를 접근 가능하고 간소화합니다.

llmware

AI GitHub 저장소

#81

소형 전문 모델을 사용하여 기업 RAG 파이프라인을 구축하기 위해 설계된 통합 프레임워크입니다. 다양한 AI 모델을 일관된 파이프라인으로 통합하여 기업 애플리케이션의 효율성과 확장성을 향상시킵니다.llmware는 소형 전문 모델을 사용하여 기업 RAG 파이프라인을 구축하기 위해 설계된 통합 프레임워크입니다. 다양한 AI 모델을 일관된 파이프라인으로 통합하여 기업 애플리케이션의 효율성과 확장성을 향상시킵니다.

Metaflow

AI 앱

실제 머신러닝, AI 및 데이터 과학 프로젝트를 구축하고 관리하기 위한 오픈 소스 프레임워크입니다. 개발, 버전 관리 및 배포를 간소화하여 사용자가 확장 가능한 실행 및 기존 인프라와의 원활한 통합을 위해 클라우드 컴퓨팅을 활용할 수 있도록 합니다.Metaflow는 실제 머신러닝, AI 및 데이터 과학 프로젝트를 구축하고 관리하기 위한 오픈 소스 프레임워크입니다. 개발, 버전 관리 및 배포를 간소화하여 사용자가 확장 가능한 실행 및 기존 인프라와의 원활한 통합을 위해 클라우드 컴퓨팅을 활용할 수 있도록 합니다.

DeepEval

AI GitHub 저장소

#80

대규모 언어 모델(LLM)을 평가하기 위해 설계된 오픈 소스 프레임워크입니다. 개발자들이 평가 프로세스에 기여하고 개선할 수 있도록 하여 LLM의 성능과 신뢰성을 향상시킵니다.DeepEval은 대규모 언어 모델(LLM)을 평가하기 위해 설계된 오픈 소스 프레임워크입니다. 개발자들이 평가 프로세스에 기여하고 개선할 수 있도록 하여 LLM의 성능과 신뢰성을 향상시킵니다.

FlashInfer

AI GitHub 저장소

대형 언어 모델(LLM)을 제공하기 위해 설계된 커널 라이브러리입니다. 이는 LLM의 효율적인 배포 및 관리를 용이하게 하여 개발자가 GitHub를 통해 기능을 기여하고 향상시킬 수 있도록 합니다.FlashInfer는 대형 언어 모델(LLM)을 제공하기 위해 설계된 커널 라이브러리입니다. 이는 LLM의 효율적인 배포 및 관리를 용이하게 하여 개발자가 GitHub를 통해 기능을 기여하고 향상시킬 수 있도록 합니다.

Langfuse

AI GitHub 저장소

#19

LLM 평가, 관찰 가능성, 메트릭, 프롬프트 관리 등을 제공하는 오픈 소스 AI 엔지니어링 플랫폼입니다. OpenTelemetry, LangChain 및 OpenAI SDK와 통합되어 AI 개발을 위한 종합적인 도구 키트를 제공합니다.Langfuse는 LLM 평가, 관찰 가능성, 메트릭, 프롬프트 관리 등을 제공하는 오픈 소스 AI 엔지니어링 플랫폼입니다. OpenTelemetry, LangChain 및 OpenAI SDK와 통합되어 AI 개발을 위한 종합적인 도구 키트를 제공합니다.

Dify

AI GitHub 저장소

#11

LLM 애플리케이션 개발을 위한 오픈 소스 플랫폼입니다. AI 워크플로우, RAG 파이프라인 및 에이전트 기능을 구축하기 위한 시각적 캔버스를 제공합니다. 포괄적인 모델 지원 및 LLMOps 기능을 통해 개발자를 위한 신속한 프로토타이핑 및 프로덕션 배포를 가능하게 합니다.Dify는 LLM 애플리케이션 개발을 위한 오픈 소스 플랫폼입니다. AI 워크플로우, RAG 파이프라인 및 에이전트 기능을 구축하기 위한 시각적 캔버스를 제공합니다. 포괄적인 모델 지원 및 LLMOps 기능을 통해 개발자를 위한 신속한 프로토타이핑 및 프로덕션 배포를 가능하게 합니다.