Rocketride Server

Seldon Core

AI GitHub リポジトリ

Kubernetes上でAIシステムをデプロイ、管理、スケーリングするためのMLOpsおよびLLMOpsフレームワークです。クラウド全体での様々なモデルタイプの標準化されたデプロイを可能にし、パイプライン、自動スケーリング、マルチモデルサービングなどの機能により、モジュール式でデータ中心のアプリケーションを促進します。Seldon Coreは、Kubernetes上でAIシステムをデプロイ、管理、スケーリングするためのMLOpsおよびLLMOpsフレームワークです。クラウド全体での様々なモデルタイプの標準化されたデプロイを可能にし、パイプライン、自動スケーリング、マルチモデルサービングなどの機能により、モジュール式でデータ中心のアプリケーションを促進します。

BentoML

AI GitHub リポジトリ

#93

AIモデルとアプリケーションのデプロイを簡素化するために設計されたオープンソースプラットフォームです。開発者は、モデル推論APIを構築し、ジョブキューを管理し、マルチモデルパイプラインを効率的に作成することができ、AIデプロイメントをアクセスしやすく、スムーズにします。BentoMLは、AIモデルとアプリケーションのデプロイを簡素化するために設計されたオープンソースプラットフォームです。開発者は、モデル推論APIを構築し、ジョブキューを管理し、マルチモデルパイプラインを効率的に作成することができ、AIデプロイメントをアクセスしやすく、スムーズにします。

llmware

AI GitHub リポジトリ

#81

小型の専門モデルを使用して企業向けRAGパイプラインを構築するために設計された統一フレームワークです。さまざまなAIモデルを統合して一貫したパイプラインを作成し、企業アプリケーションの効率性とスケーラビリティを向上させます。llmwareは、小型の専門モデルを使用して企業向けRAGパイプラインを構築するために設計された統一フレームワークです。さまざまなAIモデルを統合して一貫したパイプラインを作成し、企業アプリケーションの効率性とスケーラビリティを向上させます。

Metaflow

AI アプリ

実世界の機械学習、AI、データサイエンスプロジェクトの構築と管理のために設計されたオープンソースフレームワークです。開発、バージョン管理、デプロイメントを簡素化し、ユーザーがクラウドコンピューティングを活用してスケーラブルな実行と既存インフラストラクチャとのシームレスな統合を可能にします。Metaflowは、実世界の機械学習、AI、データサイエンスプロジェクトの構築と管理のために設計されたオープンソースフレームワークです。開発、バージョン管理、デプロイメントを簡素化し、ユーザーがクラウドコンピューティングを活用してスケーラブルな実行と既存インフラストラクチャとのシームレスな統合を可能にします。

DeepEval

AI GitHub リポジトリ

#80

大規模言語モデル（LLM）を評価するために設計されたオープンソースのフレームワークです。開発者が評価プロセスに貢献し、LLMのパフォーマンスと信頼性を向上させることができます。DeepEvalは、大規模言語モデル（LLM）を評価するために設計されたオープンソースのフレームワークです。開発者が評価プロセスに貢献し、LLMのパフォーマンスと信頼性を向上させることができます。

FlashInfer

AI GitHub リポジトリ

大規模言語モデル（LLM）を提供するために設計されたカーネルライブラリです。LLMの効率的なデプロイと管理を促進し、開発者がGitHubを通じてその機能を向上させることを可能にします。FlashInferは、大規模言語モデル（LLM）を提供するために設計されたカーネルライブラリです。LLMの効率的なデプロイと管理を促進し、開発者がGitHubを通じてその機能を向上させることを可能にします。

Langfuse

AI GitHub リポジトリ

#19

LLM評価、可観測性、メトリクス、プロンプト管理などを提供するオープンソースのAIエンジニアリングプラットフォームです。OpenTelemetry、LangChain、OpenAI SDKと統合されており、AI開発のための包括的なツールキットを提供します。Langfuseは、LLM評価、可観測性、メトリクス、プロンプト管理などを提供するオープンソースのAIエンジニアリングプラットフォームです。OpenTelemetry、LangChain、OpenAI SDKと統合されており、AI開発のための包括的なツールキットを提供します。

Dify

AI GitHub リポジトリ

#11

LLMアプリケーション開発のためのオープンソースプラットフォームです。AIワークフロー、RAGパイプライン、エージェント機能を構築するためのビジュアルキャンバスを提供します。包括的なモデルサポートとLLMOps機能により、開発者は迅速なプロトタイピングと本番環境へのデプロイを実現できます。Difyは、LLMアプリケーション開発のためのオープンソースプラットフォームです。AIワークフロー、RAGパイプライン、エージェント機能を構築するためのビジュアルキャンバスを提供します。包括的なモデルサポートとLLMOps機能により、開発者は迅速なプロトタイピングと本番環境へのデプロイを実現できます。