SGLang

SGLang

AI フレームワーク

大規模な言語モデルとマルチモーダルモデル向けに設計された高性能なサービングフレームワークです。高度なAIソリューションを効率的に実装しようとする開発者のために、広範なハードウェアサポートと堅牢なエコシステムを提供します。SGLangは、大規模な言語モデルとマルチモーダルモデル向けに設計された高性能なサービングフレームワークです。高度なAIソリューションを効率的に実装しようとする開発者のために、広範なハードウェアサポートと堅牢なエコシステムを提供します。

vLLM

AI GitHub リポジトリ

#22

大規模言語モデル（LLM）向けに設計された高スループットかつメモリ効率の良い推論および提供エンジンです。リソース使用を最小限に抑えつつパフォーマンスを最適化し、AIや機械学習のさまざまなアプリケーションに適しています。vllm-project/vllmは、大規模言語モデル（LLM）向けに設計された高スループットかつメモリ効率の良い推論および提供エンジンです。リソース使用を最小限に抑えつつパフォーマンスを最適化し、AIや機械学習のさまざまなアプリケーションに適しています。

LlamaFactory

AI GitHub リポジトリ

#11

100以上の大規模言語モデル（LLM）および視覚言語モデル（VLM）の統一的かつ効率的なファインチューニングに焦点を当てたGitHubリポジトリです。AI分野の研究者や開発者のためにファインチューニングプロセスを簡素化することを目的としています。LlamaFactoryは、100以上の大規模言語モデル（LLM）および視覚言語モデル（VLM）の統一的かつ効率的なファインチューニングに焦点を当てたGitHubリポジトリです。AI分野の研究者や開発者のためにファインチューニングプロセスを簡素化することを目的としています。

Unsloth

AI GitHub リポジトリ

#39

大規模言語モデル（LLM）および拡散モデルを実行およびトレーニングするために設計されたローカルユーザーインターフェースです。Qwen3.8、Kimi K3、MiniMax-H3など、さまざまなモデルをサポートし、開発者や研究者にとってアクセスしやすいプラットフォームを提供します。unslothai/unslothは、大規模言語モデル（LLM）および拡散モデルを実行およびトレーニングするために設計されたローカルユーザーインターフェースです。Qwen3.8、Kimi K3、MiniMax-H3など、さまざまなモデルをサポートし、開発者や研究者にとってアクセスしやすいプラットフォームを提供します。

DeepEval

AI GitHub リポジトリ

#81

大規模言語モデル（LLM）を評価するために設計されたオープンソースのフレームワークです。開発者が評価プロセスに貢献し、LLMのパフォーマンスと信頼性を向上させることができます。DeepEvalは、大規模言語モデル（LLM）を評価するために設計されたオープンソースのフレームワークです。開発者が評価プロセスに貢献し、LLMのパフォーマンスと信頼性を向上させることができます。

MLX LM

AI GitHub リポジトリ

#163

MLXフレームワークを使用して大規模言語モデル（LLM）を実行するために設計されたGitHubプロジェクトです。開発者がその開発に貢献し、機能を向上させることができます。MLX LMは、MLXフレームワークを使用して大規模言語モデル（LLM）を実行するために設計されたGitHubプロジェクトです。開発者がその開発に貢献し、機能を向上させることができます。

ColossalAI

AI GitHub リポジトリ

#65

大規模AIモデルをより手頃で迅速かつアクセスしやすくすることを目的としたプロジェクトです。AIモデルのトレーニングとデプロイメントを最適化するためのツールとフレームワークを提供し、効率性とスケーラビリティに焦点を当てています。ColossalAIは、大規模AIモデルをより手頃で迅速かつアクセスしやすくすることを目的としたプロジェクトです。AIモデルのトレーニングとデプロイメントを最適化するためのツールとフレームワークを提供し、効率性とスケーラビリティに焦点を当てています。

BentoML

AI GitHub リポジトリ

#95

AIモデルとアプリケーションのデプロイを簡素化するために設計されたオープンソースプラットフォームです。開発者は、モデル推論APIを構築し、ジョブキューを管理し、マルチモデルパイプラインを効率的に作成することができ、AIデプロイメントをアクセスしやすく、スムーズにします。BentoMLは、AIモデルとアプリケーションのデプロイを簡素化するために設計されたオープンソースプラットフォームです。開発者は、モデル推論APIを構築し、ジョブキューを管理し、マルチモデルパイプラインを効率的に作成することができ、AIデプロイメントをアクセスしやすく、スムーズにします。