FlashInfer

llamafile

AI GitHub リポジトリ

#135

大規模言語モデル（LLM）の配布と実行を単一のファイルで簡素化するために設計されたツールです。これは、GitHub上のMozilla AIコミュニティ内でのコラボレーションと開発を促進します。Llamafileは、大規模言語モデル（LLM）の配布と実行を単一のファイルで簡素化するために設計されたツールです。これは、GitHub上のMozilla AIコミュニティ内でのコラボレーションと開発を促進します。

SGLang

AI GitHub リポジトリ

#53

大規模言語モデルおよびマルチモーダルモデル向けに設計された高性能サービングフレームワークです。AIアプリケーションのパフォーマンスを向上させる効率的なサービング機能を提供し、AI分野の開発者や研究者に適しています。SGLangは、大規模言語モデルおよびマルチモーダルモデル向けに設計された高性能サービングフレームワークです。AIアプリケーションのパフォーマンスを向上させる効率的なサービング機能を提供し、AI分野の開発者や研究者に適しています。

MLX LM

AI GitHub リポジトリ

#162

MLXフレームワークを使用して大規模言語モデル（LLM）を実行するために設計されたGitHubプロジェクトです。開発者がその開発に貢献し、機能を向上させることができます。MLX LMは、MLXフレームワークを使用して大規模言語モデル（LLM）を実行するために設計されたGitHubプロジェクトです。開発者がその開発に貢献し、機能を向上させることができます。

mlc-llm

AI GitHub リポジトリ

機械学習コンパイルを利用してデプロイメントプロセスを効率化するユニバーサルLLMデプロイメントエンジンです。さまざまなプラットフォームで大規模言語モデルをデプロイする際の効率性とスケーラビリティを向上させることを目的としています。mlc-llmは、機械学習コンパイルを利用してデプロイメントプロセスを効率化するユニバーサルLLMデプロイメントエンジンです。さまざまなプラットフォームで大規模言語モデルをデプロイする際の効率性とスケーラビリティを向上させることを目的としています。

DeepEval

AI GitHub リポジトリ

#80

大規模言語モデル（LLM）を評価するために設計されたオープンソースのフレームワークです。開発者が評価プロセスに貢献し、LLMのパフォーマンスと信頼性を向上させることができます。DeepEvalは、大規模言語モデル（LLM）を評価するために設計されたオープンソースのフレームワークです。開発者が評価プロセスに貢献し、LLMのパフォーマンスと信頼性を向上させることができます。

PowerInfer

AI GitHub リポジトリ

#202

ローカル展開のために設計された高速大規模言語モデルサービングツールです。これにより、大規模言語モデルの効率的かつ迅速な推論が可能になり、AIソリューションをローカルに実装したい開発者や研究者に適しています。PowerInferは、ローカル展開のために設計された高速大規模言語モデルサービングツールです。これにより、大規模言語モデルの効率的かつ迅速な推論が可能になり、AIソリューションをローカルに実装したい開発者や研究者に適しています。

Mirascope - LLMアンチフレームワーク

AI GitHub リポジトリ

大規模言語モデルの開発プロセスを効率化するために設計された革新的なLLMアンチフレームワークです。開発者が継続的な開発に貢献できるGitHub上のコラボレーティブプラットフォームを提供します。Mirascopeは、大規模言語モデルの開発プロセスを効率化するために設計された革新的なLLMアンチフレームワークです。開発者が継続的な開発に貢献できるGitHub上のコラボレーティブプラットフォームを提供します。

LMDeploy

AI GitHub リポジトリ

#72

大規模言語モデル（LLM）を圧縮、デプロイ、提供するために設計されたツールキットです。開発者がLLMを効率的に管理し、最適なパフォーマンスとスケーラビリティを確保するために必要なツールを提供します。LMDeployは、大規模言語モデル（LLM）を圧縮、デプロイ、提供するために設計されたツールキットです。開発者がLLMを効率的に管理し、最適なパフォーマンスとスケーラビリティを確保するために必要なツールを提供します。