Cactus Compute

ColossalAI

AI GitHub リポジトリ

#65

大規模AIモデルをより手頃で迅速かつアクセスしやすくすることを目的としたプロジェクトです。AIモデルのトレーニングとデプロイメントを最適化するためのツールとフレームワークを提供し、効率性とスケーラビリティに焦点を当てています。ColossalAIは、大規模AIモデルをより手頃で迅速かつアクセスしやすくすることを目的としたプロジェクトです。AIモデルのトレーニングとデプロイメントを最適化するためのツールとフレームワークを提供し、効率性とスケーラビリティに焦点を当てています。

Runanywhere

AI GitHub リポジトリ

Runanywhere SDKsは、AIモデルをローカルで実行するために設計された生産準備が整ったツールキットです。効率的なローカル実行のための重要なツールとリソースを提供することで、AIアプリケーションの開発と展開を促進します。

LocalAI

AI GitHub リポジトリ

#44

ユーザーがGPUを必要とせずに任意のハードウェア上でさまざまなモデル（LLM、ビジョン、音声、画像、動画など）を実行できるオープンソースのAIエンジンです。この柔軟性により、多様なアプリケーションにアクセス可能です。LocalAIは、ユーザーがGPUを必要とせずに任意のハードウェア上でさまざまなモデル（LLM、ビジョン、音声、画像、動画など）を実行できるオープンソースのAIエンジンです。この柔軟性により、多様なアプリケーションにアクセス可能です。

MNN

AI GitHub リポジトリ

Alibabaによって開発された高性能で軽量な推論エンジンです。デバイス上のLLMおよびエッジAIアプリケーションを最適化するために設計されており、高速で効率的な推論機能を提供します。MNNは、Alibabaによって開発された高性能で軽量な推論エンジンです。デバイス上のLLMおよびエッジAIアプリケーションを最適化するために設計されており、高速で効率的な推論機能を提供します。

TensorFlow

AI GitHub リポジトリ

誰でも利用できるように設計されたオープンソースの機械学習フレームワークです。機械学習モデルの構築と展開のための包括的なエコシステムを提供し、開発者や研究者が利用しやすくなっています。TensorFlowは、誰でも利用できるように設計されたオープンソースの機械学習フレームワークです。機械学習モデルの構築と展開のための包括的なエコシステムを提供し、開発者や研究者が利用しやすくなっています。

Splash

AI GitHub リポジトリ

#137

Appleシリコン専用に設計されたローカル推論エンジンです。Appleデバイス上での効率的なモデル推論を可能にし、AIモデルをローカルで扱う開発者にとって合理的なソリューションを提供します。SplashはAppleシリコン専用に設計されたローカル推論エンジンです。Appleデバイス上での効率的なモデル推論を可能にし、AIモデルをローカルで扱う開発者にとって合理的なソリューションを提供します。

Axolotl

AI GitHub リポジトリ

#101

Axolotl AI Cloudは、AIモデルの開発と展開のためのプラットフォームを提供するGitHubリポジトリです。ユーザーはAIプロジェクトに貢献し、AI研究とアプリケーションにおけるコラボレーションと革新を促進します。

bitsandbytes

AI GitHub リポジトリ

PyTorchのkビット量子化を通じて大規模言語モデルをよりアクセスしやすくすることに焦点を当てたGitHubプロジェクトです。モデルのパフォーマンスを最適化し、計算コストを削減することを目指しており、開発者が大規模AIモデルを扱いやすくします。Bitsandbytesは、PyTorchのkビット量子化を通じて大規模言語モデルをよりアクセスしやすくすることに焦点を当てたGitHubプロジェクトです。モデルのパフォーマンスを最適化し、計算コストを削減することを目指しており、開発者が大規模AIモデルを扱いやすくします。