PS5LM

LocalAI

AI GitHub リポジトリ

#44

ユーザーがGPUを必要とせずに任意のハードウェア上でさまざまなモデル（LLM、ビジョン、音声、画像、動画など）を実行できるオープンソースのAIエンジンです。この柔軟性により、多様なアプリケーションにアクセス可能です。LocalAIは、ユーザーがGPUを必要とせずに任意のハードウェア上でさまざまなモデル（LLM、ビジョン、音声、画像、動画など）を実行できるオープンソースのAIエンジンです。この柔軟性により、多様なアプリケーションにアクセス可能です。

ブリトーコア

AI GitHub リポジトリ

Gpt-ossの推論ハーネスであり、OpenAIおよびAnthropic APIとの互換性を提供します。ネイティブPythonおよびブラウザツールをサポートし、効率的な処理のためにllama.cppまたはvLLMを利用します。ブリトーコアは、gpt-ossの推論ハーネスであり、OpenAIおよびAnthropic APIとの互換性を提供します。ネイティブPythonおよびブラウザツールをサポートし、効率的な処理のためにllama.cppまたはvLLMを利用します。

llmfit

AI GitHub リポジトリ

ユーザーが自分のハードウェアに適した機械学習モデルを特定するのを助けるGitHubプロジェクトです。特定のハードウェア構成で効率的に動作するモデルとプロバイダーを見つけるプロセスを簡素化するコマンドラインツールを提供します。llmfitは、ユーザーが自分のハードウェアに適した機械学習モデルを特定するのを助けるGitHubプロジェクトです。特定のハードウェア構成で効率的に動作するモデルとプロバイダーを見つけるプロセスを簡素化するコマンドラインツールを提供します。

Shimmy

AI GitHub リポジトリ

OpenAI-API互換でGGUFネイティブな純Rust製WebGPU推論エンジンです。Pythonやllama.cppを必要とせず、任意のGPU上で動作し、単一のバイナリソリューションを提供します。Shimmyは、OpenAI-API互換でGGUFネイティブな純Rust製WebGPU推論エンジンです。Pythonやllama.cppを必要とせず、任意のGPU上で動作し、単一のバイナリソリューションを提供します。

プロジェクトマヤ

AI GitHub リポジトリ

#24

ユーザーが自分のGPU上でGLM-5.3-Flashモデルをプライベートに実行できるようにし、NVIDIAおよびAMDハードウェアの両方をサポートします。エンジン、サーバー、ダッシュボード、OpenAIおよびAnthropicと互換性のあるAPIを提供します。プロジェクトマヤは、ユーザーが自分のGPU上でGLM-5.3-Flashモデルをプライベートに実行できるようにし、NVIDIAおよびAMDハードウェアの両方をサポートします。エンジン、サーバー、ダッシュボード、OpenAIおよびAnthropicと互換性のあるAPIを提供します。

openTPU

AI GitHub リポジトリ

FeSensによって開発されたオープンソースのAIアクセラレーターです。RTL、ISA、シミュレーター、コンパイラー、プロファイラーを1つのリポジトリに統合し、Kintex-7 PCIeカード上でQwen3、LFM2.5、Qwen3.5などのAIモデルを実行できるようにします。openTPUは、FeSensによって開発されたオープンソースのAIアクセラレーターです。RTL、ISA、シミュレーター、コンパイラー、プロファイラーを1つのリポジトリに統合し、Kintex-7 PCIeカード上でQwen3、LFM2.5、Qwen3.5などのAIモデルを実行できるようにします。

Strata

AI GitHub リポジトリ

#22

消費者ハードウェア上でQwen3.8-Flash-Nextを展開するための推論エンジンです。WindowsおよびLinuxでのワンクリックインストールをサポートし、OpenAIおよびAnthropic APIとの統合を提供し、オプションで画像入力機能も備えています。Strataは、消費者ハードウェア上でQwen3.8-Flash-Nextを展開するための推論エンジンです。WindowsおよびLinuxでのワンクリックインストールをサポートし、OpenAIおよびAnthropic APIとの統合を提供し、オプションで画像入力機能も備えています。

fal.ai

AI プラットフォーム

#55

開発者向けの生成メディアプラットフォームであり、1,000以上の画像、動画、音声、3Dモデルへのアクセスを提供します。モデルの実行とファインチューニングのためのサーバーレスGPUを提供し、速度とスケーラビリティに重点を置いたAI搭載アプリケーションの迅速な開発とデプロイを可能にします。fal.aiは、開発者向けの生成メディアプラットフォームであり、1,000以上の画像、動画、音声、3Dモデルへのアクセスを提供します。モデルの実行とファインチューニングのためのサーバーレスGPUを提供し、速度とスケーラビリティに重点を置いたAI搭載アプリケーションの迅速な開発とデプロイを可能にします。