openTPU

インテル オープンエッジロボティクス AI スイート

AI GitHub リポジトリ

最適化された AI ソリューションの開発と、さまざまな業界のユースケースにおけるハードウェア性能のテストを支援するために設計されたサンプルアプリケーションのキュレーションされたコレクションです。インテル オープンエッジロボティクス AI スイートは、最適化された AI ソリューションの開発と、さまざまな業界のユースケースにおけるハードウェア性能のテストを支援するために設計されたサンプルアプリケーションのキュレーションされたコレクションです。

LocalAI

AI GitHub リポジトリ

#44

ユーザーがGPUを必要とせずに任意のハードウェア上でさまざまなモデル（LLM、ビジョン、音声、画像、動画など）を実行できるオープンソースのAIエンジンです。この柔軟性により、多様なアプリケーションにアクセス可能です。LocalAIは、ユーザーがGPUを必要とせずに任意のハードウェア上でさまざまなモデル（LLM、ビジョン、音声、画像、動画など）を実行できるオープンソースのAIエンジンです。この柔軟性により、多様なアプリケーションにアクセス可能です。

Shimmy

AI GitHub リポジトリ

OpenAI-API互換でGGUFネイティブな純Rust製WebGPU推論エンジンです。Pythonやllama.cppを必要とせず、任意のGPU上で動作し、単一のバイナリソリューションを提供します。Shimmyは、OpenAI-API互換でGGUFネイティブな純Rust製WebGPU推論エンジンです。Pythonやllama.cppを必要とせず、任意のGPU上で動作し、単一のバイナリソリューションを提供します。

GenieX

AI GitHub リポジトリ

Qualcommデバイス上でNPU、GPU、CPUを利用してフロンティアLLMおよびVLMをローカルで実行できるようにします。最小限のコードでプロセスを簡素化し、効率的なAIモデルのデプロイを提供します。GenieXは、Qualcommデバイス上でNPU、GPU、CPUを利用してフロンティアLLMおよびVLMをローカルで実行できるようにします。最小限のコードでプロセスを簡素化し、効率的なAIモデルのデプロイを提供します。

AirLLM

AI GitHub リポジトリ

#234

1つの4GB GPUを使用して70億パラメータの推論を可能にするGitHubプロジェクトです。限られたハードウェア上で大規模言語モデルのパフォーマンスを最適化するように設計されており、高度なAI機能をよりアクセスしやすくします。AirLLMは、1つの4GB GPUを使用して70億パラメータの推論を可能にするGitHubプロジェクトです。限られたハードウェア上で大規模言語モデルのパフォーマンスを最適化するように設計されており、高度なAI機能をよりアクセスしやすくします。

Open Interpreter

AI GitHub リポジトリ

#36

Deepseek、Kimi、Qwenなどのオープンモデル向けの軽量コーディングエージェントです。これらのモデルがローカルでコードを実行し、コンピューターと対話し、さまざまなアプリケーションでタスクを実行できるようにすることで、開発者やユーザーにとっての有用性とアクセシビリティを向上させます。Open Interpreterは、Deepseek、Kimi、Qwenなどのオープンモデル向けの軽量コーディングエージェントです。これらのモデルがローカルでコードを実行し、コンピューターと対話し、さまざまなアプリケーションでタスクを実行できるようにすることで、開発者やユーザーにとっての有用性とアクセシビリティを向上させます。

Strata

AI GitHub リポジトリ

#22

消費者ハードウェア上でQwen3.8-Flash-Nextを展開するための推論エンジンです。WindowsおよびLinuxでのワンクリックインストールをサポートし、OpenAIおよびAnthropic APIとの統合を提供し、オプションで画像入力機能も備えています。Strataは、消費者ハードウェア上でQwen3.8-Flash-Nextを展開するための推論エンジンです。WindowsおよびLinuxでのワンクリックインストールをサポートし、OpenAIおよびAnthropic APIとの統合を提供し、オプションで画像入力機能も備えています。

kimi-k3-in-c

AI GitHub リポジトリ

Kimi K3 in Cは、8.24 GBのRAMで単一のCPU上で推論を実行できる2.78兆パラメータのモデルです。これは、ポータブルC99で実装されており、BLAS、フレームワーク、またはGPUを必要としないため、開発者にとって非常にアクセスしやすいものとなっています。