Shimmy

ブリトーコア

AI GitHub リポジトリ

Gpt-ossの推論ハーネスであり、OpenAIおよびAnthropic APIとの互換性を提供します。ネイティブPythonおよびブラウザツールをサポートし、効率的な処理のためにllama.cppまたはvLLMを利用します。ブリトーコアは、gpt-ossの推論ハーネスであり、OpenAIおよびAnthropic APIとの互換性を提供します。ネイティブPythonおよびブラウザツールをサポートし、効率的な処理のためにllama.cppまたはvLLMを利用します。

LocalAI

AI GitHub リポジトリ

#44

ユーザーがGPUを必要とせずに任意のハードウェア上でさまざまなモデル（LLM、ビジョン、音声、画像、動画など）を実行できるオープンソースのAIエンジンです。この柔軟性により、多様なアプリケーションにアクセス可能です。LocalAIは、ユーザーがGPUを必要とせずに任意のハードウェア上でさまざまなモデル（LLM、ビジョン、音声、画像、動画など）を実行できるオープンソースのAIエンジンです。この柔軟性により、多様なアプリケーションにアクセス可能です。

TensorRT-LLM

AI GitHub リポジトリ

#63

大規模言語モデルを定義し、NVIDIA GPU上での推論を最適化するためのPython APIを提供します。効率的な推論実行を調整するためのPythonおよびC++ランタイムを作成するためのコンポーネントが含まれています。TensorRT-LLMは、大規模言語モデルを定義し、NVIDIA GPU上での推論を最適化するためのPython APIを提供します。効率的な推論実行を調整するためのPythonおよびC++ランタイムを作成するためのコンポーネントが含まれています。

ローカルAIプレイグラウンド

AI アプリ

AIモデルをオフラインかつプライベートで実行するための無料のオープンソースネイティブアプリケーションです。RustバックエンドによりAI推論が簡素化され、GPUは不要です。モデルの管理、整合性の検証、ストリーミングサーバーの起動が容易で、技術的なセットアップなしでAIを利用できます。ローカルAIプレイグラウンドは、AIモデルをオフラインかつプライベートで実行するための無料のオープンソースネイティブアプリケーションです。RustバックエンドによりAI推論が簡素化され、GPUは不要です。モデルの管理、整合性の検証、ストリーミングサーバーの起動が容易で、技術的なセットアップなしでAIを利用できます。

TensorFlow

AI GitHub リポジトリ

誰でも利用できるように設計されたオープンソースの機械学習フレームワークです。機械学習モデルの構築と展開のための包括的なエコシステムを提供し、開発者や研究者が利用しやすくなっています。TensorFlowは、誰でも利用できるように設計されたオープンソースの機械学習フレームワークです。機械学習モデルの構築と展開のための包括的なエコシステムを提供し、開発者や研究者が利用しやすくなっています。

Lightning AI

AI プラットフォーム

#64

AI製品の迅速なプロトタイピング、トレーニング、スケーリング、サービングを可能にする、AI開発のためのオールインワンプラットフォームです。共同GPUクラウドワークスペース、永続的なノートブック、マネージドクラスター、トークンごとのAPIを提供し、ブラウザからセットアップ不要でAI開発を容易にします。Lightning AIは、AI製品の迅速なプロトタイピング、トレーニング、スケーリング、サービングを可能にする、AI開発のためのオールインワンプラットフォームです。共同GPUクラウドワークスペース、永続的なノートブック、マネージドクラスター、トークンごとのAPIを提供し、ブラウザからセットアップ不要でAI開発を容易にします。

GPUレンタル | Vast.ai

AI プラットフォーム

Vast.aiは、高性能なクラウドGPUを低コストでレンタル提供します。AI、機械学習、深層学習、レンダリングに最適で、柔軟な価格設定、迅速なセットアップ、グローバルな利用可能性を提供し、GPUリソースを求める開発者にとっての主要なプラットフォームとなっています。

openTPU

AI GitHub リポジトリ

FeSensによって開発されたオープンソースのAIアクセラレーターです。RTL、ISA、シミュレーター、コンパイラー、プロファイラーを1つのリポジトリに統合し、Kintex-7 PCIeカード上でQwen3、LFM2.5、Qwen3.5などのAIモデルを実行できるようにします。openTPUは、FeSensによって開発されたオープンソースのAIアクセラレーターです。RTL、ISA、シミュレーター、コンパイラー、プロファイラーを1つのリポジトリに統合し、Kintex-7 PCIeカード上でQwen3、LFM2.5、Qwen3.5などのAIモデルを実行できるようにします。