llmspeed

あなたのGPUまたはMacを検出し、ローカルで実行可能なオープンAIモデル（LLM、コーディング、画像、動画モデルを含む）を表示する無料ツールで、VRAM要件と速度の推定値を提供します。

ComputeArena

AI アプリ

コミュニティが提出したローカルAIモデルのベンチマークを提供するプラットフォームです。ユーザーは、コミュニティハードウェアからの署名付きレポートを使用して、異なるモデル、量子化、チップ間のパフォーマンスを比較できます。ComputeArenaは、コミュニティが提出したローカルAIモデルのベンチマークを提供するプラットフォームです。ユーザーは、コミュニティハードウェアからの署名付きレポートを使用して、異なるモデル、量子化、チップ間のパフォーマンスを比較できます。

vLLM

AI アプリ

大規模言語モデル（LLM）のための高スループットかつメモリ効率の良い推論および提供エンジンです。これにより、最先端のパフォーマンスを持つAIモデルの迅速な展開が可能になり、さまざまな業界のユーザーにとってLLMの提供が簡単で迅速、かつコスト効率の良いものとなります。vLLMは、大規模言語モデル（LLM）のための高スループットかつメモリ効率の良い推論および提供エンジンです。これにより、最先端のパフォーマンスを持つAIモデルの迅速な展開が可能になり、さまざまな業界のユーザーにとってLLMの提供が簡単で迅速、かつコスト効率の良いものとなります。

あなたのラップトップがQwen3.8-27BまたはDeepSeek-V4-Flash-0731を単一のCPUで実行できるかどうかを判断するのに役立ちます。RAM、ディスク、OSの要件に対する検証済みのパスを提供し、効率的なローカル推論を確保します。ラップトップLLMファインダーは、あなたのラップトップがQwen3.8-27BまたはDeepSeek-V4-Flash-0731を単一のCPUで実行できるかどうかを判断するのに役立ちます。RAM、ディスク、OSの要件に対する検証済みのパスを提供し、効率的なローカル推論を確保します。

Dreamscale Labs

AI アプリ

#180

物理AI向けのリアルタイムクラウド推論を提供し、ロボティクスチームが高価なローカルGPUを必要とせずにモデルを展開および評価できるようにします。このプラットフォームは、低遅延の実行を確保するために、モデル、GPUカーネル、ネットワークレイヤーを最適化します。Dreamscale Labsは、物理AI向けのリアルタイムクラウド推論を提供し、ロボティクスチームが高価なローカルGPUを必要とせずにモデルを展開および評価できるようにします。このプラットフォームは、低遅延の実行を確保するために、モデル、GPUカーネル、ネットワークレイヤーを最適化します。

一般計算

AI アプリ

特別に設計されたASICインフラストラクチャ上でモデルを提供する高速AI推論プロバイダーで、OpenAI互換のAPIを通じて、コーディングエージェントやリアルタイム音声などのレイテンシに敏感なワークロードに対して低いファーストトークン時間と高いスループットを提供します。

gpt-oss | OpenAI

LLM

gpt-ossには、強力なパフォーマンスと効率的な展開のために設計された2つのオープンウェイト言語モデル、gpt-oss-120bとgpt-oss-20bが含まれています。これらはApache 2.0ライセンスの下で利用可能で、さまざまなアプリケーションにアクセスできるようにし、安全性とカスタマイズを確保しています。

ZETIC Melange

AI アプリ

#137

あらゆるデバイス上のあらゆるモデルに対して、オンデバイスAIのデプロイを自動化します。元Qualcommエンジニアが開発し、NPUアクセラレーションを最適化し、200以上のデバイスでベンチマークを行い、わずか3行のコードで数時間でのデプロイを可能にし、コストとレイテンシを削減します。ZETIC Melangeは、あらゆるデバイス上のあらゆるモデルに対して、オンデバイスAIのデプロイを自動化します。元Qualcommエンジニアが開発し、NPUアクセラレーションを最適化し、200以上のデバイスでベンチマークを行い、わずか3行のコードで数時間でのデプロイを可能にし、コストとレイテンシを削減します。