メインコンテンツへスキップ
ToolPotion
AI アドバイザー
送信(無料)

RunInfra

RunInfraは、オープンソースのAIモデル用のホスティングされたAPIゲートウェイで、開発者にOpenAIおよびAnthropic SDKと互換性のある1つのAPIキーを提供します。Nemotron、Qwen、Ornithなどのモデルを提供し、セッションを意識したキャッシングによりAIエージェントのレイテンシとコストを削減します。

URLを訪問
共有
RunInfra のスクリーンショット
RunInfra のスクリーンショット

RunInfraは、開発者が自分でモデルインフラをホスティングおよび最適化する代わりに、OpenAIおよびAnthropicと互換性のある単一のAPIを通じてオープンソースのAIモデルを呼び出すことを可能にします。

続きを読む

RunInfraは、執筆時点でNemotron 3.5 Lightning 30B、Qwen3.8 27B、Ornith 1.5 35Bを含む小規模なオープンモデルライブラリをホスティングしており、OpenAIまたはAnthropicのPythonおよびNode SDKを使用してRunInfraのAPIにベースURLを指し示すことでアクセスできます。リクエストは入力トークンと出力トークンごとに請求され、キャッシュされた入力トークンには別の低価格が設定されています。キャッシュヒットを改善するために、RunInfraはセッションを意識したルーティングを使用しています:特定のエージェントセッションを繰り返し呼び出しの間、同じバックエンドレプリカに固定し、すでに読み込まれたコンテキストが温かい状態を保つようにします。キャッシュヒット率はモデルごとに測定され、公開されており、最近の24時間のウィンドウでは一部のモデルで95%を超え、ヒットはキャッシュされたレートで請求されますが、同社はキャッシュヒットを最善の努力として説明しています。

主な機能には、OpenAIおよびAnthropicと互換性のあるチャット完了API、公開されたキャッシュヒット率および出力速度ベンチマークを伴うモデルごとの価格設定、モデルに応じたツール呼び出し、JSONモード、ストリーミング、画像入力のサポート、Claude Code、Codex、OpenCode、Cline、Droid、Grok BuildなどのコーディングエージェントにRunInfraホスティングモデルを接続するCLI、まだホスティングされていないモデルのリクエストオプションが含まれます。

モデルの使用はトークンごとに請求され、たとえば1つのホスティングモデルに対して1Mの入力トークンあたり$0.05、1Mの出力トークンあたり$0.15です。キャッシュされた入力は別途低いレートで請求され、1Mのキャッシュトークンあたり$0.01まで低くなります。コーディングエージェントプランは月額$10から始まります。

セキュリティに関して、RunInfraはホスティングされたモデルAPIがデフォルトでプロンプトを保存しない(データ保持ゼロ)、データをTLSで転送中に暗号化し、静止時にAES-256で暗号化し、役割と行レベルのセキュリティを持つワークスペースを提供し、顧客のプロンプトや完了に基づいてトレーニングを行わず、SOC 2 Type IIの認証を保持していると述べています。

RunInfraは、独自のGPUインフラを管理せずにオープンモデル推論を望むAIエージェントやコーディングエージェントのワークフローを構築する開発者やチームのために構築されています。同社はRightNowの一部で、Y Combinatorの支援を受けています。ホスティングされたモデルライブラリは小規模で、調査時点で3つのモデルがありましたが、他のモデルが必要なチームのためにリクエストオプションがあります。

  • カテゴリーMLOps・モデルデプロイ
  • 料金モデル従量課金
  • デプロイ管理された自己ホスティング
  • プラットフォームクラウド

  • OpenAIおよびAnthropic SDKと互換性のある1つのAPIキー

  • Nemotron、Qwen、Ornithを含むオープンモデルのホスティング

  • 繰り返しエージェント呼び出しを同じ温かいレプリカに保つセッションを意識したルーティング

  • 公開されたモデルごとの価格設定、キャッシュヒット率、および出力速度ベンチマーク

  • モデルによるツール呼び出し、JSONモード、ストリーミング、画像入力のサポート

  • Claude Code、Codex、OpenCode、Cline、Droid、Grok BuildなどのコーディングエージェントとRunInfraホスティングモデルを接続するCLI統合

  • デフォルトでプロンプトを保存しない、SOC 2 Type IIの認証を保持

  • 役割と行レベルのセキュリティを持つワークスペース

  1. APIキーを取得する:RunInfraにサインアップしてゲートウェイAPIキーを生成します。

  2. SDKをRunInfraに向ける:OpenAIまたはAnthropic SDKでRunInfraのエンドポイントにベースURLを設定します。

  3. モデルを選択する:機能と価格に基づいてホスティングされたモデルライブラリから選択します。

  4. モデルを呼び出す:既存のSDKコードを使用してチャット完了リクエストを送信します。

  5. コーディングエージェントを接続する:RunInfra CLIをインストールして、Claude CodeやClineなどのエージェントをRunInfraホスティングモデルにルーティングします。

  6. コストとキャッシュヒットを監視する:公開された価格設定とモデルごとのキャッシュヒット率を確認して支出を管理します。

  • オープンモデルAPIアクセス
  • AIエージェント推論
  • コーディングエージェントバックエンド

RunInfra のレビュー

読み込み中...

RunInfra に似た人気のAIツール

一般計算

AI アプリ

特別に設計されたASICインフラストラクチャ上でモデルを提供する高速AI推論プロバイダーで、OpenAI互換のAPIを通じて、コーディングエージェントやリアルタイム音声などのレイテンシに敏感なワークロードに対して低いファーストトークン時間と高いスループットを提供します。

MLOps・モデルデプロイ
ツールを見る

AI アプリ

特別に設計されたASICインフラストラクチャ上でモデルを提供する高速AI推論プロバイダーで、OpenAI互換のAPIを通じて、コーディングエージェントやリアルタイム音声などのレイテンシに敏感なワークロードに対して低いファーストトークン時間と高いスループットを提供します。

MLOps・モデルデプロイ
AI アプリ トップ250を見る

LocalAI

AI アプリ

LocalAIは、MITライセンスのオープンソースランタイムで、クラウドAPIではなく、所有するハードウェア上でAIモデルを実行します。1つのバイナリが、llama.cpp、vLLM、MLXなどのスワップ可能なエンジンの前にOpenAI、Anthropic、Ollama、ElevenLabs互換のAPIを公開し、チャット、音声、視覚、画像および動画生成、エー…

機械学習プラットフォーム

CTOで第19位

ツールを見る

AI アプリ

MITライセンスのオープンソースランタイムで、クラウドAPIではなく、所有するハードウェア上でAIモデルを実行します。1つのバイナリが、llama.cpp、vLLM、MLXなどのスワップ可能なエンジンの前にOpenAI、Anthropic、Ollama、ElevenLabs互換のAPIを公開し、チャット、音声、視覚、画像および動画生成、エー…LocalAIは、MITライセンスのオープンソースランタイムで、クラウドAPIではなく、所有するハードウェア上でAIモデルを実行します。1つのバイナリが、llama.cpp、vLLM、MLXなどのスワップ可能なエンジンの前にOpenAI、Anthropic、Ollama、ElevenLabs互換のAPIを公開し、チャット、音声、視覚、画像および動画生成、エー…

機械学習プラットフォーム
CTOで第19位

Morph

AI アプリ

コーディングエージェント向けに構築された推論プラットフォームで、高速フロンティアモデルとコード検索、編集の適用、コンテキスト圧縮、監視のための専門モデルを提供し、1つのOpenAI互換APIを通じて利用できます。

MLOps・モデルデプロイ
ツールを見る

AI アプリ

コーディングエージェント向けに構築された推論プラットフォームで、高速フロンティアモデルとコード検索、編集の適用、コンテキスト圧縮、監視のための専門モデルを提供し、1つのOpenAI互換APIを通じて利用できます。

MLOps・モデルデプロイ
AI アプリ トップ250を見る

BLACKBOX AI

AI アプリ

BLACKBOX AIは、300以上のオープンおよびクローズドの言語モデルにリクエストをルーティングする推論プラットフォームで、1つの暗号化されたOpenAI互換APIを介して提供され、オープンウェイトモデル用の専用シングルテナントデプロイメントも備えています。また、エージェントAPIとコーディングタスク用のコマンドラインエージェントも提供されており、データ…

MLOps・モデルデプロイ

AI アプリで第120位

ツールを見る

AI アプリ

300以上のオープンおよびクローズドの言語モデルにリクエストをルーティングする推論プラットフォームで、1つの暗号化されたOpenAI互換APIを介して提供され、オープンウェイトモデル用の専用シングルテナントデプロイメントも備えています。また、エージェントAPIとコーディングタスク用のコマンドラインエージェントも提供されており、データ…BLACKBOX AIは、300以上のオープンおよびクローズドの言語モデルにリクエストをルーティングする推論プラットフォームで、1つの暗号化されたOpenAI互換APIを介して提供され、オープンウェイトモデル用の専用シングルテナントデプロイメントも備えています。また、エージェントAPIとコーディングタスク用のコマンドラインエージェントも提供されており、データ…

MLOps・モデルデプロイ
AI アプリで第120位

LLM Gateway

AI GitHub リポジトリ

LLM Gatewayは、大規模言語モデルを管理するために設計されたマルチプロバイダーゲートウェイで、ルーティング、フェイルオーバー、サーキットブレーカー、キャッシング、テナントごとのレート制限、コスト追跡などの機能を備えています。FastAPI、Claude、Bedrockをサポートしています。

AI DevOps・クラウドツール

AI GitHub リポジトリで第168位

ツールを見る

AI GitHub リポジトリ

大規模言語モデルを管理するために設計されたマルチプロバイダーゲートウェイで、ルーティング、フェイルオーバー、サーキットブレーカー、キャッシング、テナントごとのレート制限、コスト追跡などの機能を備えています。FastAPI、Claude、Bedrockをサポートしています。LLM Gatewayは、大規模言語モデルを管理するために設計されたマルチプロバイダーゲートウェイで、ルーティング、フェイルオーバー、サーキットブレーカー、キャッシング、テナントごとのレート制限、コスト追跡などの機能を備えています。FastAPI、Claude、Bedrockをサポートしています。

AI DevOps・クラウドツール
AI GitHub リポジトリで第168位

Synexa

AI アプリ

Synexaは、1行のコードでAIモデルを実行するためのサーバーレスAPIです。開発者は、画像、動画、音声、3D生成、画像修復、キャプション付け、モデルのファインチューニングのための100以上の本番用モデルにアクセスでき、A100およびH100 GPU上で自動スケーリングと従量課金制の価格で実行されます。

MLOps・モデルデプロイ

MLOps・モデルデプロイで第136位

ツールを見る

AI アプリ

1行のコードでAIモデルを実行するためのサーバーレスAPIです。開発者は、画像、動画、音声、3D生成、画像修復、キャプション付け、モデルのファインチューニングのための100以上の本番用モデルにアクセスでき、A100およびH100 GPU上で自動スケーリングと従量課金制の価格で実行されます。Synexaは、1行のコードでAIモデルを実行するためのサーバーレスAPIです。開発者は、画像、動画、音声、3D生成、画像修復、キャプション付け、モデルのファインチューニングのための100以上の本番用モデルにアクセスでき、A100およびH100 GPU上で自動スケーリングと従量課金制の価格で実行されます。

MLOps・モデルデプロイ
MLOps・モデルデプロイで第136位

APIParkは、オープンソースのエンタープライズグレードAPI開発者ポータルおよびLLMゲートウェイです。複数のLLMに対する統一APIシグネチャ、ロードバランシング、トラフィック制御、プロンプト管理を提供します。APIParkは、企業がAIを業務に統合する際のLLM呼び出しのセキュリティ、安定性、コスト最適化を強化します。

MLOps・モデルデプロイ
ツールを見る

オープンソースのエンタープライズグレードAPI開発者ポータルおよびLLMゲートウェイです。複数のLLMに対する統一APIシグネチャ、ロードバランシング、トラフィック制御、プロンプト管理を提供します。APIParkは、企業がAIを業務に統合する際のLLM呼び出しのセキュリティ、安定性、コスト最適化を強化します。APIParkは、オープンソースのエンタープライズグレードAPI開発者ポータルおよびLLMゲートウェイです。複数のLLMに対する統一APIシグネチャ、ロードバランシング、トラフィック制御、プロンプト管理を提供します。APIParkは、企業がAIを業務に統合する際のLLM呼び出しのセキュリティ、安定性、コスト最適化を強化します。

MLOps・モデルデプロイ
AI アプリ トップ250を見る

Nebiusトークンファクトリー

AI プラットフォーム

Nebiusトークンファクトリーは、クラウドプロバイダーNebiusによって構築されたオープンソースAIモデル用の推論APIです。開発者にリアルタイムおよびバッチ推論のためのOpenAI互換エンドポイントを提供し、モデルを生産規模でカスタマイズする必要があるチームのために専用GPUエンドポイントとトレーニング後のツールを提供します。

MLOps・モデルデプロイ
ツールを見る

AI プラットフォーム

クラウドプロバイダーNebiusによって構築されたオープンソースAIモデル用の推論APIです。開発者にリアルタイムおよびバッチ推論のためのOpenAI互換エンドポイントを提供し、モデルを生産規模でカスタマイズする必要があるチームのために専用GPUエンドポイントとトレーニング後のツールを提供します。Nebiusトークンファクトリーは、クラウドプロバイダーNebiusによって構築されたオープンソースAIモデル用の推論APIです。開発者にリアルタイムおよびバッチ推論のためのOpenAI互換エンドポイントを提供し、モデルを生産規模でカスタマイズする必要があるチームのために専用GPUエンドポイントとトレーニング後のツールを提供します。

MLOps・モデルデプロイ
AI プラットフォーム トップ150を見る
1 / 8