メインコンテンツへスキップ
ToolPotion
AI アドバイザー
送信(無料)

Mage-Flow-Turbo-Native-Inference

Mage-Flow-Turbo-Native-Inferenceは、Python推論フレームワークの代わりにネイティブなstable-diffusion.cppランタイムを介してMage-Flow-Turbo画像拡散モデルを実行するオープンソースのデプロイメントスタックです。CPUまたはCUDAで画像を生成するためのREST APIとCLIを提供し、2つのサポートされているモデルプロファイル(Q8 GGUFおよびBF16 SafeTensors)と再現可能なKaggleベンチマークツールを搭載しています。

リポジトリを見る
共有
リポジトリを見る
共有

Mage-Flow-Turbo-Native-Inferenceは、Mage-Flow-Turbo画像拡散モデルのためのポータブルなネイティブ推論およびデプロイメントスタックです。このリポジトリはモデルの重みをトレーニングしたり変更したりすることはなく、Pythonレイヤーが設定、モデルおよびランタイムのアイデンティティ検証、CLIおよびRESTのオーケストレーション、ライフサイクル管理、テレメトリーおよび証拠収集を処理します。実際の画像生成は、PyTorchやTransformersの推論ループではなく、ネイティブなstable-diffusion.cpp sd-cliランタイムを介して実行されます。

続きを読む

バージョン1.0.0は、同じネイティブランタイムを介して2つのモデルプロファイルを提供します。標準的なq8-referenceプロファイルは、GGUF Q8_0拡散重みをQwen3-VL-4B GGUFテキストエンコーダーおよびSafeTensors VAEと組み合わせています。bf16-safetensorsプロファイルは、同じテキストエンコーダーおよびVAEを使用してBF16 SafeTensors拡散重みを利用します。両方のプロファイルはCPUおよびCUDA(cuda0デバイス)で動作し、実際の推論が行われる前に、各モデルコンポーネントのアイデンティティがSHA-256ハッシュと、固定されたネイティブランタイムのコミットと照合されます。

mageflow-native CLIは、各プロファイルを検証、ビルド、実行し、デフォルトで127.0.0.1にバインドされるローカルREST APIは、ヘルスチェックおよびレディネスチェック、サービス情報エンドポイント、画像生成エンドポイント、生成されたPNGアーティファクトを取得するためのエンドポイントを公開します。

このプロジェクトは、固定されたプロンプト、シード、ステップ数、CFG値、および512から1024ピクセルまでの解像度マトリックスを使用して、CPUおよびKaggle T4/T4x2 GPU上で両方のモデルプロファイルを比較する厳密な2x2ベンチマークプロトコルを公開します。結果は、単なる数値として貼り付けられるのではなく、正確なソースリビジョン、モデルのアイデンティティ、およびランタイムコミットに結びついたチェックサム保護された証拠として記録され、公開されたKaggleノートブックと文書化されたKaggleデータセットおよびモデルのアイデンティティにより、他の人が同じ実行をいずれのアクセラレーターでも再現できるようにします。

このプロジェクトは、完全なPython MLスタックを立ち上げることなく、CPUまたはCUDA上でMage-Flow-Turboモデルを再現可能でベンチマークされた方法で実行したい開発者のために構築されています。MITライセンスの下でリリースされており、自由に使用できます。アニメ特有のコンテンツ、プリセット、ツールはなく、基盤となるモデルのための一般的なネイティブ推論スタックです。

  • カテゴリーAI画像生成ツール
  • 料金モデルオープンソース
  • デプロイセルフホスト
  • プラットフォームWeb

  • PyTorch/Transformersの推論ループの代わりにネイティブなstable-diffusion.cpp sd-cli実行

  • サポートされている2つのモデルプロファイル:Q8 GGUF拡散(標準/デフォルト)およびBF16 SafeTensors拡散

  • 両方のモデルプロファイルのためのCPUおよびCUDA(cuda0)バックエンド

  • 推論前のモデル重みとネイティブランタイムのSHA-256アイデンティティ検証

  • ランタイムの検証、ビルド、実行のためのmageflow-native CLI

  • 画像生成のためのPOSTエンドポイントとヘルスチェックを備えたローカルREST API

  • 固定されたプロンプトと解像度マトリックスを使用した厳密な2x2 CPU対Kaggle T4/T4x2ベンチマークプロトコルの公開

  • ベンチマーク実行を再現するための公開Kaggleノートブックおよび文書化されたデータセット/モデルのアイデンティティ

  • ソースリビジョン、モデルのアイデンティティ、ランタイムコミットおよび生成メタデータの構造化された証拠記録

  1. ローカルにインストール:LinuxのPython環境でpip install -e .を実行します。

  2. ランタイムをビルド:cpuまたはcudaバックエンドでmageflow-native runtime buildを実行します。

  3. プロファイルを検証:選択したマニフェストでmageflow-native doctorを実行してモデルとランタイムのアイデンティティを確認します。

  4. 画像を生成:mageflow-native verifyを呼び出すか、ローカルの/v1/images/generate RESTエンドポイントにリクエストを送信します。

  5. ベンチマークを再現:Kaggleノートブックを開き、アクセラレーターに対応するランタイムデータセットとモデルを添付します。

  • ローカル画像生成
  • CPU対GPUベンチマーキング
  • 自己ホスト型画像API

Mage-Flow-Turbo-Native-Inference のレビュー

読み込み中...

Mage-Flow-Turbo-Native-Inference に似た人気のAIツール

Sink Inは、高速GPU上で最先端のStable Diffusion AI画像生成モデルへのアクセスを提供します。AIアプリケーション構築のための費用対効果の高いAPI、信頼性の高いインフラストラクチャ、画像生成ニーズに応じた様々なサブスクリプションプランやクレジット購入オプションを提供しています。

AI画像生成ツール

AI画像生成ツールで第149位

ツールを見る

高速GPU上で最先端のStable Diffusion AI画像生成モデルへのアクセスを提供します。AIアプリケーション構築のための費用対効果の高いAPI、信頼性の高いインフラストラクチャ、画像生成ニーズに応じた様々なサブスクリプションプランやクレジット購入オプションを提供しています。Sink Inは、高速GPU上で最先端のStable Diffusion AI画像生成モデルへのアクセスを提供します。AIアプリケーション構築のための費用対効果の高いAPI、信頼性の高いインフラストラクチャ、画像生成ニーズに応じた様々なサブスクリプションプランやクレジット購入オプションを提供しています。

AI画像生成ツール
AI画像生成ツールで第149位

Runware

AI アプリ

Runwareは、画像、動画、音声、3D、LLM、ビジョンモデルのための統一されたAPIを提供する生成AI推論プラットフォームです。400K以上のモデル、管理されたインフラストラクチャ、カスタム推論エンジンに基づいた使用量ベースの価格設定を提供します。

MLOps・モデルデプロイ
ツールを見る

AI アプリ

画像、動画、音声、3D、LLM、ビジョンモデルのための統一されたAPIを提供する生成AI推論プラットフォームです。400K以上のモデル、管理されたインフラストラクチャ、カスタム推論エンジンに基づいた使用量ベースの価格設定を提供します。Runwareは、画像、動画、音声、3D、LLM、ビジョンモデルのための統一されたAPIを提供する生成AI推論プラットフォームです。400K以上のモデル、管理されたインフラストラクチャ、カスタム推論エンジンに基づいた使用量ベースの価格設定を提供します。

MLOps・モデルデプロイ
AI アプリ トップ250を見る

ブリトーコア

AI GitHub リポジトリ

ブリトーコアは、gpt-ossの推論ハーネスであり、OpenAIおよびAnthropic APIとの互換性を提供します。ネイティブPythonおよびブラウザツールをサポートし、効率的な処理のためにllama.cppまたはvLLMを利用します。

機械学習プラットフォーム
ツールを見る

AI GitHub リポジトリ

Gpt-ossの推論ハーネスであり、OpenAIおよびAnthropic APIとの互換性を提供します。ネイティブPythonおよびブラウザツールをサポートし、効率的な処理のためにllama.cppまたはvLLMを利用します。ブリトーコアは、gpt-ossの推論ハーネスであり、OpenAIおよびAnthropic APIとの互換性を提供します。ネイティブPythonおよびブラウザツールをサポートし、効率的な処理のためにllama.cppまたはvLLMを利用します。

機械学習プラットフォーム
AI GitHub リポジトリ トップ250を見る

Pythae

AI GitHub リポジトリ

Pythaeは、Pytorchを使用した変分オートエンコーダ(VAE)実装のための統一プラットフォームを提供します。研究者や開発者に、VAEモデルを実験し最適化するための包括的なツールキットを提供し、機械学習とAI研究の進展を促進します。

機械学習プラットフォーム
ツールを見る

AI GitHub リポジトリ

Pytorchを使用した変分オートエンコーダ(VAE)実装のための統一プラットフォームを提供します。研究者や開発者に、VAEモデルを実験し最適化するための包括的なツールキットを提供し、機械学習とAI研究の進展を促進します。Pythaeは、Pytorchを使用した変分オートエンコーダ(VAE)実装のための統一プラットフォームを提供します。研究者や開発者に、VAEモデルを実験し最適化するための包括的なツールキットを提供し、機械学習とAI研究の進展を促進します。

機械学習プラットフォーム
AI GitHub リポジトリ トップ250を見る

Baseten

AI プラットフォーム

Basetenの推論プラットフォームは、ユーザーがオープンソースおよびカスタムAIモデルを効率的にデプロイおよびスケールできるようにします。専用のインフラストラクチャ、高性能なAPI、シームレスな開発者ワークフローを提供し、迅速なデプロイと信頼性の高いパフォーマンスを確保します。

MLOps・モデルデプロイ

AI プラットフォームで第72位

ツールを見る

AI プラットフォーム

Basetenの推論プラットフォームは、ユーザーがオープンソースおよびカスタムAIモデルを効率的にデプロイおよびスケールできるようにします。専用のインフラストラクチャ、高性能なAPI、シームレスな開発者ワークフローを提供し、迅速なデプロイと信頼性の高いパフォーマンスを確保します。

注目MLOps・モデルデプロイ
AI プラットフォームで第72位

ディフューザー

AI GitHub リポジトリ

ディフューザーは、Hugging FaceによるGitHubプロジェクトで、PyTorchを使用して画像、動画、音声を生成するための最先端の拡散モデルを提供します。これは、高度なAIモデルの実装に興味のある開発者や研究者向けに設計されています。

機械学習とデータサイエンス
ツールを見る

AI GitHub リポジトリ

Hugging FaceによるGitHubプロジェクトで、PyTorchを使用して画像、動画、音声を生成するための最先端の拡散モデルを提供します。これは、高度なAIモデルの実装に興味のある開発者や研究者向けに設計されています。ディフューザーは、Hugging FaceによるGitHubプロジェクトで、PyTorchを使用して画像、動画、音声を生成するための最先端の拡散モデルを提供します。これは、高度なAIモデルの実装に興味のある開発者や研究者向けに設計されています。

機械学習とデータサイエンス
AI GitHub リポジトリ トップ250を見る

Vision Transformer

AI GitHub リポジトリ

Vision Transformer (ViT) リポジトリは、画像認識タスク用のモデルとコードを提供します。ImageNet および ImageNet-21k データセットで事前学習済みの Vision Transformer および MLP-Mixer アーキテクチャの実装が含まれており、JAX/Flax でのファインチューニング用コードも提供します。

コンピュータービジョンツール
ツールを見る

AI GitHub リポジトリ

Vision Transformer (ViT) リポジトリは、画像認識タスク用のモデルとコードを提供します。ImageNet および ImageNet-21k データセットで事前学習済みの Vision Transformer および MLP-Mixer アーキテクチャの実装が含まれており、JAX/Flax でのファインチューニング用コードも提供します。

コンピュータービジョンツール
AI GitHub リポジトリ トップ250を見る

ConvMixer

AI GitHub リポジトリ

このリポジトリは、画像認識タスク用の畳み込みニューラルネットワークアーキテクチャであるConvMixerの実装を提供します。論文「Patches Are All You Need? 🤷」に基づいており、評価用の事前学習済みモデルの重みと、ImageNet-1kやCIFAR-10などのデータセットでのトレーニング用コードが含まれています。

AIモデルとLLM
ツールを見る

AI GitHub リポジトリ

このリポジトリは、画像認識タスク用の畳み込みニューラルネットワークアーキテクチャであるConvMixerの実装を提供します。論文「Patches Are All You Need? 🤷」に基づいており、評価用の事前学習済みモデルの重みと、ImageNet-1kやCIFAR-10などのデータセットでのトレーニング用コードが含まれています。

AIモデルとLLM
AI GitHub リポジトリ トップ250を見る
1 / 8