الوصف
Mage-Flow-Turbo-Native-Inference هو مجموعة استدلال ونشر محمولة للنموذج Mage-Flow-Turbo لانتشار الصور. المستودع لا يقوم بتدريب أو تعديل أوزان النموذج: تتولى طبقة بايثون التعامل مع التكوين، والتحقق من هوية النموذج ووقت التشغيل، وتنظيم CLI وREST، والتحكم في دورة الحياة، وجمع البيانات والتوثيق، بينما يتم تشغيل توليد الصور الفعلي من خلال وقت التشغيل المستقر stable-diffusion.cpp sd-cli بدلاً من حلقة استدلال PyTorch أو Transformers.
قراءة المزيد
الإصدار 1.0.0 يتضمن ملفي نموذج من خلال نفس وقت التشغيل المستقر. يتزاوج ملف q8-reference القياسي مع أوزان انتشار GGUF Q8_0 مع مشفر نصوص Qwen3-VL-4B GGUF وVAE SafeTensors. يستخدم ملف bf16-safetensors أوزان انتشار BF16 SafeTensors مع نفس مشفر النصوص وVAE. كلا الملفين يعملان على وحدة المعالجة المركزية وكذلك على CUDA (جهاز cuda0)، ويتم التحقق من هوية كل مكون من مكونات النموذج مقابل تجزئة SHA-256 الخاصة به، جنبًا إلى جنب مع التزام وقت التشغيل المستقر المثبت، قبل حدوث الاستدلال الفعلي.
تتحقق واجهة mageflow-native CLI، وتبني، وتشغل كل ملف، وتعرض واجهة REST محلية، والتي ترتبط بـ 127.0.0.1 بشكل افتراضي، فحوصات الصحة والاستعداد، ونقطة نهاية معلومات الخدمة، ونقطة نهاية توليد الصور، ونقطة نهاية لاسترجاع العناصر الناتجة بصيغة PNG.
ينشر المشروع بروتوكول قياس صارم 2x2 يقارن بين كلا ملفي النموذج على وحدة المعالجة المركزية وعلى وحدات معالجة الرسوميات Kaggle T4/T4x2، باستخدام موجه ثابت، وبذور، وعدد خطوات وقيمة CFG، ومصفوفة دقة من 512 إلى 1024 بكسل. يتم تسجيل النتائج كأدلة محمية بتجزئة مرتبطة بالنسخة المصدرية الدقيقة، وهويات النموذج، والتزام وقت التشغيل، بدلاً من لصقها كأرقام عادية، ويسمح دفتر Kaggle العام بالإضافة إلى هويات مجموعة البيانات والنموذج الموثقة للآخرين بإعادة إنتاج نفس الجولات على أي مسرع.
تم بناء المشروع للمطورين الذين يرغبون في طريقة قابلة للتكرار وموثقة لتشغيل نموذج Mage-Flow-Turbo على وحدة المعالجة المركزية أو CUDA دون الحاجة إلى إعداد مجموعة كاملة من بايثون ML. تم إصداره بموجب ترخيص MIT وهو مجاني للاستخدام. ليس لديه محتوى أو إعدادات أو أدوات محددة للأنمي؛ إنه مجموعة استدلال محلية عامة للنموذج الأساسي.
- الفئةمولّدات الصور بالذكاء الاصطناعي
- نموذج التسعيرمفتوح المصدر
- النشراستضافة ذاتية
- المنصاتالويب
الميزات الأساسية لـ Mage-Flow-Turbo-Native-Inference
تنفيذ stable-diffusion.cpp sd-cli بدلاً من حلقة استدلال PyTorch/Transformers
ملفان مدعومان للنموذج: انتشار Q8 GGUF (قياسي/افتراضي) وانتشار BF16 SafeTensors
واجهات وحدة المعالجة المركزية وCUDA (cuda0) لكلا ملفي النموذج
التحقق من هوية أوزان النموذج ووقت التشغيل المستقر قبل الاستدلال باستخدام SHA-256
واجهة mageflow-native CLI للتحقق من الهوية، والبناء، وتشغيل وقت التشغيل
واجهة REST محلية مع فحوصات الصحة ونقطة نهاية POST لتوليد الصور
نشر بروتوكول قياس صارم 2x2 لمقارنة أداء وحدة المعالجة المركزية مقابل Kaggle T4/T4x2 مع موجه ثابت ومصفوفة دقة
دفتر Kaggle العام وهويات مجموعة البيانات/النموذج الموثقة لإعادة إنتاج جولات القياس
تسجيل منظم للأدلة المتعلقة بالنسخة المصدرية، وهويات النموذج، والتزام وقت التشغيل، وبيانات التوليد
البدء مع Mage-Flow-Turbo-Native-Inference
التثبيت محليًا: قم بتشغيل pip install -e . في بيئة بايثون على نظام Linux.
بناء وقت التشغيل: قم بتشغيل mageflow-native runtime build مع واجهة cpu أو cuda.
التحقق من الملف: قم بتشغيل mageflow-native doctor مع البيان الذي اخترته للتحقق من هويات النموذج ووقت التشغيل.
توليد صورة: استدعاء mageflow-native verify، أو إرسال طلب إلى نقطة نهاية REST المحلية /v1/images/generate.
إعادة إنتاج القياسات: افتح دفتر Kaggle وأرفق مجموعة البيانات والنموذج المطابقة لوقت التشغيل لمسرعك.
حالات استخدام Mage-Flow-Turbo-Native-Inference
- توليد الصور محليًا
- قياس أداء وحدة المعالجة المركزية مقابل GPU
- واجهة برمجة تطبيقات الصور المستضافة ذاتيًا
