Descripción
Mage-Flow-Turbo-Native-Inference es una pila de inferencia y despliegue nativa portátil para el modelo de difusión de imágenes Mage-Flow-Turbo. El repositorio no entrena ni modifica los pesos del modelo: su capa de Python maneja la configuración, la verificación de identidad del modelo y del tiempo de ejecución, la orquestación de CLI y REST, el control del ciclo de vida, la telemetría y la recopilación de evidencia, mientras que la generación de imágenes real se ejecuta a través del tiempo de ejecución sd-cli nativo stable-diffusion.cpp en lugar de un bucle de inferencia de PyTorch o Transformers.
Leer más
La versión 1.0.0 incluye dos perfiles de modelo a través de ese mismo tiempo de ejecución nativo. El perfil de referencia canónica q8 empareja los pesos de difusión GGUF Q8_0 con un codificador de texto GGUF Qwen3-VL-4B y un VAE SafeTensors. El perfil bf16-safetensors utiliza pesos de difusión BF16 SafeTensors con el mismo codificador de texto y VAE. Ambos perfiles funcionan en CPU así como en CUDA (el dispositivo cuda0), y la identidad de cada componente del modelo se verifica contra su hash SHA-256, junto con un commit de tiempo de ejecución nativo fijado, antes de que ocurra la inferencia real.
Una CLI mageflow-native verifica, construye y ejecuta cada perfil, y una API REST local, que se vincula a 127.0.0.1 por defecto, expone verificaciones de salud y disponibilidad, un endpoint de información del servicio, un endpoint de generación de imágenes y un endpoint para recuperar artefactos PNG generados.
El proyecto publica un estricto protocolo de referencia 2x2 que compara ambos perfiles de modelo en CPU y en GPUs Kaggle T4/T4x2, utilizando un prompt fijo, semilla, conteo de pasos y valor CFG, y una matriz de resolución de 512 hasta 1024 píxeles. Los resultados se registran como evidencia protegida por checksum vinculada a la revisión exacta de la fuente, identidades de modelo y commit de tiempo de ejecución, en lugar de ser pegados como números simples, y un cuaderno público de Kaggle más identidades documentadas de Dataset y Modelo permiten a otros reproducir las mismas ejecuciones en cualquier acelerador.
El proyecto está diseñado para desarrolladores que desean una forma reproducible y evaluada de ejecutar el modelo Mage-Flow-Turbo en CPU o CUDA sin tener que configurar una pila completa de ML en Python. Se publica bajo la licencia MIT y es gratuito para usar. No contiene contenido, presets o herramientas específicas de anime; es una pila de inferencia nativa general para el modelo subyacente.
- CategoríaGeneradores de imágenes con IA
- Modelo de preciosCódigo abierto
- ImplementaciónAutoalojado
- PlataformasWeb
Características principales de Mage-Flow-Turbo-Native-Inference
Ejecución nativa de stable-diffusion.cpp sd-cli en lugar de un bucle de inferencia de PyTorch/Transformers
Dos perfiles de modelo soportados: difusión Q8 GGUF (canónico/predeterminado) y difusión BF16 SafeTensors
Backends de CPU y CUDA (cuda0) para ambos perfiles de modelo
Verificación de identidad SHA-256 de los pesos del modelo y el tiempo de ejecución nativo antes de la inferencia
CLI mageflow-native para verificar, construir y ejecutar el tiempo de ejecución
API REST local con verificaciones de salud y un endpoint POST para la generación de imágenes
Protocolo de referencia estricto 2x2 publicado de comparación de rendimiento CPU vs. Kaggle T4/T4x2 con un prompt fijo y matriz de resolución
Cuaderno público de Kaggle e identidades documentadas de Dataset/Modelo para reproducir ejecuciones de referencia
Registro estructurado de evidencia de revisión de fuente, identidades de modelo, commit de tiempo de ejecución y metadatos de generación
Primeros pasos con Mage-Flow-Turbo-Native-Inference
Instalar localmente: Ejecutar pip install -e . en un entorno de Python en Linux.
Construir el tiempo de ejecución: Ejecutar mageflow-native runtime build con el backend cpu o cuda.
Verificar el perfil: Ejecutar mageflow-native doctor con tu manifiesto elegido para verificar identidades de modelo y tiempo de ejecución.
Generar una imagen: Llamar a mageflow-native verify, o enviar una solicitud al endpoint REST local /v1/images/generate.
Reproducir benchmarks: Abrir el cuaderno de Kaggle y adjuntar el Dataset y modelos de tiempo de ejecución coincidentes para tu acelerador.
Casos de uso de Mage-Flow-Turbo-Native-Inference
- Generación de imágenes local
- Benchmarking de CPU vs. GPU
- API de imágenes autoalojada
