Mejores Repositorios de IA en GitHub de MLOps y despliegue de modelos

Ollama

Repositorios de IA en GitHub

#10

Herramienta de código abierto para ejecutar modelos de lenguaje grande en tu propia computadora. Permite a los desarrolladores instalar modelos como Llama, Gemma,…Ollama es una herramienta de código abierto para ejecutar modelos de lenguaje grande en tu propia computadora. Permite a los desarrolladores instalar modelos como Llama, Gemma,…

Langfuse

Repositorios de IA en GitHub

#19

Plataforma de ingeniería AI de código abierto que ofrece evaluaciones de LLM, observabilidad, métricas, gestión de prompts y más. Se integra con OpenTelemetry,…Langfuse es una plataforma de ingeniería AI de código abierto que ofrece evaluaciones de LLM, observabilidad, métricas, gestión de prompts y más. Se integra con OpenTelemetry,…

vLLM

Repositorios de IA en GitHub

#23

Motor de inferencia y servicio de alto rendimiento y eficiente en memoria diseñado para grandes modelos de lenguaje (LLMs). Optimiza el rendimiento…vllm-project/vllm es un motor de inferencia y servicio de alto rendimiento y eficiente en memoria diseñado para grandes modelos de lenguaje (LLMs). Optimiza el rendimiento…

Unsloth

Repositorios de IA en GitHub

#33

Interfaz de usuario local diseñada para ejecutar y entrenar modelos de lenguaje grandes (LLMs) y modelos de difusión. Soporta varios modelos, incluyendo…unslothai/unsloth es una interfaz de usuario local diseñada para ejecutar y entrenar modelos de lenguaje grandes (LLMs) y modelos de difusión. Soporta varios modelos, incluyendo…

SGLang

Repositorios de IA en GitHub

#53

Marco de servidor de alto rendimiento diseñado para modelos de lenguaje grandes y modelos multimodales. Proporciona capacidades de servicio eficientes que mejoran el…SGLang es un marco de servidor de alto rendimiento diseñado para modelos de lenguaje grandes y modelos multimodales. Proporciona capacidades de servicio eficientes que mejoran el…

Visualizador Netron

Repositorios de IA en GitHub

#69

Netron es un visualizador para redes neuronales, aprendizaje profundo y modelos de aprendizaje automático. Proporciona una interfaz intuitiva para explorar arquitecturas y…

LMDeploy

Repositorios de IA en GitHub

#73

Conjunto de herramientas diseñado para comprimir, implementar y servir modelos de lenguaje grande (LLMs). Proporciona a los desarrolladores las herramientas…LMDeploy es un conjunto de herramientas diseñado para comprimir, implementar y servir modelos de lenguaje grande (LLMs). Proporciona a los desarrolladores las herramientas…

DeepEval

Repositorios de IA en GitHub

#80

Marco de código abierto diseñado para evaluar modelos de lenguaje grandes (LLMs). Permite a los desarrolladores contribuir y mejorar el proceso de evaluación,…DeepEval es un marco de código abierto diseñado para evaluar modelos de lenguaje grandes (LLMs). Permite a los desarrolladores contribuir y mejorar el proceso de evaluación,…

llmware

Repositorios de IA en GitHub

#81

Marco unificado diseñado para construir tuberías RAG empresariales utilizando modelos pequeños y especializados. Simplifica la integración de varios modelos de IA en…llmware es un marco unificado diseñado para construir tuberías RAG empresariales utilizando modelos pequeños y especializados. Simplifica la integración de varios modelos de IA en…

Phoenix

Repositorios de IA en GitHub

#85

Arize Phoenix es una herramienta de observabilidad y evaluación de IA diseñada para ayudar a los desarrolladores a monitorear y evaluar modelos de IA. Proporciona información…

Feast Feature Store

Repositorios de IA en GitHub

#90

Almacén de características de código abierto diseñado para aplicaciones de IA y aprendizaje automático. Permite a los científicos de datos gestionar y servir…Feast es un almacén de características de código abierto diseñado para aplicaciones de IA y aprendizaje automático. Permite a los científicos de datos gestionar y servir…

BentoML

Repositorios de IA en GitHub

#93

Plataforma de código abierto diseñada para simplificar el despliegue de modelos y aplicaciones de IA. Permite a los desarrolladores construir APIs de inferencia de…BentoML es una plataforma de código abierto diseñada para simplificar el despliegue de modelos y aplicaciones de IA. Permite a los desarrolladores construir APIs de inferencia de…

NannyML

Repositorios de IA en GitHub

#106

Biblioteca de Python centrada en la ciencia de datos post-despliegue. Ayuda a los científicos de datos a monitorear y analizar el rendimiento del modelo después del…NannyML es una biblioteca de Python centrada en la ciencia de datos post-despliegue. Ayuda a los científicos de datos a monitorear y analizar el rendimiento del modelo después del…

llamafile

Repositorios de IA en GitHub

#136

Herramienta diseñada para simplificar la distribución y ejecución de grandes modelos de lenguaje (LLMs) utilizando un solo archivo. Facilita la colaboración y el…Llamafile es una herramienta diseñada para simplificar la distribución y ejecución de grandes modelos de lenguaje (LLMs) utilizando un solo archivo. Facilita la colaboración y el…

SGLang-Omni

Repositorios de IA en GitHub

#155Esta semana

Marco de servicio de alto rendimiento diseñado para modelos de audio como TTS y ASR, así como para modelos multimodales unificados. Proporciona un soporte…SGLang-Omni es un marco de servicio de alto rendimiento diseñado para modelos de audio como TTS y ASR, así como para modelos multimodales unificados. Proporciona un soporte…

Caveman

Repositorios de IA en GitHub

#180

Proyecto de GitHub que optimiza el uso de tokens para agentes de codificación al imitar el habla de un cavernícola. Reduce el consumo de tokens en un 65%, mejorando…Caveman es un proyecto de GitHub que optimiza el uso de tokens para agentes de codificación al imitar el habla de un cavernícola. Reduce el consumo de tokens en un 65%, mejorando…

FailproofAI

Repositorios de IA en GitHub

#181

Proporciona observabilidad y aplicación para arneses de agentes de IA, asegurando que cada ejecución sea capturada y que se mantenga la fiabilidad en tiempo de…FailproofAI proporciona observabilidad y aplicación para arneses de agentes de IA, asegurando que cada ejecución sea capturada y que se mantenga la fiabilidad en tiempo de…

RagaAI Catalyst

Repositorios de IA en GitHub

#200

SDK de Python diseñado para la observabilidad, monitoreo y evaluación de IA. Ofrece características como trazado de agentes y herramientas, depuración de…RagaAI Catalyst es un SDK de Python diseñado para la observabilidad, monitoreo y evaluación de IA. Ofrece características como trazado de agentes y herramientas, depuración de…

PowerInfer

Repositorios de IA en GitHub

#201

Herramienta de modelo de lenguaje grande de alta velocidad diseñada para implementación local. Permite la inferencia eficiente y rápida de modelos de lenguaje…PowerInfer es una herramienta de modelo de lenguaje grande de alta velocidad diseñada para implementación local. Permite la inferencia eficiente y rápida de modelos de lenguaje…

AirLLM

Repositorios de IA en GitHub

#236

Proyecto de GitHub que permite la inferencia de 70 mil millones de parámetros utilizando una sola GPU de 4GB. Está diseñado para optimizar el rendimiento de modelos…AirLLM es un proyecto de GitHub que permite la inferencia de 70 mil millones de parámetros utilizando una sola GPU de 4GB. Está diseñado para optimizar el rendimiento de modelos…

Rocketride Server

Repositorios de IA en GitHub

#237

Motor de canalización de IA de alto rendimiento con un núcleo en C++. Soporta más de 50 nodos extensibles en Python, lo que permite la construcción,…Rocketride Server es un motor de canalización de IA de alto rendimiento con un núcleo en C++. Soporta más de 50 nodos extensibles en Python, lo que permite la construcción,…

GPUStack

Repositorios de IA en GitHub

#116

Gestor de clústeres de GPU diseñado para la implementación de modelos de IA de alto rendimiento, incluyendo vLLM y SGLang, y proporciona instancias de GPU…GPUStack es un gestor de clústeres de GPU diseñado para la implementación de modelos de IA de alto rendimiento, incluyendo vLLM y SGLang, y proporciona instancias de GPU…

Strata

Repositorios de IA en GitHub

#23

Motor de inferencia que permite el despliegue de Qwen3.8-Flash-Next en hardware de consumo. Soporta instalación con un clic en Windows y Linux, y ofrece integración…Strata es un motor de inferencia que permite el despliegue de Qwen3.8-Flash-Next en hardware de consumo. Soporta instalación con un clic en Windows y Linux, y ofrece integración…

omlx

Repositorios de IA en GitHub

#138

Servidor de inferencia LLM diseñado para Apple Silicon, que cuenta con procesamiento por lotes continuo y almacenamiento en caché SSD. Se gestiona directamente desde la…omlx es un servidor de inferencia LLM diseñado para Apple Silicon, que cuenta con procesamiento por lotes continuo y almacenamiento en caché SSD. Se gestiona directamente desde la…

Seldon Core

Repositorios de IA en GitHub

Framework MLOps y LLMOps para desplegar, gestionar y escalar sistemas de IA en Kubernetes. Permite el despliegue estandarizado de varios tipos de modelos en…Seldon Core es un framework MLOps y LLMOps para desplegar, gestionar y escalar sistemas de IA en Kubernetes. Permite el despliegue estandarizado de varios tipos de modelos en…

Plataforma de Inferencia AI KServe

Repositorios de IA en GitHub

KServe es una plataforma de inferencia AI distribuida y estandarizada diseñada para el despliegue escalable y multi-framework en Kubernetes. Soporta modelos de AI generativos y…

TraceML

Repositorios de IA en GitHub

Polyaxon TraceML es un motor diseñado para el seguimiento de datos de IA/ML, visualización, explicabilidad y detección de deriva. Proporciona paneles completos para monitorear y…

Radicalbit AI Monitoring

Repositorios de IA en GitHub

Solución integral para supervisar modelos de IA en producción. Proporciona herramientas para garantizar el rendimiento y la fiabilidad del modelo,…Radicalbit AI Monitoring es una solución integral para supervisar modelos de IA en producción. Proporciona herramientas para garantizar el rendimiento y la fiabilidad del modelo,…

TruLens Evaluation Tool

Repositorios de IA en GitHub

Proyecto de GitHub diseñado para evaluar y rastrear experimentos con modelos de lenguaje grandes (LLMs) y agentes de IA. Proporciona herramientas para evaluar el…TruLens es un proyecto de GitHub diseñado para evaluar y rastrear experimentos con modelos de lenguaje grandes (LLMs) y agentes de IA. Proporciona herramientas para evaluar el…

Biblioteca de Registro de Datos Whylogs

Repositorios de IA en GitHub

Whylogs es una biblioteca de registro de datos de código abierto diseñada para modelos de aprendizaje automático y tuberías de datos. Proporciona visibilidad sobre la calidad de…

Cua

Repositorios de IA en GitHub

Proyecto de código abierto diseñado para mejorar el uso de computadoras con flotas multiplataforma, controladores y puntos de referencia para el entrenamiento y la…Cua es un proyecto de código abierto diseñado para mejorar el uso de computadoras con flotas multiplataforma, controladores y puntos de referencia para el entrenamiento y la…

mlc-llm

Repositorios de IA en GitHub

Motor de implementación universal de LLM que utiliza la compilación de aprendizaje automático para agilizar el proceso de implementación. Está diseñado para mejorar…mlc-llm es un motor de implementación universal de LLM que utiliza la compilación de aprendizaje automático para agilizar el proceso de implementación. Está diseñado para mejorar…

MNN

Repositorios de IA en GitHub

Motor de inferencia ligero y de alto rendimiento desarrollado por Alibaba. Está diseñado para optimizar los LLMs en dispositivos y aplicaciones de Edge AI,…MNN es un motor de inferencia ligero y de alto rendimiento desarrollado por Alibaba. Está diseñado para optimizar los LLMs en dispositivos y aplicaciones de Edge AI,…

ms-swift

Repositorios de IA en GitHub

Repositorio de GitHub que permite el uso de PEFT o ajuste de parámetros completos para más de 600 modelos de lenguaje grande (LLMs) y 300 modelos de lenguaje…ms-swift es un repositorio de GitHub que permite el uso de PEFT o ajuste de parámetros completos para más de 600 modelos de lenguaje grande (LLMs) y 300 modelos de lenguaje…

LMCache

Repositorios de IA en GitHub

Capa de caché clave-valor de alto rendimiento diseñada para mejorar la eficiencia de los modelos de lenguaje grande (LLMs). Optimiza las velocidades de recuperación…LMCache es una capa de caché clave-valor de alto rendimiento diseñada para mejorar la eficiencia de los modelos de lenguaje grande (LLMs). Optimiza las velocidades de recuperación…

Soup

Repositorios de IA en GitHub

Repositorio de GitHub que permite el ajuste fino de modelos de lenguaje grandes (LLMs) utilizando un solo archivo YAML. Utiliza el streaming de capas para entrenar un…Soup es un repositorio de GitHub que permite el ajuste fino de modelos de lenguaje grandes (LLMs) utilizando un solo archivo YAML. Utiliza el streaming de capas para entrenar un…

GenieX

Repositorios de IA en GitHub

Permite la ejecución de modelos de lenguaje de frontera (LLMs) y modelos de lenguaje visual (VLMs) localmente en dispositivos Qualcomm, utilizando NPU, GPU y CPU.…GenieX permite la ejecución de modelos de lenguaje de frontera (LLMs) y modelos de lenguaje visual (VLMs) localmente en dispositivos Qualcomm, utilizando NPU, GPU y CPU.…

GPTCache

Repositorios de IA en GitHub

Caché semántica diseñada para modelos de lenguaje grandes (LLMs), completamente integrada con LangChain y llama_index. Optimiza el rendimiento de los LLMs al…GPTCache es una caché semántica diseñada para modelos de lenguaje grandes (LLMs), completamente integrada con LangChain y llama_index. Optimiza el rendimiento de los LLMs al…

FlashInfer

Repositorios de IA en GitHub

Biblioteca de núcleo diseñada para servir modelos de lenguaje grandes (LLMs). Facilita el despliegue y la gestión eficientes de LLMs, permitiendo a los…FlashInfer es una biblioteca de núcleo diseñada para servir modelos de lenguaje grandes (LLMs). Facilita el despliegue y la gestión eficientes de LLMs, permitiendo a los…

AI Manager

Repositorios de IA en GitHub

Aplicación de escritorio diseñada para optimizar el uso de herramientas de codificación de IA. Proporciona a los desarrolladores un entorno integrado para…AI Manager es una aplicación de escritorio diseñada para optimizar el uso de herramientas de codificación de IA. Proporciona a los desarrolladores un entorno integrado para…