Proyecto Maya

LocalAI

Repositorios de IA en GitHub

#44

Motor de IA de código abierto que permite a los usuarios ejecutar varios modelos, incluidos LLMs, visión, voz, imagen y video, en cualquier hardware sin necesidad de…LocalAI es un motor de IA de código abierto que permite a los usuarios ejecutar varios modelos, incluidos LLMs, visión, voz, imagen y video, en cualquier hardware sin necesidad de…

GPUStack

Repositorios de IA en GitHub

#115

Gestor de clústeres de GPU diseñado para la implementación de modelos de IA de alto rendimiento, incluyendo vLLM y SGLang, y proporciona instancias de GPU…GPUStack es un gestor de clústeres de GPU diseñado para la implementación de modelos de IA de alto rendimiento, incluyendo vLLM y SGLang, y proporciona instancias de GPU…

Shimmy

Repositorios de IA en GitHub

Motor de inferencia WebGPU desarrollado en Rust puro, compatible con la API de OpenAI y nativo de GGUF. Funciona en cualquier GPU sin necesidad de Python o llama.cpp,…Shimmy es un motor de inferencia WebGPU desarrollado en Rust puro, compatible con la API de OpenAI y nativo de GGUF. Funciona en cualquier GPU sin necesidad de Python o llama.cpp,…

openTPU

Repositorios de IA en GitHub

Acelerador de IA de código abierto desarrollado por FeSens. Combina RTL, ISA, simulador, compilador y perfilador en un solo repositorio, lo que permite la ejecución…openTPU es un acelerador de IA de código abierto desarrollado por FeSens. Combina RTL, ISA, simulador, compilador y perfilador en un solo repositorio, lo que permite la ejecución…

Una herramienta gratuita que detecta tu GPU o Mac y muestra qué modelos de IA abiertos, incluidos LLMs, modelos de codificación, imagen y video, puedes ejecutar localmente, con…

AirLLM

Repositorios de IA en GitHub

#234

Proyecto de GitHub que permite la inferencia de 70 mil millones de parámetros utilizando una sola GPU de 4GB. Está diseñado para optimizar el rendimiento de modelos…AirLLM es un proyecto de GitHub que permite la inferencia de 70 mil millones de parámetros utilizando una sola GPU de 4GB. Está diseñado para optimizar el rendimiento de modelos…

TensorRT-LLM

Repositorios de IA en GitHub

#63

Proporciona una API de Python para definir Modelos de Lenguaje Grande, optimizando la inferencia en GPUs de NVIDIA. Incluye componentes para crear entornos de…TensorRT-LLM proporciona una API de Python para definir Modelos de Lenguaje Grande, optimizando la inferencia en GPUs de NVIDIA. Incluye componentes para crear entornos de…

GenieX

Repositorios de IA en GitHub

Permite la ejecución de modelos de lenguaje de frontera (LLMs) y modelos de lenguaje visual (VLMs) localmente en dispositivos Qualcomm, utilizando NPU, GPU y CPU.…GenieX permite la ejecución de modelos de lenguaje de frontera (LLMs) y modelos de lenguaje visual (VLMs) localmente en dispositivos Qualcomm, utilizando NPU, GPU y CPU.…