Project Maya

LocalAI

Repositórios de IA no GitHub

#44

Motor de IA de código aberto que permite aos usuários executar vários modelos, incluindo LLMs, visão, voz, imagem e vídeo, em qualquer hardware sem exigir uma GPU.…LocalAI é um motor de IA de código aberto que permite aos usuários executar vários modelos, incluindo LLMs, visão, voz, imagem e vídeo, em qualquer hardware sem exigir uma GPU.…

GPUStack

Repositórios de IA no GitHub

#115

Gerenciador de clusters de GPU projetado para servir modelos de IA de alto desempenho, incluindo vLLM e SGLang, e fornece instâncias de GPU acessíveis via SSH sob…GPUStack é um gerenciador de clusters de GPU projetado para servir modelos de IA de alto desempenho, incluindo vLLM e SGLang, e fornece instâncias de GPU acessíveis via SSH sob…

Shimmy

Repositórios de IA no GitHub

Motor de inferência WebGPU desenvolvido em Rust puro, compatível com a API da OpenAI e nativo do GGUF. Ele funciona em qualquer GPU sem a necessidade de Python ou…Shimmy é um motor de inferência WebGPU desenvolvido em Rust puro, compatível com a API da OpenAI e nativo do GGUF. Ele funciona em qualquer GPU sem a necessidade de Python ou…

openTPU

Repositórios de IA no GitHub

Acelerador de IA de código aberto desenvolvido pela FeSens. Ele combina RTL, ISA, simulador, compilador e profiler em um único repositório, permitindo a execução de…openTPU é um acelerador de IA de código aberto desenvolvido pela FeSens. Ele combina RTL, ISA, simulador, compilador e profiler em um único repositório, permitindo a execução de…

Uma ferramenta gratuita que detecta sua GPU ou Mac e mostra quais modelos de IA abertos, incluindo LLMs, modelos de codificação, imagem e vídeo, você pode executar localmente, com…

AirLLM

Repositórios de IA no GitHub

#234

Projeto do GitHub que possibilita a inferência de 70 bilhões de parâmetros usando uma única GPU de 4GB. Ele é projetado para otimizar o desempenho de modelos de…AirLLM é um projeto do GitHub que possibilita a inferência de 70 bilhões de parâmetros usando uma única GPU de 4GB. Ele é projetado para otimizar o desempenho de modelos de…

TensorRT-LLM

Repositórios de IA no GitHub

#63

Fornece uma API Python para definir Modelos de Linguagem de Grande Escala, otimizando a inferência em GPUs NVIDIA. Inclui componentes para criar ambientes de execução…TensorRT-LLM fornece uma API Python para definir Modelos de Linguagem de Grande Escala, otimizando a inferência em GPUs NVIDIA. Inclui componentes para criar ambientes de execução…

GenieX

Repositórios de IA no GitHub

Permite a execução de LLMs e VLMs de ponta localmente em dispositivos Qualcomm, utilizando NPU, GPU e CPU. Simplifica o processo com código mínimo, oferecendo uma…GenieX permite a execução de LLMs e VLMs de ponta localmente em dispositivos Qualcomm, utilizando NPU, GPU e CPU. Simplifica o processo com código mínimo, oferecendo uma…