GenieX

Soup

Dépôts GitHub d'IA

Soupe est un dépôt GitHub qui permet le fine-tuning de grands modèles de langage (LLMs) à l'aide d'un seul fichier YAML. Il utilise le streaming de couches pour entraîner un…

PowerInfer

Dépôts GitHub d'IA

#202

Outil de service de modèle de langage de grande taille à haute vitesse conçu pour un déploiement local. Il permet une inférence efficace et rapide des modèles de…PowerInfer est un outil de service de modèle de langage de grande taille à haute vitesse conçu pour un déploiement local. Il permet une inférence efficace et rapide des modèles de…

ZETIC Melange

Applications IA

#137

Automatise le déploiement d'IA sur appareil pour tout modèle sur tout appareil. Conçu par d'anciens ingénieurs Qualcomm, il optimise l'accélération NPU, effectue des…ZETIC Melange automatise le déploiement d'IA sur appareil pour tout modèle sur tout appareil. Conçu par d'anciens ingénieurs Qualcomm, il optimise l'accélération NPU, effectue des…

vLLM

Dépôts GitHub d'IA

#23

Moteur d'inférence et de service à haut débit et efficace en mémoire, conçu pour les grands modèles de langage (LLMs). Il optimise les performances tout…vllm-project/vllm est un moteur d'inférence et de service à haut débit et efficace en mémoire, conçu pour les grands modèles de langage (LLMs). Il optimise les performances tout…

Ollama

Dépôts GitHub d'IA

#10

Outil open-source pour exécuter des modèles de langage de grande taille sur votre propre ordinateur. Il permet aux développeurs d'installer des modèles comme Llama,…Ollama est un outil open-source pour exécuter des modèles de langage de grande taille sur votre propre ordinateur. Il permet aux développeurs d'installer des modèles comme Llama,…

LocalAI

Dépôts GitHub d'IA

#44

Moteur IA open source qui permet aux utilisateurs d'exécuter divers modèles, y compris des LLM, des modèles de vision, de voix, d'image et de vidéo, sur n'importe…LocalAI est un moteur IA open source qui permet aux utilisateurs d'exécuter divers modèles, y compris des LLM, des modèles de vision, de voix, d'image et de vidéo, sur n'importe…

mlc-llm

Dépôts GitHub d'IA

Moteur de déploiement LLM universel qui utilise la compilation de machine learning pour rationaliser le processus de déploiement. Il est conçu pour améliorer…mlc-llm est un moteur de déploiement LLM universel qui utilise la compilation de machine learning pour rationaliser le processus de déploiement. Il est conçu pour améliorer…

FlashInfer

Dépôts GitHub d'IA

Bibliothèque de noyau conçue pour servir de grands modèles de langage (LLMs). Elle facilite le déploiement et la gestion efficaces des LLMs, permettant aux…FlashInfer est une bibliothèque de noyau conçue pour servir de grands modèles de langage (LLMs). Elle facilite le déploiement et la gestion efficaces des LLMs, permettant aux…