Zum Hauptinhalt springen
ToolPotion
KI-Berater
Einreichen
Illustration: Die besten KI-GitHub-Repos für MLOps & Modell-Deployment – ToolPotion.ai

Die besten KI-GitHub-Repos für MLOps & Modell-Deployment

40 Tools

Entdecken Sie die besten KI-GitHub-Repos — von persönlichen KI-Assistenten und Plattformen zur Workflow-Automatisierung bis hin zu maschinellen Lernframeworks, Open-Source-Coding-Agenten und Werkzeugen zur Modelldefinition, hier finden Entwickler Ressourcen, die ihre täglichen Aufgaben erleichtern: intelligente Assistenten bauen, Workflows automatisieren, maschinelle Lernmodelle entwickeln und die Zusammenarbeit am Quellcode verwalten. Durchstöbern Sie 40 KI-GitHub-Repos aus KI-Agenten-Builder, KI-Modelle & LLMs, KI-Programmierassistenten, Machine-Learning-Plattformen und Computer-Vision-Tools und mehr.

KI-GitHub-Repos

Open-Source-Tool zum Ausführen großer Sprachmodelle auf Ihrem eigenen Computer. Es ermöglicht Entwicklern, Modelle wie Llama, Gemma, Qwen und DeepSeek mit einem…Ollama ist ein Open-Source-Tool zum Ausführen großer Sprachmodelle auf Ihrem eigenen Computer. Es ermöglicht Entwicklern, Modelle wie Llama, Gemma, Qwen und DeepSeek mit einem…

EmpfohlenMLOps & Modell-Deployment
Platz 10 in KI-GitHub-Repos

KI-GitHub-Repos

Open-Source-AI-Engineering-Plattform, die LLM-Bewertungen, Observabilität, Metriken, Prompt-Management und mehr bietet. Sie integriert sich mit OpenTelemetry,…Langfuse ist eine Open-Source-AI-Engineering-Plattform, die LLM-Bewertungen, Observabilität, Metriken, Prompt-Management und mehr bietet. Sie integriert sich mit OpenTelemetry,…

MLOps & Modell-Deployment
Platz 19 in KI-GitHub-Repos

KI-GitHub-Repos

Hochdurchsatz- und speichereffiziente Inferenz- und Servier-Engine, die für große Sprachmodelle (LLMs) entwickelt wurde. Sie optimiert die Leistung bei…vllm-project/vllm ist eine hochdurchsatz- und speichereffiziente Inferenz- und Servier-Engine, die für große Sprachmodelle (LLMs) entwickelt wurde. Sie optimiert die Leistung bei…

EmpfohlenMLOps & Modell-Deployment
Platz 23 in KI-GitHub-Repos

KI-GitHub-Repos

Lokale Benutzeroberfläche, die entwickelt wurde, um große Sprachmodelle (LLMs) und Diffusionsmodelle auszuführen und zu trainieren. Sie unterstützt…unslothai/unsloth ist eine lokale Benutzeroberfläche, die entwickelt wurde, um große Sprachmodelle (LLMs) und Diffusionsmodelle auszuführen und zu trainieren. Sie unterstützt…

EmpfohlenMLOps & Modell-Deployment
Platz 39 in KI-GitHub-Repos

KI-GitHub-Repos

Hochleistungs-Serving-Framework, das für große Sprachmodelle und multimodale Modelle entwickelt wurde. Es bietet effiziente Serving-Funktionen, die die Leistung von…SGLang ist ein Hochleistungs-Serving-Framework, das für große Sprachmodelle und multimodale Modelle entwickelt wurde. Es bietet effiziente Serving-Funktionen, die die Leistung von…

EmpfohlenMLOps & Modell-Deployment
Platz 53 in KI-GitHub-Repos

KI-GitHub-Repos

Visualisierer für neuronale Netzwerke, Deep Learning und Machine Learning Modelle. Es bietet eine intuitive Benutzeroberfläche, um Modellarchitekturen und…Netron ist ein Visualisierer für neuronale Netzwerke, Deep Learning und Machine Learning Modelle. Es bietet eine intuitive Benutzeroberfläche, um Modellarchitekturen und…

MLOps & Modell-Deployment
Platz 69 in KI-GitHub-Repos

KI-GitHub-Repos

Toolkit, das für die Komprimierung, Bereitstellung und den Betrieb großer Sprachmodelle (LLMs) entwickelt wurde. Es bietet Entwicklern die notwendigen Werkzeuge,…LMDeploy ist ein Toolkit, das für die Komprimierung, Bereitstellung und den Betrieb großer Sprachmodelle (LLMs) entwickelt wurde. Es bietet Entwicklern die notwendigen Werkzeuge,…

MLOps & Modell-Deployment
Platz 72 in KI-GitHub-Repos

KI-GitHub-Repos

Open-Source-Rahmenwerk, das zur Bewertung großer Sprachmodelle (LLMs) entwickelt wurde. Es ermöglicht Entwicklern, zur Verbesserung des Bewertungsprozesses…DeepEval ist ein Open-Source-Rahmenwerk, das zur Bewertung großer Sprachmodelle (LLMs) entwickelt wurde. Es ermöglicht Entwicklern, zur Verbesserung des Bewertungsprozesses…

MLOps & Modell-Deployment
Platz 80 in KI-GitHub-Repos

KI-GitHub-Repos

Einheitliches Framework, das für den Aufbau von Unternehmens-RAG-Pipelines mit kleinen, spezialisierten Modellen entwickelt wurde. Es vereinfacht die Integration…llmware ist ein einheitliches Framework, das für den Aufbau von Unternehmens-RAG-Pipelines mit kleinen, spezialisierten Modellen entwickelt wurde. Es vereinfacht die Integration…

MLOps & Modell-Deployment
Platz 81 in KI-GitHub-Repos

KI-GitHub-Repos

Arize Phoenix ist ein Tool zur Beobachtbarkeit und Bewertung von KI, das Entwicklern hilft, KI-Modelle zu überwachen und zu bewerten. Es bietet Einblicke in die Modellleistung und…

MLOps & Modell-Deployment
Platz 85 in KI-GitHub-Repos

KI-GitHub-Repos

Open-Source-Feature-Store, der für KI- und Machine-Learning-Anwendungen entwickelt wurde. Er ermöglicht es Datenwissenschaftlern, Features für Modelle in der…Feast ist ein Open-Source-Feature-Store, der für KI- und Machine-Learning-Anwendungen entwickelt wurde. Er ermöglicht es Datenwissenschaftlern, Features für Modelle in der…

MLOps & Modell-Deployment
Platz 89 in KI-GitHub-Repos

KI-GitHub-Repos

Open-Source-Plattform, die entwickelt wurde, um die Bereitstellung von KI-Modellen und -Anwendungen zu vereinfachen. Sie ermöglicht Entwicklern,…BentoML ist eine Open-Source-Plattform, die entwickelt wurde, um die Bereitstellung von KI-Modellen und -Anwendungen zu vereinfachen. Sie ermöglicht Entwicklern,…

MLOps & Modell-Deployment
Platz 93 in KI-GitHub-Repos

KI-GitHub-Repos

Python-Bibliothek, die sich auf post-deployment Datenwissenschaft konzentriert. Sie hilft Datenwissenschaftlern, die Modellleistung nach der Bereitstellung zu…NannyML ist eine Python-Bibliothek, die sich auf post-deployment Datenwissenschaft konzentriert. Sie hilft Datenwissenschaftlern, die Modellleistung nach der Bereitstellung zu…

MLOps & Modell-DeploymentGesundheitswesen & Life Sciences
Platz 106 in KI-GitHub-Repos

KI-GitHub-Repos

Tool, das entwickelt wurde, um die Verteilung und Ausführung von großen Sprachmodellen (LLMs) mit einer einzigen Datei zu vereinfachen. Es erleichtert die…Llamafile ist ein Tool, das entwickelt wurde, um die Verteilung und Ausführung von großen Sprachmodellen (LLMs) mit einer einzigen Datei zu vereinfachen. Es erleichtert die…

MLOps & Modell-Deployment
Platz 135 in KI-GitHub-Repos

KI-GitHub-Repos

Diese Woche

Leistungsstarkes Bereitstellungsframework, das für Audiomodelle wie TTS und ASR sowie für einheitliche multimodale Modelle entwickelt wurde. Es bietet…SGLang-Omni ist ein leistungsstarkes Bereitstellungsframework, das für Audiomodelle wie TTS und ASR sowie für einheitliche multimodale Modelle entwickelt wurde. Es bietet…

MLOps & Modell-Deployment
Platz 155 in KI-GitHub-Repos

KI-GitHub-Repos

GitHub-Projekt, das die Token-Nutzung für Coding-Agenten optimiert, indem es die Sprache von Höhlenmenschen imitiert. Es reduziert den Tokenverbrauch um 65 % und…Caveman ist ein GitHub-Projekt, das die Token-Nutzung für Coding-Agenten optimiert, indem es die Sprache von Höhlenmenschen imitiert. Es reduziert den Tokenverbrauch um 65 % und…

MLOps & Modell-Deployment
Platz 180 in KI-GitHub-Repos

KI-GitHub-Repos

Bietet Beobachtbarkeit und Durchsetzung für KI-Agenten-Harnesse und stellt sicher, dass jeder Lauf erfasst wird und die Zuverlässigkeit zur Laufzeit durch…FailproofAI bietet Beobachtbarkeit und Durchsetzung für KI-Agenten-Harnesse und stellt sicher, dass jeder Lauf erfasst wird und die Zuverlässigkeit zur Laufzeit durch…

MLOps & Modell-Deployment
Platz 182 in KI-GitHub-Repos

KI-GitHub-Repos

Python SDK, das für die Beobachtbarkeit, Überwachung und Bewertung von KI entwickelt wurde. Es bietet Funktionen wie Agenten- und Tool-Tracking, Debugging…RagaAI Catalyst ist ein Python SDK, das für die Beobachtbarkeit, Überwachung und Bewertung von KI entwickelt wurde. Es bietet Funktionen wie Agenten- und Tool-Tracking, Debugging…

MLOps & Modell-Deployment
Platz 201 in KI-GitHub-Repos

KI-GitHub-Repos

Hochgeschwindigkeits-Tool zur Bereitstellung von großen Sprachmodellen, das für die lokale Bereitstellung konzipiert ist. Es ermöglicht eine effiziente und…PowerInfer ist ein Hochgeschwindigkeits-Tool zur Bereitstellung von großen Sprachmodellen, das für die lokale Bereitstellung konzipiert ist. Es ermöglicht eine effiziente und…

MLOps & Modell-Deployment
Platz 202 in KI-GitHub-Repos

KI-GitHub-Repos

GitHub-Projekt, das die Inferenz von 70 Milliarden Parametern mit einer einzigen 4GB GPU ermöglicht. Es wurde entwickelt, um die Leistung großer Sprachmodelle auf…AirLLM ist ein GitHub-Projekt, das die Inferenz von 70 Milliarden Parametern mit einer einzigen 4GB GPU ermöglicht. Es wurde entwickelt, um die Leistung großer Sprachmodelle auf…

MLOps & Modell-Deployment
Platz 234 in KI-GitHub-Repos

KI-GitHub-Repos

Leistungsstarke AI-Pipeline-Engine mit einem C++-Kern. Sie unterstützt über 50 Python-erweiterbare Knoten und ermöglicht den Aufbau, das Debuggen und…Rocketride Server ist eine leistungsstarke AI-Pipeline-Engine mit einem C++-Kern. Sie unterstützt über 50 Python-erweiterbare Knoten und ermöglicht den Aufbau, das Debuggen und…

MLOps & Modell-Deployment
Platz 235 in KI-GitHub-Repos

KI-GitHub-Repos

GPU-Cluster-Manager, der für das Hochleistungs-Serving von KI-Modellen, einschließlich vLLM und SGLang, entwickelt wurde und on-demand SSH-zugängliche…GPUStack ist ein GPU-Cluster-Manager, der für das Hochleistungs-Serving von KI-Modellen, einschließlich vLLM und SGLang, entwickelt wurde und on-demand SSH-zugängliche…

MLOps & Modell-Deployment
Platz 115 in KI-DevOps- & -Cloud-Tools

KI-GitHub-Repos

Inferenz-Engine, die die Bereitstellung von Qwen3.8-Flash-Next auf Consumer-Hardware ermöglicht. Sie unterstützt die Installation mit einem Klick auf Windows und…Strata ist eine Inferenz-Engine, die die Bereitstellung von Qwen3.8-Flash-Next auf Consumer-Hardware ermöglicht. Sie unterstützt die Installation mit einem Klick auf Windows und…

MLOps & Modell-Deployment
Platz 22 in KI-Modelle & LLMs

KI-GitHub-Repos

LLM-Inferenzserver, der für Apple Silicon entwickelt wurde und kontinuierliches Batching sowie SSD-Caching bietet. Er wird direkt aus der macOS-Menüleiste verwaltet…omlx ist ein LLM-Inferenzserver, der für Apple Silicon entwickelt wurde und kontinuierliches Batching sowie SSD-Caching bietet. Er wird direkt aus der macOS-Menüleiste verwaltet…

MLOps & Modell-Deployment
Platz 135 in Coding & Entwicklung

KI-GitHub-Repos

MLOps- und LLMOps-Framework für die Bereitstellung, Verwaltung und Skalierung von KI-Systemen auf Kubernetes. Es ermöglicht die standardisierte Bereitstellung…Seldon Core ist ein MLOps- und LLMOps-Framework für die Bereitstellung, Verwaltung und Skalierung von KI-Systemen auf Kubernetes. Es ermöglicht die standardisierte Bereitstellung…

MLOps & Modell-Deployment
Top 250 KI-GitHub-Repos ansehen

Standardisierte verteilte AI-Inferenzplattform, die für skalierbare, multi-Framework-Bereitstellungen auf Kubernetes entwickelt wurde. Sie unterstützt generative…KServe ist eine standardisierte verteilte AI-Inferenzplattform, die für skalierbare, multi-Framework-Bereitstellungen auf Kubernetes entwickelt wurde. Sie unterstützt generative…

MLOps & Modell-Deployment
Top 250 KI-GitHub-Repos ansehen

KI-GitHub-Repos

Polyaxon TraceML ist eine Engine, die für das Tracking, die Visualisierung, die Erklärbarkeit und die Drift-Erkennung von AI/ML-Daten entwickelt wurde. Sie bietet umfassende…

MLOps & Modell-Deployment
Top 250 KI-GitHub-Repos ansehen

Umfassende Lösung zur Überwachung von KI-Modellen in der Produktion. Es bietet Werkzeuge zur Sicherstellung der Modellleistung und…Radicalbit AI Monitoring ist eine umfassende Lösung zur Überwachung von KI-Modellen in der Produktion. Es bietet Werkzeuge zur Sicherstellung der Modellleistung und…

MLOps & Modell-Deployment
Top 250 KI-GitHub-Repos ansehen

GitHub-Projekt, das für die Evaluierung und Nachverfolgung von Experimenten mit großen Sprachmodellen (LLMs) und KI-Agenten entwickelt wurde. Es bietet Werkzeuge…TruLens ist ein GitHub-Projekt, das für die Evaluierung und Nachverfolgung von Experimenten mit großen Sprachmodellen (LLMs) und KI-Agenten entwickelt wurde. Es bietet Werkzeuge…

MLOps & Modell-Deployment
Top 250 KI-GitHub-Repos ansehen

Open-Source-Datenprotokollierungsbibliothek, die für maschinelles Lernen und Datenpipelines entwickelt wurde. Sie bietet Einblick in die Datenqualität und die…Whylogs ist eine Open-Source-Datenprotokollierungsbibliothek, die für maschinelles Lernen und Datenpipelines entwickelt wurde. Sie bietet Einblick in die Datenqualität und die…

MLOps & Modell-Deployment
Top 250 KI-GitHub-Repos ansehen

KI-GitHub-Repos

Open-Source-Projekt, das darauf abzielt, die Computerbenutzung mit plattformübergreifenden Flotten, Treibern und Benchmarks für Training und Evaluierung zu verbessern.…Cua ist ein Open-Source-Projekt, das darauf abzielt, die Computerbenutzung mit plattformübergreifenden Flotten, Treibern und Benchmarks für Training und Evaluierung zu verbessern.…

MLOps & Modell-Deployment
Top 250 KI-GitHub-Repos ansehen

KI-GitHub-Repos

Universelle LLM-Bereitstellungsengine, die maschinelles Lernen zur Optimierung des Bereitstellungsprozesses nutzt. Sie wurde entwickelt, um die Effizienz und…mlc-llm ist eine universelle LLM-Bereitstellungsengine, die maschinelles Lernen zur Optimierung des Bereitstellungsprozesses nutzt. Sie wurde entwickelt, um die Effizienz und…

MLOps & Modell-Deployment
Top 250 KI-GitHub-Repos ansehen

KI-GitHub-Repos

Leistungsstarke, leichtgewichtige Inferenz-Engine, die von Alibaba entwickelt wurde. Sie ist darauf ausgelegt, LLMs und Edge-AI-Anwendungen auf Geräten zu optimieren…MNN ist eine leistungsstarke, leichtgewichtige Inferenz-Engine, die von Alibaba entwickelt wurde. Sie ist darauf ausgelegt, LLMs und Edge-AI-Anwendungen auf Geräten zu optimieren…

MLOps & Modell-Deployment
Top 250 KI-GitHub-Repos ansehen

KI-GitHub-Repos

GitHub-Repository, das die Verwendung von PEFT oder vollständigem Parameter-Tuning für über 600 große Sprachmodelle (LLMs) und 300 multimodale Sprachmodelle…ms-swift ist ein GitHub-Repository, das die Verwendung von PEFT oder vollständigem Parameter-Tuning für über 600 große Sprachmodelle (LLMs) und 300 multimodale Sprachmodelle…

MLOps & Modell-Deployment
Top 250 KI-GitHub-Repos ansehen

KI-GitHub-Repos

Leistungsstarke Schlüssel-Wert-Cache-Schicht, die entwickelt wurde, um die Effizienz großer Sprachmodelle (LLMs) zu verbessern. Es optimiert die…LMCache ist eine leistungsstarke Schlüssel-Wert-Cache-Schicht, die entwickelt wurde, um die Effizienz großer Sprachmodelle (LLMs) zu verbessern. Es optimiert die…

MLOps & Modell-Deployment
Top 250 KI-GitHub-Repos ansehen

KI-GitHub-Repos

GitHub-Repository, das das Fine-Tuning von großen Sprachmodellen (LLMs) mit einer einzigen YAML-Datei ermöglicht. Es nutzt Layer-Streaming, um ein Modell mit 8…Soup ist ein GitHub-Repository, das das Fine-Tuning von großen Sprachmodellen (LLMs) mit einer einzigen YAML-Datei ermöglicht. Es nutzt Layer-Streaming, um ein Modell mit 8…

MLOps & Modell-Deployment
Top 250 KI-GitHub-Repos ansehen

KI-GitHub-Repos

Ermöglicht die Ausführung von fortschrittlichen LLMs und VLMs lokal auf Qualcomm-Geräten unter Nutzung von NPU, GPU und CPU. Es vereinfacht den Prozess mit minimalem Code…GenieX ermöglicht die Ausführung von fortschrittlichen LLMs und VLMs lokal auf Qualcomm-Geräten unter Nutzung von NPU, GPU und CPU. Es vereinfacht den Prozess mit minimalem Code…

MLOps & Modell-Deployment
Top 250 KI-GitHub-Repos ansehen

KI-GitHub-Repos

Semantischer Cache, der für große Sprachmodelle (LLMs) entwickelt wurde und vollständig in LangChain und llama_index integriert ist. Es optimiert die Leistung von…GPTCache ist ein semantischer Cache, der für große Sprachmodelle (LLMs) entwickelt wurde und vollständig in LangChain und llama_index integriert ist. Es optimiert die Leistung von…

MLOps & Modell-Deployment
Top 250 KI-GitHub-Repos ansehen

KI-GitHub-Repos

Kernelbibliothek, die für das Bereitstellen großer Sprachmodelle (LLMs) entwickelt wurde. Sie erleichtert die effiziente Bereitstellung und Verwaltung von LLMs…FlashInfer ist eine Kernelbibliothek, die für das Bereitstellen großer Sprachmodelle (LLMs) entwickelt wurde. Sie erleichtert die effiziente Bereitstellung und Verwaltung von LLMs…

MLOps & Modell-Deployment
Top 250 KI-GitHub-Repos ansehen

KI-GitHub-Repos

Desktop-Anwendung, die entwickelt wurde, um die Nutzung von KI-Coding-Tools zu optimieren. Sie bietet Entwicklern eine integrierte Umgebung zur effizienten…AI Manager ist eine Desktop-Anwendung, die entwickelt wurde, um die Nutzung von KI-Coding-Tools zu optimieren. Sie bietet Entwicklern eine integrierte Umgebung zur effizienten…

MLOps & Modell-Deployment
Top 250 KI-GitHub-Repos ansehen

24 von 40

Kennen Sie ein Highlight, das in KI-GitHub-Repos gehört?

ToolPotion ist das Verzeichnis für KI-Tools, das Menschen durchsuchen, um die besten KI-GitHub-Repos zu finden. Die Auflistung ist kostenlos und jede Einreichung wird von Redakteuren geprüft – platzieren Sie Ihr Tool dort, wo die Suche beginnt.

Ein GitHub-Repo einreichen