Beschreibung
Ollama ist ein Open-Source-Projekt zum Herunterladen und Ausführen großer Sprachmodelle lokal, das unter einer MIT-Lizenz auf GitHub gepflegt wird. Zum Zeitpunkt dieses Schreibens hat das Repository mehr als 181.000 Sterne und über 18.000 Forks und ist hauptsächlich in Go geschrieben. Anstatt ein gehostetes Chat-Produkt zu sein, ist Ollama eine Laufzeitumgebung: Es lädt die Gewichte eines Modells herunter, stellt sie hinter einer lokalen API bereit und ermöglicht es einer Person oder einem anderen Programm, direkt auf ihrem eigenen Computer mit dem Modell zu interagieren.
Weiterlesen
Um zu beginnen, müssen Sie Ollama auf macOS, Windows oder Linux installieren (entweder über ein Einzeilen-Installationsskript oder einen manuellen Download) oder das offizielle ollama/ollama-Image von Docker Hub abrufen. Von dort aus lädt der Befehl "ollama run" mit einem Modellnamen ein Modell wie Gemma, Llama, Qwen, DeepSeek, GLM, MiniMax, Mistral oder gpt-oss herunter und startet eine Chatsitzung, wobei der aktuelle Modellkatalog unter ollama.com/library aufgeführt ist. Ollama bietet auch eine lokale REST-API zum programmgesteuerten Ausführen und Verwalten von Modellen sowie offizielle Python (ollama-python) und JavaScript (ollama-js) Bibliotheken, damit Entwickler ein laufendes Modell aus ihren eigenen Anwendungen aufrufen können. Das Projekt dokumentiert seine CLI, REST-API und ein Modelfile-Format zur Anpassung, wie Modelle importiert und konfiguriert werden, und unterstützt llama.cpp als eine seiner Backend-Inferenz-Engines.
Über das Ausführen einer einzelnen Chatsitzung hinaus kann Ollama als lokales Modell hinter bestehenden Codierungswerkzeugen und -agenten wie Claude Code, Codex, Copilot CLI, Droid und DeepSeek Harness über den Befehl "ollama launch" gestartet werden, und das Community-Projekt OpenClaw verwendet Ollama, um einen persönlichen KI-Assistenten über Chat-Apps wie WhatsApp, Telegram, Slack und Discord auszuführen. Ein großes Ökosystem von Drittanbieter-Schnittstellen baut auf der API von Ollama auf, einschließlich Web-Chat-UIs wie Open WebUI, LibreChat, big-AGI und NextChat sowie Desktop-Clients wie AnythingLLM, Witsy und Cherry Studio. Ollama hat eine aktive Discord-Community, und sein README lädt Mitwirkende ein, einen Pull-Request zu öffnen, um ihre eigenen Integrationen hinzuzufügen. Da es Modelle auf der Hardware des Benutzers ausführt, hängen die verfügbaren Modelle und Geschwindigkeiten von der lokalen Rechenleistung und dem Speicher ab, nicht von einem Abonnementtier.
- KategorieMLOps & Modell-Deployment
- PreismodellOpen Source
- BereitstellungLäuft lokal
- PlattformenmacOS, Windows, Linux
Ollama's Kernfunktionen
Ein-Befehl-Installer für macOS, Windows, Linux und Docker
Lokale Modellsammlung mit Llama, Gemma, Qwen, DeepSeek, GLM, MiniMax, Mistral und gpt-oss
"ollama run" CLI zum sofortigen Herunterladen und Chatten mit einem Modell
Lokale REST-API zum programmgesteuerten Ausführen und Verwalten von Modellen
Offizielle Python (ollama-python) und JavaScript (ollama-js) Bibliotheken
"ollama launch" Integrationen mit Codierungsagenten wie Claude Code, Codex und Copilot CLI
Modelfile-Format zur Anpassung und zum Importieren von Modellen
Unterstützung für llama.cpp als Backend-Inferenz-Engine
Großes Ökosystem von Drittanbieter-Chat-Schnittstellen und Desktop-Clients, die auf seiner API basieren
Erste Schritte mit Ollama
Ollama installieren: Führen Sie das Installationsskript aus oder laden Sie die App für macOS, Windows oder Linux herunter (oder ziehen Sie das Docker-Image).
Ein Modell abrufen: Führen Sie "ollama run" mit einem Modellnamen aus, zum Beispiel gemma4, um es herunterzuladen und mit ihm zu chatten.
Aus dem Code aufrufen: Verwenden Sie die REST-API oder die ollama-python oder ollama-js Bibliothek, um Chat-Anfragen aus Ihrer eigenen App zu senden.
Eine Integration starten: Führen Sie "ollama launch" mit einem unterstützten Toolnamen aus, um Ollama mit einem Codierungsagenten wie Claude Code oder Copilot CLI zu verbinden.
Weitere Modelle durchsuchen: Überprüfen Sie ollama.com/library für den vollständigen, regelmäßig aktualisierten Modellkatalog.
Ollama's Anwendungsfälle
- Lokaler LLM-Chat
- Backend für Codierungsassistenten
- App-Integration über API
- Persönlicher KI-Assistent
