Zum Hauptinhalt springen
ToolPotion
KI-Berater
Einreichen

Kann ich KI lokal ausführen?

Kann ich KI lokal ausführen? ist ein kostenloses, browserbasiertes Tool, das überprüft, welche lokalen LLMs Ihr PC, GPU oder Mac ausführen kann. Es schätzt VRAM, Speicher, Quantisierung, Kontext und Geschwindigkeit ohne Installation oder Kontoerstellung.

URL besuchen
Teilen
Screenshot von Kann ich KI lokal ausführen?
Screenshot von Kann ich KI lokal ausführen?

Kann ich KI lokal ausführen? ist ein kostenloses Online-Tool, das Benutzern hilft, herauszufinden, welche lokalen großen Sprachmodelle (LLMs) ihre Hardware unterstützen kann. Mit diesem browserbasierten Kompatibilitätsprüfer können Benutzer ihre GPU, Mac oder CPU auswählen oder erkennen und eine Schätzung erhalten, welche offenen Gewichtsmodelle in den Speicher passen. Das Tool bietet Einblicke, wie viel VRAM oder einheitlicher Speicher jedes Modell bei einer bestimmten Quantisierung und Kontextlänge benötigt, sowie eine geschätzte Geschwindigkeit in Tokens pro Sekunde.

Weiterlesen

Das Tool ist besonders nützlich für diejenigen, die KI-Modelle lokal ausführen möchten, ohne Software installieren oder ein Konto erstellen zu müssen. Es funktioniert vollständig im Browser, sodass die Rohdaten der GPU privat bleiben und nicht hochgeladen werden. Benutzer können Anforderungen wie VRAM, Speicher, Quantisierung und Kontextlänge mit ihren Hardwarefähigkeiten vergleichen, um informierte Entscheidungen darüber zu treffen, welche Modelle heruntergeladen und ausgeführt werden sollen.

Kann ich KI lokal ausführen? umfasst einen Katalog von 55 offenen Textgenerierungsmodellen von 12 Herausgebern, einschließlich beliebter Modelle wie Llama, Qwen, Gemma und GPT-OSS. Das Tool bietet ein Passungsurteil und eine Speicherschätzung für jedes Modell sowie erwartete Geschwindigkeitsbereiche und bereit zum Kopieren von Ausführungsbefehlen, wo verfügbar. Der Katalog wird regelmäßig aktualisiert, um neue Modelle einzuschließen und bestehende Einträge mit offiziellen Modellkarten erneut zu überprüfen.

Das Tool bietet auch detaillierte Erklärungen zu Quantisierungsoptionen wie Q4, Q5, Q8, BF16, FP8 und NVFP4, um Benutzern zu helfen, die Speichertrade-offs und die hardware-spezifische Präzisionsunterstützung zu verstehen. Es ist als Planungstool konzipiert, das Schätzungen anstelle von genauen Messungen bereitstellt, und ermutigt die Benutzer, enge Passungen zu testen, bevor sie sich auf sie für kritische Aufgaben verlassen.

  • KategorieMachine-Learning-Plattformen
  • PreismodellKostenlos
  • BereitstellungBrowserbasiert
  • PlattformenWeb

  • Browserbasierter Kompatibilitätsprüfer

  • Schätzt VRAM- und Speicheranforderungen

  • Unterstützt GPU-, Mac- und CPU-Erkennung

  • Bietet Quantisierungs- und Kontextlängenoptionen

  • Bietet geschätzte Geschwindigkeit in Tokens pro Sekunde

  • Keine Installation oder Konto erforderlich

  • Katalog von 55 offenen Modellen

  • Bereit zum Kopieren von Ausführungsbefehlen

  1. Wählen oder erkennen Sie Ihre Hardware: Wählen Sie Ihre GPU, Mac oder CPU.

  2. Stellen Sie Quantisierung und Kontext ein: Passen Sie diese Einstellungen für Ihr Modell an.

  3. Überprüfen Sie Passung und Speicherschätzungen: Überprüfen Sie, welche Modelle zu Ihrer Hardware passen.

  4. Kopieren Sie Ausführungsbefehle: Verwenden Sie die bereitgestellten Befehle, um Modelle lokal auszuführen.

  • Modellkompatibilitätsprüfung
  • VRAM- und Speicherschätzung
  • Quantisierungsanalyse
  • Geschwindigkeitsschätzung
  • Lokale Ausführung von KI-Modellen

Kann ich KI lokal ausführen? Bewertungen

Wird geladen...

Beliebte KI-Tools wie Kann ich KI lokal ausführen?

CanIRun.ai

KI-Apps

Ein kostenloses Tool, das Ihre GPU oder Mac erkennt und zeigt, welche offenen KI-Modelle, einschließlich LLMs, Codierungs-, Bild- und Videomodelle, Sie lokal ausführen können, mit…

Machine Learning & Data Science

Platz 47 in Machine Learning & Data Science

Tool ansehen

KI-Apps

Ein kostenloses Tool, das Ihre GPU oder Mac erkennt und zeigt, welche offenen KI-Modelle, einschließlich LLMs, Codierungs-, Bild- und Videomodelle, Sie lokal ausführen können, mit…

Machine Learning & Data Science
Platz 47 in Machine Learning & Data Science

Der Local AI Playground ist eine kostenlose, quelloffene native App zum Ausführen von KI-Modellen offline und privat. Sie vereinfacht die KI-Inferenz mit einem Rust-Backend, das…

Machine-Learning-Plattformen
Tool ansehen

Der Local AI Playground ist eine kostenlose, quelloffene native App zum Ausführen von KI-Modellen offline und privat. Sie vereinfacht die KI-Inferenz mit einem Rust-Backend, das…

Machine-Learning-Plattformen
Top 250 KI-Apps ansehen

llmspeed

KI-Apps

llmspeed ermöglicht es Benutzern, die Geschwindigkeit lokaler LLMs vor dem Kauf zu simulieren. Durch die Auswahl von Hardware und Modellen können Benutzer Leistungskennzahlen in…

MLOps & Modell-Deployment

Platz 183 in MLOps & Modell-Deployment

Tool ansehen

KI-Apps

Ermöglicht es Benutzern, die Geschwindigkeit lokaler LLMs vor dem Kauf zu simulieren. Durch die Auswahl von Hardware und Modellen können Benutzer Leistungskennzahlen in…llmspeed ermöglicht es Benutzern, die Geschwindigkeit lokaler LLMs vor dem Kauf zu simulieren. Durch die Auswahl von Hardware und Modellen können Benutzer Leistungskennzahlen in…

MLOps & Modell-Deployment
Platz 183 in MLOps & Modell-Deployment

LocalAI

KI-GitHub-Repos

LocalAI ist eine Open-Source-KI-Engine, die es Benutzern ermöglicht, verschiedene Modelle, einschließlich LLMs, Vision, Sprache, Bild und Video, auf jeder Hardware ohne GPU…

Machine-Learning-Plattformen

Platz 52 in KI-GitHub-Repos

Tool ansehen

KI-GitHub-Repos

Open-Source-KI-Engine, die es Benutzern ermöglicht, verschiedene Modelle, einschließlich LLMs, Vision, Sprache, Bild und Video, auf jeder Hardware ohne GPU…LocalAI ist eine Open-Source-KI-Engine, die es Benutzern ermöglicht, verschiedene Modelle, einschließlich LLMs, Vision, Sprache, Bild und Video, auf jeder Hardware ohne GPU…

EmpfohlenMachine-Learning-Plattformen
Platz 52 in KI-GitHub-Repos

LocalAI

KI-Apps

LocalAI ist eine Open-Source-Laufzeit, lizenziert unter MIT, die KI-Modelle auf Hardware ausführt, die Sie besitzen, anstatt über eine Cloud-API. Eine Binärdatei bietet eine API,…

Machine-Learning-Plattformen

Platz 26 für CTOs

Tool ansehen

KI-Apps

Open-Source-Laufzeit, lizenziert unter MIT, die KI-Modelle auf Hardware ausführt, die Sie besitzen, anstatt über eine Cloud-API. Eine Binärdatei bietet eine API,…LocalAI ist eine Open-Source-Laufzeit, lizenziert unter MIT, die KI-Modelle auf Hardware ausführt, die Sie besitzen, anstatt über eine Cloud-API. Eine Binärdatei bietet eine API,…

Machine-Learning-Plattformen
Platz 26 für CTOs

vLLM

KI-Apps

vLLM ist eine leistungsstarke und speichereffiziente Inferenz- und Bereitstellungs-Engine für große Sprachmodelle (LLMs). Es ermöglicht eine schnellere Bereitstellung von…

MLOps & Modell-Deployment
Tool ansehen

KI-Apps

Leistungsstarke und speichereffiziente Inferenz- und Bereitstellungs-Engine für große Sprachmodelle (LLMs). Es ermöglicht eine schnellere Bereitstellung von…vLLM ist eine leistungsstarke und speichereffiziente Inferenz- und Bereitstellungs-Engine für große Sprachmodelle (LLMs). Es ermöglicht eine schnellere Bereitstellung von…

MLOps & Modell-Deployment
Top 250 KI-Apps ansehen

GPUs mieten | Vast.ai

KI-Plattformen

Vast.ai bietet leistungsstarke Cloud-GPUs zur Miete zu niedrigen Kosten an. Ideal für KI, maschinelles Lernen, tiefes Lernen und Rendering, bietet es flexible Preisgestaltung,…

Machine-Learning-Plattformen
Tool ansehen

KI-Plattformen

Vast.ai bietet leistungsstarke Cloud-GPUs zur Miete zu niedrigen Kosten an. Ideal für KI, maschinelles Lernen, tiefes Lernen und Rendering, bietet es flexible Preisgestaltung,…

EmpfohlenMachine-Learning-Plattformen
Top 150 KI-Plattformen ansehen

Eine kostenlose Online-Demo des Open-Source DeepSeek V3 Modells (671B Parameter), das in Ihrem Browser ohne Registrierung läuft, sowie Links, um das Modell lokal für persönliche…

KI-Modelle & LLMs
Tool ansehen

Eine kostenlose Online-Demo des Open-Source DeepSeek V3 Modells (671B Parameter), das in Ihrem Browser ohne Registrierung läuft, sowie Links, um das Modell lokal für persönliche…

KI-Modelle & LLMs
Top 250 KI-Apps ansehen
1 von 8