Beschreibung
CanIRun.ai ist ein kostenloses Web-Tool, das Ihnen hilft, herauszufinden, welche offenen KI-Modelle Ihre Hardware lokal ausführen kann. Es erkennt Ihre GPU oder Mac und vergleicht Ihren VRAM oder den einheitlichen Speicher mit einer Hardware-Datenbank, bewertet dann jedes offene Modell hinsichtlich geschätzter Geschwindigkeit, Speicherplatz und Qualität und sortiert sie in Modelle, die bequem passen, enge Passformen und solche, die zu schwer sind.
Weiterlesen
Das Tool umfasst offene LLMs, Codierungsmodelle, Denkmodelle sowie lokale Bild- und Video-Generierungsmodelle. Es liest GPU-, RAM- und CPU-Hinweise aus dem Browser oder Sie können die Erkennung überspringen und eine Geräte-Seite für eine bestimmte GPU, einen Apple-Chip, ein Telefon oder einen Raspberry Pi öffnen. Es ist keine Anmeldung oder Registrierung erforderlich.
CanIRun.ai konzentriert sich auf die offenen Modelle, die Sie herunterladen und selbst ausführen können, und bietet Anleitungen zu VRAM-Anforderungen, Quantisierung und wie Sie ein empfohlenes Modell tatsächlich mit Tools wie runai, Ollama oder LM Studio ausführen können. Es betont lokale, private Inferenz, bei der Eingabeaufforderungen Ihr Gerät niemals verlassen.
- KategorieMachine Learning & Data Science
- PreismodellKostenlos
- BereitstellungCloud
- PlattformenWeb
CanIRun.ai's Kernfunktionen
Automatische Erkennung von GPU- und Mac-Hardware im Browser
Abgleich Ihres VRAM oder einheitlichen Speichers mit einer Modellsammlung
Bewertung von Modellen nach Passform, Geschwindigkeit, Speicherplatz und Qualität
Abdeckung von LLMs, Codierungs-, Bild- und Videomodellen
Geräte-Seiten für spezifische GPUs, Apple-Chips, Telefone und Raspberry Pi
Anleitungen zu VRAM-Anforderungen und Quantisierung
Ausführungsanweisungen über runai, Ollama oder LM Studio
Keine Anmeldung oder Registrierung erforderlich
Wie verwendet man CanIRun.ai?
Öffnen Sie die Seite: Besuchen Sie CanIRun.ai in Ihrem Browser.
Hardware erkennen: Lassen Sie das Tool Ihre GPU, RAM und CPU lesen oder wählen Sie ein bestimmtes Gerät aus.
Übereinstimmungen überprüfen: Sehen Sie, welche offenen Modelle bequem passen, eng sind oder zu schwer sind.
Wählen Sie ein Modell: Erkunden Sie LLM-, Codierungs-, Bild- oder Videomodelle, die zu Ihrer Maschine passen.
Führen Sie es aus: Kopieren Sie den runai-Befehl oder verwenden Sie Ollama oder LM Studio mit denselben Gewichten.
CanIRun.ai's Anwendungsfälle
- Überprüfung der Hardware-Kompatibilität
- Entdeckung lokaler LLMs
- Lokale Bild- und Video-Generierung
- Geräteplanung
