Beschreibung
ComputeArena ist eine Plattform, die sich der Bereitstellung lokaler KI-Benchmarks durch Beiträge der Community widmet. Sie hostet 694 Benchmarks über 36 Modelle und 17 Chips, die von 8 Community-Mitgliedern beigetragen wurden. Die Plattform ermöglicht es Benutzern, Tokens pro Sekunde nach Modell, Quantisierung und Chip zu dekodieren und vorauszufüllen, gemessen mit BaseRT oder llama.cpp.
Weiterlesen
Die Benchmarks werden von der Community eingereicht und basieren auf signierten Berichten, die auf Community-Hardware erstellt wurden. Benutzer können Ergebnisse nach Modell, Quantisierung und Chip durchsuchen, was den Vergleich der Leistung über verschiedene Konfigurationen erleichtert. Die Plattform unterstützt macOS und Linux und erfordert curl, tar und Python 3 für die Installation. Benutzer können die ComputeArena-CLI installieren und zwischen BaseRT oder llama.cpp als Laufzeit wählen.
ComputeArena funktioniert offline, was bedeutet, dass kein Konto erforderlich ist, um Benchmarks auszuführen. Signierte Berichte bleiben auf dem Gerät des Benutzers, bis sie sich entscheiden, sie einzureichen. Wenn sie bereit sind, können Benutzer sich anmelden, ihre gespeicherten Berichte überprüfen und die Benchmarks einreichen, die sie öffentlich teilen möchten.
Die Plattform bietet Haupt-Rankings, die kompatible PP512-Vorausfüll- und TG128-Dekodierungs-Workloads vergleichen, wobei die gemessene Arbeitslast neben jedem Ergebnis angezeigt wird. Diese Funktion ermöglicht es Benutzern, Einblicke in die Leistung verschiedener KI-Modelle und Konfigurationen zu gewinnen, was bei der Auswahl der besten Einrichtung für ihre Bedürfnisse hilft.
- KategorieMachine Learning & Data Science
- PreismodellKostenlos
- BereitstellungSelbst gehostet
- PlattformenmacOS, Linux
ComputeArena's Kernfunktionen
Von der Community eingereichte Benchmarks
Unterstützt macOS und Linux
Kein Konto für die Offline-Nutzung erforderlich
Signierte Berichte für Authentizität
Vergleich nach Modell, Quantisierung und Chip
Verwendet BaseRT oder llama.cpp-Laufzeiten
Interaktives Installationsmenü
Haupt-Rankings zum Leistungsvergleich
Wie verwendet man ComputeArena?
Installieren: Holen Sie sich die ComputeArena-CLI für macOS oder Linux
Laufzeit wählen: Wählen Sie BaseRT oder llama.cpp
Offline ausführen: Führen Sie Benchmarks ohne ein Konto aus
Einreichen: Melden Sie sich an und reichen Sie Benchmarks ein, wenn Sie bereit sind
ComputeArena's Anwendungsfälle
- Modellleistungsvergleich
- Community-Benchmarking
- Offline-Benchmarking
- Quantisierungsanalyse
- Chip-Leistungsbewertung
