Description
ComputeArena est une plateforme dédiée à la fourniture de benchmarks d'IA locaux grâce aux contributions de la communauté. Elle héberge 694 benchmarks répartis sur 36 modèles et 17 puces, contribué par 8 membres de la communauté. La plateforme permet aux utilisateurs de décoder et de préremplir des jetons par seconde selon le modèle, la quantification et la puce, mesurés avec BaseRT ou llama.cpp.
Lire la suite
Les benchmarks sont soumis par la communauté et sont basés sur des rapports signés produits sur du matériel communautaire. Les utilisateurs peuvent parcourir les résultats par modèle, quantification et puce, facilitant ainsi la comparaison des performances entre différentes configurations. La plateforme prend en charge macOS et Linux, nécessitant curl, tar et Python 3 pour l'installation. Les utilisateurs peuvent installer le CLI ComputeArena et choisir entre BaseRT ou llama.cpp comme environnement d'exécution.
ComputeArena fonctionne hors ligne, ce qui signifie qu'aucun compte n'est requis pour exécuter des benchmarks. Les rapports signés restent sur la machine de l'utilisateur jusqu'à ce qu'il décide de les soumettre. Lorsqu'ils sont prêts, les utilisateurs peuvent se connecter, examiner leurs rapports enregistrés et soumettre les benchmarks qu'ils souhaitent partager publiquement.
La plateforme fournit des classements principaux qui comparent les charges de travail de préremplissage PP512 compatibles et de décodage TG128, avec la charge de travail mesurée affichée aux côtés de chaque résultat. Cette fonctionnalité permet aux utilisateurs d'obtenir des informations sur les performances de différents modèles d'IA et configurations, aidant ainsi à sélectionner la meilleure configuration pour leurs besoins.
- CatégorieMachine learning et data science
- Modèle tarifaireGratuit
- DéploiementAuto-hébergé
- PlateformesmacOS, Linux
Fonctionnalités principales de ComputeArena
Benchmarks soumis par la communauté
Prend en charge macOS et Linux
Aucun compte requis pour une utilisation hors ligne
Rapports signés pour l'authenticité
Comparaison par modèle, quantification et puce
Utilise les environnements d'exécution BaseRT ou llama.cpp
Menu d'installation interactif
Classements principaux pour la comparaison des performances
Comment utiliser ComputeArena ?
Installer : Obtenez le CLI ComputeArena pour macOS ou Linux
Choisir l'environnement d'exécution : Sélectionnez BaseRT ou llama.cpp
Exécuter hors ligne : Exécutez des benchmarks sans compte
Soumettre : Connectez-vous et soumettez les benchmarks lorsque vous êtes prêt
Cas d'utilisation de ComputeArena
- Comparaison des performances des modèles
- Benchmarking communautaire
- Benchmarking hors ligne
- Analyse de quantification
- Évaluation des performances des puces
