Descrição
ComputeArena é uma plataforma dedicada a fornecer benchmarks de IA locais por meio de contribuições da comunidade. Ela hospeda 694 benchmarks em 36 modelos e 17 chips, contribuídos por 8 membros da comunidade. A plataforma permite que os usuários decodifiquem e preencham tokens por segundo por modelo, quantização e chip, medidos com BaseRT ou llama.cpp.
Ler mais
Os benchmarks são submetidos pela comunidade e são baseados em relatórios assinados produzidos em hardware da comunidade. Os usuários podem navegar pelos resultados por modelo, quantização e chip, facilitando a comparação de desempenho entre diferentes configurações. A plataforma suporta macOS e Linux, exigindo curl, tar e Python 3 para instalação. Os usuários podem instalar o CLI do ComputeArena e escolher entre BaseRT ou llama.cpp como seu tempo de execução.
ComputeArena opera offline, o que significa que nenhuma conta é necessária para executar benchmarks. Relatórios assinados permanecem na máquina do usuário até que ele decida submetê-los. Quando estiverem prontos, os usuários podem fazer login, revisar seus relatórios salvos e submeter os benchmarks que desejam compartilhar publicamente.
A plataforma fornece rankings principais que comparam cargas de trabalho compatíveis de pré-preenchimento PP512 e decodificação TG128, com a carga de trabalho medida exibida ao lado de cada resultado. Esse recurso permite que os usuários obtenham insights sobre o desempenho de diferentes modelos de IA e configurações, ajudando na seleção da melhor configuração para suas necessidades.
- CategoriaMachine learning e ciência de dados
- Modelo de preçosGrátis
- ImplantaçãoAuto-hospedado
- PlataformasmacOS, Linux
Recursos principais de ComputeArena
Benchmarks submetidos pela comunidade
Suporta macOS e Linux
Nenhuma conta necessária para uso offline
Relatórios assinados para autenticidade
Comparação por modelo, quantização e chip
Usa tempos de execução BaseRT ou llama.cpp
Menu de instalação interativo
Rankings principais para comparação de desempenho
Como usar ComputeArena?
Instalar: Obtenha o CLI do ComputeArena para macOS ou Linux
Escolher Tempo de Execução: Selecione BaseRT ou llama.cpp
Executar Offline: Execute benchmarks sem uma conta
Submeter: Faça login e submeta benchmarks quando estiver pronto
Casos de uso de ComputeArena
- Comparação de Desempenho de Modelos
- Benchmarking Comunitário
- Benchmarking Offline
- Análise de Quantização
- Avaliação de Desempenho de Chips
