Descripción
ComputeArena es una plataforma dedicada a proporcionar benchmarks de IA locales a través de contribuciones de la comunidad. Alberga 694 benchmarks en 36 modelos y 17 chips, contribuidos por 8 miembros de la comunidad. La plataforma permite a los usuarios decodificar y prellenar tokens por segundo según el modelo, la cuantización y el chip, medidos con BaseRT o llama.cpp.
Leer más
Los benchmarks son enviados por la comunidad y se basan en informes firmados producidos en hardware comunitario. Los usuarios pueden explorar los resultados por modelo, cuantización y chip, facilitando la comparación del rendimiento entre diferentes configuraciones. La plataforma es compatible con macOS y Linux, requiriendo curl, tar y Python 3 para la instalación. Los usuarios pueden instalar la CLI de ComputeArena y elegir entre BaseRT o llama.cpp como su entorno de ejecución.
ComputeArena opera sin conexión, lo que significa que no se requiere una cuenta para ejecutar benchmarks. Los informes firmados permanecen en la máquina del usuario hasta que decidan enviarlos. Cuando estén listos, los usuarios pueden iniciar sesión, revisar sus informes guardados y enviar los benchmarks que deseen compartir públicamente.
La plataforma proporciona clasificaciones destacadas que comparan cargas de trabajo de prellenado PP512 y decodificación TG128 compatibles, con la carga de trabajo medida mostrada junto a cada resultado. Esta característica permite a los usuarios obtener información sobre el rendimiento de diferentes modelos de IA y configuraciones, ayudando en la selección de la mejor configuración para sus necesidades.
- CategoríaAprendizaje automático y ciencia de datos
- Modelo de preciosGratis
- ImplementaciónAutoalojado
- PlataformasmacOS, Linux
Características principales de ComputeArena
Benchmarks enviados por la comunidad
Compatible con macOS y Linux
No se requiere cuenta para uso sin conexión
Informes firmados para autenticidad
Comparación por modelo, cuantización y chip
Utiliza entornos de ejecución BaseRT o llama.cpp
Menú de instalación interactivo
Clasificaciones destacadas para comparación de rendimiento
¿Cómo usar ComputeArena?
Instalar: Obtén la CLI de ComputeArena para macOS o Linux
Elegir entorno de ejecución: Selecciona BaseRT o llama.cpp
Ejecutar sin conexión: Ejecuta benchmarks sin una cuenta
Enviar: Inicia sesión y envía benchmarks cuando estés listo
Casos de uso de ComputeArena
- Comparación de Rendimiento de Modelos
- Benchmarking Comunitario
- Benchmarking Sin Conexión
- Análisis de Cuantización
- Evaluación del Rendimiento del Chip
