Juice Labs

Esta arquitectura es particularmente beneficiosa para Telcos y ISPs que buscan desbloquear el borde y lograr un rápido tiempo de comercialización. Permite el despliegue rápido de servidores GPU sin la necesidad de sistemas, herramientas o sobrecarga de infraestructura adicionales. Los Puntos de Presencia (PoP) existentes pueden ser aumentados con GPUs, dedicando espacio y energía a activos de alto valor. La ventaja principal radica en maximizar la utilización de la GPU a través del uso compartido fraccional, lo que conduce a un mayor Retorno de la Inversión (ROI) por cada tarjeta desplegada. Además, Juice Labs garantiza la soberanía de los datos, ya que los datos del cliente nunca residen en los sistemas del proveedor, manteniendo la gravedad de los datos y el cumplimiento bajo el control del usuario.

Juice Labs ofrece una ventaja distintiva sobre la infraestructura tradicional como VDI, procesamiento por lotes y particiones de hardware. Su complejidad de configuración es baja, requiriendo solo la instalación del cliente, a diferencia de la alta complejidad de VDI o K8s. La agrupación de recursos es dinámica y granular, en contraste con el particionamiento estático de MIG o vGPU. La localidad de los datos se mantiene en discos locales, y la solución es independiente del hardware, soportando cualquier GPU NVIDIA, incluidas las tarjetas RTX de consumo. Se proporciona soporte completo para Windows, lo que permite un vasto ecosistema de software creativo y de ingeniería.

La plataforma facilita la asignación dinámica de VRAM y cómputo, permitiendo una verdadera sobresuscripción y una mayor utilización en comparación con el particionamiento estático. Soporta simultáneamente cargas de trabajo gráficas pesadas (DirectX/Vulkan) y cómputo ML (CUDA), una capacidad a menudo limitada en otras soluciones. Juice Labs también se integra perfectamente con entornos HPC como SLURM, permitiendo que los nodos de CPU accedan a la potencia de la GPU bajo demanda a través de la red. Los datos permanecen accesibles desde su ubicación original en el nodo de CPU, y las flotas de CPU existentes pueden utilizarse para cargas de trabajo aceleradas por GPU, maximizando el ROI de la CPU y aumentando el rendimiento al permitir la ejecución paralela de trabajos.

Juice Labs ofrece libertad multiplataforma, actuando como una capa de traducción universal que permite a las aplicaciones acceder al mejor cómputo disponible independientemente de la plataforma subyacente. Esto incluye la ejecución de software exclusivo de Windows en GPUs de nube Linux y la conexión de dispositivos de borde basados en ARM a GPUs de centros de datos x86. Para los hiperescaladores, proporciona capacidades de arbitraje multicloud, permitiéndoles escapar de la escasez y los problemas de precios de las GPUs al expandirse a neoclouds rentables mientras mantienen sus datos y plano de control en su proveedor de nube preferido. La gravedad de los datos se resuelve transmitiendo datos al host de la GPU solo para procesamiento en tránsito, evitando riesgos de gobernanza. La disponibilidad instantánea de GPUs de alta gama de proveedores como CoreWeave, Nebius o Lambda es también un beneficio clave, sin necesidad de refactorización.