Juice Labs

Cette architecture est particulièrement bénéfique pour les opérateurs télécoms et les FAI cherchant à exploiter l'edge et à réduire leur délai de mise sur le marché. Elle permet un déploiement rapide de serveurs GPU sans nécessiter de systèmes, d'outils ou d'infrastructure supplémentaires. Les points de présence (PoP) existants peuvent être augmentés de GPU, dédiant espace et énergie à des actifs de grande valeur. L'avantage principal réside dans la maximisation de l'utilisation des GPU grâce au partage fractionné, conduisant à un retour sur investissement (ROI) plus solide pour chaque carte déployée. De plus, Juice Labs garantit la souveraineté des données, car les données clients ne résident jamais sur les systèmes du fournisseur, maintenant la gravité des données et la conformité sous le contrôle de l'utilisateur.

Juice Labs offre un avantage distinct par rapport aux infrastructures traditionnelles comme la VDI, le traitement par lots et les partitions matérielles. Sa complexité d'installation est faible, ne nécessitant qu'une installation client, contrairement à la complexité élevée de la VDI ou de K8s. Le regroupement de ressources est dynamique et granulaire, contrastant avec le partitionnement statique de MIG ou vGPU. La localité des données est maintenue sur les disques locaux, et la solution est indépendante du matériel, prenant en charge n'importe quel GPU NVIDIA, y compris les cartes RTX grand public. Un support complet de Windows est fourni, permettant un vaste écosystème de logiciels créatifs et d'ingénierie.

La plateforme facilite l'allocation dynamique de VRAM et de calcul, permettant une véritable sursouscription et une utilisation plus élevée par rapport au partitionnement statique. Elle prend en charge simultanément les charges de travail graphiques lourdes (DirectX/Vulkan) et le calcul ML (CUDA), une capacité souvent limitée dans d'autres solutions. Juice Labs s'intègre également de manière transparente avec les environnements HPC tels que SLURM, permettant aux nœuds CPU d'accéder à la puissance GPU à la demande sur le réseau. Les données restent accessibles depuis leur emplacement d'origine sur le nœud CPU, et les parcs de CPU existants peuvent être utilisés pour des charges de travail accélérées par GPU, maximisant le ROI des CPU et augmentant le débit en permettant l'exécution parallèle des tâches.

Juice Labs offre une liberté multiplateforme, agissant comme une couche de traduction universelle qui permet aux applications d'accéder au meilleur calcul disponible, quelle que soit la plateforme sous-jacente. Cela inclut l'exécution de logiciels exclusifs à Windows sur des GPU cloud Linux et la connexion d'appareils edge basés sur ARM à des GPU de centres de données x86. Pour les hyperscalers, elle offre des capacités d'arbitrage multi-cloud, leur permettant d'échapper aux pénuries et aux problèmes de prix des GPU en s'étendant vers des néo-clouds rentables tout en conservant leurs données et leur plan de contrôle dans leur fournisseur cloud préféré. La gravité des données est résolue en diffusant les données vers l'hôte GPU uniquement pour le traitement en transit, évitant ainsi les risques de gouvernance. La disponibilité instantanée de GPU haut de gamme auprès de fournisseurs tels que CoreWeave, Nebius ou Lambda est également un avantage clé, sans aucun refactoring requis.