Juice Labs

Diese Architektur ist besonders vorteilhaft für Telcos & ISPs, die das Edge erschließen und eine schnelle Markteinführung erreichen wollen. Sie ermöglicht die schnelle Bereitstellung von GPU-Servern ohne zusätzliche Systeme, Tools oder Infrastrukturaufwand. Bestehende Points of Presence (POPs) können mit GPUs erweitert werden, wobei Platz und Strom für hochwertige Assets reserviert werden. Der Hauptvorteil liegt in der Maximierung der GPU-Auslastung durch fraktionale Freigabe, was zu einem höheren Return on Investment (ROI) für jede eingesetzte Karte führt. Darüber hinaus gewährleistet Juice Labs die Datenhoheit, da Kundendaten niemals auf Systemen des Anbieters ruhen, wodurch Data Gravity und Compliance unter der Kontrolle des Benutzers bleiben.

Juice Labs bietet einen deutlichen Vorteil gegenüber traditionellen Infrastrukturen wie VDI, Batch-Verarbeitung und Hardware-Partitionierung. Die Einrichtungskomplexität ist gering und erfordert nur die Client-Installation, im Gegensatz zur hohen Komplexität von VDI oder K8s. Die Ressourcenbündelung ist dynamisch und granular, im Gegensatz zur statischen Partitionierung von MIG oder vGPU. Die Datenlokalität wird auf lokalen Festplatten beibehalten, und die Lösung ist hardwareunabhängig und unterstützt jede NVIDIA-GPU, einschließlich Consumer-RTX-Karten. Vollständige Windows-Unterstützung wird bereitgestellt und ermöglicht ein breites Ökosystem von Kreativ- und Ingenieursoftware.

Die Plattform ermöglicht die dynamische Zuweisung von VRAM und Rechenleistung, was eine echte Überzeichnung und eine höhere Auslastung im Vergleich zur statischen Partitionierung ermöglicht. Sie unterstützt gleichzeitig sowohl rechenintensive Grafik-Workloads (DirectX/Vulkan) als auch ML-Berechnungen (CUDA), eine Fähigkeit, die bei anderen Lösungen oft eingeschränkt ist. Juice Labs lässt sich auch nahtlos in HPC-Umgebungen wie SLURM integrieren, sodass CPU-Knoten bei Bedarf über das Netzwerk auf GPU-Leistung zugreifen können. Daten bleiben von ihrem ursprünglichen Speicherort auf dem CPU-Knoten zugänglich, und bestehende CPU-Flotten können für GPU-beschleunigte Workloads genutzt werden, wodurch der CPU-ROI maximiert und der Durchsatz durch parallele Jobausführung erhöht wird.

Juice Labs bietet plattformübergreifende Freiheit und fungiert als universelle Übersetzungsschicht, die es Anwendungen ermöglicht, auf die am besten verfügbare Rechenleistung zuzugreifen, unabhängig von der zugrunde liegenden Plattform. Dies beinhaltet die Ausführung von Windows-exklusiver Software auf Linux-Cloud-GPUs und die Verbindung von ARM-basierten Edge-Geräten mit x86-Rechenzentrums-GPUs. Für Hyperscaler bietet es Multi-Cloud-Arbitrage-Fähigkeiten, die es ihnen ermöglichen, GPU-Engpässe und Preisprobleme zu umgehen, indem sie auf kostengünstige Neoclouds ausweichen, während ihre Daten und die Steuerungsebene bei ihrem bevorzugten Cloud-Anbieter bleiben. Data Gravity wird gelöst, indem Daten nur für die Verarbeitung während der Übertragung zum GPU-Host gestreamt werden, wodurch Governance-Risiken vermieden werden. Die sofortige Verfügbarkeit von High-End-GPUs von Anbietern wie CoreWeave, Nebius oder Lambda ist ebenfalls ein wichtiger Vorteil, ohne dass eine Neukonfiguration erforderlich ist.