Juice Labs

Эта архитектура особенно выгодна для телекоммуникационных компаний и интернет-провайдеров, стремящихся раскрыть потенциал периферийных вычислений и быстро вывести продукты на рынок. Она позволяет быстро развертывать серверы с GPU без необходимости в дополнительных системах, инструментах или накладных расходах на инфраструктуру. Существующие точки присутствия (POP) могут быть дополнены GPU, выделяя пространство и энергию для высокоценных активов. Основное преимущество заключается в максимизации утилизации GPU за счет долевого использования, что приводит к более высокой рентабельности инвестиций (ROI) для каждой развернутой карты. Кроме того, Juice Labs обеспечивает суверенитет данных, поскольку данные клиента никогда не хранятся в системах поставщика, сохраняя гравитацию данных и соответствие требованиям под контролем пользователя.

Juice Labs предлагает явное преимущество перед традиционной инфраструктурой, такой как VDI, пакетная обработка и аппаратные разделы. Сложность настройки низкая, требуется только установка клиента, в отличие от высокой сложности VDI или K8s. Объединение ресурсов является динамическим и гранулярным, в отличие от статического разделения MIG или vGPU. Локальность данных сохраняется на локальных дисках, а решение является аппаратным, поддерживая любой GPU NVIDIA, включая потребительские карты RTX. Предоставляется полная поддержка Windows, что обеспечивает широкую экосистему программного обеспечения для творчества и инженерии.

Платформа обеспечивает динамическое распределение VRAM и вычислительных ресурсов, позволяя истинное сверхподписку и более высокую утилизацию по сравнению со статическим разделением. Она поддерживает как тяжелые графические нагрузки (DirectX/Vulkan), так и вычисления машинного обучения (CUDA) одновременно, что является возможностью, часто ограниченной в других решениях. Juice Labs также бесшовно интегрируется с HPC-средами, такими как SLURM, позволяя узлам CPU получать доступ к мощности GPU по запросу через сеть. Данные остаются доступными из исходного расположения на узле CPU, а существующие парки CPU могут использоваться для рабочих нагрузок с ускорением GPU, максимизируя ROI CPU и увеличивая пропускную способность за счет параллельного выполнения заданий.

Juice Labs предлагает свободу кроссплатформенности, действуя как универсальный слой трансляции, который позволяет приложениям получать доступ к лучшим доступным вычислительным ресурсам независимо от базовой платформы. Это включает запуск эксклюзивного для Windows программного обеспечения на облачных GPU Linux и подключение периферийных устройств на базе ARM к GPU центров обработки данных x86. Для гиперскейлеров он предоставляет возможности арбитража в мультиоблаке, позволяя им избежать дефицита GPU и проблем с ценообразованием, переходя к экономичным неооблакам, сохраняя при этом свои данные и плоскость управления у предпочитаемого облачного провайдера. Проблема гравитации данных решается путем потоковой передачи данных на хост GPU только для обработки в пути, избегая рисков управления. Мгновенная доступность высокопроизводительных GPU от таких поставщиков, как CoreWeave, Nebius или Lambda, также является ключевым преимуществом, не требующим никакой переработки кода.