描述
Juice Labs 提供革命性的 GPU-over-IP 软件解决方案，旨在将 GPU 作为远程虚拟资源进行访问。该技术汇集、共享和网络化 GPU，使其能够连接到 AI 和图形工作负载。通过将应用程序进程与物理 GPU 分离，Juice Labs 允许应用程序在通过标准网络连接的独立计算机上运行，有效地将任何 GPU 转换为网络附加资源。
阅读更多
这种架构对于希望释放边缘能力并快速推向市场的电信运营商和 ISP 尤其有利。它允许快速部署 GPU 服务器，而无需额外的系统、工具或基础设施开销。现有的接入点 (POP) 可以通过 GPU 进行增强，为高价值资产分配空间和电力。核心优势在于通过分数共享最大限度地提高 GPU 利用率，从而为每张部署的显卡带来更高的投资回报率 (ROI)。此外，Juice Labs 可确保数据主权，因为客户数据永远不会驻留在提供商系统上，从而将数据引力和合规性保留在用户控制之下。
Juice Labs 在传统基础设施（如 VDI、批处理和硬件分区）方面具有显著优势。其设置复杂度低，仅需安装客户端，而 VDI 或 K8s 的复杂度则很高。资源池是动态且细粒度的，与 MIG 或 vGPU 的静态分区形成对比。数据局部性保留在本地磁盘上，并且该解决方案与硬件无关，支持任何 NVIDIA GPU，包括消费级 RTX 卡。提供完整的 Windows 支持，支持广泛的创意和工程软件生态系统。
该平台支持 VRAM 和计算的动态分配，可实现真正的超额订阅和更高的利用率，而静态分区则无法做到。它同时支持重度图形工作负载 (DirectX/Vulkan) 和 ML 计算 (CUDA)，这是其他解决方案通常受限的功能。Juice Labs 还可与 SLURM 等 HPC 环境无缝集成，允许 CPU 节点按需通过网络访问 GPU 算力。数据仍可从 CPU 节点上的原始位置访问，并且可以利用现有的 CPU 群集进行 GPU 加速工作负载，通过并行作业执行来最大限度地提高 CPU 的投资回报率并提高吞吐量。
Juice Labs 提供跨平台自由度，充当通用翻译层，允许应用程序访问最佳可用计算资源，而无论底层平台如何。这包括在 Linux 云 GPU 上运行仅限 Windows 的软件，以及将基于 ARM 的边缘设备连接到 x86 数据中心 GPU。对于超大规模用户，它提供了多云套利能力，使他们能够通过突发到成本效益高的云来摆脱 GPU 短缺和定价问题，同时将其数据和控制平面保留在其首选云提供商中。通过仅将数据流式传输到 GPU 主机进行传输中处理来解决数据引力问题，避免治理风险。来自 CoreWeave、Nebius 或 Lambda 等提供商的高端 GPU 的即时可用性也是一项关键优势，无需进行任何重构。
- 类别AI DevOps 与云工具
- 定价模式免费增值
- 部署云端、本地部署
- 平台Windows，Linux
Juice Labs的核心功能
GPU-over-IP 软件，用于远程虚拟 GPU 资源
AI 和图形工作负载的 GPU 分数共享
最大限度地提高 GPU 利用率和投资回报率
将应用程序与物理 GPU 分离
通过标准网络实现远程 GPU 访问
GPU 服务器部署的快速上市时间
动态且细粒度的资源池
支持任何 NVIDIA GPU，包括消费级显卡
完整的 Windows 和跨操作系统兼容性
与 HPC 集群（例如 SLURM）无缝集成
数据主权和合规性功能
跨架构 GPU 访问（ARM 到 x86）
GPU 资源的多云套利
云突发零重构
如何使用 Juice Labs？
下载和安装：下载适用于您操作系统的 Juice 客户端二进制文件。
身份验证：使用您的组织凭据安全登录以访问 GPU 池。
配置：设置您的远程 GPU 代理并定义资源池。
运行应用程序：在应用程序前加上“juice run”前缀来附加远程 GPU。
Juice Labs的使用案例
- 远程 AI 推理
- 边缘计算
- 最大限度地提高 GPU 投资回报率
- HPC 工作负载加速
- 跨平台开发
- 云 GPU 套利
- 虚拟桌面基础设施
- 数据主权
- 图形工作负载
- 电信和 ISP 边缘解决方案
