설명
Juice Labs는 GPU를 원격 가상 리소스로 액세스 가능하게 만드는 혁신적인 GPU-over-IP 소프트웨어 솔루션을 제공합니다. 이 기술은 GPU를 풀링, 공유 및 네트워킹하여 AI 및 그래픽 워크로드에 연결할 수 있도록 합니다. Juice Labs는 애플리케이션 프로세스를 물리적 GPU에서 분리함으로써, 애플리케이션이 표준 네트워크를 통해 연결된 별도의 머신에서 실행될 수 있도록 하여, 사실상 모든 GPU를 네트워크 연결 스토리지(NAS)와 같은 리소스로 변환합니다.
더 읽기
이 아키텍처는 특히 엣지(edge)를 활용하고 빠른 시장 출시를 달성하려는 통신사 및 ISP에게 유익합니다. 추가 시스템, 도구 또는 인프라 오버헤드 없이 GPU 서버를 신속하게 배포할 수 있습니다. 기존의 PoP(Points of Presence)에 GPU를 추가하여 고부가가치 자산에 대한 공간과 전력을 할당할 수 있습니다. 핵심 이점은 GPU 분할 공유를 통한 GPU 활용도 극대화에 있으며, 이는 배포된 각 카드에 대한 더 강력한 투자 수익률(ROI)로 이어집니다. 또한, Juice Labs는 고객 데이터가 공급업체 시스템에 저장되지 않으므로 데이터 주권을 보장하며, 데이터 중력 및 규정 준수를 사용자의 제어 하에 유지합니다.
Juice Labs는 VDI, 배치 처리 및 하드웨어 파티셔닝과 같은 기존 인프라에 비해 명확한 이점을 제공합니다. 설정 복잡성이 낮으며, VDI 또는 K8s의 높은 복잡성과 달리 클라이언트 설치만 필요합니다. 리소스 풀링은 동적이고 세분화되어 MIG 또는 vGPU의 정적 파티셔닝과 대조됩니다. 데이터 지역성은 로컬 디스크에 유지되며, 이 솔루션은 소비자용 RTX 카드를 포함한 모든 NVIDIA GPU를 지원하는 하드웨어에 구애받지 않습니다. 전체 Windows 지원을 제공하여 방대한 크리에이티브 및 엔지니어링 소프트웨어 생태계를 활용할 수 있습니다.
이 플랫폼은 VRAM 및 컴퓨팅의 동적 할당을 촉진하여, 정적 파티셔닝에 비해 진정한 오버서브스크립션 및 더 높은 활용도를 가능하게 합니다. DirectX/Vulkan과 같은 무거운 그래픽 워크로드와 CUDA와 같은 ML 컴퓨팅을 동시에 지원하며, 이는 다른 솔루션에서 종종 제한되는 기능입니다. Juice Labs는 SLURM과 같은 HPC 환경과도 원활하게 통합되어, CPU 노드가 네트워크를 통해 온디맨드 GPU 파워에 액세스할 수 있도록 합니다. 데이터는 CPU 노드의 원래 위치에서 액세스 가능하며, 기존 CPU 플릿을 GPU 가속 워크로드에 활용하여 CPU ROI를 극대화하고 병렬 작업 실행을 가능하게 하여 처리량을 증가시킬 수 있습니다.
Juice Labs는 플랫폼 간 자유를 제공하며, 애플리케이션이 기본 플랫폼에 관계없이 사용 가능한 최상의 컴퓨팅에 액세스할 수 있도록 하는 보편적인 번역 계층 역할을 합니다. 여기에는 Linux 클라우드 GPU에서 Windows 전용 소프트웨어를 실행하고 ARM 기반 엣지 장치를 x86 데이터 센터 GPU에 연결하는 것이 포함됩니다. 하이퍼스케일러의 경우, GPU 부족 및 가격 문제를 피하고 비용 효율적인 네오클라우드로 버스트하면서 데이터와 제어 평면을 선호하는 클라우드 공급업체에 유지할 수 있는 멀티 클라우드 차익 거래 기능을 제공합니다. 데이터 중력은 처리 중인 데이터만 GPU 호스트로 스트리밍하여 거버넌스 위험을 피함으로써 해결됩니다. CoreWeave, Nebius 또는 Lambda와 같은 공급업체의 고성능 GPU를 즉시 사용할 수 있다는 점도 주요 이점이며, 리팩토링이 전혀 필요 없습니다.
- 카테고리AI DevOps 및 클라우드 도구
- 요금제프리미엄
- 배포클라우드, 온프레미스
- 플랫폼Windows, Linux
Juice Labs의 핵심 기능
원격 가상 GPU 리소스를 위한 GPU-over-IP 소프트웨어
AI 및 그래픽 워크로드를 위한 GPU 분할 공유
GPU 활용도 및 ROI 극대화
애플리케이션을 물리적 GPU에서 분리
표준 네트워크를 통한 원격 GPU 액세스 활성화
GPU 서버 배포를 위한 빠른 시장 출시
동적이고 세분화된 리소스 풀링
소비자용 카드 포함 모든 NVIDIA GPU 지원
전체 Windows 및 크로스 OS 호환성
HPC 클러스터(예: SLURM)와의 원활한 통합
데이터 주권 및 규정 준수 기능
크로스 아키텍처 GPU 액세스(ARM-x86)
GPU 리소스를 위한 멀티 클라우드 차익 거래
클라우드 버스팅을 위한 리팩토링 제로
Juice Labs 사용 방법은?
다운로드 및 설치: 운영 체제에 맞는 Juice Client 바이너리를 다운로드합니다.
인증: 조직 자격 증명으로 안전하게 로그인하여 GPU 풀에 액세스합니다.
구성: 원격 GPU 에이전트를 설정하고 리소스 풀을 정의합니다.
애플리케이션 실행: 'juice run' 접두사를 사용하여 애플리케이션을 실행하여 원격 GPU를 연결합니다.
Juice Labs의 사용 사례
- 원격 AI 추론
- 엣지 컴퓨팅
- GPU ROI 극대화
- HPC 워크로드 가속화
- 크로스 플랫폼 개발
- 클라우드 GPU 차익 거래
- 가상 데스크톱 인프라
- 데이터 주권
- 그래픽 워크로드
- 통신사 및 ISP 엣지 솔루션
