설명
BLACKBOX AI는 엔지니어링 팀이 데이터에 대한 암호화 및 제어를 포기하지 않고 대규모로 대형 언어 모델을 호출할 수 있는 고신뢰 플랫폼으로 자신을 설명합니다. 처음에는 AI 코딩 도우미로 시작했으며, 코딩 도구는 여전히 제품의 일부이지만, 현재 플랫폼의 초점은 IDE가 아닌 모델 접근 및 안전한 추론에 맞춰져 있습니다.
더 읽기
Blackbox Router는 단일 OpenAI 호환 엔드포인트를 통해 Moonshot AI, Z.ai, Alibaba, DeepSeek, Tencent와 같은 공급자의 모델을 포함하여 300개 이상의 공개 및 비공식 모델에 연결합니다. 각 모델은 백만 개의 입력, 출력 및 캐시된 토큰에 대해 청구됩니다. 게이트웨이는 라우팅된 트래픽에 대해 데이터 보존이 없고 훈련이 이루어지지 않도록 강제하며, 엔터프라이즈 계정에서는 Blackbox가 프롬프트가 비공식 모델에 도달하기 전에 개인 식별 정보를 제거합니다. 엔터프라이즈 추론은 고객이 선택한 공개 가중치 모델에 대한 전용 단일 테넌트 용량을 추가하며, 다른 고객과 인스턴스를 공유하지 않습니다. Blackbox는 Artificial Analysis가 Nemotron 3 Ultra의 가장 빠른 공급자로 독립적으로 검증했으며, 초당 454토큰으로 Nebius, CoreWeave 및 Together AI보다 앞섰다고 주장합니다.
특히 코딩 워크플로우를 위해 Agents API는 팀이 HTTP를 통해 모든 리포지토리에 코딩 에이전트를 보내 실행을 생성하고 로그를 스트리밍하며 풀 리퀘스트를 열 수 있게 합니다. 명령줄 에이전트는 리포지토리의 기존 규칙을 읽어 내부에서 작업합니다. 라우터, 전용 배포 또는 에이전트 도구를 통한 모든 요청은 종단 간 암호화되며 동일한 청구 약정에 따라 청구됩니다.
가격은 엔터프라이즈 및 계약 기반입니다: 고객은 구매 주문을 통해 연간 지출을 약정하며, 그 약정이 증가함에 따라 토큰당 요금이 개선되며 별도의 플랫폼 요금, 마크업 또는 좌석당 요금이 없습니다. 팀은 또한 자신의 OpenAI, Anthropic 또는 Google 계정을 연결하고 기존 공급자 관계를 통해 라우팅하면서 Blackbox의 라우팅, 장애 조치 및 캐싱을 사용할 수 있습니다. 엔터프라이즈 계약에는 마이그레이션, 통합 및 조정을 돕기 위한 전방 배치 엔지니어가 포함됩니다.
BLACKBOX AI TECHNOLOGIES INC.는 샌프란시스코에 본사를 두고 있으며, 엔터프라이즈 배포를 위한 Microsoft Azure와의 파트너십을 나열하고 있습니다.
- 카테고리MLOps 및 모델 배포
- 요금제무료로 시작
- 배포클라우드
- 플랫폼웹
BLACKBOX AI의 핵심 기능
Blackbox Router: 300개 이상의 공개 및 비공식 모델에 대한 하나의 OpenAI 호환 엔드포인트
Enterprise Inference: 선택한 공개 가중치 모델에 대한 전용 단일 테넌트 용량
게이트웨이에서 강제되는 종단 간 암호화 및 데이터 보존 없음
프롬프트가 비공식 모델에 도달하기 전에 개인 식별 정보 제거
HTTP를 통해 리포지토리에 대해 코딩 에이전트를 실행하는 Agents API, 풀 리퀘스트 열기 포함
리포지토리의 기존 규칙을 읽는 명령줄 에이전트 터미널
독립적으로 검증된 추론 속도 (Artificial Analysis, Nemotron 3 Ultra 벤치마크)
고객의 OpenAI, Anthropic 또는 Google 계정을 연결하고 라우팅할 수 있는 기능
모델 카탈로그 전반에 걸친 프롬프트 캐싱 및 비용 인식 라우팅
Microsoft Azure 엔터프라이즈 파트너십
BLACKBOX AI 사용 방법은?
영업팀과 상담: Blackbox 팀과 함께 작업량, 필요한 제어 및 예상 볼륨을 정의합니다.
API 키 받기: 약정된 지출 계약이 체결되면 자격 증명을 받습니다.
라우터 호출: 기존 OpenAI 호환 클라이언트를 Blackbox 엔드포인트에 지정하고 모델을 선택합니다.
전용 용량 설정: 단일 테넌트 격리가 필요한 경우 공개 가중치 모델에 대한 엔터프라이즈 추론 배포를 요청합니다.
에이전트 연결: Agents API 또는 명령줄 에이전트를 사용하여 리포지토리에 대해 코딩 작업을 실행합니다.
지출 모니터링: 사용량이 약정된 잔액을 소진함에 따라 대시보드에서 추적합니다.
BLACKBOX AI의 사용 사례
- 다중 모델 추론 라우팅
- 전용 모델 배포
- 자동화된 코딩 에이전트
- 규제된 기업 AI 사용
