설명
Superlinked는 AI 에이전트를 소규모 작업별 모델로 구동하기 위해 설계된 오픈 소스 추론 서버인 Superlinked Inference Engine(SIE)을 제공합니다. 이 플랫폼은 사용자가 측정된 결과를 기반으로 오픈 모델을 주요 API와 비교할 수 있도록 하여, SIE Serverless(호스팅된 API)를 사용하거나 자신의 클라우드 인프라 내에서 모델을 실행할 수 있는 유연성을 제공합니다.
더 읽기
SIE는 사용자의 네트워크 내에서 추론을 유지하도록 설계되어 데이터 프라이버시 및 보안에 대한 우려를 해결합니다. 문서 관련 작업에 대해 3배에서 15배 더 빠르고, 문서를 JSON으로 변환하거나 PDF 페이지를 검색하는 작업에서 주요 API에 비해 88% 더 저렴하다고 주장합니다. 이 엔진은 검색 및 RAG, 문서 처리, 텍스트 및 LLM 애플리케이션, 이미지 및 오디오 이해, 안전 및 규정 준수를 포함한 다양한 AI 에이전트 작업을 지원합니다.
2021년에 설립된 Superlinked는 샌프란시스코에 본사를 둔 AI 추론 회사입니다. SIE는 Apache 2.0 라이센스 하에 배포되어 팀이 단일 머신(SIE Local)에서 엔진을 자가 호스팅하거나 AWS, GCP, Azure 또는 Alibaba Cloud 계정의 Kubernetes 클러스터(SIE Cluster)에 배포할 수 있도록 합니다. 추가 지원이 필요한 경우, Native Inference는 SIE Cluster와 Superlinked 엔지니어링 전문 지식을 결합합니다.
Superlinked는 임베딩, 재순위, 추출, OCR, 음성, 객체 감지 및 생성을 위한 142개의 모델의 포괄적인 카탈로그를 제공하여 자신을 차별화합니다. 이 모든 모델은 단일 API를 통해 접근할 수 있습니다. 이 다중 모델 접근 방식은 여러 모델이 GPU를 공유할 수 있도록 하여 자원 활용을 최적화하고, 생성 작업에서도 속도를 유지합니다. 이 플랫폼은 고객의 인프라 내에서 AI를 배포하는 SaaS 및 기업 소프트웨어 회사에 특히 유용하여 데이터가 클라우드 내에 유지되도록 보장합니다.
통합은 원활하며, LangChain, LlamaIndex, Haystack, Qdrant, Weaviate, Chroma, LanceDB, DSPy 및 CrewAI와 같은 인기 있는 AI 프레임워크 및 벡터 데이터베이스를 위한 프레임워크 어댑터를 제공합니다. 또한 전체 기능 접근을 위한 네이티브 SDK와 기존 임베딩 또는 채팅 코드를 쉽게 마이그레이션할 수 있는 OpenAI 호환성을 제공합니다. Superlinked는 SIE Serverless에 대한 사용 기반 가격 모델을 제공하며, 신규 계정은 $20의 무료 크레딧을 받습니다. 오픈 소스 엔진은 무료로 사용할 수 있습니다.
- 카테고리MLOps 및 모델 배포
- 요금제프리미엄
- 배포클라우드, 자체 호스팅
Superlinked의 핵심 기능
Apache 2.0 라이센스 하의 오픈 소스 추론 엔진(SIE)
관리형 추론을 위한 호스팅된 API(SIE Serverless)
자가 호스팅 옵션: SIE Local(단일 머신) 및 SIE Cluster(Kubernetes)
Superlinked 엔지니어링 지원을 통한 네이티브 추론
다양한 AI 에이전트 작업을 위한 142개 모델 카탈로그
임베딩, 재순위, 추출, OCR, 음성, 객체 감지 및 생성을 지원
최적화된 성능을 위한 다중 모델 GPU 공유
주요 API에 비해 더 빠른 추론 및 비용 효율성
데이터 프라이버시를 위해 자신의 네트워크 내에서 추론 유지
인기 AI 프레임워크 및 벡터 데이터베이스와의 통합
쉬운 마이그레이션을 위한 OpenAI 호환성
검색, 문서 처리, 추출, 안전, 이미지/오디오, 채팅/생성의 여섯 가지 영역에서 25개의 에이전트 작업 지원
AWS, GCP, Azure, Alibaba Cloud 또는 공기 차단 네트워크에 배포
무료 크레딧이 포함된 Serverless에 대한 사용 기반 가격 책정
GitHub 이슈를 통한 커뮤니티 지원
보안 준수를 위한 SOC2 Type 2 보고서 제공
Superlinked 사용 방법은?
가입: Superlinked 콘솔에서 계정을 생성하여 SIE Serverless에 접근하고 $20의 무료 크레딧을 받습니다.
배포 선택: 호스팅된 API를 위한 SIE Serverless 또는 자신의 클라우드에서 SIE Local/Cluster를 자가 호스팅할지 선택합니다.
모델 통합: Superlinked API를 직접 호출하거나 LangChain, LlamaIndex 및 기타 도구를 위한 프레임워크 어댑터를 사용합니다.
모델 선택: 모델 카탈로그를 탐색하여 다양한 AI 에이전트 작업을 위한 142개의 작업별 모델 중에서 선택합니다.
생산에 배포: 주요 클라우드 제공업체에서 Kubernetes 배포를 위한 Helm 차트 및 Terraform 모듈을 활용합니다.
성능 모니터링: 공개 벤치마크에서 모델 결과를 비교하고 비용 최적화를 위한 Serverless 가격을 추적합니다.
Superlinked의 사용 사례
- 향상된 검색 및 RAG
- 문서 처리
- 데이터 추출 및 분류
- 보안 및 준수
- 이미지 및 오디오 이해
- 채팅 및 텍스트 생성
- PII 마스킹
- 지식 그래프 구축
