설명
IQ는 팀의 AI 사용을 중앙 집중화하여 관리하고 제어할 수 있도록 설계된 종합 대시보드입니다. AI 지출을 감독하고, 예산 및 한도를 설정하며, API 키 및 공급자를 관리할 수 있는 단일 인터페이스를 제공합니다. 핵심 기능은 내장된 라우팅 기능으로, 요청을 가장 비용 효율적인 모델 및 공급자로 지능적으로 유도하여 운영 비용을 크게 줄이는 것을 목표로 합니다. 이 라우팅 메커니즘은 다섯 단계의 LangChain 루프를 기반으로 하며, 최신 모델 라인업 및 가격을 활용하여 최적의 자원 할당을 보장합니다.
더 읽기
이 플랫폼은 사용자가 기존 키를 사용하여 자신의 공급자 계정을 연결할 수 있도록 하며, OpenAI, Anthropic, Google, Mistral, xAI, DeepSeek 등 다양한 주요 AI 공급자를 지원합니다. 요청은 단일 기본 URL에서 OpenAI 또는 Anthropic 형식의 엔드포인트를 통해 IQ에 전달될 수 있어 기존 SDK와의 통합이 간편합니다. 보안은 최우선 사항으로, 공급자 키는 저장 시 암호화되며 강력한 인증 메커니즘이 마련되어 있습니다.
IQ는 키별 한계와 같은 기능을 통해 AI 소비에 대한 세부적인 제어를 제공합니다. 이를 통해 관리자는 개별 애플리케이션이나 팀원에 대해 분당 요청 수, 분당 토큰 수 및 일일 달러 한도를 설정할 수 있습니다. 팀 수준의 일일 및 월간 예산이 모든 요청에 적용되어 예상치 못한 과도한 지출을 방지합니다. 시스템은 또한 지출, 오류율, 대기 시간 및 캐시 적중률에 대한 알림 메커니즘을 포함하고 있으며, 이메일 또는 웹후크를 통해 전달되어 팀이 중요한 사건을 신속하게 인지할 수 있도록 합니다.
투명성과 책임성을 위해 IQ는 누가 무엇을 언제 변경했는지를 기록하는 상세한 감사 로그를 제공하며, 필터 및 CSV 내보내기 기능도 포함되어 있습니다. 구성원 역할(소유자, 관리자, 구성원)은 작업 공간 내에서 구조화된 접근 제어를 가능하게 합니다. 대시보드는 개별 구성원 및 팀 총계에 따라 요청, 토큰 및 지출을 포함한 사용 현황을 명확하게 보여주며, 기본적으로 프롬프트나 응답 내용을 노출하지 않습니다.
최근 IQ에 추가된 기능으로는 AI 지출 감시 도구인 IQ Steward가 있으며, 이는 낭비 및 설정 오류를 플래그합니다. 또한 IQ Vexla(조기 액세스)는 사용자가 전환하기 전에 자신의 예제에서 모델 변경을 테스트할 수 있도록 하여 모델 퇴화를 방지하는 데 도움을 줍니다. IQ는 클라우드, 온프레미스 또는 VPC와 같은 유연한 배포 옵션을 제공하며, 개인 정보 보호 및 준수를 보장하기 위한 제로 데이터 보존(ZDR)과 같은 강력한 데이터 보존 선택지도 제공합니다.
- 카테고리AI DevOps 및 클라우드 도구
- 요금제프리미엄
- 배포Cloud, On-prem, VPC
- 플랫폼웹
IQ의 핵심 기능
AI 사용 및 지출을 위한 통합 대시보드
팀 및 키별 예산 및 지출 한도
회전 및 철회를 통한 API 키 관리
공급자 간 비용 최적화를 위한 내장 라우팅
다양한 AI 공급자 지원(OpenAI, Anthropic, Google, Mistral, xAI, DeepSeek, AWS Bedrock, Cohere 등)
지출, 오류율, 대기 시간 및 캐시 적중률에 대한 알림
필터 및 CSV 내보내기가 포함된 종합 감사 로그
접근 제어를 위한 구성원 역할(소유자, 관리자, 구성원)
개인 정보 보호를 위한 제로 데이터 보존(ZDR) 옵션
AI 지출 모니터링 및 낭비 감지를 위한 IQ Steward
모델 변경 테스트 및 퇴화 방지를 위한 IQ Vexla
OpenAI 및 Anthropic 형식의 API 엔드포인트
저장 시 암호화된 공급자 키
팀 및 기업 계획을 위한 사용자 정의 엔드포인트 지원
기업 사용자를 위한 SOC2 증거 패키지 생성
IQ 사용 방법은?
공급자 연결: IQ 대시보드 내에서 자신의 API 키를 사용하여 기존 AI 공급자 계정(OpenAI, Anthropic 등)을 연결합니다.
IQ 키 생성: 다양한 애플리케이션이나 팀원을 위해 IQ API 키를 생성하고 요청, 토큰 및 일일 지출에 대한 특정 한계를 설정합니다.
예산 구성: 팀의 전체 AI 지출을 제어하기 위해 일일 및 월간 지출 예산을 설정합니다.
라우팅 구현: IQ의 내장 라우팅을 활용하여 AI 요청을 가장 비용 효율적인 모델 및 공급자로 자동으로 유도합니다.
사용 모니터링: 대시보드를 사용하여 개인 및 팀 간의 AI 사용, 지출 및 성능 지표를 추적합니다.
알림 설정: 지출 한도, 오류율 및 대기 시간에 대한 알림을 구성하여 중요한 사건에 대한 정보를 유지합니다.
접근 관리: 플랫폼 내에서 팀 접근 및 권한을 제어하기 위해 구성원 역할(소유자, 관리자, 구성원)을 할당합니다.
비용 최적화: 라우팅 결정을 검토하고 IQ Steward와 같은 도구를 활용하여 낭비적인 AI 사용 패턴을 식별하고 수정합니다.
IQ의 사용 사례
- 비용 최적화
- 예산 집행
- 사용 모니터링
- API 키 관리
- 팀 협업
- 성능 알림
- 감사 및 준수
- 모델 실험
- 데이터 개인 정보 보호 제어
- AI 지출 감시 도구
