설명
KOSMO는 규제된 기업을 위해 맞춤 설계된 AI 관리 플랫폼으로, AI 거버넌스, 가시성 및 Kubernetes 네이티브 AI 에이전트 샌드박스를 하나의 플랫폼으로 통합합니다. 이 플랫폼은 AI 인벤토리, AI 모니터링 및 가시성, AI 거버넌스, AI 액션 제어의 네 가지 레이어에서 AI 시스템을 관리합니다. KOSMO는 공용 LLM, 개인 모델, MCP 서버, 자율 에이전트 및 맞춤형 애플리케이션을 지원하여 포괄적인 관리 솔루션을 제공합니다.
플랫폼의 AI 게이트웨이는 정책 경계 역할을 하며, 모든 LLM, MCP 및 에이전트 간 호출을 통해 라우팅합니다. 이를 통해 유해 언어, 개인 식별 정보(PII), 프롬프트 주입 및 정책 준수에 대한 가드레일이 게이트웨이 수준에서 시행됩니다. KOSMO의 액션 캡슐은 AI 에이전트, 모델 또는 MCP 서버를 위한 격리 실행 환경을 제공하며, 사전 승인, 실행 임대 및 적시 자격 증명을 시행합니다.
KOSMO는 모델 제공자 및 클라우드 서비스 위에 위치하여 공급업체 및 모델 잠금을 줄이도록 설계되었습니다. 지원되는 모델에 대해 OpenAI 호환 API를 노출하여 코드 수정 없이 원활한 구성 변경이 가능합니다. 이 플랫폼은 Azure, AWS, GCP 또는 온프레미스에 배포할 수 있어 이동성과 유연성을 제공합니다.
KOSMO는 강력한 감사 및 준수 지원을 제공하며, 모든 가드레일 결정, 승인 및 재량을 타임스탬프, 행위자, 시스템 및 결과와 함께 이벤트로 기록합니다. 이 감사 추적은 위험 관리, 기술 문서 및 투명성의 필수 측면을 포함하여 새로운 AI 규정에 부합합니다.
플랫폼의 가시성 기능은 모든 AI 호출을 모델, 애플리케이션, 팀 및 비용 세부정보와 함께 기록하여 비용 추적 및 최적화를 가능하게 합니다. KOSMO의 LLM 라우터는 간단한 프롬프트를 더 작고 저렴한 모델로 자동 라우팅하여 기업이 비용을 크게 절감할 수 있도록 돕습니다. 이 플랫폼은 모델에 구애받지 않으며, 공용 및 개인 LLM뿐만 아니라 미세 조정된 언어 모델도 지원합니다.
KOSMO AI 플랫폼의 핵심 기능
정책 시행을 위한 AI 게이트웨이
LLM, MCP 및 A2A 호출 라우팅
액션 캡슐이 포함된 AI 에이전트 샌드박스
OpenAI 호환 API
감사 및 준수 로깅
비용 추적 및 최적화
모델에 구애받지 않는 지원
Kubernetes 네이티브 배포
KOSMO AI 플랫폼 사용 방법은?
구성: AI 게이트웨이 및 액션 캡슐 설정
사용: AI 모델 및 에이전트 배포
모니터: AI 사용 및 비용 추적
최적화: 비용 효율성을 위한 구성 조정
KOSMO AI 플랫폼의 사용 사례
- AI 거버넌스
- 비용 최적화
- 준수 관리
- 공급업체 잠금 감소
- AI 모니터링
