설명
DKnownAI Guard는 프롬프트 주입, 탈옥 시도 및 시스템 프롬프트 추출을 탐지하는 데 중점을 둔 전문 AI 에이전트 보안 API입니다. 이는 행동을 실행하는 AI 에이전트를 보호하도록 설계되어 있으며, 조작에 대해 안전하게 유지하면서도 효과적으로 기능할 수 있도록 합니다. 이 API는 요청을 AGENT_HACK, SYS_FLAG, CONTENT_FLAG 및 SAFE의 네 가지 뚜렷한 위험 범주로 분류합니다. 이 분류 시스템은 개발자가 다양한 유형의 요청에 적절하게 대응할 수 있도록 하여 에이전트 워크플로의 보안을 강화합니다.
더 읽기
DKnownAI Guard의 핵심 기능은 AI 에이전트를 대상으로 하는 조작 시도를 탐지하는 능력에 중점을 둡니다. 전통적인 콘텐츠 조정 시스템이 주로 유해한 텍스트에 초점을 맞추는 것과 달리, DKnownAI Guard는 에이전트 행동을 탈취하기 위한 기만적인 전술을 식별하는 데 우선 순위를 둡니다. 이러한 능동적인 접근 방식은 개발자가 합법적인 워크플로를 방해하지 않고 악의적인 요청을 차단할 수 있게 합니다. 예를 들어, 요청이 에이전트를 조작하려고 시도하여 의도된 제어를 무시하는 명령을 발행하는 경우, DKnownAI Guard는 이를 AGENT_HACK으로 분류하고 즉각적인 차단을 권장합니다.
조작 탐지 기능 외에도 DKnownAI Guard는 상황 인식 탐지를 제공합니다. 요청에 대화 맥락을 선택적으로 포함함으로써, API는 보다 정확한 분류를 제공할 수 있으며, 지연 영향을 최소화합니다. 이 기능은 AI 에이전트가 다중 턴 대화에서 상호작용하는 애플리케이션에 특히 유용하여 의도와 위험에 대한 보다 미세한 이해를 가능하게 합니다.
DKnownAI Guard는 AI 에이전트가 코드를 실행하고, 파일에 접근하며, 실제 시스템을 관리하는 것이 기대되는 에이전트 시대를 위해 구축되었습니다. 100개 이상의 언어를 지원하며 OpenClaw 및 Claude Code와 같은 다양한 에이전트 프레임워크와 원활하게 통합됩니다. 이 API는 AI 에이전트의 자율성을 유지하면서 조작 및 운영 위험으로부터 보호하도록 설계되었습니다. 개발자는 월 1,000회의 API 호출을 허용하는 무료 요금제로 시작할 수 있어 테스트 및 초기 구현에 접근할 수 있습니다. 필요가 증가함에 따라 월 5,000회의 API 호출을 제공하는 Pro 요금제가 제공되며, 우선 지원 및 추가 기능을 제공합니다.
전반적으로 DKnownAI Guard는 에이전틱 AI 시스템이 제기하는 고유한 문제에 초점을 맞춘 AI 보안의 중요한 발전을 나타냅니다. 조작 탐지를 우선시하고 명확한 위험 분류를 제공함으로써, 개발자가 더 안전하고 신뢰할 수 있는 AI 애플리케이션을 만들 수 있도록 지원합니다.
- 카테고리보안 및 개인정보 보호
- 요금제프리미엄
- 배포클라우드
- 플랫폼웹
DKnownAI Security API의 핵심 기능
프롬프트 주입 탐지
탈옥 방어
시스템 프롬프트 추출 보호
네 가지 수준의 위험 분류
다국어 콘텐츠 탐지
에이전틱 프레임워크 통합
상황 인식 탐지
무료 요금제 제공
DKnownAI Security API 사용 방법은?
구성: 인증 헤더에 API 키를 설정합니다.
통합: 프롬프트 주입 탐지를 위해 에이전틱 워크플로에서 API를 사용합니다.
분류: 사용자 입력의 분류를 위해 API에 요청을 보냅니다.
응답: API에서 제공하는 분류 결과에 따라 행동합니다.
DKnownAI Security API의 사용 사례
- 에이전트 보안
- 위험 분류
- 다중 턴 대화
- 규정 준수 모니터링
- 운영 지원
