garak: LLM 취약점 스캐너

AgentDojo

AI 프레임워크

LLM 에이전트에 대한 프롬프트 주입 공격 및 방어를 평가하기 위해 설계된 동적 환경입니다. ETH 취리히와 Invariant Labs의 연구원들이 개발한 이 도구는 AI 취약성 연구를 지원하며 새로운 공격 및 방어 모델을 생성하고 벤치마킹하는 도구를 제공합니다.AgentDojo는 LLM 에이전트에 대한 프롬프트 주입 공격 및 방어를 평가하기 위해 설계된 동적 환경입니다. ETH 취리히와 Invariant Labs의 연구원들이 개발한 이 도구는 AI 취약성 연구를 지원하며 새로운 공격 및 방어 모델을 생성하고 벤치마킹하는 도구를 제공합니다.

에이전틱 보안 스캐너

AI GitHub 저장소

대형 언어 모델(LLM)의 취약점을 식별하고 해결하기 위해 설계된 취약점 스캐너 및 AI 레드 팀 킷입니다. 이 도구는 보안 전문가가 AI 시스템을 테스트하고 개선할 수 있도록 지원합니다.에이전틱 보안은 대형 언어 모델(LLM)의 취약점을 식별하고 해결하기 위해 설계된 취약점 스캐너 및 AI 레드 팀 킷입니다. 이 도구는 보안 전문가가 AI 시스템을 테스트하고 개선할 수 있도록 지원합니다.

DeepTeam Framework

AI GitHub 저장소

#115

대형 언어 모델(LLM)과 AI 에이전트를 레드 팀하기 위해 설계된 프레임워크로, AI 시스템의 강건성과 보안을 테스트하고 향상시키기 위한 구조화된 접근 방식을 제공합니다.DeepTeam은 대형 언어 모델(LLM)과 AI 에이전트를 레드 팀하기 위해 설계된 프레임워크로, AI 시스템의 강건성과 보안을 테스트하고 향상시키기 위한 구조화된 접근 방식을 제공합니다.

Giskard

AI 앱

#94

지속적인 레드 팀과 LLM 보안에 중점을 둔 AI 보안 플랫폼입니다. 취약점을 탐지하고, 환각을 방지하며, 자동화된 테스트와 평가를 통해 AI 시스템을 보호하는 데 도움을 줍니다.Giskard는 지속적인 레드 팀과 LLM 보안에 중점을 둔 AI 보안 플랫폼입니다. 취약점을 탐지하고, 환각을 방지하며, 자동화된 테스트와 평가를 통해 AI 시스템을 보호하는 데 도움을 줍니다.

퍼플라마 보안 도구

AI GitHub 저장소

대형 언어 모델(LLM)의 보안을 평가하고 개선하기 위해 설계된 도구 세트를 제공합니다. 개발자는 GitHub에 계정을 생성하여 개발에 기여할 수 있으며, 이는 LLM 보안 분야에서의 협업과 혁신을 촉진합니다.퍼플라마는 대형 언어 모델(LLM)의 보안을 평가하고 개선하기 위해 설계된 도구 세트를 제공합니다. 개발자는 GitHub에 계정을 생성하여 개발에 기여할 수 있으며, 이는 LLM 보안 분야에서의 협업과 혁신을 촉진합니다.

적대적 강건성 툴박스

AI 프레임워크

#34

기계 학습 모델의 보안을 강화하기 위해 설계된 Python 라이브러리입니다. 이는 적대적 위협에 대해 모델을 평가하고 방어하며 검증하는 도구를 제공하며, 다양한 프레임워크와 데이터 유형을 지원합니다.적대적 강건성 툴박스는 기계 학습 모델의 보안을 강화하기 위해 설계된 Python 라이브러리입니다. 이는 적대적 위협에 대해 모델을 평가하고 방어하며 검증하는 도구를 제공하며, 다양한 프레임워크와 데이터 유형을 지원합니다.

Vulnhuntr - 제로 샷 취약점 발견

AI GitHub 저장소

#211

대형 언어 모델(LLMs)을 사용하여 제로 샷 취약점 발견을 위한 도구입니다. 개발자가 이전 예시 없이 코드에서 잠재적인 보안 취약점을 식별할 수 있도록 하여 소프트웨어 보안과 신뢰성을 향상시킵니다.Vulnhuntr는 대형 언어 모델(LLMs)을 사용하여 제로 샷 취약점 발견을 위한 도구입니다. 개발자가 이전 예시 없이 코드에서 잠재적인 보안 취약점을 식별할 수 있도록 하여 소프트웨어 보안과 신뢰성을 향상시킵니다.

Levo.ai 보안 플랫폼

AI 앱

#137

API와 AI 보안을 결합한 종합 보안 플랫폼을 제공합니다. 실시간 가시성, 위협 탐지 및 적응형 제어 기능을 통해 AI 에이전트와 API를 보호하여 안전한 기업 채택과 규정 준수를 보장합니다.Levo.ai는 API와 AI 보안을 결합한 종합 보안 플랫폼을 제공합니다. 실시간 가시성, 위협 탐지 및 적응형 제어 기능을 통해 AI 에이전트와 API를 보호하여 안전한 기업 채택과 규정 준수를 보장합니다.