modelscan - 모델 직렬화 보호

퍼플라마 보안 도구

AI GitHub 저장소

대형 언어 모델(LLM)의 보안을 평가하고 개선하기 위해 설계된 도구 세트를 제공합니다. 개발자는 GitHub에 계정을 생성하여 개발에 기여할 수 있으며, 이는 LLM 보안 분야에서의 협업과 혁신을 촉진합니다.퍼플라마는 대형 언어 모델(LLM)의 보안을 평가하고 개선하기 위해 설계된 도구 세트를 제공합니다. 개발자는 GitHub에 계정을 생성하여 개발에 기여할 수 있으며, 이는 LLM 보안 분야에서의 협업과 혁신을 촉진합니다.

DeepTeam Framework

AI GitHub 저장소

#115

대형 언어 모델(LLM)과 AI 에이전트를 레드 팀하기 위해 설계된 프레임워크로, AI 시스템의 강건성과 보안을 테스트하고 향상시키기 위한 구조화된 접근 방식을 제공합니다.DeepTeam은 대형 언어 모델(LLM)과 AI 에이전트를 레드 팀하기 위해 설계된 프레임워크로, AI 시스템의 강건성과 보안을 테스트하고 향상시키기 위한 구조화된 접근 방식을 제공합니다.

적대적 강건성 툴박스

AI 프레임워크

#34

기계 학습 모델의 보안을 강화하기 위해 설계된 Python 라이브러리입니다. 이는 적대적 위협에 대해 모델을 평가하고 방어하며 검증하는 도구를 제공하며, 다양한 프레임워크와 데이터 유형을 지원합니다.적대적 강건성 툴박스는 기계 학습 모델의 보안을 강화하기 위해 설계된 Python 라이브러리입니다. 이는 적대적 위협에 대해 모델을 평가하고 방어하며 검증하는 도구를 제공하며, 다양한 프레임워크와 데이터 유형을 지원합니다.

대형 언어 모델의 보안을 평가하기 위해 설계된 오픈 소스 LLM 취약점 스캐너입니다. NVIDIA와 커뮤니티의 지원을 받아 모델 보안을 테스트하기 위한 수많은 플러그인과 수천 개의 프롬프트를 제공합니다.garak은 대형 언어 모델의 보안을 평가하기 위해 설계된 오픈 소스 LLM 취약점 스캐너입니다. NVIDIA와 커뮤니티의 지원을 받아 모델 보안을 테스트하기 위한 수많은 플러그인과 수천 개의 프롬프트를 제공합니다.

Vulnhuntr - 제로 샷 취약점 발견

AI GitHub 저장소

#211

대형 언어 모델(LLMs)을 사용하여 제로 샷 취약점 발견을 위한 도구입니다. 개발자가 이전 예시 없이 코드에서 잠재적인 보안 취약점을 식별할 수 있도록 하여 소프트웨어 보안과 신뢰성을 향상시킵니다.Vulnhuntr는 대형 언어 모델(LLMs)을 사용하여 제로 샷 취약점 발견을 위한 도구입니다. 개발자가 이전 예시 없이 코드에서 잠재적인 보안 취약점을 식별할 수 있도록 하여 소프트웨어 보안과 신뢰성을 향상시킵니다.

에이전틱 보안 스캐너

AI GitHub 저장소

대형 언어 모델(LLM)의 취약점을 식별하고 해결하기 위해 설계된 취약점 스캐너 및 AI 레드 팀 킷입니다. 이 도구는 보안 전문가가 AI 시스템을 테스트하고 개선할 수 있도록 지원합니다.에이전틱 보안은 대형 언어 모델(LLM)의 취약점을 식별하고 해결하기 위해 설계된 취약점 스캐너 및 AI 레드 팀 킷입니다. 이 도구는 보안 전문가가 AI 시스템을 테스트하고 개선할 수 있도록 지원합니다.

SkillSpector 보안 스캐너

AI GitHub 저장소

AI 에이전트 기술을 위한 보안 스캐너로, 취약점, 악의적인 패턴 및 보안 위험을 탐지하도록 설계되었습니다. 설치 전에 Claude Code, Codex 및 MCP 기술에서 프롬프트 주입, 데이터 유출 및 공급망 위험에 중점을 둡니다.SkillSpector는 AI 에이전트 기술을 위한 보안 스캐너로, 취약점, 악의적인 패턴 및 보안 위험을 탐지하도록 설계되었습니다. 설치 전에 Claude Code, Codex 및 MCP 기술에서 프롬프트 주입, 데이터 유출 및 공급망 위험에 중점을 둡니다.

ps-fuzz

AI GitHub 저장소

#83

시스템 프롬프트를 테스트하고 강화하여 GenAI 애플리케이션의 보안을 향상시키기 위해 설계된 도구입니다. 이 도구는 AI 시스템이 안전하고 보안이 유지되도록 하여 개발자에게 강력한 보안 테스트 솔루션을 제공합니다.ps-fuzz는 시스템 프롬프트를 테스트하고 강화하여 GenAI 애플리케이션의 보안을 향상시키기 위해 설계된 도구입니다. 이 도구는 AI 시스템이 안전하고 보안이 유지되도록 하여 개발자에게 강력한 보안 테스트 솔루션을 제공합니다.