AgentDojo

开源的LLM漏洞扫描器，旨在评估大型语言模型的安全性。它提供了众多插件和数千个提示，以测试模型安全性，得到了NVIDIA和社区的支持。garak是一个开源的LLM漏洞扫描器，旨在评估大型语言模型的安全性。它提供了众多插件和数千个提示，以测试模型安全性，得到了NVIDIA和社区的支持。

Agentic Security Scanner

AI GitHub 仓库

漏洞扫描器和 AI 红队工具包，旨在识别和解决大型语言模型 (LLMs) 中的漏洞。它为安全专业人员提供了测试和改进 AI 系统的工具。Agentic Security 是一款漏洞扫描器和 AI 红队工具包，旨在识别和解决大型语言模型 (LLMs) 中的漏洞。它为安全专业人员提供了测试和改进 AI 系统的工具。

对抗鲁棒性工具箱

AI 框架

#34

旨在增强机器学习模型安全性的Python库。它提供了评估、保护和验证模型抵御对抗威胁的工具，支持多种框架和数据类型。对抗鲁棒性工具箱是一个旨在增强机器学习模型安全性的Python库。它提供了评估、保护和验证模型抵御对抗威胁的工具，支持多种框架和数据类型。

DeepTeam 框架

AI GitHub 仓库

#114

旨在对大型语言模型（LLMs）和人工智能代理进行红队测试的框架，提供了一种结构化的方法来测试和增强人工智能系统的稳健性和安全性。DeepTeam 是一个旨在对大型语言模型（LLMs）和人工智能代理进行红队测试的框架，提供了一种结构化的方法来测试和增强人工智能系统的稳健性和安全性。

Giskard

AI 应用

#94

专注于持续红队测试和大型语言模型（LLM）安全的AI安全平台。它通过自动化测试和评估帮助检测漏洞、预防幻觉并保护AI系统。Giskard是一个专注于持续红队测试和大型语言模型（LLM）安全的AI安全平台。它通过自动化测试和评估帮助检测漏洞、预防幻觉并保护AI系统。

代理安全框架实验室

AI GitHub 仓库

框架中立的平台，用于构建、保护、评估和基准测试代理人工智能系统。它集成了LangGraph、LangChain、CrewAI和LlamaIndex等工具，以提供确定性验证、评估、后备和安全控制。代理安全框架实验室是一个框架中立的平台，用于构建、保护、评估和基准测试代理人工智能系统。它集成了LangGraph、LangChain、CrewAI和LlamaIndex等工具，以提供确定性验证、评估、后备和安全控制。

Mindgard AI 安全

AI 应用

#37

提供自动化的 AI 红队演练和安全测试，以发现、评估和防御 AI 模型、代理和应用程序。它充当自主红队，绘制 AI 攻击面图并识别高影响力的漏洞，防止其被利用，从而确保强大的 AI 系统安全性。Mindgard 提供自动化的 AI 红队演练和安全测试，以发现、评估和防御 AI 模型、代理和应用程序。它充当自主红队，绘制 AI 攻击面图并识别高影响力的漏洞，防止其被利用，从而确保强大的 AI 系统安全性。

Equixly Agentic AI Hacker

AI 应用

#131

提供持续的 API 入侵测试，配备 Agentic AI Hacker。它全天候自主发现和测试 API，在攻击者之前识别可利用的风险。该平台集成到 DevSecOps 工作流中，为现代、API 驱动的架构提供实时验证和修复洞察。Equixly 提供持续的 API 入侵测试，配备 Agentic AI Hacker。它全天候自主发现和测试 API，在攻击者之前识别可利用的风险。该平台集成到 DevSecOps 工作流中，为现代、API 驱动的架构提供实时验证和修复洞察。