garak: LLM漏洞扫描器

AgentDojo

AI 框架

动态环境，旨在评估 LLM 代理的提示注入攻击和防御。由苏黎世联邦理工学院和 Invariant Labs 的研究人员开发，它提供了基准测试和创建新攻击和防御模型的工具，帮助研究 AI 漏洞。AgentDojo 是一个动态环境，旨在评估 LLM 代理的提示注入攻击和防御。由苏黎世联邦理工学院和 Invariant Labs 的研究人员开发，它提供了基准测试和创建新攻击和防御模型的工具，帮助研究 AI 漏洞。

Agentic Security Scanner

AI GitHub 仓库

漏洞扫描器和 AI 红队工具包，旨在识别和解决大型语言模型 (LLMs) 中的漏洞。它为安全专业人员提供了测试和改进 AI 系统的工具。Agentic Security 是一款漏洞扫描器和 AI 红队工具包，旨在识别和解决大型语言模型 (LLMs) 中的漏洞。它为安全专业人员提供了测试和改进 AI 系统的工具。

DeepTeam 框架

AI GitHub 仓库

#115

旨在对大型语言模型（LLMs）和人工智能代理进行红队测试的框架，提供了一种结构化的方法来测试和增强人工智能系统的稳健性和安全性。DeepTeam 是一个旨在对大型语言模型（LLMs）和人工智能代理进行红队测试的框架，提供了一种结构化的方法来测试和增强人工智能系统的稳健性和安全性。

Giskard

AI 应用

#94

专注于持续红队测试和大型语言模型（LLM）安全的AI安全平台。它通过自动化测试和评估帮助检测漏洞、预防幻觉并保护AI系统。Giskard是一个专注于持续红队测试和大型语言模型（LLM）安全的AI安全平台。它通过自动化测试和评估帮助检测漏洞、预防幻觉并保护AI系统。

PurpleLlama 安全工具

AI GitHub 仓库

提供一套旨在评估和改善大型语言模型 (LLMs) 安全性的工具。它使开发者能够通过在 GitHub 上创建账户来参与其开发，促进 LLM 安全领域的协作与创新。PurpleLlama 提供一套旨在评估和改善大型语言模型 (LLMs) 安全性的工具。它使开发者能够通过在 GitHub 上创建账户来参与其开发，促进 LLM 安全领域的协作与创新。

对抗鲁棒性工具箱

AI 框架

#34

旨在增强机器学习模型安全性的Python库。它提供了评估、保护和验证模型抵御对抗威胁的工具，支持多种框架和数据类型。对抗鲁棒性工具箱是一个旨在增强机器学习模型安全性的Python库。它提供了评估、保护和验证模型抵御对抗威胁的工具，支持多种框架和数据类型。

Vulnhuntr - 零样本漏洞发现

AI GitHub 仓库

#211

使用大型语言模型 (LLMs) 进行零样本漏洞发现的工具。它使开发人员能够在没有先前示例的情况下识别代码中的潜在安全漏洞，从而增强软件安全性和可靠性。Vulnhuntr 是一个使用大型语言模型 (LLMs) 进行零样本漏洞发现的工具。它使开发人员能够在没有先前示例的情况下识别代码中的潜在安全漏洞，从而增强软件安全性和可靠性。

Levo.ai 安全平台

AI 应用

#137

提供一个综合的安全平台，结合了 API 和 AI 安全。它提供实时可见性、威胁检测和自适应控制，以保护 AI 代理和 API，确保企业安全采用和合规。Levo.ai 提供一个综合的安全平台，结合了 API 和 AI 安全。它提供实时可见性、威胁检测和自适应控制，以保护 AI 代理和 API，确保企业安全采用和合规。