DeepTeam 框架

Agentic Security Scanner

AI GitHub 仓库

漏洞扫描器和 AI 红队工具包，旨在识别和解决大型语言模型 (LLMs) 中的漏洞。它为安全专业人员提供了测试和改进 AI 系统的工具。Agentic Security 是一款漏洞扫描器和 AI 红队工具包，旨在识别和解决大型语言模型 (LLMs) 中的漏洞。它为安全专业人员提供了测试和改进 AI 系统的工具。

代理安全基准 (ASB)

AI GitHub 仓库

专注于增强 AI 代理安全性的 GitHub 项目。它允许开发者参与其开发，促进改善 AI 代理安全性的协作环境。代理安全基准 (ASB) 是一个专注于增强 AI 代理安全性的 GitHub 项目。它允许开发者参与其开发，促进改善 AI 代理安全性的协作环境。

PurpleLlama 安全工具

AI GitHub 仓库

提供一套旨在评估和改善大型语言模型 (LLMs) 安全性的工具。它使开发者能够通过在 GitHub 上创建账户来参与其开发，促进 LLM 安全领域的协作与创新。PurpleLlama 提供一套旨在评估和改善大型语言模型 (LLMs) 安全性的工具。它使开发者能够通过在 GitHub 上创建账户来参与其开发，促进 LLM 安全领域的协作与创新。

AI-Infra-Guard

AI GitHub 仓库

#233

全面的 AI 红队平台，旨在保护 AI 生态系统。它提供代理扫描、技能扫描、MCP 扫描、AI 基础设施扫描和 LLM 越狱评估，以确保对漏洞的强大保护。AI-Infra-Guard 是一个全面的 AI 红队平台，旨在保护 AI 生态系统。它提供代理扫描、技能扫描、MCP 扫描、AI 基础设施扫描和 LLM 越狱评估，以确保对漏洞的强大保护。

Giskard

AI 应用

#97

专注于持续红队测试和大型语言模型（LLM）安全的AI安全平台。它通过自动化测试和评估帮助检测漏洞、预防幻觉并保护AI系统。Giskard是一个专注于持续红队测试和大型语言模型（LLM）安全的AI安全平台。它通过自动化测试和评估帮助检测漏洞、预防幻觉并保护AI系统。

ps-fuzz

AI GitHub 仓库

#98

旨在通过测试和强化系统提示来增强GenAI应用程序安全性的工具。它旨在确保AI系统的安全性，为开发人员提供强大的安全测试解决方案。ps-fuzz是一个旨在通过测试和强化系统提示来增强GenAI应用程序安全性的工具。它旨在确保AI系统的安全性，为开发人员提供强大的安全测试解决方案。

Vulnhuntr - 零样本漏洞发现

AI GitHub 仓库

#123

使用大型语言模型 (LLMs) 进行零样本漏洞发现的工具。它使开发人员能够在没有先前示例的情况下识别代码中的潜在安全漏洞，从而增强软件安全性和可靠性。Vulnhuntr 是一个使用大型语言模型 (LLMs) 进行零样本漏洞发现的工具。它使开发人员能够在没有先前示例的情况下识别代码中的潜在安全漏洞，从而增强软件安全性和可靠性。

DeepEval

AI GitHub 仓库

#91

开源框架，旨在评估大型语言模型（LLMs）。它允许开发者参与并改善评估过程，从而提升LLMs的性能和可靠性。DeepEval是一个开源框架，旨在评估大型语言模型（LLMs）。它允许开发者参与并改善评估过程，从而提升LLMs的性能和可靠性。