PurpleLlama 安全工具

Agentic Security Scanner

AI GitHub 仓库

漏洞扫描器和 AI 红队工具包，旨在识别和解决大型语言模型 (LLMs) 中的漏洞。它为安全专业人员提供了测试和改进 AI 系统的工具。Agentic Security 是一款漏洞扫描器和 AI 红队工具包，旨在识别和解决大型语言模型 (LLMs) 中的漏洞。它为安全专业人员提供了测试和改进 AI 系统的工具。

Vulnhuntr - 零样本漏洞发现

AI GitHub 仓库

#123

使用大型语言模型 (LLMs) 进行零样本漏洞发现的工具。它使开发人员能够在没有先前示例的情况下识别代码中的潜在安全漏洞，从而增强软件安全性和可靠性。Vulnhuntr 是一个使用大型语言模型 (LLMs) 进行零样本漏洞发现的工具。它使开发人员能够在没有先前示例的情况下识别代码中的潜在安全漏洞，从而增强软件安全性和可靠性。

DeepTeam 框架

AI GitHub 仓库

#122

旨在对大型语言模型（LLMs）和人工智能代理进行红队测试的框架，提供了一种结构化的方法来测试和增强人工智能系统的稳健性和安全性。DeepTeam 是一个旨在对大型语言模型（LLMs）和人工智能代理进行红队测试的框架，提供了一种结构化的方法来测试和增强人工智能系统的稳健性和安全性。

开源的LLM漏洞扫描器，旨在评估大型语言模型的安全性。它提供了众多插件和数千个提示，以测试模型安全性，得到了NVIDIA和社区的支持。garak是一个开源的LLM漏洞扫描器，旨在评估大型语言模型的安全性。它提供了众多插件和数千个提示，以测试模型安全性，得到了NVIDIA和社区的支持。

ps-fuzz

AI GitHub 仓库

#98

旨在通过测试和强化系统提示来增强GenAI应用程序安全性的工具。它旨在确保AI系统的安全性，为开发人员提供强大的安全测试解决方案。ps-fuzz是一个旨在通过测试和强化系统提示来增强GenAI应用程序安全性的工具。它旨在确保AI系统的安全性，为开发人员提供强大的安全测试解决方案。

代码库提供内置的、基于 AI 的安全工具，使开发人员能够及早发现和修复漏洞。它与 GitHub 工作流程无缝集成，增强软件安全性而不干扰开发过程。GitHub 高级安全为代码库提供内置的、基于 AI 的安全工具，使开发人员能够及早发现和修复漏洞。它与 GitHub 工作流程无缝集成，增强软件安全性而不干扰开发过程。

代理安全基准 (ASB)

AI GitHub 仓库

专注于增强 AI 代理安全性的 GitHub 项目。它允许开发者参与其开发，促进改善 AI 代理安全性的协作环境。代理安全基准 (ASB) 是一个专注于增强 AI 代理安全性的 GitHub 项目。它允许开发者参与其开发，促进改善 AI 代理安全性的协作环境。

modelscan - 模型序列化保护

AI GitHub 仓库

专注于防止模型序列化攻击的GitHub项目。它为开发者提供工具和资源，以保护他们的机器学习模型免受序列化过程中的潜在漏洞。Modelscan是一个专注于防止模型序列化攻击的GitHub项目。它为开发者提供工具和资源，以保护他们的机器学习模型免受序列化过程中的潜在漏洞。