modelscan - 模型序列化保护

PurpleLlama 安全工具

AI GitHub 仓库

提供一套旨在评估和改善大型语言模型 (LLMs) 安全性的工具。它使开发者能够通过在 GitHub 上创建账户来参与其开发，促进 LLM 安全领域的协作与创新。PurpleLlama 提供一套旨在评估和改善大型语言模型 (LLMs) 安全性的工具。它使开发者能够通过在 GitHub 上创建账户来参与其开发，促进 LLM 安全领域的协作与创新。

DeepTeam 框架

AI GitHub 仓库

#115

旨在对大型语言模型（LLMs）和人工智能代理进行红队测试的框架，提供了一种结构化的方法来测试和增强人工智能系统的稳健性和安全性。DeepTeam 是一个旨在对大型语言模型（LLMs）和人工智能代理进行红队测试的框架，提供了一种结构化的方法来测试和增强人工智能系统的稳健性和安全性。

对抗鲁棒性工具箱

AI 框架

#34

旨在增强机器学习模型安全性的Python库。它提供了评估、保护和验证模型抵御对抗威胁的工具，支持多种框架和数据类型。对抗鲁棒性工具箱是一个旨在增强机器学习模型安全性的Python库。它提供了评估、保护和验证模型抵御对抗威胁的工具，支持多种框架和数据类型。

开源的LLM漏洞扫描器，旨在评估大型语言模型的安全性。它提供了众多插件和数千个提示，以测试模型安全性，得到了NVIDIA和社区的支持。garak是一个开源的LLM漏洞扫描器，旨在评估大型语言模型的安全性。它提供了众多插件和数千个提示，以测试模型安全性，得到了NVIDIA和社区的支持。

Vulnhuntr - 零样本漏洞发现

AI GitHub 仓库

#211

使用大型语言模型 (LLMs) 进行零样本漏洞发现的工具。它使开发人员能够在没有先前示例的情况下识别代码中的潜在安全漏洞，从而增强软件安全性和可靠性。Vulnhuntr 是一个使用大型语言模型 (LLMs) 进行零样本漏洞发现的工具。它使开发人员能够在没有先前示例的情况下识别代码中的潜在安全漏洞，从而增强软件安全性和可靠性。

Agentic Security Scanner

AI GitHub 仓库

漏洞扫描器和 AI 红队工具包，旨在识别和解决大型语言模型 (LLMs) 中的漏洞。它为安全专业人员提供了测试和改进 AI 系统的工具。Agentic Security 是一款漏洞扫描器和 AI 红队工具包，旨在识别和解决大型语言模型 (LLMs) 中的漏洞。它为安全专业人员提供了测试和改进 AI 系统的工具。

SkillSpector 安全扫描器

AI GitHub 仓库

针对 AI 代理技能的安全扫描器，旨在检测漏洞、恶意模式和安全风险。它专注于 Claude Code、Codex 和 MCP 技能中的提示注入、数据外泄和供应链风险，在安装之前进行检查。SkillSpector 是一款针对 AI 代理技能的安全扫描器，旨在检测漏洞、恶意模式和安全风险。它专注于 Claude Code、Codex 和 MCP 技能中的提示注入、数据外泄和供应链风险，在安装之前进行检查。

ps-fuzz

AI GitHub 仓库

#83

旨在通过测试和强化系统提示来增强GenAI应用程序安全性的工具。它旨在确保AI系统的安全性，为开发人员提供强大的安全测试解决方案。ps-fuzz是一个旨在通过测试和强化系统提示来增强GenAI应用程序安全性的工具。它旨在确保AI系统的安全性，为开发人员提供强大的安全测试解决方案。