Phobos框架

ps-fuzz

AI GitHub 仓库

#83

旨在通过测试和强化系统提示来增强GenAI应用程序安全性的工具。它旨在确保AI系统的安全性，为开发人员提供强大的安全测试解决方案。ps-fuzz是一个旨在通过测试和强化系统提示来增强GenAI应用程序安全性的工具。它旨在确保AI系统的安全性，为开发人员提供强大的安全测试解决方案。

Agentic Security Scanner

AI GitHub 仓库

漏洞扫描器和 AI 红队工具包，旨在识别和解决大型语言模型 (LLMs) 中的漏洞。它为安全专业人员提供了测试和改进 AI 系统的工具。Agentic Security 是一款漏洞扫描器和 AI 红队工具包，旨在识别和解决大型语言模型 (LLMs) 中的漏洞。它为安全专业人员提供了测试和改进 AI 系统的工具。

Strix - AI安全平台

AI 应用

#55

基于AI的渗透测试和自主安全平台，持续测试您的代码、API、云和基础设施，提供经过验证的发现和修复PR。免费开始，有效保护您的技术栈。Strix是一个基于AI的渗透测试和自主安全平台，持续测试您的代码、API、云和基础设施，提供经过验证的发现和修复PR。免费开始，有效保护您的技术栈。

SkillSpector 安全扫描器

AI GitHub 仓库

针对 AI 代理技能的安全扫描器，旨在检测漏洞、恶意模式和安全风险。它专注于 Claude Code、Codex 和 MCP 技能中的提示注入、数据外泄和供应链风险，在安装之前进行检查。SkillSpector 是一款针对 AI 代理技能的安全扫描器，旨在检测漏洞、恶意模式和安全风险。它专注于 Claude Code、Codex 和 MCP 技能中的提示注入、数据外泄和供应链风险，在安装之前进行检查。

Giskard

AI 应用

#94

专注于持续红队测试和大型语言模型（LLM）安全的AI安全平台。它通过自动化测试和评估帮助检测漏洞、预防幻觉并保护AI系统。Giskard是一个专注于持续红队测试和大型语言模型（LLM）安全的AI安全平台。它通过自动化测试和评估帮助检测漏洞、预防幻觉并保护AI系统。

AgentDojo

AI 框架

动态环境，旨在评估 LLM 代理的提示注入攻击和防御。由苏黎世联邦理工学院和 Invariant Labs 的研究人员开发，它提供了基准测试和创建新攻击和防御模型的工具，帮助研究 AI 漏洞。AgentDojo 是一个动态环境，旨在评估 LLM 代理的提示注入攻击和防御。由苏黎世联邦理工学院和 Invariant Labs 的研究人员开发，它提供了基准测试和创建新攻击和防御模型的工具，帮助研究 AI 漏洞。

代理安全基准 (ASB)

AI GitHub 仓库

专注于增强 AI 代理安全性的 GitHub 项目。它允许开发者参与其开发，促进改善 AI 代理安全性的协作环境。代理安全基准 (ASB) 是一个专注于增强 AI 代理安全性的 GitHub 项目。它允许开发者参与其开发，促进改善 AI 代理安全性的协作环境。

Aptori | 自动化应用安全

AI 应用

#66

原生 AI 应用安全平台，可持续验证运行时行为，证明可利用性，并优先处理真实风险。它加速修复，验证关闭，并为受监管的企业提供受管证据，确保在 AI 时代实现安全设计软件。Aptori 是一个原生 AI 应用安全平台，可持续验证运行时行为，证明可利用性，并优先处理真实风险。它加速修复，验证关闭，并为受监管的企业提供受管证据，确保在 AI 时代实现安全设计软件。