对抗鲁棒性工具箱

Python库，旨在创建挑战神经网络的对抗样本。它支持PyTorch、TensorFlow和JAX，提供最先进的基于梯度和基于决策的攻击。基于EagerPy构建，确保本地性能，并包括广泛的类型检查，以便及早捕捉错误。Foolbox是一个Python库，旨在创建挑战神经网络的对抗样本。它支持PyTorch、TensorFlow和JAX，提供最先进的基于梯度和基于决策的攻击。基于EagerPy构建，确保本地性能，并包括广泛的类型检查，以便及早捕捉错误。

AgentDojo

AI 框架

动态环境，旨在评估 LLM 代理的提示注入攻击和防御。由苏黎世联邦理工学院和 Invariant Labs 的研究人员开发，它提供了基准测试和创建新攻击和防御模型的工具，帮助研究 AI 漏洞。AgentDojo 是一个动态环境，旨在评估 LLM 代理的提示注入攻击和防御。由苏黎世联邦理工学院和 Invariant Labs 的研究人员开发，它提供了基准测试和创建新攻击和防御模型的工具，帮助研究 AI 漏洞。

开源的LLM漏洞扫描器，旨在评估大型语言模型的安全性。它提供了众多插件和数千个提示，以测试模型安全性，得到了NVIDIA和社区的支持。garak是一个开源的LLM漏洞扫描器，旨在评估大型语言模型的安全性。它提供了众多插件和数千个提示，以测试模型安全性，得到了NVIDIA和社区的支持。

HiddenLayer | 全面AI安全

AI 应用

#33

提供一个端到端的AI安全平台，能够检测威胁、保护模型，并确保安全的AI采用。它在AI生命周期中提供全面的安全性，解决来自第三方模型的风险，并确保大规模合规。HiddenLayer提供一个端到端的AI安全平台，能够检测威胁、保护模型，并确保安全的AI采用。它在AI生命周期中提供全面的安全性，解决来自第三方模型的风险，并确保大规模合规。

modelscan - 模型序列化保护

AI GitHub 仓库

专注于防止模型序列化攻击的GitHub项目。它为开发者提供工具和资源，以保护他们的机器学习模型免受序列化过程中的潜在漏洞。Modelscan是一个专注于防止模型序列化攻击的GitHub项目。它为开发者提供工具和资源，以保护他们的机器学习模型免受序列化过程中的潜在漏洞。

AccuKnox AI安全工具

AI 应用

提供旨在保护AI工作负载的AI安全工具，符合零信任合规性。它在数据、训练、模型、应用和运行时环境中提供统一的态势管理，确保AI/LLM部署的全面安全。AccuKnox提供旨在保护AI工作负载的AI安全工具，符合零信任合规性。它在数据、训练、模型、应用和运行时环境中提供统一的态势管理，确保AI/LLM部署的全面安全。

Adversa AI

AI 应用

#119

提供一个自主平台，用于持续的 AI 红队演练，专门针对 AI 代理、LLM 和 GenAI 应用。它识别并修复安全漏洞，确保 AI 系统能够大规模部署而不会引入不当风险。该服务映射到 OWASP 和 NIST 标准，为定制 AI 解决方案提供量身定制的安全保障。Adversa AI 提供一个自主平台，用于持续的 AI 红队演练，专门针对 AI 代理、LLM 和 GenAI 应用。它识别并修复安全漏洞，确保 AI 系统能够大规模部署而不会引入不当风险。该服务映射到 OWASP 和 NIST 标准，为定制 AI 解决方案提供量身定制的安全保障。

Alice

AI 应用

#27

ActiveFence，现在称为Alice，提供全面的AI安全平台。它提供对抗性情报、红队测试和实时保护措施，以保护AI系统免受滥用和漏洞的影响，确保安全和合规的AI部署。