黑客的机器学习

Springboard的机器学习与人工智能训练营是一个为期6个月的在线项目，旨在教授学生机器学习、深度学习和人工智能。通过一对一的指导，学生构建和部署真实的人工智能系统，掌握回归、异常检测等技能。毕业生获得证书和职业支持。

对抗鲁棒性工具箱

AI 框架

#34

旨在增强机器学习模型安全性的Python库。它提供了评估、保护和验证模型抵御对抗威胁的工具，支持多种框架和数据类型。对抗鲁棒性工具箱是一个旨在增强机器学习模型安全性的Python库。它提供了评估、保护和验证模型抵御对抗威胁的工具，支持多种框架和数据类型。

AgentDojo

AI 框架

动态环境，旨在评估 LLM 代理的提示注入攻击和防御。由苏黎世联邦理工学院和 Invariant Labs 的研究人员开发，它提供了基准测试和创建新攻击和防御模型的工具，帮助研究 AI 漏洞。AgentDojo 是一个动态环境，旨在评估 LLM 代理的提示注入攻击和防御。由苏黎世联邦理工学院和 Invariant Labs 的研究人员开发，它提供了基准测试和创建新攻击和防御模型的工具，帮助研究 AI 漏洞。

Giskard

AI 应用

#94

专注于持续红队测试和大型语言模型（LLM）安全的AI安全平台。它通过自动化测试和评估帮助检测漏洞、预防幻觉并保护AI系统。Giskard是一个专注于持续红队测试和大型语言模型（LLM）安全的AI安全平台。它通过自动化测试和评估帮助检测漏洞、预防幻觉并保护AI系统。

modelscan - 模型序列化保护

AI GitHub 仓库

专注于防止模型序列化攻击的GitHub项目。它为开发者提供工具和资源，以保护他们的机器学习模型免受序列化过程中的潜在漏洞。Modelscan是一个专注于防止模型序列化攻击的GitHub项目。它为开发者提供工具和资源，以保护他们的机器学习模型免受序列化过程中的潜在漏洞。

开源的LLM漏洞扫描器，旨在评估大型语言模型的安全性。它提供了众多插件和数千个提示，以测试模型安全性，得到了NVIDIA和社区的支持。garak是一个开源的LLM漏洞扫描器，旨在评估大型语言模型的安全性。它提供了众多插件和数千个提示，以测试模型安全性，得到了NVIDIA和社区的支持。

Adversa AI

AI 应用

#119

提供一个自主平台，用于持续的 AI 红队演练，专门针对 AI 代理、LLM 和 GenAI 应用。它识别并修复安全漏洞，确保 AI 系统能够大规模部署而不会引入不当风险。该服务映射到 OWASP 和 NIST 标准，为定制 AI 解决方案提供量身定制的安全保障。Adversa AI 提供一个自主平台，用于持续的 AI 红队演练，专门针对 AI 代理、LLM 和 GenAI 应用。它识别并修复安全漏洞，确保 AI 系统能够大规模部署而不会引入不当风险。该服务映射到 OWASP 和 NIST 标准，为定制 AI 解决方案提供量身定制的安全保障。

SkillSpector 安全扫描器

AI GitHub 仓库

针对 AI 代理技能的安全扫描器，旨在检测漏洞、恶意模式和安全风险。它专注于 Claude Code、Codex 和 MCP 技能中的提示注入、数据外泄和供应链风险，在安装之前进行检查。SkillSpector 是一款针对 AI 代理技能的安全扫描器，旨在检测漏洞、恶意模式和安全风险。它专注于 Claude Code、Codex 和 MCP 技能中的提示注入、数据外泄和供应链风险，在安装之前进行检查。