描述
Fabraix 是一家专注于通过开发红队 AI 代理来增强 AI 系统安全性的公司。这些代理旨在在恶意攻击者之前识别和利用面向客户的 AI 系统中的安全漏洞。Fabraix 提供的核心是 Nyx,一个自主测试工具,能够对 AI 代理进行多轮自适应压力测试。Nyx 作为一个纯黑箱操作,不需要对其测试的系统进行特殊访问,并且能够通过语音、文本和图像与 AI 代理进行交互。
阅读更多
Nyx 旨在揭示静态基准和一次性审计通常遗漏的故障模式。它可以在多个领域探测 AI 系统,包括支持机器人、代码代理和浏览器代理,识别诸如幻觉答案、政策漂移和提示注入等问题。该平台具有大规模并行性,允许数千个模拟同时运行,扩展依赖于计算能力而非人力资源。
Fabraix 的方法基于对对抗性鲁棒性和威胁成本经济学的原创研究。该公司成功识别了许多财富 500 强公司使用的 AI 系统中的漏洞。Nyx 的能力通过其能够集成到 CI/CD 管道中得到了进一步增强,确保每次对 AI 代理的更新在部署前都经过测试。
Fabraix 提供多种定价选项,以满足不同的测试需求。研究人员可以免费访问 Nyx,而商业用户可以选择一次性扫描或持续测试计划。该平台设计为安全,具有隔离和短暂的扫描环境,并且不对客户数据进行训练。
- 类别AI 网络安全工具
- 定价模式免费增值
- 部署云端
- 平台网页
Fabraix的核心功能
红队 AI 代理
自主测试工具
多轮自适应压力测试
纯黑箱操作
多模态交互
大规模并行模拟
CI/CD 集成
对抗性鲁棒性的原创研究
如何使用 Fabraix?
配置:设置 Nyx 以针对您的 AI 系统
使用:运行多轮自适应压力测试
优化:分析发现并提高安全性
集成:与 CI/CD 连接以进行持续测试
Fabraix的使用案例
- AI 安全测试
- 持续集成
- 多模态测试
- 对抗性鲁棒性
- 研究与开发








