Adversarial Robustness Toolbox检测模型及对抗攻击的工具箱​

Adversarial Robustness Toolbox 是 IBM 研究团队开源的用于检测模型及对抗攻击的工具箱，为开发人员加强 AI 模型被误导的防御性，让 AI 系统变得更加安全，目前支持 TensorFlow 和 Keras 框架，未来预计会支持更多框架。

支持以下攻击和防御的方法

• Deep Fool




• Fast Gradient Method




• Jacobian Saliency Map




• Universal Perturbation




• Virtual Adversarial Method




• C&W Attack




• NewtonFool

防御方法

• Feature squeezing




• Spatial smoothing




• Label smoothing




• Adversarial training




• Virtual adversarial training