Adversarial examples reveal the vulnerability and unexplained nature of neural networks. Studying the defense of adversarial examples is of considerable practical importance. Most adversarial examples that misclassify networks are often undetectable by humans. In this paper, we propose a defense model to train the classifier into a human-perception classification model with shape preference. The proposed model comprising a texture transfer network (TTN) and an auxiliary defense generative adversarial networks (GAN) is called Human-perception Auxiliary Defense GAN (HAD-GAN). The TTN is used to extend the texture samples of a clean image and helps classifiers focus on its shape. GAN is utilized to form a training framework for the model and generate the necessary images. A series of experiments conducted on MNIST, Fashion-MNIST and CIFAR10 show that the proposed model outperforms the state-of-the-art defense methods for network robustness. The model also demonstrates a significant improvement on defense capability of adversarial examples.


翻译:反对立实例揭示了神经网络的脆弱性和不可解释的性质。研究对抗性实例的防御具有相当大的实际重要性。多数对立实例表明网络分类错误往往无法被人类探测到。在本文中,我们提议了一个防御模型,将分类者训练成一个带有形状偏好的人类感知分类模型。拟议的模型包括质谱传输网络和辅助防御基因对抗网络(GAN),称为人类感知辅助防御GAN(HAD-GAN)。TN用来扩大清洁图像的纹理样本,帮助分类者关注其形状。GAN被用来形成模型的培训框架,并生成必要的图像。在MNIST、Fashion-MNIST和CIFAR10上进行的一系列实验表明,拟议的模型超越了网络坚固度方面最先进的防御方法。该模型还表明,对立性实例的防御能力有了显著改善。

0
下载
关闭预览

相关内容

专知会员服务
45+阅读 · 2020年10月31日
【Google】平滑对抗训练,Smooth Adversarial Training
专知会员服务
49+阅读 · 2020年7月4日
【干货书】真实机器学习,264页pdf,Real-World Machine Learning
StarGAN - 图像到图像的翻译
AI研习社
3+阅读 · 2019年4月16日
meta learning 17年:MAML SNAIL
CreateAMind
11+阅读 · 2019年1月2日
gan生成图像at 1024² 的 代码 论文
CreateAMind
4+阅读 · 2017年10月31日
Adversarial Variational Bayes: Unifying VAE and GAN 代码
CreateAMind
7+阅读 · 2017年10月4日
Auto-Encoding GAN
CreateAMind
7+阅读 · 2017年8月4日
Deflecting Adversarial Attacks
Arxiv
8+阅读 · 2020年2月18日
Arxiv
4+阅读 · 2015年3月20日
VIP会员
相关VIP内容
专知会员服务
45+阅读 · 2020年10月31日
【Google】平滑对抗训练,Smooth Adversarial Training
专知会员服务
49+阅读 · 2020年7月4日
【干货书】真实机器学习,264页pdf,Real-World Machine Learning
相关资讯
StarGAN - 图像到图像的翻译
AI研习社
3+阅读 · 2019年4月16日
meta learning 17年:MAML SNAIL
CreateAMind
11+阅读 · 2019年1月2日
gan生成图像at 1024² 的 代码 论文
CreateAMind
4+阅读 · 2017年10月31日
Adversarial Variational Bayes: Unifying VAE and GAN 代码
CreateAMind
7+阅读 · 2017年10月4日
Auto-Encoding GAN
CreateAMind
7+阅读 · 2017年8月4日
相关论文
Deflecting Adversarial Attacks
Arxiv
8+阅读 · 2020年2月18日
Arxiv
4+阅读 · 2015年3月20日
Top
微信扫码咨询专知VIP会员