VALSE 论文速览 第40期：类别解耦及其在对抗样本的检测和防御中的应用 ...

论文题目：类别解耦及其在对抗样本的检测和防御中的应用

作者列表：Kaiwen Yang (USTC)，Tianyi Zhou (University of Washington、Seattle、University of Maryland、College Park)，Yonggang Zhang (USTC)，Xinmei Tian (USTC)，Dacheng Tao (JD Explore Academy)

B站观看网址：

https://www.bilibili.com/video/BV1zT4y1273Q/

论文摘要：

预测一个图像的类别, 神经网络所需的最少必要信息是什么？在输入的图像空间提取这种信息能够帮助我们了解神经网络主要关注的区域，并且为对抗检测和防御提供新的思路。在本文中，我们提出了一个基于VAE-分类器的类别解耦方法，通过VAE和分类器的互相竞争，把输入图片解耦成类别相关和类别冗余的两部分。我们分别对自然样本和对抗样本做类别解耦，发现对抗噪声主要集中类别相关的部分，这对于分类模型和对抗攻击提供了新的解释。基于这个发现，我们提出在类别相关部分上进行对抗样本的检测，在类别冗余的部分上进行对抗样本的防御，这两个简单的策略能够大幅提升检测和防御多种未知对抗攻击的性能。

论文信息：

[1]Kaiwen Yang, Tianyi Zhou, yonggang zhang, Xinmei Tian, Dacheng Tao, "Class-Disentanglement and Applications in Adversarial Detection and Defense," in 34 th Advances in Neural Information Processing Systems (NeurIPS 2021).

论文链接：

[https://proceedings.neurips.cc/paper/2021/file/8606f35ec6c77858dfb80a385d0d1151-Paper.pdf]

视频讲者简介：

杨楷文，中国科学技术大学信息学院硕士生，目前在京东探索研究院实习，主要从事表征学习、对抗鲁棒性等方面的研究。

特别鸣谢本次论文速览主要组织者：

月度轮值AC：董宣毅 (Amazon)、谢凌曦 (华为数字技术有限公司)

季度责任AC：许永超 (武汉大学)