VALSE 论文速览 第73期：基于定制化迭代和采样的高效查询黑盒对抗攻击 ...

论文题目：Query-efficient Black-box Adversarial Attack with Customized Iteration and Sampling

作者列表：石育澄 (天津大学)，韩亚洪 (天津大学)，胡清华 (天津大学)，杨易 (浙江大学)，田奇 (华为云)

B站观看网址：

https://www.bilibili.com/video/BV1k5411Q7Lb/

论文摘要：

对抗样本揭示了深度神经网络在对抗噪声环境下的脆弱性。根据攻击方对目标模型了解程度的高低进行分类，对抗攻击可分为白盒攻击与黑盒攻击。在现有的黑盒攻击方法中，基于迁移的攻击往往在参数设置上过拟合于替代模型，而基于决策的攻击由于采用固定的采样与贪心的搜索策略导致查询效率低。为了缓解黑盒对抗攻击的上述问题，本文提出了一个新的高效查询的黑盒对抗攻击框架，将基于迁移的攻击和基于决策的攻击进行统一。在新框架的指导下，本文提出了一种定制化迭代和采样 (CISA)的黑盒对抗攻击。CISA通过估计距离邻近决策边界的距离来设置步长，并使用双向迭代轨迹来寻找中间对抗样本。在中间对抗样本的基础上，CISA根据每个像素的噪声敏感性进行定制化采样，进一步压缩噪声，同时对状态转移函数进行松弛以获得更高的查询效率。在三个不同图像分类数据集上的实验验证了CISA在黑盒攻击的查询效率方面的优势。

论文信息：

[1] Yucheng Shi, Yahong Han, Qinghua Hu, Yi Yang, Qi Tian. Query-efficient Black-box Adversarial Attack with Customized Iteration and Sampling. TPAMI 2022.

论文链接：

[https://ieeexplore.ieee.org/document/9762566]

代码链接：

[https://github.com/shiyuchengTJU/CISA]

视频讲者简介：

石育澄，天津大学博士生，在TPAMI/ CVPR/ TKDE等国际高水平会议或期刊发表多篇论文，博士期间主要研究方向是对抗机器学习与人工智能安全。

特别鸣谢本次论文速览主要组织者：

月度轮值AC：文碧汉 (南洋理工大学)、杨文瀚 (南洋理工大学)

季度责任AC：魏秀参 (南京理工大学)