基于双对抗机制的图像攻击算法
2021-11-18黄静琪贾西平陈道鑫柏柯嘉廖秀秀
计算机工程 2021年11期
黄静琪,贾西平,陈道鑫,柏柯嘉,廖秀秀
(广东技术师范大学计算机科学学院,广州 510665)
0 概述
深度学习是学习样本数据的内在规律和表示层次的算法,在学习过程中获得的信息对文字、图像和声音等数据的解释具有很大的帮助[1]。由于深度学习系统的训练过程和训练模型一般是封闭的,而训练数据集和预测数据需要与用户交互,因此容易受到未知恶意样本攻击[2]。如果在训练数据集中出现恶意样本,则称之为投毒攻击;如果在预测数据中出现恶意样本,则称之为对抗攻击[3]。对抗攻击利用对抗样本扰乱分类器的分类,使模型预测错误,从而破坏模型可用性。对抗样本是在原始样本中添加扰动而产生的,通过人类肉眼观看和原始样本基本没有区别。对抗攻击的难点在于攻击成功率和扰动之间的平衡。一般地,扰动越大,攻击成功率越高,但是攻击样本与原始样本的视觉差异越明显,反之亦然。
GOODFELLOW 等[4]提出快速梯度标志攻击(Fast Gradient Sign Method,FGSM)方法,通过在梯度方向上添加增量来产生扰动,然后对原始图像添加扰动生成对抗样本,使网络产生误分类。SU 等[5]提出基于差分进化生成单像素的对抗性扰动,目的是通过改变输入图像的一个像素值,达到在最小攻击信息的条件下对更多类型的网络进行欺骗。MOOSAVI-DEZFOOLI 等[6]设计对 于任意 给定的DNN 分类器都可实现图像攻击的扰动,生成的扰动仅与模型本身相关,具有较小的范数,在不改变图像本身结构的情况下,能使分类器以较大概率分类错误,从而实现对于DNN 的攻击,同时这些扰动对人类肉眼而言几乎不可察觉。……
登录APP查看全文
