APP下载

基于双对抗机制的图像攻击算法

2021-11-18黄静琪贾西平陈道鑫柏柯嘉廖秀秀

计算机工程 2021年11期
关键词:分类效果模型

黄静琪,贾西平,陈道鑫,柏柯嘉,廖秀秀

(广东技术师范大学计算机科学学院,广州 510665)

0 概述

深度学习是学习样本数据的内在规律和表示层次的算法,在学习过程中获得的信息对文字、图像和声音等数据的解释具有很大的帮助[1]。由于深度学习系统的训练过程和训练模型一般是封闭的,而训练数据集和预测数据需要与用户交互,因此容易受到未知恶意样本攻击[2]。如果在训练数据集中出现恶意样本,则称之为投毒攻击;如果在预测数据中出现恶意样本,则称之为对抗攻击[3]。对抗攻击利用对抗样本扰乱分类器的分类,使模型预测错误,从而破坏模型可用性。对抗样本是在原始样本中添加扰动而产生的,通过人类肉眼观看和原始样本基本没有区别。对抗攻击的难点在于攻击成功率和扰动之间的平衡。一般地,扰动越大,攻击成功率越高,但是攻击样本与原始样本的视觉差异越明显,反之亦然。

GOODFELLOW 等[4]提出快速梯度标志攻击(Fast Gradient Sign Method,FGSM)方法,通过在梯度方向上添加增量来产生扰动,然后对原始图像添加扰动生成对抗样本,使网络产生误分类。SU 等[5]提出基于差分进化生成单像素的对抗性扰动,目的是通过改变输入图像的一个像素值,达到在最小攻击信息的条件下对更多类型的网络进行欺骗。MOOSAVI-DEZFOOLI 等[6]设计对 于任意 给定的DNN 分类器都可实现图像攻击的扰动,生成的扰动仅与模型本身相关,具有较小的范数,在不改变图像本身结构的情况下,能使分类器以较大概率分类错误,从而实现对于DNN 的攻击,同时这些扰动对人类肉眼而言几乎不可察觉。……

登录APP查看全文

猜你喜欢

分类效果模型
一半模型
按摩效果确有理论依据
分类算一算
重尾非线性自回归模型自加权M-估计的渐近分布
迅速制造慢门虚化效果
抓住“瞬间性”效果
教你一招:数的分类
3D打印中的模型分割与打包
模拟百种唇妆效果