面向深度学习的对抗样本差异性检测方法
2021-07-30王曙燕侯则昱孙家泽
计算机应用 2021年7期
王曙燕,侯则昱,孙家泽
(西安邮电大学可信软件实验室,西安 710121)
0 引言
深度学习技术在计算机视觉[1-2]、自然语言处理[3]等领域的应用发展迅速,将深度神经网络应用于诸如人脸识别系统[4]、自动驾驶系统[5-6]及恶意软件检测等关键系统的趋势不断增长。深度学习模型的核心工作原理是依赖人准备和筛选的训练样本数据,基于多隐藏层的非线性变换来校准、刻画和记忆数据,但距离在多领域通用的“AI 核心”还存在着较大差距[7]。目前,工业上更关注于模型的性能以及训练效率,即尽可能最大化资源利用率以提升深度模型的训练精度,与此同时,往往却忽视了深度模型的鲁棒性[8-9]以及安全性问题,即一个高精度的深度模型在受到恶意攻击时,是否仍能做出准确的判断。因此,特别是在许多涉及安全性的关键场景中,模型系统内部结构与鲁棒性的关系[10]以及模型受到恶意攻击时是否鲁棒的问题也受到了众多专家与学者的广泛关注与探究[11-12]。
在以上背景下,对于对抗攻击的相关研究大量涌现。对抗攻击的关键在于对抗样本攻击[13-14],“对抗样本(adversarial sample)”这一概念最早由Szegedy 等[15]提出,是一种能够欺骗深度学习系统模型做出错误判断的一类样本,即在输入端样本数据中添加人类肉眼无法识别的细微扰动得到的新样本,能使模型以极高的置信度做出错误的判断。在此之后,对抗样本产生方式的研究也层出不穷,Goodfellow等[16]证明了深度学习系统模型内部结构的高维线性是导致其能够被对抗样本攻击的根本原因,并提出了一种基于损失函数训练梯度的攻击方法——快速梯度符号标记法(Fast Gradient Sign Method,FGSM)。……
登录APP查看全文
