APP下载

基于量子局部内在维度的对抗样本检测算法

2024-03-21张仕斌

计算机应用 2024年2期
关键词:检测模型

张 瑜,昌 燕*,张仕斌

(1.成都信息工程大学 网络空间安全学院,成都 610225;2.先进密码技术与系统安全四川省重点实验室(成都信息工程大学),成都 610225)

0 引言

近年来,机器学习发展迅速,尤其是基于人工神经网络的深度学习逐渐渗透到人们生活中的各个领域,如图像识别[1]、信号处理[2]和优化组合[3]。金融背景下,股价预测[4]一直是人们持续关注的问题。由于受到市场因素以及其他不可控因素的影响,很难精准预测市场股价。研究人员提出使用深度神经网络(Deep Neural Network,DNN)预测每日股价的涨跌[5]。尽管在预测正常样本时有表现优异,但在实际应用中可能存在大量的攻击者恶意篡改股票数据,向原始数据中故意添加人眼无法观测的对抗扰动形成对抗样本,致使DNN 模型分类或预测出错,为用户提供错误的参考值。已有很多研究者在此基础上提出不同种类的对抗样本攻击方法生成对抗样本,如FGSM(Fast Gradient Sign Method)[6]、基于分类器的迭代线性化的DeepFool 算法[7]、基于雅可比矩阵的显著性图攻击(Jacobian-based Saliency Map Attack,JSMA)方法[8]、CW(Carlini &Wagner)攻击[9]等,对抗样本的输入使深度学习模型在置信水平极高的情况下作出错误判断,给深度学习的实际应用带来了巨大挑战。因此,研究深度学习模型的对抗样本防御方法尤为重要。

目前,对抗样本防御方法主要分为对抗攻击防御和对抗攻击检测两个方面:

1)对抗攻击防御是针对对抗样本攻击的防御方法,使深度学习模型在输入对抗样本时仍然保持良好的性能,提高了深度学习模型的鲁棒性。……

登录APP查看全文

猜你喜欢

检测模型
一半模型
重尾非线性自回归模型自加权M-估计的渐近分布
3D打印中的模型分割与打包
小波变换在PCB缺陷检测中的应用
FLUKA几何模型到CAD几何模型转换方法初步研究
一个相似模型的应用