付 森 何珍祥

（甘肃政法大学网络空间安全学院，甘肃 兰州 730070）

1 引言

随着人工智能的兴起与发展，机器学习算法在许多方面都有被应用，在网络安全领域贝叶斯算法被用于过滤垃圾邮件、随机森林被用于恶意域名检测、聚类以及深度神经网络等算法被用于网络入侵检测等，机器学习算法在推动人工智能发展的同时，它的自身也会有安全问题存在，很多研究人员只关心怎么提高模型的性能，但是经常会将模型的脆弱性和鲁棒性给忽略掉。通常情况下，攻击者可以利用恶意网络流量发动有效攻击并获取利益，他们通过深入研究这些网络流量检测算法，发现漏洞并加以利用。本文的研究内容是从攻击角度出发，旨在提出一种更强的攻击算法以促进防御方法的提升。

现有研究发现，机器学习在受到轻微输入扰动时很容易被干扰，这些干扰虽然无法被发现但是会轻易造成检测器识别准确率降低。Segedy[7]等人首次发现在图像上添加了不易察觉的扰动，并且将训练后的神经网络分类误差最大化后，神经网络无法将图像进行正确分类。添加轻微扰动后的样本称为对抗样本。截至目前，对抗样本的生成方法主要分为两种：一种是基于梯度算法生成对抗样本。Xiao[8]等人引入一种基于自适应梯度的对抗攻击方法，该方法依据输入的先验梯度，并自适应地调整扰动的累积量，从而执行高级别的对抗攻击；张文翔[14]等人提出了基于批量梯度的快速梯度符号法（Mb-MI-FGSM），该方法使用了神经网络损失函数对批量输入中的每一个样本的偏导数的均值来指导对抗样本的生成。……