蔡秀霞，杜慧敏

(西安邮电大学 电子工程学院,陕西 西安 710121)

自2012年以来，深度学习技术得到迅猛发展[1-3]，已经被广泛地应用于工程物理领域[4-5]。深度学习技术应用在带给人们巨大便利的同时，从2013年开始，深度学习技术的抗干扰性能开始受到质疑[6]。研究表明，对于某些略带扰动的输入，人眼对这些扰动几乎无法察觉，仍然能够正确地识别图像[7-8]，但是，深度学习技术很难产生满意的结果，会产生识别和分类错误等问题。

某些对抗样本对神经网络的成功攻击案例，使得研究者们开始考虑神经网络对输入数据依赖性的问题[9]。后续的研究发现，神经网络对输入数据很敏感。神经网络的输出结果与输入数据分布之间的这种不明显的关联方式，受到了广泛关注[10]。

对抗样本是指在输入的干净数据中添加肉眼难以觉察的扰动所得到扰动样本，如果该扰动样本能够导致学习系统的输出结果错误，则称该扰动样本为对抗样本[11]。对抗样本生成技术是一种可以产生扰动数据并且导致现有机器学习方法无法正常检测、识别和分类的技术。针对神经网络产生对抗样本的过程被称为对抗攻击。

面向机器的攻击方法和对抗样本生成技术是攻击技术的核心和基础之一。尤其是近几年，针对机器深度学习的对抗攻击算法和对抗样本生成技术引起了众多学者的极大关注，已经成为了电子对抗领域中的研究热点之一，并取得了一系列重要进展。论文拟介绍和总结对抗攻击算法和对抗样本生成技术方面研究取得的重要进展、存在问题以及未来研究的发展趋势和有待解决的问题。……