◆杨奎武 张田

深度学习中的对抗样本攻击技术

◆杨奎武 张田

（解放军战略支援部队信息工程大学 河南 450001）

作为人工智能核心的深度学习技术目前已被广泛应用于自然语言处理、机器视觉、决策推理等领域。相比于以往深度学习更加关注模型或算法的效率和性能，当前深度学习面临的安全问题也成为学术界研究的焦点，尤其是对抗样本攻击更是对深度学习的安全性和鲁棒性造成了影响。本文在对对抗样本的概念及其成因介绍的基础上，重点对对抗样本的分类方法、生成方法进行了分析和阐述，并给出了相关对比结果。最后论文从应用角度对对抗样本的作用进行了分析与总结，给出了未来对抗样本攻击的重点研究领域。

人工智能；深度学习；对抗攻击；对抗样本

1 引言

随着人工智能的快速发展，深度学习相关理论和技术目前已经广泛应用于自然语言处理、机器视觉、决策推理、关联分析等领域，但由于深度学习技术自身可解释性差、对训练数据依赖性强、相关模型或算法鲁棒性弱等原因，因此，深度学习技术在给我们生活带来方便的同时，也面临着非常严峻的安全问题，这其中对抗样本攻击就是深度学习模型和算法需要面对的一种典型攻击方式。

2 对抗样本及其成因

图1 Inception-v3中快速对抗样本生成

对抗样本的成因有多种解释，Szegedy等人[1]认为对抗样本是分布在低概率区域的数据，属于样本数据的盲区，由于深度模型的泛化性不够，使得盲区数据成为对抗样本，如图2所示。……