白祉旭，王衡军，郭可翔

战略支援部队信息工程大学，郑州 450001

随着深度学习的崛起，人工智能迎来了新一轮的热潮，在越来越多的领域中发挥着重要的作用，如计算机视觉、自然语言处理等。在大数据的支撑下，深度神经网络在图像识别和目标检测领域中拥有惊人的表现，使得大量基于深度学习的应用在现实世界中广泛投入使用，尤其是在很多与安全相关的环境中的实际应用，如手机支付、自动驾驶汽车、无人机侦察等，深度神经网络的安全逐渐成为人工智能安全问题中研究的重点。

尽管深度神经网络在大多数分类任务中拥有良好的表现，但在面对对抗样本时则显得十分脆弱。对抗样本是在数据集中通过故意添加细微扰动所形成的输入样本，这些样本能够诱导机器学习模型进行错误的分类，对模型的安全形成威胁。最新的研究表明，对抗样本可以应用于现实世界。例如，日常生活中使用对抗样本面具伪装机主身份，欺骗智能手机人脸识别系统，造成个人身份信息泄露和财产损失；交通出行中使用对抗样本替代路边的停车标志，诱导自动驾驶汽车对交通标志错误识别，引发严重的交通事故；军事行动中，使用对抗样本补丁作为迷彩图案，添加到重要的军事设施和作训服中，诱导敌方无人机侦察系统判断错误，以达到扰乱敌方的目的。另一方面，对于模型设计者来说，对抗样本可以作为评估模型安全性[1]和鲁棒性的有效工具，通过对抗训练，能有效提升模型分类的正确率和安全性。……