深度卷积神经网络图像识别模型对抗鲁棒性技术综述
2021-09-02计科峰匡纲要
雷达学报 2021年4期
孙 浩 陈 进 雷 琳 计科峰 匡纲要
①(国防科技大学电子信息系统复杂电磁环境效应国家重点实验室 长沙 410073)
②(北京市遥感信息研究所 北京 100192)
1 引言
近年来以深度卷积神经网络为代表的联结主义智能化[1]图像识别方法取得巨大进展,不断刷新光学和SAR图像场景分类、目标检测与识别、语义分割、变化检测等多任务性能水平[2–5]。智能化的一个重要特征就是能够跨任务、跨领域、跨类别进行知识泛化。然而,现有深度卷积神经网络识别模型依赖统计学习,只有在训练数据和测试数据服从独立同分布的假设前提下泛化性能才能得到有效保证[6]。深度卷积神经网络图像识别模型在面对多种不同类型的训练数据和测试数据间分布漂移时,预测性能水平会大大下降,缺乏对输入扰动的鲁棒性。研究表明[7,8]:在输入图像数据中添加细微对抗扰动,对于人类视觉感知信息变化过于微小不可分辨,但是却会导致深度卷积神经网络识别结果产生大范围的波动变化,甚至是严重的错误输出。深度卷积神经网络图像识别模型的对抗脆弱性给其在安全敏感领域的广泛部署带来巨大安全隐患[1,9–11]。
图1给出了深度卷积神经网络SAR图像识别模型不同输入扰动对比示例。对于来自MSTAR数据集[12]的SAR图像目标切片,以俯仰角17°切片作为训练集学习VGG-16网络[13]深度识别模型。如图1所示,测试图像目标真实类别为BMP2,当无噪声干扰时,识别模型预测输出为真实类别;当在测试图像中添加不同形式的噪声扰动后导致模型预测输出为错误类别。……
登录APP查看全文
