张宇豪，关 昕

(华北计算技术研究所，北京 100083)

0 引言

深度神经网络在图像处理[1]、语音识别[2]、自然语言处理[3]、医疗诊断[4]等领域取得了巨大成功。但其也存在一些安全隐患，在安全性要求高的系统中，神经网络的微小错误可能造成严重后果，因此对其进行测试显得尤为重要。

神经网络是由数据驱动，大多数传统的软件测试方法不适用于神经网络测试，需要根据神经网络特性研究新的测试方法。目前针对神经网络测试的研究已经取得一定进展，相关学者提出了面向神经网络的覆盖准则以及对应的测试方法。这些方法通过最大化神经元覆盖率，找到最佳测试样本，进而发现神经网络的错误行为。文献[5]提出了一个面向深度学习系统的白盒测试框架DeepXplore。文献[6]提出了第一个差异模糊测试框架DLFuzz，通过最大化神经元覆盖率，并生成对抗性样本，发现神经网络中的异常行为。文献[7]提出了第一个用于神经网络的模糊测试框架TensorFuzz，可以发现模型中的数值型错误。文献[8]提出了基于覆盖的模糊测试框架DeepHunter，用于检测神经网络的缺陷。覆盖度量指标是用于衡量测试充分性的准则。传统软件测试在代码级别[9]和模型级别[10]分别定义了许多覆盖度量指标。而神经网络的特殊结构导致传统覆盖指标无法应用于神经网络测试中[11]，如语句覆盖在测试中可以很容易达到100%。根据神经网络的内部逻辑，文献[5]首次提出了神经元覆盖作为覆盖指标，它指的是神经网络中激活神经元的比例。……