蔡瑞初，钟椿荣，余 洋，陈炳丰，卢 冶，陈 瑶,3

(1.广东工业大学 计算机学院，广州 510006； 2.南开大学 计算机与控制工程学院，天津 300353；3.新加坡高等数字科学中心，新加坡 138602)

0 引言

近年，卷积神经网络(Convolution Neural Network, CNN)凭借其强大的特征提取能力而被广泛应用于自动控制、模式识别、计算机视觉、传感器信号处理等方面，但由于智能识别任务数据交互量大，云计算中心存在负担重和网络传输延迟时间较长等问题，使得卷积神经网络在嵌入式终端的部署受到限制。例如，无人驾驶汽车领域[1]，其车载传感器和摄像头持续捕捉实时路况信息，如果所有的无人驾驶汽车的数据直接发送到云计算中心处理，响应延迟时间将会更长，以至于无法满足自动驾驶对实时性数据处理的需求。为了实现实时路况的及时响应，需在车载嵌入式等“边缘”设备上进行卷积神经网络的部署。

随着卷积神经网络模型堆叠的层数越来越多，网络模型的权重参数数量也随之增长。例如，LeCun等[2]提出的LeNet-5卷积神经网络模型需要训练600 000个参数；Krizhevsky等[3]设计的AlexNet权重参数数量是LeNet-5的近100倍。而之后的VGG-19[4]网络模型的权重参数数量达到了1×108；Coates等[5]甚至将卷积神经网络权重参数扩展到1×109。卷积神经网络的复杂度主要体现在两个部分：一是卷积层包含了网络90%以上的运算操作；二是全连接层产生了超过90%的网络参数。这导致卷积神经网络的“边缘”部署受到嵌入式设备的内存空间、计算量和计算速度等方面的影响。

通常情况下，如车载……