张 良，张 增 ，舒伟华，梅魁志

1.武汉数字工程研究所，武汉 430074

2.西安交通大学 电子与信息工程学部，西安 710049

3.中国航发南方工业有限公司，湖南 株洲 412002

卷积神经网络是深度学习[1]中重要的算法，在模式识别、图像处理、自动控制和智能机器人等方面有着广泛的应用。随着研究中对精度、数据集要求提高，卷积神经网络的网络层数、计算复杂度也随之增加。

目前，卷积神经网络主要在GPU（Graphics Processing Unit）或高性能 CPU（Central Processing Unit）上面运行，可以达到很流畅的运行效果，但是在各类移动设备、嵌入式设备中，会面临功耗、体积、计算速度等限制。如何在保证卷积神经网络精度不下降的情况下，降低网络计算量，削减网络模型存储空间，使之能在资源受限的设备上高效运行是亟需解决的问题。本文中提出的结构化剪枝就是一种对卷积神经网络压缩和优化的方法。网络剪枝能够通过去除模型中的部分连接加速卷积神经网络。剪枝的主要步骤是：训练原始网络，更新网络中各个参数的权值；对网络中权重较低的参数进行修剪；重新训练网络，恢复神经网络精度[2]。

剪枝可以分为结构化剪枝和非结构化剪枝两类。结构化剪枝相对非结构化剪枝的最明显特点是它产生的稀疏矩阵是有规则的，剪枝后网络加速需要的运算量更少[3]。

结构化剪枝按照剪枝依据可分为基于重要性和基于正则化的剪枝方法，本文采用的是基于重要性的剪枝方法[4]。结构化剪枝按照被剪枝单元可分为向量级、核级[5]、组级和通道级剪枝[6]四种。……