邱飞岳，孔德伟，张志勇，章国道

1(浙江工业大学 教育科学与技术学院，杭州 310023) 2(浙江工业大学 计算机科学与技术学院，杭州 310023) 3(东华理工大学 信息工程学院，南昌 330013) E-mail：david_kong860@163.com

1 引 言

卷积神经网络在当前最先进的图像分类、目标检测[1]、语义分割[2，3]、语音识别[4]等领域下都有非常出色的表现.早在1998年，Lecun[5]等设计最原始的卷积神经网络结构LeNet-5对手写数字进行识别.2012年Krizhevsky[6]等在ImageNet图像分类竞赛凭借60M参数量模型获胜.2014年Deepface[7]使用9层卷积神经网络构建120M参数模型进行人脸分类.2015年Gong[8]等人将ImageNet模型参数大小从200M压缩至10M.2016年Mohammad[9]等人提出基于二元权值和XNOR网络结构，使用二进制值作为滤波器输入能节省近32倍内存消耗，在XNOR网络中，使用二进制值作为滤波器和卷积层的输入，卷积运算速度提高了近58倍，且内存消耗减少近32倍.2017年Zhou[10]等人通过引入权值划分、分组量化、重训练方式将预训练卷积网络每一层权值划分为两个不相交的组，通过迭代训练将所有权值转位低精度的权值，最终将预训练的卷积网络模型转换为权值约束为0或2的低精度模型进而应用与嵌入式设备.2020年Li[11]等提出一种全卷积多并联残差神经网络，将每一层的特征信息同时传输到池化层，取得较好分类效果.应用于图像分类[12]、人脸识别[13]、超分辨率算法[14]等大型神经网络结构识别每年都有突破，但是模型的大小对于嵌入式移动设备来说，是一种相当大的存储占用以及计算资源消耗使得很多优秀的网络框架难以应用于实际场景……