一种基于批量归一化的LeNet网络改进方法
2021-06-05陈亚军
沈 锐,陈亚军
(西华师范大学 计算机学院,四川 南充 637009)
0 引 言
图像分类是指根据图像信息中存在的不同特征,把不同类别的目标进行分类的图像处理方法.[1]卷积神经网络(Convolutional Neural Networks)作为深度学习的一个分支,近几年来发展迅速,受到了越来越多的关注,在大规模图像识别中,研究者们相继提出了AlexNet、[2]ZFNet、[3]ResNet[4]和SENet[5]等模型.与传统的KNN(k-NearestNeighbor)、SVM(Support Vector Machine)和ANN(Artificial Neural Network)模型相比,CNN更善于挖掘数据中深层的、抽象的特征.[6]张婷等[7]参考DeepId思想,提出了跨连卷积神经网络,在性别的分类中表现不错;李勇等[8]使用跨连将池化层的输出与全连接层融合,在表情识别中的效果比传统神经网络好;刘金利等[1]将跨连思想和InceptionV1模块相结合,对多类别的图像识别中效果好于传统LeNet网络,但没有考虑增加网络结构,并将多层特征连接,这样会使得网络结构复杂,增加训练时间,降低网络学习效率.本文针对以上缺点提出LeNet网络改进方法,使用批量归一化、Dropout、全局平均池化等方法简化可训练参数,优化网络结构,在缩短训练时间的同时,保证训练精度稳定提升.
1 LeNet网络结构及相关算法
1.1 LeNet网络结构
LeNet是由Yann LeCun提出的第一个成功应用于手写数字识别的神经网络.但由于受芯片计算能力和数据量的制约,卷积神经网络的运行效率并不如传统方法,因此在当时并未在各个领域流行开来,只用于财务统计、支票收据、财务报表等金融领域的字体识别.直到2012年,在LeNet的基础上改进的Alexnet卷积神经网络的出现,使得卷积神经网络越来越受到各界……
