展华伟,唐 艳,付 婧

(西华师范大学 计算机学院 ， 四川 南充 637002)

0 引言

20世纪60年代，Hubel和Wiesel在研究猫脑皮层中用于局部敏感和方向选择的神经元时发现其独特的网络结构可以有效地降低反馈神经网络的复杂性，继而提出了卷积神经网络(Convolutional Neural Networks简称CNN)[1].经过十多年的发展，从早期的LeNet-5[2]到最新的ResNet[3]，卷积神经网络已成为各大学科领域研究的热点，在语音识别[4]、人脸识别[5]、目标检测[6]、自然语言处理[7]等领域均有所突破.

卷积神经网络作为一种高效率的识别方法，可以很方便地进行各种类型的特征提取.但是在处理具体任务或具体项目时，需要根据不同的需求来进行参数调整和优化，这种人为操作不仅费时费力而且很难达到训练的最优效果，许少华等[8]研究了样本先验知识对神经网络的性能影响，何莉[9]等提出了一种基于人群搜索算法的方法，来调整神经网络中的权重及阈值等系数，赵宏等[10]对神经网络中的代价函数与激活函数做了详细的研究，并找到了最优的组合方式.本文将在此基础上，广度探索分析了更多的参数(尤其是优化器)，并在准确率更高和速度更快之间，找到了一种广泛的结合方式，使之能够达到效率最佳的平衡点，从而提升神经网络模型的训练性能.

1 卷积神经网络原理

卷积神经网络是一种深度前溃神经网络，通过特征提取层的不断叠加从而得到其基本特征.主要由输入层、隐层、全连接层和输出层组成，而隐层是由卷积层和……