基于深度学习下的卷积神经网络参数学习
2021-03-17张书玉宋英楠王长忠李雯琦牛嘉瑞
渤海大学学报(自然科学版) 2021年4期
吕 响,张书玉,宋英楠,王长忠,李雯琦,牛嘉瑞
(渤海大学 数学科学学院,辽宁 锦州 121013)
0 引言
在机器学习算法中,深度学习作为一个新兴技术,是建立并且模拟人脑进行分析学习的神经网络,已经极大地促进了机器学习的发展,目前深度学习应用最广泛的三个领域是语音识别,图像识别和自然语言处理[1].深度学习目前的主要形式是深层神经网络,而深度卷积神经网络(Convolutional neural net⁃works,CNN)则是其中一种经典而广泛应用的结构.近些年来,深度卷积神经网络已经在许多领域应用中表现出了优异的结果[2].
卷积神经网络是一类具有深度结构且包含卷积计算的神经网络,它具有权值共享、局部连接及卷积池化操作等特性.这些特性可以有效的减少训练参数的数目、降低网络的复杂计算度,使得模型具有强鲁棒性和容错能力.正因为有这些特性,卷积神经网络在各种信号和信息处理任务中的性能比全连接神经网络好很多[3].当前关于卷积神经网络的大多数参考书目仅仅是说明了原理,却缺少对中间参数的计算过程进行推导.鉴于此,本文给出了CNN各层参数及其反向传播计算公式的推导过程,这不仅有助于加强初学者对网络结构的了解、对网络参数的学习有一个深刻的认识,而且对以后的学习及建立模型有很大的帮助.
1 CNN的模型
CNN是当前深度学习领域中处理图像的一种典型算法,具有局部连接、权重共享等性质,CNN从结构上来看是由卷积层、池化……
登录APP查看全文