周晓莉， 张 丰， 杜震洪*， 曹敏杰， 刘仁义

(1.浙江大学 浙江省资源与环境信息系统重点实验室， 浙江 杭州 310028； 2.浙江大学 地球科学学院， 浙江 杭州 310027)



基于CRBM算法的时间序列预测模型研究

周晓莉1,2， 张 丰1,2， 杜震洪1,2*， 曹敏杰1,2， 刘仁义1,2

(1.浙江大学 浙江省资源与环境信息系统重点实验室， 浙江 杭州 310028； 2.浙江大学 地球科学学院， 浙江 杭州 310027)

针对受限玻尔兹曼机(restricted Boltzmann machines，RBM)算法对时序数据预测存在抽取抽象特征向量能力较差和梯度下降能力有限的问题，基于CRBM(conditional restricted Boltzmann machines)算法以及信念网络(deep belief network，DBN)模型，构建了一种非线性的CRBM-DBN深度学习模型，并采用高斯分布处理输入特征值和对比散度抽样，用于预测时序数据. 实验以浙江省近岸海域赤潮时序数据作为输入特征值，讨论该模型的深度及参数选取，并与经典的深度学习模型RBM、DAE和浅层学习中的BP神经网络进行对比，实验验证CRBM对于赤潮时序数据的预测拟合度要明显优于其他3种模型，该模型可有效用于赤潮类时序数据的趋势性预测.

受限玻尔兹曼机；CRBM深度建模；深度信念网络模型；高斯分布

机器学习泰斗HINTON等[1]2006年提出了深度学习的概念，并成功解决了人工神经网络局部最小值和过度拟合等问题[2].深度信念网络(deep belief network， DBN)模型，结合监督学习和非监督学习的优点，挖掘高维特征，自下而上逐层抽取特征值，以达到降维的目的.DBN模型已被成功应用于计算机视觉、用户评分的协同过滤建模[3]、微软的同声传译系统[4]、符号识别和文本分类[5]等.尤其是面向丢失或不确……