一种基于非负绞杀的循环神经网络变量选择与结构优化算法
2021-11-08张孟岩
齐鲁工业大学学报 2021年5期
关键词:模型
张孟岩,隋 璘,孙 凯
齐鲁工业大学(山东省科学院) 电气工程与自动化学院,济南 250353
神经网络是一种学习能力很强的网络模型,其较强的鲁棒性、容错性及适应系统的动态性,使之成为复杂系统建模领域的研究热点。目前,BP神经网络[1]、RBF神经网络[2]、卷积神经网络[3]已被应用于多种工业场景以解决实际问题。
现有大量学习任务都需要处理序列信息,如时间序列预测、机器翻译、语音识别等情境[4]。针对序列输入的需求,循环神经网络(Recurrent Neural Network,RNN)[5]应运而生。RNN通过引入时序反馈机制,使得某时刻的输出可以作为输入再次输入到神经元,这种网络结构可以保持数据中的依赖关系,非常适用于时间序列数据建模。文献[6]提出了一种基于RNN的动态反向传播(BP)算法模型,并对北方某日光温室的温度和湿度进行了预测,实验结果表明RNN-BP在各项性能指标均优于BP神经网络。文献[7]根据油田生产历史数据利用长短期记忆神经网络(LSTM)构建油田产量预测模型,并进行了实验验证和应用效果分析,该模型不仅考虑了产量指标与其影响因素之间的联系,还兼顾了产量随时间变化的趋势和前后关联。文献[8]针对负荷数据时序性和非线性的特点,提出了一种基于卷积神经网络(CNN)和长短期记忆(LSTM)网络的混合模型短期负荷预测方法,将CNN提取的特征向量以时序序列方式构造并作为LSTM网络输入数据,再采用LSTM网络进行短期负荷预测。
随着数据采集系统和硬件存储设备的飞速发展,复杂系统过程数据呈现规模大、维度高、复杂性强等特点。……
登录APP查看全文
