王嘉琳 金宇悦 李志刚

摘要：激勵函数对深度神经网络的非线性逼近性能具有重要影响，其选择与任务相关。针对这一问题，提出基于自适应选择算法的深度置信回声状态网络模型，并应用于海洋环境多因素时间序列预测。该模型集成了14种激励函数，通过预测性能比较实现自适应选择功能。仿真结果表明，该模型能够正确选择出最优激励函数，具有良好的海洋数据多因素预测能力。

关键词：海洋环境数据;时间序列预测;深度置信回声状态网络;自适应选择算法;激励函数

Abstract： Activation function （AF） has an important effect on the nonlinear approximation performance of deep neural networks. The choice of AFs is task-related. For this problem， a deep belief echo-state network based on self-adaptive selection （SAS-DBEN） is proposed for ocean-related multi-factor time series prediction. In this model， 14 activation functions are integrated， and the self-adaptive selection is implemented by comparing the prediction performance. Experimental results show that SAS-DBEN can select the optimal AF correctly and has a good multi-factor prediction ability of ocean data.

Key words： ocean environment data; time series prediction; deep belief echo-state network; self-adaptive selection algorithm; activation function

1 引言

近年来，我国多个近岸海域污染严重。如何加强对海洋污染的应对，维护海洋环境长久稳定，是当前急需解决的问题。叶绿素是影响海洋环境污染的主要因素。藻类植物作为叶绿素的主要提供者，其增殖过程受多种海洋环境因素共同影响，是一种极其复杂的非线性过程[1]。鉴于此，本文研究多因素预测叶绿素和蓝绿藻的方法。

目前，深度学习已成为数据预测领域的主流方法。深度置信回声状态网络（Deep Belief Echo-state Network， DBEN）由于其强大的特征提取功能和非线性回归能力，已成功应用于海洋领域[2]。实际上，激励函数在深度神经网络中具有关键作用。通过激励函数，网络可以在任何给定的深度学习架构中，实现层结构之间的复杂函数计算和非线性映射[3]。

鉴于DBEN良好的预测能力以及激励函数在DNN中的重要作用，提出了一种结合自适应选择算法（Self-adaptive Selection， SAS）和DBEN的新型海洋环境多因素预测模型SAS-DBEN。……