苏鹏飞 徐松毅 于晓磊

摘 要：为了给窄带通信网的链路选择及协议的智能切换提供实时参考，设计了一种基于鲸鱼优化算法（WOA）和长短期记忆神经网络（LSTM）的窄带通信网网络时延预测算法。首先对实测数据样本进行标准化处理，以LSTM神经网络算法的均方根误差函数的倒数作为适应度函数;其次采用鲸鱼优化算法对LSTM神经网络的学习率、隐含层神经元个数进行优化，最后将全局最优解输出作为LSTM神经网络的初始参数对样本进行训练预测。结果表明，基于WOA-LSTM的网络时延预测算法预测精度相较于LSTM神经网络算法和BP神经网络算法分别提高了14.87%和78.89%，WOA-LSTM达到收敛时迭代次数相较于LSTM神经网络算法减少了11.11%。所提算法新颖可靠，可更准确地进行网络时延预测，为窄带通信网网络的智能化与自动化升级提供数据支持。

关键词：计算机神经网络;鲸鱼优化算法;LSTM神经网络;窄带通信网;网络时延预测

中图分类号：TN915.1   文献标识码：A   DOI： 10.7535/hbgykj.2022yx01002

Abstract：In order to provide real-time reference for link selection and protocol intelligent switching in narrowband communication networks，a network delay prediction algorithm based on whale optimization algorithm （WOA） and long short-term memory （LSTM） was designed.Firstly，the measured data samples were standardized，and the reciprocal of root mean square error function of LSTM neural network algorithm was used as fitness function.Secondly，the whale optimization algorithm was used to optimize the learning rate and the number of hidden layer neurons of LSTM neural network.Finally，the output of global optimal solution was used as the initial parameter of LSTM neural network to train and predict samples.The results show that compared with LSTM neural network algorithm and BP neural network algorithm，the prediction accuracies of network delay prediction algorithm based on WOA-LSTM are improved by 14.87% and 78.89% respectively，and the iteration times of WOA-LSTM are reduced by 11.11% compared with LSTM neural network algorithm when WOA-LSTM reaches convergence.The algorithm is novel and reliable，which can predict network delay more accurately and provide data support for intelligent and automatic upgrade of narrowband communication networks.

Keywords：computer neural network;whale optimization algorithm;LSTM neural network;narrowband communication network;network delay prediction

窄带通信网络是为某些特殊场景提供应急通信保障的低速通信系统的主要构成部分，其网络时延受到网络拓扑结构、气象变化因素、网络协议及路由算法等多方面因素影响，当网络拓扑结构、网络协议及路由算法固定下来之后，时间序列成为诱导其变化的主要影响因子。传统的窄带通信网网络协议单一，根据需求需要手动进行链路选择，随着窄带通信网的网络复杂度增加及多种网络协议的接入，迫切需要通过对窄带通信网网络时延预测，从而为窄带通信网的链路选择及网络协议的切换提供参考。目前，网络时延预测主要有基于数理统计的数学建模法，最小二乘支持向量机，神经网络算法。文献[1]通过對统计数据的回归分析和误差分析，提出了一种基于自回归求和滑动平均（ARIMA）模型，对网络化控制系统的随机时延进行预测，相较于ARMA模型精度有所提高;文献[2]提出了一种基于粒子群算法优化（PSO）的最小二乘法支持向量机（LS-SVM）算法，对列车通信网络的网络时延进行预测，但是PSO优化的参数维度较高，会影响预测时效性;文献[3]运用BP神经网络，同时运用PSO算法对神经网络权值和阈值进行优化，通过机器学习的方法对归一化的网络时延数据进行预测，但BP神经网络没有记忆性的特点，使得其只能通过前两个时序的时延数据预测下一时刻的网络时延，无法关联前面更长时间时序数据的特征。对此，本文选取单一对流层散射通信链路构成的窄带通信网络，提出了长短期记忆神经网络（LSTM）算法，关联长短期各个时序的网络时延的历史数据，通过鲸鱼优化算法（WOA）优化LSTM神经网络的学习率，隐含层神经元个数和最大训练次数，提高算法预测精度，对其网络时延进行预测。

1 数据采集和预处理

1.1 数据采集

通过野外试验，搭建了对流层散射通信链路组成的通信网络，每隔30 min在收发两端进行大小为64 B的数据包传输测试，共记录了由300组网络时延数据所组成的一维实验数据。

1.2 数据预处理

将采集到的数据进行标准化处理，将数据处理成均值为0，标准差为1的标准化数据。在神经网络的反向传播过程中，采用了梯度下降法更新权值以及偏置值，将数据进行标准化处理可以提升模型的收敛速度，也避免了数值输入过大，导致更新过程中梯度过大从而使网络的学习停止更新，设置学习率时也不必再根据输入值的范围进行调整。样本数据的标准化处理公式如下：

2.3 WOA-LSTM网络时延预测模型

LSTM神经网络的网络训练效果以及训练过程中的拟合速度和初始的参数设置密切相关，其中学习率和神经网络隐含层神经元个数直接影响了神经网络的训练精度和收敛速度[11-13]。对于学习率的设置来说，若初始学习率设置的过大，会导致偏离值较大且到后期无法拟合，学习率设置的过小，收敛速度会很慢[15]。对于隐含层节点个数来说，设置过少会欠拟合，过多会导致过拟合[16]。通过鲸鱼优化算法，全局向局部搜索寻优，确定最优学习率和隐含层神经元个数，从而进行神经网络的训练。WOA-LSTM的网络时延预测模型流程如图4所示。

通过鲸鱼优化算法（WOA）来优化长短期记忆神经网络（LSTM），只通过LSTM神经网络进行网络训练前，需要由经验手动设置神经网络的学习率和神经网络隐含层神经元个数，通过不断的尝试，得到可使神经网络预测精度相对较高的参数搭配，但是很难得到在一定范围内使得神经网络预测精度最高的最佳参数设置;引入鲸鱼优化算法，首先设置两种参数的搜索范围，然后经过上述描述的鲸鱼优化算法在此范围内进行随机搜索，得到的预测误差即损失函数TrainingLoss不断收敛，达到精度要求时，得出最优参数，进而完成LSTM神经网络的参数初始化。

本文采用平均绝对百分比误差（MAPE）作为鲸鱼算法的损失函数。当损失值达到事先设置的下限时，得到优化参数值。损失函数TrainingLoss的定义式如下：

TrainLoss=MAPE（h，y）=1n∑ni=1|h（i）-y（i）y（i）|，

式中：h（i）是预测结果中的第i个预测值;y（i）是数据样本中第i个真实值;n为预测样本数。预测值越是精确，得到的损失值越小。

预测流程如下。

步骤1：以1.1节和1.2节所述方法对数据进行处理，并以前一时间步数据预测后一时间步的数据格式输入到WOA-LSTM模型中;

步骤2：初始化LSTM模型参数学习率和神经网络隐含层神经元个数;

步骤3：鲸鱼算法种群初始化。将（n，ε）这两个变量组成的一组值作为待优化参数输入到鲸鱼算法中，n代表神经网络隐含层神经元个数，ε代表学习率;

步骤4：将初始化后的值作为历史最优值对LSTM的参数赋值并训练;

步骤5：将使用传统LSTM训练得到的TrainingLoss设置为系统要求的终止值，并求取经过鲸鱼算法优化后的模型损失值;

步骤6：若经过鲸鱼算法优化后的模型损失值小于TrainingLoss，则满足要求，利用训练好的模型迭代输出网络时延预测值;

步骤7：若损失值无法小于TrainingLoss或者迭代次数未到最大，则更新参数并且重新进行训练。

3 仿真分析

3.1 实验设置

为了充分验证所提出的WOA-LSTM模型在网络时延预测上的有效性，设计了WOA-LSTM和LSTM神经网络以及BP神经网络预测的对比实验，通过鲸鱼优化算法来优化LSTM模型的最佳学习率和隐藏层单元数，WOA算法在迭代过程中不断地调整初始化LSTM模型参数，直到调整到误差值较小的LSTM神经网络模型。同时，引入BP神经网络对时延数据进行训练，并预测网络时延，与LSTM神经网络预测结果进行对比。

3.2 LSTM的仿真

将300组时延数据划分为2组，取250组时延数据作为LSTM的训练样本，50组数据作为LSTM的测试样本，应不超过训练样本数200，故先将LSTM神经网络隐含层节点数n设为100，初始学习率ε设置为0.005，迭代次数为500，同时设置了LearnRateDropPeriod为250，LearnRateDropFactor为0.5，令学习率在250次迭代时下降到初始学习率的1/2，从而加快LSTM神经网络拟合速度，这是处理神经网络数据训练时的常用手段。首先采用200组训练数据进行LSTM模型训练，在训练好的模型上迭代输出后50步的网络时延数值。LSTM对网络时延的预测如图5所示，LSTM训练迭代次数与误差的关系如图6所示。

3.3 WOA-LSTM的仿真

采用鲸鱼算法优化后的LSTM对网络时延进行预测，采用MAPE作为鲸鱼算法的损失函数，采用WOA算法优化LSTM的学习率和神经网络隐含层神经元个数，鲸鱼算法初始化种群选为10，迭代次数为500次，初始化参数（n，ε）的取值范围是[100，200]和[0.001，0.01]。采用200組数据进行WOA-LSTM训练，确定最优的隐含层神经元个数n和学习率ε，利用训练好的WOA-LSTM预测后50个时间步长的网络时延数值。WOA-LSTM对时延的预测如图7所示，WOA-LSTM训练迭代次数与误差的关系如图8所示。

3.4 BP神经网络的仿真

同样选用前250组时延数据作为训练样本，输入层神经元个数为1个，输出层为1个，即用上一时间步的值预测下一时间步的数值，50组作为测试样本，前向传输预测结果，后向反馈损失函数的误差不断调整权值和阈值，从而将网络结构稳定完成预测。由经验公式η=m+n+l，m，n分别为输入输出层节点个数，l取（0～9）之间随机整数，则BP神经网络隐含层神经元个数取10。学习率与LSTM神经网络保持一致取0.005，同样地，训练时最大迭代次数设置为500。BP神经网络对时延的预测如图9所示，BP神经网络训练迭代次数与误差的关系如图10所示。

如表1所示，LSTM和WOA-LSTM预测数据的均方根误差RMSE分别为2.529和2.152 9，说明WOA优化的LSTM在一定程度上提高了网络时延预测误差。其次，从图6和图8可知，LSTM预测模型误差在第450次迭代的时候才发生收敛，WOA-LSTM神经网络预测模型得到最优隐含层神经元个数128和最优学习率0.003 3，此时神经网络经训练之后，在300次的时候已经开始慢慢收敛，在400次附近迭代的时候，预测误差基本上无太大变化。如图10所示，BP神经网络均方根误差为10.200 3，LSTM神经网络作为时间相关性较强的神经网络结构，相比BP神经网络在时延预测方面准确性更高，而经过鲸鱼优化算法（WOA）优化的LSTM神经网络预测结果的误差得到了进一步减小，但如图10所示，BP神经网络网络结构与运算方式更加简单，误差达到收敛时的迭代次数很少。

4 结 语

以对流层散射通信链路组成的窄带通信网网络时延数据为基础，采用WOA-LSTM算法对时延数据进行预测，更好地为通信网络链路选择及网络协议切换提供数据支持。

1）LSTM神经网络在预测通信网时延数据这种时间序列的数据时，相较于BP神经网络更具优势。

2）利用WOA优化参数后的LSTM神经网络相比于LSTM神经网络能够更好地预测窄带通信网的时延，预测精度提高了14.87%，误差精度达到收敛时算法迭代次数更少，预测精度更高。

3）基于WOA-LSTM网络时延预测算法预测精度相较于LSTM和BP神经网络算法更好，WOA-LSTM算法达到收敛时迭代次数相较于LSTM神经网络算法更少。

因此，本文提出的基于WOA-LSTM神经网络的网络时延预测算法，具有较高的预测精度。但此预测算法的迭代速度有待进一步优化，且只适用于本文所采集的数据类型，下一步将通过WOA-LSTM神经网络对其他通信手段组成的窄带通信网网络时延数据进行预测，从而探索此算法的适用范围。

参考文献/References：

[1] 徐旺，葛愿，王炎.基于ARIMA的NCS随机时延预测[J].安徽工程大学学报，2016，31（4）：72-76.

XU Wang，GE Yuan，WANG Yan.Predicting NCS stochastic delay based on ARIMA[J].Journal of Anhui Polytechnic University，2016，31（4）：72-76.

[2] 汪知宇，张彤.基于改进LS-SVM算法的列车通信网络时延预测方法[J].城市轨道交通研究，2021，24（1）：101-106.

WANG Zhiyu，ZHANG Tong.Time delay prediction method for train communication network based on improved LS-SVM algorithm[J].Urban Mass Transit，2021，24（1）：101-106.

[3] 時维国，雷何芬.基于PSO-BP神经网络的网络时延预测算法[J].自动化与仪表，2020，35（7）：1-5.

SHI Weiguo，LEI Hefen .Algorithm prediction of network delay using BP neural network based on particle swarm optimization[J].Automation & Instrumentation，2020，35（7）：1-5.

[4] 法比奥，艾伦.神经网络算法与实现[M].北京：人民邮电出版社，2017.

[5] 张冬雯，赵琪，许云峰，等.基于长短期记忆神经网络模型的空气质量预测[J].河北科技大学学报，2020，41（1）：66-75.

ZHANG Dongwen，ZHAO Qi，XU Yunfeng，et al.Air quality prediction based on neural network model of long short-term memory[J].Journal of Hebei University of Science and Technology，2020，41（1）：66-75.

[6] 李勃.基于LSTM法的高速公路边坡稳定性研究[J].河北工业科技，2021，38（2）：142-147.

LI Bo.Research on highway slope stability based on LSTM method[J].Hebei Journal of Industrial Science and Technology，2021，38（2）：142-147.

[7] 张萍，肖为周，沈铮玺.基于长短期记忆网络的轨道交通短期OD客流量预测[J].河北工业科技，2021，38（5）：351-356.

ZHANG Ping，XIAO Weizhou，SHEN Zhengxi.Forecast of short-term origin-destination passenger flow of rail Transit based on long short-term memory network[J].Hebei Journal of Industrial Science and Technology，2021，38（5）：351-356.

[8] SAID A B，ERRADI A，ALY H A，et al.Predicting COVID-19 cases using bidirectional LSTM on multivariate time series[J].Environmental Science and Pollution Research International，2021，28（40）：56043-56052.

[9] GUO Aixia，BEHESHTI R，KHAN Y M，et al.Predicting cardiovascular health trajectories in time-series electronic health records with LSTM models[J].BMC Medical Informatics and Decision Making，2021，21（1）：5.

[10] 张蕾，孙尚红，王月.基于深度学习LSTM模型的汇率预测[J].统计与决策，2021，37（13）：158-162.

ZHANG Lei，SUN Shanghong，WANG Yue.Exchange rate prediction based on deep learning LSTM model[J].Statistics and Decision，2021，37（13）：158-162.

[11] 丁文绢.基于股票预测的ARIMA模型、LSTM模型比较[J].工业控制计算机，2021，34（7）：109-112.

DING Wenjuan.Comparison of ARIMA model and LSTM model based on stock forecast[J].Industrial Control Computer，2021，34（7）：109-112.

[12] 田聪.基于改进型EMD-LSTM的高频金融时间序列预测[D].南昌：江西财经大学，2021.

TIAN Cong.High-Frequency Financial Time Series Prediction Based on Improved EMD-LSTM[D].Nanchang：Jiangxi University of Finance and Economics，2021.

[13] 鄭罗春.基于LSTM网络模型的高速公路软基长期沉降预测[J].湖南交通科技，2021，47（2）：94-97.

ZHENG Luochun.Long-term settlement prediction of expressway soft foundation based on LSTM network model[J].Hunan Communication Science and Technology，2021，47（2）：94-97.

[14] MIRJALILI S，LEWIS A.The whale optimization algorithm[J].Advances in Engineering Software，2016，95：51-67.

[15] 江旭东.基于EEMD-WOA-LSTM的电力负荷能耗预测系统的设计与实现[D].天津：天津理工大学，2021.

JIANG Xudong.Design and Implementation of Power Load Energy Consumption Forecasting System Based on EEMD-WOA-LSTM[D].Tianjin：Tianjin University of Technology，2021.

[16] 李卓漫，王海瑞.基于PSO优化LSTM的滚动轴承剩余寿命预测[J].化工自动化及仪表，2021，48（4）：353-357.

LI Zhuoman，WANG Hairui .Predicting the remaining service Life of rolling bearings based on PSO-LSTM network model[J].Control and Instruments in Chemical Industry，2021，48（4）：353-357.