APP下载

基于IRSO-TCN的短期电力负荷预测

2022-08-18王思萌曲晓东

太原科技大学学报 2022年4期
关键词:残差卷积精度

王思萌,曲晓东,谢 刚,崔 磊

(太原科技大学 电子信息工程学院,太原 030024)

电力负荷预测是电力系统中的一项重要任务,能够为电力部门运作与规划提供关键支撑,对电网的安全、经济和发展具有重要的意义[1-2]。

传统的电力负荷预测方法主要有统计学和机器学习方法。统计学方法包括求和自回归移动平均[3]、卡尔曼滤波法[4]和自回归条件异方差[5]等,这些模型具有简单、训练速度快的特点,但是对非线性的电力负荷预测精度较低,拟合能力不足;机器学习包括神经网络[6]、支持向量机(support vector machine,SVM)[7]和随机森林(random forest,RF)[8]等,然而机器学习模型参数寻优困难,难以挖掘特征输入与电力负荷之间的时序相关性,预测效果并不理想。

若能学习到特征与电力负荷之间隐藏的时序规律,将大幅提升电力负荷预测精度。当前,不少学者开始使用深度学习模型对时间序列进行预测。

文献[9]和文献[10]分别使用长短期记忆网络(long short-term memory,LSTM)和门控循环单元(gated recurrent unit,GRU)模型对电力负荷进行预测,一定程度上提升了预测精度。文献[11]提出使用时间卷积网络(temporal convolutional network,TCN)预测模型对时间序列进行预测,预测效果要好于LSTM、GRU模型,但TCN预测模型训练结束后,全连接层之间的阈值与偏置容易陷入局部最优值[12-14],如何克服这一缺陷成为一大难题。

针对以上问题,本文在鼠群优化算法(rat swarm optimization algorithm,RSO)[15]中引入了交叉算子,提出了一种基于改进鼠群优化算法(improved rat swarm optimization algorithm,IRSO)和时间卷积神经网络的短期电力负荷预测模型。首先,使用TCN模型学习输入特征和电力负荷的时序相关性,对电力负荷进行预测;然后使用IRSO算法对TCN全连接层之间阈值与偏置进行优化,解决了这些参数陷入局部最优的问题。实验结果表明,本文所提IRSO-TCN的预测精度高于其余模型的预测精度。

1 时间卷积网络

TCN是由卷积神经网络搭建的深度学习模型,含有因果卷积、扩张卷积和残差模块,能有效的处理时间序列问题[16],这对于提升电力负荷预测精度有一定的帮助。

因果卷积使得当前时刻的输出只与更早元素进行卷积,当输入长的历史信息到网络中,模型的深度随之增加,TCN模型扩张卷积解决了这个问题。扩张因果卷积对上一层的输入进行间隔采样,扩张率以2的指数级增长,扩张因果示意图如图1所示。

图1 扩张因果卷积Fig.1 Expanded causal convolution

扩张因果卷积对应的公式如下:

(1)

式中:F(s)表示第s个神经元扩张卷积后的输出;k为卷积核的大小;f为过滤器;x是输入序列;d是扩张系数;s-d·i表示只能对过去的输入做卷积操作。

为了防止网络深度加深使得网络退化,TCN中加入了残差模块,该模块含有两次卷积操作和非线性映射连接,TCN网络和残差模块示意图如图2所示。

图2 TCN网络和残差模块示意图Fig.2 Schematic diagram of TCN network and residual module

TCN网络由输入层、残差块和输出层构成,残差模块含有2个卷积单元和1个非线性映射。扩张因果卷积后接ReLU激活函数,再对权值进行归一化处理,最后接入Dropout层,以防止TCN网络发生过拟合,残差模块的堆叠使得网络变得更容易训练。

2 改进鼠群优化算法

2.1 鼠群优化算法

鼠群优化算法是一种模仿鼠群竞争行为的新型仿生群体启发式优化算法,包含追逐猎物和攻击猎物两个过程[17]:

(1)追逐猎物

老鼠通过群居竞争行为追逐猎物。假设最好老鼠搜索个体知道猎物的最佳位置,其他老鼠体可以据此更新当前位置来获得最佳搜索位置,数学可以描述为:

(2)

A=R-x·(R/T)

(3)

(2)攻击猎物,数学描述为:

(4)

2.2 基于交叉算子的改进鼠群优化算法

本文创新地在RSO优化过程中交叉算子,在交叉过程中,鼠群个体的不同维度信息进行了交换,这将使得个体能够在一定条件下摆脱局部最优,加速收敛,数学描述如下:

P(i,b1)=aQ(i,b1)+(1-a)Q(i,b2)

(5)

式中:a∈Rand[0,1];i∈N[0,M],M是鼠群个体总数;Q(i,b1)、Q(i,b2)表示个体i的第b1、b2维,两者交叉产生下一代P(i,b1),b1、b2∈N[0,D],D为个体代表的变量维度。

3 基于IRSO-TCN的负荷预测模型

电力负荷预测是时间序列预测问题,当前时刻的电力负荷与早期时刻的电力负荷存在着一定的关联,同时也和温度、湿度和电价等因素保持着紧密联系,特征输入的选取一定程度上影响着预测精度的高低。本文搭建了TCN模型用于学习电力负荷和多特征因素之间的时序规律,对电力负荷进行预测。

针对初次训练好的TCN模型全连接层阈值与偏置参数容易陷入局部最优的缺陷,本文提出使用加入交叉算子的IRSO对这些参数进行再次调整,这将进一步提升预测模型的预测准确率,其具体流程如图3所示。

图3 IRSO-TCN流程图Fig.3 Flow chart of IRSO-TCN

图3中,适应度函数选择均方误差(mean square error,MSE)函数,定义如下:

(6)

4 算例分析

本文建模仿真在Windows10系统、R7-5800H CPU和PyCharm软件中进行,由深度学习TensorFlow和Keras框架搭建神经网络模型。

4.1 数据选择

本文选取澳大利亚2010年第12月实测历史电力负荷数据集进行建模仿真,12月29、30、31日数据为测试集,其余为训练集。该数据集每隔0.5小时采样一次,每日48个采样点,考虑到电力负荷与温度、湿度和电价等因素的联系较为紧密,特征因素选取了干球温度、露点温度、湿球温度、湿度和实时电价,共计5项,采用皮尔逊相关系数法分析各因素与电力负荷之间的联系,对于维度为n的x和y的变量,相关系数r的计算式如下:

(7)

相关系数r的大小在-1和1之间,绝对值越大代表相关联程度越大,值的正负代表是正相关还是负相关,由上式,各特征因素和电力负荷之间的r值如表1所示。

表1 电力负荷与各特征因素间的相关系数

通过表1可以看出,电力负荷与干球温度和实时电价保持着强相关关系,电力负荷与湿度呈现负相关关系。

在使用该数据对模型进行训练时,因为特征因素和电力负荷的量纲不相同,同时为了加速模型的收敛,预先需要对数据进行归一化处理,使得归一化后的数据值均处于[0,1]之间,归一化计算公式如下:

(8)

式中:X*表示归一化值;X为原始值;Xmax和Xmin分别代表原始数据中的最大值和最小值。

4.2 参数设置

TCN网络的每个样本输入为前6个时刻的干球温度、露点温度、湿球温度、湿度和电价,输出为当前时刻的电力负荷。TCN网络含1个残差模块,之后接入全连接层,其中残差模块含有2个卷积单元和1个非线性映射。卷积单元的卷积核大小为2,经过权值归一化操作后,选择ReLU激活函数,并在其后接入系数为0.4的Dropout层,以防止网络过拟合;非线性映射部分为在残差模块的输入和输出之间接入1×1的卷积层;设置扩张系数以2的指数级增加,滤波器数量为64;全连接层的神经元个数分别是32、1,最终的输出为1个时间点的电力负荷;选择TCN网络的优化器为Adam,学习率为0.000 1,bacth_size为32,epochs为150,损失函数为MSE函数。并设置RSO、IRSO的最大迭代次数为150.

4.3 实验评估标准

仿真实验选取平均绝对百分比误差(mean absolute percentage error,MAPE)、平均绝对误差(mean absolute error,MAE)和均方根误差(root mean square error,RMSE)作为电力负荷预测结果评价指标。其中,平均绝对百分比误差、平均绝对误差和均方根误差的值越小,代表模型预测精度越高,各指标的计算公式分别为:

(9)

(10)

(11)

4.4 IRSO有效性验证

为了验证IRSO的有效性,分别采用:(1)未优化的TCN模型;(2)RSO优化的TCN模型;(3)IRSO优化的TCN模型进行预测对比,实验结果如图4和表2所示。

表2 不同优化算法下的评价指标

由图4可以看出,所提IRSO-TCN模型预测曲线和电力负荷真实值曲线更加贴近,尤其体现在高低峰谷的电力负荷尖端位置。

图4 不同优化算法下的预测曲线图Fig.4 Prediction curves under different optimization algorithms

对比各模型评价指标,由表2可以得出:

1)RSO-TCN和IRSO-TCN相对于TCN模型EMAPE、EMAE和ERMSE分别下降了7.08%、6.19%、5.75%和23.55%、15.91%、16.39%,两者均通过优化TCN的阈值参数,使得阈值参数摆脱局部最优,这对于提升预测精度是有效的。

2)IRSO-TCN相对于RSO-TCN,EMAPE、EMAE和ERMSE指标分别下降了17.72%、14.47%和12.29%,表明加入交叉算子的IRSO寻优能力要强于RSO,提升电力负荷预测精度的能力更强,验证了IRSO的有效性。

4.5 IRSO-TCN模型有效性验证

为了验证IRSO-TCN模型的有效性,引入了(1)SVM模型;(2)RF模型;(3)长短期记忆网络(LSTM)模型;(4)门控循环单元(GRU);对电力负荷进行预测,最后与本文所提IRSO-TCN预测结果进行了对比,实验结果如图5和表3所示。

表3 各预测模型的评价指标

由图5可以看出,本文所提IRSO-TCN模型相对于其余机器学习、深度学习模型,预测曲线更为接近电力负荷真实值曲线,这表明本文所提IRSO-TCN模型的预测效果优于其余预测模型。

图5 各预测模型的预测曲线图Fig.5 Prediction curve of each prediction model

对比表3中各模型的评价指标,可以得出:

1)IRSO-TCN模型的各项评价指标均为最小,通过观察EMAPE综合评价指标,SVM和RF机器学习模型对于电力负荷时序预测能力显然不如时序模型LSTM、GRU和IRSO-TCN,选择合适的时序模型对提升电力负荷预测精度的提升至关重要;

2)SVM的预测效果略好于RF,LSTM预测效果好于GRU.IRSO-TCN模型相对于SVM和LSTM模型,EMAPE、EMAE和ERMSE分别下降了34.69%、30.70%、28.27%和25.54%、28.72%、42.21%,验证了本文所提IRSO-TCN模型的有效性。

5 结束语

本文提出了一种基于改进鼠群优化算法和时间卷积网络的短期电力负荷预测方法,通过实验仿真,验证了所提IRSO-TCN模型的有效性。TCN模型可以充分的学习电力负荷和输入特征之间的时序关系,一定程度上提升了电力负荷预测精度;同时使用IRSO对TCN全连接层阈值与偏置参数进行优化,从模型参数的角度去有效提升电力负荷的预测精度;所提的IRSO优化算法,在RSO的基础上加入了交叉算子,寻优能力更强。所提模型相对于其余机器学习、深度学习模型具有更高的预测精度,准确地预测出电力负荷需求量,能够为电力部门运作与规划提供更加可靠的参考依据。

猜你喜欢

残差卷积精度
基于不同快速星历的GAMIT解算精度分析
数字化无模铸造五轴精密成形机精度检验项目分析与研究
基于全卷积神经网络的猪背膘厚快速准确测定
基于残差-注意力和LSTM的心律失常心拍分类方法研究
融合上下文的残差门卷积实体抽取
一种基于卷积神经网络的地磁基准图构建方法
基于3D-Winograd的快速卷积算法设计及FPGA实现
一种并行不对称空洞卷积模块①
基于残差学习的自适应无人机目标跟踪算法
基于深度卷积的残差三生网络研究与应用