马丽莹，魏云冰

（上海工程技术大学 电子电气工程学院，上海 201620）

0 引言

电价预测问题影响着现代电力系统运行的各个过程。这些过程与其他当代科学和工程问题有关，如最优电网调度、能源消耗、能源开发、温室气体排放、电力系统模拟和电力负荷需求建模［1-2］。因此，电价预测是电力系统领域的一个牵涉到多学科的综合研究课题。但是电价预测受到多种因素的影响，例如节假日、温度、节日、季节等，具有一定的波动性。此外，由于电力资源的波动和不平衡有可能造成电力负荷增加，导致电价升高［3-4］。近年来，许多研究人员已经证明，电力相关预测是一项艰巨的任务，因为电力需求在很大程度上要取决于多种因素［5-7］。

为了实现对电价的高精度预测，一些学者开始提出一些电价预测的方法，大致可分为2 类：传统方法和人工智能方法。传统方法主要包括自回归综合移动平均［8］、模糊推理系统［9］和贝叶斯随机波动率［10］等方法。由于电价变化较快，具有一定的波动性和非线性，传统的预测方法无法取得较好的预测效果。

为了解决非线性的问题，一些研究人员采用人工智能方法实现电价预测。例如极限学习机、支持向量机（support vector machines，SVM）和人工神经网络等。Shrivastava 等人［11］将极限学习机与小波技术相结合提高了电价预测的精度和可靠性。Yan 等人［12］提出了一种基于多SVM 的中期电力市场出清价格预测模型。Panapakidis 等人［13］将人工神经网络与聚类算法相结合提出了一种混合模型，来实现日前电价预测。然而，由于电价数据具有一定的记忆性、即存在长期依赖关系，传统的神经网络在电价时间序列分析的研究中面临着一定挑战。

LSTM 作为一种特殊的RNN，能够应用于长期依赖关系的序列预测。Liu 等人［14］利用经验小波变换和LSTM 的混合模型预测风速。实际电价数据具有非线性、非平稳和长期依赖性的特点，而LSTM 很好地解决了这些问题。Peng 等人［15］在预测电价时采用了差分进化算法来识别LSTM 的参数，并通过实验验证了长短时记忆网络在电价预测精度方面明显优于传统的智能计算方法。其主要原因在于LSTM 能更好地捕捉并处理电价不规律性的特征。基于随机梯度的方法在深度学习优化领域具有十分重要的实际意义，对预测的准确性起着至关重要的作用。Adam 是一种常见且高效的优化算法［16-17］，其优势在于对内存需求较少，计算效率高，可以很好地处理稀疏梯度，在非线性和非平稳设置下表现出优异的性能。该算法可以通过寻找一系列参数使目标函数最小化来达到优化深度学习模型的目的。因此，Adam 优化的LSTM 神经网络被认为是预测电价的有力工具。

将VMD 分解算法和Adma 优化的LSTM 神经网络相结合用于电价时间序列的分析和预测是一种比较新颖的想法。VMD 分解方法有效解决了EMD中存在的模态混叠问题。因此，本文提出了一种基于VMD 和Adam 优化的LSTM 网络的混合模型，即VMD-Adam-LSTM 模型。通过美国PJM 的电价数据来验证该模型的预测效果。为了说明该模型的性能，将其与传统模型和混合模型进行了对比来验证该模型的预测精度。

本文的框架结构如下所示：第1 节介绍了VMD分解和Adam 优化LSTM 的基本理论；第2 节详细描述了所提出的混合模型；在第3 节中，给出了电价预测案例；结论见第4 节。

1 基本算法

在本节中，将介绍提出的混合模型中采用的2 种算法。在1.1 节中，简要介绍VMD 分解算法原理，在1.2 节中介绍Adma 优化的LSTM 神经网络。

1.1 变分模态分解

2014 年，Dragomiretskiy 等人［18］提出了VMD 方法［18-19］。VMD 方法解决了局部均值分解、经验模态分解等方法中存在的模态混合问题［19］。作为一种非递归算法，VMD 将输入信号同时分解为多个IMF。这里需用到的数学公式为：

其中，Ak（t）是uk（t）的瞬时幅值，ωk ＝ϕk'（t）是瞬时频率。约束变分问题描述为：

其中，x（t）是要分解的原始信号；uk，ωk分别是IMF 和中心频率；“*”是卷积符号。引入惩罚因子a和拉格朗日乘数λ来解决方程（2）的约束问题：

uk，ωk和λ的更新公式见如下：

1.2 Adma 优化的LSTM 神经网络

LSTM 神经网络拥有很多层连接的记忆块，每个记忆块包含管理块的输出门和状态门。LSTM 神经网络具有一定的记忆性，即下一个状态的信息不仅与当前状态有关，还与历史状态有关。LSTM 每个单元内主要包括遗忘门、输入门和输出门，如图1所示。对此拟展开阐释分述如下。

图1 LSTM 神经网络结构Fig. 1 LSTM neural network structure

（1）遗忘门ft：有条件地决定块中保留的信息。推得的数学公式具体如下：

其中，ωf和bf分别表示权重矩阵和偏置向量。ht-1是先前状态的输出；xt表示输入值；σ（·）表示sigmoid函数。

（2）输入门it：有条件地确定输入哪些值来更新记忆状态。推得的数学公式具体如下：

（3）输出门ot：根据输入和块记忆有条件地决定输出。推得的数学公式具体如下：

在每个时间t内，输入特征由输入xt和之前隐藏状态ht-1计算，并且tanh 函数取值范围在-1 到1之间。由此推得的数学公式为：

记忆单元由调节的输入特征和前一个记忆单元ct-1的遗忘部分更新。研究推得的公式为：

最终由输出门ot和记忆单元ct计算得到隐藏状态输出ht。研究用到的公式为：

在式（7）～（12）中，矩阵ωf、ωi、ωo和ωc是权重矩阵；向量bf、bi、bo和bc是偏置向量；ht-1是前一个隐藏状态计算的结果；ht是t时刻隐藏状态的输出；xt表示输入信息。

Adam 是一种随机梯度下降的一阶优化算法，在深度学习中有着广泛的用途［20］。该方法的优势在于具有高效的计算能力，对内存的需求不高，实现过程中对需要调节的参数较少、且操作原理简单。Adam 优化算法的具体步骤如下所示。

步骤1初始化步长α ＝0.001，初始化矩估计指数衰减率β1，β2∈［0，1），这里 取β1＝0.9，β2＝0.99，设定误差值ε ＝10-8，f（θ）是参数为θ的随机目标函数。这里使用均方误差，Adam 的目标是找到一组使均方误差最小化的参数θ。

步骤2初始化第一个矩向量m0＝0，第二个矩向量v0＝0，初始时间t ＝0。

步骤3更新参数。相关系列公式见如下：

（1）t ＝t ＋1

（2）运算得到t时刻的梯度随机目标：gt ＝∇θt f（θt-1）

（3）更新有偏差的第一矩估计：mt ＝β1·mt-1＋（1-β1）·gt

（4）更新有偏差的二阶原始矩估计：vt ＝β2·vt-1＋（1-β2）·

（5）计算偏差校正的第一矩估计，即：

（6）计算偏差校正的二阶原始矩估计，即：

（7）θt ＝θt-1-α·

步骤4判断θt是否收敛，若不收敛，继续执行步骤3，直到满足条件时循环结束。得到返回值

如这里的Adam 算法所述，首先需要确定参数α、β1、β2以及随机目标函数f（θ），接下来初始化参数向量、第一个矩向量、第二个矩向量和时间。再进行多次循环迭代，更新计算参数向量（t、gt、mt、vt、mbt、vbt和θt），当参数θ收敛时则认为循环停止。Adam 通过优化目标函数f（θ）适用于LSTM 神经网络，找到一组使均方误差最小化的参数。

2 预测模型

2.1 电价预测过程

利用VMD 分解和Adam 优化LSTM 的混合模型预测电价的过程大致分为以下6 个步骤：

步骤1本文研究采用美国PJM 电力市场2012 年1 月的节点边际电价数据进行实验分析，来验证VMD-Adam-LSTM混合模型的有效性。

步骤2数据预处理。为了进一步提高模型对价格序列的预测精度，根据3σ准则对原始数据训练集的异常值进行处理。通过计算一组电价序列的均值和标准差，并根据一定的概率确定一个范围，认为超出这个范围的数据属于异常值，通过3σ准则剔除异常数据。具体计算流程如下：

（1）计算样本电价数据的均值μ和方差σ2。

（2）根据3σ准则判断数据是否在（μ -3σ，μ ＋3σ）范围内。超出范围则剔除异常数据。

步骤3电价数据的VMD 分解。由式（2）可知，VMD 方法的输入不仅是原始信号，还需要确定参数K的具体值。K决定了分解过程中提取的模态数量。如果提取模态太多，会导致精度降低和计算复杂性变大。但是，如果模态数量太少，模态中包含的信息不足以训练出具有较高精度的预测模型。因此，如何为K选择一个合适值是非常重要的。本文通过中心频率确定VMD 分解个数K，并对分解后K个IMF和残差进行预测。

步骤4Adam 优化的LSTM 模型预测。经过上述VMD 分解后，利用LSTM 神经网络对VMD 分解后的时间序列进行训练和预测，从而得到更准确的预测结果。该网络采用单输入／单输出的结构，隐含层个数为4，使用默认的sigmoid激活函数。网络训练1 000 个周期，前一时刻步长作为输入变量来预测下一个时刻的数据。作为一种高效的随机梯度优化器，Adam 被用于LSTM 的电价预测中。

步骤5计算原始电价预测结果。由式（2）的约束条件可知，将K个IMF分别预测的结果和残差预测的结果相加，即为原始电价预测结果。

步骤6预测模型评估。将预测结果与实际电价数据比较，计算3 种评估指标，研究内容详见第3节。

根据上述预测步骤，基于VMD 分解和Adam 优化LSTM 神经网络的混合模型预测电价的过程如图2 所示。

图2 基于VMD-Adam-LSTM 混合预测模型流程图Fig. 2 Flow chart of VMD-Adam-LSTM hybrid prediction model

2.2 评估指标

为了评估预测模型的精度，使用平均绝对误差（mean absolute error，MAE）、均方根误差（root mean square error，RMSE）和R2的典型误差评估指标。对此可做探讨阐述如下。

（1）MAE。反映了绝对误差的平均值。MAE越小，预测越准确，推得的数学公式可写为：

其中，x（t）为t时刻的原始电价数据；为t时刻的预测电价；m为预测点数。

（2）RMSE。描述了预测误差的离散程度。RMSE越小，预测越准确。推得的数学公式可写为：

（3）R2。是拟合程度的统计，反映了解释的程度。R2结果越接近1，预测精度越高。推得的数学公式可写为：

其中，是x（t）的均值。

3 算例分析

3.1 数据介绍

为了验证本文提出的VMD-Adam-LSTM 混合模型的有效性，采用美国PJM 电力市场2012 年1月的节点边际电价数据进行实验仿真验证。在此数据采集过程中，每隔1 h 统计得到一个电价数据，选取1 月份前30 天的数据、共计720 个数据作为实验数据。

3.2 VMD 分解和模态个数的确定

不同模态个数会直接影响预测结果，因此在采用VMD 算法对电价数据进行模态分解之前，需要先确定分解的模态个数。如果分解的模态个数较少，可能导致原始电价数据的信息丢失；如果模态个数较多，相邻IMF分量的中心频率较近还可能出现频率混叠，也会导致精度降低和计算复杂性较高。根据中心频率不宜较近的方法选择合适的模态个数，通过比较较为接近的2 个中心频率之间的差值，如果较小则不能选择此次分解的模态个数。将原始电价数据通过3σ准则对异常值处理后经VMD 分解，得到不同模态个数下的中心频率，其计算结果见表1。

表1 不同模态个数下VMD 分解的中心频率Tab.1 Center frequency of VMD decomposition under different number of modes

从表1 中可以看出IMF个数为5 时，中心频率2 828和3 048 较为接近，可能造成频率混叠。因此选择分解的模态个数为4，具体分解结果如图3 所示。

图3 电价数据的VMD 分解结果Fig. 3 VMD decomposition results of electricity price data

3.3 预测结果与评估

接下来，采用Adam 优化的LSTM 分别对各个IMF分量和残差进行预测。选取前29 天数据、即0到696 h，作为训练集，最后一天697 到720 h 数据作为测试集。LSTM 神经网络采用单输入／单输出的方式，隐含层个数为4，隐含层神经元个数为10，激励函数为sigmoid函数。将4 个IMF分量预测结果和残差预测结果相加得到原始电价数据的预测结果。

为了验证本文提出的VMD-Adam-LSTM 混合模型的有效性，分别与单一的LSTM 预测模型和EMD-Adam-LSTM 混合预测模型相比，其预测结果如图4 所示。3 种预测模型的预测误差结果见表2。

图4 不同模型的电价预测结果Fig. 4 Electricity price prediction results of different models

表2 3 种预测模型误差结果Tab.2 Error results of the three prediction models

从图4 和表2 中可以看出，LSTM 预测模型对电价的拟合效果最低，VMD-Adam-LSTM 混合模型相比于EMD-Adam-LSTM 混合模型的拟合效果更高。究其原因则在于LSTM 是单一的预测模型，没有对原始电价数据进行预处理，而VMD 相对于EMD 分解方法更能抑制模态混叠问题，使预测精度提高。

4 结束语

本文提出了一种VMD-Adam-LSTM 混合模型，并采用美国PJM 的电价数据进行实验验证。

该混合模型具有LSTM 能够处理非线性和长依赖性时间序列的特点，同时也结合了VMD 相对于EMD 更能抑制模态混叠的优点。在VMD 分解时，通过比较中心频率选择合适的IMF分量个数，防止过拟合现象的发生。在数据预处理时，采用3σ准则避免了异常值的影响。实验结果表明，本文提出的VMD-Adam-LSTM 混合模型相比于单一的LSTM模型和EMD-Adam-LSTM 混合模型，具有更高的预测精度，验证了该模型的有效性和准确性。