用集成过程神经网络预测民航发动机振动趋势*

2015-06-10钟诗胜

振动、测试与诊断 2015年1期

关键词：学习机阈值神经网络

雷达，钟诗胜

(哈尔滨工业大学机电工程学院哈尔滨，150001)

用集成过程神经网络预测民航发动机振动趋势*

雷达，钟诗胜

(哈尔滨工业大学机电工程学院哈尔滨，150001)

提出了一种集成过程神经网络预测模型用于民航发动机振动信号趋势预测。首先，对AdaBoost.RT算法的误差函数进行了改进，并采用自适应调整策略在训练过程中自动调节算法的分类阈值；然后，以改进的AdaBoost.RT算法为集成学习框架构建集成过程神经网络(process neural network,简称PNN)预测模型。通过对两组实际民航发动机振动信号序列的预测对集成模型的预测效果进行了评估。结果表明，在具有更加简单网络结构的情况下，集成PNN模型的预测效果好于单一PNN模型。此外，提出的改进AdaBoost.RT算法的效果优于原始AdaBoost.RT以及仅改进了阈值调整方法的AdaBoost.RT算法。对比结果表明，提出的集成PNN模型适用于民航发动机振动信号变化趋势预测。

航空发动机；振动信号；趋势预测；集成学习； AdaBoost.RT；过程神经网络

引言

对排气温度、转子振动等健康状态参数进行监测和趋势预测是民航发动机健康状态监控的重要内容。时间序列分析、人工神经网络(artificial neural network,简称ANN)[1]和过程神经网络[2]等方法都被用来对民航发动机健康状态参数变化趋势进行预测。PNN由于模拟了实际生物神经元的时间聚合特性，能够有效处理实际系统中存在的时间累积效应，具有较好的预测效果[3-4]。

目前，一般通过建立全局模型的方法进行发动机健康状态参数预测，即采用全部的训练样本建立一个单一预测模型进行预测。然而，全局模型可能难以完整描述发动机健康状态参数时间序列的某些局部特性，且模型结构比较复杂。例如，ANN和PNN等神经网络模型在实际应用中难以确定合适的网络结构，网络训练有可能陷入局部最优，导致难以获得最佳的预测精度。集成学习通过组合一组“弱学习机”，即非最佳预测效果的学习机获得更高的预测精度。AdaBoost就是一种有效的集成学习算法[5]。AdaBoost赋予上一次学习中错误样本更大的权重，按照权值从训练样本中选择一部分“硬”样本训练新的学习机，使得各个学习机适应于当前选择的局部样本。通过不同学习机对不同局部样本的学习，AdaBoost可以克服全局模型的不足，在不追求单个学习机最佳预测精度的同时获得较好的总体预测效果。可见，采用集成学习模型可以减少模型优化的相关工作，容易获得比单一模型更好的预测效果。

有鉴于此，笔者针对民航发动机振动信号趋势预测问题，对面向回归问题的AdaBoost.RT[6]算法进行了改进，以改进的AdaBoost.RT算法作为集成学习框架，以PNN作为弱学习机构建集成PNN预测模型对民航发动机振动信号进行趋势预测。

1 过程神经网络

前馈过程神经网络模型是最为常用的过程神经网络模型，图1即为一种典型的三层前馈过程神经网络模型。该模型的隐层由过程神经元[2]组成，而输出层由普通神经元组成。过程神经元以时变函数作为输入，以模拟生物神经元的持续输入刺激，其连接权也为时变函数，通过积分算子来实现时间聚合运算。

图1 过程神经网络模型Fig.1 PNN model

假设输出层的激励函数为线性函数g(z)=z，则图1所示的过程神经网络模型的系统输出为

(1)

同传统人工神经网络一样，过程神经网络可以采用梯度下降法、Levenberg Marquardt算法等进行训练。同时，为了简化积分运算，需要将过程神经网络的输入函数和权函数进行正交基展开[7]。

2 集成过程神经网络预测模型

2.1 改进的AdaBoost.RT算法

AdaBoost.RT是从AdaBoost发展而来的一种面向回归问题的集成学习算法。AdaBoost.RT计算训练样本的相对误差，引入一个分类阈值φ将回归问题转化为分类问题，从而依照AdaBoost框架进行模型训练。由于其使用的直观性和简便性，AdaBoost.RT得到了广泛的应用[8-9]。因此，笔者采用AdaBoost.RT作为集成过程神经网络模型的基本框架。

由于AdaBoost.RT使用的是相对误差，因此在实际使用中具有较小值的训练样本，在绝对误差较小的情况下也可能产生较大的相对误差，导致算法可能集中于具有较小值的样本，从而失效。为克服上述不足，构造误差函数为

(2)

(3)

(4)

另外，分类阈值φ的大小直接影响AdaBoost.RT的使用效果，过大或者过小的φ都会对算法的预测效果造成影响，导致难以选择合适的φ[10]。笔者提出一种根据误差变化自适应调整阈值的改进方法。首先，赋予φ一个合适的初始值；然后，让φ随着实际训练误差的变化而自适应调整，具体为

(5)

如果训练误差变大，则应当增加φ值，反之则减小φ值。另外，为了保证算法的有效性，应当对φ的取值范围进行限定。当φ值大于训练误差lt的最大值或者小于lt的最小值时，笔者取φ为lt的中值。

2.2 集成预测模型构造

改进的AdaBoost.RT算法步骤如下。

按照下式更新权值Dt

其中：Zt为标准化因子。

4) 输出

3 应用实例

3.1 数据预处理与模型建立

民航发动机转子振动状态体现了发动机的健康状态，一般通过与基线的偏差值(百分比)来描述。振动偏差值越大，表明发动机偏离基线越多，发动机的性能可能发生了衰退。因此，有必要对发动机振动信号的变化趋势进行预测。

笔者采用平均绝对百分误差(mean absolute percentage error,简称MAPE)以及均方根误差(root mean square error，简称RMSE)描述预测误差。MAPE和RMSE的计算公式分别为

(6)

(7)

3.2 测试结果

为了进行对比，在采用本研究方法进行预测的同时采用单一PNN、原始AdaBoost.RT以及文献[8]的改进AdaBoost.RT算法进行预测。为方便起见，记文献[8]的改进AdaBoost.RT算法为Ref方法。在实验中，本研究方法和Ref方法的阈值初始值为φ=0.2，原始AdaBoost.RT的阈值φ通过试探确定。另外，3种集成预测模型的迭代次数(弱学习机个数)及弱学习机隐层神经元个数通过试探确定。单一PNN的隐层神经元个数通过交叉验证确定。以上方法均采用选定的相同参数设置进行5次重复试验，取平均值作为最终预测结果。

各模型对ΔVN2序列的预测结果如图2～4所示。模型参数设置和误差见表1。各模型对ΔVN1序列的预测结果如图5～7所示。模型参数设置和误差见表2。

图2 采用本研究方法的ΔVN2预测结果Fig.2 Prediction results of ΔVN2 using the proposed method

图3 采用Ref方法的ΔVN2预测结果Fig.3 Prediction results of ΔVN2 using the reference method

图4 采用原始AdaBoost.RT方法的ΔVN2预测结果Fig.4 Prediction results of ΔVN2 using the original AdaBoost.RT

表1 模型参数设置和ΔVN2预测误差

图5 采用本研究方法的ΔVN1预测结果Fig.5 Prediction results of ΔVN1 using the proposed method

图6 采用Ref方法的ΔVN1预测结果Fig.6 Prediction results of ΔVN1 using the reference method

图7 采用原始AdaBoost.RT方法的ΔVN1预测结果Fig.7 Prediction results of ΔVN1 using the original AdaBoost.RT

表2 模型参数设置和ΔVN1预测误差

可以看出，对于两种不同类型的振动信号时间序列，在不同训练样本和测试样本比例的条件下，集成PNN预测模型的预测效果都好于单一PNN的预测效果，且作为弱学习机的PNN的网络结构比单一PNN的网络结构简单，证明了通过集成次优PNN模型获得较好预测效果的方法是可行的，从而可以有效简化民航发动机健康状态预测建模中模型优化工作。

虽然文献[8]改进算法的预测效果实际上比原始AdaBoost.RT的预测效果略差，但该算法只需给定初始阈值，大大减少了阈值优化的相关工作，因此其改进是有效的。笔者提出的集成预测模型对于两种类型振动信号的预测效果好于未改进的AdaBoost.RT算法以及文献[8]的改进算法。这是因为本研究对AdaBoost.RT算法的改进采用了更加合理的误差函数和自适应阈值调整方法，易取得较好的预测效果。该结果同时也表明了该模型对于实际发动机振动信号趋势预测具有良好的适应性。

4 结论

1) 提出了一种改进的AdaBoost.RT集成学习算法，该方法采用改进的误差函数以避免算法在训练中向具有较小值的样本集中，保证了算法的有效性。另外，该方法在训练过程中可以自适应调整分类阈值，使用更为方便。

2) 以过程神经网络作为弱学习机，采用改进的AdaBoost.RT算法构建集成模型对民航发动机振动信号变化趋势进行预测，并且与单一PNN模型、基于原始AdaBoost.RT以及只改进了阈值调整方法的AdaBoost.RT算法的集成PNN模型进行了对比。结果表明，本研究方法的预测效果好于对比方法，对民航发动机振动信号变化趋势预测具有更好的适应性。

[1] 陈果. 用结构自适应神经网络预测航空发动机性能趋势[J].航空学报, 2007, 28(3): 535-539.

Chen Guo. Forecasting engine performance trend by using structure self-adaptive neural network[J]. Acta Aeronautica Et Astronautica Sinica, 2007, 28(3): 535-539. (in Chinese)

[2] 何新贵,梁久祯.过程神经网络的若干理论问题[J].中国工程科学, 2000, 2(12): 40-44.

He Xingui, Liang Jiuzhen. Some theoretical issues on procedure neural networks[J]. Engineering Science, 2000, 2(12): 40-44. (in Chinese)

[3] 金向阳, 林琳, 钟诗胜, 等. 航空发动机振动趋势预测的过程神经网络法[J]. 振动、测试与诊断, 2011,31(3):331-334.

Jin Xiangyang, Lin Lin, Zhong Shisheng, et al. Prediction of aeroengine vibration trend using process neural network[J]. Journal of Vibration, Measurement & Diagnosis, 2011, 31(3):331-334. (in Chinese)

[4] Ding Gang, Zhong Shisheng. Approximation capability analysis of parallel process neural network with application to aircraft engine health condition monitoring [J]. Lecture Notes in Computer Science, 2007, 4493(3): 66-72.

[5] Freund Y, Schapire R. A desicion-theoretic generalization of on-line learning and an application to boosting computational learning theory[J]. Lecture Notes in Computer Science, 1995, 904:23-37.

[6] Solomatine D P, Shrestha D L. AdaBoost.RT: a boosting algorithm for regression problems[J]. Neural Networks, 2004, 2: 1163-1168.

[7] 何新贵,梁久祯,许少华. 过程神经网络的训练及其应用[J].中国工程科学,2001,3(4):31-35.

He Xingui, Liang Jiuzhen, Xu Shaohua. Learning and applications of procedure neural networks[J]. Engineering Science, 2001, 3(4):31-35.(in Chinese)

[8] Tian Huixin, Mao Zhizhong. An ensemble elm based on modified AdaBoost.RT algorithm for predicting the temperature of molten steel in ladle furnace[J]. IEEE Transactions on Automation Science and Engineering, 2010, 7(1):73-80.

[9] Schclar A, Tsikinovsky A, Rokach L, et al. Ensemble methods for improving the performance of neighborhood-based collaborative filtering[C]∥Proceedings of the Third ACM Conference on Recommender Systems. New York: [s.n.], 2009.

[10]Shrestha D L, Solomatine D P. Experiments with AdaBoost.RT, an improved boosting scheme for regression[J]. Neural Computation, 2006, 18(7): 1678-1710.

[11]Schafer R W. What is a savitzky-golay filter[J]. Signal Processing Magazine, IEEE, 2011, 28(4): 111-117.