APP下载

基于改进SVM的模拟电路故障诊断

2014-03-24周绍磊史贤俊戴邵武

海军航空大学学报 2014年2期
关键词:流形故障诊断局部

周绍磊,廖 剑,史贤俊,戴邵武

(海军航空工程学院控制工程系,山东烟台264001)

模拟电路由于自身存在故障模型欠佳、元件容差、故障参数连续和电路非线性等特点[1],使得其故障诊断技术发展缓慢。20世纪90年代以来,随着人工智能技术研究的复兴,越来越多的学者将其应用到模拟电路故障诊断中,并取得了显著的成果[1-7]。基于机器学习的故障诊断方法,如神经网络[1-4](Neural Networks,NN)和支持向量机[5-7](Support Vector Machine,SVM),由于不需要精确的数学模型,因而非常适合于有容差的模拟电路故障诊断,但NN 基于经验风险最小化,在训练的过程中普遍存在收敛速度慢、容易陷入“局部最优”且当故障样本有限时其泛化能力难于保证等缺点。文献[5-7]对模拟电路诊断技术研究的不断深入和发展,提出了基于SVM 的模拟电路故障诊断技术并取得了较好的识别效果。SVM 作为一种基于统计学习理论的机器学习方法,克服了NN 方法的固有缺点,在解决小样本、非线性及高维模式识别等问题中表现出结构简单、全局最优和泛化能力强等特点,被看作是对传统分类器的一个好的替代,已在模拟电路故障诊断得到成功应用[5-9]。但SVM 在构造最优分类超平面时,仅仅关注了数据整体类间的可分离性,而忽视了类内数据的结构信息[10],导致在数据中存在非线性流形结构时,其分类边界过于光滑,严重影响了SVM 的分类性能。一般电路的输出和电路的故障机理之间往往存在着非线性关系[11],因而标准SVM 仅仅关注类间间隔信息对模拟电路故障诊断分类问题来说是远远不够的。针对上述情况,本文提出一种融合数据分布先验信息的改进支持向量机故障诊断方法,该方法通过在标准SVM 中加入对数据流形局部分布的约束,有效提高了模型的诊断精度。

1 SVM及其不足

1995年,Vapnik[12]基于结构风险最小化原则提出SVM 分类算法,由于其能有效解决小样本、非线性及高维模式识别等问题,且通常具有良好的学习和推广能力而得到广泛研究并已成功应用于故障诊断等领域。

对于线性不可分问题,对每个样本引入一个松弛变量ξi,支付一个代价ξi,将间隔软化。目标函数由原来的变成

式(3)中,C>0 称为惩罚参数,一般由应用问题决定,用以在最大化间隔和最小化错分程度之间寻求一个满意的平衡。

相应的约束条件变为:

由式(2)可以得到定理1。

定理1:SVM 的类间可分离性满足wSbw≥4,其中,Sb=(μ1-μ2)(μ1-μ2)T为类间散布矩阵,μi为第i类的均值,i=1,2。

由于篇幅所限,详细证明请参见文献[10]。

从定理1显见,标准SVM在约束条件中自然地暗含了对类间可分离性的一个下界,这与模式识别的大间隔准则要求是一致的。但是,SVM却忽视了类内先验的结构信息,这些信息对于分类问题至关重要。文献[10]指出,对于复杂的模式识别问题,如果仅仅关注数据的类间间隔而忽略数据的先验分布信息,将使训练得到的分类器边界过于光滑,从而对于复杂问题的分类精度将明显下降。同时,对于大部分模拟故障诊断问题,由于电路的输出和电路的故障机理之间往往存在着非线性关系,且故障样本常局部嵌入在一个低维流形上。因此,如果只关注故障样本的类间间隔,将不能得到很好的分类诊断效果。

2 改进SVM及其故障诊断

为了更好地在SVM 中融入数据的先验结构信息,本文提出一种基于改进支持向量机,试图在构造最优分类超平面时同时考虑数据的整体类间间隔和数据流形的局部信息,使分类超平面对数据分布敏感。为了更好地描述本文方法,先给出如下定义。

根据光谱图理论[13],具有权重矩阵W的加权邻接图G能有效刻画样本流形的局部几何结构,但仅有一个整体图并不足以反映样本间的判别结构。为此,可以针对类内样本和类间样本分别构建加权邻接类内图Gw和类间图Gb,分别用于刻画数据流形的局部结构信息和局部判别信息。

定义2(局部离散度矩阵)[14]:设Lw和Lb分别为图Gw和Gb的拉普拉斯矩阵,则矩阵Hw=XLwXT=称为局部类内图离散度矩阵;矩阵称为局部类间图离散度矩阵,其中,的权重矩阵,T(·)为一l×l对角矩阵,其对角线上元素定义为统称为局部离散度矩阵。

上述定义中,局部类内图离散度矩阵Hw体现了输入样本流形的局部结构信息,局部类间图离散度矩阵Hb体现了输入样本流形的局部判别信息。

定义3(局部信息差度量):类似于标准SVM,假设分类器具有线性形式:f(x)=wTx+b,则

称为局部信息差度量,其中,δ∈( 0,1] 为局部信息平衡参数,ΔH=δHw-(1-δ)Hb=XΔLXT为局部信息差矩阵,ΔL=δLw-(1-δ)Lb。

上述定义中,参数δ用于在输入样本流形的局部几何结构(局部类内紧性)和局部判别信息(局部类间散性)之间寻求一个满意的平衡。当δ增大时,偏向于保持局部几何结构同时减少对局部判别信息的惩罚;反之,则放松对局部几何结构的要求,加大惩罚局部判别信息。只要在适当的δ值下,ΔS就能既较好地保持局部几何结构,又具有较好的模式判别信息。

根据模式识别的大间隔准则,在输出空间中,期望在图Gw中的近邻样本尽可能的紧凑,同时在图Gb中的近邻样本尽可能的分散。因此,改进SVM 方法的原始优化问题可描述为:

式(6)、(7)中:C>0 是一个惩罚参数;λ≥0 是正则化参数,调节局部流形信息的相对重要性;ξ=[ξ1,…,ξl]为松弛向量。

类似于标准SVM 的推导方法,将原始问题转化为求其对偶问题的最优解,于是可得原始优化问题(6)、(7)的对偶问题为

式(8)~(10)中:αi为Lagrangian乘子;I为单位矩阵;且改进SVM原始优化问题中投影向量w*和偏置变量b*分别为:

同标准SVM,对于线性不可分问题,同样可以显式地把样本映射到高维特征空间中,然后在特征空间中构造分类超平面。因篇幅所限,本文不进行讨论。

与标准SVM 一样,基于改进SVM 的模拟电路故障诊断方法分为训练和诊断2 个阶段。首先,对待诊断电路施加激励,采用合适的故障特征提取方法提取电路在不同故障状态下的特征组成训练集;然后,使用改进SVM方法训练诊断分类器对故障分类。

3 故障诊断实例

3.1 电路模型、参数及故障仿真设置

本文以两级四运放低通滤波器电路[15]为例进行实验分析。两级四运放低通滤波器的电路结构及元件标称值如图1所示(电阻的单位为Ω)。其中设定电路中电容容差为±10%,电阻容差为±5%。输入节点为Vin,设定输入激励信号是幅值为5 V、宽度为10 μs的窄脉冲。故障模式设置与文献[15]完全一致,15 种软故障如表1所示。

图1 两级四运放低通滤波器Fig.1 Two-stage four-op-amp low-pass filter

表1 电路中软故障模式Tab.1 Soft fault modes in circuit

3.2 特征提取

给两级四运放低通滤波器电路施加幅值为5 V、宽度为10 μs 的窄脉冲,用Pspice 仿真采样电路Vout节点电压值,采样率为500 K samples/s,采样时间为400 μs,每种故障模式及正常模式各进行50次Monte-Carlo 分析,共采样800 组数据,每种故障状态的部分响应输出波形如图2 所示。然后,根据文献[15]的计算方法,对所有采样数据进行最优分数阶傅里叶变换(Fractional Fourier Transform,FrFT)得到相应16 种故障模式(包括正常状态)的800组201维特征向量。本文只是利用文献[15]取得的故障特征数据用于降维对比,并不讨论模拟电路最优故障特征的提取问题,所以详细的故障特征提取步骤和故障特征样本集获取请参见文献[15]。

3.3 基于改进SVM的模拟电路故障诊断

使用网格搜索法搜索最佳的改进SVM 参数,多分类问题采用一对一策略,训练多故障分类器对电路进行诊断,结果如表2 所示,表中NF 表示电路正常状态。表2 还列出了基于SVM[8]和LS-SVM[7]方法的故障诊断率。从表2中可知,SVM和LS-SVM方法的故障诊断率相当,而融合了数据先验分布信息的改进SVM 方法的故障诊断正确率要明显高于SVM 和LSSVM方法,可见所提方法具有一定的优势。

图2 电路各种故障状态的脉冲响应Fig.2 Impulse response of TSLPF circuit under different fault status

表2 电路故障诊断率Tab.2 Diagnosis rate of circuit fault

4 结束语

本文针对标准SVM 在模拟电路故障诊断应用中的不足,提出了基于改进支持向量机的模拟电路故障诊断新方法。该方法通过在标准SVM中加入对数据流形局部分布的约束,并在惩罚系数中引入数据的全局分布信息设计了一种依赖于数据分布的新型SVM,新方法取得的分类效果优于标准SVM。采用两级四运放低通滤波器电路验证了方法的有效性,并与SVM和LS-SVM 方法进行对比,结果表明所提方法能有效提高模拟电路的故障诊断率,具有较大的应用优势。

[1] AMINIAN M,AMINIAN F. A modular fault-diagnostic system for analog electronic circuits using neural networks with wavelet transform as a preprocessor[J]. IEEE Transactions Instrument Measure,2007,56(5):1546-1554.

[2] AMINIAN M,AMINIAN F. Neural-network based analog circuit fault diagnosis using wavelet transform as preprocessor[J].IEEE Transactions on Circuit System II:Export Briefs,2000,47(2):151-156.

[3] AMINIAN M,AMINIAN F. Fault diagnosis of nonlinear circuits using Neural Networks with wavelet and Fourier transforms as preprocessors[J].Journal of Electronic Testing,2001,17:471-481.

[4] AMINIAN M,AMINIAN F.Analog fault diagnosis of actual circuits using neural networks[J]. IEEE Transactions on Instrument Measure,2002,51(3):544-550.

[5] HUANG J,HU X G,YANG F. Support vector machine with genetic algorithm for machinery fault diagnosis of high voltage circuit breaker[J]. Measurement,2011,44:1018-1027.

[6] LONG B,TIAN S L,MIAO Q,et al. Research on features for diagnostics of filtered analog circuits based on LS-SVM[J]. IEEE Autotestcon,Baltimore,MD,2011,9:360-366.

[7] LONG B,TIAN S L,WANG H J. Diagnostics of filtered analog circuits with tolerance based on LS-SVM using frequency features[J]. Journal of Electronic Testing,2012,28:291-300.

[8] 孙永奎,陈光礻禹,李辉.灵敏度分析和SVM诊断模拟电路故障的方法[J].电子科技大学学报,2009,38(6):971-975.

SUN YONGKUI,CHEN GUANGJU,LI HUI.Fault diagnosis method for analog circuits using sensitivity analysis and SVM[J]. Journal of University of Electronic Science and Technology of China,2009,38(6):971-975.(in Chinese)[9] 宋国明,王厚军,姜书艳,等.最小生成树SVM的模拟电路故障诊断方法[J].电子科技大学学报,2012,41(3):412-417.

SONG GUOMING,WANG HOUJUN,JIANG SHUYAN,et al.Fault diagnosis approach for analog circuits using minimum spanning tree SVM[J]. Journal of University of Electronic Science and Technology of China,2012,41(3):412-417.(in Chinese)

[10] XUE H,CHEN S C,YANG Q. Structural support vector machine[J]. Lecture Notes in Computer Science,2008,5263(1):501-511.

[11]崔江,王友仁.一种新颖的基于混合故障字典方法的模拟故障诊断策略[J]. 电工技术学报,2013,28(4):272-278.

CUI JIANG,WANG YOUREN.A novel strategy of analog fault diagnosis based on hybrid fault dictionaries[J].Transactions of China Electrotechnical Society,2013,28(4):272-278.(in Chinese)

[12] VAPNIK V N. The nature of statistical learning theory[M].New York:Springer-Verlag,1995:59-87.

[13] YAN S,XU D,ZHANG H,et al. Graph embedding and extensions:a general framework for dimensionality reduction[J]. IEEE Transactions on Pattern Analysis and Machine Intelligence,2007,29(1):40-51.

[14]陶剑文,王士同.局部保留最大信息差ν-支持向量机[J].自动化学报,2012,38(1):97-108.

TAO JIANWEN,WANG SHITONG. Locality-preserved maximum information variance v-support vector machine[J]. Acta Automatica Sinica,2012,38(1):97-108.(in Chinese)

[15]罗慧,王友仁,崔江.基于最优分数阶傅立叶变换的模拟电路故障特征提取新方法[J].仪器仪表学报,2009,30(5):997-1001.

LUO HUI,WANG YOUREN,CUI JIANG. New approach to extract analog circuit fault features based on optimal fractional Fourier transform[J]. Chinese Journal of Scientific Instrument,2009,30(5):997-1001.(in Chinese)

猜你喜欢

流形故障诊断局部
多重卷积流形上的梯度近Ricci孤立子
基于包络解调原理的低转速滚动轴承故障诊断
爨体兰亭集序(局部)
凡·高《夜晚露天咖啡座》局部[荷兰]
局部对称伪黎曼流形中的伪脐类空子流形
数控机床电气系统的故障诊断与维修
对乘积开子流形的探讨
丁学军作品
基于量子万有引力搜索的SVM自驾故障诊断
局部遮光器