基于压缩感知的多尺度最小二乘支持向量机
2016-11-08王琴沈远彤
王琴 沈远彤
基于压缩感知的多尺度最小二乘支持向量机
王琴1沈远彤2
提出一种基于压缩感知(Compressive sensing,CS)和多分辨分析(Multi-resolution analysis,MRA)的多尺度最小二乘支持向量机(Least squares support vector machine,LS-SVM).首先将多尺度小波函数作为支持向量核,推导出多尺度最小二乘支持向量机模型,然后基于压缩感知理论,利用最小二乘匹配追踪(Least squares orthogonal matching pursuit,LS-OMP)算法对多尺度最小二乘支持向量机的支持向量进行稀疏化,最后用稀疏的支持向量实现函数回归.实验结果表明,本文方法利用不同尺度小波核逼近信号的不同细节,而且以比较少的支持向量能达到很好的泛化性能,大大降低了运算成本,相比普通最小二乘支持向量机,具有更优越的表现力.
最小二乘支持向量机,压缩感知,多尺度小波核,稀疏化,函数回归
引用格式王琴,沈远彤.基于压缩感知的多尺度最小二乘支持向量机.自动化学报,2016,42(4):631−640
支持向量机(Support vector machine,SVM)[1]是在统计学习理论发展起来的一种实用方法,是专门针对小样本情况下机器学习问题而建立起来的一套新的理论体系,基于结构风险最小化原则,在模式识别和机器学习领域占有非常重要的地位.最小二乘支持向量机(Least squares support vector machine,LS-SVM)[2]采用误差平方和作为训练集的经验损失,将SVM的二次规划问题转换为求解线性方程组的问题.LS-SVM不仅比标准SVM需要调整的参数少,而且计算更简单.如今LS-SVM已经广泛地应用于隧道的可靠性分析[3]、天然气密度的确定[4]等领域.然而LS-SVM没有体现支持向量的稀疏性,这样会降低标准SVM的泛化能……
