APP下载

新型非平行平面支持向量回归机及其应用

2021-09-22陈素根

关键词:实验

石 婷,陈素根

(安庆师范大学数理学院,安徽安庆246133)

支持向量机(SVM)是由Vapnik等[1]提出的一种有效的机器学习算法,支持向量回归机(SVR)是基于SVM原理解决回归问题的技术,常用于处理分类和回归问题。传统的SVR模型需要求解一个较大的凸二次规划问题,计算复杂度大、训练速度慢。为了解决SVR的学习速度与计算复杂度问题,Peng提出了孪生支持向量回归机(TSVR),通过引入两个非平行的ε-不敏感损失函数将问题转化为求解2个较小规模的二次规划问题,训练速度是SVR的4倍[2]。自此,孪生支持向量回归机逐渐成为机器学习领域的研究热点之一,涌现出了大量的相关研究成果,如非平行平面支持向量回归机[3]、强健的支持向量回归机[4]和Epsilon非平行平面支持向量回归机[5-10]等。

受TSVR的启发,本文提出一种新型非平行平面支持向量回归机(NNHSVR),目的是寻找2个非平行函数,进而得到最终的回归函数。从模型上来看,SVR求解1个较大规模的二次规划问题且对所有训练样本点有2组约束;NNHSVR求解2个较小规模的二次规划问题且对所有训练样本点只有1组约束,因此NNHSVR比SVR的训练速度要快。与TSVR不同的是,在NNHSVR目标函数中增加对上下边界函数的约束项,通过调节u的大小使上下边界函数尽量靠近大部分训练点,减弱离群点对上下边界函数的影响,算法更加鲁棒。

1 预备知识

1.1 支持向量回归机

线性SVR的原始问题如下:

其中,c>0表示惩罚参数,ε>0表示参数,ξ、ξ*∈Rn表示松弛变量,e=(1,1,1,…,1)T∈Rn。SVR就是求解问题(1),得到一个线性回归函数f(x)=ωTx+b,其中ω∈Rm表示法向量,b∈R表示偏置。为此……

登录APP查看全文

猜你喜欢

实验
记住“三个字”,写好小实验
记一次有趣的实验
有趣的实验
做个怪怪长实验
NO与NO2相互转化实验的改进
实践十号上的19项实验
《实验流体力学》征稿简则
我实验,我快乐