基于ramp损失函数的原空间支持向量机
2016-11-11袁玉萍安增龙
华东师范大学学报(自然科学版) 2016年2期
袁玉萍,安增龙
(1.黑龙江八一农垦大学 信息与计算科学系,黑龙江 大庆163319;2.黑龙江八一农垦大学 经济管理系,黑龙江 大庆163319)
基于ramp损失函数的原空间支持向量机
袁玉萍1,安增龙2
(1.黑龙江八一农垦大学 信息与计算科学系,黑龙江 大庆163319;2.黑龙江八一农垦大学 经济管理系,黑龙江 大庆163319)
针对传统支持向量机对噪声敏感的问题,给出一种基于不对称形式的二次不敏感控制型ramp损失函数的支持向量回归机,采用凹凸过程优化和光滑技术算法,将非凸优化问题转化为连续且二次可微的凸优化问题,利用有限步终止的Amijo-Newton优化算法,求解所建立的优化模型,并分析了算法的收敛性.该算法不仅可以保持支持向量的稀疏性,而且还可以控制训练样本中的异常值.实验结果表明,该模型保持了很好的泛化能力,无论对模拟数据还是标准数据都具有一定的拟合精度,与标准支持向量机模型相比,不仅能够降低噪声和孤立点的影响,而且也具有较强的鲁棒性.
支持向量回归机;异常值;损失函数;凹凸过程
0 引言
由于标准支持向量机对所有输入样本同等对待,在训练时从中选取部分样本,利用支持向量机来构造最终的决策函数,同时标准支持向量机对异常值也非常敏感,在确定决策超平面时所起到的作用非常大,降低了支持向量机的泛化能力和推广能力.因此当样本中含有噪声时,建立支持向量机的鲁棒性模型是非常重要的.
为了抑制支持……
登录APP查看全文