粒子群算法优化混合核函数SVM及应用*
2017-01-11崔国恒李京书
崔国恒 李京书 张 军
(1.海军工程大学 武汉 430033)(2.空军装备研究院 北京 100000)
粒子群算法优化混合核函数SVM及应用*
崔国恒1李京书1张 军2
(1.海军工程大学 武汉 430033)(2.空军装备研究院 北京 100000)
相比于单一核函数支持向量机,混合核函数的引入使支持向量机多了一个可调参数,而这个可调参数一般是根据人为随机选取或者依据经验选取,并不能保证参数最优。针对此问题,提出了以惩罚系数、核函数参数和可调参数为寻优对象,用动态粒子群对其进行寻优的方法,以获取最优参数组合,从而提高支持向量机的分类性能。通过对UCI数据库中的IRIS数据集进行分类实验,结果表明:相比于单一核函数支持向量机,混合核函数支持向量机泛化能力更好,分类精度更高;动态粒子群算法能够搜索到更优的支持向量机参数。
支持向量机;动态粒子群;核函数参数;寻优;分类精度
(1. Naval University of Engineering, Wuhan 430033)(2. Equipment Research Department of Air Force, Beijing 100000)
Class Number TP393
1 引言
支持向量机(Support Vector Machine,SVM)是统计学习理论的具体体现,统计学习理论是从小样本出发的学习理论,最早是由Vapnik于20世纪60年代提出的,自20个世纪90年代逐渐受到越来越多的关注[1]。一般的机器学习如神经网络,在训练的过程中目标函数通常遵循最小化经验风险,但真实风险不一定最小,这也是经验风险最小化准则的弊端。而SVM放弃了传统的经验风险最小化准则,采用的是结构风险最小化(Structure Risk Minimization,SRM),SVM对于问题的求解实际上是求一个二次规划问题的最优解。在SVM中,采用核函数构建非线性映射很好地解决了线性不可分问题[2]。……
