SVM核函数对分类精度影响的研究①
2012-06-14刘大宁杨永乐
佳木斯大学学报(自然科学版) 2012年4期
刘大宁, 杨永乐, 白 林
(成都理工大学管理科学学院,四川成都 610059)
0 引言
支持向量机是建立在统计学习理论的VC维理论和结构风险最小原理基础上,根据有限的样本信息在模型的复杂性和学习能力之间寻求最佳折中的方法[1].支持向量机的优点主要有:(1)SVM是专门针对有限样本情况的,其目标是得到现有信息下的最优解而不仅仅是样本数趋于无穷大时的最优值;(2)SVM最终将转化成为一个二次型寻优问题,从理论上说,得到的将是全局最优点,解决了在神经网络方法中无法避免的局部极值问题;(3)SVM将实际问题通过非线性变换转换到高维的特征空间,在高维空间中构造线性判别函数来实现原空间中的非线性判别函数,特殊性质能保证SVM有较好的推广能力,同时它巧妙地解决了维数问题,其算法复杂度与样本维数无关[2].通过计算机对比实验得到两个方面因素,它们对分类精度的影响包括:(1)核函数参数对分类精度的影响;(2)线性组合核函数对分类精度的影响.
1 SVM分类原理
SVM是从线性可分情况下的最优分类面发展而来的,最优分类面问题可以表示成如下的约束优化问题:


定义Lagrange函数:

原约束条件可以把原问题转化为如下凸二次规划的对偶问题:

这是一个在不等式约束下的二次函数机制问题,存在唯一最优解.若ai*为最优解,则


2 SVM核函数
当样本数据线性不可分时主要有两种解决方案,一种是引入松弛变量§i(§i≧0,i=1,2,...n),使超平面wTx+b=0满足yi(wTxi+b)≥1-ζi;另一种方案通过……
登录APP查看全文