光滑分段孪生支持向量机*
2016-09-08王彦彦
吴 青, 王彦彦, 薛 飞
(1.西安邮电大学 自动化学院,陕西 西安 710061;2.西安邮电大学 通信与信息工程学院,陕西 西安 710061)
光滑分段孪生支持向量机*
吴青1, 王彦彦2, 薛飞2
(1.西安邮电大学 自动化学院,陕西 西安 710061;2.西安邮电大学 通信与信息工程学院,陕西 西安 710061)
为了解决Sigmoid的积分函数对正号函数的逼近精度低的问题,引入一种具有更强逼近正号函数能力的光滑函数即分段函数,提出了光滑分段孪生支持向量机,并用快速Newton-Armijo算法对其求解。在NDC和UCI数据集上的实验结果表明:光滑分段孪生支持向量机能够有效地处理大规模和高维度数据,且分类精度和分类速度与光滑孪生支持向量机相比得到了改进。
光滑孪生支持向量机; 光滑分段函数; Newton-Armijo算法
0 引 言
孪生支持向量机(twin suppor vector machine,TWSVM)[1]是2007年在广义特征近似支持向量机(GEPSVM)[2]思想基础上提出来的。如果只考虑二类问题,TWSVM目的是要寻找两个非平行超平面。这两个超平面能够很好地把两类样本分开,其中一类样本要尽可能在本类超平面的周围,同时要尽可能远离他类的超平面。标准支持向量机(SVM[3])解决一个较大二凸次规划问题(QPPs),其约束条件是为了让两类样本尽可能分布在超平面的两侧。而TWSVM解决两个较小的QPPs,每一个QPPs在形式上与标准SVM相似,但相对应的约束条件却是为了保证他类样本尽可能远离本类超平面。TWSVM现已被应用到说话人识别[4]、医学检测[5,6]等领域。但是由于TWSVM的目标函数中存在不光滑项,只能在对偶空间上求解两个小QPPs。这种求解方法对于样本数目较大的问题将受到时间和内存的制约。……
