一种提高SVM分类速度的新方法
2012-08-16任逸卿朱昌杰
淮北师范大学学报(自然科学版) 2012年4期
关键词:分类
任逸卿,朱昌杰,吴 波
(淮北师范大学 计算机科学与技术学院,安徽 淮北 235000)
支持向量机(Support Vector Machine)是Cortes和Vapnik于1995年首先提出的,它在解决小样本、非线性及高维模式识别中表现出许多优势,并能够推广应用到函数拟合等其他机器学习问题中[1].它的分类方法是建立在统计学习理论的VC维理论和结构风险最小化原理基础上的.
本文提出一种改进的SVM分类器.改进分类器的主要功能是通过引入分类圆心,分类半径,分类圆心距的概念,从而快速地对非支持向量点进行删除,提高分类速度.引入混消度的概念,保证在训练样本严重混淆时的算法泛化性[2].
1 现有的一些SVM改进算法
SVM具有很强的泛化能力.但是实际问题中,两类训练样本时常混淆严重.这种情况下,SVM分类面就非常复杂,分类效率低下.现有的解决这个问题的办法有使用NN-SVM-KNN[3]分类器以及使用SVMKNN[4]等.SVM对于数据量很大的样本的训练效率都很低,针对大规模样本的分类办法有Light-SVM,最远邻等.但是这些方法分类精度都有所下降,而且效率不高[5],删减后依然有大量数据.
2 改进算法
解决样本混淆严重的分类问题时,算法需要既能快速地对样本中非支持向量的混淆点进行删减,又能保证训练的结果泛化能力.然而在支持向量机中,不会出现在两个样本集间隔以外的正确划分区.我们就引入下面几个概念:
一个类 S={t1,t2,t3,…,tn}包含有 N个点,其中 t是 S中的一个样本,这里每个样本都是 m维向量.
分类圆心距:S=|C1-C2|,表示两个分类圆心之间的……
登录APP查看全文
