肖 晓,张 敏

(1.中国矿业大学 信息与电气工程学院,江苏 徐州 221008； 2.淮海工学院 电子工程学院,江苏 连云港 222005)

0 引言

支持向量机(sutopport vector machine,SVM)是Vapnik等人提出的一种针对小样本训练和分类的机器学习理论[1]。它是以VC维理论和结构风险最小化原则为基础的机器学习,在解决高维模式识别、小样本和非线性问题中表现出许多独特的优势,在一定程度上克服了“过学习”和“维数灾难”等传统问题,并且以统计学习理论(SLT)为基础,明确数学模型,因此具有很好的发展前景。

支持向量机最初是针对2类分类问题提出的,不能将其直接应用于多类分类问题。但实际应用中经常需要对多类问题进行分类,如何将支持向量机推广到多类分类问题中并保持其优良的性能,已成为学者们研究的热点[2]。针对支持向量机多类分类算法众多学者提出了不同的有效分类方法[3-5],但不同的方法对大规模分类的适用性尚不明确。基于此,笔者从目前常用的多类分类方法的基本原理及其特点来对比分析其在大规模分类中的适用性,并通过实验仿真分析来加以验证。

1 SVM多类分类方法

多类SVM实现方式可以分为2种[6]。第1种方法是一次性求解多类问题,其是在原有2类SVM基础上,构造多值分类模型,对新模型的目标函数进行最优化，它其实是2类分类问题中二次优化问题的推广。由于这种目标函数过于复杂,效率不高,一般不被采用。第2种方法是通过组合多个二值SVM分类器,实现多类别分类。

1.1 一对多SVM

该算法是最早用于解决多类分类的方法,其基本思想是,解决n类问题需要训练n个支持向量机的2类分类器,构成n个SVM模型。……