基于数据关系的SVM多分类学习算法
2012-01-11王文剑梁志郭虎升
王文剑,梁志,郭虎升
(1.山西大学 计算智能与中文信息处理教育部重点实验室,山西 太原 030006;2.山西大学 计算机与信息技术学院,山西 太原 030006)
基于数据关系的SVM多分类学习算法
王文剑1,2,梁志2,郭虎升2
(1.山西大学 计算智能与中文信息处理教育部重点实验室,山西 太原 030006;2.山西大学 计算机与信息技术学院,山西 太原 030006)
提出一种基于数据关系(Data Relationship,DR)的多分类支持向量机(Support Vector Machine,SVM)学习算法(Multi-Classification SVM Algorithm Based on Data Relationship,DR-SVM).DR-SVM 算法根据每类数据的关系(如向量积等)获取子学习器的冗余信息,从而优化多分类器组,然后通过经典的SVM算法训练分类器组.算法在简化分类器组的同时可对多类数据分类问题获得满意的泛化能力,在标准数据集上的实验结果表明,与经典的SVM多分类方法相比,DR-SVM具有更好的泛化性能,尤其对单个类别精度要求较高的数据尤其有效.
支持向量机;多分类;数据关系;泛化能力
0 引言
支持向量机是Vapnik等人提出的一种通用高效机器学习方法[1],遵循结构风险极小化原理,将问题的求解转化为一个凸二次规划问题的求解,由于支持向量机具有坚实的理论基础、简洁的表示方式及成熟的求解方法,目前已在时间序列预测、图像识别、文本分析等诸多领域得到成功的应用.最初提出的支持向量机模型用以求解两类分类问题,然后扩展到求解回归问题,近年来尽管也有将其拓展至多类分类问题的研究,但目前取得的研究成果相对还比较少.另外分类器的训练原则、支持向量的选取……