李卓文 宋金朋

新乡职业技术学院 河南新乡 473000

摘要：支持向量机是一种新的机器学习方法，由于其出色的学习性能，该技术已成为当前国际机器学习界的研究热点。对SVM训练算法的最新研究成果进行了综述，着重说明了各种的算法的思路和优缺点。总结了支持向量机理论及其应用的现状，对支持向量机的未来发展方向进行了展望。

关键词：支持向量机；训练算法；分类

Abstract：Support Vector Machines are a kind of novel machine learning methods，which have become the hotspot of machine learning because of their excellent learning performance.This paper made a summarize of the new pro gress in the SVM training of algorithm，focused on the ideas of various algorithms，pointed out the advantages and disadvantages of them.The status quo of SVM theory and its applications are summarized and the future development direction of SVM theory is expected.

Keywords：Support vector machine；raining algrithm；categorizing；

支持向量机（Support Vector Machine，SVM）是Vapnik等1995年提出的一种基于统计学习理论[1]的模式识别方法。它在解决小样本、非线性和高维模式识别问题中具有特有的优势，且在某种程度上克服了维数灾难和过度学习等传统难题，另其具有坚实的理论基础、简明的数学模型，使得支持向量机自提出以来受到广泛的关注，并取得了长足的发展。

1 支持向量机的训练算法

（1）块算法与分解算法

块算法（chunking algorithm）[2]最早是由Boser等人提出来的。它的出发点是删除矩阵中对应于Lagrange乘子为零的行和列不会对最终结果产生影响。对于给定的样本，块算法的目标就是通过某种迭代方式逐步排除非支持向量。块算法将矩阵的规模从训练样本数的平方减少到具有非零Lagrange乘子的样本数的平方，从而降低了训练过程对存储容量的要求。这种方法只要支持向量远远小于训练样本。但是，随着算法迭代次数的增多，训练样本集规模也会越来越大，算法依旧会变得十分复杂。

Osuna等人提出的分解算法（decomposition a1.gorithm）[3]，是目前有效解决大规模问题的主要方法。……