周裕群，张德生，张 晓

西安理工大学 理学院，西安 710054

支持向量机（support vector machine，SVM）是由Cortes等人[1]提出的一种有效的机器学习算法，该算法被广泛应用于模式识别和数据分割等领域。SVM算法通过引入核函数，将非线性分类问题转化为某个高维特征空间中的线性分类问题，进而解决了小样本、非线性和维数灾难等问题。但是，SVM算法也存在以下几点不足：SVM算法在构建模型时，采用的是铰链损失函数，导致SVM算法对训练集中的噪声比较敏感；SVM算法在求解对偶问题时，计算成本较高；SVM算法使用平行平面来区分两类样本，而平行平面不一定符合数据的分布趋势。

针对SVM算法存在的不足，学者们提出了以下改进方法：文献[2]提出了广义特征值近端支持向量机算法（generalized eigenvalue proximal support vector machine，GEPSVM），该算法通过求解两个广义特征值问题来构建两个非平行超平面。基于GEPSVM算法的思想，文献[3]提出了孪生支持向量机算法（TWSVM），在运行速度上，TWSVM算法比SVM算法大约快4倍。但是，GEPSVM算法和TWSVM算法都没有考虑不同输入样本点对最优超平面的影响，为此，文献[4]提出了模糊支持向量机算法（fuzzy support vector machine，FSVM），文献[5]将TWSVM算法和FSVM算法结合，提出了模糊孪生支持向量机算法（fuzzy twin support vector machine，FTSVM），FTSVM算法在一定程度上降低了异常值对分类性能的影响。为了实现结构风险最小化，文献[6]在TWSVM算法中引入正则化项，进而提出了孪生有界支持向量机算法（twin bounded support vector machine，TBSVM）。文献[7-8]提出了基于pinball损失的支持向量机算法和孪生支持向量机算法，这两种算法在一定程度上降低了噪声对分类性能的影响。文献[9]提出了大规模最小二乘孪生支持向量机算法（large-scale least squares twin SVM，LS-LSTSVM），实验结果表明，该方法能够有效处理大规模数据集。……