刘瑞兰，徐艳，戎舟

（1 南京邮电大学自动化学院，江苏 南京 210003；2 河南省轻工业学校，河南 郑州 450006）

引 言

支持向量机（support vector machine，SVM）是由Vapnik 等[1-3]提出的基于统计学习和结构风险最小化原理的建模方法，该方法在有限样本情况下，同时兼顾算法的经验风险和推广能力，广泛应用于解决模式分类问题[4-6]和回归建模问题[7-10]。标准的支持向量机采用求解二次规划问题的求解方法，最终求出包含少量支持向量的模型，但是算法的复杂度随着样本个数的增加而增加。Suykens 等[11]在标准SVM 的目标函数中用误差平方和项取代误差的绝对值项，提出了最小二乘支持向量机（least square support vector machine，LSSVM）方法，由于采用等式约束，LSSVM 采用求解线性方程组的方法求解，但是如果训练样本多，求出的LSSVM 模型规模庞大，每个训练样本都是支持向量，不具有标准支持向量机的稀疏性解。针对这一问题，文献[12-13]采用剪枝方法实现对最小二乘支持向量的稀疏，即先求出非稀疏解，得到一系列核系数，删除核系数小的样本，然后对剩下的训练样本重新建模，反复迭代直到满足要求。文献[14]提出了一种改进的稀疏化方法，但仍然以剪枝方法为基础，在重新建模时考虑总的训练样本的残差平方和，而不是稀疏后保留的训练样本的残差平方和，从而提高模型的推广能力。文献[15]提出通过在特征空间中寻找样本的最大无关组来解决解的稀疏性问题。

最小二乘支持向量机的预测精度与正则化参数和核函数参数的选取有一定的关系，在最小二乘支持向量机的应用中，常用的参数选择方法有经验法[15]、网格搜索法[10]和智能算法如遗传算法[16-18]和差分进化算法等[19]。……