高润鹏，伞 冶，朱 奕

（哈尔滨工业大学控制与仿真中心，黑龙江 哈尔滨 150001）

0 引言

支持向量机［1］（support vector machine，SVM）是Vapnik提出的一种基于统计学习理论的学习机器，与神经网络相比，它可以解决小样本、“维数灾”和局部极值解等问题，具有较强的泛化能力，并在目标声识别［2］、爆破震动预测［3］等实际问题中得到广泛应用。它采用自上而下的学习方式，选取损失函数如ε不敏感损失函数、Laplacian损失函数、Huber损失函数或分段损失函数，得到具有一定鲁棒性和稀疏性的模型。

最小二乘支持向量机［4］（least squares SV M，LSSV M）是SV M的扩展算法，求解算法为解线性方程组，训练速度明显加快。LSSV M的求解算法主要有共轭梯度法［4］、降阶法［5］和序列最小优化算法［6］等。但LSSV M采用误差的平方和作为损失函数，当数据混有非高斯分布长尾噪声时，算法鲁棒性变差。为此Suykens［7］提出加权LSSV M （weighted LSSV M，WLSSV M），它根据误差信息赋予样本权重，对异常样本赋予极小的权重值以抑制它的影响。但当异常样本较多时，WLSSV M检测和抑制异常样本能力下降。采用迭代 WLSSV M［4］及改进算法［8－9］可增强算法的鲁棒性，但需要多次训练 WLSSV M且训练时间较长。De Brabanter［10］实验对比四种权值函数的迭代WLSSV M算法的鲁棒性。张淑宁［11］采用鲁棒学习提高LSSV M的鲁棒性。温雯［12］采用假设检验方法检测异常样本，剔除它并使用减量学习更新模型，算法的鲁棒性增强。采用以上算法LSSV M鲁棒性在一定程度上得到增强，但LSSV M采用等式约束，导致算法缺乏稀疏性，过多的支持向量使得模型结构复杂、预测时间长。因此有学者提出改进算法提高稀疏性，如先学习训练样本得到初始模型。……