徐奔业，顾斌杰，潘丰，熊伟丽

（江南大学 物联网工程学院，江苏 无锡 214122）

0 概述

支持向量机（Support Vector Machine，SVM）是20世纪90 年代由VAPNIK［1-2］提出的一种机器学习算法。与传统的以降低经验风险为目标的神经网络相比，SVM的主要思想是最小化结构风险，这使得SVM 具有良好的泛化性能［3-4］。目前，SVM在入侵检测［5］、图像处理［6］、故障诊断［7］、干扰识别［8］等领域得到广泛应用。然而，SVM 在训练大规模数据集时，存在时间复杂度高导致训练速度慢的问题［9］。KHEMCHANDANI等［10］提出孪生支持向量机（Twin Support Vector Machine，TSVM）。与SVM 相比，TSVM 仅需求解两个较小规模的二次规划问题，因此训练时间仅为SVM 的1/4 左右。CHEN等［11］提出投影孪生支持向量机（Projection Twin Support Vector Machine，PTSVM）。PTSVM 通过为每个类寻找一个最优投影轴使投影点类内方差最小化，构建分类模型。

PENG［12］把TSVM 的思想用于回归领域，提出孪生支持向量回归（Twin Support Vector Regression，TSVR）算法。TSVR 通过求解两个较小规模的二次规划问题寻求回归函数，与传统SVR 相比，TSVR 具有更好的泛化性能和更快的训练速度。CHEN等［13］引入Sigmoid光滑函数，对TSVR 的目标函数进行光滑处理，提出光滑孪生支持向量回归（Smooth Twin Support Vector Regression，STSVR）算法。STSVR 通过求解一对无约束优化问题，获得了比TSVR 更快的训练速度。PENG等［14］基于PTSVM 的思想，提出投影孪生支持向量回归（Projection Twin Support Vector Regression，PTSVR）算法，包括双边移位投影孪生支持向量回归（Pair-shifted PTSVR，PPTSVR）算法和单边移位投影孪生支持向量回归（Single-shifted PTSVR，SPTSVR）算法。PTSVR将训练集中的每个训练点进行上下移位得到两个新的移位集，从而利用PTSVM 的思想求解两个最优超平面的法向量。PPTSVR 和SPTSVR 的主要区别在于，PPTSVR 在两个移位集上构建回归函数，而SPTSVR 则是在原始集和一个移位集上构建回归函数。……