基于粒子群算法的投影孪生支持向量机
2021-03-19叶黎明陈素根
叶黎明,陈素根
(安庆师范大学 数理学院,安徽 安庆246133)
0 引言
支持向量机(Support Vector Machine,SVM)是一种经典的机器学习的算法[1],它最初是由Vapink 等人提出的一种用于解决分类问题的算法,由于SVM具有较强的理论基础和较好的泛化能力而被广泛应用[1]. 在解决二分类问题上,SVM依据的是在特征空间中寻找间隔最大化的分类超平面. 2006年,广义特征值近端支持向量机(Proximal Support Vector Machines Via Generalized Eigenvalues,GEPSVM)[3]的出现,使得支持向量机的研究进入新篇章. 受GEPSVM算法的启发,Jayadeva等人于2007年提出孪生支持向量机(Twin Support Vector Machine,TWSVM)[4]. 实际上,TWSVM求解两个规模较小的凸二次规划问题代替SVM中一个规模较大的凸二次规划问题,提升训练性能,理论上使训练速度变成SVM的4倍. 从此,诸多学者对TWSVM 及相关算法开展深入研究,取得丰硕的成果[5-6],PTSVM 就是具有代表性的研究成果之一[7]. 该算法的思想是找出2个最优的投影方向,使得本类样本投影之后尽可能聚集在该类的投影中心周围,同时另一类样本投影之后尽可能远离该投影中心. 随后,许多学者在PTSVM的基础上提出各种改进算法[8-10],丰富PTSVM的研究.
尽管对于PTSVM的研究还在持续不断地进行着,它的性能也在不断地加强,但在参数选择上仍存在不足之处,且参数的好坏对于PTSVM 性能有较大影响. 为提升算法的性能,智能算法逐渐被引入到TWSVM算法中,丁世飞等人将粒子群算法(PSO)[11]和量子粒子群算法(Quantum Particle Swarm Optimization,QPSO)[12]与TWSVM结合,分别提出基于粒子群算法孪生支持向量机[13]和量子粒子群算法孪生支持向量机[14]. 之后,受上述文献启发,李景灿等人提出基……
