基于改进PSO算法的混合核SVM算法
2018-11-06徐中宇苏明玉姚庆安
徐中宇, 苏明玉, 姚庆安
(长春工业大学 计算机科学与工程学院, 长春 130012)
支持向量机(support vector machine, SVM)[1-2]是一种能在极其有限的信息条件下学习到最优预测结果的算法, 如何确定函数中相关参数对于增强混合核SVM的预测准确率非常重要[3-5]. 粒子群优化(particle swarm optimization, PSO)算法[6-7]是一种基于种群的全局并行优化方法, 具有收敛速度快并易于实现等优点. 本文通过PSO算法对混合核SVM[8]的参数进行寻优. 由于普通粒子群算法在进行优化选择时具有收敛慢和易陷入局部极小值等缺点, 因此目前已有多种改进粒子群优化算法[9-11]. 本文在粒子群算法的基础上通过改进并限制其速度和搜索范围等参数, 得到了性能更好的改进限制范围粒子群优化(improved limit particle swarm optimization, ILPSO)算法. 结果表明, 该算法能更好地提高粒子的搜索性能, 提升了粒子群的收敛速率, 达到了最优的效果及精确优化混合核SVM参数的目的.
1 方法描述
1.1 混合核函数的SVM分类模型
SVM能对非线性特征进行线性分析[12], 并在该高维空间内建立一个具有最大类间隔[13]的分类超平面, 即最优超平面. 使用混合核函数[14-15]取代单核, 不仅具有两个单核模型的优势, 而且有更佳的学习和泛化等能力. 基于单核的优势把多项式核和径向基核进行线性组合[16], 构造混合核函数Knew为
Knew=λ1Kpoly+λ2Krbf,
(1)
其中:
λi(i=1,2)为权重系数, 满足λ1,λ2∈(0,1), 且λ1+λ2=1.
1.2 改进的PSO算法
1.2.1 基本粒子群优化算法 PSO算法用于优化非线性函数, 设粒子群中第i个粒子在空间的位置为Xi, 其相应粒子速度为Vi, 此时局部极值为pbesti, 全局极值为gbesti. 在每次的粒子迭代中, 粒子从一个位置迭代到另一个位置, 每个粒子位置Xi根据不同因素的规则移动, 公式如下:……p>