APP下载

基于群智能算法的SVR参数优化研究进展

2021-08-19汪廷华周慧颖

计算机工程与应用 2021年16期
关键词:优化模型

张 琳,汪廷华,周慧颖

赣南师范大学 数学与计算机科学学院,江西 赣州341000

支持向量机(Support Vector Machine,SVM)是Vapnik等人[1]于20世纪90年代中期提出的一种有监督的机器学习方法,它是以统计学习理论[2]为基础发展而来的。支持向量回归机(Support Vector Regression,SVR)作为标准SVM模型的一种拓展,主要用来解决函数拟合和回归估计问题[3-4]。该模型的核心在于通过核函数将样本数据从输入空间映射到高维特征空间,进而在高维特征空间寻找到一个能准确反映样本数据分布的决策函数,使得样本数据尽量都在超平面上。通过最小化结构风险,SVR能够有效避免过学习、维数灾难的问题,在处理小样本、非线性、高维度等问题中展现出优越的性能,因此被广泛应用在金融预测[5]、数据挖掘[6]、生物医学[7]等各个领域。

虽然SVR算法在理论和应用上都有一定的优势,但合适的参数是实现SVR算法优势的前提。参数选择对SVR模型的学习效果和泛化性能有直接的影响,因此如何选取到合适的参数一直是SVR算法的一个研究热点和难点。传统的SVR参数优化方法主要有交叉验证技术[8]、梯度下降法[9]、网格搜索法[10]等。交叉验证技术是通过保持某参数值不变的条件下测试非训练样本的预测误差,不断地修正参数值,从而使测试误差最小[8]。该方法存在极大的计算量且难于实现两个以上的参数选取。梯度下降法的基本原理是对一般错误的分解上界最小化来实现SVR参数的寻优求解,该方法在计算时间方面有优势,收敛速度较快,但是对初始值敏感,并且要求目标函数对参数可微[9]。……

登录APP查看全文

猜你喜欢

优化模型
一半模型
超限高层建筑结构设计与优化思考
民用建筑防烟排烟设计优化探讨
关于优化消防安全告知承诺的一些思考
一道优化题的几何解法
由“形”启“数”优化运算——以2021年解析几何高考题为例
重尾非线性自回归模型自加权M-估计的渐近分布
3D打印中的模型分割与打包
FLUKA几何模型到CAD几何模型转换方法初步研究
基于低碳物流的公路运输优化