APP下载

基于蚁群算法优化支持向量机的边坡位移预测

2016-01-11俞俊平,陈志坚,武立军

长江科学院院报 2015年4期
关键词:蚁群算法支持向量机边坡

基于蚁群算法优化支持向量机的边坡位移预测

俞俊平,陈志坚,武立军,余世元,王澍

(河海大学 地球科学与工程学院,南京210098)

摘要:由于复杂工程地质条件和环境因素的综合影响,边坡变形呈现复杂非线性演变特征。借助支持向量机(SVM)可有效解决小样本、高维数、非线性等问题的优点,对边坡实测位移进行数据挖掘,预测边坡变形趋势。为了避免人为选择支持向量机模型参数的盲目性,提高模型预测精度和泛化能力,引入改进的蚁群算法(ACO)对模型参数进行寻优,结合位移时序滚动预测方法,建立了适合边坡变形预测的ACO-SVM模型。将该模型应用于2个边坡的位移预测,研究结果表明,ACO-SVM预测精度高,模型建立正确。与遗传算法、粒子群算法优化SVM的预测结果相比,ACO-SVM模型预测精度更高,具有更强的泛化能力,预测结果更加合理,在边坡变形预测中具有一定的工程应用价值。

关键词:边坡;支持向量机;蚁群算法;位移预测;优化参数

中图分类号:P642.22;TU457 文献标志码:A

收稿日期:2013-11-4;修回日期:2013-11-18

基金项目:国家科技支撑计划项目(2011BAK12B05)

作者简介:齐识(1987-),女,辽宁营口人,硕士研究生,主要从事水文过程与地质灾害方面的研究,(电话)18298419119(电子信箱)qis11@lzu.edu.cn 。

DOI:10.3969/j.issn.1001-5485.2015.04.006

1研究背景

位移是边坡开挖或者变形过程中反映的重要信息之一,根据位移监测数据分析预测边坡未来演化规律及发展趋势等,及时掌握边坡变形规律,在工程上具有十分重要的意义[1]。位移随时间演变的过程是一个时间序列,目前对位移时间序列进行预测的方法主要有时间序列分析法[2]、灰色系统[3-4]、人工神经网络[5]、支持向量机(SVM)[6]及各种预测方法的组合[7-8]。上述方法中,时间序列分析较难确定参数自相关系数r、偏相关系数q及模型合理识别;灰色系统主要适用于指数型时间序列,对于复杂非线性边坡位移序列,预测结果常出现较大误差;人工神经网络是基于启发式算法,没有完备的理论基础,且当样本数量有限时,精度难以保证,而学习样本很多时,易陷入维数灾难,泛化能力不高[9];支持向量机(SVM)以结构风险最小化原理为基础,具有泛化能力强,可有效解决小样本、高维数、非线性等问题。

但支持向量机存在一个突出问题即惩罚参数C和核函数参数γ难以确定,其准确与否直接关系到模型预测推广能力。前人对支持向量机模型参数的优化做了大量研究,主要的方法有梯度下降法[10]、遗传算法[11]、粒子群算法[12]、蚁群算法[13]等。蚁群算法是一种新型的模拟生物进化方法,具有并行计算、正反馈搜索、适应性好等优点。本文在已有的研究基础上,提出改进的蚁群算法优化支持向量机预测模型,减少模型参数选择的盲目性,用于边坡监测位移训练学习,滚动预测位移时序的变化规律。通过与其他算法优化支持向量机预测结果对比分析,验证所提方法的优劣。

2支持向量机回归预测模型

支持向量机是由Vapnik[9]基于统计学习理论提出的一种小样本智能学习算法,利用核函数映射的方法,通过非线性映射将已知空间变换到高维空间,从而使高维空间样本线性可分。

(1)

(2)

式中C>0,为惩罚参数,表示超出ε的样本惩罚程度。式(2)约束条件为

(3)

针对上述凸二次优化问题,引入Lagrange函数进行偏微分,从而得到优化目标的对偶形式,获得最大化函数,即

(4)

约束条件为

(5)

式中α,α*为Lagrange乘子,在该对偶问题中,目标函数寻优只涉及训练样本之间的内积运算(xi,xj),所以在高维空间实际只要进行内积运算,这种运算可以利用原空间中的函数实现。根据泛函有关理论,只要满足Mercer条件的一种核函数K(xi,xj),它就对应某一空间变换中的内积[14]。SVM常用的核函数有多项式核函数、径向基(RBF)核函数、Sigmoid核函数,其中RBF核函数运用最广泛,具有较宽的收敛域,其表达式为

(6)

则式(4)可转化为

(7)

(8)

从式(5)、式(6)可知,支持向量机中的惩罚函数C和K(xi,xj)核函数中参数γ对算法推广泛化能力和计算效率有很大影响。通常情况人为确定两参数,具有一定的盲目性,而且效率很低。基于这种情况,本文利用蚁群算法对2参数进行搜索,寻找最优的支持向量机参数。

3改进蚁群算法对支持向量机模型参数优化

3.1 连续域蚁群算法

蚁群算法是意大利学者Dorigo等[15]在20世纪90年代初提出的一种新型智能优化算法,最早用于解决离散性优化问题。支持向量机参数的优化是解决连续域的问题,本文借鉴文献[16]改进蚁群算法对连续域的模型参数寻优。蚁群算法的关键在于移动规则和信息素更新,蚁群通过信息素的挥发积累正反馈进行移动搜索,选择出最优的路径。

假设连续域的目标函数为

(9)

(1)蚁群初始化。设蚁群规模为N,循环迭代次数为K,蚁群随机分布在优化空间里,作为各蚂蚁进行搜索的起点,将连续域离散成若干区间,各自变量子区间长度矩阵为

(10)

根据蚂蚁当前所处位置情况,按照寻优目标类别的不同,先确定蚂蚁i处的初始信息素浓度向量τ(i),即

(11)

(2) 蚁群移动规则。当所有蚂蚁完成一次搜索后,将根据相应的移动规则进行下一步搜索。本文引入动态全局选择因子和动态挥发因子[17],提高全局搜索能力。搜索的基本规则是:蚁群完成一次循环后,将有一只蚂蚁找到本次循环的最优解即头蚁,其位置为xleader,下次循环其他蚂蚁将头蚁位置为目标进行转移搜索,称为全局搜索;将获得最优解的头蚁leader在邻域内进行随机搜索,以便获得更好的解,称为局部搜索。位于xi(i=1,2,…,N,i≠leader)蚂蚁i向头蚁位置xleader转移概率P(i)为

(12)

式中:τ(leader)为头蚁leader所处位置信息素浓度,τ(i)为蚂蚁i所处位置信息素浓度。

在全局搜索中,将动态全局选择因子P0引入蚂蚁i向最优解位置xleader转移的步长中,具体表达式为

(13)

式中:λ是全局转移步长参数,λ∈(0,1);Len为各自变量子区间长度矩阵;动态全局选择因子P0∈(0,1),P0随着迭代次数先大后小,最后再次变大,目的是为了增大随机搜素和全局优化能力。

局部搜索则是在头蚁leader的xleader邻域内随机搜索。设搜索新的位置为xtemp,若xtemp比xleader位置更优,则用xtemp替换xleader,反之,则保留原来的位置。为了后期精细搜索得到最优解,引入步长更新参数w,使得搜索步长随着迭代次数增加而减小。具体表示为

(14)

式中τ(temp)为蚂蚁在xtemp处的信息素浓度,其中

(15)

式中step=0.1×rand(D,N,K),为局部搜索步长;w步长更新规则为

(16)

式中:wmin,wmax为初始设定值,一般wmin∈(0.2,0.8),wmax∈(1.2,1.4);k为当前蚁群迭代次数;K为蚁群最大迭代次数。

(3) 信息素更新规则。蚂蚁在完成一次全局搜索和局部搜索后,将对蚂蚁i所处位置的信息素τ(i)进行更新,信息素更新规则为

(17)

式中:Δτ(i)为信息素增量,Δτ(i)=exp(-f(xi));ρ为信息素挥发因子,ρ∈(0,1),随迭代次数呈先小后大的动态变化,即扩大前期的全局搜索能力和加快后期的收敛速度。

3.2 改进蚁群算法优化模型参数

利用上述蚁群算法对支持向量机中的惩罚函数C和K(xi,xj)核函数中参数γ搜索寻优,首先确定目标函数为

(18)

(19)

(1) 根据监测位移数据,进行归一化处理,确定历史步数p和预测步数m,建立学习样本和测试样本。

(2) 对系统进行初始化设置,包括蚁群规模N,循环迭代次数K,待优化参数C和γ的取值范围,蚂蚁位置,每个位置值对应一组参数(C,γ)。

(3) 利用文中2.1节理论建立优化支持向量机学习预测模型,计算每个蚂蚁个体对应的目标函数式(18),进行全局和局部搜索,同时更新信息素,确定最优解。

(4) 判断迭代次数或目标函数值是否满足条件,若不满足,返回第(3)步;若满足,结束寻优,输出最优参数C和γ。

(5) 利用优化的参数C和γ建立支持向量机预测模型,对位移时间序列进行滚动预测。

4工程实例

4.1 锦屏一级水电站左岸边坡浅部变形预测

本文利用改进的蚁群算法优化支持向量机(ACO-SVM)对文献[17]边坡监测位移时序进行位移预测,监测数据为左岸缆机平台边坡位于f42-9断层出露部位的多点位移计 M4-7(高程1 886 m)的孔口位移,学习样本如表1。采用文献[16]中提到的滚动时窗方式预测,验证ACO-SVM预测模型的正确性。

选取历史步数为6,预测步数为1,蚁群规模为200,迭代总数为50。 利用本文所提ACO优化方法得到模型参数(C,γ)分别为20.346和2.517,ACO-SVM模型预测结果见表2。与文献[17]改进的SVM(混合核函数最小二乘支持向量机)预测结果相比,除个别点外,ACO-SVM预测精度都优于改进的SVM,ACO-SVM预测的最大相对误差为2.25%,小于改进SVM的3.18%,证明本文所提ACO-SVM预测模型的正确性。

表1 M4-7监测点位移构建的学习数据 Table 1 Training data of multi-point extensometer M4-7

表2 各模型对M4-7监测点位移预测结果比较 Table 2 Comparison of prediction results among different models for extensometer M4-7

4.2 华光潭一级水电站厂房后边坡变形预测

华光潭一级水电站工程位于浙江省临安市巨溪中下游,一级厂房位于巨溪右岸,附近河流总体流向为120°~130°,厂房后边坡冲沟发育,冲沟方向40°~50°,与巨溪近正交。厂房上、下游控制性冲沟切割深度50~70 m,形成三面临空、呈北东向展布的狭长型山脊。坡体表层为第四系崩坡积层,中部为卸荷作用强烈的破碎岩体,下部为新鲜的侏罗系熔结凝灰岩。在2008年5—6月强降雨下,厂区250马道发生沉陷和外鼓,并在以后补充勘察发现坡体中上部出现多条拉裂缝。为了可靠掌握边坡变形规律和发展趋势,建立了边坡变形安全监测系统。在建立的坡体表面观测系统中,共布设14个表面位移观测点,位移观测点的编号按高程由高至低为1#至14#。

本文选取位于主滑方向上的7#测点的水平位移数据对该边坡进行变形预测分析。通过试算选取最佳历史步数p为4,预测步数m为1,蚁群规模为200,迭代总数为50,最佳目标函数值f<1×10-6。利用7#测点2010-01-20至2010-08-11监测的30个位移时序(如表3)构造成26个训练样本,对后10个位移时序进行滚动预测,时间间隔为7 d。滚动即将新预测值加入训练样本,剔除最早1个训练样本,保持样本数不变,对下一时刻进行预测,依次类推。

表3 7 #测点边坡水平位移 Table 3 Horizontal resultant displacement of monitoring point 7 #

利用ACO-SVM模型对表3监测数据进行训练学习并预测分析,为了比较该模型预测的精确性,同时用传统SVM、遗传算法(GA)优化的SVM和粒子群算法(PSO)优化SVM对该测点数据分别进行预测分析,各模型优化得到的参数(C,γ)如表4,对应的预测结果比较见表5。根据表5可知,ACO-SVM模型的绝大多数预测结果要好于其他3种预测模型,预测精度更高,最大相对误差为2.29%,均小于其他3种模型的最大相对误差。传统SVM模型短期预测精度较高,但推广泛化能力很弱,后期预测误差较大;运用了优化算法的3种SVM模型的泛化能力都强于传统SVM模型。ACO-SVM模型预测值与实测值对比结果见图1,由其变化规律可知,边坡位移后期变化不大,变形趋势平缓,位移趋向于收敛,证明该边坡是相对稳定的,后期的边坡位移实测值也验证了位移趋向收敛,故预测结果满足工程实际需求。

表4 各预测模型最优化参数 Table 4 Optimal parameters of different prediction models

图1 7 #测点实测值与预测值的比较 Fig.1 Comparison between monitored data and forecasted data for monitoring point 7 #

表5 各模型对7 #测点位移预测结果比较 Table 5 Comparison of prediction results among different models for monitoring point 7 #

5结论

(1)根据位移监测数据预测边坡未来变形趋势,对工程施和安全运营具有重要意义。针对支持向量机模型参数(C,γ)对预测精度和推广泛化能力有较大影响,为避免人为选择参数的盲目性,本文提出利用改进的蚁群算法优化SVM,搜索得到最优化参数。并将模型用于两边坡工程实例的变形预测。研究发现,ACO-SVM模型对边坡变形预测是可行的,满足工程预测需求。

(2) 在锦屏一级水电站左岸边坡浅部变形预测中,ACO-SVM模型和混合核函数最小二乘支持向量机模型的预测精度相差无几,较传统SVM预测更加准确,精度更高,说明ACO-SVM模型的正确性。

(3) 与遗传算法、粒子群算法优化SVM预测结果相比,ACO-SVM模型预测精度更高,具有更强的泛化能力。蚁群优化支持向量机也存在一些不足。例如该算法搜索时间较其他优化算法时间长,这是最优化问题中精度和耗时相互权衡的过程,有待进一步研究。

参考文献:

[1]冯夏庭. 智能岩石力学导论[M]. 北京: 科学出版社, 2000:111-112. (FENG Xia-ting. Introduction to Intelligent Rock Mechanics[M]. Beijing: Science Press, 2000:111-112. (in Chinese))

[2]徐峰,汪洋,杜娟,等. 基于时间序列分析的滑坡位移预测模型研究[J]. 岩石力学与工程学报,2011, 30(4): 746-751.(XU Feng, WANG Yang, DU Juan,etal. Study of Displacement Prediction Model of Landslide Based on Time Series Analysis[J]. Chinese Journal of Rock Mechanics and Engineering, 2011, 30(4): 746-751.(in Chinese))

[3]蒋刚, 林鲁生, 刘祖德, 等. 边坡变形的灰色预测模型[J]. 岩土力学, 2000, 21(3): 244-246, 251. (JIANG Gang, LIN Lu-sheng, LIU Zu-de,etal. Grey Forecasting Model for Slope Displacement[J]. Rock and Soil Mechanics, 2000, 21(3): 244-246, 251. (in Chinese))

[4]王霄,陈志坚,黄清保. 改进的新灰色模型在边坡变形预测中的运用[J]. 三峡大学学报(自然科学版),2012, 34(2): 40-44. (WANG Xiao, CHEN Zhi-jian, HUANG Qing-bao. Improved New Grey Model and Its Application to Slope Deformation Prediction[J]. Journal of China Three Gorges University (Natural Sciences),2012, 34(2): 40-44. (in Chinese))

[5]刘晓,曾祥虎,刘春宇. 边坡非线性位移的神经网络-时间序列分析[J]. 岩石力学与工程学报, 2005, 24(19): 3499-3504. (LIU Xiao, ZENG Xiang-hu, LIU Chun-yu. Research on Artificial Neural Network-Time Series Analysis of Slope Nonlinear Displacement[J]. Chinese Journal of Rock Mechanics and Engineering, 2005, 24(19): 3499-3504. (in Chinese))

[6]刘开云, 乔春生, 腾文彦. 边坡位移非线性时间序列采用支持向量机算法的智能建模与预测研究[J]. 岩土工程学报, 2004, 26(1): 57-61. (LIU Kai-yun, QIAO Chun-sheng, TENG Wen-yan. Research on Nonlinear Time Sequence Intelligent Model Construction and Prediction of Slope Displacement by Using Support Vector Machine Algorithm[J]. Chinese Journal of Geotechnical Engineering, 2004, 26(1): 57-61. (in Chinese))

[7]马文涛. 基于灰色最小二乘支持向量机的边坡位移预测[J]. 岩土力学, 2010, 31(5): 1670-1674. (MA Wen-tao. Forecasting Slope Displacements Based on Grey Least Square Support Vector Machines[J]. Rock and Soil Mechanics, 2010, 31(5): 1670-1674. (in Chinese))

[8]高玮,冯夏庭. 基于灰色-进化神经网络的滑坡变形预测研究[J]. 岩土力学, 2004, 25(4): 514-517. (GAO Wei, FENG Xia-ting. Study on Displacement Predication of Landslide Based on Grey System and Evolutionary Neural Network[J]. Rock and Soil Mechanics, 2004, 25(4): 514-517. (in Chinese))

[9]VAPNIK V N.The Nature of Statistical Learning Theory[M]. New York: Springer-Verlag, 1995.

[10]CHAPPELLE O, VAPNIK V, BOUSQUET O. Choosing Multiple Parameters for Support Vector Machines[J]. Machine Learning, 2002, 46(1): 131-160.

[11]吴景龙, 杨淑霞, 刘承水. 基于遗传算法优化参数的支持向量机短期负荷预测方法[J]. 中南大学学报(自然科学版), 2009,40(1): 180-184.(WU Jing-long, YANG Shu-xia, LIU Cheng-shui. Parameter Selection for Support Vector Machines Based on Genetic Algorithms to Short-Term Power Load Forecasting[J]. Journal of Central South University (Science and Technology), 2009, 40(1): 180-184. (in Chinese))

[12]姜谙男. 基于PSO-SVM非线性时序模型的隧洞围岩变形预报[J]. 岩土力学, 2007, 28(6):1176-1180.(JIANG An-nan. Forecasting Nonlinear Time Series of Surrounding Rock Deformations of Underground Cavern Based on PSO-SVM[J]. Rock and Soil Mechanics, 2007, 28(6):1176-1180. (in Chinese))

[13]徐飞, 徐卫亚,刘大文, 等. 洞室围岩变形预测的ACA-LSSVM模型及工程应用研究[J]. 长江科学院院报,2009, 26(2): 32-35,52. (XU Fei, XU Wei-ya , LIU Da-wen,etal. ACA-LSSVM for Deformation Forecasting of Cavern Surrounding Rock and Its Application[J]. Journal of Yangtze River Scientific Research Institute, 2009, 26(2): 32-35,52. (in Chinese))

[14]张学工. 关于统计学习理论与支持向量机[J]. 自动化学报, 2000, 26(1): 32-42. (ZHANG Xue-gong. Introduction to Statistical Learning Theory and Support Vector Machines[J]. Acta Automatica Sinica, 2000, 26(1): 32-42. (in Chinese))

[15]DORIGO M, MANIEZZO V, COLORNI A. Ant System: Optimization by A Colony of Cooperating Agents[J]. IEEE Transaction on Systems, Man, and Cybernetics: Part B, 1996, 26(1): 29-41.

[16]庄严, 白振林, 许云峰. 基于蚁群算法的支持向量机参数选择方法研究[J]. 计算机仿真, 2011, 28(5): 216-219.(ZHUANG Yan, BAI Zhen-ling, XU Yun-feng. Research on Parameters of Support Vector Machine Based on Ant Colony Algorithm[J]. Computer Simulation, 2011, 28(5): 216-219. (in Chinese))

[17]郑志成, 徐卫亚, 徐飞, 等. 基于混合核函数PSO-LSSVM 的边坡变形预测[J]. 岩土力学, 2012, 33(5): 1421-1426. (ZHENG Zhi-cheng, XU Wei-ya, XU Fei,etal. Forecasting of Slope Displacement Based on PSO-LSSVM with Mixed Kernel[J]. Rock and Soil Mechanics, 2012,33(5): 1421-1426. (in Chinese))

(编辑:曾小汉)

Forecasting Slope Displacement Based on Support Vector MachineOptimized by Ant Colony Algorithm

YU Jun-ping, CHEN Zhi-jian, WU Li-jun, YU Shi-yuan, WANG Shu

(School of Earth Science and Engineering, Hohai University, Nanjing210098, China)

Abstract:Due to the combined influence of complex engineering geological conditions and environmental factors, the evolution of slope deformation is complicated and nonlinear. As support vector machine (SVM) could effectively solve the small sample, high dimension, and nonlinear problems, it is employed for the data mining of measured displacements of slope and the forecasting of slope deformation trend. In order to avoid the blindness of human choice of SVM parameters and to improve the prediction accuracy and generalization ability of the model, ACO-SVM model is built by adopting improved ant colony algorithm(ACO) to optimize parameters in association with rolling forecasting method of displacement time-series. The model is applied to two engineering examples. The research results show that ACO-SVM model is correct with high accuracy. Compared with optimizing SVM based on genetic algorithm or particle swarm optimization, ACO-SVM model has higher accuracy of prediction and stronger generalization ability. The forecasting results are more reasonable. It is of practical value for slope deformation prediction.

Key words: slope; support vector machine; ant colony algorithm; displacement prediction; parameter optimization

2015,32(04):28-34

猜你喜欢

蚁群算法支持向量机边坡
建筑施工中的边坡支护技术探析
陡帮强化开采边坡立体式在线监测技术研究
边坡控制爆破施工
二维极限平衡法在高边坡工程中的应用研究
云计算中虚拟机放置多目标优化
基于蚁群算法的一种无人机二维航迹规划方法研究
动态场景中的视觉目标识别方法分析
论提高装备故障预测准确度的方法途径
基于熵技术的公共事业费最优组合预测
一种多项目调度的改进蚁群算法研究