禁忌遗传算法在边坡临界滑动面搜索中的应用

2020-11-23刘东泽卢应发

三峡大学学报(自然科学版) 2020年6期

谭燕刘东泽卢应发

(湖北工业大学土木建筑与环境学院，武汉 430068)

滑坡是一种特殊的灾害类型，三峡库区较为多见，预防滑坡灾害，只单纯依靠监测点预警还远远不够，对滑坡的稳定性研究尤为重要．边坡稳定性分析的主要方法有Bishop法、Janbu法、Spencer法等[1]，但传统的稳定计算中，都要求确定最危险滑动面，因此确定危险滑动面成为滑坡分析的重要内容．

21世纪以来，随着计算机技术的发展，人们把现代优化算法应用到对滑坡危险滑动面的搜索中，当前有很多专家学者运用遗传算法[2-6]、蚁群算法[7]和粒子群算法[8]等方法来搜索危险滑动面，取得了一定成果[9-11]．其中，遗传算法的应用最为广泛，但其在全局搜索时容易早熟收敛，导致在计算中搜索失败，因此设计一种新的算法策略尤为重要．

禁忌遗传搜索算法是将全局搜索算法与局部搜索算法相结合，在继承传统算法全局搜索能力的基础上，通过禁忌算法对遗传算法进行补充，使新算法在全局搜索时跳出早熟缺陷，算法互补后，有利于增强算法的搜索能力，提高搜索求解速度．建立禁忌遗传搜索算法对圆弧滑动面进行搜索，通过搜索滑动面的圆心及坐标，进而确定滑坡的安全系数和最危险滑动面，为滑坡预警、防治等方面提供理论依据．

1 边坡最危险滑面搜索的优化模型

在滑坡研究过程中，简化Bishop法是滑坡研究中应用较为广泛的一种的计算方法，简化Bishop法假设条块间作用力水平，即忽略条间剪力，只考虑条块的垂直平衡及对圆心的力矩平衡[12]．将滑体分成n个垂直条块，取其中一块进行受力分析如图1所示，第i条块宽度bi，深度hi，底面倾角αi，条块体重力Wi，水平条间作用力Ei和Ei-1，垂直条间作用力(条间剪力)Pi和Pi-1，坡面荷载为Qi(分解后水平荷载为Qix，竖直荷载为Qiy)，条底法向作用力Ni，条底剪力Ti，条底孔隙水压力Ui，滑面内摩擦角φi，黏聚力Ci(采用有效应力法时则为有效指标)．

图1 简化Bishop法受力分析示意图

取其中任一条块分析，由竖直力平衡可得：

Qiy-Wi+Pi-Pi-1+

(Ni+Ui)cosαi+Tisinαi=0

(1)

土条底部剪切力Ti为

(2)

(3)

(4)

假定条块界面切向力之差为0，即Xi-Xi+1=0，在忽略坡面荷载，端部荷载及地震荷载时，根据整体力矩平衡方程，有：

(5)

边坡最危险滑面搜索的优化模型中以安全系数Fs为目标函数，假设边坡为圆弧型滑动面，且滑动面的位置直接影响滑坡的安全系数．计算中的各点位置关系采用邹广电[13]的计算方法，将滑动圆弧与边坡面的左右交点的横坐标(XL，XR)和滑弧的圆心纵坐标YO作为已知参数，如图2所示．

图2 简化搜索模型图

由此建立危险圆弧滑面的搜索模型：

(6)

其中：Fs为边坡的全局最小安全系数；Ω为边坡可搜索范围，通过搜索过程中的约束条件来建立边坡可搜索范围．在模型中R点横坐标大于L点横坐标，即XR>XL，同时在计算中要保证滑裂面向上，即YO>0．

综上所述，边坡最危险滑面搜索的优化模型总结为：

(7)

2 禁忌遗传算法搜索危险圆弧滑面

2.1 组合算法策略

遗传算法是根据Darwin的进化论中生物进化的特点形成的一种启发式智能算法，遗传算法没有要求函数连续可导的要求，可以对分析对象直接研究，在搜索时可以在模糊规则下按概率巡查，且自动调整处理方向[14]，因此在寻优搜索中倍受青睐．

滑坡的滑动面搜索是一类系统优化问题，利用遗传算法可以解决此类问题，但遗传算法在搜寻滑坡临界滑动面时容易获取局部危险滑动面，并不能获得整个边坡的最危险滑弧，导致计算结果不够精确．遗传算法全局搜索失败的主要原因是种群多样性的丧失，而禁忌搜索算法常常被用来克服遗传算法的不足．禁忌搜索算法是基于标记搜索中局部最优解，可以将最好的个体保留在种群中，使遗传算法在完整种群条件下完成全局搜索，这种策略在遗传算法中被称为禁忌遗传算法．在遗传算法的交叉变异时利用“禁忌”与“特赦”储存优秀的基因[15]，将合适的基因遗传给下一代，减少遗传算法中的迭代次数，在遗传交叉变异繁殖时，只要子代结果优秀或将要优秀，那么使其直接繁殖，即使其已被禁忌锁定．而对于一般情况，如果其没有达到要求指标，只要被禁，就会直接扼杀子代，选其上一代基因，通过禁忌的加入，便阻止了遗传算法的过早收敛成熟．

2.2 组合算法优化计算过程

确定滑坡滑动的方式与位置是完成稳定计算的重要一环，当危险滑动面确定后，即可计算滑坡的稳定系数，由此将滑动面的搜索模型带入组合算法．利用禁忌遗传算法搜索危险圆弧滑面归纳为以下几个必要的步骤，组合算法的流程图如图3所示．

图3 组合算法的流程图

1)编码

在遗传算法初始化过程中，建立初始化向量X=[XL，XR，YO]T，并将初始数据转化为二进制数值，因为二进制编码结果更加精确，而且在遗传过程中计算更加方便，最后得到初始化矩阵为：

(8)

其中：XL、XRi为第i个滑弧与坡面左右端交点的横坐标；YO为第i个滑动面的圆心纵坐标．

2)种群初始化

禁忌遗传算法通过Matlab的随机数来生成初始化种群，同时将初始禁忌表设为空表．根据边坡的参数，设定初始化向量X=[XL，XR，YO]T在指定范围产生随机初始值，再运用二进制编码方式表示成染色体，由初始化矩阵可得i条染色体．

3)适应度

适应度函数是整个计算中最重要的判断函数，适应度直接决定了最终解的结果，每一代的个体优劣程度通过适应度指标度量，由适应度判断染色体是否遗传给下一代．对于滑坡危险滑动面的搜索，设置染色体的适应值为f(x)，定义为：f(x)=Fs·min，即要求全局最小安全系数为适应度指标，在遗传算法中，伴随着迭代次数不断增加，适应度的值会不断地趋近于一个稳定的适应值，当适应值变化率达到许可范围时，即认为搜索达到最优解，适应值变化率表示为：

(9)

其中：Δ为适应值变化率；fj(x)表示第j代的适应值；δ为许可阀值，当变化率达到许可阀值时，即认为满足搜索结果．

4)选择

选择操作主要是对上一代的个体进行择优录取，通过计算产生每一条的染色体的生存概率来进行选择，在滑坡搜索的计算模型中，将生存概率定义为：

(10)

在计算中j为遗传代数，i作为染色体编号，P(Xij)为第j代第i条染色体的遗传概率，fij(x)表示适应值，在每一代的选择中要查找生存概率最大的染色体，随后更新到新的种群中，即在新种群仍将max(p(Xij))所对应的第i条染色体作为新染色体．在传统遗传算法中，由于选择的缺陷，容易导致遗传算法的“早熟”，针对选择时直接删除生存概率小的染色体，本文引入禁忌算法，在选择时加入禁忌表，对于概率小的染色体不再直接删除，而是将其添加到禁忌表，但达到特赦条件时，再将其释放出来，这样就可以有效避免丢失在某些概率小的区间的最优解．

5)交叉变异

在交叉操作中，由于染色体已经转化为二进制数据，再给予染色体一定交叉概率，完成遗传过程中的单点交叉．为了完成全局搜索，避免停留在局部最优解，在遗传算法中应用早期采用大概率变异算子进行均匀搜索，后期采用小概率变异搜索进行局部搜索[16]，通过交叉变异保证程序在搜索过程中达到全局最优．

6)终止迭代

在对最危险滑动面的搜索过程中，算法需要不断更新迭代，当程序达到最大迭代次数时或满足适应值变化率达到了许可阀值时，即认为搜索达到最优，产生的X所对应的滑动面即为最危险滑动面．

7)禁忌表与禁忌特赦

组合算法分析时加入禁忌表功能，主要记录最新的计算结果，同时在一定范围内计算产生候选解，对比候选解与当前解的优劣程度，若候选解表现更加优越，则忽略禁忌准则，即使被禁忌，也对其进行“特赦”．若无候选解则在非禁忌的结果中搜索最优结果作为当前解，同时将相应的对象加入禁忌表．

3 算例分析

3.1 理论算例分析

引用澳大利亚计算机应用协会(ACADS)通用考题1，具体参数见表1，假定区域左、右边界为法向约束，底部边界为固定端约束．

表1 边坡参数

采用Matlab编制的程序进行计算，对比传统bishop法、普通遗传算法和禁忌遗传算法计算结果，验证组合算法结果的准确性，最终得到滑动面搜索结果见表2．

表2 滑动面的搜索结果

为更加直观反映结果，将3种方法搜索的圆弧滑动面对比，结果如图4所示．由结果可知，禁忌遗传算法计算所得稳定系数为Fs=1.000 5，稳定系数介于简化Bishop法和传统遗传算法之间，本算例推荐的安全系数为1.0，可见禁忌遗传算法完全可以应用于滑坡的搜索．与传统的遗传算法结果对比，禁忌遗传算法的稳定系数更小，更接近推荐值．算法计算时，搜索迭代进化过程如图5所示，对比迭代计算过程，禁忌遗传算法呈现出比传统遗传算法更快的收敛速度，证明组合算法有着相对较高的时间效率和求解效率．由此可见禁忌遗传算法在继承遗传算法的基础上，又避开了它的缺点，得到最优滑动面及其稳定系数．