APP下载

求解变分不等式与不动点问题的惯性次梯度外梯度算法*

2022-06-14张东耀刘红卫马小军李肖银

关键词:步长惯性单调

张东耀,刘红卫,马小军,李肖银

(西安电子科技大学)

0 引言

设H为实希尔伯特空间,〈·,·〉和‖·‖分别表示内积和诱导范数,C ⊂H 是非空闭凸集,F:H →H是非线性映射. 经典的变分不等式是指:寻求x*∈C使得

作为最优化理论与算法的重要的研究分支之一,变分不等式广泛应用于物理、工程、经济、交通、互补问题和控制问题等诸多领域. 变分不等式的研究始于一些物理问题,1933 年,Signorini导出了一类接触问题,即“Signorini 问题”[1]. 1963 年,Fichera 将其写为变分不等式[2]. 1964 年,Stampaechia 提出并建立了变分不等式的早期理论,并提出了解的存在定理[3].随后,Duvaut和Lions对变分不等式问题进行了进一步的研究,为变分不等式的初步发展奠定了基础[4].

近年来,变分不等式与不动点公共点的求解问题得到了广泛的研究. 研究这类问题的灵感来自于数学模型,其中一些约束可以表示为变分不等式问题或不动点问题,特别是在实际问题中,如信号处理、网络资源分配、图像恢复等,详见文献[5-6].

设S:H →H是一个映射,且以Fix(S)表示S的不动点集,即Fix(S)={x ∈H}S(x)=x}.若Fix(S)≠Ø且

为了寻找实Hilbert空间H中变分不等式和不动点问题公共点,多种迭代逼近方法被提出,请参考文献[7-9]及其相关文献. 在2006 年,Nadezhkena和Takahashi[9]提出了一种迭代方法来寻找Fix(S)和SOL(C,F)的公共元素,并且在S是非扩张和Fix(S)∩SOL(C,F)≠Ø的前提下,证得了该算法生成的点列{xn}弱收敛至z ∈Fix(S)∩SOL(C,F).注意到,该算法每个迭代步需要计算两个到C上的投影,如果C是一个一般的非空闭凸集,则投影很难实现. 由Censor等学者[7]提出的改进的次梯度外梯度算法对其进行了修正,他们将第二个投影替换为到特定半空间Tn上的投影,而半空间上的投影具有显示表达式,易于计算. 其算法的具体迭代如下:

他们证明了由该算法生成的点列{xn}在一定的标准下具有弱收敛性.

近年来,惯性算法的研究备受关注. 惯性方法源于Alvarez等学者的工作,其主要特点在于下一个迭代点是由前两次迭代所确定的[10-11].惯性算法被认为是一种加速收敛的过程,许多学者用它来解决不同的问题.例如,Ochs等学者提出了用于某些可分离非凸优化问题的惯性前向后分裂方法[12]. Ochs等学者对强凸性问题提出了一种惯性逼近方法[13]. 在2019 年,针对变分不等式问题和不动点问题,Thong和Hieu提出了一种惯性投影算法,该算法要求F 是单调Lipschitz连续的,但不需要知道其Lipschitz 系数[14].关于变分不等式问题和不动点问题公共点的投影方法的更多信息,请参考文献[15-18].

受上述研究工作的启发,在文献[14]的基础上,对线性搜索步长选取方法修正,借助于已知的迭代信息给出了一种新的步长,并结合惯性思想对其算法进行了改进,而所提出的梯度算法每次迭代只需计算一个到可行集的投影,从而极大地提高了算法的效率,而且修正后的算法无需提前知道映射的Lipschitz系数,并且在较缓和的前提下证明了算法弱收敛至变分不等式解集与不动点问题集的一个公共点,数值实验结果验证了所提出算法的优越性.

1 预备知识

该节介绍该文将使用的一些基本概念和结论.在文中,分别用xn→x 和xn⇀x 表示序列{xn}的强收敛性和弱收敛性.

引理1.3[23]对∀p ∈H,则以下结论成立:

2 算法及其收敛性分析

该文探究了一种新的迭代方法,用于解决希尔伯特空间中变分不等式和不动点问题的公共点问题.首先,假设以下条件成立:

书楼文化是宁波的文化之根,一代代读书人在这里孜孜汲取,书香余脉不绝,一座城市的精神得以传承。随着2015年诺贝尔生理学或医学奖的揭晓,屠呦呦的名字成了宁波这座城市的骄傲。

(A1)变分不等式的解集与不动点集的交集非空,即SOL(C,F)∩Fix(S)≠Ø;

(A2)映射F 在C 上是序列弱连续的,伪单调且L-Lipschitz连续的,其中常数L不需要预先知道;

(A3)S是拟非扩张映射,使得I-T在0点是半闭的;

注2 不难得出,由算法A生成的点列{λn}是非单调递减的,从而削弱了对初始步长λ0的依赖性.特别地,当πn≡1时,序列{λn}也是非单调递减的,而当rn≡0时,{λn}是单调递减的.

引理2.2 设序列{zn}是通过算法A 生成的,则对于任意的q ∈Ω,成立

证明 由于zn=PTn(tn-λnF(yn)),利用引理1.1(i)和引理1.3(ii),可以推导出

而q ∈SOL(C,F),yn∈C,则由F的伪单调性,可得

〈F(yn),yn-q〉≥0,

定理2.1 假设(A1)-(A4)满足,则通过算法A产生的序列{xn}弱收敛至Ω中的一个点.

证明 根据引理2.3 可得序列{xn}有界,故存在{xn}的子列{xnk}弱收敛于x*∈H.进一步,相应的子列{tnk},{ynk}和{znk}也弱收敛于x*,而{yn}⊂C,且C是闭凸集,则x*∈C.下证x*∈Ω.

3 数值实验

该节通过2 个数值例子将所修正的算法与其它算法进行比较,说明所提出算法的有效性.在表1 和表2 中,“iter.”表示迭代次数,“CPU”表示运行时,单位为秒. 所有的实验都以‖xn+1-xn‖≤ε作为算法的终止条件.

表1 非单调步长的新算法

问题1 考虑HpHard问题.设实Hilbert空间为H =Rm,可行集为C =R+m,并且投影为PC=x+=max(0,x).定义映射F:H →H为F(x)=Mx +q,并且M是由以下公式随机生成:

M =BBT+C +D,

这里B,C,D ∈Rm×m,矩阵B和反对陈矩阵C的元素随机取自(0,1),矩阵D是m阶随机对角阵,且其对角线元素和q的元素也均属于(0,1).容易证明矩阵M是正定的.

问题1可在文献[27]中找到,其中映射F是单调且L-Lipschitz连续的,由矩阵M的正定性可知Lipschitz常数L =‖M‖,取迭代的初始点为x0=x1=(1,1,…,1)∈Rm.易证x*=0是变分不等式的解. 进一步地,选择λ0=0.7/L,并且对于所有的测试,使用ε =10-3作为算法的停止标准.

对于算法A,令S(x)=- x/2,并选择α =0.2,βn=1/(n +1)4,σ =0.5 及πn=1 +1/(n +1)1.1,rn=1/(n +1)10. 对于文献[28]中的算法1,取αn=0.15,μ =0.42.另外,对于文献[17]中的算法3.1,τ0是该文算法A 中的λ0,取αn=0.0625,θ =0.4,μ =0.6.数值比较结果见表1.

表1 问题1 的实验结果

其中可行集为C =[-1,1]×[-1,1].容易证明F的单调性[29]和Lipschitz连续性.对于算法A,选取λ0=0.7/3,α =0.3,βn=1/(6n +1)4,σ =0.5以及πn=1,rn=1/(n +1)10.对于文献[15]中的算法3.1,选择τ0与算法A中的λ0相同,αn=1/(n +1)4,β =0.09,μ =0.6.对于文献[30]中的算法3.1,使用τ0=0.09,α =0.32,μ =0.6.以x0=x1=(1,1)作为初始点,在本例中,通过改变ε 的值来使算法A 与文献[15]中的算法3.1 以及文献[30]中的算法3.1进行比较.数值实验结果见表2.

表2 问题2 的实验结果

从以上两个实验可以得出,在同样的精度或纬度下,该文所提的算法迭代次数较少,执行时间也相对较短.

4 结论

该文利用惯性方法,结合非单调步长策略,提出了一种改进的次梯度外梯度算法,用于求解不动点问题和伪单调变分不等式问题. 该算法结合步长序列的有界性,在一定的前提下探究了该算法确定的序列的收敛性. 此外,对两个具体实例进行了实验仿真,并与最近提出的几种算法进行了比较,表明了所提算法的合理性.

猜你喜欢

步长惯性单调
单调任意恒成立,论参离参定最值
怎样判断函数的单调性
董事长发开脱声明,无助消除步长困境
步长制药50亿元商誉肥了谁?
起底步长制药
步长制药
——中国制药企业十佳品牌
世界正在变得单调
无处不在的惯性
对惯性的认识误区
无处不在的惯性