求解非光滑问题的修正HS共轭梯度法
2021-06-22胡亚萍王玉杰刘丽英
胡亚萍,王玉杰,刘丽英
(天津科技大学理学院,天津 300457)
考虑无约束优化问题min{ f(x) |x ∈ℝn},其中f: ℝn→ℝ为非光滑凸函数.非光滑问题中的目标函数是连续不可微函数,传统的优化算法不能直接用于求解该问题.与非光滑凸优化问题紧密相关的是目标函数Moreau-Yosida正则化[1],正则化函数F(x)是定义在整个空间nℝ上的可微的凸函数,并且与原非光滑优化问题拥有相同的解集合.求解非光滑优化问题的常用算法有Bundle法和信赖域法[2-4].近年来,Yuan等[5-6]和Hu[7-8]提出的梯度类算法在求解非光滑问题时表现较好.其中文献[6]基于BFGS修正技术提出的修正PRP共轭梯度法需要较大的存储空间和计算量,它每步迭代时的计算量和内存需求均大于共轭梯度类算法.本文结合Moreau-Yosida正则化和非单调线搜索技术,提出了修正的HS共轭梯度算法求解非光滑优化问题.新算法具有满足共轭性条件、自动具有充分下降性、给出近似参数选取方式、克服存储需求大与算法复杂等特点.数值结果表明,与文献[6]的算法相比,新算法具有收敛速度快、精度高的优点.
1 算 法
记p(x) =argmin {θ(z ) |z ∈ℝn},且定义θ(z)=f(z)+ ‖z -x‖2/(2λ),由于θ(z)是一个强凸函数,极小值点p(x)存在且唯一.于是非光滑凸函数f(x)的Moreau-Yosida正则函数F(x)表示为

正则化函数F(x)是连续可微的凸函数,但同时注意到F(x)未必二次可微.F(x)在点x处的梯度为g(x) =∇F (x) = ( x - p(x) )/λ.然而θ(z)的极小值点p(x)一般很难甚至不可能精确求解,这便不能直接利用p(x)的精确值来确定函数值F(x)和梯度值g(x).但是对任意 x∈ℝn和任意的近似参数ε>0,存在近似值 pα(x,ε) ∈ℝn满足

于是,可以利用pα( x,ε)来确定F(x)和……
