MWWP线搜索下的新共轭梯度法
2021-06-28曹尹平周光辉
曹尹平,周光辉
(淮北师范大学数学科学学院,安徽淮北 235000)
共轭梯度法具有计算简便、编程简单、储存空间小和二次终止性等优点,是解决大规模无约束优化问题的较为常用的方法。一般迭代形式为

其中gk=∇f(xk)为目标函数f的梯度函数,αk为步长因子,dk为搜索方向,βk为参数标量,不同的βk决定了不同的共轭梯度法。最早的共轭梯度法是由Fletcher和Reeves[1]在1964年提出,被称为FR共轭梯度法,其参数标量,其中表示欧几里得范数。其他经典的共轭梯度法还有HS 法[2]、PRP法[3-4]和DY法[5],它们的参数标量分别为

PRP方法在数值结果上有较好的表现,因此,多年来诸多学者对PRP方法进行了广泛深入地研究,得到了许多改进的PRP共轭梯度法[6-11]。Wei等[6]提出WYL法,参数标量为

WYL法保留了PRP方法的性质,且在一定的条件下证明了WYL方法的全局收敛性。为了确保每一步迭代都是充分下降的,文献[10]对WYL公式进行修正,得到了DPRP公式及

其中参数μ>1,并证明了DPRP公式产生的算法采用任何线搜索确定步长因子αk都是充分下降的,即

并且在标准Wolfe线搜索下使得DPRP方法全局收敛。
由共轭梯度法的表达形式可知,影响其变化的不仅有参数变量βk,还有步长因子αk。一般在较为经典的方法中,通常采用标准Wolfe 线搜索。2017 年,Yuan 等[12]提出了一种新型线搜索(modified weak Wolfe-Powell line search,简称MWWP型线搜索),形式如下:

由于DPRP方法对任何线搜索都是充分下降的,本文考虑DPRP方法在MWWP线搜索下是否具备全局收敛性,进而与标准Wolfe线搜索进行数值实验对比,分析新算法的有效性,为解决大规模无约束优化问题提供更有效的方法。……
