APP下载

基于修正割线方程的BB梯度法

2024-05-17杨爽艺

商洛学院学报 2024年2期

摘 要:将修正的割线方程和BB梯度法结合起来,从而得到一类修正的BB步长,再利用Zhang-Hager非单调线搜索,提出一个改进的BB梯度方法(MB法)。在一定的假设下,MB法是具有全局收敛性的。同时对MB法和同类型的几个BB方法进行大量的数值试验,结果表明MB法的数值效果是最好的。

关键词:Barzilai-Borwein梯度法;非单调线搜索;无约束优化;改进割线方程

中图分类号:O224   文献标识码:A文章编号:1674-0033(2024)02-0022-04

引用格式:杨爽艺.基于修正割线方程的BB梯度法[J].商洛学院学报,2024,38(2):22-25.

BB Gradient Method Based on Modified Secant Equation

YANG Shuang-yi

(College of Mathematical Sciences, Chongqing Normal University, Shapingba  401331, Chongqing)

Abstract: A modified BB gradient method (MB method) is proposed by combining the modified secant equation with the BB gradient method, thus obtaining a class of modified BB steps, and then using Zhang-Hager nonmonotonic line search. Under certain assumptions, the MB method is globally convergent. A large number of numerical experiments are also conducted on the MB method and several BB methods of the same type, and the results show that the MB method is the best numerically.

Key words: Barzilai-Borwein gradient method; nonmonotone line search; unconstrained optimization; modified secant equation

對于求解无约束优化问题:

f(x)    (1)

其中,f(x):Rn→R为连续可微函数,n是变量的个数,x为决策变量。梯度法是解决这类问题最简单的方法之一,其迭代格式为:

xk+1=xk-αkgk    (2)

其中,gk是f在xk处的梯度,αk是步长,不同的步长对应着不同的梯度法。

文献[1]在最小二乘意义下去近似标准割线方程Bksk-1=yk-1和Hkyk-1=sk-1中的Bk和Hk,得到步长的两个表达式:

[αBB1][k]=

(3)

[αBB2][k]=

其中,sk-1=xk-xk-1,yk-1=gk-gk-1。

[αBB1][k]和[αBB2][k]被称为两点步长或者BB步长,对应的梯度法被称为BB梯度法,简称BB法。BB法拥有更快的收敛速度,同时还避免了一些复杂的计算。BB法的良好性能激起了研究者对BB法的研究。文献[2]估计迭代点的单纯形梯度,对BB法进行改进。文献[3]利用循环策略去更新BB步长。尽管许多研究者提出了一些改进的BB法,但对最优的BB梯度法还未达成共识。文献[4]基于文献[5]提出的割线方程,推导出了6个修正的BB步长。文献[6]基于文献[7]提出的修正割线方程,并提出了改进BB步长。这些方法都表明,从割线方程角度去修正的BB法是可行的,但是数值性能上还存在一定缺陷。基于此,本文在文献[8]的研究基础上,进一步优化,结合一个具有更好性质的割线方程来修正BB法。……

登录APP查看全文