APP下载

一类具有充分下降性的修正FR共轭梯度法

2015-04-24张鹏

周口师范学院学报 2015年2期
关键词:方法

张 鹏

考虑无约束优化问题

其中f:Rn→R是连续可微的函数.共轭梯度法因为迭代简单存储量小,因此常被用来求解具有问题(1)形式的大规模优化问题.共轭梯度法的一般迭代格式为

其中αk是由线搜索确定的步长,搜索方向dk满足

βk是共轭参数,βk的不同取法对应于不同的非线性共轭梯度法.著名的共轭梯度法有1964年Fletcher和Reeves提出的FR方法[1],1969年Polar-Ribiere和Polyak分别独立提出的PRP方法[2,3],1952年Hestenes和Stiefel提出的HS方法[4],1999年Dai和Yuan提出的DY方法[5],βk分别由下式给出

其中,‖·‖为欧几里得范数,yk-1=gk-gk-1.

在共轭梯度法的许多理论分析和数值实现中,常常采用非精确线搜索如强Wolfe线搜索.强Wolfe线搜索要求步长αk满足

其中0<δ≤σ<1.

Al-Baali[6]证明了当强Wolfe线搜索参数σ被限制在时FR方法是全局收敛的.Liu等[7]将Al-Baali的结果推广到σ=.Zhang[8]提出一种修正的PRP方法,其中βk被定义为

并证明了NPRP在强_Wolfe线搜索下的充分下降性和全局收敛性.最近,Dai等[9]提出一种修正的NPRP方法 (记为:DPRP方法),βk被定义为

证明了DPRP方法不依赖线搜索而具有充分下降性,且对Armijo线搜索和Wolfe线搜索具有全局收敛性.受Zhang[8]和Dai[9]的启发,这里构造一类如下的修正FR方法,共轭梯度参数βk具有如下形式

其中μ>1.当目标函数是严格凸二次函数并采用精确线搜索时,MFR退化为经典的FR方法.可以证明新方法不依赖线搜索,具有充分下降性且在强Wolfe线搜索下具有全局收敛性.

1 MFR算法

Step 0 给定常数σ∈(0,1),δ∈(0,σ),ε≥0,选取初始点x0∈Rn,计算d0=-g(x0),置k=0.

Step 1 如果‖gk‖∞≤ε,则算法终止.

Step 2 计算αk>0满足强Wolfe线搜索 (4)-(5).

Step 3 令xk+1=xk+αkdk,gk+1=g(xk+1).如果‖gk+1‖∞≤ε,则算法终止.

Step 4 由式 (3),(6)计算dk+1,置k=k+1,转Step 2.

2 MFR算法的收敛性

假设

(A)目标函数f(x)在水平集L={x∈Rn∣f(x)≤f(x0)}上有下界,其中……

登录APP查看全文

猜你喜欢

方法
中医特有的急救方法
高中数学教学改革的方法
化学反应多变幻 “虚拟”方法帮大忙
变快的方法
学习方法
用对方法才能瘦
最有效的简单方法
四大方法 教你不再“坐以待病”!
赚钱方法
捕鱼