林海婵

(海南大学 信息科学技术学院， 海南 海口 570228)

无约束优化问题的非单调Perry-Shanno方法

林海婵

(海南大学 信息科学技术学院， 海南 海口 570228)

提出了一个处理无约束优化问题的PS无记忆拟牛顿型方法.在一定的假设条件下,分析了算法全局收敛性，数值试验结果表明该算法是有效的.

无记忆拟牛顿型方法； 非单调线搜索； 全局收敛性

考虑如下的无约束优化问题

(1)

其中，f:Rn→R是连续可微的函数.

Perry-Shanno(PS)无记忆拟牛顿型方法最初由Perry[1]和Shanno[2-3]提出，具有如下的迭代形式

xk+1=xk+αkdk，

(2)

其中，αk>0是由一维线搜索得到的一个步长,而搜索方向dk满足

d0=-g0，

(3)

其中，gk是函数f在xk处的梯度，Bk由下列Perry-Shanno修正公式

(4)

其中，sk=xk+1-xk，yk=gk+1-gk.如果采用Bk的逆形式Hk,可得到如下的修正公式

(5)

相应的迭代方向定义如下

(6)

非单调线搜索方法首次由Grippo[4]提出.选择步长αk满足下列条件

(7)

(8)

尽管非单调线搜索方案(7)在某些情况下是有效的，但仍然存在一些明显的缺陷(详见文献[13]).为了弥补不足,Zhang和Hager[14]提出了利用函数平均值代替(7)中的最大函数值的Wolfe型非单调线搜索技术寻找αk,使其满足不等式

(9)

(10)

(11)

数值试验结果表明这种非单调技术明显优于传统的非单调线搜索技术(7)(详见文献[14,11]).

最近，Gu和Mo[15]对Zhang和Hager提出的非单调线搜索技术(2)进行了改进，并给出了非单调技术

(12)

(13)

并且0≤θk≤θmax<1.数值试验结果表明这一改进实用且有效[15,10].

当目标函数是凸函数时，PS方法的全局收敛性已取得一些研究成果.比如，带精确线搜索的PS方法的全局收敛性已经被Perry[1]验证；Shanno[2]给出了带Wolfe线搜索的PS方法的全局收敛性证明；利用如下的线搜索方法

(14)

推广了Shanno的结论,其中μ1和μ2是2个正常数。随……