基于非单调技术的ODE型算法
2012-12-23王冠舒
张 军,王冠舒
(海南大学信息科学技术学院,海南海口 570228)
基于非单调技术的ODE型算法
张 军,王冠舒
(海南大学信息科学技术学院,海南海口 570228)
将非单调技术与信赖域ODE算法相结合,提出了一种求解无约束优化的新算法,从而减少了迭代次数以及信赖域子问题的计算次数.并给出在一定条件下算法的整体收敛性,数值试验表明算法有效.
非单调技术;信赖域ODE算法;整体收敛;无约束优化
考虑无约束优化问题

其中,f是Rn→R的连续可微函数.
为了简便起见,在迭代点xk处,用表示欧式空间的,fk,gk分别表示f(xk),f(xk),Bk为Δ2f(xk)或其对称矩阵的一个逼近.
对于问题(1),文献[1]给出了一种信赖域ODE方法.ODE方法是沿着一个常微分方程组初值问题的解曲线寻找光滑函f(x)(xR)的极值点.其他介绍参见文献[2-3].
迄今为止,几乎所有的ODE型信赖域算法都是单调算法.然而,对于许多函数要求目标函数每一步严格单调下降会减缓收敛速率,尤其是当目标函数出现“锯齿”形状时候.文献[4]的数值实验表明,非单调技术比单调技术更具明显优势.
1987年,非单调线搜索方法是由GRIPPO L,LAMPARIELLO F和LUCIDI S[5]首次提出的.步长ak满足

1 算法及收敛性分析
受文献[5]中的算法启发,结合式(2)的非单调技术,提出了ODE改进算法.
算法1
步骤1 x0Rn,ε≥0,h0>0给定正整数M,B0=I,0<ρ0<1,k:=0.
步骤2 计算gk,若≤ε停止.

步骤4 求解下面线性方程组获得试探步dk.

步骤5 由式(2)求出fl(k),并计算fk+1及ρk,

步骤6 若ρk<ρ0,hk=hk/2,转步骤4(内循环),否则转下一步.
步骤7 hk=2hk,xk+1=xk+dk,利用BFGS公式[4]得到Bk+1,k:=k+1(外循环).转步骤2.
为了得到全局收敛性,故作如下假设:
假设1f(x)在水平集L={x|f(x)≤f(x0)}有界……