一种求解非线性方程组的Levenberg-Marquardt方法及其收敛性
2021-03-19伍珍香
周 童,陈 亮,伍珍香
(淮北师范大学 数学科学学院,安徽 淮北235000)
0 引言
本文主要讨论非线性方程组

的解的问题,其中F( x ):Rn→Rn是连续可微函数. 由于F(x)是非线性函数,方程组(1)可能会没有解,因此本文假设方程组(1)解集非空并设其为X*.
Levenberg-Marquardt 方法(LM)[1-3]是求解方程组(1)的经典方法之一,LM方法通过如下公式给出搜索方向

其中:Fk=F( xk),Jk=F′( xk),μk≥0. 由于是正定矩阵,因此式(2)有唯一解dk,而且搜索方向dk是优化函数

的下降方向,其中φ( x ):Rn→R. 可以证明由LM方法产生的序列的任意聚点是φ 的稳定点,即

因此如果F′( x*)是非奇异的,则x*是方程组(1)的解. 然而对于收敛性来说,F′( x*)是非奇异这一条件过强,因此本文使用局部误差界这一弱条件代替非奇异. 局部误差界定义如下.
定义1设N 是Rn的子集且X*∩N ≠0,如果存在c ≥0,有

成立,则称‖F( x)‖ 为方程组(1)提供了一个在N 上的局部误差界.
对于式(2)参数μk有不同的选择,如当时,Dennis 等[4]给予证明,当μk=‖F( x )‖时,Fan等[5]证明LM的二阶收敛,同时在皆为局部误差界的条件下,也有一些结果,如当μk=αk‖ Fk‖时,Fan[6]证明了局部二阶收敛;当时,杨柳等[7]证明局部二阶收敛;当(0 ≤θ ≤1)时,Ma[8]证明局部二阶收敛;当时,张华仁等[9]证明局部二阶收敛;当μk=‖ Fk‖2时,Yamashita等[10]很好地证明LM二阶收敛,由于参数的选择使算法的迭代次数过多,因此,本文对参数进行了改进,使其迭代次数减少. 在本文中设

与文献[10]相比,由于考虑了‖ Fk‖的取值情形,使参数总是小于等于1,避免迭代步过大,提高计算效率,数值实验也显示了迭代次数减少.
1 LMM的收敛速率
本节研究LM方法的局部收敛性,公式为

其中dk是线性方程……
