孙同贺，罗志才，姚朝龙，宛家宽



病态整体最小二乘的迭代正则化算法

孙同贺1, 2，罗志才1, 3，姚朝龙1，宛家宽1

(1. 武汉大学测绘学院，武汉 430079；2. 内蒙古科技大学矿业与煤炭学院，包头014010；3. 武汉大学地球空间环境与大地测量教育部重点实验室，武汉 430079)

当误差含变量(EIV)模型的设计矩阵病态时，采用普通整体最小二乘(TLS)算法得不到稳定的数值解。为了减弱病态性，在整体最小二乘准则的基础上附加解的二次范数约束，组成拉格朗日目标函数，推导EIV模型的正则化整体最小二乘解(RTLS)。然后将RTLS的求解转换为矩阵特征向量问题，设计一个迭代方案逼近RTLS解。通过L曲线法求得正则化因子来确定正常数，从而避免人为选择正常数的随意性。数值实例表明，提出的迭代正则化算法是有效可行的。

EIV模型；病态问题；正则化整体最小二乘；L曲线法；正常数

在信号处理、计算机视觉、图像处理、通信工程以及大地测量与摄影测量等相关领域中，待求参数一般通过建立观测模型来求解。当观测系统的设计矩阵和观测量都含有误差时，便形成了误差含变量(Error-in-variables, EIV)模型。整体最小二乘(Total least squares, TLS)方法是解决EIV模型的基本途径。TLS的算法主要包括奇异值分解类算法和拉格朗日迭代算法[1−2]，并扩展到加权TLS[3]以及附有等式和不等式约束的情况[4−7]。在TLS解的统计性质方面，主要研究了TLS解与LS解的关系[8]，系数阵的随机误差对加权LS解[9]的影响。对TLS在测绘领域的典型应用也进行了相关研究[10]。

当设计阵的列向量间呈近似线性相关时，观测量的微小变化会引起最小二乘解的剧烈振荡，测量上一般采用截断奇异值或者Tikhonov正则化方法获得稳定的解[11−12]。……