王乐洋 余 航

1)东华理工大学测绘工程学院，南昌 330013

2)江西省数字国土重点实验室，南昌 330013

总体最小二乘方法的适用性研究*

王乐洋1，2)余 航1)

1)东华理工大学测绘工程学院，南昌 330013

2)江西省数字国土重点实验室，南昌 330013

从数据拟合的角度探讨总体最小二乘方法的适用性，给出总体最小二乘残差距离与最小二乘残差距离之间的关系表达式并推广到多维情形;研究总体最小二乘准则、数据最小二乘准则和最小二乘准则之间的关系，给出适用场合;通过模拟计算分析，得出有益结论。

总体最小二乘;数据最小二乘;最小二乘;数据拟合

近年来，总体最小二乘理论在测量数据处理领域得到广泛应用［1－9］，但某些情况下其解与最小二乘解在估值和精度方面相差不大［6］。因此，总体最小二乘与最小二乘在适用性等方面需要进一步探讨和分析。本文从数据拟合的角度探讨了总体最小二乘方法的适用性，定义与残差距离有关的角度，绘制最小二乘、数据最小二乘和总体最小二乘准则的几何关系图，通过模拟算例给出相关的分析和结论。

1 总体最小二乘残差距离与最小二乘残差距离

当以y为观测值时，最小二乘拟合的残差距离为:

总体最小二乘拟合的残差距离为:

图1 直线拟合的残差距离示意图Fig.1 Sketch of residual distance with linear fitting

在实际的直线拟合或参数估计问题中，以y为观测值的最小二乘拟合、以x为观测值的最小二乘拟合与总体最小二乘拟合得到的直线是不相同的，向量1、2和3并不会构成图 1 所示的直角三角形。……