吴璐璐陈汉清王乐洋

（1.江西水利职业学院建筑工程系 江西南昌 330013；2.河海大学地球科学与工程学院 江苏南京 211100；3.东华理工大学测绘工程学院 江西南昌 330013）

1 引言

总体最小二乘算法（TLS）在近30年来得到了充分的发展与广泛的应用，它能同时顾及观测值误差并同时考虑模型系数矩阵误差，是一种能够有效处理变量含误差模型（EIV模型）的数学方法［1］。当数据之间不独立或是系数矩阵中数据不等精度时，需要考虑系数矩阵元素之间以及观测值之间的定权问题，则要使用加权总体最小二乘法（WTLS）。测绘学科中加权总体最小二乘算法的发展主要在近些年，2013年Malengo A［2］提出基于拟牛顿法的加权总体最小二乘方法。本文以点云数据平面拟合模型为基础，将最小二乘算法（LS）、TLS以及基于拟牛顿法的WTLS应用到点云数据平面拟合模型中。通过仿真模拟数据和实际点云数据对这三种算法进行了比较与分析，得出了一些有意义的结论。

2 拟牛顿法

当EIV模型的函数为：

式中y为n×1的观测向量，A为m×n的系数矩阵，ey为观测向量的随机误差，EA为系数矩阵的随机误差，x为m×的待求未知参数。式（1）中由于存在EAx这一项，因此EIV模型是一个非线性模型。误差向量ey和vec（EA）的均值向量和协方差矩阵为

式中，Qy、QA分别为误差向量ey和eA的协因数阵，表示单位权方差，vec（·）表示矩阵的拉直变换。

用求解约束优化问题［3］的方式来处理式（1）的总体最小二乘方法得：

其中，eA=vec（A-），表示系数矩阵的真值，（A-EA）x=（xT⊗In）vec（A-EA）。

考虑到EIV模型的本质为一特殊的非线性模型，因此可以采用非线性最小二乘估计理论进行参数求解，本文在Malengo A［2］文献的基础上推导了基于拟牛顿法的WTLS。……