测量粗差的拟准检定法[发明专利]

[12]发明专利申请公开说明书

[21]申请号981136.8

[51]Int.CI7

G01C 5/00G01C 9/00

[43]公开日2000年2月16日[22]申请日98.8.10

[21]申请号981136.8

[11]公开号CN 12446A

[74]专利代理机构中国科学院武汉专利事务所

代理人黄瑞棠

[71]申请人中国科学院测量与地球物理研究所

地址430077湖北省武汉市武昌徐东路号[72]发明人欧吉坤

权利要求书 2 页 说明书 9 页 附图 2 页

[]发明名称

测量粗差的拟准检定法

[57]摘要

本发明公开了测量粗差的拟准检定法,涉及测量及其它实验观测数据的处理技术。本发明是一种辨识、定位并估算观测数据中的粗差的新方法。以观测值的真误差为研究对象,通过附加“拟准观测的真误差的范数极小”的条件,直接求解关于真误差的秩亏方程组;依据真误差估值的分布特征(分群现象),准确定位粗差,然后估算粗差大小并予以修正。设计了分两阶段(初选和复选)有效选取拟准观测的实施方案。本发明的突出优点是:①辨识粗差准确性高;②能同时定位多个粗差。粗差越多,计算快捷的效果越明显。

981136.8

权 利 要 求 书

第1/2页

1.测量粗差的拟准检定法，是一种发现、定位测量数据的粗差并估算粗差大小和精度，然后予以改正的数据处理方法，其特征在于： ①以观测值的真误差为研究对象；

②把基本正常的观测称为拟准观测，设计以下选择拟准观测的实施方案，分两个阶段选择拟准观测，首先是初选拟准观测，然后在求得真误差估值的基础上，根据真误差估值的分布特征，复选拟准观测： ③通过附加“拟准观测的真误差的范数极小”的条件，求解关于真误差的秩亏方程组；

真误差估值按下式计算

它的协因数阵按

④设已判别出b个粗差，得到n×b维系数阵C

计算；

b

，将粗差用b维

参数向量b表示，然后利用附加参数的间接平差法可以求得和它

的协因数阵：

。

2.根据权利要求1所述的测量粗差的拟准检定法，其特征在于初选拟准观测按下列步骤进行：

①计算，其中νi是最小二乘残差，

(i＝1，…n)；

②将νi定成，根据|ai|和|bi|与

的关系以及可靠性指标λ1＝1/Rij，将观测值分成4类：“0”

类

含粗差可能性大，“1”类结构较差，可靠性弱，“3”类含粗差可能性不大，其余为“2”类；

③根据观测分类情况和ui，值是否存在明显分界，初步选择“3”类和“2”类中ui值小的为拟准观测；选出r≥m+1个拟准观测；

④计算出真误差估值后，如果分群不明显，需要重新选择合适

的拟准观测。

3.根据权利要求1所述的测量粗差的拟准检定法，其特征在于复选拟准观测按下列步骤进行：

2

981136.8权 利 要 求 书 第2/2页

①计算下列指标

其中

(i＝1，2，…n)

②依据分群特征，将那些数值明显小，且对应的Wi或Wi

III

小于界值(一般取3.0或2.5)的观测复选为拟准观测；经过增选或更换拟准观测的迭代计算，确定拟准观测。

4.根据权利要求1所述的测量粗差的拟准检定法，其特征在于按下列步骤判别粗差： ①计算指标

III

②检验Wi是否大于预先给定的界值(一般取3.0)，如果大于界

值，判定该观测含粗差。

3

981136.8

说 明 书

第1/9页

测量粗差的拟准检定法

本发明公开了测量粗差的拟准检定法，涉及测量及其他实验观测数据的处理技术。

在测量或其他实验中，观测数据难免存在粗差。不排除粗差干扰，结果会产生偏倚，甚至被歪曲，造成人力、物力和财力的浪费。以往对付粗差，除了遵循严密的测量或实验规范和采取适当的措施之外，大多采用两类方法：一类是“统计检验”，如测量界荷兰的Baarda提出的Data Snooping得到较广泛采用；另一类是近一、二十年来研究较多的“抗差估计”(Robustestimation)，如数理统计界Huber，Hampel以及Rousseeuw奠定了抗差M估计的理论基础。测量界Kubik、Caspary以及我国的周江文、黄幼才、杨元喜等人都作了深入研究。

统计检验虽然应用较广，但是在测量数据中存在多个粗差时，效果不好。主要是因为统计检验的统计量建立在经典最小二乘(LS)的基础上，LS没有抗粗差的能力，因而使得这种方法并不十分可靠。

抗差估计(主要是M估计)经多年发展，在减免粗差方面成为较有效的一种方法。它的关键是构造有效的权函数，然而目前还没有找到适合于不同情况的通用权函数，特别是通用相关抗差权函数构造很困难。对于情形，目前还没有严密适用的精度评定办法。

以往的方法的一个共同点，都是以观测值的残差为研究对象的。而经典最小二乘法求得的残差既受到观测值中粗差的影响，又受到系统结构的制约，出现所谓杠杆观测问题。这是一个一直未较好解决的棘手问题。 随着科学技术的发展，社会的进步，对测量及其他实验数据的精度要求越来越高。人们对数据中粗差的影响也越来越重视，迫切要求研究和发明新的更有效的粗差检测方法，消除或减免粗差的影响，提高数据质量。 本发明的目的在于适应这种形势，在深入研究分析已有方法的优点和不足的基础上，提出的一种全新的检测粗差的思路和方法。 本发明的目的是这样实现的，即以观测值的真误差为对象。根据真误差与观测值的确定的解析关系式，提出了直接求解真误差估值的思路，通过一套独特的选择“拟准观测”的实施办法，在附加“拟准观测的真误差的范数极小”的条件下，解决了关于真误差的秩亏方程的求解问题；根据真误差估值的分布特征来判别粗差，定位粗差进而估计粗差大小和精度，然后修正含粗差的观测值，提高参数估计的准确度和精度。 拟准检定法的基本原理：

设线性化的测量观测方程表示成     AX＝L+Δ                                  (1)其中A是n×m维系数矩阵，X是m维待估参数向量，L是n维观测

4

981136.8说 明 书 第2/9页

向量，Δ是n维真误差向量。(1)的估值形式为

，V为残差。

经推导可得到Δ和L的确定的关系式     RA＝-RL                                  (2)

T-1T

这里R＝I-A(AA)A。

由于R的秩为n-m，是秩亏矩阵，一般情况下，由(2)式不能求

得真误差估值的确定解。

拟准检定法不同于以往以残差V为研究对象的粗差检测法。它以真误差为研究对象。研究思路是，在方程(2)的基础上，附加一组符合客

观实际的条件，可以求得真误差的估值的确定解，由此分辨出粗差。

事实上，测量以及其他科学实验中的观测值大多数是正常的，只有少数观测含有粗差。我们称基本正常但尚待确认的观测为拟准观测，称含粗差的观测为离群观测。设选出r(r＞m)个拟准观测，附加“拟准观测的真误差Δr的范数极小”的条件，即

2

‖Δr‖＝min                                          (3)

可以由方程(2)求得真误差的估值。

取m×n维矩阵GQ＝(0，Ar)，其中，m×r维矩阵Ar为系数阵A的转置矩阵中对应于这r个拟准观测的分块矩阵。解得

TT

的协因数阵

通常事先并不知道哪些观测是正常观测(即拟准观测)，哪些含有粗差(即离群观测)，因此如何正确选定拟准观测是拟准检定法的关键。 本发明设计了分两个阶段选择拟准观测的实施方案：

1)初选拟准观测根据事先掌握的关于这批观测值质量的信息或者计算某些特定的指标，初步选取拟准观测，并由公式(4)和(5)计算出真误差的估值；

2)复选拟准观测在算得真误差初始估值的基础上，计算出一些特定的指标，经过增选拟准观测或更换拟准观测的迭代计算，确定拟准观测，

进而计算出更准确的 根据确定的

和

和。

，计算出特定指标，经与给定的界值比较，指标

大于界值的那些观测判定为含有粗差。这样就发现并定位了粗差。 在粗差正确定位的基础上，假设找到b个粗差，得到b个n维单位向

T

量ej＝(0，…，0，1，0，…，0)，对应第j个有粗差的观测，它的第j个分量为1，其余为0。(j＝1，…，b)。将粗差用附加参数b表示，构造新的观测方程

5

981136.8说 明 书 第3/9页

其中n×b维矩阵Cb＝(e1，…，eb) 平差后得到

粗差估值 其协因数阵

余差

这时单位权方差估值为

可以同时求得消除粗差影响的情况下的参数估值

(估值和精度)都得到改善。

下面结合附图和实施例子进一步说明：图1为本发明拟准检定法程序流程图，图2为测角网示意图，

图3为水准网示意图。其中图1中  0-开始  1-初选拟准观测

，这时的质量

  2-计算真误差估值

I

及其协因数阵

II

  3—计算指标Wi(及C1)和Wi(及C2)

III

  4—检验Wi及Wi是否大于界值  5—更换或重选拟准观测

  6—比较和

  7—增加拟准观测个数

III

  8—计算指标Wi(及C3)  9—判别粗差

(m)(m-1)

  10—比较含粗差的观测个数b和b

  11—估计粗差大小、计算参数估值并评定精度，输出

及

  12—结束

“拟准检定法”的步骤如下：第0步开始

将测量或其他实验的观测数据输入到计算机硬盘，作最小二乘

平差，求出残差V＝-RL及单位权中误差第1步  初选拟准观测

①如果事先有关于这批观测值的质量信息，根据这些信息选拟准观

测。例如某些(个)观测值可能含粗差，那么这些(个)观测不选作拟准

6

981136.8

说 明 书 第4/9页

观测。

②如果没有先验信息

1)将νi表示成

，其中li，lj是观测

向量L的分量，R

矩阵R的元素，i，j＝1，…，n

计算|aij

是i|的中位数， 计算     计算

将u 计算内部可靠性指标

i

按绝对值大小排序。

2)根据以上计算量，将观测值分成4类：

“0”类：如果或|ai|和|bi|均

(j＝1，…n)，此类观测含粗差可能性较大，不能选作拟准观测。

“1”类：如果，这里

    此类观测结构差，可能是强影响点，不选入拟准观测。

“3”类：如果

    此类可认为含粗差的可能性不大，可选为拟准观测。“2”类：除上述三类特殊情况，其余观测均归入此类，视具体问题。此     类观测中，u 如果u的值出现i

较小的可选入拟准观测。

比较明显的“分群”，即在某一数值附近，一部

分u明显大于i

另一部分，那么u的值相对较小的那部分可选为拟准观测。 i 如果u值没有明显分群，i

一般情况下，选u值较小的r＝m+1(m

是参数X的维数i)个观测为拟准观测。

i

初选出r≥m+1个拟准观测后，进入第(2)步。

第2步  按公式(4)和(5)计算真误差估值及其协因数阵，即

算

和，然后按绝对值大小将

排序，大的

   在前，小的在后。第3步  为了更准确选取拟准观测，需计算下列指标：

，其中

(i＝1，…

n)，

7

981136.8说 明 书 第5/9页

是拟准观测

   的真误差估值

   迹。

的协因数阵，包含在中。trace(·)表示求

第4步  如果初选的拟准观测正确，计算出的    部分

一般呈现明显分群，一

I

II

的数值明显大于另一部分。这时检验Wi及Wi是否

   大于预先设定的界值(一般取3.0或2.5)。如果分群明显，

III    且部分W或W＞界值，进入第(6)步，否则转到第(5)

ii    步。

第5步  重新选择拟准观测：或者更换部分或者全部重选(如果观测值    多的话)，然后再进入第(2)步计算。

第6步  将这次算得的与上次算得的

iI或W

i

比较，如果存在较大

变

   化，分群的界线上移，W

II大于界值的观测增加，这

   时考虑增加拟准观测数，进入第(7)步。如果

   进入第(8)步。

变化不大，

第7步  将那些    步计算。在

数值明显小且对应的Wi或Wi

III

小于界值的观测，

   选为拟准观测。这时选出的拟准观测数r增加，然后转第(2)

稳定之前，结构很差的观测一般不选为拟准观

   测。第8步  在复选中较好地确定拟准观测后，依据

计算

III(i＝1，…，n)是否大于预先给定的界值(一般取

iIII

   3.0)，如果某个Wi大于界值，判定该观测含粗差。如果第9步  检验W

   分群不明显，且没有找到WIII大于界值的观测，再次转入第

i(10)步。    (5)步更换拟准观测。否则进入第

第10步  将这次挑出的含粗差的观测个数b(m)与上次挑出的b(m-1)比     较，如果有变化，转入第(7)步，以WIII小于界值的那些

i(m)

    观测为拟准观测，重新计算和。如果b没有变化，

    进入第(11)步。

第11步  估计粗差大小，计算参数估值并评定精度。

    按(7)和(8)式计算粗差大小算

8

及其协因数阵，计

981136.8说 明 书 第6/9页

    按(9)，(10)式计算V，     输出

及

第12步  改正粗差后得到的比含粗差时的明显变小。最后结

    果符合这个特征，拟准检定法结束。

本项发明的实施办法构思有独到之处，经检索，目前尚未见到国内外有类似发明的报导。

本发明的突出优点是①通过估计真误差估值来辨识和判断粗差。真误差估值呈现明显分群特点，因而辨识和判断粗差准确、直观；②能同时检测出(n-m-1)(n为观测值个数，m为待估参数个数)个粗差(如果存在的话)，并估算粗差的大小和精度；③能克服杠杆观测的影响；④对比已有办法的结果或者已有文献介绍的结果，证明拟准检定法检测多个粗差快捷，定位粗差准确，估算粗差精确。且粗差越多，检测效果越突出。还能快速检测出以往方法难发现的粗差。经过改正粗差，得到消除或减免了粗差影响的参数估值，达到提高估值精度，增加结果可信程度的目的。下面用两个实施例来说明拟准检定法的实施过程和取得的效果：实施例1.测角网的多粗差拟准检定

为了精确测定P1和P2两点的坐标，设计如附图2所示的测角三角网，A、B、C、D是已知点，按规范同精度观测了18个角度，观测权阵取单位阵。有关观测值列在表1的第2栏，模拟7个粗差，见第4栏，观测方程线性化后得到的观测值向量L列在表1第3栏。 用拟准检定法检测粗差：

1)首先计算指标|ui|，将|ui|从大到小排序，见第6栏，初选|ui|小的5

个(r＝m+1)作为拟准观测，算出

已明显分群，见第8、9栏。

和指标W

I(1)

，这时及W

I(1)

2)选|Wi

I(1)

|＜2的11个观测为拟准观测，算出及W

I(2)

和W

III

，见

第11，12和13栏。

3)从表中可看到数值明显分群，模拟的7个含粗差的观测全部发现，

所求得的粗差估值(第14栏)与模拟粗差接近。

表2列出了不含粗差以及含粗差时最小二乘平差后的坐标改正数估值和单位权中误差估值。很明显，如果粗差影响不排除，坐标平差结果和精度都受到严重歪曲。

采用本发明，准确发现全部粗差，改正后的平差结果，基本上同不含粗差时的结果一致，证实本发明的方案具有较强的质量控制功能。

9

981136.8说 明 书 第7/9页

表1.

1角度编号1234567101112131415161718

2观测值126°14′24.1

3含粗差L-6.8

4粗差-7.0

5No18

-7.0

1218

7.0

31117

-5.6

1024

-10.07.0

51571413169

7.0

6

6指标|u|2.532.402.092.022.021.441.411.291.221.16.99.87.75.68.41.23.23.00＝5

7No811112518317210159674141316

23  39  46.9.630  05  46.7-10.1117  22  46.2.931  26  50.07.531  10  22.6-2.622  02  43.03.1130  03  14.2-14.127  53  59.31.965  55  00.81.267  02  49.4-12.947  02  11.410.346  38  56.44.066  34  .78.566  46  08.2-13.229  58  35.59.6120  08  31.1-10.729  52  55.410.1

             σ0＝1.4″ 续表1

10

981136.8说 明 书 第8/9页

表2．

*

本例的观测值参考了《测量平差基础》(於宗俦等编著，测绘出版社，1983年版，p.282)

实施例2.粗差的拟准检定

如附图3所示，根据工程要求，设计布设了含已知高程点A和10个待定高程点的水准网，高差观测数n=19。用L表示观测向量(单位为mm)，用S表示各水准线路的距离(单位km)，分别列在表3的第2、4栏。在观测值中模拟6个粗差，见第3栏。

利用本发明将观测值分类的办法，很容易将这个水准网中含粗差的6个观测归为“0”类，没有“1”类观测．其余的“2”，“3”类观测均选为

IIIIII

拟准观测，算出及W、W和W，均呈现十分明显的分群特征。

只计算一次，6个粗差就同时被辨识、定位。数值见表3第9，10和11

栏，(W未列出)。

此例表明，本发明采用的拟准检定法检测多个粗差确实有效，计算量小，速度快，辨识粗差准确，完全能对测量数据起到质量控制的作用。

II

11

981136.8说 明 书 第9/9页

              表3.

**

本例观测值和图形参考於宗俦，李明峰：《粗差的同时定位与定值》，武汉测绘科技大学学报，1996，21(4)：323～329

12

981136.8

说 明 书 附 图

第1/2页

图1.

13

981136.8说 明 书 附 图 第2/2页

图2.

图3.

14