第四章平差数学模型与最小二乘原理
在大地测量中，为了确定一些点的高程而建立的水准网，为了确定某些点的坐标而建立的平面控制网或3维测量网。前者包含点间的高差、点的高程元素，后者包含角度、边长、边的方位角以及点的2维、3维坐标等元素。这些元素都是几何量，以下通称这些网为几何模型。为了测定一个几何模型，并不需要知道该模型中所有元素的大小，只需要知道其中部分元素的大小就可以了，其它元素可通过它们来确定。例如，如果为了测定平面三角形的形状，只需测量其中任意两个内角的大小就行了。为了确定平面三角形的大小和形状，只要知道其中任意的两边一角、两角一边或三边的大小就行了。
能够唯一确定一个几何模型所必要的元素，简称必要元素，必要元素的个数用t来表示。当某个几何模型给定之后，就能够唯一地确定该模型的必要元素的个数t及其观测量的类型，t只与几何模型有关，与实际观测量无关。在具体的测量平差问题中，对一个几何模型的测量次数n总是大于必要观测次数t，不然无法确定该模型。即使在t
n=情况下，虽然能够确定该几何模型，但由于没有多余观测，就不可能发现测量中存在的误差，这在测量工作中是不容许的。为了能及时发现测量中的误差和错误，并提高测量成果的精度，就必须使t
n>，若令
r-
=
n
t
式中，n为对几何模型观测的总次数，t是在假定测量无任何误差情况下，确定该模型所需的最小观测次数，即必要观测次数，r就称为多余观测次数。多余观测次数在测量中又称为自由度。
本章介绍测量平差的基本概念，简要地给出基本平差方法的数学模型，为以后各章节系统地学习各种平差理论打下基础。最后介绍最小二乘原理，这是测量平差方法所遵循的原则。
§4.1 测量平差的数学模型
在日常生活和科学研究中，时常见到很多模型，一般主要有实物的模拟模型和数学模型。测量平差的数学模型包括：函数模型和随机模型。一个实际的平差问题，都要建立某种函数模型，函数模型是描述观测量与未知量之间的数学关系的模型，是确定客观实际的本质或特征的模型。事实上测量平差的目的，就是为了最优估计函数模型的未知量。
测量数据的函数模型一般为几何模型、物理模型、或几何与物理的综合模型。测量控制网，如水准网、测角网、测边网、边角网、重力网、GPS网等所建立的函数模型都属于几何模型。而与时间有关的，考虑速度、加速度、位移和应变等所描述观测量与未知量之间关系的模型，大多为物理模型。函数模型分为线性模型和非线性模型两类，测量平差通常是基于线性模型的，当函数模型为非线性函数时，总是将其用泰勒公式展开，并取其一次项化为线性形式。
一、条件平差法的函数模型
以条件方程为函数模型的平差方法，称为条件平差法。
在具体测量问题中，实际观测次数n，必要观测次数t，则多余观测次数t
=，那么可建
n
r-
立t n r -=个条件方程，即：
0)~
(=L i F ，),,2,1(r i = (4.1.1)
这里
⎪⎪⎪⎪⎪⎭⎫
⎝⎛=n
L L L 2
1L ，⎪⎪⎪⎪⎪⎭⎫ ⎝⎛=n L
L L ~~~~21 L ，⎪⎪⎪⎪
⎪⎭⎫ ⎝⎛∆∆∆=n 21Δ (4.1.2) 分别称为观测值向量，观测值的真值向量和真误差向量，它们满足如下关系
ΔL L +=~
(4.1.3)
在测量平差中，一般把（4.1.1）式写成线性方程，即
0~
1
01
=+⨯⨯⨯r n n r A L A (4.1.4)
或者
01
1
=+⨯⨯⨯r n r W Δn A ，)(1
01
1⨯⨯⨯⨯+=r n n r r A L W A (4.1.5)
这里A 是r 行n 列的常系数矩阵，且是行满秩矩阵；0A 是r 行1列的常向量。条件平差的自由度是多余观测数t n r -=，即条件方程的个数。
在现实问题中，真值和真误差是不能够确定的。因此，只能通过某种平差原理（本书采用最小
二乘原理）进行平差，求出真值L ~
和真误差Δ的最佳估值L
ˆ和V ，称为平差值（也称L ˆ为最或然向量值，V 为最或然改正值向量）。定义为
V L L
+=ˆ (4.1.6) 这样，条件平差的函数模型化为
0ˆ1
1
=+⨯⨯⨯r n n r A L A (4.1.7) 或者
01
1
=+⨯⨯⨯r n r W V n A ，1
01
1⨯⨯⨯⨯+=r n n r r A L W A (4.1.8)
一般也称W 为条件方程的闭合差向量。
例题〔4.1.1〕：在图（4-1-1）所示的水准网中（箭头指向高端），设观测高差1h 、2h 、 、5h 。试列出该水准网的条件方程。
解答：由于
5=n ，2=t ；2=-=t n r
因此，可列出两个条件方程。设观测高差的最或然值为
1ˆh 、2ˆh 、 、5
ˆh 则应有
⎪⎩⎪⎨⎧=-+-=-+0
ˆ ˆˆ0 ˆ ˆˆ5324
21h h h h h h 图（4-1-1）
h 4
A
代入i
i i v h h +=ˆ（5,,2,1 =i ），则有 ⎩
⎨
⎧=+-+-=+-+0 0
25321421w v v v w v v v 其中
⎩⎨
⎧-+-=-+=5322
4
211h h h w h h h w 写成标准形式 0=+W V A ，0A L W +=A 。
其中
⎪⎪⎭⎫ ⎝
⎛---=10
1
1
01011
A ，⎪⎪⎭
⎫
⎝⎛-+--+=⎪⎪⎭⎫ ⎝⎛=5
324
2121h h h h h h w w W 解算完毕。
例题〔4.1.2〕：如图（4-1-2），在三角形中，设有一点插入固定角的图形，其中A 、B 、C 为已知点，P 为未知点，设角度观测值为i L （6,,2,1 =i ）。试列出条件方程。
解答：
由图知，确定一个未知点，只需要两个观测角就够了，即必需观测有2个。现观测值总数为6个，故多余观测个数——即条件方程式个数为，
426=-=-=t n r 个
这4个条件方程式的具体形式为
（1）图形条件2个。即平面三角形三内角的最或然值之和应为180°，其条件方程式为
01321=+++w v v v ，
1803211-++=L L L w 02654=+++w v v v ， 1806542-++=L L L w
（2）方位角条件1个。BA 边及BC 边的方位角及边长为已知，则由BA 边的方位角加2角及5角，应等于BC 边的方位角。即
0352=++w v v ，BC BA T L L T w -++=523
这个条件也称固定角条件。
（3）固定边条件1个。即由已知边BA 经过角度的最或然值推算BP 边长，再由BP 边长推算出BC 的边长，应等于BC 边的已知值。
由正弦定理知
1
3ˆsin ˆsin L L BA
BP =，4
1634
6ˆsin ˆsin ˆsin ˆsin ˆsin ˆsin L L L L BA L L BP BC ==
即
图（4-1-2）
BC L L L L BA
=4
163ˆsin ˆsin ˆsin ˆsin
这就是固定边条件的形式。
可以看出，图形条件及方位角条件均为线性形式，而固定边条件则为非线性形式，故应将其线性化，以便和其余的三个条件一起平差。
为展开方便，将上式两边取对数，得
BC L L L L BA lg ˆsin lg ˆsin lg ˆsin lg ˆsin lg lg 4
163=--++ 式中BA lg 及BC lg 为已知值。现就一般情况，将i
L ˆsin lg 按台劳级数展开，取至一次项有 )sin(lg ˆsin lg i i i v L L +=i L L
i i i v L L L i
i =⎪⎪⎭⎫
⎝⎛+=ˆˆd ˆsin lg d sin lg ρ''''⎪⎪⎭⎫ ⎝⎛+==i L L
i i
i v L L L i
i ˆˆd ˆsin lg d sin lg 设
i L L
i i
i L L L i
i cot "1ˆd ˆsin lg d ˆρμρδ=''⋅⎪⎪⎭⎫ ⎝⎛==，4343.010ln 1==
μ 则有，
i
i i i v L L ''+=δsin lg ˆsin lg 这样可得线性形式的固定边条件为
0466443311=++-+-w v v v v δδδδ
BC L L L L BA w lg sin lg sin lg sin lg sin lg lg 41634-+-++=
为使条件方程的系数不致过大或过小，通常将固定边条件方程式的系数及自由项乘以6
10。 最后写成标准形式
0=+W V A ，0A L W +=A
其中
⎪⎪⎪⎪⎪⎭
⎫
⎝
⎛--=64
3
10
0101
10111000000111
δδδδ
A ，⎪⎪
⎪⎪
⎪⎭⎫
⎝⎛=4321w w w w W 解算完毕。
在上面的三个问题中，满足条件方程的改正数V 都有无穷多组。最小二乘条件平差，即依据条件方程式，按min T
=V V P 求出改正数及其平差值。
应该指出，上面的平差问题之所以产生，是由于有多余观测。如果观测都是必需的，则每一观测量都不能由其它观测量表出，因而，也就不可能有类似上面的条件方程出现。因此又可知道，条件方程式的个数是与多余观测有关的，每有一个多余观测，就可列出一独立的条件方程式。如第二个问题，虽然还可列出
0ˆˆˆˆ5
431=--+h h h h 但它显然为该问题条件方程式中两式之和，这个条件方程与前两个条件不是互相独立的。
在进行条件平差时，列出的条件方程应相互独立，即其中的任一条件方程都不能由其余的条件方程表出，其个数等于多余观测量的个数。
二、间接平差法的函数模型
在一个几何模型中，最多只能选出t 个独立量，如果在进行平差时，就选定这t 个独立量作为参数或未知量，那么通过这t 个独立量就能唯一地确定该几何模型了。换言之，模型中所有量都一定是这t 个独立参数的函数，亦即每个观测量都可表达成所选t 个独立参数的函数。
选择几何模型中t 个独立参数为平差的参数（注意，这t 个独立参数可以是观测的某些量，也可以是非观测的量），将每一个观测量表达成所选参数的函数，即列出n 个这种函数关系式，称为观测方程。以此为平差的函数模型，称为间接平差法，又称为参数平差法。
在具体测量问题中，实际观测次数n ，必要观测次数 t ，则多余观测次数 t n r -=。选择t 个
函数独立的参数（t X X X ~
,,~,~21 ）后，可有
)~
(~1
1
⨯⨯=t n F X L (4.1.9)
这里
⎪⎪⎪⎪⎪
⎭⎫
⎝
⎛=⨯t t X X X ~~~~211
X ，⎪⎪⎪⎪
⎪⎭
⎫ ⎝⎛=⨯n n L L L ~~~
~211
L (4.1.10) 为所选参数和观测值向量的真值向量。另外，观测值向量和真误差向量分别为
⎪⎪⎪⎪⎪⎭⎫ ⎝⎛=⨯n
n L L L
2
1
1L ，⎪⎪⎪⎪
⎪
⎭
⎫ ⎝⎛∆∆∆=⨯n n 211
Δ；ΔL L +=~ (4.1.11) 对（4.1.9）式进行线性化后可得
1
1
1
~
~⨯⨯⨯⨯+=n t t n n d X L B (4.1.12)
或者写为
1
1
1
~
⨯⨯⨯⨯-=n t t n n l X ΔB ，(
)
1
1
1n n n ⨯⨯⨯=--l d L (4.1.13)
这里B 是n 行r 列的常系数矩阵，且是列满秩矩阵；d 是n 行1列的常数向量。
无论是观测量还是待估参数，其真值和真误差是不能够确定的。因此，只能通过某种平差原理
进行平差，求出真值L ~
、真误差Δ和X ~
的最佳估值L
ˆ、V 和X ˆ，称为平差值，其中L ˆ称为观测值的最或然向量值，V 为最或然改正值值向量。定义为
V L L
+=ˆ，x
X X ˆˆ0
+= (4.1.14) 这里0
X 为X
ˆ的近似值。这样，间接平差的函数模型化为
1
1
1
ˆ⨯⨯⨯⨯-=n t t n n l x
V B ，()
01
1
1
1
n t
t n n n ⨯⨯⨯⨯⨯=-+-B l X d L (4.1.15) 一般也称l 为参数方程的自由向量。尽管间接平差法是选取了t 个函数独立的参数，但是多余观测数不随平差方法不同而异，其自由度仍然是多余观测数t n r -=。
例题〔4.1.3〕：在图（4-1-1）所示的水准网中，试列出该水准网的误差方程。 解答：
由于5=n ，3=t ；2=-=t n r 。因此，令
1111ˆˆˆx h h X +==，22
22ˆˆˆx h h X +==，3333ˆˆˆx h h X +== 则应有
11ˆˆX h =，2
2ˆˆX h = 3
3ˆˆX h =，214ˆˆˆX X h += 3
25ˆˆˆX X h +-= 代入i
i i v h h +=ˆ（5,,2,1 =i ），则可写成标准形式 l x
V -=ˆB ，[
]
L d X l -+-=0
B
其中
⎪⎪⎪
⎪⎪⎪
⎭⎫ ⎝⎛-=11
011100
010001
B ，⎪⎪⎪⎪⎪⎪⎭
⎫
⎝⎛
-+--+-=5324210
00h h h h h h l 解算完毕。
例题〔4.1.4〕：如图（4-1-3）所示，设从三个已知点1P 、2P 、3P ，对未知点P 进行距离测量，观测值为321S S S 、、。现由三个已知点的坐标),(111y x P 、),(222y x P 、),(333y x P ，推求P 点的坐标),(y x 。请按间接平差方法列出误差方程。
解答：
显然只要有两个观测值，就可以求出P 点坐标（通常
有两组解，舍弃不符实际情况者）。现测了三条边，故有多余观测。我们选取P 点坐标x 、y 为待定参数，则可列出未知参数与观测值之间的关系式为
2
12
111)ˆ()ˆ(y y x x
v S -+-=
+ 2
32222)ˆ()ˆ(y y x x
v S -+-=+ 2
32
333)ˆ()ˆ(y y x x
v S -+-=
+ 或写成
)
,(333y x P )
,(111y x P )
,(222y x P 413图（--）
12
1211)ˆ()ˆ(S y y x x
v --+-=，22
3222)ˆ()ˆ(S y y x x
v --+-=
32
32
33)ˆ()ˆ(S y y x x
v --+-= 显然以上三个观测方程都是非线性方程，现在利用泰勒展开进行线性化。首先取P 点坐标，即参数的近似值为（00,y x ），此近似值可由上式中任意两式设v 为零解出。则有
x x x
ˆˆ0δ+=，y y y ˆˆ0δ+= 这样，误差方程变为
i i i i S y y y x x
x v --++-+=
2
02
0)ˆ()ˆ(δδ，（3,2,1=i ） 因为x
ˆδ、y ˆδ甚小，按泰勒级数展开，取至一次项，则有 i i i S y y f x x f f v -⎪⎪⎭⎫ ⎝⎛∂∂+⎪⎭⎫
⎝⎛∂∂+=ˆˆˆˆ0
00δδ 并设2
0200)()(i i i y y x x S -+-=，即有
i i
i
i
i
i i S y
S y y x
S x x S v --++-+
=ˆˆ00000δδ 取
i
i
i S x x a 00-=
，i
i
i S y y b 00-=
，)(0i i i S S l --=
则误差方程变为
l x
V -⋅=ˆB ，[
]
L d X l -+-=0
B
其中
⎪⎪⎪⎭⎫ ⎝⎛=33
22
11
b a b a b a B ，⎪⎪⎪⎭⎫ ⎝⎛----=303
202101S S S S S S l
这样，就把原来非线性的误差方程化为线性式。
在上面所举的例子中，满足条件方程的改正数V 都有无穷多组。最小二乘条件平差，即依据条件方程式，按min T
=V V P 求出改正数及其平差值。
三、附有参数的条件平差法的函数模型
设在平差问题中，实际观测次数为n ，必要观测次数t ，则多余观测次数t n r -=，那么可建立
t n r -=个条件方程。现又增设了u （t u <<0）个函数独立的量作为参数一起进行平差，此时每
增加一个参数就增加一个条件方程。以含有参数的条件方程作为平差的函数模型，称为附有参数的条件平差法。
一般而言，在观测次数为n ，必要观测次数为t ，多余观测次数 t n r -=的基础上，再增加u 个独立参数，t u <<0，则总共有u r c +=个条件方程，一般形式是：
1
1
1)~
,~(⨯⨯⨯=c u n F 0X L (4.1.16)
其线性形式是
1
1
01
1
~
~⨯⨯⨯⨯⨯⨯=++c c u u c n n c 0B A A X L (4.1.17)
这里A 是u r c +=行n 列的常系数矩阵，且是行满秩矩阵；B 是c 行u 列的常系数矩阵，且是列满秩矩阵；0A 是c 行1列的常向量。
以估值代替真值，即
V L L L +=→ˆ~，x
X X
X ˆˆ~0
+=→ 这样（4.1.17）式化为
0B A =++W x
V ˆ，00
A X L W ++=
B A (4.1.18)
上式就是附有参数的条件平差的函数模型，其特点是观测量L 和参数X 同时作为模型中的未知量参与平差，是一种间接平差与条件平差的混合模型。
此平差问题，由于选取了u 个独立参数，方程总数由r 个增加到了u r c +=个，由于多余观测数目不变，故平差的自由度仍然是u c r -=。
例题〔4.1.5〕：在平面三角形中，观测了三内角1L 、2L 、3L 。选择第一个观测内角为平差参数X 。请按附有参数的条件平差方法列出条件方程。
解答：
此时1=-=t n r ，有一个条件方程。由于增加了一个参数，应再增加一个条件方程。现在列出如下
0180ˆˆˆ3
21=-++
L L L ，0ˆˆ1
=-X L 把V L L +=ˆ，x X ˆˆ1
+=L 代入上式得 0)180(321321=-+++++
L L L v v v
0ˆ1=-x
v 。 写成标准形式为
0B A =++W x
V ˆ，00
A X L W ++=
B A
其中
⎪⎪⎭⎫ ⎝
⎛=00
1
111
A ，⎪⎪⎭⎫
⎝⎛-=10B ，⎪⎪⎭
⎫
⎝
⎛-++=0180321
L L L W 解算完毕。
四、具有约束条件的间接平差法
如果进行间接平差，就要选择t 个函数独立的参量为平差的参数，按每一个观测量与所选参数间的函数关系式，组成n 个观测方程。如果在平差问题中，不是选t 个而是选择t u >个参数，其中包含t 个独立参数，则多选择的t u s -=个参数必然是t 个独立参数的函数，亦即在u 个参数之间存在着t u s -=个函数关系，它们用来约束参数之间应该满足的关系。因此在选定t u >个参数进行间接平差时，除了n 个观测方程外，还要增加t u s -=个约束参数的条件方程，故称此平差方法为附有限制条件的间接平差法。
一般而言，具有约束条件的间接平差法的方程是：
⎪⎩
⎪⎨
⎧=Φ=⨯⨯⨯⨯111
1)~()~(~s u u n F 0X X L (4.1.19) 这里s t u +=。其线性形式是：
⎪⎩⎪⎨
⎧=++=⨯⨯⨯⨯⨯⨯⨯⨯1
111
110~~~s s u u s n u u n n W X d X L C B (4.1.20) 这里B 是n 行t s u +=列的常系数矩阵，它不再是列满秩矩阵；C 是t u s -=行u 列的常系数矩阵，且是列满秩矩阵；d 和W 分别是n 行1列、和s 行1列的常数向量。以估值代替真值，即
V L L L +=→ˆ~，x X X X ˆˆ~0+=→ 这样（4.1.20）式化为
⎩⎨⎧+==+⋅-+-=-⋅=W X W ,W x
L d X l l,x
V 0
0ˆ)(ˆC 0C B B x (4.1.21) 该平差问题的自由度是)(s u n r --=。
上面讲述了测量平差中建立函数模型的基本概念和基本方法，也说明了四种基本平差方法所对应的函数模型的基本形式。各种函数的基本类型和具体化将在有关章节中讨论。
五、平差的随机模型
随机模型是描述平差问题中的随机量（如观测量）及其相互间统计相关性的模型。
观测不可避免地带有偶然误差，使观测结果具有随机性，从概率统计学的观点来看，观测量是是一个随机变量，描述随机变量的精度指标是方差、均方差或中误差，描述两个随机变量之间的相关性的是协方差。方差、协方差是随机变量的主要统计性质。
对于以上给出的四种平差方法，最基本的数据都是观测值向量L 。在进行平差时，除了建立函数模型外，还要同时考虑到它的随机模型，亦即观测值向量的协方差阵
1
2
02
0-==P
Q D σσ (4.1.21)
观测值向量L 的随机性是其真误差向量Δ的随机性所决定的，Δ是随机向量。Δ的方差就是观测值向量L 的方差，即
1
2
02
0-∆===P
Q D D ΔLL σσ
它就是平差的随机模型。
以上讨论是基于平差函数模型中，只有L （即Δ）是随机向量，而模型中的参数是非随机量的情况，这是平差问题的最普遍情形。如果平差问题中所选择的参数也是随机量，此时随机模型除了上式外，还要考虑参数的先验方差阵以及参数与观测值之间的协方差阵等。
§4.2 函数模型的线性化
在各种平差中，所列出的条件方程或观测方程，有的是线性形式，也有的是非线性形式，在进行平差计算时，必须首先将非线性方程按泰勒公式展开，取至一阶项，转换成线性方程。
设有函数
)~
,~(1
111
⨯⨯⨯⨯=u n c c X L F F (4.2.1)
以估值代替真值，并设
x
X X
ˆˆ0
+=，V L L +=ˆ (4.2.2) 其中要求x
ˆ和V 是微小向量。对非线性函数进行泰勒展开，只保留一阶项，于是有： +∂∂+
∂∂+=++=x
X
F V L
F X L F x
X
V L F F ˆˆˆ)()ˆ(0
,,00
X
L X
L ,, 若令
00
,21
2221212
111,ˆˆˆˆˆˆˆˆˆˆX L n c c c n n
X
L n
c L F L F L F L F L F L F L
F L F L F ⎪⎪⎪⎪
⎪⎪
⎪⎪⎭⎫
⎝⎛∂∂∂∂∂∂∂∂∂∂∂∂∂∂∂∂∂∂=∂∂=
⨯
L
F A (4.2.3) 00
,2
1
222121211
1,ˆˆˆˆˆˆˆˆˆˆX
L u c c c u u
X
L u
c X F X F X F X F X F X F X F X F X F ⎪⎪⎪⎪
⎪⎪
⎪
⎪⎭⎫
⎝
⎛∂∂∂∂∂∂∂∂∂∂∂∂∂∂∂∂∂∂=∂∂=
⨯
X
F B (4.2.4) 则函数1
⨯c F 的线性形式是
1
1
1
ˆ),(⨯⨯⨯⨯⨯++=u u c n n c c x
V X L F F B A (4.2.5) 根据函数线性化过程，很容易将上节的四种基本平差方法的非线方程转换成线性方程。
１）条件平差法：
0)ˆ(1=⨯L
F r ，r t n += )(1
1
L F W W V ==+⨯⨯⨯ ,0A r n n r (4.2.6)
2）间接平差法：
)ˆ(ˆ1
1
⨯⨯=t n X F L
，r t n += 1
01
1
ˆ)()ˆ(ˆ⨯⨯⨯⨯+==t t n t n x X F X F L
B l V ˆˆ1
1
-=⨯⨯⨯t t n n x
B ，()
L X F l --=⨯)(01
n (4.2.7) 3）具有参数的条件平差法：
0)(1
=⨯X L ,c F ，r t n +=，u r c +=，t u <<0
0ˆ),(1
1
1
=++⨯⨯⨯⨯⨯u u c n n c c x
V X L F B A
0ˆ1
1
=++⨯⨯⨯⨯W x
V u u c n n c B A ，),(01
X L F W ⨯=c (4.2.8) 4）附有条件的间接平差法：
⎪⎩⎪⎨⎧==⨯⨯⨯⨯0)ˆ()ˆ(ˆ1
11
1u s u n F X X L Φ，r t n +=，s t u += ⎪⎩⎪⎨⎧=++=⨯⨯⨯⨯⨯⨯⨯⨯⨯111
11
1010ˆ)(ˆ)(ˆs u u s u s u u n F x X x X L C ΦB u n 令
00
ˆˆˆˆˆˆˆˆˆˆ2
1
2221212
111X
u s s s u u
X
u
s X X X X X X X
X X ⎪⎪⎪⎪⎪⎪⎪⎪⎭⎫
⎝
⎛
∂Φ∂∂Φ∂∂Φ∂∂Φ∂∂Φ∂∂Φ∂∂Φ∂∂Φ∂∂Φ∂=∂∂=
⨯
X
ΦC 则有
()
⎪⎩⎪⎨⎧==+--=-=⨯⨯⨯⨯⨯⨯⨯⨯⨯⨯⨯)(ˆ)(ˆ10111
11
0111u s s s u u s u n u u n n X Φ0C B x x W W x
L X F l l x
V (4.2.9) §4.3 参数估计与最小二乘原理
平差问题是由于测量中进行了多余观测而产生的，不论何种平差方法，平差的最终目的都是对所选参数X ~
和观测量L ~
（或Δ）做出某种估计，并评定其精度。所谓评定精度，就是对未知量的方差与协方差做出估计，统称为对平差模型的参数进行估计。
一、参数估计概念
数理统计学中，把某一问题的全部研究对象称为总体或母体，把其中的单个对象称为个体，从总体中随机抽取的若干个体称为样本或子样，子样里所包容的个体数目称作样本或子样的容量。
科学和生产实践中，通过对子样某些特性的考察，估计推断母体的相应特性，是有着广泛应用的一种现实有效的方法。如以子样分布估计母体分布、以子样均值估计母体均值、以子样方差估计母体方差等，均属于此。这种由子样推断母体的方法和理论，就称为估计理论。母体所具备的特性，称做理论特性，如理论分布，理论方差等；子样所具备的特性，称做统计特性，如统计分布，统计方差等。
当理论分布属于某种类型已知时，推断母体只需决定分布的参数，例如只要定出分布的特征值数学期望μ和方差2
σ，就可获得具体的正态分布。另外，有时要推断的并非母体分布，而只是反映母体某种特征的参数。所以，这种以子样推断母体的问题，又称做参数估计。
在测量工作中，视仅含偶然误差的观测值的一切可取值为母体，则观测就是从中随机抽样，n 个观测值的集合即构成容量为n 的子样。测量平差的任务，就是依据作为子样的观测值估计被观测量的母体均值（即真值）和母体方差。
参数估计可分为点估计和区间估计。设母体分布函数为)(θ；x F ，其中x 是变元，θ为待估参数。用随机抽自母体的子样{}n x x x ,,,21 ，建立函数
),,,(ˆˆ21n x x x θθ=
以估计θ，则称θˆ为参数θ的估计量。这种估计称为参数的点估计；如果是构造子样的两个函数
),,,(ˆ211n x x x θ，),,,(ˆ212n x x x θ
用以作为θ的取值范围，则这种估计称为区间估计。
若母体分布函数
),,(1t x F θθ ；
中含有t 个不同的未知参数，则要由子样
{}n x x x ,,,21
建立t 个不带有任何未知参数的统计量t θθˆ,,ˆ1 ，作为这t 个未知参数的估计量。参数的估计量又称为估计值或估值。
常用的获得点估计的方法有以下几种 （一）矩估计法
由概率论知，若以)(x f 表示连续型随机变量的母体分布的密度函数，则
)(d )(k
k k x E x x f x ==
⎰
+∞
∞
-μ， ,2,1,0=k
称为母体的k 阶原点矩。1μ即为母体的数学期望。
设母体分布函数),,(1t x F θθ ；，有t 个未知参数：t θθθ,,,21 ，且母体1至t 阶原点矩
t μμμ,,,21 存在。并以t μμμ
ˆ,ˆ,ˆ21 表示子样的1至t 阶原点矩，则可构成 ⎪⎪
⎩⎪⎪
⎨
⎧===t
t t t t μθθμμθθμμ
θθμˆ),(ˆ),(ˆ),(1
212111 解这一方程组，一般能得到t 个未知参数的一组解，即
t θθθˆ,,ˆ,ˆ21
我们即取这一组解作为t 个未知参数对应的估计量，这种方法称为参数的矩估计法。
矩估计法实际就是以子样矩作为相应母体矩的估计，以子样矩的函数作为相应母体矩同样函数的估计。例如，母体的一阶原点矩数学期望μ和二阶中心矩方差2
σ，即是以子样均值x 和子样的方差2
s 为对应的估计量
∑==
n
i i
x n
x 1
1
，∑=-=
n
i i
x x n
s 1
2
2
)(1
x 与2
s 又称为统计均值和统计方差。
（二）最大或然法
设母体分布密度函数为),,,(21t x f θθθ ；，其中x 为变元，t θθθ,,,21 为待估参数。若从母体中随机抽取的子样为{}n x x x ,,,21 ，则在子样邻域之内的概率为
i n
i t i x x f P d ),,,(1
21∏
==
θθθ ；
显然待估参数的变化，会影响P 的大小。最大或然法依据
max ),,,(1
21=∏
=n
i t i x f θθθ ； (4.3.1)
解出未知参数的估计值t θθθˆ,,ˆ,ˆ1 ，我们以
∑∏
===
n
i t i n
i t i x f x f 1
211
21),,,(ln
),,,(ln
θθθθθθ ；； (4.3.2)
代替（4.3.1）式中的),,,(121∏=n
i t i x f θθθ ；，其作用是一样的。因此
),,,(1
21∏
=n
i t i x f θθθ ；，),,,(ln
1
21∏
=n
i t i x f θθθ ；
都常称为或然函数。
依最大或然法得出的参数估计量，称为最大或然估计量。例如，当母体服从正态分布2
N (,)μσ，由子样 {}n x x x 、、、 21，求参数μ及2
σ的最大或然估计量时，或然函数为
()
2
2
1
1ln 2n
i i x μσ
=⎛
⎫
-- ⎪⎝⎭
∏
2
2
1
1ln ln ()2n
i i x σμσ
=⎛⎫
=
--
- ⎪⎝
⎭
∑
2
2
1
1ln
ln ()2n
i
i n n x
σμσ
==-
-∑
分别对μ及σ求偏导数，并令其为零后分别有
0)(1
1
2
2
=-∑=n i i
x
μσ
，0)(1
1
2
3
=-+
-
∑=n i i
x
n
μσ
σ
由此解得
x x n
n
i i
==∑=1
1
ˆμ
，()2
1
2
2
1
ˆs x x n
n
i i
=-=
∑=σ
即当母体服从正态分布时，子样的算术平均值和子样的方差，就是母体的数学期望及方差的最大或然估计量。
二、衡量参数估计的指标
因为任何估计量，都是依据随机抽取的子样得出的。由于子样的随机性，估计量也具有随机性。所以，估计量的优劣需按统计学的观点来比较。下面给出衡量估计量优劣的几个性质。
（一）无偏性
若参数θ的估计量),,,(ˆ21n x x x θ的数学期望等于参数θ，即
ˆE (
)θθ= (4.3.3) 则称θˆ为θ的无偏估计量。
对于服从任何分布的母体，它的子样平均值x 总是母体均值a 的无偏估计量。即
1
1
E ()E ()n
i
i x x a n
==
=∑ (4.3.4) 对于服从任何分布的母体，它的子样方差2
s 并非母体方差2
σ的无偏估计量，此时
2
21
1
E ()E ()n
i i s x x n
=⎧⎫
=-⎨
⎬⎩⎭
∑
[]211
E ()()n i i x a x a n =⎧⎫=---⎨⎬⎩⎭∑ 22
11
E ()()2()()n i i i x a x a x a x a n =⎧⎫⎡⎤=-+----⎨⎬⎣⎦⎩⎭∑ ()2
2
1
1
11E ()E ()2E ()()n n
n
i i i i i x a x a x a x a n ===⎧⎫
⎡⎤⎡⎤=-+----⎨⎬⎣⎦⎣⎦
⎩⎭
∑∑
∑ []22
111E ()()2()E ())n n
i i i i x a n x a x a x a n ==⎧⎫⎡⎤=-+----⎨⎬⎣⎦⎩⎭∑∑ 22
111E ()()2()()n n
i i i x a n x a x a x a n ==⎧⎫⎡⎤=-+----⎨⎬⎣⎦⎩⎭
∑∑ 22211E ()()2()n i i x a n x a n x a n =⎧⎫⎡⎤=-+---⎨⎬⎣⎦⎩⎭∑ ()22
11E ()E n i i x a n x a n =⎧⎫=---⎨⎬⎩⎭
∑ 其中
()22
E D ()i i x a x σ⎡⎤-==⎣⎦
()
()2
2
2
1
1
11E D D
D ()n
n
i i
i i x a x x x n
n
n
σ
==⎛⎫
⎡⎤-====
⎪⎣
⎦
⎝⎭∑
∑ (4.3.5)
于是
2
2
2
2
11E ()()n s n n
n
σ
σσ-=
-=
(4.3.6)
由此即知2
s 不是2
σ的无偏估计量。若取
∑=--=
-=
n
i i
x x n s
n n s 1
2
2
21
)(1
1
1
(4.3.7)
则易知，2
1s 必为2
σ的无偏估计量。令
x x v i i -=，2
12
ˆs =σ
则有
1
][1
1
ˆ1
2
2
-=
-=
∑=n vv v n n
i i σ
，1
][ˆ-±
=n vv σ (4.3.8)
这就是测量工作中计算观测值中误差的白塞尔公式。
（二）有效性
设n θˆ及n
θ'ˆ都是θ的无偏估计量，若对任一n ),2,1( =n 值，n θˆ的方差小于n θ'ˆ的方差，即 ˆˆD ()D (
)n n θθ'<
(4.3.9) 则称估计量n θˆ比n
θ'ˆ较有效。 例如，子样中的任一个体i x ),,2,1(n i =与子样平均值x 都是母体均值a 的无偏估计量，但由于
2
D ()i x σ=，2
D ()x n
σ
=
可知，当1>n 时，与i x 相比较，子样平均值x 是母体均值a 的较有效估计量。
（三）一致性
如果参数θ的估计量n θˆ，随着子样容量n 的增大而随机收敛于θ，即极限概率满足
()
0ˆl i m =>-∞
→εθθn n P (4.3.10)
的估计量n θˆ为θ的一致性估计量，其中ε为任意正数。例如，子样平均值x 即为母体均值a 的一致性估计量，此时2
D ()x n
σ
=
。利用契比雪夫不等式*
，即得
()0lim 2
2
=≤
≥-∞
→n
a x P n εσ
ε
这就证明了子样平均值x 即为母体均值a 的一致性估计量。
同样地，也可证明，子样方差2
s 及22
11
s n n s -=
，都是母体方差2
σ的一致性估计量。
三、最小二乘原理
在生产实践中，经常会遇到利用一组观测数据来估计某些未知参数的问题。例如，一个作匀速
直线运动的质点在时刻τ的位置是y ~
，可用如下的线性函数来描述： τb a y ~~~+=
其中a ~是质点在0=τ时刻的初始位置，b ~是匀速直线运动的速度，它们是待估计的未知参数，可见
*
契比雪夫不等式为：()2
2ε
σε≤
≥-a x P （ε为任意正数）
这类问题为线性参数估计问题。对于这一问题，如果观测没有误差，则只要在两个不同时刻1τ、2
τ观测出质点的位置1~y 、2~y ，建立两个方程，就可以解出a ~和b ~了。但是观测是存在误差的，即观测的不是真位置y ~
，而是带有误差的观测值y 。以估值代替真值，即v y y +=ˆ，v 是观测值的最或然改正数。于是有
τb a
v y ˆˆ+=+ 为了求得a ˆ和b ˆ，在不同时刻n τττ,,,21 测定其位置，得到一组观测值n
y y y ,,,21 ，这时由上式可得到
i
i i y b a v -+=τˆˆ，),2,1(n i = 令
⎪⎪⎪⎪⎪⎭⎫
⎝⎛=n
v v v 2
1
V ，⎪⎪⎪⎪⎪⎭⎫ ⎝⎛=n y y y 21L ，⎪⎪⎪⎪⎪⎭⎫ ⎝⎛=n y y y ˆˆˆˆ21 L ，⎪⎪
⎪⎪⎪
⎭
⎫
⎝
⎛=n τττ11
11
21 B ，⎪⎪⎭⎫ ⎝⎛=b a ˆˆˆX 则有
L X
V -=ˆB 这就是间接平差的函数模型。观测值向量的随机模型为
1
2020-==P
Q D LL σσ
最后按照最小二乘原理要求
min T
=V V P
进行平差问题的解算。
从以上的推导中可以看出，只要是线性参数估计的问题，则不论观测值属于何种统计分布，都可以按最小二乘原理进行参数估计，因此，这种估计方法在实际中被广泛地应用。
四、最小二乘原理与极大似然估计
一般情况下，测量中的观测值是服从正态分布的随机变量，最小二乘原理可用数理统计中的最大似然法来解释，两种估计准则的估值相同。
设观测值向量和其估值向量为
⎪⎪
⎪
⎪⎪
⎭⎫
⎝⎛=n
L L L 2
1
L ， ⎪⎪⎪⎪⎪⎭
⎫ ⎝⎛=n L L L ˆˆˆˆ21 L 最小二乘原理即要求估值向量与观测值向量之差
L L V -=⎥⎥⎥⎥⎦
⎤⎢⎢⎢⎢⎣⎡=
ˆ2
1n v v v
满足
min T
=V V P (4.3.11)
按最小二乘原理求出的估值称最或然值，又称平差值。相应观测值的改正数向量V 称最或然改正数向量，也称残差向量。
下面从最大或然法出发，推导最小二乘原理
设某一个量的n 个独立非等精度观测结果为n L L L ,,,21 ，设观测值服从正态分布，并以中
误差i σ
ˆ代替均方差i σ、以估值L ˆ代替E ()L ，组成或然函数为
m a x )d (ˆ2)ˆ(e x p )
2(1
1
2
21
=⎪⎭
⎪⎬⎫⎪⎩⎪
⎨⎧--
∑
∏
==n
n
i i i n
i i
n
L L L σσπ (4.3.12) 欲使上式取得最大值，只需满足
max ˆ2)ˆ(exp 1
2
2=⎪⎭
⎪
⎬⎫⎪⎩
⎪
⎨⎧--
∑
=n
i i i L L σ 也即
min ˆ2)ˆ(1
22
=-∑
=n
i i
i L L σ
将上式乘以常数2
0ˆ2σ
，对求最小值无影响，于是又得 min )ˆ(ˆ
ˆ1
22
2
0=-∑=n
i i i
L
L σσ
根据观测值权的定义
2
20ˆˆi
i p σ
σ=
(4.3.13)
则有
min 2
1
=∑
=i n
i i v p (4.3.14)
或记为
min ][=pvv (4.3.15)
以矩阵符号表示，即（4.3.11）式。此时，权阵为
()1
2
diag n P p p p =
(4.3.16)
上述仅是就一个未知量时的情况。当被观测值非仅一个量时，则应取多维随机变量即随机向量，则观测值向量L 的正态分布密度函数是
⎪⎭
⎫ ⎝⎛-=
-ΔΔ1T 2121exp )2(1),,,(LL LL
D D n
n L L L f π
其中
111222
E ()E ()[()]E ()n n n E -∆⎛⎫⎛⎫ ⎪ ⎪-∆
⎪ ⎪=--=-= ⎪ ⎪ ⎪ ⎪-∆⎝⎭⎝⎭
L L L L ΔL L L L 且
()()T T
E E ()E ()E ()⎡⎤=--=⎣⎦
LL D L L L L ΔΔ
⎪⎪⎪⎪
⎪⎭
⎫
⎝⎛=22
1
222
2111221n n n n n σσσσσ
σσσσ
根据权与相关权的定义
22
0i
i p σ
σ=
，ij
ij p σσ2
=
（j i ≠）
这里2
0σ为任意正值。那么观测向量的协方差阵是
1121222121220
001
2
111111111n
n n n n p p p p p p p p p σσσ-⎛⎫ ⎪ ⎪ ⎪ ⎪
=== ⎪ ⎪
⎪ ⎪ ⎪⎝
⎭
L L
D Q P
于是
1
2
1
222111211
20111111111--⎪⎪⎪⎪⎪⎪⎪⎪⎭
⎫ ⎝
⎛
==n n n n
n p p p p p p p p p
LL
D P σ
在实际应用中，一般是以估值代替理论值，即ˆE ()→L L 、2020ˆσσ→、120ˆˆ-=P
D LL σ，这样观测值向量L 的正态分布密度函数是
⎪⎪⎭
⎫ ⎝⎛-=
V V P D LL
T
20
21ˆ21exp ˆ
)2(1
),,,(σπn n L L L f 上式就是观测值估值向量L
ˆ的或然函数。显然当此式取得最大值时，有 min T
=V V P (4.3.17)
这与前边就一个随机量时的情形是一完全样的，但这里代表的是相关观测值的最小二乘原理。由此可见，当观测值服从正态分布时，最小二乘原理与参数估计中的最大似然法是一致的。
当各个观测量间相互独立时，有
E ()E ()E ()0ij i j i j σ=∆∆=∆∆=
此时
()2
2
2
1
2
n diag σσσ=L L D
，()21
01
2
diag n p p p σ-==LL P D
将上式代入（4.3.17）式，即可得出在对多个物理量观测量的情况下，各观测值相互独立时的最小二乘原理，这与前面给出的某一个量的n 个独立非等精度观测时的最小二乘原理（4.3.14）或（4.1.15）式完全一致。
由此可见，当观测值服从正态分布时，最小二乘原理与参数估计中的最大或然法是一致的。最后还需说明，虽然最小二乘原理可以由正态分布为依据导出。但实际上，在科技领域里，最小二乘原理的应用是很广泛的，并不局限于随机变量一定要服从正态分布。
例题〔4.3.１〕：设对某物理量X ~
进行了n 次同精度观测得1
⨯n L ，请按照最小二乘原理求该物理量
的估值。
解答：设该物理量的估值是X
ˆ，则有 i
i L X v -=ˆ，()T
12
n v v v =
V
按照最小二乘原理要求min T
=V V P 。由于是等精度观测，则I P =。为此，将V V T
对X
ˆ取一阶导数，并令其为零，得
021112ˆd d 2ˆd d 1
T T
T
==⎪⎪⎪⎪
⎪
⎭
⎫
⎝⎛==∑=n
i i v X X
V V V
V V 即
0ˆ1
1
=-=∑∑==n
i i
n
i i
L
X
n v
进而可得
][11ˆ1
L n
L n
X
n
i i =
=∑
=
计算完毕。
最小二乘法 设（x 1, y 1 ), (x 2, y 2), …, (x n, y n)是直角平面坐标系下给出 的一组数据，若x 1<x 2<…<x n,我们也可以把这组数据看作 是一个离散的函数。根据观察，如果这组数据图象“很象”一条直线（不是直线），我们的问题是确定一条直线y = bx +a ,使得它能"最好"的反映出这组数据的变化。 最小二乘法是处理各种观测数据进行测量平差的一种基本方法。 如果以不同精度多次观测一个或多个未知量，为了求定各未知量的最可靠值，各观测量必须加改正数，使其各改正数的平方乘以观测值的权数的总和为最小。因此称最小二乘法。所谓“权”就是表示观测结果质量相对可靠程度的一种权衡值。 法国数学家勒让德于1806年首次发表最小二乘理论。事实上，德国的高斯于1794年已经应用这一理论推算了谷神星的轨道，但迟至1809年才正式发表。此后他又提出平差三角网的理论，拟定了解法方程式的方法等。为利用最小二乘法测量平差奠定了基础。 最小二乘法也是数理统计中一种常用的方法，在工业技术和其他科学研究中有广泛应用。 在我们研究两个变量(x, y)之间的相互关系时，通常可以得到一系列成对的数据(x1, y1、x2, y2... xm , ym)；将这些数据描绘在x -y直角坐标系中(如图1), 若发现这些点在一条直线附近，可以令这条直线方程如(式1-1)。 Y计= a0 + a1 X (式1-1) 其中：a0、a1 是任意实数 为建立这直线方程就要确定a0和a1，应用《最小二乘法原理》，将实测值Yi与利用(式1-1)计算值(Y计= a0+a1X)的离差(Yi-Y计)的平方和｀〔∑(Yi - Y计)2〕最小为“优化判据”。 令: φ = ∑(Yi - Y计)2 (式1-2) 把(式1-1)代入(式1-2)中得: φ = ∑(Yi - a0 - a1 Xi)2 (式1-3) 当∑(Yi-Y计)平方最小时，可用函数φ 对a0、a1求偏导数，令这两个偏导数等于零。 (式1-4) (式1-5) (见附图) 亦即： m a0 + (∑Xi ) a1 = ∑Yi (式1-6) (∑Xi ) a0 + (∑Xi2 ) a1 = ∑(Xi, Yi) (式1-7)
国土信息与测绘工程系教案（首页） 班级：课程：误差理论与测量平差授课日期：年月日第周A.提出问题，导入新课 如何处理带有误差的观测数据，即如何建立各种模型，采用何种原则进行数据处理。 第四章平差的数学模型与最小二乘原理 B.授课章节名称：第四章平差数学模型与最小二乘原理 教学要点： 1、观测数、必要观测数、多余观测数 2、函数模型和随机模型 重点： 1、各种函数模型的建立 2、最小二乘原理 难点： 1、针对问题如何建立数学模型 2、最小二乘原理的理论依据 C.教学过程设计 测量平差概述 条件平差法
间接平差法 附有参数的条件平差法 具有约束条件的间接平差法 平差的随机模型 函数模型的线性化 最小二乘原理 作业题布置 第九讲和第十讲 第四章平差的数学模型与最小二乘原理 同学们，我们学习了误差理论的基本概念。那么如何处理观测数据、在处理数据中遵循何种原则？ 本次课程我们将简要地叙述这一问题。 §4.1 测量平差概述 在大地测量中，求定一些点的高程－建立水准网（点间的高差、点的高程元素），求定某些点的坐标－建立平面控制网或3维测量网（角度、边长、边的方位角或者点的2维、3维坐标等元素）。 为了测定一个集几何模型，并不需要测定所有元素的大小，只需要知道其中部分元素就可以了，其它元素可通过它们来确定。例如 ?的形状 1、ABC ?的形状和大小 2、ABC 3、水准网 存在以下概念： 1、必要观测次数t（个数和类型）
2、实际观测次数 n 3、多余观测次数 t n r -= §4.2 测量平差的数学模型 在日常生活和科学研究中，时常见到很多模型，一般主要有实物的模拟模型和数学模型。 测量平差的数学模型包括：函数模型和随机模型 一、条件平差法 以条件方程为函数模型的平差方法，称为条件平差法。 在具体测量问题中，实际观测次数 n ，必要观测次数 t ，则多余观测次数 t n r -=，那么可建立t n r -=个条件方程，即： 0)~(=L F i ，),,2,1(r i = 这里 ?????? ? ??=n L L L L ~~~~21 ，??????? ??=n L L L L 21，??????? ?????=?n 21；?+=L L ~ 线性方程的情况下，是 0~1 01=+???r n n r A L A 011=+????r n n r W A ，)(1 011????+=r n n r r A L A W 条件平差的自由读是多余观测数t n r -=，即条件方程的个数。 二、间接平差法 选择几何模型中t 个独立量为平差的参数，将每一个观测量表达成所选参数的函数，即列出n 个这种函数关系式，以此为平差的函数模型，称为间接平差法，又称为参数平差法。 在具体测量问题中，实际观测次数 n ，必要观测次数 t ，则多余观测次数 t n r -=。选择t 个函数独立的参数)~,,~,~(21t X X X 后，可有 )~(~1X F L n =? 这里
开题报告 信息与计算科学 浅谈最小二乘法的原理及其应用 一、综述本课题国内外研究动态, 说明选题的依据和意义 最小二乘法（Least Square Method ）是提供“观测组合”主要工具之一, 它依据对某事件的大量观测而获得“最佳”结果或“最可能”表现形式. 如已知两变量为线性关系y a bx =+, 对其进行(2)n n >次观测而获得n 对数据. 若将这n 对数据代入方程求解,a b 的值则无确定解, 而最小二乘法提供了一个求解方法, 其基本思想是寻找“最接近”这n 个观测点的直线. 最小二乘法创立与十九世纪初, 是当时最重要的统计方法, 在长期的发展中, 人们一直处于不断的研究中, 在传统最小二乘法的基础上, 出现了许多更为科学先进的方法, 如移动最小二乘法、加权最小二乘法、偏最小二乘法、模糊最小二乘法和全最小二乘法等, 使得最小二乘法在参数估计、系统辨识以及预测、预报等纵多领域都有着广泛的应用. 相关回归分析、方差分析和线性模型理论等数理统计学的几大分支都以最小二乘法为理论基础, 所以最小二乘法被称之为数理统计学的灵魂. 正如美国统计学家斯蒂格勒（S. M. Stigler ）所说, “最小二乘法之于数理统计学犹如微积分之于数学”. 因此对最小二乘法的研究就显得意义重大. 国内外的学者们一直在对传统最小二乘法做进一步的研究. 勒让德（A. M. Legender ）于1805年发表了论著《计算彗星轨道的新方法》, 在书中勒让德描述了最小二乘法的思想、具体做法及其优点, 他认为: 赋予误差的平方和为极小, 则意味着在这些误差间建立了一种均衡性, 它阻止了极端情形所施加的过分影响. 1809年高斯（C. F. Gauss ）在著作《天体沿圆锥截面围绕太阳运动的理论》中发表有关最小二乘法的理论, 随后在1826年的著作中阐述了最小二乘法的全部内容. 统计学者对最小二乘法做了进一步的研究探讨, 1970年, 由霍尔（A. E. Horel ）和肯纳德（R. W. Kennard ）提出 的岭估计（Ridge Estimate ）, 用()()11?n i i i k S kI x y β -==+∑取代?β, 有效的降低了原方法的病态性.
测量平差 由于测量仪器的精度不完善和人为因素及外界条件的影响，测量误差总是不可避免的。为了提高成果的质量，处理好这些测量中存在的误差问题，观测值的个数往往要多于确定未知量所必须观测的个数，也就是要进行多余观测。有了多余观测，势必在观测结果之间产生矛盾，测量平差的目的就在于消除这些矛盾而求得观测量的最可靠结果并评定测量成果的精度。测量平差采用的原理就是“最小二乘法”。 测量平差是德国数学家高斯于1821～1823年在汉诺威弧度测量的三角网平差中首次应用，以后经过许多科学家的不断完善，得到发展，测量平差已成为测绘学中很重要的、内容丰富的基础理论与数据处理技术之一。 最小二乘法与数学模型 最小二乘法 在我们研究两个变量（x，y）之间的相互关系时，通常可以得到一系列成对的数据（x1，y1、x2，y2……x m，y m）；将这些数据描绘在x-y直角座标系中（如图1），若发现这些点在一条直线附近，可以令这条直线方程如式（1-1）。 Y计=a0+a1X （1-1） 其中：a0、a1是任意实数 为建立这直线方程就要确定a0和a1，应用《最小二乘法原理》，将实 测值Y i与利用式（1-1）计算值Y计=a0+a1X的离差Y i-Y计的平方和∑（Y i-Y 2最小为“优化判据”。 计） 令：φ=∑（Y i-Y计）2（1-2） 把式（1-1）代入式（1-2）中得： φ=∑（Y i-a0-a1X i）2（1-3） 当∑（Y i-Y计）平方最小时，可用函数φ对a0、a1求偏导数，令这两 个偏导数等于零。 （1-4） （1-5）亦即：ma0+（∑X i）a1=∑Y i（1-6）（∑X i）a0+（∑X i2）a1=∑（X i，Y i）（1-7）得到两个关于a0、a1为未知数的两个方程组，解这两个方程组得出： a0=（∑Y i）/m-a1（∑X i）/m （1-8） a1=［∑X i Y i-（∑X i∑Y i）/m］/［∑X i2-（∑X i）2/m］（1-9）这时把a0、a1代入式（1-1）中，此时的式（1-1）就是我们回归的元线性方程即：数学模型。 在回归过程中，回归的关联式是不可能全部通过每个回归数据点（x1，y1、x2，y2……x m，y m）的，为了判断关联式的好坏，可借助相关系数“R”，统计量“F”，剩余标准偏差“S”进行判断；“R”越趋近于1越好；“F”的绝对值越大越好；“S”越趋近于0越好。 R = [∑X i Y i - m (∑X i/ m)(∑Y i/ m)]/ SQR{[∑X i2 - m (∑X i / m)2][∑Y i2 - m (∑Y i / m)2]} （1-10）在式（1-10）中，m为样本容量，即实验次数；X i、Y i分别任意一组实验X、Y的数值。 最小三乘法 当研究实际中两个变量（x，y）之间的相互关系时，也可得到一系列成对的数据（x1，y1、x2，y2……x m，y m）；将这些数据描绘在x-y直角座标系（如图2）中，发现这些点在一条曲线附近，假设这条曲线的
教学内容： 一、平差函数模型的方程式数量与未知数数量及解方程存在的问题 1．平差函数模型的方程式数量与未知数数量 通过前面的论述可知，如果只对几何模型中的必要元素进行观测，而没有多余观测，则在观测值之间不可能产生任何函数关系式，也不存在平差问题。只有在有了多余观测的情况下，才会产生平差问题。 例如为确定一个三角形的大小和形状，必要观测数为t=3，如果实际观测了一边三角（n=4）,则存在一个多余观测（r=n-t=1）。现以一边和其中任意两个角作为一个组合来确定三角形的大小和形状，则有三种组合，由于观测值不可避免地含有偶然误差，三种组合所计算的结果将出现微小差别，这说明在具有多余观测的情况下，将无法唯一的确定模型的解。 从函数模型来考虑，由于存在一个多余观测，三个内角真值之间就存在一个条件方程，即： 考虑到，代入上式得 （2-4-1） 式中 （2-4-2） 称为条件方程的闭合差或常数项，它是可以根据观测值计算出来的。由于观测值的真值不知道，所以真误差是未知量。 2．存在的问题及解决办法---引入最小二乘原理 要根据（2-4-1）式确定真误差的值，显然其解是不唯一的。要确定满足函数模型的唯一的一组解，如果不另外附加一定的约束条件，那是不可能的。到底应该采用什么样的约束条件，才能使模型得到一组具有最佳性质的解呢？ 在测量工作及其它科学工程领域，应用最早也最广泛的就是所谓的“最小二乘准则”： (2-4-3) 二、最小二乘原理含义及应用方法说明 0180~~~321 =-++L L L ?+=L L ~0321=-?+?+?W )180(321-++-=L L L W i ?min =??=ΦP T
最小二乘法的原理及证明 最小二乘法是一种常用的数据拟合方法，它的本质是通过寻找最小化残差平方和的参数组合进行数据拟合。在现实生活中，很多实际问题都可以通过最小二乘法来求解，如线性回归、曲线拟合、方程求解等。本文将介绍最小二乘法的原理及证明。 一、最小二乘法的原理 最小二乘法是一种基于误差最小化的思想进行模型参数求解的方法。对于含有n个数据点的模型，其最小二乘法的表示形式为： $min[\sum_{i=1}^n(y_i-f(x_i))^2]$ 其中，$y_i$为第i个数据点的观测值，$f(x_i)$为模型在$x_i$处的预测值。最小二乘法的目的是寻找一个最优的模型参数集合，使得预测值与观测值之间的误差平方和最小。 以线性回归为例，线性回归模型的基本形式为： $y=\beta_0+\beta_1x+\epsilon$ 其中，$\beta_0$和$\beta_1$为线性回归的系数，$\epsilon$为误差项。通过最小二乘法，我们需要求解$\beta_0$和$\beta_1$，使得预测值与真实值之间的残差平方和最小。
在实际应用中，最小二乘法可以通过求解模型参数的偏导数，进而得 到参数的估计值。同时，最小二乘法还可以通过矩阵运算的形式进行 求解，这种方法称为矩阵最小二乘法。 二、最小二乘法的证明 最小二乘法的原理可以通过数学证明来得到。在数学推导中，我们需 要利用概率论和统计学的相关知识。 1、最小二乘法的基本假设 首先，我们需要对最小二乘法做出一些假设。最小二乘法的假设包括：(1)数据点满足线性关系；(2)误差项满足高斯分布；(3)误差项具有同方 差性；(4)误差项之间相互独立。 在这些假设的基础上，我们可以得出以$X$为自变量，$Y$为因变量的 线性模型： $Y=\beta_0+\beta_1X+\epsilon$ 其中，$\beta_0$和$\beta_1$为线性模型的系数，$\epsilon$为误差项。 我们需要利用概率论和统计学的方法，通过参数的似然函数来求解模 型的系数。
平差计算的基本原理和方法 平差计算是一种广泛应用于测量和工程领域的数学方法，用于解决数据观测值 中的误差和偏差问题。平差计算的基本原理是通过最小二乘法，以最小化观测值与计算值之间的残差平方和来确定最优解。本文将介绍平差计算的基本原理和常用方法。 一、平差的概念和意义 平差是指将不准确或不完整的观测数据进行修正和处理，使其达到最优解或近 似最优解的过程。在测量和工程领域中，由于各种误差和偏差的存在，观测数据往往具有一定的不确定性，因此需要进行平差计算来提高数据的精度和可靠性。平差计算的结果可以用来进行工程设计、地图测绘、导航定位等各种应用。 二、平差计算的基本原理 平差计算的基本原理是基于最小二乘法。最小二乘法的核心思想是将观测值与 计算值之间的残差平方和最小化，通过调整未知量的值来逼近最优解。残差是指观测值与计算值之间的差异，而平差计算的目标就是使这些差异最小化。 平差计算的基本模型可以表示为以下方程组： A * x = L 其中，A为系数矩阵，x为未知量向量，L为观测值向量。通过解这个方程组，可以求得最优的未知量估计值x。 最小二乘法的优点是可以利用观测数据中的权重信息，将准确性较高的观测数 据给予更大的权重，进一步提高计算结果的准确性。此外，最小二乘法还具有数学上的良好性质，可以通过数学推导和求解得到闭式解，而不需要采用迭代方法。三、平差计算的常用方法
1. 三角形平差法 三角形平差法是一种常用的平差计算方法，适用于测量角度和距离的观测数据。该方法基于三角形的相似性原理，通过解析几何和三角函数等方法，将观测数据转化为方程组，并利用最小二乘法求解未知量。 2. 存储器平差法 存储器平差法是一种适用于大规模观测数据的平差计算方法。该方法通过将观 测值按照一定规律存储在存储器中，然后通过循环迭代的方式逐步修正观测值和未知量的估计值，直到最终收敛。 3. 参数平差法 参数平差法是一种广泛应用于工程测量领域的平差计算方法。该方法将未知量 表示为参数的形式，并利用最小二乘法求解最优的参数估计值。参数平差法不仅可以处理观测数据的误差，还可以处理系统性偏差和外部因素的影响。 4. 先验平差法 先验平差法是一种根据先验信息进行平差计算的方法。该方法通过引入先验观 测数据或先验知识，对未知量进行约束和修正，从而提高平差结果的准确性和可靠性。 四、平差计算的应用 平差计算在测量和工程领域具有广泛的应用。例如，在地图测绘中，通过平差 计算可以提高地图的精度和一致性，使得地图上的各个点之间的距离和方位关系更加准确。在建筑工程中，通过平差计算可以控制建筑物的位置和形状，确保工程的精度和稳定性。此外，平差计算还应用于导航定位、物理测量、地下管道探测等各种领域。
测绘技术中的最小二乘平差原理解析 测绘技术作为一门重要的测量科学，广泛应用于土地规划、建筑设计、地质勘 探等领域。而在测绘技术中，最小二乘平差原理是一种重要的数据处理方法。本文将对最小二乘平差原理进行解析，揭示其在测绘技术中的应用和意义。 1. 最小二乘平差原理的概念和基本思想 最小二乘平差原理是指通过对多组观测数据进行加权求和，使得加权残差的平 方和最小。最小二乘平差原理的基本思想是利用观测数据建立数学模型，通过最小化残差来获得最优解。 最小二乘平差原理的核心是建立目标函数，即将观测值与预测值之间的差异最 小化。通过构建目标函数，可以建立数学模型，得到一组准确的测量结果。最小二乘平差原理在测绘技术中具有重要的应用价值。 2. 最小二乘平差原理在测绘技术中的应用 最小二乘平差原理在测绘技术中应用广泛，主要包括以下几个方面： （1）测量数据处理 最小二乘平差原理在测量数据处理中起到关键作用。通过对一系列测量数据进 行加权平差，可以得到更加准确的测量结果。最小二乘平差原理可以根据观测值的精度进行加权处理，避免了测量误差的累积。 （2）测量误差分析 最小二乘平差原理可用于对测量误差进行分析。通过对观测数据进行平差处理，可以得到残差，进而分析测量数据中的误差来源。这对于测绘工作者改进测量方法、提高测量精度具有重要意义。 （3）控制点协调计算
最小二乘平差原理被广泛应用于控制点协调计算。在测绘工程中，控制点的坐 标是基础，直接关系到整个测绘工程的质量。通过最小二乘平差原理进行控制点协调计算，可以提高测量结果的精度，保证工程的准确性。 （4）测图数据处理 最小二乘平差原理在测图数据处理中也有着重要应用。在进行地形图绘制和地 图生成过程中，需要对大量观测数据进行处理和分析。通过最小二乘平差原理，可以实现地图数据精度的提高，并且能够有效地解决地图表达的问题。 3. 最小二乘平差原理的意义和展望 最小二乘平差原理在测绘技术中有着重要的意义。它不仅可以提高测量数据的 准确性，还可以对测量误差进行分析，为工程建设提供可靠的数据支持。最小二乘平差原理的应用还可以推动整个测绘技术的发展和创新。 随着技术的进步和应用领域的不断扩大，最小二乘平差原理在测绘技术中的应 用也将变得更加广泛和深入。未来，我们可以预见，在机器学习、人工智能等领域的影响下，最小二乘平差原理将进一步发挥其优势，为测绘技术带来更多的创新和突破。 总结起来，最小二乘平差原理作为测绘技术中的重要方法，通过对观测数据的 加权平差，可以提高测量结果的准确性。它在测绘技术中扮演着至关重要的角色，不仅能够改进测量方法，提高测量精度，还能够分析和解决测量数据中的误差问题。随着科技的进步，最小二乘平差原理的应用前景也将更加广阔。
最小二乘估计原理 最小二乘估计是一种常用的参数估计方法，它的原理是通过最小化残差平方和来确定模型的参数，从而找到最优的参数估计值。在统计学和经济学等领域，最小二乘估计被广泛应用于回归分析和时间序列分析等计量经济学问题中。 最小二乘估计的基本原理是基于最小化误差平方和来确定参数的方法。在回归分析中，我们通常有一组自变量和一个因变量，目标是通过自变量来准确预测因变量。我们假设因变量与自变量之间存在一种线性关系，并用参数来刻画这种关系。 在最小二乘估计中，我们根据给定的一组样本数据拟合一个线性模型，形式为：Y = β0 + β1X1 + β2X2 + ... + βkXk + ε 其中，Y代表因变量，X1, X2, ..., Xk代表自变量，β0, β1, β2, ..., βk 代表参数，ε表示误差项，即因变量Y的观测值与拟合值之间的差异。 我们的目标是找到最优的参数估计值，即使得误差平方和最小化的参数组合。为了实现这一目标，我们需要制定一个误差平方和的损失函数。 而在最小二乘估计中，我们选择平方误差和作为损失函数，即损失函数为： L(β0, β1, β2, ..., βk) = Σ(Yi - (β0 + β1X1i + β2X2i + ... + βkXki))^2 其中，i代表样本数据的索引，Yi代表第i个样本数据的因变量值，X1i, X2i, ..., Xki
代表第i个样本数据的自变量值。 我们的目标是通过最小化损失函数来找到最优的参数估计值。为了实现这一目标，我们需要对损失函数进行求导，并令其等于零，求得使损失函数最小化的参数。 对损失函数L(β0, β1, β2, ..., βk)进行偏导数求解，得到以下方程组： ∂L/∂β0 = -2Σ(Yi - (β0 + β1X1i + β2X2i + ... + βkXki)) = 0 ∂L/∂β1 = -2ΣX1i(Yi - (β0 + β1X1i + β2X2i + ... + βkXki)) = 0 ... ∂L/∂βk = -2ΣXki(Yi - (β0 + β1X1i + β2X2i + ... + βkXki)) = 0 通过解以上方程组，我们可以得到最优的参数估计值，从而得到最小二乘估计。 此外，最小二乘估计还有一些重要的特性和性质。其中，最小二乘估计具有无偏性、一致性和有效性。 无偏性是指在样本容量趋于无穷的情况下，最小二乘估计的期望值等于真实参数值。一致性是指随着样本容量的增加，最小二乘估计趋于真实参数值。有效性是指最小二乘估计具有最小的方差，即相对于其他估计方法而言，最小二乘估计的波动性最小。 最小二乘估计在实际应用中具有广泛的意义和用途。它不仅可以用于确定线性回
《误差理论与数据处理》课程教学大纲【课程代码】：13319608 【英文译名】：Error Theory and Surveying Adjustment 【适用专业】：地理信息系统【学分数】：4 【总学时数】：64 一、本课程教学目的和课程性质 误差理论与数据处理是地理信息系统专业的工程技术基础必修课之一、通过学习本门课程，使学生能够应用概率和数理统计方法来分析观测数据，采用最小二乘法作为处理观测数据的基本原则，合理计算处理，以得到更 接近真值的结果。在内容上，主要讲解测量平差的基本原理、方法和技能；论述近代测量平差的基本理论与方法，介绍测量数据处理的最新研究成果。 二、本课程的基本要求 通过本门课程的学习,掌握平差课程的任务和研究对象,并很好的掌握 几种主要的平差方法.在了解了近代平差基本理论和最新的研究成果基础上，在后续的课程中灵活应用对数据的处理和误差分析，为以后的工作和 进一步深造打下良好的基础。 三、本课程与其他课程的关系 前修课程:测量学、高等数学、线性代数、概率论与数理统计；后续 课程:GPS原理、摄影测量学、遥感原理与应用。 四、课程内容 《误差理论与数据处理》是研究误差的一门学科，通过学习本门课程，使学生能正确处理测量数据，合理计算处理，以得到理想的结果。本课程 要求：基本知识的掌握，掌握误差的基本概念，不同性质误差的变化规律
及处理方法。权的概念及不等精度测量的数据处理方法，误差的合成及分配，回归、相关等。本课程内容安排如下： 第一章绪论 基本内容：主要介绍有关误差的一些基本概念，观测误差及测量平差 理论研究的对象。属于了解内容。 第二章误差分布及精度指标 环境与资源学院 基本内容：本章节主要介绍有关平差的含义、观测条件、系统误差、 偶然误差的概念。及偶然误差的统计规律性及精度、方差、中误差的概念。重点：掌握概念：观测条件、系统误差、偶然误差； 难点：偶然误差的规律性以及所服从的分布；第三章协方差传播律及 权 基本内容：本章节主要介绍有关协因数传播率的概念及应用领域，使 学生掌握协因数、协因数阵、权阵的概念；掌握协因数传播律的一般形式 与特殊形式权倒数传播律。理解权的作用、定义；掌握如何对水准测量定权； 重点：权的定义；协因数与协因数阵的概念；协因数传播律的含义与 应用；难点：协因数传播律的含义与应用；第四章平差数学模型与最小二 乘原理 基本内容：本章的主要知识点包括平差必要元素、函数独立、必要观 测数、多余观测数、条件方程等概念；平差的数学模型概念；四种基本平
应用于测量平差模型解算的最小二乘法 摘要：任何观测数据总是不可避免地带有误差，为了最大程度地减小观测数据 的误差以降低其对成果质量的影响，人们提出了测量平差这一理论方法。在生产 实践过程中，如何从带有误差的观测值中找到未知量的最佳估值成为了迫切需要 解决的问题。在十八世纪末，高斯首先提出了解决这个问题的方法——最小二乘法。本文将主要介绍最小二乘法在解算平差模型中的应用。 关键字：测量平差模型结算最小二乘法 1.测量平差相关内容 在测量中，测量观测数据产生误差的原因可概括为测量仪器、观测者、外界 条件三个方面。 影响测量结果的观测误差可分为偶然误差、系统误差和粗差三类。对于带有 误差的观测值我们运用测量平差（测量平差即对测量数据建立数学模型求解测量 数据的最佳估值并对结果进行精度评定的理论与方法）进行数学模型的建立。其中，带有偶然误差的观测数据占大多数，本文主要对带有偶然误差的观测值的平 差处理以及数学模型的解算进行讨论。 平差的数学模型包含函数模型和随机模型两部分，函数模型包含四种基本平 差方法即条件平差、附有参数的条件平差、间接平差以及附有限制条件的间接平差。本文将以条件平差（以条件方程为函数模型的平差方法）为例介绍最小二乘法。 首先，条件平差的前提是有多余观测量，多余观测量将决定条件方程式的个数。在测量工程中，想要及时发现粗差和错误，总观测个数 r必须要大于必要观 测数t。当r>t（r>0）时，则可以根据几何模型列出条件方程，得到函数模型未知量的最优估计值。 2.最小二乘法在条件平差中的应用 假如有一如图1所示的水准网，A、B为已知点（视为无误差），HA=13.14m，HB=11.12m，为确定C点及 D点的高程，共观测了四个高差，高差观测值及相 应水准路线的距离为： 通过上面例题可看出条件平差就是在满足r个条件方程的前提下，求改正数 V值。由于观测值的真值未知，因此真误差是未知量，要根据条件方程确定真误 差的值，显然其结果不唯一。如果我们想要确定满足函数方程的唯一解，必须要 有一定的约束条件。而这里的约束条件就是由高斯提出的应用最早也最广泛的 3.结语： 由于测量得到的观测数据总是存在误差，造成最终结果不唯一，而通过最小 二乘原理可以评定所测数据的精度，消除不符合条件的数据，使最终所得结果唯 一且具有很大的可靠性。 平差原理是通过未知量与观测量关系建立模型，利用最小二乘法，求出最或 然改正数以及最或然未知量的过程。随最小二乘法应用不断增多，最小二乘法已
最小二乘法的原理与应用 原理介绍 最小二乘法是一种常见的数学优化方法，广泛应用于各个领域，特别是在统计 学和机器学习中。它的原理是通过最小化误差平方和来拟合观测数据和数学模型之间的差距，从而找到数据背后的真实模型。 最小二乘法的核心思想是，通过找到一个数学模型，使得该模型下的预测值与 实际观测值之间的残差平方和最小化。为了达到这个目标，需要建立一个关于模型参数的误差函数，并对该函数进行求解。最终，通过最小化这个误差函数，找到最佳的模型参数。 应用场景 最小二乘法在各个领域都有广泛的应用。以下是一些常见的应用场景： 1.线性回归分析：最小二乘法用于分析两个或多个变量之间的线性关 系，并用线性模型进行预测。例如，通过身高和体重之间的线性关系，预测一个人的理想体重。 2.时间序列分析：最小二乘法用于预测时间序列数据的未来趋势。通 过对历史数据进行回归分析，可以建立一个时间序列模型，并利用该模型进行未来的预测。 3.信号处理：最小二乘法用于滤波器设计和频谱估计。通过最小化残 差平方和，可以得到一个最佳的滤波器或频谱估计。 4.数据拟合：最小二乘法用于拟合数据到数学模型。例如，在曲线拟 合中，可以通过最小二乘法来找到一个最佳拟合曲线，使得该曲线与实际数据之间的残差最小。 5.优化问题：最小二乘法可用于求解各种优化问题，例如最小化成本、 最大化收益等。通过建立一个优化目标函数，并将其转化为最小二乘法问题，可以找到一个最佳的方案。 最小二乘法的实现步骤 最小二乘法的实现包括以下步骤： 1.确定数学模型：首先需要确定一个数学模型，用于描述观测数据和 待拟合模型之间的关系。
2.建立误差函数：通过数学模型和观测数据，建立一个关于模型参数 的误差函数。通常，误差函数是观测值与模型预测值之间的差异度量。 3.最小化误差函数：利用最小二乘法的原理，对误差函数进行求解， 找到使误差函数最小化的模型参数。 4.验证拟合效果：使用找到的最佳模型参数，通过拟合数据，并与实 际观测值进行比较，验证拟合效果。 5.参数解释性：对于得到的最佳模型参数，进行解释分析，以了解模 型对数据的拟合程度和参数对拟合结果的影响。 总结 最小二乘法是一种常见的数学优化方法，在各个领域都有广泛的应用。通过最小化误差平方和，它能找到数据背后的真实模型，并进行预测和优化。在实际应用中，需要确定数学模型、建立误差函数、最小化误差函数、验证拟合效果和解释模型参数。最小二乘法的应用可以帮助我们分析数据、预测趋势，甚至进行优化等各种任务。通过了解最小二乘法的原理和应用场景，我们可以更好地应用它，解决实际问题。 以上是最小二乘法的原理与应用的介绍。希望通过本文档的阐述，你对最小二乘法有了更深入的理解，并能够在实际问题中应用它。
现代测量平差原理及其模型误差分析 一、现代测量平差原理 （一）最小二乘法 最小二乘法是一种通过最小化测量残差的平方和来求取最优结果的方法。其基本原理是，对于一个测量系统的观测数据，通过建立数学模型来描述测量关系，并在该模型中引入未知参数，然后通过最小化预测值与观测值之差的平方和来求取最优的未知参数估计值。最小二乘法是一种常用的参数估计方法，其具有合理性、稳定性和统计优良性的特点。在实际测量中，最小二乘法可以用于网络平差、方位角平差、高程平差等各种测量平差。 （二）加权最小二乘法 加权最小二乘法是在最小二乘法的基础上引入权重因子，用于修正观测数据的精度不均匀性。在实际测量中，不同的观测数据具有不同的可信度和精度水平，因此需要对其进行加权处理。通过引入权重因子，可以对精度较高的数据赋予较大的权重，从而有效地提高整体平差结果的精度。 在测量平差中，模型误差是指由于建立的数学模型无法完全精确地描述实际测量系统而产生的误差。为了提高平差的准确性，需要对模型误差进行分析和控制。 （一）理论误差与观测误差 在测量平差中，模型误差可以分为理论误差和观测误差两部分。理论误差是指由于数学模型的简化、近似或假设所引入的误差，通常在建立模型时可以通过数学推导和模型检验来评估。观测误差是指由于测量仪器、
观测操作和环境等因素所引起的误差，具有随机性和系统性两种特征，通常通过实际观测和数据处理来估计。 （二）误差分析与控制 误差控制是指通过优化观测设计、改进仪器设备、改进观测方法和提高数据处理等手段，减小观测误差和理论误差，并降低其对最终平差结果的影响。常用的误差控制方法包括增加观测次数、提高观测仪器的精度和敏感度、加强仪器校准和检查、改进观测方法和数据处理算法等。
最小二乘法综述及算例 一最小二乘法的历史简介 1801年，意大利天文学家朱赛普·皮亚齐发现了第一颗小行星谷神星。经过40天的跟踪观测后，由于谷神星运行至太阳背后，使得皮亚齐失去了谷神星的位置。随后全世界的科学家利用皮亚齐的观测数据开始寻找谷神星，但是根据大多数人计算的结果来寻找谷神星都没有结果。时年24岁的高斯也计算了谷神星的轨道。奥地利天文学家海因里希·奥尔伯斯根据高斯计算出来的轨道重新发现了谷神星。 高斯使用的最小二乘法的方法发表于1809年他的著作《天体运动论》中。 经过两百余年后，最小二乘法已广泛应用与科学实验和工程技术中，随着现代电子计算机的普及与发展，这个方法更加显示出其强大的生命力。 二最小二乘法原理 最小二乘法的基本原理是：成对等精度测得的一组数据),...,2,1(,n i y x i i =，是找出一条最佳的拟合曲线，似的这条曲线上的个点的值与测量值的差的平方和在所有拟合曲线中最小。 设物理量y 与1个变量l x x x ,...,2,1间的依赖关系式为:)(,...,1,0;,...,2,1n l a a a x x x f y =。 其中n a a a ,...,1,0是n +l 个待定参数,记()2 1 ∑=- = m i i i y v s 其中 是测量值, 是由己求 得的n a a a ,...,1,0以及实验点),...,2,1)(,...,(;,2,1m i v x x x i il i i =得出的函数值 )(,...,1,0;,...,2,1n il i i a a a x x x f y =。 在设计实验时, 为了减小误差, 常进行多点测量, 使方程式个数大于待定参数的个数, 此时构成的方程组称为矛盾方程组。通过最小二乘法转化后的方程组称为正规方程组(此时方程式的个数与待定参数的个数相等) 。我们可以通过正规方程组求出a 最小二乘法又称曲线拟合, 所谓“ 拟合” 即不要求所作的曲线完全通过所有的数据点, 只要求所得的曲线能反映数据的基本趋势。 三曲线拟合 曲线拟合的几何解释: 求一条曲线, 使数据点均在离此曲线的上方或下方不远处。 （1）一元线性拟合 设变量y 与x 成线性关系x a a y 10+=,先已知m 个实验点),...,2,1(,m i v x i i =，求两个未知参数1,0a a 。 令() 2 1 10∑=--=m i i i x a a y s ，则1,0a a 应满足 1,0,0==∂∂i a s i 。 即 i v i v
最小二乘估计理论及算法在测量平差中的应用 一、最小二乘估计理论及算法 从整体上考虑近似函数同所给数据点(i=0,1,…,m)误差 (i=0,1,…,m) (i=0,1,…,m)绝对值的最大值，即误差 向量 的∞—范数；二是误差绝对值的和 ，即误差向量r 的1—范 数；三是误差平方和的算术平方根，即误差向量r 的2—范数；前两种方法简单、自然，但不便于微分运算 ，后一种方法相当于考虑 2—范数的平方，因此在曲线拟合中常采用误差平方和来 度量误差(i=0，1，…，m)的整 体大小。 首先介绍一些基本概念 （1）残差 设 是被解释变量的第 次样本观测值， 是相应的第 次样本估 计值。将 与 之间的偏差记作 （1） 称 为第 次样本观测值的残差。 （2）最小二乘准则 使全部样本观测值的残差平方和达到最小，即 来确定未知参数 估计量的准则，称为最小二乘准则。 （3）最小二乘估计量 未知参数 的最小二乘估计量 的计算公式为 （2） 最小二乘估计量的推导 设残差平方和 其中 )(x p ),(i i y x i i i y x p r -=)(i i i y x p r -=)(i m i r ≤≤0max T m r r r r ),,(10 =∑=m i i r ∑=m i i r 02 ∑=m i i r 02 i r
它是阶残差列向量。 为了得到最小二乘估计量，我们对上式进行极小化 移项后，得正规方程组 根据基本假定5.，存在，用左乘正规方程组两边，得 的最小二乘估计量式 （4）的无偏估计量 随机误差项的方差的无偏估计量为 （3） 称作回归估计的均方误差，而 （4） 称作回归估计的标准误差。 （5）的方差 （5） 其中，，于是每个的方差为 ，而是矩阵对角线上对应的第个元素，。 （6）方差的估计量 方差的估计量为 （6）则每个方差的估计量为 ，（7）标准差的估计量为 ，（8）
最小二乘法在数学模型建立与检验中的应用 信息与计算科学专业2008级周建勤 摘要：本文主要研究了最小二乘法在建立数学模型中的参数学模型中的参数估计数估计， 模型检验中的应用。通过给出最小二乘法在Matlab中的代码计算模型参数，误差精确度，并给出检验模型是否具有多重共线，异方差性，序列相关性方法。 关键词：最小二乘法；参数估计；误差精确度；多重共线性；异方差；自相关。Application of Least-Square Method on establish and test mathematical model Zhou Jianqin ,Grade 2008,Information and Computing Science Abstract: In this text we main consider a pplication of Least-Square Method in use of p arameter estimation and model checking in mathematical models. By giving the least squares method's code in Matlab to find the m odel Heteroscedasticity, autocorrelation method parameters,Error accuracy and Test whether the model with multiple collinear heteroscedasticity, autocorrelation method. Keywords: least squares method; parameter estimation; error accuracy; multicollinearity; heteroscedasticity; autocorrelation. 背景介绍 最小二乘方法最早是有高斯提出的，他用这种方法解决了天文学方面的问题，特别是确定了某些行星和彗星的天体轨迹。最小二乘法普遍适用于各个科学领域，它在解决实际问题中发挥了重要的作用。它在生产实践、科学实验及经济活动中均有广泛应用。 近半个多世纪以来，随着计算机技术的迅速发展，数学的应用不仅在工程技术、自然科学等领域发挥着越来越重要的作用，而且以空前的广度和深度向经济、管理、金融、生物、医学、环境、地质、人口、交通等新的领域渗透，所谓数学技术已经成为当代高新技术的重要组成部分。数学模型是一种模拟，是用数学符号、数学式子、程序、图形等对实际课题本质属性的抽象而又简洁的刻划，它或能解释某些客观现象，或能预测未来的发展规律，或能为控制某一现象的发展提供某种意义下的最优策略或较好策略。数学模型一般并非现实问题的直接翻版，它的建立常常既需要人们对现实问题深入细微的观察和分析，又需要人们灵活
第四章 最小二乘法与组合测量 §1 概述 最小二乘法是用于数据处理和误差估计中的一个很得力的数学工具。 对于从 事精密科学实验的人们来说， 应用最小乘法来解决一些实际问题， 仍是目前必不 可少的手段。 例如，取重复测量数据的算术平均值作为测量的结果， 就是依据了 使残差的平方和为最小的原则， 又如，在本章将要用最小二乘法来解决一类组合 测量的问题。 另外，常遇到用实验方法来拟合经验公式， 这是后面一章回归分析 方法的内容，它也是以最小二乘法原理为基础。 最小二乘法的发展已经经历了 200 多年的历史，它最先起源于天文和大地测 量的需要， 其后在许多科学领域里获得了广泛应用， 特别是近代矩阵理论与电子 计算机相结合，使最小二乘法不断地发展而久盛不衰。 本章只介绍经典的最小二乘法及其在组合测量中的一些简单的应用， 一些深 入的内容可参阅专门的书籍和文献。 §2 最小二乘法原理 最小二乘法的产生是为了解决从一组测量值中寻求最可信赖值的问题。 对某 量 x 测 量一组数据 x 1,x 2, ,x n ，假设数据中不存在系统误差和粗大误差，相互独 立，服从正态分布，它们的标准偏差依次为： 1, 2, n 记最可信赖值为 x ，相 应的残差 v i x i x 。测值落入 (x i ,x i dx)的概率。 根据概率乘法定理，测量 x 1,x 2, ,x n 同时出现的概率为 P i 2 i 2 exp( 2v i i 2 )dx
1 1 v P P i 1 n exp[ 1 ( i )2 ](dx)n i i ( 2 )n 2 i i 显然，最可信赖值应使出现的概率 P 为最大，即使上式中页指数中的因子达 最小，即 2 v i i 2 Min i i 2 2 [ wvv] w i v i Min 再用微分法，得最可信赖值 x n w i x i i1 x n w i i1 这里为了与概率符号区别，以 i 表示权因子。 特别是等权测量条件下，有： [vv] v i 2 Min 以上最可信赖值是在残差平方和或加权残差平方和为最小的意义下求得的， 称之为最小二乘法原理。它是以最小二乘方而得名。 为从一组测量数据中求得最佳结果，还可使用其它原理 例如 (1) 最小绝对残差和法： v i Min (2) 最小最大残差法： max v i Min (3) 最小广义权差法： maxv i min v i Min 以上方法随着电子计算机的应用才逐渐引起注意，但最小二乘法便于解析， 权因子： w i o 2 即权因子 w i ∝ 1 2 ， 则 i i 2 即加权算术平均值