(整理)数值计算_第6章 曲线拟合的最小二乘法
- 格式:doc
- 大小:596.00 KB
- 文档页数:31
第6章曲线拟合的最小二乘法
6.1 拟合曲线
通过观察或测量得到一组离散数据序列,当所得数据比较准确时,可构造插值函数逼近客观存在的函数,构造的原则是要求插值函数通过这些数据点,即。此时,序列与
是相等的。
如果数据序列,含有不可避免的误差(或称“噪音”),如图6.1
所示;如果数据序列无法同时满足某特定函数,如图6.2所示,那么,只能要求所做逼近函数最优地靠近样点,即向量与的误差或距离最小。按与之间误差最小原则作为“最优”标准构造的逼近函数,称为拟合函数。
图6.1 含有“噪声”的数据
图6.2 一条直线公路与多个景点
插值和拟合是构造逼近函数的两种方法。插值的目标是要插值函数尽量靠近离散点;拟合的目标是要离散点尽量靠近拟合函数。
向量与之间的误差或距离有各种不同的定义方法。例如:
用各点误差绝对值的和表示:
用各点误差按模的最大值表示:
用各点误差的平方和表示:
或(6.1)
其中称为均方误差,由于计算均方误差的最小值的方法容易实现而被广泛采用。按
均方误差达到极小构造拟合曲线的方法称为最小二乘法。本章主要讲述用最小二乘法构造拟合曲线的方法。
在运筹学、统计学、逼近论和控制论中,最小二乘法都是很重要的求解方法。例如,它是统计学中估计回归参数的最基本方法。
关于最小二乘法的发明权,在数学史的研究中尚未定论。有材料表明高斯和勒让德分别独立地提出这种方法。勒让德是在1805年第一次公开发表关于最小二乘法的论文,这时高斯指出,他早在1795年之前就使用了这种方法。但数学史研究者只找到了高斯约在1803年之前使用了这种方法的证据。
在实际问题中,怎样由测量的数据设计和确定“最贴近”的拟合曲线?关键在选择适当的拟合曲线类型,有时根据专业知识和工作经验即可确定拟合曲线类型;在对拟合曲线一无所知的情况下,不妨先绘制数据的粗略图形,或许从中观测出拟合曲线的类型;更一般地,对数据进行多种曲线类型的拟合,并计算均方误差,用数学实验的方法找出在最小二乘法意义下的误差最小的拟合函数。
例如,某风景区要在已有的景点之间修一条规格较高的主干路,景点与主干路之间由各具特色的支路联接。设景点的坐标为点列;设主干路为一条直线
,即拟合函数是一条直线。通过计算均方误差最小值而确定直线方程(见图6.2)。
6.2线性拟合和二次拟合函数
线性拟合
给定一组数据,做拟合直线,均方误差为
(6.2)
是二元函数,的极小值要满足
整理得到拟合曲线满足的方程:
(6.3)
或
称式(6.3)为拟合曲线的法方程。用消元法或克莱姆法则解出方程:
a=
=
例6.1下表为P. Sale及R. Dybdall在某处作的鱼类抽样调查,表中为鱼的数量,为鱼的种类。请用线性函数拟合鱼的数量和种类的函数关系。
解:设拟合直线,并计算得下表:
将数据代入法方程组(6.3)中,得到:
解方程得:= 8.2084,= 0.1795
拟合直线为:= 8.2084 + 0.1795
二次拟合函数
给定数据序列,用二次多项式函数拟合这组数据。
设,作出拟合函数与数据序列的均方误差:
(6.4)
由多元函数的极值原理,的极小值满足
整理得二次多项式函数拟合的法方程:
(6.5)
解此方程得到在均方误差最小意义下的拟合函数。方程组(6.5)称为多项式拟合的法方程,法方程的系数矩阵是对称的。当拟保多项式阶时,法方程的系数矩阵是病态的,在计算中要用双精度或一些特殊算法以保护解的准确性。
例6.2给定一组数据,如下表。用二次多项式函数拟合的这组数据。
解:设,由计算得下表:
将数据代入式(6.5),相应的法方程为:
解方程得:=0.66667,=-1.39286,=-0.13095 ∴= 0.66667-1.39286-0.13095
拟合曲线的均方误差:=3.09524 结果见图6.3。
图6.3 拟合曲线与数据序
6.3解矛盾方程组
在6.2节中用最小二乘法构造拟合函数,本节中用最小二乘法求解线性矛盾方程组的方法构造拟合函数。
给定数据序列,作拟合多项式,如果要求过这些点,那么有矛盾方程组:
即:
(6.6)
我们作一辅助函数
这是自变量为的多元函数,要使达到最小值,采用多元函数求权值的
方法,对每一个自变量的偏导数为0。
整理成以为未知数的线性方程组
整理成矩阵形式,其中:
这是一个的对称方程组,称为法方程。只要非奇异,就可以得出唯一解。这就是矛盾方程组的最小二乘解。
有什么快捷的方法来求法方程的解?
把矛盾方程组(6.6)写成矩阵形式,其中
容易验证,法方程就是。
例如,拟合直线的矛盾方程组的形式如下:
化简得到与(6.3)相同的法方程:
在线性代数中,我们知道,关于方程组,若秩秩,则方程组无解,这时方程组称为矛盾方程组。在数值代数中对矛盾方程计算的是在均方误差
极小意义下的解,也就是在最小二乘法意义下的矛盾方程的解。定理6.1
将证明,方程组的解就是矛盾方程组在最小二乘法意义下的解。
定理6.1
1.为行列的矩陈,为列向量,秩,称为矛盾方程的的法方程,法方程恒有解。
2.是的解,当且仅当满足,即是法方程的解。
证明:
1)对作行初等变换,使,
∴秩
而秩秩秩
∴方程组有解而且解惟一存在。
2)设满足,任取,则
由于是任取的,故法方程组的解为极小问题的解。事实上,对离散数据作次多项式曲线拟合,要计算
的极小问题。这与解矛盾方程组
或