2013届本科毕业论文(设计)
论文题目：关于曲线拟合与最小二乘法原理
的探讨
学院：数学科学学院
专业班级：
学生姓名：
指导老师：
答辩日期：年月日
新疆师范大学教务处
目录
引言 (2)
1 最小二乘法拟合 (5)
1.1 最小二乘法 (5)
1.2 最小二乘多项式曲线拟合的基本原理 (5)
1.2.1 线性拟合原理 (6)
1.2.2 多项式拟合原理 (8)
2 分段曲线拟合的原理 (10)
2.1 分段曲线拟合 (11)
2.2 分段三次曲线拟合 (11)
3 几种具体的拟合曲线类型
3.1指数函数拟合..........................................................................................
3.2幂函数拟合.............................................................................................
3.3双曲型拟合...............................................................................................
4 总结 (20)
参考文献 (21)
引言
在物理实验中,经常要把离散的测量数据转化为直观的便于研究的曲线方程,即曲线拟合。正交基函数因涵盖了幂函数,切比雪夫多项式,拉盖尔函数,多元正交函数系列等而常被采用为拟合函数。如在曲线拟合中最常见的二次曲线,采用二元正交基函数系列:1,x,y,x2,y2,xy,…进行拟合。最小二乘法在确定各拟合函数的系数时,尽管拟合的次数不是很高,但它可使误差较大的测量点对拟合曲线的精度影响较小,而且实现简单,便于物理分析和研究,故成为最常用的方法之一。本文从最小二乘法的基本原理出发,给出了多元正交函数拟合的实现方法,并结合实例给出了最常用的二次曲线拟合的程序流程图。
曲线拟合与最小二乘法原理的探讨
摘要：曲线直线化是曲线拟合的重要手段之一。对于某些非线性的资料可以通过简单的变量变换使之直线化，这样就可以按最小二乘法原理求出变换后变量的直线方程，在实际工作中常利用此直线方程绘制资料的标准工作曲线，同时根据需要可将此直线方程还原为曲线方程，实现对资料的曲线拟合。
关键词：曲线拟合最小二乘法
Curve fitting and discussion on the principle of
least square method
Abstract:Curve is one of the important means of curve fitting. For some nonlinearinformation through simple transformation of variables, the straight line, so that it can be a linear equation transformed variables according to the principle of least square method in the practical work, often using the equation of the straight linedrawing data of the standard working curve, and according to the need to restorethis linear equation as the equation of a curve, curve fitting the data.
Key words: Curve fitting，least square method
1、最小二乘法拟合
1.1 最小二乘法
令待求的未知量为12,,,t a a a ，
它们可由()n n t ≥个直接测量12,,,n y y y 通过
下列函数关系求得：
11122212331212(,,,)(,,,)(,,,)(,,
,)
t t t n n t y f a a a y f a a a y f a a a y f a a a ===
= 若j a 为真值，由上述已知函数求出真值j y ，若其测量值为*j y ，则对应的误
差为*,(1
,2,)j j j y y j n σ=-=.最小二乘法可定量表示为：
2
1min n
j
j σ
==∑ （1.1.1）
对不等精度的测量，应加上各测量值的权重因子j p ，即：
2
1
min n
j j
j p σ
==∑ （1.1.2）
最小二乘法是在随机误差为正态分布时，由最大似然法推出的这个结论.它可使测量误差的平方和最小，因此被视为从一组测量值中求出一组未知量的最可信赖的方法.
1.2 最小二乘多项式曲线拟合的基本原理
1.2.1 线性拟合原理
将拟合函数取线性函数是一种简单的数据拟合方法，将数据点
1122(,()),(,()),,(,())m m x f x x f x x f x
确定线性拟合函数
()x a bx ?=+ （1.2.1.1）
称为对数据的线性拟合。对于线性拟合问题，需要求函数
2
(,)1[()]
m
a b k k k S a b x y ==+-∑ （1.2.1.2）
的最小值点，该问题的几何背景是寻求一条直线，使该直线与数据表所确定的平面散点的纵向距离的平方和最小,如图1.2.1-1所示.
（图1.2.1-1）
由函数对两个变量求导得：
1
2[()],m
k k k S
a bx y a =?=+-?∑
（1.2.1.3）
1
2[()],m
k k k k S
a b x y x b =?=+-?∑ （1.2.1.4）
其余等于零，得正规方程组
11
2111,m m
k k k k m m m
k k k k k k k ma x b y x a x b x y =====?
+=????+=??∑∑∑∑∑ （1.2.1.5）
也可将其矩阵形式写出来即：
112111m
m k k k k m m m i k k k k k k m x y a b x x x y =====???? ? ??? ? ?= ? ? ??? ? ?
????
∑∑∑∑∑ 解得,a b 的值，将其代入（1.2.1.1）即可得到拟合线性函数. 1.2.2 多项式拟合原理
为了确定数据拟合问题，选用幂函数2{1,,,}n x x x 作为函数类，则
2
012()n n x a a x a x a x ?=+++
+ (1)n m +< （1.2.2.1）
这就是多项式拟合函数.
为了确定拟合函数2012()n n x a a x a x a x ?=++++的系数，需要求解正规方
程组
01111
21
011111
12011
111m m m
n
k k n k
k k k m m m m
n k k k n k k k k k k m m m m
n n n n
k k k n k k k k k k ma x a x a y x a x a x a x y x a x a x a x y ===+====+====?+++=??
?+++=????
?+++=?
?∑∑∑∑∑∑∑∑∑∑∑ （1.2.2.2）
也可以用矩阵形式表示为
11
102111111121111m m
m n k k k k k k m m m m n k k k k k k k k k n m m m
m n n n n k k k k k k k k k m x x y a x x x x y a a x x x x y ===+====+====???? ? ?
? ??? ? ? ? ? ? ?= ? ? ? ? ? ? ? ??? ? ? ? ?????
∑∑∑∑∑∑∑∑∑∑∑ 解得01,,,n a a a 即可，将其代入（1.2.2.1）即可得到拟合多项式.
2 分段曲线拟合
2.1 分段曲线拟合的基本原理
先根据实测数据分布的特点，确定分段数目以及相应拟合曲线类型.拟合函数一般可选为多项式函数，因为在一定范围内，连续函数可用多项式任意逼近，然后再应用最小二乘法原理求得各分段拟合方程的系数.
基本步骤为：
第一步：将数据点分段，确定基函数01(),(),,()n x x x ???， 第二步：根据题目要求，建立正规方程组， 第三步：解正规方程组，求出待定系数， 第四步：写出拟合函数.
下面以分段线性拟合与分段三次曲线拟合为例讨论分段拟合的基本过程. 2.1.1 分段线性拟合
我们把给出的数据点分成k 组12,,,k N N N ，即
1122**
*
1111121211***2121222222**
*
1122(,),(,),,(,)(,),(,),
,(,)
(,),(,),
(,)k k
N N N N k k k k kN kN x y x y x y x y x y x y x y x y x
y
其中12,,
,k N N N 为每组数据的个数.
首先考虑线性拟合这种简单的情形，对k 组数据点分别应用最小二乘线性拟
合，得到各组数据点所对应的近似线性函数，
111()g x a b x =+ 1111()N x x x ≤<
222()g x a b x =+ 1212()N N x x x ≤<
()k k k g x a b x =+ 11()k k k N kN x x x --≤≤
而在整个考虑的拟合区间上就得到了1k -条直线段，现在就这1k -条直线段所在各区间的左端点定义1()()i i i iN i iN g x g x +=，该函数就成为整个区间上的数据拟合函数.这就是分段最小二乘线性拟合问题.
然而有些数据组并不是每段都呈线性关系，如数据(,)1,2,
,i i x y i n =，根据
其散点图却发现其前m 个点较接近直线，后n m -个点呈现非线性关系，则可分两段拟合.分别以一次多项式1Y 和n 次多项式2Y 进行拟合，即
1Y k x b =+ （2.1.1.1）
为了说明具体的方法，不妨选2Y 的阶数为2，即
22012Y a x a x a =++ （2.1.1.2）
要保证在边界点(,)m m x y 连续光滑，所以存在两个约束条件
2
012m m m kx b a x a x a +=++和012m k a x a =+，因此，式（2.1.1.1）和（2.1.1.2）的系数是相关的.解得2
20m b a a x =-，故式（2.1.1.1）为
2
10102(2)m m Y a x a x a x a =+-+
令S 为最小二乘估计量，则
22
2201200121
1
[(2)]()m
n
m i m
i i i i i i m S a x a x a a x y a x
a x a y ==+=++--+
++-∑∑
通过模型
0i
S
a ?=?；0,1,2i =，可求得最小方差S 的012,,a a a 的值，从而确定出式（2.1.1.1）与（2.1.1.2）中的回归系数.最后，通过
r =
和F 检验值22(2)1n r F r -=-，对回归方程进行显著性检验，式中1
1n
i i y y n ==∑；
2
10102(2)i m i m Y a x a x a x a
=+-+；22012i i Y a x a x a =++. 当然，根据不同的数据，可分三段进行拟合，或根据不同的数据特点，采用
多次曲线拟合方式. 2.1.2 分段三次曲线拟合
设有N 个数据123,,,N Z Z Z Z .因为四个数据点可确定一条三次曲线，但在选取分段点时，必须考虑分段后相邻曲线必须连续，即边界点连续，因此用五个数据点拟合一条三次曲线.
拟合方法：首先对数据进行一定的分段，将第一到第五数据分为第一段，再将第五到第九个数据分为第二段，将第九到第十三个数据分为第三段，依次类推
进行分组，即前一段末尾的数据为下一段数据的首位，这样便保证了数据分段的连续性.然后再对个分段数据进行三次曲线拟合即可.
令某段数据的三次拟合曲线函数为：23(2,1,0,1,2)t w a bt ct dt t =+++=--可以将此曲线函数分解为奇偶两个函数：奇函数3t v bt dt =+和偶函数2t u a ct =+.下面应用最小二乘法的基本原理求三次拟合曲线的系数[6]，由于在每段数据中第一点和最后一点均两次参与拟合，因此，在求一段曲线的拟合方差时需要加权.按
照平均分配的原则[7]，求方差的权值221
2
λλ-==，1011λλλ-===，得到该段曲
线拟合的方差
2
2
22()t t t t S w Z λ=-=-∑ （2.1.2.1）
曲线表示为奇偶函数的形式如下
,,t t t t t t t w u v u u v v --=+==- （2.1.2.2）
由（2.1.2.2）可以推导出下式
11
(),()22
t t t t t t u w w v w w --=+=- （2.1.2.3）
令,,t t t t t t t Z x y x x y y --=+==-则
11
(),()22
t t t t t t x Z Z y Z Z --=+=- （2.1.2.4）
因此拟合方差为
2
2
2
2
2
222
2
2
2
2
2
22
()() ()() t t t t t t t t t t t t t t t t t t S w Z u v x y u x v y S S λλλλ=-=-=-=-=-=+--=-+-=+∑∑∑∑奇偶
（2.1.2.5）
即t w 对t Z 的平滑可以看作是奇函数和偶函数分别平滑的叠加.从（2.1.2.5）式中可知奇函数拟合的方差.
2
22
223
2
1
22
12() 2() 2()(28)t t t t t
t t S x y bt dt
y b d y b d y λλ=-=-=-=
--=+-++-∑∑奇
（2.1.2.6）
令
120
280
b d y b d y +-=??
+-=?,
解出
2112
(2)6
(8)6b y y d y y =-??
=-?. 因此0S =奇，即奇函数的拟合方差为0，达到最佳逼近.同样，从（2.1.2.5）式中可知偶函数拟合方差为
2
2
222
20
122
()()2()(4)t t t t S
u x a x a c x a c x
λ=-=-=-
+
+-++-∑偶
（2.1.2.7）
由（2.1.2.3）式得知在边界点上
2221
()42
u w w a c -=
+=+. 考虑到边界点连续这一约束条件，令
4e a c =+
（2.3.2.8）
因此由式（2.3.2.7）可令
22
222
120122
01(4)()2()31()2()
44
S S a c x a x a c x a x a e x =-+-=-++-=-++-偶 （2.1.2.9）
解令
210S a
?=?，有0131
2()3()044a x a e x -++-=,得 10(1283)17a x x e =+- （2.1.2.10）
从（2.1.2.10）式可知三次曲线函数的系数,a c 的取值与边界点值有关，将（2.1.2.10）式代入（2.1.2.9）式中可得
2222
22122011(4)()(34)17S S a c x S e x x e x =-+-=--=+-偶偶 .
所以得出222
2011()(34)17S e x x e x =-++-偶，再令
20S e
?=?偶，有 2012
2()(34)017
e x x e x -++-=,
解得
102
431718
x x x e -+=. （2.1.2.11）
联立式（2.1.2.8）、式（2.1.2.10）、式（2.1.2.11），解得
012(34)a x x x =+- 012(325)18c x x x =--+
最后得到三次拟合曲线表达式为
23
0120122112(34)(325)(2)(8)66186t x x x x x x y y y y w t t t
+---+--=+++.
3 几种具体的拟合曲线类型
3.1指数函数拟合
若选取拟合函数喂指数函数y=a e bx(a,b为待定常数)，这是一个关于a,b的非线性型.现通过适当变换将其华为线性模型.为此对y=a e bx两边取对数
ln y=ln a+ln x.
令_
y=ln y,c
=ln a,c
1
=b,于是
_
y=c
+c
1
x.
这是一个关于c
0，c
1
的线性模型.原来的已知数据(x
i
,
-
i
y)(i=0,1,…,m). 这里
-
i
y=ln
y
i (i=0,1,…,m).对这组新数据，求形如
_
y=c
+c
1
x的拟合曲线.
取基函数φ
(x)=1，φ
1
(x)=x,则由式y*(x)=)
(
*
x
c
j
n
j
j
φ
∑
=
可得法方程组.求解出
c 0，c
1
后即得到拟合曲线
_
y=c
+c
1
x，从而得到y=e=e0c·e1c
例1 一直某化学反应过程中沉淀物的质量如下表：
求形如y=ae bx的拟合曲线.
解：对y=ae bx两边取对数得
ln y=ln a+bx.
令y=ln y,c
0=ln a,c
1
=b,则拟合曲线为
y=c
+c
1
x.
将y
i
取对数后，原数据变为新数据如下：
对此新数据，用直线y=c
0+c
1
x金星最小二乘拟合.这是据函数φ
(x)=1,φ
1
(x)=x.
A=???????
? ??5141312111, c=(c 0,c 1)T ,y =(0.892,1.115,1.278,1.484,1.697)T . 法方程为A T AC=A y 为
???????? ?????
? ??51413121
11
5432111111???? ??10c c =?????
??
?
??????
?
?697.1484.1278.1115.1892.05432111111 化简即为????
??=???? ?????? ??377.21466.6551515510c c . 解出 c 0=0.6695, c 1=0.1997. 因此 y =0.6695+0.1997x. 故 y=e y =e x 1997.06695.0+. 即 y=1.9532e x 1997.0 3.2幂函数拟合
拟合曲线为y=ax b (a,b 为待定常数).这也是关于a,b 的非线性模型，两边取对数，同样可将其化为线性模型：
ln y=ln a+b ln x.
令y =ln y,c 0=ln a,c 1=b,则拟合曲线为
y =c 0+c 1ln x.
这是基函数φ0(x)=1,φ1(x)=ln x.
将原数据(x i ,y i )(i=0,1,...,m)中的y i 取对数，得新数据(x i ,i y ), 其中
i y =ln y i (i=0,1,...,m).对此新数据，用y =c 0+c 1ln x 拟合即可.
3.3双曲型拟合
这也是关于a,b 的非线性拟合模型.作变形：
令 y = 则拟合曲线为y =a+ 型，化为了关于a,b 的线性模型.这时 新数据为(i x ,i y ),其中i y = (i=0,1,...,m).基函数为φ0(x)=1,φ1(x)=
由法方程组y*(x)=)(*0
x c j n
j j φ∑=即可求出拟合曲线y =a+
进而求出拟合曲线
b
ax x
y +=x b ax y +=1x
b
a y 1
1
+=y
1
x b
1i y 1
x 1x b 1b
ax x y +=
4 总结
本文我们首先呈现了比较有用、颇具权威性的最小二乘法的相关问题，即线性拟合原理、多项式拟合原理等这些准备的知识让读者对最小二乘法有一些初步的了解，对初学者带来很多方便.本文的第二部分正式开始介绍分段曲线拟合的原理，先介绍分段曲线拟合的大致的分类及方法，如分段曲线拟合、分段三次曲线拟合，突出分段曲线拟合的科学性.然后介绍了几种具体的拟合曲线类型及例题，用简单的练习进一步巩固单纯形法的相关定义和求解过程.
这次毕业论文的写作过程是我的一次学习，在论文中我充分地运用了大学期间所学到的知识，不仅复习了文字和图片的排版，还学到了许多的新知识，如数学公式的编辑.毕业论文的写作过程给了我难忘的回忆，最难忘的是每次找不到资料的心急如焚、暴燥即找到资料之后的激动和兴奋，记忆最深的是每一步小小思路实现时那幸福的心情，在这次毕业论文的过程中，我拥有了难忘的回忆和收获.
参考文献
[1]易大义.计算方法.浙江大学出版社(第二版)，2002
[2]朱方生.计算方法.王妤涵大学出版社,2003
[3]封建湖.数值分析.西北工业大学出版社(第四版),2003
[4]关治. 数值分析基础.高等教育出版社，1998
[5]石瑞民.数值计算.高等教育出版社，2003
致谢
课题八曲线拟合的最小二乘法 实验目标： 在某冶炼过程中，通过实验检测得到含碳量与时间关系的数据如下，试求含碳量y与时间t #include 最小二乘法的基本原理和多项式拟合 一 最小二乘法的基本原理 从整体上考虑近似函数)(x p 同所给数据点),(i i y x (i=0,1,…,m)误差 i i i y x p r -=)((i=0,1,…,m) 的大小，常用的方法有以下三种：一是误差 i i i y x p r -=)((i=0,1,…,m)绝对值的最大值i m i r ≤≤0max ，即误差 向量 T m r r r r ),,(10 =的∞—范数；二是误差绝对值的和∑=m i i r 0 ，即误差向量r 的1— 范数；三是误差平方和∑=m i i r 02 的算术平方根，即误差向量r 的2—范数；前两种方法简单、自然，但不便于微分运算 ，后一种方法相当于考虑 2—范数的平方，因此在曲线拟合中常采用误差平方和∑=m i i r 02 来 度量误差i r (i=0，1，…，m)的整 体大小。 数据拟合的具体作法是：对给定数据 ),(i i y x (i=0,1,…，m)，在取定的函数类Φ中,求Φ∈)(x p ,使误差i i i y x p r -=)((i=0,1,…,m)的平方和最小，即 ∑=m i i r 2 = 从几何意义上讲，就是寻求与给定点),(i i y x (i=0,1,…,m)的距离平方和为最 小的曲线 )(x p y =（图6-1）。函数)(x p 称为拟合函数或最小二乘解，求拟合函数)(x p 的方法称为曲线拟合的最小二乘法。 在曲线拟合中，函数类Φ可有不同的选取方法 . 6—1 二 多项式拟合 假设给定数据点),(i i y x (i=0,1,…,m)，Φ为所有次数不超过)(m n n ≤的多项式构成的函数类，现求一 Φ ∈=∑=n k k k n x a x p 0 )(,使得 [] min )(0 02 02 =??? ??-=-=∑∑∑===m i m i n k i k i k i i n y x a y x p I (1) [ ] ∑ = = - m i i i y x p 0 2 min ) ( 曲线拟合（curve-fitting ）：工程实践中，用测量到的一些离散的数据},...2,1,0),,{(m i y x i i =求一个近似的函数)(x ?来拟合这组数据，要求所得的拟合曲线能最好的反映数据的基本趋势（即使)(x ?最好地逼近()x f ，而不必满足插值原则。因此没必要取)(i x ?=i y ，只要使i i i y x -=)(?δ尽可能地小）。 原理： 给定数据点},...2,1,0),,{(m i y x i i =。求近似曲线)(x ?。并且使得近似曲线与()x f 的偏差最小。近似曲线在该点处的偏差i i i y x -=)(?δ，i=1,2,...,m 。 常见的曲线拟合方法: 1.使偏差绝对值之和最小 2.使偏差绝对值最大的最小 3.使偏差平方和最小 最小二乘法： 按偏差平方和最小的原则选取拟合曲线，并且采取二项式方程为拟合曲线的方法,称为最小二乘法。 推导过程： 1. 设拟合多项式为： 2. 各点到这条曲线的距离之和，即偏差平方和如下： 3. 问题转化为求待定系数0a ...k a 对等式右边求i a 偏导数，因而我们得到 了： ....... 4、 把这些等式化简并表示成矩阵的形式，就可以得到下面的矩阵： 5. 将这个范德蒙得矩阵化简后可得到: 6. 也就是说X*A=Y，那么A = (X'*X)-1*X'*Y，便得到了系数矩阵A，同时，我们也就得到了拟合曲线。 MATLAB实现： MATLAB提供了polyfit（）函数命令进行最小二乘曲线拟合。 调用格式：p=polyfit(x,y,n) [p,s]= polyfit(x,y,n) [p,s,mu]=polyfit(x,y,n) x,y为数据点，n为多项式阶数，返回p为幂次从高到低的多项式系数向量p。x必须是单调的。矩阵s包括R（对x进行QR分解的三角元素）、df(自由度）、normr(残差）用于生成预测值的误差估计。 [p,s,mu]=polyfit(x,y,n)在拟合过程中，首先对x进行数据标准化处理，以在拟合中消除量纲等影响，mu包含标准化处理过程中使用的x的均值和标准差。 polyval( )为多项式曲线求值函数，调用格式： y=polyval(p,x) [y,DELTA]=polyval(p,x,s) y=polyval(p,x)为返回对应自变量x在给定系数P的多项式的值。 [y,DELTA]=polyval(p,x,s) 使用polyfit函数的选项输出s得出误差估计Y DELTA。它假设polyfit函数数据输入的误差是独立正态的，并且方差为常数。则Y DELTA将至少包含50%的预测值。 如下给定数据的拟合曲线： x=[0.5,1.0,1.5,2.0,2.5,3.0]， y=[1.75,2.45,3.81,4.80,7.00,8.60]。 解：MATLAB程序如下： x=[0.5,1.0,1.5,2.0,2.5,3.0]; y=[1.75,2.45,3.81,4.80,7.00,8.60]; p=polyfit(x,y,2) x1=0.5:0.05:3.0; y1=polyval(p,x1); plot(x,y,'*r',x1,y1,'-b') 运行结果如图1 计算结果为： p =0.5614 0.8287 1.1560 即所得多项式为y=0.5614x^2+0.08287x+1.15560 图1 最小二乘法曲线拟合示例 对比检验拟合的有效性： 例：在[0,π]区间上对正弦函数进行拟合，然后在[0,2π]区间画出图形，比较拟合区间和非拟合区间的图形，考察拟合的有效性。 在MATLAB中输入如下代码： clear x=0:0.1:pi; y=sin(x); [p,mu]=polyfit(x,y,9) 最小二乘法圆拟合 1.最小二乘法圆拟合原理 理论 最小二乘法(Least Square Method )是一种数学优化技术。它通过最小化误差的平方和找到一组数据的最佳函数匹配。利用最小二乘法可以简便地求得未知的数据，并使得这些求得的数据与实际数据之间误差的平方和为最小。 最小二乘圆拟合模型公式推导 在二维平面坐标系中，圆方程一般可表示为: ()22020)(r y y x x =-+- （1） 对于最小二乘法的圆拟合，其误差平方的优化目标函数为： [] 2 12020)()(∑=--+-=n i i i r y y x x S 式中：()i i y x ,n i ,...,2,1=为圆弧上特征点坐标；n 为参与拟合的特征点数。 在保持这优化目标函数特征的前提上，我们需要对其用一种稍微不同的改进方法来定义误差平方，且其避免了平方根，同时可得到一个最小化问题的直接解，定义如下: [] 2 122020)()(∑=--+-=n i i i r y y x x E （2） 则（2）式可改写为： ( )2 12 20 0220 02 22∑=-+-++-=n i i i i i r y y y y x x x x E （3） 令,02y B -=,02x A -=22020r y x C -+= 即（3）式可表示为： () 2 22∑=++++=n i i i i i C By Ax y x E 由最小二乘法原理，参数A ,B ,C 应使E 取得极小值。根据极小值的求法，A ,B 和C 应满足 () 020 22=++++=??∑=i n i i i i i x C By Ax y x A E (4) () 020 22=++++=??∑=i n i i i i i y C By Ax y x B E (5) () 020 22=++++=??∑=n i i i i i C By Ax y x C E (6) 求解方程组，先消去参数C ,则 式()()∑=*-*n i i x n 064得 ( )0 02 202 030000002=+-++?? ? ??-+??? ??-∑∑∑∑∑∑∑∑∑∑==========n i i n i i i n i i i n i i n i n i i i n i i i n i n i i i n i i x y x y x n x n B y x y x n A x x x n （7） 式()()∑=*-*n i i y n 065得 ( )0 02 202 030002000=+-++?? ? ??-+??? ??-∑∑∑∑∑∑∑∑∑∑==========n i i n i i i n i i i n i i n i n i i i n i i n i n i i i n i i i y y x y x n y n B y y y n A y x y x n （8） 令 ??? ??-=∑∑∑===n i n i n i i i i x x x n M 000211（9） ?? ? ??-==∑∑∑===n i n i i i n i i i y x y x n M M 0002112（10） ?? ? ??-=∑∑∑===n i n i i i n i i y y y n M 000222（11） 第6章曲线拟合的最小二乘法 6.1 拟合曲线 通过观察或测量得到一组离散数据序列，当所得数据比较准确时，可构造插值函数逼近客观存在的函数，构造的原则是要求插值函数通过这些数据点，即。此时，序列与 是相等的。 如果数据序列，含有不可避免的误差（或称“噪音”），如图6.1 所示；如果数据序列无法同时满足某特定函数，如图6.2所示，那么，只能要求所做逼近函数最优地靠近样点，即向量与的误差或距离最小。按与之间误差最小原则作为“最优”标准构造的逼近函数，称为拟合函数。 图6.1 含有“噪声”的数据 图6.2 一条直线公路与多个景点 插值和拟合是构造逼近函数的两种方法。插值的目标是要插值函数尽量靠近离散点；拟合的目标是要离散点尽量靠近拟合函数。 向量与之间的误差或距离有各种不同的定义方法。例如： 用各点误差绝对值的和表示： 用各点误差按模的最大值表示： 用各点误差的平方和表示： 或（6.1） 其中称为均方误差，由于计算均方误差的最小值的方法容易实现而被广泛采用。按 均方误差达到极小构造拟合曲线的方法称为最小二乘法。本章主要讲述用最小二乘法构造拟合曲线的方法。 在运筹学、统计学、逼近论和控制论中，最小二乘法都是很重要的求解方法。例如，它是统计学中估计回归参数的最基本方法。 关于最小二乘法的发明权，在数学史的研究中尚未定论。有材料表明高斯和勒让德分别独立地提出这种方法。勒让德是在1805年第一次公开发表关于最小二乘法的论文，这时高斯指出，他早在1795年之前就使用了这种方法。但数学史研究者只找到了高斯约在1803年之前使用了这种方法的证据。 在实际问题中，怎样由测量的数据设计和确定“最贴近”的拟合曲线？关键在选择适当的拟合曲线类型，有时根据专业知识和工作经验即可确定拟合曲线类型；在对拟合曲线一无所知的情况下，不妨先绘制数据的粗略图形，或许从中观测出拟合曲线的类型；更一般地，对数据进行多种曲线类型的拟合，并计算均方误差，用数学实验的方法找出在最小二乘法意义下的误差最小的拟合函数。 例如，某风景区要在已有的景点之间修一条规格较高的主干路，景点与主干路之间由各具特色的支路联接。设景点的坐标为点列；设主干路为一条直线 ，即拟合函数是一条直线。通过计算均方误差最小值而确定直线方程（见图6.2）。 6.2线性拟合和二次拟合函数 线性拟合 给定一组数据，做拟合直线，均方误差为 （6.2） 是二元函数，的极小值要满足 实验三 函数逼近与曲线拟合 一、问题的提出： 函数逼近是指“对函数类A 中给定的函数)(x f ,记作A x f ∈)(,要求在另一类简的便于计算的函数类B 中求函数A x p ∈)(,使 )(x p 与)(x f 的误差在某中度量意义下最小”。函数类A 通常是区间],[b a 上的连续函数，记作],[b a C ,称为连续函数空间，而函数类B 通常为n 次多项式，有理函数或分段低次多项式等，函数逼近是数值分析的基础。主要内容有： （1）最佳一致逼近多项式 （2）最佳平方逼近多项式 （3）曲线拟合的最小二乘法 二、实验要求： 1、构造正交多项式； 2、构造最佳一致逼近； 3、构造最佳平方逼近多项式； 4、构造最小二乘法进行曲线拟合； 5、求出近似解析表达式，打印出逼近曲线与拟合曲线，且打印出其在数据点上的偏差； 6、探讨新的方法比较结果。 三、实验目的和意义: 1、学习并掌握正交多项式的MATLAB 编程； 2、学习并掌握最佳一致逼近的MATLAB 实验及精度比较； 3、学习并掌握最佳平方逼近多项式的MATLAB 实验及精度比较； 4、掌握曲线拟合的最小二乘法； 5、最小二乘法也可用于求解超定线形代数方程组； 6、 探索拟合函数的选择与拟合精度之间的关系； 四、 算法步骤： 1、正交多项式序列的生成 {n ?（x ）}∞ 0：设n ?（x ）是],[b a 上首项系数a ≠n 0的n 次多项式，)(x ρ为],[b a 上权函数，如果多项式序列{n ?（x ）} ∞0 满足关系式???=>≠==?.,0,, 0)()()()(),(k j A k j x d x x x k k j b a k j ??ρ?? 则称多项式序列{n ?（x ）}∞ 0为在],[b a 上带权)(x ρ正交，称n ?（x ）为],[b a 上带权)(x ρ 的n 次正交多项式。 1）输入函数)(x ρ和数据b a ,; 2）分别求))(),(()),(,(x x x x j j j n ???的内积； 3）按公式①)()) (),(()) (,()(,1)(1 0x x x x x x x x j n j j j j n n n ??? ???∑-=- ==计算)(x n ?，生成正交多项式； 流程图： 开始 最小二乘法的原理及其应用 一、研究背景 在科学研究中，为了揭示某些相关量之间的关系，找出其规律，往往需要做数据拟合，其常用方法一般有传统的插值法、最佳一致逼近多项式、最佳平方逼近、最小二乘拟合、三角函数逼近、帕德（Pade）逼近等，以及现代的神经网络逼近、模糊逼近、支持向量机函数逼近、小波理论等。 其中，最小二乘法是一种最基本、最重要的计算技巧与方法。它在建模中有着广泛的应用，用这一理论解决讨论问题简明、清晰，特别在大量数据分析的研究中具有十分重要的作用和地位。随着最小二乘理论不断的完善，其基本理论与应用已经成为一个不容忽视的研究课题。本文着重讨论最小二乘法在化学生产以及系统识别中的应用。 二、最小二乘法的原理 人们对由某一变量t或多个变量t1…..tn 构成的相关变量y感兴趣。如弹簧的形变与所用的力相关，一个企业的盈利与其营业额，投资收益和原始资本有关。为了得到这些变量同y之间的关系，便用不相关变量去构建y，使用如下函数模型 , q个相关变量或p个附加的相关变量去拟和。 通常人们将一个可能的、对不相关变量t的构成都无困难的函数类型充作函数模型（如抛物线函数或指数函数）。参数x是为了使所选择的函数模型同观测值y相匹配。（如在测量弹簧形变时，必须将所用的力与弹簧的膨胀系数联系起来）。其目标是合适地选择参数，使函数模型最好的拟合观测值。一般情况下，观测值远多于所选择的参数。 其次的问题是怎样判断不同拟合的质量。高斯和勒让德的方法是，假设测量误差的平均值为0。令每一个测量误差对应一个变量并与其它测量误差不相关（随机无关）。人们假设，在测量误差中绝对不含系统误差，它们应该是纯偶然误差，围绕真值波动。除此之外，测量误差符合正态分布，这保证了偏差值在最后的结果y上忽略不计。 确定拟合的标准应该被重视，并小心选择，较大误差的测量值应被赋予较小的权。并建立如下规则：被选择的参数，应该使算出的函数曲线与观测值之差的平方和最小。用函数表示为： 第一节 最小二乘法的基本原理和多项式拟合 一 最小二乘法的基本原理 从整体上考虑近似函数)(x p 同所给数据点),(i i y x (i=0,1,…,m)误差 i i i y x p r -=)((i=0,1,…,m) 的大小，常用的方法有以下三种：一是误差 i i i y x p r -=)((i=0,1,…,m)绝对值的最大值i m i r ≤≤0max ，即误差 向量 T m r r r r ),,(10 =的∞—范数；二是误差绝对值的和∑=m i i r 0 ，即误差向量r 的1— 范数；三是误差平方和∑=m i i r 02 的算术平方根，即误差向量r 的2—范数；前两种方法简单、自然，但不便于微分运算 ，后一种方法相当于考虑 2—范数的平方，因此在曲线拟合中常采用误差平方和∑=m i i r 02 来 度量误差i r (i=0，1，…，m)的整 体大小。 数据拟合的具体作法是：对给定数据 ),(i i y x (i=0,1,…，m)，在取定的函数类Φ中,求Φ∈)(x p ,使误差i i i y x p r -=)((i=0,1,…,m)的平方和最小，即 ∑=m i i r 0 2 =[]∑==-m i i i y x p 0 2 min )( 从几何意义上讲，就是寻求与给定点),(i i y x (i=0,1,…,m)的距离平方和为最 小的曲线)(x p y =（图6-1）。函数)(x p 称为拟合 函数或最小二乘解，求拟合函数)(x p 的方法称为曲线拟合的最小二乘法。 在曲线拟合中，函数类Φ可有不同的选取方法. 6—1 二 多项式拟合 假设给定数据点),(i i y x (i=0,1,…,m)，Φ为所有次数不超过)(m n n ≤的多项式构成的函数类，现求一 Φ ∈=∑=n k k k n x a x p 0 )(,使得 [] min )(0 02 02 =??? ??-=-=∑∑∑===m i m i n k i k i k i i n y x a y x p I (1) 当拟合函数为多项式时，称为多项式拟合，满足式（1）的)(x p n 称为最小二乘 拟合多项式。特别地，当n=1时，称为线性拟合或直线拟合。 最小二乘拟合 在物理实验中经常要观测两个有函数关系的物理量。根据两个量的许多组观测数据来确定它们的函数曲线，这就是实验数据处理中的曲线拟合问题。这类问题通常有两种情况：一种是两个观测量x 与y 之间的函数形式已知，但一些参数未知，需要确定未知参数的最佳估计值；另一种是x 与y 之间的函数形式还不知道，需要找出它们之间的经验公式。后一种情况常假设x 与y 之间的关系是一个待定的多项式，多项式系数就是待定的未知参数，从而可采用类似于前一种情况的处理方法。 一、最小二乘法原理 在两个观测量中，往往总有一个量精度比另一个高得多，为简单起见把精度较高的观测量看作没有误差，并把这个观测量选作x ，而把所有的误差只认为是y 的误差。设x 和y 的函数关系由理论公式 y ＝f （x ；c 1，c 2，……c m ） （0-0-1） 给出，其中c 1，c 2，……c m 是m 个要通过实验确定的参数。对于每组观测数据（x i ，y i ）i ＝1，2，……，N 。都对应于xy 平面上一个点。若不存在测量误差，则这些数据点都准确 落在理论曲线上。只要选取m 组测量值代入式（0-0-1），便得到方程组 y i ＝f （x ；c 1，c 2，……c m ） （0-0-2） 式中i ＝1，2，……，m.求m 个方程的联立解即得m 个参数的数值。显然N 最小二乘法多项式拟合 对于给定的数据点N i y x i i ≤≤1),,(，可用下面的n 阶多项式进行拟合，即 为了使拟合出的近似曲线能尽量反映所给数据的变化趋势，要求在所有数据点上的残差 都较小。为达到上述目标，可以令上述偏差的平方和最小，即 称这种方法为最小二乘原则，利用这一原则确定拟合多项式)(x f 的方法即为最小二乘法多项式拟合。 确定上述多项式的过程也就是确定)(x f 中的系数n k a k ≤≤0,的过程，根据最小二乘原则，则偏差平方和应该是这些系数的函数，即 为使上式取值最小，则其关于n k a k ≤≤0,的一阶导数应该为零，即有 将上面各等式写成方程组的形式可有 写成矩阵形式有 上述方程组可以通过克莱姆法则来计算，从而解出各系数n k a k ≤≤0,得到拟合方程。 考虑到一般情况提高拟合多项式的阶数并不能提高拟合精度，所以常用的多项拟合阶数为一阶和二阶，即线性拟合和二次拟合。两者的计算公式如下： 关于线性拟合，除上面按克莱姆法则来计算外，还可以有另一思路，下面对此进行说明。由于是线性拟合，最后得到的是一条直线，因此，直线可以由斜率和截距两个参数来确定，因此，求出这两个参数即可。首先对克莱姆法的求解结果进行展开可以得到 下面考虑先计算斜率再计算截距的方法，从下图可见，斜率计算与坐标系的位置无关，所以可以将坐标原点平移到样本的i x 和i y 坐标的均值所在点上 图中 则在新的坐标系),(y x ''下斜率的计算公式与前面1a 的计算公式相同，将其中的坐标),(y x 换成),(y x ''即可得到下面的计算公式 由样本在新坐标系下的坐标i x '和i y '的均值为零，或者由下面推导可知 x ' 2013届本科毕业论文(设计) 论文题目：关于曲线拟合与最小二乘法原理 的探讨 学院：数学科学学院 专业班级： 学生姓名： 指导老师： 答辩日期：年月日 新疆师范大学教务处 目录 引言 (2) 1 最小二乘法拟合 (5) 1.1 最小二乘法 (5) 1.2 最小二乘多项式曲线拟合的基本原理 (5) 1.2.1 线性拟合原理 (6) 1.2.2 多项式拟合原理 (8) 2 分段曲线拟合的原理 (10) 2.1 分段曲线拟合 (11) 2.2 分段三次曲线拟合 (11) 3 几种具体的拟合曲线类型 3.1指数函数拟合.......................................................................................... 3.2幂函数拟合............................................................................................. 3.3双曲型拟合............................................................................................... 4 总结 (20) 参考文献 (21) 引言 在物理实验中,经常要把离散的测量数据转化为直观的便于研究的曲线方程,即曲线拟合。正交基函数因涵盖了幂函数,切比雪夫多项式,拉盖尔函数,多元正交函数系列等而常被采用为拟合函数。如在曲线拟合中最常见的二次曲线,采用二元正交基函数系列:1,x,y,x2,y2,xy,…进行拟合。最小二乘法在确定各拟合函数的系数时,尽管拟合的次数不是很高,但它可使误差较大的测量点对拟合曲线的精度影响较小,而且实现简单,便于物理分析和研究,故成为最常用的方法之一。本文从最小二乘法的基本原理出发,给出了多元正交函数拟合的实现方法,并结合实例给出了最常用的二次曲线拟合的程序流程图。 曲线拟合的最小二乘法 吕英楷 1014202033 在物理实验中经常要观测两个有函数关系的物理量。根据两个量的许多组观测数据来确定它们的函数曲线，这就是实验数据处理中的曲线拟合问题。这类问题通常有两种情况：一种是两个观测量x 与y 之间的函数形式已知，但一些参数未知，需要确定未知参数的最佳估计值；另一种是x 与y 之间的函数形式还不知道，需要找出它们之间的经验公式。后一种情况常假设x 与y 之间的关系是一个待定的多项式，多项式系数就是待定的未知参数，从而可采用类似于前一种情况的处理方法。 一、曲线拟合的最小二乘法原理： 由已知的离散数据点选择与实验点误差最小的曲线 )(...)()()(1100x a x a x a x S n n ???+++= 称为曲线拟合的最小二乘法。 若记 ),()()(),(0 i k i j m i i k j x x x ??ω??∑== k i k i m i i k d x x f x f ≡=∑=)()()(),(0 ?ω? 上式可改写为),...,1,0(;),(n k d a k j n o j j k -=∑=??这个方程成为法方程，可写成距阵 形式 d Ga = 其中,),...,,(,),...,,(1010T n T n d d d d a a a a == ???? ?? ??????=),(),(),()(),(),(),(),(),(10 1110101000n n n n n n G ?????????????????? 。 它的平方误差为：.)]()([)(||||20 22i i m i i x f x S x -= ∑=ωδ 实验三函数逼近 一、 实验目标 1.掌握数据多项式拟合的最小二乘法。 2.会求函数的插值三角多项式。 二、实验问题 （ （2）求函数()2cos f x x x =在区间[,]ππ-上的插值三角多项式。 三、 实验要求 1.利用最小二乘法求问题（1）所给数据的3次、4次拟合多项式，画出拟合曲线。 2.求函数()2cos f x x x =在区间[,]ππ-上的16次插值三角多项式，并画出插值多项式的图形，与()f x 的图形比较。 3.对函数()2cos f x x x =，在区间[,]ππ-上的取若干点，将函数值作为数据进行适当次数的最小二乘多项式拟合，并计算误差，与上题中的16次插值三角多项式的结果进行比较。 《数值分析》实验报告 项式，画出拟合曲线 【实验目标】 （1）加深对用最小二乘法求拟合多项式的理解 （2）学会编写最小二乘法的数值计算的程序； 【理论概述与算法描述】 在函数的最佳平方逼近中()[,]f x C a b ∈,如果()f x 只在一组离散点集{,0,1,,}i x i m =???上给出，这就是科学实验中经常见到的实验数据{(,),0,1,,}i i x y i m =???的曲线拟合，这里 (),0,1,,i i y f x i m ==???，要求一个函数*()y S x =与所给数据{(,),0,1,,}i i x y i m =???拟合，若 记误差*()(0,1,,)i i i S x y i m δ=-=???,()01,,,T m δδδδ=???,设01(),(),,()n x x x ??????是[,]C a b 上的线性无关函数族，在01{(),(),,()}n span x x x ????=???中找一个函数*()S x ，使误差平方和 曲线拟合( curve-fitting )：工程实践中，用测量到的一些离散的数据 {( X, yj,i 0,1,2,...m}求一个近似的函数(x)来拟合这组数据，要求所得的拟合曲线能最好的反映数据的基本趋势(即使(x)最好地逼近f x，而不必满足插值原则。因此没必要取(X)=y i，只要使i (X i) y i尽可能地小)。 原理： 给定数据点{( x i,y i),i 0 ,1 , 2, . . . m} 。求近似曲线( x) 。并且使得近似曲线与f x 的偏差最小。 近似曲线在该点处的偏差i(x i ) y i，i=1,2,...,m 。 常见的曲线拟合方法： 1. 使偏差绝对值之和最小 2. 使偏差绝对值最大的最小 3. 使偏差平方和最小 最小二乘法： 按偏差平方和最小的原则选取拟合曲线，并且采取二项式方程为拟合曲线的方法,称为最小二乘法。推导过程： 1. 设拟合多项式为： 2. 各点到这条曲线的距离之和，即偏差平方和如下： 3?问题转化为求待定系数a0...a k对等式右边求q偏导数，因而我们得到了： 4、把这些等式化简并表示成矩阵的形式，就可以得到下面的矩阵： 5. 将这个范德蒙得矩阵化简后可得到： 6. 也就是说X*A=Y ，那么A = (X'*X)-1*X'*Y ，便得到了系数矩阵A ，同时，我们也就得到了拟合曲线。 MATLAB 实现： MATLAB 提供了polyfit ()函数命令进行最小二乘曲线拟合。 调用格式：p=polyfit(x,y,n) [p,s]= polyfit(x,y,n) [p,s,mu]=polyfit(x,y,n) x,y 为数据点，n 为多项式阶数，返回p 为幂次从高到低的多项式系数向量p。x 必须是单调的。矩阵s包括R (对x进行QR分解的三角元素)、df(自由度)、 normr(残差)用于生成预测值的误差估计。 [p,s,mu]=polyfit(x,y,n) 在拟合过程中，首先对x 进行数据标准化处理，以在拟合中消除量纲等影响，mu包含标准化处理过程中使用的x的均值和标准差。polyval( ) 为多项式曲线求值函数，调用格式：y=polyval(p,x) 开题报告 信息与计算科学 浅谈最小二乘法的原理及其应用 一、综述本课题国内外研究动态, 说明选题的依据和意义 最小二乘法（Least Square Method ）是提供“观测组合”主要工具之一, 它依据对某事件的大量观测而获得“最佳”结果或“最可能”表现形式. 如已知两变量为线性关系, 对其进行次观测而获得对数据. 若将这对数据代入方程求y a bx =+(2)n n >n n 解的值则无确定解, 而最小二乘法提供了一个求解方法, 其基本思想是寻找“最接,a b 近”这个观测点的直线. n 最小二乘法创立与十九世纪初, 是当时最重要的统计方法, 在长期的发展中, 人们一直处于不断的研究中, 在传统最小二乘法的基础上, 出现了许多更为科学先进的方法, 如移动最小二乘法、加权最小二乘法、偏最小二乘法、模糊最小二乘法和全最小二乘法等, 使得最小二乘法在参数估计、系统辨识以及预测、预报等纵多领域都有着广泛的应用. 相关回归分析、方差分析和线性模型理论等数理统计学的几大分支都以最小二乘法为理论基础, 所以最小二乘法被称之为数理统计学的灵魂. 正如美国统计学家斯蒂格勒（S. M. Stigler ）所说, “最小二乘法之于数理统计学犹如微积分之于数学”. 因此对最小二乘法的研究就显得意义重大. 国内外的学者们一直在对传统最小二乘法做进一步的研究. 勒让德（A. M. Legender ）于1805年发表了论著《计算彗星轨道的新方法》, 在书中勒让德描述了最小二乘法的思想、具体做法及其优点, 他认为: 赋予误差的平方和为极小, 则意味着在这些误差间建立了一种均衡性, 它阻止了极端情形所施加的过分影响. 1809年高斯 （C. F. Gauss ）在著作《天体沿圆锥截面围绕太阳运动的理论》中发表有关最小二乘法的理论, 随后在1826年的著作中阐述了最小二乘法的全部内容. 统计学者对最小二乘法做了进一步的研究探讨, 1970年, 由霍尔（A. E. Horel ）和肯纳德（R. W. Kennard ）提出的岭估计（Ridge Estimate ）, 用取代, ()()11?n i i i k S kI x y β -==+∑?β有效的降低了原方法的病态性. #include"iostream" #include"iomanip" #include"stdlib.h" #include"math.h" using namespace std; double x[50],y[50],a[50][50],C[50]; int i,j,n,c; void main() { cout< §5 曲线拟合的最小 二乘法 一般的最小二乘逼近(曲线拟合的最小二乘法)的一般提法是:对给定的一组数据(,)(0,1,,)i i x y i m =,要求在函数类01{,,,}n ????=中找一个函数* ()y S x =,使误差平方和 2 2* 2 2()0 1 [()]min [()m m m i i i i i S x i i i S x y S x y ? δδ∈=====-=-∑∑∑ 其 中 0011()()()() ( n n S x a x a x a x n m ???=+++< 带权的最小二乘法： 22 20 ()[()()] m i i i i x S x f x δ ω==-∑ 其中()0x ω≥是［a, b ］上的权函数。 用最小二乘法求曲线拟合的问题，就是在()S x 中求一函数 * ()y S x =，使2 2δ取的最小。它转化 为求多元函数 2 010 (,,,)()[()()] m n n i j j i i i j I a a a x a x f x ω?===-∑∑ 的极小点* **01 (,, ,)n a a a 问题。由求 多元函数极值的必要条件，有 00 2()[()()]()m n i j j i i k i i j k I x a x f x x a ω??==?=-=?∑∑ , ,1,0(k = 若 记 0(,)()()() m j k i j i k i i x x x ??ω??==∑ (,)k f ?= , 1,0(k = 则上式可改写为 (,)n k j j k j a d ? ?==∑ ),,1,0(n k = 这个方程称为法方程，矩阵形式 .G a d = “数值计算方法与算法”论文 题目：浅谈曲线拟合的最小二乘法 院系：化学与材料工程学院20系 姓名： 学号： 时间：2015年春季学期 浅谈曲线拟合的最小二乘法 【摘要】 数值计算方法，一种研究并解决数学问题的数值近似解的方法，主要解决那些理论上有解但是无法轻易且准确求解的数学问题。在当今计算机技术日渐成熟的背景下，数值计算方法的应用被大大的推广，并且极大的推动了自然科学的规律探索及理论验证。本文主要探讨了一种重要的数值计算方法——曲线拟合的最小二乘法的历史发展、理论核心以及应用价值。 关键词：数值计算方法最小二乘法应用 【正文】 数值计算方法，是一种研究并解决数学问题的数值近似解方法，现在通常在计算机上使用来求解数学问题。它主要的计算对象是那些在理论上有解而又无法直接手工计算的数学问题【1】。例如，用已知的数据点来构造合适的插值函数或拟合出合适的曲线来近似代替原函数，从而解决了因难以求得原函数表达式而无法计算相关函数值的难题；又如，对于一个一般的非线性方程，可能在计算方程的根时既无一定章程可循，也无理论解法可言，那么这时就可以构造合适的迭代格式如Newton迭代，通过对一个近似的初值进行有限次迭代，就可以得到较精准的根值，从而有效避免了冗长而又复杂的理论求解的过程。 在学习完计算方法与算法这门课程后，我收获了许多实用的计算方法、技巧和思想，而对书中的某些问题的解法的深入思考也让我加深了对这门课程的理解。由于专业的相关需要，我对曲线拟合的最小二乘法这部分知识点进行了重点的学习和深刻的反思，也收获了许多。 1.最小二乘法的发展历史 18世纪中期以后，欧拉（L. Euler, 1707-1783）、梅耶（T. Meiyer, 1723-1762）、拉普拉斯(P. S. Laplace, 1749—1827)等科学家在研究一些天体运动规律时，都得到了一些含有m个变量n个（）方程的线性方程组（也就是我们现在所说的线性矛盾方程组），并且各自运用了一些方法解出了方程组的较优解。虽然方法繁琐且奇特，但不失为数学史一次伟大的尝试。 有关于最小二乘法的首次应用于实际计算并成功的记载，是关于第一颗小行星位置的预测，十分之有趣。1801年，意大利天文学家朱塞普·皮亚齐（Giuseppe Piazzi,1746-1826）发现了第一颗小行星谷神星。经过40天的跟踪观测后，由于谷神星运行至太阳背后，使得皮亚齐失去了谷神星的位置。随后，全世界的科学家利用皮亚齐的观测数据，开始了寻找谷神星之旅。但是，根据大多数人的计算结果来寻找谷神星，都以失败告终。时年24岁的伟大的数学家高斯（C.F.Gauss, 1777－1855）也随即参与了这次的计算。最终德国天文学家奥伯斯（Heinrich Olbers） 创作编号：BG7531400019813488897SX 创作者：别如克* 最小二乘法在曲线拟合中比较普遍。拟合的模型主要有 1.直线型 2.多项式型 3.分数函数型 4.指数函数型 5.对数线性型 6.高斯函数型 ...... 一般对于LS问题，通常利用反斜杠运算“\”、fminsearch或优化工具箱提供的极小化函数求解。在Matlab中，曲线拟合工具箱也提供了曲线拟合的图形界面操作。在命令提示符后键入：cftool，即可根据数据，选择适当的拟合模型。 “\”命令 1.假设要拟合的多项式是：y=a+b*x+c*x^ 2.首先建立设计矩阵X： X=[ones(size(x)) x x^2]; 执行： para=X\y para中包含了三个参数：para(1)=a;para(2)=b;para(3)=c; 这种方法对于系数是线性的模型也适应。 2.假设要拟合：y=a+b*exp(x)+cx*exp(x^2) 设计矩阵X为 X=[ones(size(x)) exp(x) x.*exp(x.^2)]; para=X\y 3.多重回归(乘积回归) 设要拟合：y=a+b*x+c*t，其中x和t是预测变量，y是响应变量。设计矩阵为 X=[ones(size(x)) x t] %注意x,t大小相等！ para=X\y polyfit函数 polyfit函数不需要输入设计矩阵，在参数估计中，polyfit会根据输入的数据生成设计矩阵。 1.假设要拟合的多项式是：y=a+b*x+c*x^2 p=polyfit(x,y,2) 然后可以使用polyval在t处预测： y_hat=polyval(p,t) polyfit函数可以给出置信区间。 [p S]=polyfit(x,y,2) %S中包含了标准差最小二乘法的基本原理和多项式拟合
最小二乘法曲线拟合 原理及matlab实现
最小二乘法圆拟合
数值计算_第6章 曲线拟合的最小二乘法
曲线拟合的最小二乘法讲解
最小二乘法的原理及其应用
最小二乘法的本原理和多项式拟合
最小二乘法拟合原理
最小二乘法多项式拟合
关于曲线拟合与最小二乘法原理的探讨
曲线拟合的最小二乘法
利用最小二乘法求解拟合曲线
最小二乘法曲线拟合原理及maab实现
【开题报告】浅谈最小二乘法的原理及其应用
最小二乘法求拟合曲线(带测试数据)
曲线拟合的最小二乘法
曲线拟合的最小二乘法论文解读
Matlab最小二乘法曲线拟合
相关主题
文本预览