第三章 函数逼近与曲线拟合
1 函数的逼近与基本概念
1.1问题的提出
多数计算机的硬件系统只提供加、减、乘、除四种算术运算指令，因此为了计算大多数有解析表达式的函数的值，必须产生可用四则运算进行计算的近似式，一般为多项式和有理分式函数.实际上，我们已经接触到两种逼近多项式，一种是泰乐多项式，一种是插值多项式.泰乐多项式是一种局部方法，误差分布不均匀，满足一定精度要求的泰乐多项式次数太高，不宜在计算机上直接使用.例如，设()f x 是[1,1]-上的光滑函数，它的Taylor 级数0()k k k f x a x ∞
==∑，
()(0)!
k k f a k =在[1,1]-上收敛。当此级数收敛比较快时，11()()()n n n n e x f x s x a x ++=-≈。这个误差分布是不均匀的。当0x =时，(0)0n e =，而x 离开零点增加时，()n e x 单调增加，在1x =±误差最
大。为了使[1,1]-的所有x 满足()()n f x s x ε-<，必须选取足够大的n ，这显然是不经济的。插值函数出现的龙格现象表明，非节点处函数和它的插值多项式相差太大。更重要的是，实际中通过观测得到的节点数据往往有各种误差，此时如果要求逼近函数过全部节点，相当于保留全部数据误差，这是不适宜的。如图1所示，给出五个点上的实验测量数据，理论上的结果应该满足线性关系，即图1中的实线。由于实验数据的误差太大，不能用过任意两点的直线逼近函数。如果用过5个点的4次多项式逼近线性函数，显然误差会很大。
实验数据
真函数
插值多项式逼近
精确的线性逼近
图1
1.2范数与逼近
一、线性空间及赋范线性空间
要深入研究客观事物，不得不研究事物间的内在联系，给集合的元素之间赋予某种“确定关系”也正是这样的道理.数学上常把在各种集合中引入某些不同的确定关系称为赋予集合以某种空间结构，并将这样的集合称为空间.最常用的给集合赋予一种“加法”和“数乘”运算，使其构成线性空间.例如将所有实n 维数对组成的集合，按照“加法”和“数乘”运算构成实
数域上的线性空间，记作n R ，称为n 维向量空
间.类似地，对次数不超过n 的实系数多项式全体，按通常多项式与多项式加法及数与多项式乘法也构成数域R 上一个线性空间，用n H 表示，
称为多项式空间.所有定义在[,]a b 上的连续函数集合，按函数加法和数与函数乘法构成数域
R 上的线性空间，记作[,]C a b .类似地，记[,]
p C a b 为具有p 阶连续导数的函数空间.
在实数的计算问题中，对实数的大小、距离
及误差界等是通过绝对值来度量的.实践中，我们常常会遇到对一般线性空间中的向量大小和向量之间的距离进行度量的问题，因此有必要在一般线性空间上，赋予“长度”结构，使线性空间成为赋范线性空间.
定义1 设X 是数域K 上一个线性空间，在其上定义一个实值函数
，即对于任意,x y X ∈及K α∈，有对应的实数x 和y ，满足下列条件
(1) 正定性：
0x ≥，而且0x =当且仅当0x =；
(2) 齐次性：
x x αα=；
(3) 三角不等式：x y x y +≤+；
称
为X 上的范数，定义了范数的线性空间就称为赋范线性空间.
以上三个条件刻划了“长度”、“大小”及“距离”的本质，因此称为范数公理.
对n X 上的任一种范数 ，n X ?∈x,y ，显然有
±≥-x y x y .
n R 上常用的几种范数有：
(1) 向量的∞-范数：1max i i n
x ∞≤≤=x
(2) 向量的1-范数：11n i i x ==∑x
(3) 向量的2-范数：12221()n i
i x ==∑x (4) 向量的p -
范数：11()n p p
i p i x ==∑x
其中[1,)p ∈∞
，可以证明向量函数()p N x x ≡是n R 上向量的范数.
前三种范数是p -范数的特殊情况
（lim p p ∞→∞
=x x ）.我们只需表明(1).事实上
1111111max max max n n p p
p p i i i i i n i n i n i i x x x x ≤≤≤≤≤≤==????≤≤≤ ? ?????
∑∑
及max 1p →∞=，故由数学分析的夹逼定理
有1l i m m a x i p p i n
x ∞→∞≤≤==x x 。 类似地对连续函数空间[,]C a b ，可定义三种常用范数：
(1) ∞-范数：max ()a x b
f f x ∞≤≤= (2) 1-范数：1()b
a f
f x dx =?
(3) 2-范数：()122
2()b a f f x dx =? 可以验证这样定义的范数均满足定义1中的三个条件.
二、内积与内积空间
在线性空间中，仅规定了加法与数乘两种运算.为了使线性空间中的向量元素之间具有夹角的概念，我们需引入第三种运算—内积.
定义2 设X 是数域K (R 或C )上的线性空间，对,u v X ?∈有K 中一个数与之对应，记为(,)u v ，它满足以下条件——内积公理：
(1)共轭对称性：(,)(,), ,u v v u u v X =?∈
(2)第一变元线性：
(,)(,)(,), ,,,,u v w u w v w u v w αβαβαβ+=+?∈?∈K X
(3)正定性：
(,)0u u ≥,当且仅当0u =时,(,)0u u = 则称二元函数(,)u v 为X 上u 与v 的内积.定义了内积的线性空间称为内积空间.当X 实线性空间，称X 是实内积空间；当X 复线性空间，称X
是复内积空间.
如果(,)0u v =，则称u 与v 正交，这是n R 中向量
相互垂直概念的推广.
定理1设X 为一个内积空间，对,u v X ?∈，有
2(,)(,)(,)u v u u v v ≤ (1.1)
称为Cauchy-Schwarz 不等式.
证明 设0v ≠，则(,)0v v >，对如何实数λ有
20(,)(,)2(,)(,)u v u v u u u v v v λλλλ≤++=++ 取(,)(,)u v v v λ=-，代入上式右端，得
22(,)(,)(,)20(,)(,)
u v u v u u v v v v -+≥ 即(1.1)式得证.当0v =时，(1.1)式显然成立.
定理2 设X 为一个内积空间，1,,n u u X ∈ ，矩阵
112111222212(,)(,)(,)(,)(,)(,)(,)(,)(,)n n n n n n u u u u u u u u u u u u G u u u u u u ??????=??????
(1.2) 称为克莱姆（Gramer ）矩阵，则G 非奇异的充分必要条件是12,,,n u u u 线性无关.
证明 G 奇异?存在非零向量1(,)T n a a =a ，使得0=Ga .即
111111(,)(,)0(,)(,)n n j j j j j j n n j n j j j n j j u u a a u u u u a a u u ====???? ? ? ? ? ? ?== ? ? ? ? ? ?????
∑∑∑∑ 1
111(,)0,1,,(,)0
n
j j k j n n j j j j j j n
j j j a u u k n
a u a u a u ====?==?=?=∑∑∑∑
即12,,,n u u u 线性相关. □
定理3（Gram-Schmidt 正交化方法）如果12{,,,}n u u u 是内积空间X 中一个线性无关的序列，则可按照公式
1111,(,),2,,(,)i i k i i k k k k v u u u v u v i n v v -==???=-=??
∑ (1.3) 产生一个正交序列12{,,,}n v v v ，满足(,)0i j v v = ()i j ≠，而且此序列是12span{,,,}n u u u 的一组基.
在内积空间X 上可以由内积导出一种范数，即对于u X ∈，记
u =容易验证它满足范数的定义，其中三角不等式可以由定理1证明.
例1 n R 与n C 的内积.设T 1,,(,,)n n x y R x x x ∈= ，
T 1(,,)n y y y = ，则内积可定义为
1()n
i i i x y ==∑x,y (1.4)
由此导出向量2-范数为
2==x 若给定实数0 (1,,)i i n ω>= ，称{}i ω为权系数，
则在n R 上可定义加权内积为
1()n
i i i i x y ω==∑x,y (1.5)
相应的范数为
2=x 不难验证(1.5)给出的()x,y 满足内积定义3.2的条件.当 1 (1,,)i i n ω== 时，(1.5)就是(1.4).
如果,n x y C ∈，带权内积定义为
1()n
i i i i x y ω==∑x,y
其中i ω仍为正实数序列，i y 为i y 的共轭.
也可以在[,]C a b 上定义带权的内积，为此，我们先给出权函数的定义.
定义3 设[,]a b 是有限或无限区间，在[,]a b 上的非负函数()x ρ满足条件：
(1)()b k a x x dx ρ<∞?存在且为有限值(0,1,)k = ；
(2) 对[,]a b 上的非负连续函数()g x ，如果()()0b a x g x d x ρ=?
，则()0g x ≡. 则称()x ρ是区间[,]a b 上的一个权函数.
从定义可看出：1）()x ρ为[,]a b 上的非负可积函数，且当[,]a b 为无限区间时，要求()x ρ具有任意的衰减性；2）在[,]a b 的任一子区间上()x ρ不恒等于零.
例2 [,]C a b 上的内积.设(),()[,]f x g x C a b ∈，()x ρ是[,]a b 上给定的权函数，则可定义内积
((),())()()()b
a f x g x x f x g x dx ρ=? 容易验证它满足内积定义的四条性质，由此内积导出的范数为
112
2
22()((),())()()b a f x f x f x x f x dx ρ??==????
? 分别称为带权()x ρ的内积和范数，特别常用的是()1x ρ≡的情形，即 ((),())()()b
a f x g x f x g x dx =? 12
2
2()()b a f x f x dx ??=?????
三、逼近
用简单函数组成的函数类M 中“接近”于()f x
的函数()
p x是()
f x的一
f x，称()
p x近似地代替()
个逼近，()
f x称为被逼近函数，两者之差
=-(1.6)
E x f x p x
()()()
称为逼近的误差或余项.
这里必须表明两点：其一是函数类M的选取.何为简单函数？在数值分析中所谓简单函数主要是指可以用四则运算进行计算的函数，最常用的有多项式及有理分式函数；其二是如何确定p与f之间的度量.
定义4设X为定义在区间[,]
a b上某类函数组成的线性赋范空间，()
f x是X中给定的函数，若在函数类[,]
∈，
p x M
M a b
?中，求得函数()
使逼近误差()()()
E x f x p x
=-满足下列不等式
=-≤(1.7)
E f pε
则称()
f x满足精度ε的一
p x是函数类M中对()
致逼近.
定义5设X为定义在区间[,]
a b上某类函数组成的线性赋范空间，()
f x是X中给定的函数，若在函数类[,]
∈，
p x M
M a b
?中，求得函数()
使逼近误差()()()
=-满足下列不等式
E x f x p x
22E f p ε=-≤ (1.8)
则称()p x 是函数类M 中对()f x 满足精度ε的平方逼近.
定义6 设X 是一线性赋范空间，M 是X 的一个子集.如果对于X 中给定的f ，在M 中存在一
元素*?，使得
*inf
M
f f ???∈-=- (1.9) 则称*?是M 中对f 的最佳逼近.
特别地，若
∞?=?，称为最佳一致逼近；若
2?=?，称为最佳平方逼近.
本章讨论最佳一致逼近及最佳平方逼近是否存在？是否唯一？如何构造最佳逼近等.
2 曲线拟合的最小二乘法
在生产实际和科学实验中有很多函数，它的解析表达式是不知道的，仅能通过实验观察的方法测得一系列节点上的值i y 。即得到一组数
据或者说一组点(,),0,1,,i i x y i m = 。现在的问题是寻求()f x 的近似表达式()y x ?=，用几何语言
来说就是寻求一条曲线()y x ?=来拟合（平滑）这m 个点，简言之求一曲线拟合。
一般给定数据点(,)i i x y 的数量较大，且准确程度不一定高，甚至于个别点有很大的误差，形象地称之为“噪音”。若用插值法求之，欲使()y x ?=满足插值条件，势必将“噪音”带进近似函数()y x ?=，因而不能较好地描绘()y x ?=。曲线拟合是求近似函数的又一类数值方法。它不要求函数在节点处与函数同值，即不要求近似曲线过已知点，只要求它尽可能反映给定数据点的基本趋势，在某种意义下“逼近”函数。下面我们先举例说明。
例1 给定一组数据如下：
求,x y 的函数关系。
解 先作草图。如图2所示，这些点的分布接近一条直线，因此可设想y 为x 的一次函数。设
10y a x a =+ (2.1)
从图2不难看出，无论01,a a 取何值，直线都不
可能同时过全部数据点。怎样选取01,a a ，才能
使直线(2.1)“最好”地反映数据点的基本趋势？首先要建立好的标准。
假设01,a a 已经确定，*10 (1,2,3,4)i i y a x a i =+=为由近似函数求得的近似值，它与观测值i y 之差
*10 (1,2,3,4)i i i i i y y y a x a i δ=-=--=
称为残差。显然，残差的大小可作为衡量近似函数好坏的标准。常用的准则有以下三种：
(1)使残差的绝对值之和最小，即min i i
δ∑；
(2)使残差的最大绝对值最小，即min max i i δ；
图2
(3)使残差的平方和最小，即2min i i
δ∑。
准则(1)的提出很自然，也合理，但实际适用不方便。按准则(2)来求近似函数的方法称为函数的最佳一致逼近。按准则(3)确定参数，求得近似函数的方法称为最佳平方逼近，也称曲线拟合（或数据拟合）的最小二乘法。它的计算比较简便，是实践中常用的一种函数比较方法。
2.1最小二乘原理
根据给定的数据组(,)(0,1,,)i i x y i m = ，选取近似函数形式，即选择函数类01span{,,,}n H ???= ,求函数**
0()()n
j j j S x a x H ?==∈∑，使得
2*22000
[()]min [()]m m m i i i i i
H i i i y S x y S x ?δ∈====-=-∑∑∑ 为最小。这种求近似函数的方法称为数据拟合
的最小二乘法，*()S x 称为这组数据的最小二乘
函数。通常取H 为一些比较简单函数的集合。
用最小二乘法求拟合曲线时，最困难和关键的问题是确定*()S x 的形式，这不单纯是数学问
题，还与所研究问题的运动规律及观察数据
(,)i i x y 有关。
通常是画出观察数据的草图，并结合实际问题的运动规律，确定*()S x 的形式。
此外，在实际问题中，由于各点的观测数据精度不同，常常引入加权方差，即确定参数的准则为使得2
1n
i i
i ωδ=∑最小，其中 (1,2,,)i i n ω= 为加权系数（可以是实验次数或i y 的可信程度
等）。
2.2 法方程
在指定的函数类H 中求拟合已知数据的最小二乘解*0()()n
j j j S x a x H ?==∈∑的关键在于确定系
数*(0,1,,)k a k n = 。它可转化为多元函数
20100(,,,)[()]m n
n i i j j i i j I a a a y a x ω?===-∑∑
极小值问题。由极值的必要条件
0 (0,1,,)k
I k n x ?==? ，
得方程组
00[()]()0 (0,1,,)m n i j
j i i k i i j a x y x k n ω??==-==∑∑
即 000
()()()n m m j i
j i k i i i k i j i i a x x y x ω??ω?====∑∑∑ 记
00(,)()(),(,)()m m
j k i j i k i k i i k i i i x x y y x ??ω???ω?====∑∑
则法方程组为
=Ga d (2.2)
其中[]T 0,,n a a =a ，[]T 0(,),,(,)n f f ??=d ,
000101011101(,)(,)(,)(,)(,)(,)(,)(,)(,)n n n n n n ????????????????????????=??????
G 必须指出的是：由函数族的线性无关性，不能保证以上矩阵非奇异。为保证G 非奇异，必须附加另外的条件。
定义7 设01,,,[,]n C a b ???∈ 的任意线性组合
在点集{,0,1,,}()i X x i m m n ==≥ 上至多只有n 个不同的零点，则称01,,,n ??? 在点集
{,0,1,,i X x i m ==
上满足哈尔（Haar ）条件。 显然1,,,n x x 在任意()m m n ≥个点上满足哈尔条件。
可以证明，如果01,,,n ??? 在点集
{,0,1,,}i X x i m == 上满足哈尔（Haar ）条件，则法方程(2.2)的系数矩阵G 非奇异，于是方程
(2.2)存在惟一的解*0{}n k k a =，
从而可获得最小二乘拟合函数**
0()()n
j j j S x a x ?==∑。可以证明这样得到
的*()S x 的确是最小二乘解。
2.3 常用的拟合方法
一、多项式拟合
数据是(,)(0,1,i i x y i m = ，1,()i i i x x ω?== (0,1,,i n = 。法方程为
101 (0,1,,)n
m n k j j k i i i i k i a x y x j n +===??== ???∑∑∑
即
010002101000012010000
(1) m m m n i n i i i i i m m m m n i i n i i i i i i i m m m n
n n n n
i i n
i i i i i i i m a a x a x y a x a x a x y x a x a x a x y x ===+====+====?++++=???+++=?????+++=??∑∑∑∑∑∑∑∑∑∑∑
(2.3) 例2 求数据表
5 6 7 8 9
0 0.25 0.5 0.75 1
2.0003 2.5645
3.1334 3.7601
4.2836
的最小二乘二次拟合多项式。
解 二次拟合多项式为22012()P x a a x a x =++，将
数据代入正则方程组(2.3)，可得
0210290 3.7518.1724
0 3.7508.48423.750 2.76567.6173
a a a
a a ++=??++=??++=?
曲线拟合的数值计算方法实验 【摘要】实际工作中，变量间未必都有线性关系，如服药后血药浓度与时间的关系；疾病疗效与疗程长短的关系；毒物剂量与致死率的关系等常呈曲线关系。曲线拟合（curve fitting）是指选择适当的曲线类型来拟合观测数据，并用拟合的曲线方程分析两变量间的关系。曲线直线化是曲线拟合的重要手段之一。对于某些非线性的资料可以通过简单的变量变换使之直线化，这样就可以按最小二乘法原理求出变换后变量的直线方程，在实际工作中常利用此直线方程绘制资料的标准工作曲线，同时根据需要可将此直线方程还原为曲线方程，实现对资料的曲线拟合。常用的曲线拟合有最小二乘法拟合、幂函数拟合、对数函数拟合、线性插值、三次样条插值、端点约束。 关键词曲线拟合、最小二乘法拟合、幂函数拟合、对数函数拟合、线性插值、三次样条插值、端点约束 一、实验目的 1.掌握曲线拟合方式及其常用函数指数函数、幂函数、对数函数的拟合。 2.掌握最小二乘法、线性插值、三次样条插值、端点约束等。 3.掌握实现曲线拟合的编程技巧。 二、实验原理 1.曲线拟合 曲线拟合是平面上离散点组所表示的坐标之间的函数关系的一种数据处理方法。用解析表达式逼近离散数据的一种方法。在科学实验或社会活动中，通过 实验或观测得到量x与y的一组数据对（X i ，Y i )（i=1，2，...m），其中各X i 是彼此不同的。人们希望用一类与数据的背景材料规律相适应的解析表达式，y=f(x，c）来反映量x与y之间的依赖关系，即在一定意义下“最佳”地逼近或 拟合已知数据。f(x，c)常称作拟合模型，式中c=(c 1，c 2 ，…c n )是一些待定参 数。当c在f中线性出现时，称为线性模型，否则称为非线性模型。有许多衡量拟合优度的标准，最常用的一种做法是选择参数c使得拟合模型与实际观测值在
第十三章 数据拟合与函数逼近 数据拟合与函数逼近涉及到许多内容与方法，从不同角度出发，也有多种叫法。这一章，我们主要通地线性拟合而引出最小乘法这一根本方法。 13.1 数据拟合概念与直线拟合 插值法是一种用简单函数近似代替较复杂函数的方法，它的近似标准是在插值点处的误差为零。但有时，我们不要求具体某些点的误差为零，而是要求考虑整体的误差限制。对了达到这一目的，就需要引入拟合的方法，所以数据拟合与插值相比： 数据拟合--不要求近似 函数过所有的数据点，而要求它反映原函数整体的变化趋势。 插值法--在节点处取函数值。 实际给出的数据，总有观测误差的，而所求的插值函数要通过所有的节点，这样就会保留全部观测误差的影响，如果不是要求近似函数过所有的数据点，而是要求它反映原函数整的变化趋势，那么就可以用数据拟合的方法得到更简单活用的近似函数。 13.1.1 直线拟合 由给定的一组测定的离散数据(,)i i x y （1,2,,i N = ），求自变量x 和因变量y 的近似表达式()y x ?=的方法。影响因变量y 只有一个自变量x 的数据拟合方法就是直线拟合。 直线拟合最常用的近似标准是最小二乘原理，它也是流行的数据处理方法之一。 直线拟合步骤如下： (1) 做出给定数据的散点图（近似一条直线）。 (2) 设拟合函数为： i bx a y +=* (13.1.1) 然后，这里得到的*i y 和i y 可能不相同，记它们的差为： i i i i i bx a y y y --=-=* δ (13.1.2) 称之为误差。在原始数据给定以后，误差只依赖于b a ,的选取，因此，可以把误差的大小作为衡量b a ,的选取是否优良的主要标志。
《数值分析》课程实验一：插值与拟合 一、实验目的 1. 理解插值的基本原理，掌握多项式插值的概念、存在唯一性； 2. 编写MA TLAB 程序实现Lagrange 插值和Newton 插值，验证Runge 现象； 3. 通过比较不同次数的多项式拟合效果，理解多项式拟合的基本原理； 4. 编写MA TLAB 程序实现最小二乘多项式曲线拟合。 二、实验内容 1. 用Lagrange 插值和Newton 插值找经过点(-3, -1), (0, 2), (3, -2), (6, 10)的三次插值公式，并编写MATLAB 程序绘制出三次插值公式的图形。 2. 设 ]5,5[,11 )(2 -∈+= x x x f 如果用等距节点x i = -5 + 10i /n (i = 0, 1, 2, …, n )上的Lagrange 插值多项式L n (x )去逼近它。不妨取n = 5和n = 10，编写MATLAB 程序绘制出L 5(x )和L 10(x )的图像。 (2) 编写MA TLAB 程序绘制出曲线拟合图。 三、实验步骤 1. (1) Lagrange 插值法：在线性空间P n 中找到满足条件： ?? ?≠===j i j i x l ij j i , 0,, 1)(δ 的一组基函数{}n i i x l 0)(=，l i (x )的表达式为 ∏ ≠==--= n i j j j i j i n i x x x x x l ,0),,1,0()( 有了基函数{}n i i x l 0)(=，n 次插值多项式就可表示为 ∑==n i i i n x l y x L 0 )()( (2) Newton 插值法：设x 0, x 1, …, x n 是一组互异的节点，y i = f (x i ) (i = 0, 1, 2, …, n )，f (x )在处的n 阶差商定义为
第三章 函数逼近与曲线拟合 1 函数的逼近与基本概念 1.1问题的提出 多数计算机的硬件系统只提供加、减、乘、除四种算术运算指令，因此为了计算大多数有解析表达式的函数的值，必须产生可用四则运算进行计算的近似式，一般为多项式和有理分式函数.实际上，我们已经接触到两种逼近多项式，一种是泰乐多项式，一种是插值多项式.泰乐多项式是一种局部方法，误差分布不均匀，满足一定精度要求的泰乐多项式次数太高，不宜在计算机上直接使用.例如，设()f x 是[1,1]-上的光滑函数，它的Taylor 级数0()k k k f x a x ∞ ==∑， ()(0)! k k f a k =在[1,1]-上收敛。当此级数收敛比较快时，11()()()n n n n e x f x s x a x ++=-≈。这个误差分布是不均匀的。当0x =时，(0)0n e =，而x 离开零点增加时，()n e x 单调增加，在1x =±误差最
大。
为了使[1,1]-的所有x 满足()()n f x s x ε-<，必须选取足够大的n ，这显然是不经济的。插值函数出现的龙格现象表明，非节点处函数和它的插值多项式相差太大。更重要的是，实际中通过观测得到的节点数据往往有各种误差，此时如果要求逼近函数过全部节点，相当于保留全部数据误差，这是不适宜的。如图1所示，给出五个点上的实验测量数据，理论上的结果应该满足线性关系，即图1中的实线。由于实验数据的误差太大，不能用过任意两点的直线逼近函数。如果用过5个点的4次多项式逼近线性函数，显然误差会很大。 实验数据 真函数 插值多项式逼近 精确的线性逼近 图1
第三章 函数逼近与曲线拟合 1 函数的逼近与基本概念 1.1问题的提出 多数计算机的硬件系统只提供加、减、乘、除四种算术运算指令，因此为了计算大多数有解析表达式的函数的值，必须产生可用四则运算进行计算的近似式，一般为多项式和有理分式函数.实际上，我们已经接触到两种逼近多项式，一种是泰乐多项式，一种是插值多项式.泰乐多项式是一种局部方法，误差分布不均匀，满足一定精度要求的泰乐多项式次数太高，不宜在计算机上直接使用.例如，设 ()f x 是[1,1]-上的光滑函数，它的Taylor 级数0 ()k k k f x a x ∞ ==∑， ()(0) ! k k f a k = 在[1,1]-上收敛。当此级数收敛比较快时，1 1()()()n n n n e x f x s x a x ++=-≈。这个误差分布是不均匀的。当0x =时，(0)0n e =，而x 离开零点增加时，()n e x 单调增加，在1x =±误差最大。为了使[1,1]-的所有x 满足()()n f x s x ε-<，必须选取足够大的n ，这显然是不经 济的。插值函数出现的龙格现象表明，非节点处函数和它的插值多项式相差太大。更重要的是，实际中通过观测得到的节点数据往往有各种误差，此时如果要求逼近函数过全部节点，相当于保留全部数据误差，这是不适宜的。如图1所示，给出五个点上的实验测量数据，理论上的结果应该满足线性关系，即图1中的实线。由于实验数据的误差太大，不能用过任意两点的直线逼近函数。如果用过5个点的4次多项式逼近线性函数，显然误差会很大。
1.2范数与逼近 一、线性空间及赋范线性空间 要深入研究客观事物，不得不研究事物间的内在联系，给集合的元素之间赋予某种“确定关系”也正是这样的道理.数学上常把在各种集合中引入某些不同的确定关系称为赋予集合以某种空间结构，并将这样的集合称为空间。最常用的给集合赋予一种“加法”和“数乘”运算，使其构 成线性空间.例如将所有实 n 维数对组成的集合，按照“加法”和“数乘”运算构成实数域上的线 性空间，记作n R ，称为n 维向量空间.类似地，对次数不超过n 的实系数多项式全体，按通常多项式与多项式加法及数与多项式乘法也构成数域R 上一个线性空间，用n H 表示，称为多项式空间。所有定义在[,]a b 上的连续函数集合，按函数加法和数与函数乘法构成数域R 上的线 性空间，记作[,]C a b .类似地，记[,]p C a b 为具有p 阶连续导数的函数空间. 在实数的计算问题中，对实数的大小、距离及误差界等是通过绝对值来度量的.实践中，我们常常会遇到对一般线性空间中的向量大小和向量之间的距离进行度量的问题，因此有必要在一般线性空间上，赋予“长度”结构，使线性空间成为赋范线性空间. 定义1 设 X 是数域K 上一个线性空间，在其上定义一个实值函数g ，即对于任意 ,x y X ∈及K α∈，有对应的实数x 和y ，满足下列条件 (1) 正定性：0x ≥，而且0x =当且仅当0x =； (2) 齐次性：x x αα=； (3) 三角不等式：x y x y +≤+； 实验数据 真函数 插值多项式逼近 精确的线性逼近 图1
第三章 曲线拟合与函数逼近 一．曲线拟合 1.问题提出： 已知多组数据(),,1,2,,i i x y i N = ，由此预测函数()y f x =的表达式。 数据特点：（1）点数较多。（2）所给数据存在误差。 解决方法：构造一条曲线反映所给数据点的变化总趋势，即所谓的“曲线拟合”。 2.直线拟合的概念 设直线方程为y=a+bx 。 则残差为：?i i i e y y =-,1,2,,i N = ，其中?i i y a bx =+。 残差i e 是衡量拟合好坏的重要标志。 可以用MATLAB 软件绘制残差的概念。 x=1:6; y=[3,4.5,8,10,16,20]; p=polyfit(x,y,1); xi=0:0.01:7; yi=polyval(p,xi); plot(xi,yi,x,y, 'o'); y1=polyval(p,x); hold on for i=1:6 plot([i,i],[y(i),y1(i)], 'r'); end 可以绘制出如下图形：
三个准则： （1）max i e 最小 （2）1n i i e =∑最小 （3）21 N i i e =∑最小 3.最小二乘法的直线拟合 问题：对于给定的数据点(),,1,2,,i i x y i N = ，求一次多项式y=a+bx ，使得总误差Q 最小。其中()2 21 1 N N i i i i i Q e y a bx ====-+????∑∑。根据 0,0.Q Q a b ??==?? 2222 1 222N i i i i i i i Q y a b x y a y x b x ab =??=++--+??∑
实验二 函数逼近与曲线拟合报告 一、问题提出 从随机的数据中找出其规律性，给出其近似表达式的问题，在生产实践和科学实验中大量存在，通常利用数据的最小二乘法求得拟合曲线。 在某冶炼过程中，根据统计数据的含碳量与时间关系，试求含碳量与时间t 的拟合曲线。 t(分) 0 5 10 15 20 25 30 35 40 45 50 55 4(10)y -? 0 1.27 2.16 2.86 3.44 3.87 4.15 4.37 4.51 4.58 4.02 4.64 二、要求 1、用最小二乘法进行曲线拟合； 2、近似解析表达式为23123()t a t a t a t ?=++； 3、打印出拟合函数()t ?，并打印出()j t ?与()j y t 的误差，1,2,,12j = ； 4、另外选取一个近似表达式，尝试拟合效果的比较； 5、* 绘制出曲线拟合图。 三、目的和意义 1、掌握曲线拟合的最小二乘法； 2、最小二乘法亦可用于解超定线代数方程组； 3、探索拟合函数的选择与拟合精度间的关系。 四、实验学时：2学时 五、实验步骤： 1．进入C 或matlab 开发环境； 2．根据实验内容和要求编写程序； 3．调试程序； 4．运行程序； 5．撰写报告,讨论分析实验结果．
解： 实验步骤 （一）算法流程 构造a1、a2、a3的线性方程组------构造误差平方和------对a1、a2、a3求偏导数------令偏导为零求得a1、a2、a3的值。 （二）编程步骤与分析 1. 绘制数据点(t,yi)的散点图 输入程序为： t=[0 5 10 15 20 25 30 35 40 45 50 55]; y=[0 1.27 2.16 2.86 3.44 3.87 4.15 4.37 4.51 4.58 4.02 4.64].*1e-4 plot(t,y,'r*'), legend('实验数据(t,yi)') xlabel('x'), ylabel('y'), title('数据点(t,yi)的散点图')，显示结果为： 2.求参数a1、a2、a3的解析表达式 计算)(x f 在),(i i y x 处的函数值，即输入程序 syms a1 a2 a3 t=[0 5 10 15 20 25 30 35 40 45 50 55]; fi=a1.*t+ a2.*t.^2+ a3.*t.^3 运行后屏幕显示关于a1,a2, a3的线性方程组： fi = [ 0, 5*a1 + 25*a2 + 125*a3, 10*a1 + 100*a2 + 1000*a3, 15*a1 + 225*a2 + 3375*a3, 20*a1 + 400*a2 + 8000*a3, 25*a1 + 625*a2 + 15625*a3, 30*a1 + 900*a2 + 27000*a3, 35*a1 + 1225*a2 + 42875*a3, 40*a1 + 1600*a2 + 64000*a3, 45*a1 + 2025*a2 + 91125*a3, 50*a1 + 2500*a2 + 125000*a3, 55*a1 + 3025*a2 + 166375*a3] 构造误差平方和： y=[0 1.27 2.16 2.86 3.44 3.87 4.15 4.37 4.51 4.58 4.02 4.64].*1e-4;
第6章曲线拟合的最小二乘法 6.1 拟合曲线 通过观察或测量得到一组离散数据序列，当所得数据比较准确时，可构造插值函数逼近客观存在的函数，构造的原则是要求插值函数通过这些数据点，即。此时，序列与 是相等的。 如果数据序列，含有不可避免的误差（或称“噪音”），如图6.1 所示；如果数据序列无法同时满足某特定函数，如图6.2所示，那么，只能要求所做逼近函数最优地靠近样点，即向量与的误差或距离最小。按与之间误差最小原则作为“最优”标准构造的逼近函数，称为拟合函数。 图6.1 含有“噪声”的数据 图6.2 一条直线公路与多个景点 插值和拟合是构造逼近函数的两种方法。插值的目标是要插值函数尽量靠近离散点；拟合的目标是要离散点尽量靠近拟合函数。 向量与之间的误差或距离有各种不同的定义方法。例如： 用各点误差绝对值的和表示： 用各点误差按模的最大值表示： 用各点误差的平方和表示： 或（6.1）
其中称为均方误差，由于计算均方误差的最小值的方法容易实现而被广泛采用。按 均方误差达到极小构造拟合曲线的方法称为最小二乘法。本章主要讲述用最小二乘法构造拟合曲线的方法。 在运筹学、统计学、逼近论和控制论中，最小二乘法都是很重要的求解方法。例如，它是统计学中估计回归参数的最基本方法。 关于最小二乘法的发明权，在数学史的研究中尚未定论。有材料表明高斯和勒让德分别独立地提出这种方法。勒让德是在1805年第一次公开发表关于最小二乘法的论文，这时高斯指出，他早在1795年之前就使用了这种方法。但数学史研究者只找到了高斯约在1803年之前使用了这种方法的证据。 在实际问题中，怎样由测量的数据设计和确定“最贴近”的拟合曲线？关键在选择适当的拟合曲线类型，有时根据专业知识和工作经验即可确定拟合曲线类型；在对拟合曲线一无所知的情况下，不妨先绘制数据的粗略图形，或许从中观测出拟合曲线的类型；更一般地，对数据进行多种曲线类型的拟合，并计算均方误差，用数学实验的方法找出在最小二乘法意义下的误差最小的拟合函数。 例如，某风景区要在已有的景点之间修一条规格较高的主干路，景点与主干路之间由各具特色的支路联接。设景点的坐标为点列；设主干路为一条直线 ，即拟合函数是一条直线。通过计算均方误差最小值而确定直线方程（见图6.2）。 6.2线性拟合和二次拟合函数 线性拟合 给定一组数据，做拟合直线，均方误差为 （6.2） 是二元函数，的极小值要满足 整理得到拟合曲线满足的方程：
函数逼近与曲线拟合 3.１函数逼近的基本概念 3.1.1 函数逼近与函数空间 在数值计算中常要计算函数值，如计算机中计算基本初等函数及其他特殊函数；当函数只在有限点集上给定函数值，要在包含该点集的区间上用公式给出函数的 简单表达式，这些都涉及到在区间上用简单函数逼近已知复杂函数的问题，这就是函数逼近问题．上章讨论的插值法就是函数逼近问题的一种．本章讨论的函数逼近，是指“对函数类Ａ中给定的函数，记作，要求在另一类简单的便于计算的函数类Ｂ中求函数，使与的误差在某种度量意义下最小”．函数类Ａ通常是区间上的连续函数，记作，称为连续函数空间，而函数类Ｂ通常为n次多项式，有理函数或分段低次多项式等．函 数逼近是数值分析的基础，为了在数学上描述更精确，先要介绍代数和分析中一些基本概念及预备知识． 数学上常把在各种集合中引入某些不同的确定关系称为赋予集合以某种空间结构，并将为样的集合称为空间．例如将所有实n维向量组成集合，按向量加法及向量与数的乘法构成实数域上的线性空间，记作，称为n维向量空间．类似地，对次数不超过n（n为正整数）的实系数多项式全体，按通常多项式与多项式加法及数与多项式乘法也构成数域上的一个线性空间，用表示，称为多项式空间．所有定义在上的连续函数集合，按函数加法和数与函数乘法构 成数域上的线性空间，记作．类似地，记为具有p阶的连续导数的函数空间． 定义１设集合Ｓ是数域Ｐ上的线性空间，元素，如果存在不全为零的数，使得
， (3.1.1)则称线性相关．否则，若等式(3.1.1)只对成立，则称线性无关． 若线性空间Ｓ是由n个线性无关元素生成的，即对都有 则称为空间Ｓ的一组基，记为，并称空间Ｓ为n维空间，系数称为x在基下的坐标，记作，如果Ｓ中有无限个线性无关元素，…，则称Ｓ为无限维线性空间． 下面考察次数不超过n次的多项式集合，其元素表示为 ， (3.1.2）它由个系数唯一确定．线性无关，它是的一组基，故，且是的坐标向量，是维的．对连续函数，它不能用有限个线性无关的函数表示，故是无限维的，但它的任一元素均可用有限维的逼近，使误差 （为任给的小正数），这就是著名的Weierstrass定理．定理１（Weierstrass）设，则对任何，总存在一个代数多项式，使
数值分析法 相关知识 在生产和科学实验中，自变量x 与因变量y 间的函数关系()y f x =有时不能写出解析表达式，而只能得到函数在若干点的函数值或导数值，或者表达式过于复杂而需要较大的计算量。当要求知道其它点的函数值时，需要估计函数值在该点的值。 为了完成这样的任务，需要构造一个比较简单的函数()y x ?=，使函数在观测点的值等于已知的值，或使函数在该点的导数值等于已知的值，寻找这样的函数()y x ?=有很多方法。根据测量数据的类型有以下两类处理观测数据的方法。 （1）测量值是准确的，没有误差，一般用插值。 （2）测量值与真实值有误差，一般用曲线拟合。 曲线拟合法 已知离散点上的数据集1122{(,),(,),,(,)}n n x y x y x y ，即已知在点集12{,,,}n x x x 上的函数值12{,,,}n y y y ，构造一个解析函数（其图形为一曲线）使()f x 在原离散点 i x 上尽可能接近给定的i y 值，这一过程称为曲线拟合。 曲线拟合的一般步骤是先根据实验数据，结合相关定律，将要寻求的最恰当的拟合曲线方程形式预测出来，再用其他的数学方法确定经验公式中的参数。 对于事先给定的一组数据，确定经验公式一般可分为三步进行： (1)、确定经验公式的形式：根据系统和测定的数据的特点，并参照已知图形的特点确定经验公式的形式。 （2）、确定经验公式中的待定系数：计算待定系数的方法有许多常用的法有图示法、均值法、差分法、最小二乘法、插值法等。 （3）、检验：求出经验公式后，还要将测定的数据与用经验公式求出的理论
数据作比较，验证经验公式的正确性，必要时还要修正经验公式。 关于确定经验公式的形式，可从以下几个方面入手： （1）、利用已知的结论确定经验公式形式，如由已知的胡克定律可以确定在一定条件下，弹性体的应变与应力呈线性关系等。 （2）、从分析实验数据的特点入手，将之与已知形式的函数图形相对照，确定经验公式的形式。 （3）、描点作图法：将已知的点用光滑的曲线连接起来，寻找曲线的形式。 （4）、多项式近似、线性插值或样条插值等。多项式近似是工程中十分常见的方法，它首先需要确定多项式的次数，一般可以用差分法、差商法来估计。 <一>、差分方程法 <1>、差分方程：差分方程反映的是关于离散变量的取值与变化规律。通过建立一个或几个离散变量取值所满足的平衡关系，从而建立差分方程。 (1)、说明：差分方程就是针对要解决的目标，引入系统或过程中的离散变量，根据实际背景的规律、性质、平衡关系，建立离散变量所满足的平衡关系等式，从而建立差分方程。通过求出和分析方程的解，或者分析得到方程解的特别性质（平衡性、稳定性、渐近性、振动性、周期性等），从而把握这个离散变量的变化过程的规律，进一步再结合其他分析，得到原问题的解。 (2)、应用：差分方程模型有着广泛的应用。实际上，连续变量可以用离散变量来近似和逼近，从而微分方程模型就可以近似于某个差分方程模型。差分方程模型有着非常广泛的实际背景。在经济金融保险领域、生物种群的数量结构规律分析、疾病和病虫害的控制与防治、遗传规律的研究等许许多多的方面都有着非常重要的作用。可以这样讲，只要牵涉到关于变量的规律、性质，就可以适当地用差分方程模型来表现与分析求解。
数值分析 课程设计报告 学生姓名 学生学号 所在班级 指导教师
一、课程设计名称 函数逼近与曲线拟合 二、课程设计目的及要求 实验目的： ⑴学会用最小二乘法求拟合数据的多项式，并应用算法于实际问题。 ⑵学会基本的矩阵运算，注意点乘和叉乘的区别。 实验要求： ⑴编写程序用最小二乘法求拟合数据的多项式，并求平方误差，做出离散函数（x i ,y i ）和拟合函数的图形； ⑵用MATLAB 的内部函数polyfit 求解上面最小二乘法曲线拟合多项式的系数及平方误差，并用MATLAB 的内部函数plot 作出其图形，并与（1）结果进行比较。 三、课程设计中的算法描述 用最小二乘法多项式曲线拟合，根据给定的数据点，并不要求这条曲线精确的经过这些点，而是拟合曲线无限逼近离散点所形成的数据曲线。 思路分析：从整体上考虑近似函数)(x p 同所给数据点） （i i y x ,误差i i i y x p r -=)(的大小，常用的方法有三种：一是误差i i i y x p r -=)(绝对值的最大值i m i r ≤≤0max ，即误差向量的无穷范数；二是误差绝对值的和∑=m i i r 0 ，即误差向量的1 范数；三是误差平方和∑=m i i r 0 2的算术平方根，即类似于误差向量的2范数。前两 种方法简单、自然，但不便于微分运算，后一种方法相当于考虑2范数的平方，此次采用第三种误差分析方案。 算法的具体推导过程： 1.设拟合多项式为： y =a 0+a 1x +a 2x 1+?+a k x k 2.给点到这条曲线的距离之和，即偏差平方和：
R 2= y i ? a 0+a 1x +?+a k x i k 2 n i =1 3.为了求得到符合条件的a 的值，对等式右边求a i 偏导数，因而我们得到了： ?2 y ? a 0+a 1x +?+a k x i k n i =1x =0 ?2 y ? a 0+a 1x +?+a k x i k n i =1 =0 ?? ?2 y ? a 0+a 1x +?+a k x i k x k n i =1 =0 4.将等式左边进行一次简化，然后应该可以得到下面的等式 a 0n +a 1 x i +?+a k x i k n i =1n i =1 a 0 x i +a 1 x i 2+?+ x i k +1n i =1 n i =1n i =1 a 0 x i k +a 1 x i k +1+?+a k x i 2k n i =1 n i =1 n i =1 5.把这些等式表示成矩阵的形式，就可以得到下面的矩阵： ????????? ???????????=???? ????????????????????????????∑∑∑∑∑∑∑∑∑∑∑=====+==+====n i i n i n i i k n i k i n i k i n i k i n i k i n i i n i i n i k i n i i y y y a a x x x x x x x x 11i 1 10121 11 1112111 a n 6. 将这个范德蒙得矩阵化简后得到 ?? ???? ??????=?????????????????? ??? ??? ? ?n k k n n k k y y y a a a x x x x x x 21102211111 7.因为Y A X =*,那么X Y A /=,计算得到系数矩阵，同时就得到了拟合曲线。
曲线拟合的数值计算方 法实验 Document serial number【UU89WT-UU98YT-UU8CB-UUUT-UUT108】
曲线拟合的数值计算方法实验 【摘要】实际工作中，变量间未必都有线性关系，如服药后血药浓度与时间的关系；疾病疗效与疗程长短的关系；毒物剂量与致死率的关系等常呈曲线关系。曲线拟合（curve fitting）是指选择适当的曲线类型来拟合观测数据，并用拟合的分析两变量间的关系。曲线直线化是曲线拟合的重要手段之一。对于某些非线性的资料可以通过简单的变量变换使之直线化，这样就可以按原理求出变换后变量的，在实际工作中常利用此直线方程绘制资料的标准工作曲线，同时根据需要可将此直线方程还原为，实现对资料的曲线拟合。常用的曲线拟合有最小二乘法拟合、幂函数拟合、对数函数拟合、线性插值、三次样条插值、端点约束。 关键词曲线拟合、最小二乘法拟合、幂函数拟合、对数函数拟合、线性插值、三次样条插值、端点约束 一、实验目的 1.掌握曲线拟合方式及其常用函数指数函数、幂函数、对数函数的拟合。 2.掌握最小二乘法、线性插值、三次样条插值、端点约束等。
3.掌握实现曲线拟合的编程技巧。 二、实验原理 1.曲线拟合 曲线拟合是平面上离散点组所表示的坐标之间的函数关系的一种数据处理方法。用解析表达式逼近的一种方法。在或社会活动中，通过实验或观测得到量x 与y 的一组数据对（X i ，Y i )（i=1，2，...m ），其中各X i 是彼此不同的 。人们希望用一类与数据的背景材料规律相适应的解析表达式，y=f(x ，c ）来反映量x 与y 之间的依赖关系，即在一定意义下“最佳”地逼近或拟合已知数据。f(x ，c)常称作拟合模型 ，式中c=(c 1，c 2，…c n )是一些待定参数。当c 在f 中出现时，称为线性模型，否则称为。有许多衡量拟合优度的标准，最常用的一种做法是选择参数c 使得拟合模型与实际在各点的(或)，c）-f （f y e k k k 的平方和达到最小，此时所求曲线称作在加权最小二乘意义下对数据的拟合曲线。有许多求解拟合曲线的成功方法，对于线性模型一般通过建立和求解来确定参数，从而求得拟合曲线。至于，则要借助求解非线性方程组或用最优化方法求得所需参数才能得到拟合曲线，有时称之为非线性。 曲线拟合：与路径转化时的误差。值越大，误差越大；值越小，越精确。 2.最小二乘法拟合：
西安科技大学 《数值分析》 实验报告 题目：函数逼近与曲线拟合 院系（部）：计算机科学与技术学院 专业及班级： 姓名： 学号 日期：2019/11/11
一、实验名称 函数逼近与曲线拟合 二、实验目的及要求 实验目的： ⑴学会用最小二乘法求拟合数据的多项式，并应用算法于实际问题。 实验要求： ⑴编写程序用最小二乘法求拟合数据的多项式，并求平方误差，做出离散函数（）和拟合函数的图形； ⑵用MATLAB的内部函数polyfit求解上面最小二乘法曲线拟合多项式的系数及平方误差，并用MATLAB的内部函数plot作出其图形，并与（1）结果进行比较。 三、实验中的算法描述 1.设拟合多项式为： 2.给点到这条曲线的距离之和，即偏差平方和： 3.为了求得到符合条件的a的值，对等式右边求偏导数，因而我们得到了： 4.将等式左边进行一次简化，然后应该可以得到下面的等式
5.把这些等式表示成矩阵的形式，就可以得到下面的矩阵： ????????? ???????????=???? ????????????????????????????∑∑∑∑∑∑∑∑∑∑∑=====+==+====n i i n i n i i k n i k i n i k i n i k i n i k i n i i n i i n i k i n i i y y y a a x x x x x x x x 11i 1 10121 11 1112111 a n 6. 将这个范德蒙得矩阵化简后得到 ?? ??? ? ??????=???????????????????????? ??n k k n n k k y y y a a a x x x x x x 21102 211111 7.因为Y A X =*,那么X Y A /=,计算得到系数矩阵，同时就得到了拟合曲线。 四、课程设计内容 ⑴实验环境：MATLAB2010b ⑵实验内容：给定的数据点（ ） 1) 用最小二乘法求拟合数据的多项式； 2) 用MATLAB 内部函数polyfit 函数进行拟合。 3) 实验步骤 1)首先根据表格中给定的数据，用MATLAB 软件画出数据的散点图（图1）。 2)观察散点图的变化趋势，近似于二次函数。则用二次多项式进行拟合，取一组基函数 ,并令 ，其中 是待定系数 。 3)用MATLAB 程序作线性最小二乘法的多项式拟合，求待定系数。
数值分析第二次实验报告 姓名：董安葳 学号：5123119 题目：曲线拟合的最小二乘法 实验方法：根据书中最小二乘法的定义，自行设计算法编写matlab函数文件zuixiaoerchengnihe.m，然后通过调用自己编写的函数来解决实际问题。 实验过程： 1．实验代码： zuixiaoerchengnihe.m function zuixiaoerchengnihe(X,Y,n) %X,Y为实验数据，分别为两个向量，由用户输入，n为所要求的拟合曲线的次数[b,a]=size(X); G=zeros(n+1,n+1); %法方程的矩阵G d=zeros(n+1,1); %法方程的矩阵d for ii=1:n+1 for jj=ii:n+1 for kk=1:a; G(ii,jj)=G(ii,jj)+X(1,kk)^(ii+jj-2); %通过循环计算矩阵G的上三角 end G(jj,ii)=G(ii,jj); %矩阵G是对称矩阵，所以下三角的值直接拷贝上三角的值 end for pp=1:a d(ii,1)=d(ii,1)+Y(1,pp)*X(1,pp)^(ii-1); %通过循环计算矩阵d end end jielun=(G^(-1))*d %解法方程，输出为拟合曲线的系数向量 %将所得系数向量通过循环输出将标准的拟合曲线方程输出 fprintf('f(x)=') for ii=1:n+1 fprintf([num2str(jielun(ii,1)) 'x' '^' num2str(ii-1)]) if ii~=n+1 fprintf('+') end end fprintf('\n') 2．调用方法和输出结果： P95第十六题：
第一章 绪 论 本章以误差为主线，介绍了计算方法课程的特点，并概略描述了与算法相关的基本概 念，如收敛性、稳定性，其次给出了误差的度量方法以及误差的传播规律，最后，结合数值实验指出了算法设计时应注意的问题． §1.1 引 言 计算方法以科学与工程等领域所建立的数学模型为求解对象，目的是在有限的时间段内 利用有限的计算工具计算出模型的有效解答。 由于科学与工程问题的多样性和复杂性，所建立的数学模型也是各种各样的、复杂的. 复杂性表现在如下几个方面：求解系统的规模很大，多种因素之间的非线性耦合，海量的数据处理等等，这样就使得在其它课程中学到的分析求解方法因计算量庞大而不能得到计算结果，且更多的复杂数学模型没有分析求解方法． 这门课程则是针对从各种各样的数学模型中抽象出或转化出的典型问题，介绍有效的串行求解算法，它们包括 (1) 非线性方程的近似求解方法； (2) 线性代数方程组的求解方法； (3) 函数的插值近似和数据的拟合近似； (4) 积分和微分的近似计算方法； (5) 常微分方程初值问题的数值解法； (6) 优化问题的近似解法；等等 从如上内容可以看出，计算方法的显著特点之一是“近似”． 之所以要进行近似计算，这与我们使用的工具、追求的目标、以及参与计算的数据来源等因素有关． 计算机只能处理有限数据，只能区分、存储有限信息，而实数包含有无穷多个数据，这样，当把原始数据、中间数据、以及最终计算结果用机器数表示时就不可避免的引入了误差，称之为舍入误差． 我们需要在有限的时间段内得到运算结果，就需要将无穷的计算过程截断，从而产生截 断误差． 如 +++ =!21!111e 的计算是无穷过程，当用! 1 !21!111n e n ++++= 作为e 的近似时，则需要进行有限过程的计算，但产生了截断误差e e n -． 当用计算机计算n e 时，因为舍入误差的存在，我们也只能得到n e 的近似值* e ，也就是说最终用* e 近似e ，该近似值既包含有舍入误差，也包含有截断误差． 当参与计算的原始数据是从仪器中观测得来时，也不可避免得有观测误差． 由于这些误差的大量存在，我们得到的只能是近似结果，进而对这些结果的“可靠性”进行分析就是必须的，它成为计算方法的第二个显著特点． 可靠性分析包括原问题的适定性和算法的收敛性、稳定性． 所谓适定性问题是指解存在、惟一，且解对原始数据具有连续依赖性的问题． 对于非适定问题的求解，通常需要作特殊的预处理，然后才能做数值计算． 在这里，如无特殊说明，都是对适定的问题进行求解． 对于给定的算法，若有限步内得不到精确解，则需研究其收敛性． 收敛性是研究当允许计算时间越来越长时，是否能够得到越来越可靠的结果，也就是研究截断误差是否能够趋于零．
第三章 插值法与最小二乘法 3.7 最小二乘法 一、教学目标及基本要求 通过对本节课的学习，使学生掌握数值逼近的拟合方法。 二、教学内容及学时分配 本章主要介绍数值分析的最小二乘法。具体内容如下：曲线拟合原理，最小二乘法。 三、教学重点难点 1．教学重点：曲线拟合。 2. 教学难点：最小二乘法。 四、教学中应注意的问题 多媒体课堂教学为主。适当提问，加深学生对概念的理解。 一．曲线拟合 1.问题提出： 已知多组数据(),,1,2,,i i x y i N =L ，由此预测函数()y f x =的表达式。 数据特点：（1）点数较多。（2）所给数据存在误差。 解决方法：构造一条曲线反映所给数据点的变化总趋势，即所谓的“曲线拟合”。 2.直线拟合的概念 设直线方程为y=a+bx 。 则残差为：?i i i e y y =-,1,2,,i N =L ，其中?i i y a bx =+。 残差i e 是衡量拟合好坏的重要标志。 可以用MATLAB 软件绘制残差的概念。 x=1:6; y=[3,4.5,8,10,16,20]; p=polyfit(x,y,1); xi=0:0.01:7; yi=polyval(p,xi); plot(xi,yi,x,y, 'o');
y1=polyval(p,x); hold on for i=1:6 plot([i,i],[y(i),y1(i)], 'r'); end 可以绘制出如下图形： 三个准则： （1）max i e 最小 （2）1n i i e =∑最小 （3）21 N i i e =∑最小 3.最小二乘法的直线拟合
“数值计算方法与算法”论文 题目：浅谈曲线拟合的最小二乘法 院系：化学与材料工程学院20系 姓名： 学号： 时间：2015年春季学期
浅谈曲线拟合的最小二乘法 【摘要】 数值计算方法，一种研究并解决数学问题的数值近似解的方法，主要解决那些理论上有解但是无法轻易且准确求解的数学问题。在当今计算机技术日渐成熟的背景下，数值计算方法的应用被大大的推广，并且极大的推动了自然科学的规律探索及理论验证。本文主要探讨了一种重要的数值计算方法——曲线拟合的最小二乘法的历史发展、理论核心以及应用价值。 关键词：数值计算方法最小二乘法应用 【正文】 数值计算方法，是一种研究并解决数学问题的数值近似解方法，现在通常在计算机上使用来求解数学问题。它主要的计算对象是那些在理论上有解而又无法直接手工计算的数学问题【1】。例如，用已知的数据点来构造合适的插值函数或拟合出合适的曲线来近似代替原函数，从而解决了因难以求得原函数表达式而无法计算相关函数值的难题；又如，对于一个一般的非线性方程，可能在计算方程的根时既无一定章程可循，也无理论解法可言，那么这时就可以构造合适的迭代格式如Newton迭代，通过对一个近似的初值进行有限次迭代，就可以得到较精准的根值，从而有效避免了冗长而又复杂的理论求解的过程。 在学习完计算方法与算法这门课程后，我收获了许多实用的计算方法、技巧和思想，而对书中的某些问题的解法的深入思考也让我加深了对这门课程的理解。由于专业的相关需要，我对曲线拟合的最小二乘法这部分知识点进行了重点的学习和深刻的反思，也收获了许多。 1.最小二乘法的发展历史 18世纪中期以后，欧拉（L. Euler, 1707-1783）、梅耶（T. Meiyer, 1723-1762）、拉普拉斯(P. S. Laplace, 1749—1827)等科学家在研究一些天体运动规律时，都得到了一些含有m个变量n个（）方程的线性方程组（也就是我们现在所说的线性矛盾方程组），并且各自运用了一些方法解出了方程组的较优解。虽然方法繁琐且奇特，但不失为数学史一次伟大的尝试。 有关于最小二乘法的首次应用于实际计算并成功的记载，是关于第一颗小行星位置的预测，十分之有趣。1801年，意大利天文学家朱塞普·皮亚齐（Giuseppe Piazzi,1746-1826）发现了第一颗小行星谷神星。经过40天的跟踪观测后，由于谷神星运行至太阳背后，使得皮亚齐失去了谷神星的位置。随后，全世界的科学家利用皮亚齐的观测数据，开始了寻找谷神星之旅。但是，根据大多数人的计算结果来寻找谷神星，都以失败告终。时年24岁的伟大的数学家高斯（C.F.Gauss, 1777－1855）也随即参与了这次的计算。最终德国天文学家奥伯斯（Heinrich Olbers）
关于几种曲线拟合基本方法的比较 学院：材料科学与工程学院专业：材料学（博）姓名：郑文静学号：1014208040 在实际工作中，变量之间的关系未必都是线性关系，更多时候，它们之间呈现出了曲线关系，在科学实验或社会活动中，通过实验或观测得到一些x和y数据，为了对位置点进行研究，很多时候，我们通过曲线拟合的方式，将这些离散点近似为一条连续的曲线，从而来预测或者得到所需结果。曲线拟合的方法很多，本文中，主要讨论了曲线拟合的三种基础方法--插值法、磨光法、最小二乘法的特点，并对其在科学实验和生产实践中的应用性进行了比较。 插值法是函数逼近的一种基本方法，插值法就是通过函数在有限个点处的取值情况，估算出函数在其他点处的近似值。插值法中，选取不同的插值公式，来满足实际或运算需求，得到拟合的函数。其中，最基础的插值方法是三弯矩法，该方法是利用拉格朗日插值为基础，已知平面中的n+1个不同点，寻找一条n次多项式曲线通过这些点。该曲线具有唯一性。另外，还有三转角法，该方法是利用Henmiter插值为基础，其思路与三弯矩法相同，已知条件有所差别，在Henmiter插值中，不仅已知函数在一些点的函数值，而且，还知道它在这些点的导数值，甚至知道其高阶导数值，要求所求函数不仅满足过这些点，同时也要求其导函数，甚至高阶导函数满足条件。采用Henmiter插值法求得的多项式比拉格朗日法求得的多项式有较高的光滑逼近要求。此外，还有以分段和B-样条函数为基础的δ-基函数法，其中，样条函数是：对于[a,b]上的划分，称函数S(x)为[a,b]上关于划分△的k次样条函数，记做S k，△[a,b]。该方法避免了高次插值可能引起的大幅度波动现象，在实际中通常采用分段低次插值来提高近似程度。插值法常用于填充图像变换时像素之间的空隙。 磨光法是适应保凸性要求的数据拟合方法。积分可以改变函数的光滑度，而微商是积分的逆运算，对函数进行积分，然后在微商，可以将函数还原。而差商近似为微商，对函数积分后差商，可以将函数近似还原，同时可以更光滑，这种变换就是磨光。可以采用其他方法拟合得到函数，对于不光滑的点采用一次或多次磨光，得到更加光滑连续的函数。这种方法常用于外形设计。 最小二乘法也是函数逼近的一种基本方法。该方法不要求拟合曲线通过已知点，而是通过最小化误差的平方和寻找数据的最佳函数匹配。其解题步骤是：首先通过数据点，确定其可能所属的函数类型；然后，设出函数，并求出误差平方和的表达式；之后，由表达式对函