当前位置：文档之家 › 最小二乘法的基本原理和多项式拟合-Read

最小二乘法的基本原理和多项式拟合-Read

  • 格式：doc
  • 大小：182.00 KB
  • 文档页数：7

最小二乘法的基本原理和多项式拟合

一 最小二乘法的基本原理

从整体上考虑近似函数)(xp同所给数据点),(iiyx(i=0,1,…,m)误差iiiyxpr)((i=0,1,…,m)iiiyxpr)((i=0,1,…,m)绝对值的最大值imir0max，即误差 向量Tmrrrr),,(10的∞—范数；二是误差绝对值的和miir0，即误差向量r的1—范数；三是误差平方和miir02的算术平方根，即误差向量r的2—范数；前两种方法简单、自然，但不便于微分运算 ，后一种方法相当于考虑 2—范数的平方，因此在曲线拟合中常采用误差平方和miir02来 度量误差ir(i=0，1，…，m)的整体大小。

数据拟合的具体作法是：对给定数据 ),(iiyx (i=0,1,…，m)，在取定的函数类中,求)(xp,使误差iiiyxpr)((i=0,1,…,m)的平方和最小，即

miir02=miiiyxp02min)(

从几何意义上讲，就是寻求与给定点),(iiyx(i=0,1,…,m)的距离平方和为最小的曲线)(xpy（图6-1）。函数)(xp称为拟合 函数或最小二乘解，求拟合函数)(xp的方法称为曲线拟合的最小二乘法。

可有不同的选取方法.

6—1

二 多项式拟合

假设给定数据点),(iiyx(i=0,1,…,m)，为所有次数不超过)(mnn的多项式构成的函数类，现求一nkkknxaxp0)(,使得

min)(00202miminkikikiinyxayxpI (1)

当拟合函数为多项式时，称为多项式拟合，满足式（1）的)(xpn称为最小二乘拟合多项式。特别地，当n=1时，称为线性拟合或直线拟合。 显然

minkikikyxaI020)(

为naaa,,10的多元函数，因此上述问题即为求),,(10naaaII的极值 问题。由多元函数求极值的必要条件，得

njxyxaaImijinkikikj,,1,0,0)(200 (2)

即

njyxaxnkmiijikmikji,,1,0,)(000 (3)

（3）是关于naaa,,10的线性方程组，用矩阵表示为

miinimiiimiinminiminiminiminimiimiiminimiiyxyxyaaaxxxxxxxxm000100201001020001 (4)

式（3）或式（4）称为正规方程组或法方程组。

可以证明，方程组（4）的系数矩阵是一个对称正定矩阵，故存在唯一解。从式（4）中解出ka(k=0,1,…，n)，从而可得多项式

nkkknxaxp0)( (5)

可以证明，式（5）中的)(xpn满足式（1），即)(xpn为所求的拟合多项式。我们把miiinyxp02)(称为最小二乘拟合多项式)(xpn的平方误差，记作

miiinyxpr0222)(

由式(2)可得

minkmiikikiyxayr000222)( (6)

多项式拟合的一般方法可归纳为以下几步：

(1) 由已知数据画出函数粗略的图形——散点图，确定拟合多项式的次数n；

(2) 列表计算mijinjx0)2,,1,0(和miijinjyx0)2,,1,0(；

(3) 写出正规方程组，求出naaa,,10；

(4) 写出拟合多项式nkkknxaxp0)(。 在实际应用中，mn或mn；当mn时所得的拟合多项式就是拉格朗日或牛顿插值多项式。

例1 测得铜导线在温度iT(℃)时的电阻)(iR如表6-1，求电阻R与温度 T的近似函数关系。

i 0 1 2 3 4 5 6

iT(℃) 19.1 25.0 30.1 36.0 40.0 45.1 50.0

)(iR 76.30 77.80 79.25 80.80 82.35 83.90 85.10

解 画出散点图（图6-2），可见测得的数据接近一条直线，故取n=1，拟合函数为

TaaR10

列表如下

i

iT iR 2iT iiRT

0 19.1 76.30 364.81

1457.330

1 25.0 77.80 625.00

1945.000

2 30.1 79.25 906.01

2385.425

3 36.0

80.80 1296.00

2908.800

4 40.0 82.35 1600.00 3294.000

5 45.1 83.90 2034.01 3783.890

6 50.0 85.10 2500.00 4255.000

 245.3 565.5 9325.83 20029.445

正规方程组为

445.200295.56583.93253.2453.245710aa

解方程组得

921.0,572.7010aa

故得R与T的拟合直线为

TR921.0572.70

利用上述关系式，可以预测不同温度时铜导线的电阻值。例如，由R=0得T=-242.5，即预测温度T=-242.5℃时，铜导线无电阻。

6-2 例2 例2 已知实验数据如下表

i 0 1 2 3 4

5 6 7

8

ix 1 3 4 5 6 7 8 9 10

iy 10 5 4 2 1 1 2 3 4

试用最小二乘法求它的二次拟合多项式。

解 设拟合曲线方程为

2210xaxaay

列表如下

I

ix iy 2ix 3ix 4ix iiyx iiyx2

0

1 10 1 1 1 10

10

1 3 5 9 27 81 15

45

2 4 4 16 64

256 16

64

3 5 2 25 125 625 10 50

4 6 1 36 216 1296 6 36

5 7 1 49 343 2401 7 49

6 8 2 64 512 4096 16 128

7 9 3 81 729 6561 27 243

8 10 4 100 1000 10000 40 400

 53 32 381 3017 25317 147 1025

得正规方程组

102514732253173017381301738152381529210aaa

解得

2676.06053.3,4597.13210aaa

故拟合多项式为

22676.06053.34597.13xy

*三 最小二乘拟合多项式的存在唯一性

定理1 设节点nxxx,,,10互异，则法方程组（4）的解存在唯一。

证 由克莱姆法则，只需证明方程组（4）的系数矩阵非奇异即可。

用反证法，设方程组（4）的系数矩阵奇异，则其所对应的齐次方程组 miinimiiimiinminiminiminiminimiimiiminimiiyxyxyaaaxxxxxxxxm000100201001020001 （7）

有非零解。式(7)可写为

njaxnkkmikji,,1,0,0)(00 （8）

将式（8）中第j个方程乘以ja(j=0,1,…，n)，然后将新得到的n+1个方程左右两端分别 相加，得njnkkmikjijaxa00000)(

因为

mimimiinnkkiknjjijnjnkkjijknjnkkmikjijxpxaxaxaaaxa00020000000)())(()(

其中

nkkknxaxp0)(

所以

0)(inxp (i=0,1,…,m)

)(xpn是次数不超过n的多项式，它有m+1＞n个相异零点，由代数基本定理，必须有010naaa，与齐次方程组有非零解的假设矛盾。因此正规方程组（4）必有唯一解 。定理2 设naaa,,1,0是正规方程组（4）的解，则nkkknxaxp0)(是满足式（1）的最小二乘拟合多项式。

证 只需证明，对任意一组数nbbb,,1,0组成的多项式nkkknxbxQ0)(，恒有

miiinmiiinyxpyxQ0202)()(

即可。

njmijinkikikjjminjnkikikjijjiinmiininmiininmiiinmiiinxyxaabyxaxabyxpxpxQxpxQyxpyxQ00000000202022)(20)()()(2)()()()( 因为ka(k=0,1,…，n)是正规方程组（4）的解，所以满足式（2），因此有

0)()(0202miiinmiiinyxpyxQ

故)(xpn为最小二乘拟合多项式。

*四 多项式拟合中克服正规方程组的病态

在多项式拟合中，当拟合多项式的次数较高时，其正规方程组往往是病态的。而且

①正规方程组系数矩阵的阶数越高，病态越严重；

②拟合节点分布的区间mxx,0偏离原点越远，病态越严重；

③ix(i=0,1,…，m)的数量级相差越大，病态越严重。

为了克服以上缺点，一般采用以下措施：

①尽量少作高次拟合多项式，而作不同的分段低次拟合；

②不使用原始节点作拟合，将节点分布区间作平移，使新的节点ix关于原 点对称，可大大降低正规方程组的条件数，从而减低病态程度。

平移公式为：

mixxxxmii,,1,0,20 (9)

③对平移后的节点ix(i=0,1,…，m),再作压缩或扩张处理：

mixpxii,,1,0, （10）

其中rmirixmp202)()1(,（r是拟合次数） （11）

经过这样调整可以使ix的数量级不太大也不太小，特别对于等距节点),,1,0(0miihxxi，作式（10）和式（11）两项变换后，其正规方程组的系数矩阵设 为A，则对1～4次多项式拟合，条件数都不太大，都可以得到满意的结果。

变换后的条件数上限表如下：

拟合次数 1 2 3

4

)(2Acond =1 <9.9 <50.3

<435

④在实际应用中还可以利用正交多项式求拟合多项式。一种方法是构造离散正交多项式；另一种方法是利用切比雪夫节点求出函数值后再使用正交多项式。这两种方法都使正规方程 组的系数矩阵为对角矩阵，从而避免了正规方程组的病态。我们只介绍第一种，见第三节。

合集下载

直线拟合的四种方法

直线拟合的四种方法

直线拟合的四种方法

直线拟合是一种常见的数据分析方法，用于找到一条直线来描述数据集中的趋势。在实际应用中，直线拟合常用于回归分析、统计建模、机器学习等领域。下面将介绍四种常用的直线拟合方法。

1. 最小二乘法（Least Squares Method）

最小二乘法是最常见的直线拟合方法之一、该方法的基本思想是通过最小化实际观测数据点与直线的残差平方和来确定最佳拟合直线。具体步骤如下：

(1)给定包含n个数据点的数据集；

(2) 设直线方程为y = ax + b，其中a为斜率，b为截距；

(3)计算每个数据点到直线的垂直距离，即残差；

(4)将残差平方和最小化，求解a和b的值。

2. 总体均值法（Method of Overall Averages）

总体均值法也是一种常用的直线拟合方法。该方法的基本思想是通过计算数据集的x和y的均值，将直线拟合到通过这两个均值点的直线上。具体步骤如下：

(1)给定包含n个数据点的数据集；

(2) 计算x和y的均值，即x_mean和y_mean；

(3) 利用直线方程y = a(x - x_mean) + y_mean拟合数据。

3. 多项式拟合法（Polynomial Fitting Method） 多项式拟合法是一种常见的直线拟合方法，适用于数据集中存在非线性趋势的情况。该方法的基本思想是通过将数据拟合到多项式模型，找到最佳拟合直线。具体步骤如下：

(1)给定包含n个数据点的数据集；

(2) 设多项式方程为y = a0 + a1*x + a2*x^2 + ... + an*x^n；

(3) 通过最小二乘法求解a0, a1, a2, ..., an的值；

(4)通过求解得到的多项式方程进行数据拟合。

4. 支持向量机（Support Vector Machine）

支持向量机是一种经典的机器学习方法，适用于直线拟合问题。该方法的基本思想是找到离数据集最近的点，然后构建一条平行于这两个点的直线。具体步骤如下：

用最小二乘法求一次和二次拟合多项式

用最小二乘法求一次和二次拟合多项式

用最小二乘法求一次和二次拟合多项式

最小二乘法是一种常用的数学分析方法，其主要功能是对一些数据点进行拟合，找出最符合这些数据点的函数或曲线。在实际应用中，最小二乘法经常被用来进行一次和二次拟合多项式。

一次拟合多项式是指通过一系列数据点，找出一条直线，使得这条直线与这些点的距离最小。而二次拟合多项式则是指通过这些数据点，找出一个二次函数，使得这个函数与这些点的距离最小。

在进行最小二乘法拟合时，有一些重要的概念需要了解。首先是残差，即每个数据点在拟合函数上的垂直距离。其次是平方误差，即所有残差的平方和。最小二乘法的目标就是要使平方误差最小。

对于一次拟合多项式，我们可以将其表示为y = a+bx的形式，其中a和b为待求参数。我们需要通过最小二乘法来求出这两个参数，使得平方误差最小。具体方法是通过求导来得到a和b的值，然后代入公式中计算平方误差，最后得到最小值。

对于二次拟合多项式，我们可以将其表示为y = a+bx+cx2的形式，其中a、b和c为待求参数。同样，我们需要通过最小二乘法来求出这三个参数，使得平方误差最小。具体方法是通过求导来得到a、b和c的值，然后代入公式中计算平方误差，最后得到最小值。

最小二乘法是一种常用的数据拟合方法，其优点在于可以对复杂的函数进行拟合，并且可以通过求解方程组的形式来求出最优解。在实际应用中，最小二乘法经常被用来进行一次和二次拟合多项式，以便更好地预测和分析数据的变化趋势。

最小二乘拟合 原理

最小二乘拟合 原理

最小二乘拟合 原理

最小二乘拟合是一种常用的数学方法，用于找到一条曲线或者函数来最好地拟合一组具体的数据点。它的原理是通过最小化数据点与拟合曲线之间的误差平方和，来确定曲线的参数。

首先，我们假设拟合曲线是通过一个函数表示的，例如一个多项式函数或者指数函数。然后我们用该函数来预测每个数据点的值，并计算预测值与真实值之间的差距，即误差。

为了找到最佳拟合曲线，我们需要找到使得误差平方和最小的参数。最小二乘拟合的关键思想在于将误差平方和作为一个目标函数，并使用数学优化方法来找到使得该目标函数最小化的参数。

通常情况下，最小二乘拟合会使用普通最小二乘法（Ordinary

Least Squares，OLS）来求解参数。OLS方法通过求解目标函数对参数的偏导数，并令其等于零，来得到参数的解析解。这样就可以找到使得误差平方和最小的参数。

然而，在某些情况下，目标函数可能不具备解析解，或者解析解存在但不易计算。这时候，可以使用数值优化方法来近似求解参数。常用的数值优化方法包括梯度下降法、牛顿法等。

最小二乘拟合的一个重要应用是线性回归分析。线性回归模型假设拟合曲线是一个线性函数，通过最小二乘拟合可以求解出最佳的线性参数。线性回归分析在统计学和机器学习中经常被用于建立预测模型。

总而言之，最小二乘拟合是一种常用的数学方法，可以用于寻找最佳拟合曲线或函数。通过最小化数据点与拟合曲线之间的误差平方和，我们可以求解出最佳拟合参数，从而得到一个最优的拟合结果。

最小二乘法基本原理

最小二乘法基本原理

最小二乘法基本原理

最小二乘法是一种常用的回归分析方法，用于估计数据中的未知参数。其基本原理是通过最小化实际观测值与估计值之间的残差平方和，来找到一个最佳拟合曲线或者平面。在进行最小二乘法拟合时，通常会假设观测误差服从正态分布。

具体而言，最小二乘法寻找到的估计值是使得实际观测值与拟合值之间的差的平方和最小的参数值。也就是说，最小二乘法通过调整参数的取值，使得拟合曲线与实际观测值之间的误差最小化。

在回归分析中，通常会假设数据服从一个特定的函数形式，例如线性函数、多项式函数等。根据这个假设，最小二乘法将找到最合适的函数参数，使得这个函数能够最好地拟合数据。

最小二乘法的步骤包括以下几个方面：

1. 根据数据和所假设的函数形式建立回归模型；

2. 计算模型的预测值；

3. 计算实际观测值与预测值之间的残差；

4. 将残差平方和最小化，求解最佳参数值；

5. 利用最佳参数值建立最优拟合曲线。

最小二乘法的优点是简单易用，并且在经济学、统计学和工程学等领域都有广泛应用。但需要注意的是，最小二乘法所得到的估计值并不一定是真实参数的最优估计，它只是使得残差平方和最小的一组参数估计。因此，在使用最小二乘法时，需要对模型的合理性进行评估，并考虑其他可能的回归分析方法。