最小二乘多项式拟合

最小二乘法原理

1. 概念

最小二乘法多项式曲线拟合，根据给定的m个点,并不要求这条曲线精确地经过这些点，而是曲线y=f(x)的近似曲线y= φ(x)。

2. 原理

给定数据点pi(xi,yi)，其中i=1,2,…,m。求近似曲线y=

φ(x)。并且使得近似曲线与y=f(x)的偏差最小。近似曲线在点pi处的偏差δi= φ(xi)-yi，i=1,2,...,m。

常见的曲线拟合方法：

1. 是偏差绝对值最小

11min(x)ymmiiiii

2. 是最大的偏差绝对值最小

minmax(x)yiiii

3. 是偏差平方和最小

2211min((x)y)mmiiiii

按偏差平方和最小的原则选取拟合曲线，并且采取二项式方程为拟合曲线的方法,称为最小二乘法。

推导过程：

1. 设拟合多项式为：

01...kkyaaxax

2. 各点到这条曲线的距离之和，即偏差平方和如下：

22011(...)mkiikiiRyaaxax

3. 为了求得符合条件的a值，对等式右边求ak偏导数，因而我们得到了：

0112(...)0mkikiiyaaxax

0112(...)0mkikiiyaaxaxx ……..

0112(...)0mkkikiiyaaxaxx

4. 将等式简化一下，得到下面的式子

01111...nnnkikiiiiianaxaxy

21011111...nnnnkiikiiiiiiiaxaxaxyx

……

12011111...nnnnkkkkiikiiiiiiiaxaxaxyx

5. 把这些等式表示成矩阵形式，就可以得到下面的矩阵：

11102111111121111.........nnnkiiiiiinnnnkiiiiiiiiinnnnkkkkkiiiiiiiiinxxyaaxxxxyaxxxxy

多项式最小二乘法及其应用

在数学中，最小二乘法是一种经典的优化方法，可以用于寻找一组数据中最符合拟合曲线的参数，常常被应用于科学、工程、经济等领域的数据处理中。当涉及到需要对数据进行高精度处理时，最小二乘法就显得尤为重要，而多项式最小二乘法是其中应用最为广泛的方法之一。

多项式最小二乘法是指寻找一组多项式系数，使得该多项式能最优地拟合给定数据。通常情况下，拟合函数可以用以下形式表示：

$f(x)=a_0+a_1x+a_2x^2+\cdots+a_nx^n$

其中，$a_0,a_1,\cdots,a_n$为多项式系数，$x$为自变量。我们可以将上述式子改写为向量和矩阵的形式，即：

$F(x)=\begin{bmatrix}1 & x_1 & \cdots & x_1^n \\ 1 & x_2 &

\cdots & x_2^n \\ \vdots & \vdots & \ddots & \vdots \\ 1 & x_m &

\cdots & x_m^n \end{bmatrix} \begin{bmatrix}a_0 \\ a_1 \\ \vdots \\

a_n \end{bmatrix}=\begin{bmatrix}y_1 \\ y_2 \\ \vdots \\ y_m

\end{bmatrix}=y$

其中，$m$为数据点的数量，$x_1,x_2,\cdots,x_m$为自变量的取值，$y_1,y_2,\cdots,y_m$为对应的因变量的取值。在此基础上，我们可以通过最小二乘法来求解最优的多项式系数。

首先，我们需要定义拟合误差，可以采用均方误差（MSE）来衡量：

$E=\frac{1}{m}\sum_{i=1}^m(y_i-f(x_i))^2$

其次，我们需要最小化拟合误差，也就是寻找最优的多项式系数，以满足：

$\text{minimize}\ E=\frac{1}{m}\sum_{i=1}^m(y_i-F(x_i))^2$

matlab最⼩⼆乘法数据拟合函数详解

定义： 最⼩⼆乘法（⼜称最⼩平⽅法）是⼀种数学优化技术。它通过最⼩化误差的平⽅和寻找数据的最佳函数匹配。利⽤最⼩⼆乘法可 以简便地求得未知的数据，并使得这些求得的数据与实际数据之间误差的平⽅和为最⼩。最⼩⼆乘法还可⽤于曲线拟合。其他⼀些优化问题也可通过最⼩化能量或最⼤化熵⽤最⼩⼆乘法来表达。

最⼩⼆乘法原理：在我们研究两个变量（x,y）之间的相互关系时，通常可以得到⼀系列成对的数据（x1,y1.x2,y2... xm,ym）；将这些数据描绘在x -y直⾓坐标系中，若发现这些点在⼀条直线附近，可以令这条直线⽅程如（式1-1）。Yj= a0 + a1 X （式1-1)，其中：a0、a1 是任意实数。matlab中⽤最⼩⼆乘拟合的常⽤函数有polyfit（多项式拟合）、nlinfit（⾮线性拟合）以及regress（多元线性回归）。⾃变量有2个或以上时，应变量⼀个，可以使⽤的有nlinfit和regress，线性时⽤regress，⾮线性时⽤nlinfit。对于进阶matlab使⽤者还有更多的选择，如拟合⼯具箱、fit函数、interp系列插值拟合等等。MATLAB中关于最⼩⼆乘法的函数主要有：

help polyfit -- POLYFIT Fit polynomial to data.help lsqcurvefit -- LSQCURVEFIT solves non-linear least squares problems.

help lsqnonlin -- LSQNONLIN solves non-linear least squares problems.help nlinfit -- NLINFIT Nonlinear least-squares regression.

help regress -- REGRESS Multiple linear regression using least squares.

加权最小二乘法 拟合多项式 matlab

加权最小二乘法是一种用于拟合多项式的方法，在MATLAB中可以使用polyfitw函数实现。该函数的使用方法如下：

1. 准备输入数据和对应的权重。

假设有n个点的输入数据为x和y，其中x是一个n维向量，y是一个n维向量，表示X轴和Y轴上的坐标值。权重为w，是一个n维向量，表示每个数据点的权重。

2. 调用polyfitw函数进行拟合。

使用polyfitw函数，可以得到一个多项式的系数向量p，满足y =

p[1]*x^(N-1) + ... + p[N]，其中N为多项式的次数。

p = polyfitw(x, y, N, w)

在这里，x和y是输入数据，N是多项式的次数，w是权重。函数返回值p是一个多项式的系数向量。

3. 绘制拟合曲线。

使用polyval函数可以在MATLAB中绘制出拟合的多项式曲线。

xx = linspace(min(x), max(x), 100); % 生成一些用于绘图的x值

yy = polyval(p, xx); % 计算对应的y值

plot(x, y, 'ro'); % 绘制原始数据点

hold on;

plot(xx, yy, 'b-'); % 绘制拟合曲线

legend('原始数据', '拟合曲线'); xlabel('x轴');

ylabel('y轴');

这样就完成了多项式的加权最小二乘法拟合，并在MATLAB中绘制了拟合曲线。注意，根据实际问题选择合适的多项式次数N和权重w。