数值分析2最佳逼近和最小二乘法

格式：pdf
大小：315.15 KB
文档页数：57

下载文档原格式

研究生数值分析(20)函数的最佳平方逼近

L1 )

3 2
1 1
t 2
1 tdt 6 15
可知
q1(t)

2 3
L0 (x)

6 15
L1 ( x)

2 3

6 15
t,
1 t 1
把 t =2x-1代人 q1(t) 得 x 在区间[0，1]上的一次最佳平方逼近多项式
p1(t)

2 3

6 15
(2x
1)

4 15

12 15
m
m
[ * ( xi )
i 1
yi ]2
min ( x )
[ ( xi )
i 1
yi ]2
其中 (x) 为函数类Φ 中任意函数。
因此，用最小二乘法解决实际问题包含如下2个基本环节：
（1）确定函数类Φ ，即确定 (x) 的形式。这不是一个单纯的数学问题，还与其

12 15
所求的最佳平方逼近元素为
p(x) 4 12 x, 15 15
0 x 1
二、正交函数系在最佳平方逼近中的应用对于一般的基底 0 (x),1(x),,n (x)
当 n 较大时，计算法方程中的 (k , j ) 以及求解法方程的计算量都是很大的。 1, x, x2 ,, xn 作基底，当ρ(x)≡1时，虽然 (k , j ) (xk , x j ) 容易计算，但由此形成的法方程系数矩阵G在 n稍大时是病态矩阵，在计算机上求解法方程，其结果不太可靠。
§6 函数的最佳平方逼近一、最佳平方逼近的概念与解法
用简单函数 p (x)去近似一个给定区间[a， b]上的连续函数 f (x)，是函数逼近要研究的问题。度量逼近误差标准有许多种，这里介绍一种称为平方逼近的函数逼近。

【精品】数值分析课程设计最佳平方逼近与最小二乘拟合

数值分析课程设计：最佳平方逼近与最小二乘拟合给出函数f(x)=1/(1+25x^2)一：求f（x）在[-1,1]上的三次最佳平方逼近多项式以及均方误差。

Matlab编程代码如下：syms x;p=[1 x (1./2)*(3*x^2-1) (1./2)*(5*x^3-3*x) 1./(1+25*x^2)];for i =1:1:4jf = int((p(i)*p(5)),x,-1,1);a(i)=(2*(i-1)+1)/2*jf;endaf3=0;for i = 1:1:4f3= f3+a(i)*p(i);endsimplify(f3)f3syms xfun=(f(x)-f3)^2;int(fun,x,-1,1)输出结果为a =[ 1/5*atan(5), 0, 3/10-14/25*atan(5), 0]ans =12/25*atan(5)+9/20*x^2-3/20-21/25*atan(5)*x^2f3 =1/5*atan(5)+(3/10-14/25*atan(5))*(3/2*x^2-1/2)（最佳平方逼近多项式）ans =4/1625-642/3125*atan(5)^2+209/625*atan(5)化简均方误差可得ans =0.0742二．在[-1,1]上取5个和9个等距节点，做最小二乘拟合，得出均方误差。

五个节点时，matlab编码为：首先建立M文件，并保存function y=f(x)y=1/(1+25*x^2);endx=[-1 -0.5 0 0.5 1];for i=1:5y(i)=f(x(i));enda=polyfit(x,y,3)syms xf1=a(1)*x^3+a(2)*x^2+a(3)*x+a(4)x=[-1 -0.5 0 0.5 1];for i=1:5E(i)=(f(x(i))-(a(1)*x(i)^3+a(2)*x(i)^2+a(3)*x(i)+a(4)))^2 ;endsum(E)输出结果为a =-0.0000 -0.6063 -0.0000 0.5737f1 =-4878849915647781/1298074214633706907132624082305024*x^3-1600/2639*x^2-5348847520430703/64903710731685345356631204 1152512*x+1514/2639（拟合的多项式）ans =0.3534（均方误差）九个点的时候，matlab编码为：x=[-1 -0.75 -0.5 -0.25 0 0.25 0.5 0.75 1];for i=1:9y(i)=f(x(i));enda=polyfit(x,y,3)syms xf2=a(1)*x^3+a(2)*x^2+a(3)*x+a(4)x=[-1 -0.75 -0.5 -0.25 0 0.25 0.5 0.75 1];for i=1:5E1(i)=(f(x(i))-(a(1)*x(i)^3+a(2)*x(i)^2+a(3)*x(i)+a(4)))^ 2;endsum(E1)输出结果为：a =-0.0000 -0.5609 0.0000 0.4855f2 =-728732707776039/2535301200456458802993406410752*x^3-1263030908712921/ 2251799813685248*x^2+4915246442354361/2028240960365167042394725128601 6*x+1093229300764671/2251799813685248（最小二乘拟合多项式）ans =0.3350（均方误差）三：比较三个均方误差经比较发现，最佳平方逼近多项式拟合程度高，最小二乘逼近中，9点的比5点的均方误差小。

《数值分析》课程教学大纲

《数值分析》课程教学大纲课程编号：07054111课程名称：数值分析英文名称：Numerical Analysis课程类型：公共基础课程要求：必修学时/学分：32/2（讲课学时：32 实验学时：0 上机学时：0）适用专业：材料成型及控制工程一、课程性质与任务数值分析是数学科学的一个分支，它研究用计算机求解各种数学问题的数值计算方法及其理论与软件实现。

随着计算机以及科学技术的快速发展，求解各种数学问题的数值方法也越来越多地应用于科学技术的各个领域，数值分析也因此成为高等学校理工科专业的一门重要课程。

与其他数学课程一样，数值分析也是一门内容丰富，研究方法深刻，有自身理论体系的课程，既有纯数学高度抽象性与严密科学性的特点，又有应用的广泛性与实际实验的高度技术性等特点，是一门与计算机密切结合，实用性很强的数学课程。

通过本课程的教学，使学生掌握在计算机上解决常见数学问题的常用的数值算法，熟悉各种算法的基本原理和适用范围，了解误差分析、收敛性及稳定性的基本理论。

培养学生运用计算机解决实际问题的基本技能和基本素质，为学生学习后续专业课程和将来运用数值分析的知识与技能解决本专业实际问题打下坚实的基础。

二、课程与其他课程的联系学生在学习本课程之前，应学习过高等数学、线性代数等课程，并了解一门编程语言或一种科学计算软件。

高等数学和线性代数课程的学习，为本课程提供必需的数学基础知识；具备编程能力则可以使学生在计算机上编制程序，通过典型算例验证所学算法的有效性并应用到实际问题中。

本课程学习结束后，学生可具备进一步学习相关课程的理论基础，为学习后续课程如计算流体力学、有限元分析等奠定知识基础。

三、课程教学目标1.通过本课程的学习，使学生掌握现代科学计算中所常用的一些数值计算方法，熟悉这些算法的思想与基本原理，了解其适用范围。

（支撑毕业能力要求1.1，1.3，2.1）2.通过本课程的学习，使学生了解误差分析，收敛性及稳定性等基本理论。

数值分析最佳平方逼近

9 9
第三章函数逼近与计算
定义3.8 设 0(x), 1(x), … , n-1(x)在[a,b]上连续如果 a00(x)+a11(x)+… +ann(x)=0 对任意 x[a, b]成立
当且仅当 a0= a1=… =an=0，则称 0(x), 1(x), … , n-1(x) 在[a,b]上是线性无关的。
I 0 a k
(k 0,1,, n),
(k 0,1,, n),
(k 0,1,, n).
( ( x), ( x))a
j 0 k j
© 2009, Henan Polytechnic University §3 最佳平方逼近
n
j
( f ( x ), k ( x ))
b
则称{ k ( x)} 是 [a, b] 上带权 ( x )的正交函数族. 若 Ak 1，则称之为标准正交函数族. 三角函数族 1, cos x , sin x , cos 2 x , sin 2 x , 区间 [ , ]上的正交函数族.
© 2009, Henan Polytechnic University §3 最佳平方逼近
© 2009, Henan Polytechnic University §3 最佳平方逼近
1111
第三章函数逼近与计算
3.3.2 函数的最佳平方逼近对f ( x ) C[a, b]及C[a, b]中的一个子集 span{ 0 ( x ),1 ( x ),, n ( x )}
b b
b
b
I 2a0 0 ( x ), k ( x ) 2a1 1 ( x ), k ( x ) 即 ak 2an n ( x),k ( x) 2 f ( x),k ( x)

最佳平方逼近原理

最佳平方逼近原理最佳平方逼近原理是数值分析中的一个经典原理，用于寻找函数在给定定义域上的最佳平方逼近曲线。

在实际应用中，我们经常需要通过已知的离散数据点来近似拟合一个函数，最佳平方逼近原理就是为了解决这个问题而提出的。

最佳平方逼近原理的核心思想是，通过最小化残差平方和来选择最佳的曲线拟合函数。

残差平方和是指每个数据点与拟合曲线之间的差值的平方和，通过最小化残差平方和，我们可以找到能够最好地拟合数据点的曲线。

为了更好地理解最佳平方逼近原理，我们可以通过一个简单的例子来说明。

假设我们有一组包含有N个点的数据集{(x1,y1),(x2,y2),...,(xn,yn)}，我们需要找到一条曲线y=f(x)来拟合这些数据点。

首先，我们可以假设拟合曲线为一条直线y=ax+b，其中a为斜率，b为截距。

我们的目标是找到最佳的斜率a和截距b，使得拟合曲线能够最好地拟合数据点。

为了评估拟合曲线的好坏，我们可以定义残差ei为数据点yi与拟合曲线f(xi)之间的差值，即ei=yi-f(xi)。

然后，可以定义残差平方和E为所有残差的平方和，即E=∑(yi-f(xi))^2。

根据最佳平方逼近原理，我们需要选择最优的斜率a和截距b，使得E达到最小值。

这可以通过对E分别对a和b求偏导数，并令偏导数等于零来实现。

∂E/∂a=0和∂E/∂b=0的解可以分别表示为a=(N∑(xiyi)-∑xi∑yi)/(N∑(xi^2)-(∑xi)^2)和b=(∑yi-∑(xi/n)a))/N 通过求解这两个方程，我们可以得到最佳的斜率a和截距b，从而得到最佳的拟合曲线。

上述例子只是最佳平方逼近原理的一个简单应用，实际上，最佳平方逼近原理可以应用于更复杂的拟合曲线，如多项式拟合、指数拟合等。

在实际应用中，最佳平方逼近原理广泛应用于数据分析、信号处理、图像处理等领域。

通过最佳平方逼近原理，我们可以从大量的离散数据中提取有效的信息，利用拟合曲线来进行预测、分类、回归等操作。

数值分析06-一致逼近

6-2
Y
在度量标准 max ri
i
（达到最小），这就是最佳一致逼近（不要产生最大误差，均匀一些），通常仍然取 (x)为多项式，即求多项式 (x) 使残差： r f (x ) (x )
i i i
绝对值的最大值达到最小。或可写为：在H中求满足 (x) （f 的逼近函数 (x) ）：
a xb
max
即在H中 (x)与f(x)之差的绝对值的最大值是最小的，H中任一ψ (x)与f(x)之差的绝对值的最大值都比它大，这样的 6-3 阜师院数科院第六章函数逼近 (x)为f(x)在H中的最佳一致逼近函数。
W Y
§5 最佳一致逼近多项式
下，求 (x) ，使
max ri max f ( x ) ( x ) min
例如：要求区间[0,1]上y=arctgx的一次近似式可以有多种方法：（1）Talor公式：tg－1x x,误差R(x)= tg－1x- x，在 x=0附近很小，x=1时误差最大，R(x)|x=1=0.2146；（2）插值: x=0,1作节点=>L1(x)=πx/4，tg－1x πx/4， 4 其误差在 x 1 1 . 12 处，即在1附近较大为0.0711；
定理6.6 P (x)H 是f(x)C[a,b]的最佳一致逼近多项式的 n n 充要条件是Pn(x)在[a,b]上至少有n+2个不同的依次轮流为正，负的偏差点（这些点称为切比雪夫交错点组）。切比雪夫定理给出了最佳一致逼近多项式的特征，性质，在最佳一致逼近理论中起着重要作用。推论1 如果f(x)C[a,b]，则在Hn中存在唯一的最佳一致逼近多项式。推论2
（3）最小二乘法（例10 §4中）
tg
阜师院数科院第六章函数逼近

数值分析学习课件

t 0 = cos
n= 4
3π 5π 7π 9π , t 2 = cos , t 3 = cos , t 4 = cos 10 10 10 10 10 a+b b−a 1 x= t = ( t + 1) + 2 2 2 1 π 1 3π x0 = (cos + 1) ≈ 0.98 , x1 = (cos + 1) ≈ 0.79 2 10 2 10 1 5π 1 7π x2 = (cos + 1) ≈ 0.50 , x3 = (cos + 1) ≈ 0.21 2 10 2 10 1 9π x4 = (cos + 1) ≈ 0.02 为节点作L 以 x0, …, x4 为节点作 4(x) 2 10 , t1 = cos
Take it easy. It’s very Didn’t you say it’s anot so difficult if we consider difficult problem? polynomials only.
§1.最佳一致逼近 1.最佳一致逼近
最佳一致逼近多项式 /* optimal uniform approximating polynomial */ 的构造：求 n 阶多项式 Pn(x) 使得 || Pn − y ||∞ 最的构造：小。
第二讲
§1.最佳一致逼近 1.最佳一致逼近
§1.最佳一致逼近 1.最佳一致逼近
偏差
最佳一致逼近最佳一致逼近 /* uniform approximation*/
意义下，最小。在 || f ||∞ = max | f ( x ) | 意义下，使得 || P − y ||∞ 最小。也称为minimax problem。。偏差点。若 P ( x0 ) − y( x0 ) = ± || P − y ||∞ ，则称 x0 为± 偏差点。

数值分析之最小二乘法与最佳一致逼近

就要求矩阵 G非奇异，
而 0 ( x), 1 ( x), , n ( x)在 [a, b]上线性无关不能推出矩阵 G非奇异，必须加上另外的条件.
8
定义10
设 0 ( x), 1 ( x), , n ( x) [a, b]的任意线
性组合在点集 {xi , i 0,1,, m}(m n) 上至多只有 n 个
只在一组离散点集 {xi , i 0,1,, m} 上给定，这就是科
学实验中经常见到的实验数据 {( xi , yi ), i 0,1,, m}的
曲线拟合.
1
问题为利用 yi f ( xi ), i 0,1,, m, 求出一个函数
y S * ( x) 与所给数据{( xi , yi ), i 0,1,, m} 拟合.
13
令 S1 ( x) a0 a1 x, 这里 m 4, n 1, 0 ( x) 1, 1 ( x) x, 故
( 0 , 0 ) i 8,
i 0 4
( 0 , 1 ) (1 , 0 ) i xi 22,
i 0
4
(1 , 1 ) i xi2 74,
这样就变成了线性模型 .
19
例2
设数据 ( xi , yi )(i 0,1,2,3,4) 由表3-1给出，
表中第4行为 ln yi yi ,通过描点可以看出数学模型为及 b. y aebx , 用最小二乘法确定 a
表3 1 i xi yi 0 1.00 5.10 1 1.25 5.79 2 1.50 6.53 3 1.75 7.45 4 2.00 8.46
4
S ( x ) 的一般表达式为线性形式.
若 k ( x)是 k 次多项式，S ( x ) 就是 n 次多项式. 为了使问题的提法更有一般性，通常在最小二乘法中 S ( x) a00 ( x) a11 ( x) ann ( x) (n m) 考虑加权平方和

常用数值分析方法

常用数值分析方法1.插值方法插值是通过已知数据点的近似值，获得未知位置上的函数值。

常用的插值方法包括拉格朗日插值、牛顿插值和分段线性插值等。

插值方法通常用于数据的光滑处理、曲线拟合和函数逼近等问题。

2.数值微分与积分方法数值微分是通过有限差分等方法，对实际问题的函数进行求导。

数值积分则是通过数值方法求解复杂函数的积分。

常用的数值微分与积分方法包括欧拉法、龙格-库塔法和辛算法等。

3.非线性方程求解非线性方程求解是求解形如f(x)=0的方程，其中f(x)是一个非线性函数。

常用的非线性方程求解方法包括二分法、牛顿法和割线法等。

这些方法基于不同的数学原理来逼近方程的根。

4.线性方程组求解线性方程组求解是求解形如Ax=b的方程组，其中A是一个矩阵，b 是一个向量。

常用的线性方程组求解方法包括高斯消元法、LU分解和迭代法等。

这些方法可以高效地求解大规模的线性方程组。

5.最小二乘法最小二乘法是一种用于拟合实验或观测数据的方法。

它通过最小化观测数据与理论模型之间的残差平方和，得到最佳的参数估计。

最小二乘法广泛应用于曲线拟合、回归分析和信号处理等领域。

6.数值优化数值优化是在约束条件下求解最优化问题的方法。

常用的数值优化方法包括梯度下降法、共轭梯度法和拟牛顿法等。

这些方法可以在函数复杂或维度高的情况下，有效地寻找最优解。

7.偏微分方程数值解法偏微分方程数值解法是用数值方法解决偏微分方程的方法。

常用的数值解法包括有限差分法、有限元法和谱方法等。

这些方法广泛应用于物理学、工程学和金融学等领域，可以模拟和预测复杂现象。

总之，数值分析方法在科学和工程领域中起着重要的作用。

通过数学和计算机的结合，数值分析使得复杂计算变得简单，从而有效解决各种实际问题。

尚晓清数值分析第二章投影与逼近

(1)
(x) 1
b
a
f (x) S(x) dx min ,称为最佳一次逼近；
1
(2)
(x)
2
b
[
a
f
(x)
S
(
2
x)] dx
2
min
,称为最佳平方逼近或均
方逼近；
(3)
(x)
max x[ a ,b ]
f (x) S(x)
min ,称为最佳一致逼近或均
匀逼近。
2.数据拟合（曲线拟合）——离散函数的最佳逼近
x x0 , x0 0
故 2 x x0 , x x, x x0 , x
x, x
n
* i
xi
,
x
i1
x,
x
1*
x1
,
x
* 2
x2
,
x
* n
xn
,
x
由此可以具体估算出 x0 与 x 的误差。
§3.3 函数空间中的最正确逼近
——最佳平方逼近和最佳多项式逼近。
1.最佳平方逼近
在 L2[a,b]空间中定义带权函数的内积：
函数误差 (x) f (x) S(x)
或离散点的误差 (xi ) f (xi ) S(xi )(i 1, 2, , n) 在某种度量标准（如范数）下最小。
由此求出的函数 S(x)称为目标函数 f (x)的最佳逼近函数，求 f (x)近似表达式 S(x) 的问题称为最佳逼近问题。
本章主要讨论两种类型的最佳逼近问题。
基本思想：对于给定的数据表 (xi , f (xi )) (i 1, , n) ，在
已知函数类 (x) C[a,b]或L2[a,b]中寻找函数 f (x)的

1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。

S ( x )M * 2
即 p( x )[ f ( x ) S ( x )] dx min
a
S ( x )M a

b
p ( x )[ f ( x ) S ( x )]2 dx
其中S ( x ) i i ( x ) M ,而S * ( x )称为f ( x )在M中的最佳平方逼近。
n
2 函数空间中的最佳逼近 (2)对于任意的非负连续函数h( x )， b —— 最佳平方逼近若 h ( x ) ( x )dx 0，则 h( x ) 0, x [a, b].
满足：(1) x ( x )dx ( j 0,1, 2, )；
j a
b

a
L[2a ,b ] 空间中最佳平方逼近
i 1
n
特别地：若线性子空间M span1, x, x 2 , , x n ，则称s* ( x )为f ( x )在M中的n次最佳平方逼近多项式。
求解最佳逼近元：
(1 , 1 ) (1 , 2 ) ( , ) ( , ) 2 2 解法方程 2 1 ( n , 1 ) ( n , 2 )
均方误差 ( f , f ) ( s* , s* ) 0.05119 。
问题重述：设子空间为M span{1 ( x ), 2 ( x ), , n ( x )}，
对于f ( x ) L
s. t.
b
2 [ a ,b ]
，求函数S ( x ) i*i ( x ) M ，
*
n
i 1
f ( x ) S * ( x ) min f ( x ) S ( x )
（4）若 x1 , x2 , , xn 规范正交，解得 b 。此方法简单，但通常先将线性无关组规范正交化，有时计算量会很大。
最佳逼近的误差估计
* x x 设，则 || || 的大小可表示逼近的程度。
2 2 * 2 || || || x || || x || 由商高定理可知，
* * x i xi ，对于 x U ，找出 M 中的元素 i 1
i 1 n
n
s.t.
x x* min x y x i xi
yM i 1
n
则称 x*是 x 在 M 中的“最佳逼近”元，M 为 U 的逼近子
空间。
基本思想：内积空间U , n维线性子空间M span{x1 , x2 , , xn }
* i 1
注：（1）求最佳逼近问题解线性方程组 A b 。
（2）矩阵 A 和 b 主要取决于内积空间中内积的定义，以及线性子空间（即基底）的选取。
（3）若 x1 , x2 , , xn 线性无关，解得 A1b 。但此方法且会使 Ax b 为病态的（即求矩阵 A 通常计算量很大，自变量有很小的扰动时，其解变化很大）。
y y1 y0
*

已知数据有误差怎么办？

o
x0 x1 x *

xn x
从整体角度考虑
函数的最佳逼近问题：
要求在一个简单函数类 B中，对于给定的函数 f ( x )，
寻找一个函数 s ( x ) B，
使得 s ( x ) 与 f ( x )的误差在某种度量下达到最小，
b [ ( x)] dx min ,称为最佳平方逼近 a
2
1 2
max ( x) min ,称为最佳一致逼近或
x[ a ,b ]
均匀逼近。
>>再例如 n 维向量空间 R 中度量“最佳”的常用标准：
n
取 2-范数，则

2

* x x i i min ,称为最小二乘法 2 i 1
因为M 是完备线性子空间（有限维），由投影定理及投影性质
可知，存在x * i* xi M 是x在M中的“最佳逼近”元。
i 1
n
即x * M , x x * M ， ( x x* , x j ) 0
n
( j 1, 2, , n )
( j 1, 2, , n )
（**）
而且 x0 是 M 中使（**）成立的唯一点。
x y 说明 x0 是 M 中逼近 x 的最佳元）（ x x0 inf yM
内积空间中的最佳逼近
x1 , x2 , , xn 是 U 中 n 个线性设 U 是内积空间，基本思想：
无关的元素，M span{x1 , x2 ,, xn } { i xi , i k} 。
第2章最佳逼近和最小二乘法
1 内积空间中的最佳逼近 2 函数空间的逼近 3 数据拟合的最小二乘法
回顾
插值法
构造一个(相对简单的)函数 y s( x ) ，通过全部节点, 且
s( x j ) y j
y
( j 0,1, , n )
可用 s( x ) 求已知点处 y * s( x * ).
( x i* xi , x j ) 0
i 1 n
( x, x j ) i* ( xi , x j ) 0
i 1
( xi , x j ) i* ( x, x j )
i 1
n
( j 1, 2, , n )
* ( x , x ) i j i ( x, x j ) i 1
*
15 105 2 105 4 f ( x ) x 的最佳平方逼近为s ( x ) x x 128 64 128
* 15 0 128 * 105 1 64 105 * 2 128
2 / 3 2 / 5 0 1 2 故法方程为 2 / 3 2 / 5 2 / 7 1 1 / 2 2 / 5 2 / 7 2 / 9 2 1 / 3
n
( j 1, 2, , n )
写成矩阵形式为
( x1 , x1 ) ( x1 , x2 ) ( x , x ) ( x , x ) 2 2 2 1 ( xn , x1 ) ( xn , x2 )
* ( x1 , xn ) 1 ( x, x1 ) * 法方程 ( x2 , xn ) 2 ( x, x2 ) （或正规方程） * ( x n , xn ) x x ( , ) n n
b a
其中(i , j ) p ( x ) i ( x ) j ( x )dx, ( f , j ) p( x ) f ( x ) j ( x )dx
故S * ( x ) i*i ( x )为所要求的最佳逼近元。
i 1 n
均方误差
2
f s* ( f , f ) ai* ( f , i )
这一问题称为最佳逼近问题，
s ( x ) 称为 f ( x )的最佳逼近函数。
定义（投影）：设 M 为内积空间 U 的线性子空间，
x U , 若x0 M , x1 M ，使得
x x0 x1
正交分解。
（ *）
则称 x0 为 x 在 M 上的正交投影，（*）式称为 x 关于 M 的
定理：设 M 为内积空间 U 中的完备线性子空间，则
x H ，必存在唯一的 x0 M 及x1 M ，使得
x x0 x1
性质：设 U 是内积空间， M U 为线性子空间，若 x0 为 x U 在子空间 M U 上的投影，则
x x0 inf x y
yM
计算得 ( 0 , 0 ) 2, ( 0 , 1 ) 2 / 3, ( 0 , 2 ) 2 / 5，
例 1 求区间[ 1 , 1]上函数f ( x ) x 在M span 1, x 2 , x 4 中的最佳平方逼近多项式及均方误差。解: 记 0 1, 1 x 2 , 2 x 4，
记作
A * b
由于A可逆，存在唯一解 * A1b，得最佳逼近元x * i* xi
i 1 n
( x1 , x1 ) ( x1 , x2 ) ( x , x ) ( x , x ) 2 2 2 1 ( xn , x1 ) ( xn , x2 )
* ( x1 , xn ) 1 ( x, x1 ) * ( x2 , xn ) 2 ( x, x2 ) * ( x n , xn ) ( , ) x x n n
内积：定义带权函数的内积 ( x, y ) a p(t ) x(t ) y (t )dt
则范数为
x2
b

b
a
p(t ) x 2 (t )dt

1 2
2 p ( t ) L 其中 [ a ,b ] 是非负函数，称为权函数。
子空间: M span{1 ( x ), 2 ( x ), , n ( x )}
特别地
( x , xi ) * x , x , , x ① 如果 1 2 n 正交 A是对角矩阵， i ( xi , xi ) ；
* x , x , , x A 是单位矩阵， ② 如果 1 2 i ( x , xi ) ， n 规范正交
n
最佳逼近元x ( x, xi )xi （广义 Fourier 展开的部分和）
平方误差
2
xx
* 2
x x
2
* 2