当前位置：文档之家 › 第3章数值分析---最佳平方逼近

第3章数值分析---最佳平方逼近

  • 格式：ppt
  • 大小：526.01 KB
  • 文档页数：20

下载文档原格式

  / 20

合集下载

最佳平方逼近

最佳平方逼近
( f p*, f p*) 2( f p*, p * p) ( p * p, p * p)
n
因为 f p*, p * p cj c j f p*, j 0 及
j0
( p * p, p * p) 0, 故 ( f p, f p) ( f p*, f p*).
2 则 f (x) 1 1 t g(t), 1 x 1
2 先求g(t)在区间 [-1,1] 旳一次最佳平方逼近多项式.
由
c0 *
1 2
(g,
L0 )
1 2
1 1
1 2
1 tdt 2 , 3
c1
3 2
(g,
L1 )
3 2
1 1
t 2
1 tdt 2 . 5
可知
2
2
22
q1(t) 3 L0 (x) 5 L1(x) 3 5 t,
例6 定义内积 ( f , g)
1
f (x)g(x)dx
0
试在H1=Span{1,x}中谋求对于f(x)= x 旳最佳平方逼近
元素p(x).
解 法方程为
1 12
1 2
13
c0
c1
2 2
3 5
解得
c0
4, 15
c1
4 5
所求的最佳平方逼近元素为 p(x) 4 4 x. 0 x 1 15 5
(n
,n
)
cn*
( f ,n )
因为 0x,1x, , nx 线性无关, 能够推得上系数阵是
非奇异旳. 故 (5. 82) 有唯一解 { c*j }.
四、最佳平方逼近旳误差
记 ( f p*, f p*), 称其为最佳平方逼近误差, 利用

数值分析学习课件

数值分析学习课件

对任意 u ≠ 0 ∈ R n +1 ，必有 Φ u ≠ 0 。 则 u T B u = u T Φ T Φ u =|| Φ u || 2 > 0 2 若不然， 若不然，则 存在唯一解 ⇒ B为正定阵，则非奇异，所以法方程组存在唯一解。 为正定阵，则非奇异，所以法方程组存在唯一 n +1 存在一个 u ≠ 0 ∈ R 使得 Φ u = 0 … 即
则 (ϕ i , ϕ j ) =
∫
1 0
x i x j dx =
1 i + j+1
Hilbert阵！ 阵
若能取函数族Φ={ ϕ0(x), ϕ1(x), … , ϕn(x), … }， ， 两两（ 使得任意一对ϕi(x)和ϕj(x)两两（带权）正交， 和 两两 带权）正交， 改进： 改进： 对角阵！ 就化为对角阵 则 B 就化为对角阵！ (ϕ k , y ) 这时直接可算出a 这时直接可算出 k = (ϕ k , ϕ k ) 正交多项式的构造： 正交多项式的构造： 多项式的构造 取为k 多项式，为简单起见， 将正交函数族中的ϕk 取为 阶多项式，为简单起见，可取 ϕk 的首项系数为 1 。
①
总体上尽可能小 尽可能小。 这时没必要取 P(xi) = yi , 而要使 P(xi) − yi 总体上尽可能小。 常见做法： 常见做法：
m
不可导， 不可导，求解困难
太复杂
使 max | P ( x i ) − y i | 最小 /* minimax problem */ 1≤ i ≤ m 使 ∑ | P ( x i ) − y i | 最小 使 ∑ | P ( x ) − y | 最小 /* Least-Squares method */ 定义 最佳平方逼近：即连续型 逼近，在 || f ||2 = 最佳平方逼近：即连续型L-S逼近 平方逼近 逼近，

最佳平方逼近

最佳平方逼近

S(x) = a0ϕ0 (x) + a1ϕ1 (x) +L+ anϕn (x)
的全体是C[a, b]的一个子集，记为 的一个子集， 的全体是 的一个子集
Φ = Span{ϕ0 , ϕ1, L, ϕn}
并称 是生成集合的一个基底。 ϕ0 (x), ϕ1 (x), L, ϕn (x)是生成集合的一个基底。
f −P
2 2 *
2 2
= ( f − P, f − P)
j =0
≥ f −P
*
2 2
= ( f − P + P* − P, f − P* + P* − P)
+2 −P P −P = ( f − P* , f − P* ) + ( P* − P, P* − P) + 2(( ff − P**,,P** − P)) aj 因为 P * − P = ∑ (a * −a j )ϕ j ( x ) ， * − a j ∈ R, j
0, j ≠ k ((ϕ j (x), ϕk (x)) = A > 0, j = k k
( j, k = 0, 1, L ) ( Ak是 数) 常
则称函数系{ 的正交函数系， 则称函数系 ϕk (x)}是[a, b]上带权ρ (x)的正交函数系， 是 上带权 的正交函数系
特别地， 标准正交函数系。 特别地，当Ak ≡ 1时，则称该函数系为标准正交函数系。 时 则称该函数系为标准正交函数系
( f , g) = ∫ ρ(x) f (x)g(x)dx
a
b
为权函数的内积。 为 f (x) 与 g (x)在 [a, b]上以 ρ (x)为权函数的内积。 在 上以 为权函数的内积 内积的性质： 内积的性质： (1) (f, f )≥0，且 (f, f )=0 ⇔ f = 0； ， ； (2) (f, g) = (g, f )； ； (3) (f1 + f2, g ) = (f1, g) + (f2, g)； ； (4) 对任意实数 ，(kf, g) = k (f, g )。 对任意实数k， 。

第三章-2-最佳平方逼近

第三章-2-最佳平方逼近

性质 5 设 k k 0是 [a, b] 上带权 (x) 的正交多项式

族，则n(x) (n>0) 有n个单重实根，且都位于 区间[a, b] 内。
几类重要的正交多项式 Legendre 多项式 Chebyshev 多项式
第二类 Chebyshev 多项式
Laguerre 多项式 Hermite 多项式
Chebyshev 多项式
切比雪夫多项式的性质：
(1) 递推公式： Tn1 ( x ) 2 xTn ( x ) Tn1 ( x )
cos(n+1) + cos(n-1) = 2cos cosn x = cos
mn 0, 1 T ( x )T ( x ) n m (Tn , Tm ) dx π / 2, m n 0 (2) 正交性： 2 1 1 x π, mn0 n T ( x ) ( 1) Tn ( x) (3) 奇偶性： n
性质1 性质2
n ( x)
为首一 n 次多项式。 [a, b] 上带权 (x) 的正交多

是 k k 0
项式族，且
H n span 0 ,1,...,n
性质 3 正交。
n ( x) 与所有次数不高于n-1次的多项式
正交多项式性质
性质 4
此 k k 0 满足如下三项递推公式：
数值分析及计算软件
第三章
函数逼近与计算
3.3 最 佳 平 方 逼 近 及正交多项式
最佳平方逼近问题：
若存在 Pn* ( x )H n , 使得
|| f ( x) Pn ( x) ||2 inf || f ( x) Pn ( x) ||2 ,

数值分析第3章

数值分析第3章
* 3
* f ( x) p3 ( x) 1 1 4 2 4－1 T4 ( X ) x x 2 2 2 8
f ( x) p ( x)
* 3
与零的偏差最小。
所以
* p3 ( x) 2x3 x2 8x 3
38
对区间为［a,b］的情形，
作变换
x=(b-a)t/2+(b+a)/2
41
推论1
设pn*(x)∈Pn［a,b］为对f(x)∈C［a,b］的最佳一 致逼近元. 若f(n+1)(x)在区间(a,b)上不变号，但 在x=a (或b)处不存在(但为无穷)而符号与(a,b) 内f(n+1)(x)的符号相同，则x=a(或b)属于f(x)pn*(x)的交错点组.
42
例2设f(x)= x. 求在P1［0,1］中对f(x)的最 佳一致逼近元.
n1
Tn ( x )
1 2
n1
max f ( x ) ( n 1,2,)
1 x 1
35
36
考虑两种特殊情形
（1） 当f(x)为［－１，１］上的n+1次多项式时，求 f(x)在Pn［－１,１］中的最佳一致逼近多项式. 不妨记f(x)=b0+b1x+…+ bn+1xn+1,|x|≤1,且设bn+1≠0 ， pn(x)为最佳一致逼近元. 由于首项系数为1的n+1次Chebyshev多项式Tn+1(x)无 穷模最小，
b
如果函数f(x), g(x) 在[a,b]上连续,满
a ( x ) f ( x ) g( x )dx 0
则称f(x)与g(x)在[a,b]上关于权 ( x ) 正交,如果[a,b] 上的连续函数系 k ( x ) 满足

数值分析最佳平方逼近

数值分析最佳平方逼近

9 9
第三章 函数逼近与计算
定义3.8 设 0(x), 1(x), … , n-1(x)在[a,b]上连续如果 a00(x)+a11(x)+… +ann(x)=0 对任意 x[a, b]成立
当且仅当 a0= a1=… =an=0，则称 0(x), 1(x), … , n-1(x) 在[a,b]上是线性无关的。
I 0 a k
(k 0,1,, n),
(k 0,1,, n),
(k 0,1,, n).
( ( x), ( x))a
j 0 k j
© 2009, Henan Polytechnic University §3 最佳平方逼近
n
j
( f ( x ), k ( x ))
b
则称{ k ( x)} 是 [a, b] 上带权 ( x )的正交函数族. 若 Ak 1，则称之为标准正交函数族. 三角函数族 1, cos x , sin x , cos 2 x , sin 2 x , 区间 [ , ]上的正交函数族.
© 2009, Henan Polytechnic University §3 最佳平方逼近
© 2009, Henan Polytechnic University §3 最佳平方逼近
1111
第三章 函数逼近与计算
3.3.2 函数的最佳平方逼近 对f ( x ) C[a, b]及C[a, b]中的一个子集 span{ 0 ( x ),1 ( x ),, n ( x )}
b b
b
b
I 2a0 0 ( x ), k ( x ) 2a1 1 ( x ), k ( x ) 即 ak 2an n ( x),k ( x) 2 f ( x),k ( x)

最佳平方逼近原理

最佳平方逼近原理最佳平方逼近原理是数值分析中的一个经典原理，用于寻找函数在给定定义域上的最佳平方逼近曲线。

在实际应用中，我们经常需要通过已知的离散数据点来近似拟合一个函数，最佳平方逼近原理就是为了解决这个问题而提出的。

最佳平方逼近原理的核心思想是，通过最小化残差平方和来选择最佳的曲线拟合函数。

残差平方和是指每个数据点与拟合曲线之间的差值的平方和，通过最小化残差平方和，我们可以找到能够最好地拟合数据点的曲线。

为了更好地理解最佳平方逼近原理，我们可以通过一个简单的例子来说明。

假设我们有一组包含有N个点的数据集{(x1,y1),(x2,y2),...,(xn,yn)}，我们需要找到一条曲线y=f(x)来拟合这些数据点。

首先，我们可以假设拟合曲线为一条直线y=ax+b，其中a为斜率，b为截距。

我们的目标是找到最佳的斜率a和截距b，使得拟合曲线能够最好地拟合数据点。

为了评估拟合曲线的好坏，我们可以定义残差ei为数据点yi与拟合曲线f(xi)之间的差值，即ei=yi-f(xi)。

然后，可以定义残差平方和E为所有残差的平方和，即E=∑(yi-f(xi))^2。

根据最佳平方逼近原理，我们需要选择最优的斜率a和截距b，使得E达到最小值。

这可以通过对E分别对a和b求偏导数，并令偏导数等于零来实现。

∂E/∂a=0和∂E/∂b=0的解可以分别表示为a=(N∑(xiyi)-∑xi∑yi)/(N∑(xi^2)-(∑xi)^2)和b=(∑yi-∑(xi/n)a))/N 通过求解这两个方程，我们可以得到最佳的斜率a和截距b，从而得到最佳的拟合曲线。

上述例子只是最佳平方逼近原理的一个简单应用，实际上，最佳平方逼近原理可以应用于更复杂的拟合曲线，如多项式拟合、指数拟合等。

在实际应用中，最佳平方逼近原理广泛应用于数据分析、信号处理、图像处理等领域。

通过最佳平方逼近原理，我们可以从大量的离散数据中提取有效的信息，利用拟合曲线来进行预测、分类、回归等操作。

最佳平方逼近


所求的
应该使下式达极小：
由
整理得到
计算积分后，得法方程组
解之得 从而得到最佳平方逼近一次多项式
三、正交基函数的选择 如果我们选择子空间
正交，即 则法方程
简化为
即 容易求得 并得到最佳平方逼近
例3.2. 已知
在区间 [-1，1]上两两正交，试求
在这个
区间上的最佳平方逼近二次多项式，并给出误差估计。
应该使
整体达最小。 通过这种度量标准求得拟合曲线y=f(x)的方法，
就称作曲线拟合的最小二乘法。 按照以上思想来求出f(x)的拟合曲线，首先需
要确定出f(x)所属的函数类，然后进一步求出具体 函数，具体按照以下步骤进行。
二、最小二乘法拟合曲线的步骤
第一步：根据如下已知点的坐标，在坐标系里描点
第二步：根据图示，确定曲线所属的函数类型，例 如多项式函数类、三角函数类、指数函数 类、对数函数类等。假设所确定的函数类 的基函数为
而n+1元函数
在区间
上具有一阶连续导函数，因此根据
极值原理，在最小值点
处：
而 于是 即
利用内积 可以得到 这是一个含有n+1个变量的方程组，具体形式为：
再写成 矩阵形式为
这是关于n+1个变量
的线性方程组，并称
其为法方程组，或者正规方程组。
解此方程组，就可以得到 了f(x) 的最佳平方逼近：
，也就得到
同时，还需要给出连续函数
空间上的一个度量标准，下面通过内积给出平方范数。
二、连续函数的平方范数
已知所有连续函数构成的集合C[a,b]是一个线性
空间，对于C[a,b]中的任意函数
、 ，定义
实数

最佳平方逼近

(f q ,q p ) (f p ,q p ) 0 , 故 ( p q ,p q ) ( p f f q ,p q )
( p f,p q ) ( f q ,p q ) 0
这说明, p(x) q(x) 于 [a, b].
9
三、最佳平方逼近函数的求解
利用 ( f p*, j )=0, 可求出最佳平方逼近函数 p*. 设
(x) 最佳平方逼近的函数 ( f p*, j )=0, j=0,1,…,n. 其中, {0x,1x, , nx}为子空间 Hn 的一组基.
证: () 反证法, 设有函数 kx, 使得 ( f p*, k) k 0 , 令 q(x) p*(x) kx k /(k, k), 显然, q(x)Hn . 利用内
积的性质, 可得
(f q ,f q ) (f p * ,f p * ) (2 k ,k k )(f p * ,k ) ( k 2 ( k ,k ,k ) k 2 )
(fp * ,fp * )( k,k 2k)(fp * ,fp * )
k
这说明, p*(x) 不是对 f (x) 最佳平方逼近的函数, 矛盾.
7
() 若 ( f p*, j )=0, j=0,1,…,n 成立, 对任意的 p(x)Hn ,有
( f p , f p ) ( f p * p * p , f p * p * p )
( f p * , f p * ) 2 ( f p * , p * p ) ( p * p , p * p )
(0,1) (1,1)
((10,,nn))cc10**((ff,,10))
(n,0) (n,1) (n,n)cn* (f,n)
由于 0x,1x, , nx 线性无关, 可以推得上系数阵是

最佳平方逼近


a0 a 1 an
( f , 0 ) ( f ,1 ) = , ( f , n )
此方程组称为
法方程 .
n j=0 * a j j， k
可见，
( f (x)
) = 0 , k = 0 ,1 , L , n .
0， 1， ， n 在 [ a , b ]上 L
由定理，正交多项式系
定理：设 0 , L , n C [ a , b ], 记 Gram 矩阵为
G = G ( 0 , L , n ) ( 0 , 0 ) ( 1 , 0 ) = ( n , 0 ) ( 0 , 1 ) ( 1 , 1 ) ( n , 1 ) L L L L ( 0 , n ) ( 1 , n ) ( n , n )
r 1, ( f , g ) = a f ( x ) g ( x ) d x(1 ) (2) (3) (4)
( f , g) = (g, f ) ( cf , g ) = c ( f , g ) ( f1 f 2 , g ) = ( f1 , g ) ( f 2 , g ) ( f , f ) 0 , 当且仅当 f = 0 时 ( f , f ) = 0
满足內积定义的函数空 因此，连续函数空间 n 维欧氏空间 其內积定义为
n
间称为內积空间， C [ a , b ]上定义了內积就形成一 个內积空间。
T T
R 中两个向量內积定义：
n
设 f = ( f 1 , f 2 ,L , f n ) , g = ( g 1 , g 2 ,L , g n ) f = ( fk ) 2
b b 2
  1. 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
  2. 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
  3. 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
就是在区间 [ , ] 上的正交函数族.
5
勒让德多项式 P59-61
P0 (x) 1, P1(x) x, 利用上述递推公式就可推出
P2 (x) (3x2 1) / 2, P3 ( x) (5x3 3x) / 2, P4 (x) (35x4 30x2 3) / 8, P5 ( x) (63x5 70x3 15x) / 8, P6 ( x) (231x6 315x4 105x2 5) /16,
3
定义5 若 f ( x), g ( x) C[a, b], ( x)为 [a, b] 上的权函数且满足
( f (x), g(x)) b (x) f (x)g(x)dx 0. （2.1） a
则称 f ( x)与g ( x)在 [a, b]上带权 ( x)正交.
4
若函数族 0 (x),1(x),,n (x), 满足关系
2 S ( x)
2
（3.1）
通常(x)


1.
min
S ( x)
b
a

( x)[
f
(x)

S
( x)]2
dx.
则称 S *(x)是 f (x)在子集 C[a, b]中的最佳平方逼近
函数.
8
由（3.1）可知该问题等价于求多元函数
I (a0 , a1,, an )
b
( x)[
0 min S ( x)
2
b
(k
( x)[
0,1,, f (x)
Sn)(,x)]2
dx.
a
即
I
ak
2 b (x)[ a
n
a j j (x)
j 0
f (x)]k (x)dx
(k 0,1,, n),
9
于是有
n
(k (x), j (x))a j ( f (x),k (x)) (k 0,1,, n).（3.3）
中求 n次最佳平方逼近多项式
此时
( j ( x),k ( x))
( j ,k )
b a
( x)
j
( x)k
( x)dx
0,

Ak

j 0,
k. j
k.
（2.2）
则称{k (x)}是 [a, b] 上带权 (x)的正交函数族.
若 Ak 1，则称之为标准正交函数族.
三角函数族
1, cos x, sin x, cos 2x, sin 2x,
则称相应的 P*(x)为最佳逼近函数.
通常将范数 取为 或 .

2
1
若取 ，即
f (x) P * (x) min f (x) P(x)

PH n

（1.18）
min max f (x) P(x) , PH n a xb
则称 P*(x) 是 f (x)在 [a, b]上的最优一致逼近多项式.
a
n
a j j (x) f (x)]2 dx
（3.2）
j 0
的最小值.
I (a0 , a1,, an )是关于 a0 , a1,, an 的多元函数，
利用多f (元x)函数S求* (x极) 值2 的m必in要条f 件(x) S (x) 2
（3.1）
I
ak
2 S ( x)
6
切比雪夫多项式 P61-64
当权函数 (x) 1 ，区间为 [1, 1]时，由序
1 x2
列 {1, x,, xn ,} 正交化得到的正交多项式就是切比雪夫
(Chebyshev)多项式. 它可表示为
Tn (x) cos(n arccos x),
x 1.
若令 x cos ， 则Tn (x) cos n , 0 .
j 0
k
0时, (
b
a 0 ( x) 0 ( x)dx)a0
(
b
a
1
(x)
0
( x)dx)a1
...
b
b
( a n (x) 0 (x)dx)an a f (x) 0 (x)dx
(3.3)式是关于 a0 , a1,, an 的线性方程组,称为法方程.
（2.10）
7
3.3.1 最佳平方逼近及其计算
对 f (x) C[a, b] 及 C[a, b] 中的一个子集
span{0 (x),1(x),,n (x)}
若存在 S*(x) a00 (x) ... ann (x) ，使
f (x) S * (x) 2 min f (x) S (x) 2
由于 0 (x),1(x),,n (x) 线性无关，故 det G(0 ,1,,n ) 0 (P56)
于是方程组（3.3）有唯一解 ak ak* (k 0,1,, n),
S * (x) a0*0 (x) an*n (x).
10
若取 k (x) xk , (x) 1, f (x) C[0, 1], 则要在 H n
求
P*
(
x)就是求
[a,
b]上使最大误差
max
a xb
f (x) P(x)
最小的多项式.
2
若取 ，即 2
f (x) P * (x) 2 min f (x) P(x) 2
2
PH n
2
（1.19）
min
b
[
f
(x)

P( x)]2
dx,
PH n a
则称 P*(x) 是 f (x)在 [a, b]上的最佳平方逼近多项式.
若 f (x)是 [a, b]上的一个列表函数， f (xi )(i 0,1,, m) ，要求 P* 使
m
f P * min
2
P
f
P
2
min P
[ f (xi ) P(xi )]2
i0
（1.20）
则称 P*(x) 为 f (x)的最小二乘拟合.
3.1.0 最佳逼近
函数逼近主要讨论给定 f C[a, b]，求它的最佳逼近 多项式的问题.
若
P*
(
x)

H
(次数不超过n次多项式),使误差
n
f (x) P*(x) min f (x) P(x) PH n
则称 P*(x) 是 f (x)在 [a, b]上的最佳逼近多项式.
若 P(x) span{0 ,1,,n}(由0 ,1,,n生成的函数空间