第三章平稳过程的线性模型_1-2-3-4_byCEQ

3.3 AR模型的正则方程与参数计算
正则方程：在均方误差(MSE)最小准则下建立的模 型参数与相关函数的关系——仅适合于高斯过程 3.3.1 尤勒-沃克（Yule-Walker）方程 p阶AR模型
H ( z) = G 1 + ∑ ai z − i
i =1 p
2 2 注 ： G 和 σ w 只 须 待 定 一 个 即 可 ， 这 里 取 σ w =1而 G 待 求 。
X ( z ) + ∑ ai z − i X ( z )
i =1
p
X ( z)
= 1 + ∑ ai z − i
i =1
p
3.3 AR模型的正则方程与参数计算
• 一些讨论
w(n) e( n )
H (e )
jω
x ( n)
H (e )
−1
jω
以e(n)做为输出，x(n)做为输入，预测误差滤波器 的差分方程为： p x(n) + ∑ ai x(n − i ) = e(n)
= 2∑ ai Rx (−i )
i =1 p
Hale Waihona Puke p= 2∑ ai Rx (i )
i =1
第三项
p p ⎧ p ⎫ p E ⎨[∑ ai x(n − i )][∑ ak x(n − k )]⎬ = ∑ ai ∑ ak E [ x(n − i ) x(n − k ) ] k =1 ⎩ i =1 ⎭ i =1 k =1
2 i =1 i =1 k =1 p p p
使误差均方值最小应使
∂E ⎡ e 2 (n) ⎤ ⎣ ⎦ ∂ai ∂E ⎡ e 2 (n) ⎤ ⎣ ⎦ ∂ai
p k =1 k x
=0
i = 1, 2,..., p
p
= 0 + 2 Rx (i ) + 2∑ ak Rx (i − k ) = 0
k =1
∑ a R (i − k ) = − R (i)
i =1 q
x(n) = G[ w(n) + ∑ bi w(n − i )]
i =1
q
= G ∑ bi w(n − i )
i =0
q
b0 = 1
全零点模型，MA过程MA(q)功率谱具有深谷而无尖峰
第3章 平稳过程的线性模型
3.1 有理分式模型
1. ARMA模型（滑动平均自回归模型）
H ( z) = G
零极点模型，ARMA过程ARMA(p,q)功率谱即有深谷又 有尖峰
第3章 平稳过程的线性模型
3.2 平稳随机信号通过线性系统
y (n) = x(n) ∗ h(n) =
m = −∞
∑
∞
x(m )h(n − m )
如果x(n)为确定性信号
Y (e ) = X (e ) H (e )
如果x(n)为随机信号，输出y(n)也为随机信号， 应该研究其功率谱之间的关系。
如果输入是实信号有
S yx ( e jω ) = S x ( e jω ) H * ( e jω )
H ( e jω ) =
− j 2ϕ (ω )
S xy ( e jω ) S x (e
*
jω
)
=
S yx ( e jω ) S x ( e jω )
e
H (e ) = = jω H (e ) S xy ( e jω )
i =1
系统函数为： H ( z ) =
−1
X ( z ) + ∑ ai z − i X ( z )
i =1
p
X ( z)
= 1 + ∑ ai z − i
i =1
p
预测误差滤波器是一个数据白化滤波器
3.3.2 Levinson-Durbin 快速递推算法
⎧ p ⎪−∑ ak Rx (m − k ) ⎪ k =1 Rx (m) = ⎨ p ⎪− a R (i ) + G 2 ⎪ ∑ i x ⎩ i =1
x(n) = −∑ ai x(n − i ) + Gw(n)
上式可理解为由∑ ai x(n − i )预测x(n)，预测误差w(n)
i =1 p
p
i =1
于是有
e(n) = Gw(n) = x(n) + ∑ ai x(n − i )
i =1
p
3.3 AR模型的正则方程与参数计算
e(n) = Gw(n) = x(n) + ∑ ai x(n − i )
3.3 AR模型的正则方程与参数计算
第一项 第二项
E ⎡ x 2 (n) ⎤ = Rx (0) ⎣ ⎦
H ( z) =
G 1 + ∑ ai z − i
i =1 p
p p ⎡ ⎤ 2 E ⎢ x(n)∑ ai x(n − i ) ⎥ = 2∑ ai E [ x(n) x(n − i ) ] i =1 i =1 ⎣ ⎦
x
i = 1, 2,..., p
3.3 AR模型的正则方程与参数计算
Rxx (−1) ⎡ Rxx (0) ⎢ R (1) Rxx (0) ⎢ xx ⎢ ⎢ ⎣ Rxx ( p − 1) Rxx ( p − 2) Rxx (− p + 1) ⎤ ⎡ a1 ⎤ ⎡ Rxx (1) ⎤ ⎢ R (2) ⎥ ⎥ ⎢a ⎥ Rxx (− p + 2) ⎥ ⎢ 2 ⎥ ⎥ = − ⎢ xx ⎢ ⎥ ⎥⎢ ⎥ ⎢ ⎥ ⎥⎢ ⎥ Rxx (0) ⎦ ⎢ a p ⎥ ⎣ Rxx ( p ) ⎦ ⎣ ⎦
3.3 AR模型的正则方程与参数计算
• 一些讨论 和假定G=1，AR模 型的系统函数为：
H ( z) = G 1 + ∑ ai z − i
i =1 p
以e(n)做为输出，x(n)做为输入，预测误差滤波器 的差分方程为：
x(n) + ∑ ai x(n − i ) = e(n)
i =1
p
系统函数为： H −1 ( z ) =
jω
jω
jω
第3章 平稳过程的线性模型
3.2 平稳随机信号通过线性系统
1. 相关卷积定理
R y (n ) = R x (n ) ∗ Rh (n )
y (n) = x(n) ∗ h(n) =
m = −∞
∑
∞
x(m )h(n − m )
卷积的相关等于相关的卷积（注意h(n)是确定性能量信号） 从频域看
i =1 i =1
p
= Rx (0) + ∑ ai Rx (i ) = G 2
i =1
p
Rx (m) = −∑ ai Rx (i ) + G 2
i =1
p
m=0
3.3 AR模型的正则方程与参数计算
⎧ p ⎪−∑ ak Rx (m − k ) ⎪ k =1 Rx (m) = ⎨ p ⎪− a R (i ) + G 2 ⎪ ∑ i x ⎩ i =1 ⎫ m = 1, 2,..., p ⎪ ⎪ Yule-Walker方程 ⎬ ⎪ 正则方程 m=0 ⎪ ⎭
2 w
H (e
jω
)
2
第3章 平稳过程的线性模型
3.2.2 白噪声激励线性系统
w(n)
B(z) H (z) = A( z )
H (e )
S x (e
jω
jω
x ( n)
)=σ
2 w
H (e
jω
)
2
Wold分解：任何平稳过程功率谱都可分解成连续 谱（由白噪声激励）和离散谱（正弦信号）组成 Wold分解：任何ARMA、MA过程都可用无限阶的 AR过程表示。
p
H ( z) =
G 1 + ∑ ai z − i
i =1 p
由 e(n) = Gw(n)
i =1
2 E ⎡e 2 (n) ⎤ = E ⎡G 2 w2 (n) ⎤ = G 2 E ⎡ w2 (n) ⎤ = G 2σ w = G 2 ⎣ ⎦ ⎣ ⎦ ⎣ ⎦
另一方面
由 e(n) = x(n) + ∑ ai x(n − i )
p p i =1 k =1
又由
E ⎡e (n) ⎤ = Rx (0) + 2∑ ai Rx (i ) + ∑ ai ∑ ak Rx (i − k ) = G 2 ⎣ ⎦
2 i =1
p
和
2
∑ a R (i − k ) = − R (i)
k =1 k x x
p
i = 1, 2,..., p
p
E ⎡e (n) ⎤ = Rx (0) + 2∑ ai Rx (i ) + ∑ ai [− Rx (i )] ⎣ ⎦
F [ R y ( m )] = F [ R x ( m ) ∗ R h ( m )] = F [ R x ( m )] ⋅ F [ R h ( m )]
S y (e ) = S x (e ) H (e )
jω
jω
jω
2
输出功率谱等于输入信号功率谱乘系统能量谱
第3章 平稳过程的线性模型
3.2 平稳随机信号通过线性系统
第3章 平稳过程的线性模型
3.2.2 白噪声激励线性系统
w(n)
y (n) = x(n) ∗ h(n) =
m = −∞
∑
∞
x(m )h(n − m )
H (e )
B(z) H (z) = A( z )
jω
x ( n)
可逆系统
零极点都在单位圆内
A(z)B(z)都 为最小相位 多项式
S x (e
jω
)=σ
jω
S yx ( e jω )
如果输入为方差为1的白噪声w(n)，则 Rwy (m ) = δ (m ) ∗ h (m ) = h (m )