第八章—极大似然法辨识

格式：pdf
大小：346.27 KB
文档页数：31

下载文档原格式

/ 31

极大似然参数辨识方法

2 极大似然参数辨识方法极大似然参数估计方法是以观测值的出现概率为最大作为准则的，这是一种很普遍的参数估计方法，在系统辨识中有着广泛的应用。

2.1 极大似然原理设有离散随机过程}{k V 与未知参数θ有关，假定已知概率分布密度)(θk V f 。

如果我们得到n 个独立的观测值,21,V V …n V ,，则可得分布密度)(1θV f ，)(2θV f ，…,)(θn V f 。

要求根据这些观测值来估计未知参数θ，估计的准则是观测值{}{k V }的出现概率为最大。

为此，定义一个似然函数)()()(),,,(2121θθθθn n V f V f V f V V V L = （2.1.1）上式的右边是n 个概率密度函数的连乘，似然函数L 是θ的函数。

如果L 达到极大值，}{k V 的出现概率为最大。

因此，极大似然法的实质就是求出使L 达到极大值的θ的估值∧θ。

为了便于求∧θ，对式（2.1.1）等号两边取对数，则把连乘变成连加，即 ∑==ni iV f L 1)(ln ln θ （2.1.2）由于对数函数是单调递增函数，当L 取极大值时，lnL 也同时取极大值。

求式（2.1.2）对θ的偏导数，令偏导数为0，可得0ln =∂∂θL（2.1.3）解上式可得θ的极大似然估计ML ∧θ。

2.2 系统参数的极大似然估计设系统的差分方程为)()()()()(11k k u z b k y z a ξ+=-- （2.2.1）式中111()1...nn a z a z a z ---=+++1101()...nn b z b b z b z ---=+++因为)(k ξ是相关随机向量，故（2.2.1）可写成)()()()()()(111k z c k u z b k y z a ε---+= （2.2.2）式中)()()(1k k z c ξε=- （2.2.3）nn z c z c z c ---+++= 1111)( （2.2.4）)(k ε是均值为0的高斯分布白噪声序列。

交通流理论第八章

第八章无信号交叉口理论平面交叉口把相交的道路路段连接起来，构成路网。

因为在交叉口同一平面上有多股交通流动，考虑到交通安全，有时需要进行适当的交通控制。

按照有无交通控制，可将交叉口分为有交通信号控制的交叉口（简称为信号交叉口）和无交通信号控制的交叉口（简称为无信号交叉口）。

无信号交叉口是最普遍的交叉口类型，虽然它的通行能力可能低于信号交叉口，但它在网络交通控制中起到了非常重要的作用。

一个运行情况不良的无信号交叉口，可能会影响整个信号网络或者智能运输系统的运行，并且无信号交叉口理论是信号交叉口理论的基础，因此首先对无信号交叉口进行研究是非常必要的。

无信号交叉口不像信号交叉口那样会给驾驶员确定的指示或控制，驾驶员必须自己判断何时进入交叉口是安全的。

驾驶员所寻求的在交通流中进入交叉口的安全机会或“间隙”称为可插车间隙，它用时间来度量，并且等于某一车头时距。

可插车间隙理论是分析无信号交叉口运行的基本理论，其它的所有分析过程在某种程度上都依赖于可插车间隙理论，或者即使没有明确地应用该理论，但也是以它为基础的。

在无信号交叉口中，必须考虑车辆的优先权问题。

如果有一辆车试图进入交叉口，但此时存在优先级高于它的交通流，那么它必须让路给这些交通流。

另外，低级别交通流的存在也会影响高级别交通流的运行。

由此可见，无信号交叉口的车流间存在着相互作用。

本章的第一节首先讨论无信号交叉口的理论基础，着重介绍可插车间隙理论以及在该理论中用到的几种基本的车头时距分布。

普通的无信号交叉口（即四路相交）可分为二路停车和四路停车两类，即主路优先控制的交叉口（包括停车控制和让路控制）和主次路不分的交叉口。

在第二节中首先讨论了二路停车的无信号交叉口，第三节接着讨论了四路停车的无信号交叉口。

在考虑交叉口交通运行时还用到了经验方法，并且在许多情况下经验方法的结果也是比较准确的，与实际情况差别并不大，在第四节中介绍了这些方法。

第一节理论基础一、可插车间隙理论1. 可利用间隙可插车间隙理论是分析无信号交叉口的基本理论，理解该理论必须先理解可利用间隙的概念。

极大似然法原理

极大似然法原理在统计学中，极大似然法是一种常用的参数估计方法。

它的原理是基于已知数据集的情况下，通过寻找最大概率使模型参数最接近真实值。

接下来，我们将围绕极大似然法原理进行分步骤的阐述。

第一步，定义似然函数。

似然函数是指在已知数据集的情况下，模型参数的取值所产生的概率。

假设我们要估计一个二项分布模型的参数p，数据集中有n个实例，其中有m个成功实例（成功实例概率为p）。

那么这个模型的似然函数可以表示为：L(p;m,n) = C(n,m) * p^m * (1-p)^(n-m)其中，C(n,m)表示从n个实例中选择m个成功的组合数。

这个式子中，p取值不同，所对应的似然函数值也不同。

第二步，求解极大化似然函数的参数值。

在求解参数值时，我们要找到一个能使似然函数取到最大值的p值。

这个过程可以通过求解似然函数的导数为零来实现。

即：dL/dp = C(n,m) * [m/(p)] * [(n-m)/(1-p)] = 0这个式子中，p的值是可以求出来的，即为p = m / n。

这个p值被称为最大似然估计值，意味着在该值下，似然函数取值最大。

这个值也是对真实参数值的一个良好估计。

第三步，检验极大似然估计值的可靠性。

为了检验极大似然估计值的可靠性，我们需要进行假设检验。

通常我们会计算一个置信区间，如果实际参数值在置信区间内，那么我们就认为估计值是可靠的。

置信区间可以通过计算似然函数的二阶导数来得到。

即：d^2L/dp^2 = -C(n,m) * [m/(p^2)] * [(n-m)/((1-p)^2)]计算得到极大似然估计值的二阶导数在该参数值下是负数。

根据二阶导数的符号，可以确定p = m / n是最大值，同时也可以计算出该置信区间的范围。

在这个过程中，我们还需要参考似然比值，以便更好地确定参数估计值。

综上所述，极大似然法是统计学中重要的一种参数估计方法。

它的原理在求解模型参数时非常实用，能够帮助我们更好地估计真实值，从而使得我们的模型更加准确。

极大似然估计方法介绍

未知参数的极大似然估计方法最早是由高斯（C・F・Ga-uss）提出的，后来为费歇在1912年的文章中重新提出，并且证明了这个方法的一些性质。

极大似然估计这一名称也是费歇命名的。

这是一种得到广泛应用的统计方法。

它是建立在极大似然原理基础之上的一种统计方法，所得到的极大似然估计具有很好的性质，如一致性、有效性和不变性。

从某种意义上说没有比极大似然估计更好的参数估计。

当然极大似然估计方法在实际中有非常广泛的应用，对极大似然估计问题进行深入研究是很有必要的。

8，因为如果硬币是均匀的，“掷5次硬币，出现4次反面”的可能性不大。

事实上，事件|均匀)==0.5540.540.5=0.156=0.5540.840.2=0.410由此可见，若硬币是偏心的，则事件发生的可能性大些，但实验结果确实发生了，自然认为硬币是偏心的。

这种方法可以推广到一般情形，其基本思想是：虽然参数中的所有值，但在给定样本观察值(2,…,)之后，不同的1,1,1,1,1,1,1,1,1,1～,,£¨1,1,=1,为样本2,…,的联合密度函数，它是参数的似然函数。

极大似然法

均寿命的极大似然估计．
极大似然估计的不变性
• 分为X析的：期可望先值求，在的指极数大分似布然场估合计，，有由于E元( X件)的平1均，寿它命是即
的函数，故可用极大似然估计的不变原则，求其极大似然
估计．
n
•
解：（１）写出似然函数：L()
n
e e xi
xi
n
i 1
i 1
n
（２）取对数得对数似然函数： l() n ln xi i 1
• 2、把样本联合概率函数（或联合密度）中自变量看
成已知常数，而把参数看作自变量，得到似然函数
L( )
• 3、求似然函数 L( ) 的最大值点（常转化为求对数似
然函数 l( ) 的最大值点）；
• 4、在最大值点的表达式中，用样本值代入就得参数的极大似然估计值．
极大似然估计的不变性
• 求未知参数的某种函数 g( )的极大似然估计可用极大
n
L( ) L(x1, x2 ,, xn ; ) p(xi ; ) i1
称 L( )为似然函数．
求总体参数的极大似然估计值的问题就是求似
然函数 L( )的最大值问题．
似然函数与极大似然估计
• ２、连续分布场合：
设总体 X 是连续离散型随机变量，其概率密
度函数为 f (x; ) ，若取得样本观察值为
取x1值, x为2 ,(x1,,xxn2，,则, 因xn为)时随联机合点密(度X1函, X数2 ,值,为X n )
n
f (xi ; ) 。所以，按极大似然法，应选
择i1 的值使此概率达到最大．我们取 )
再按前述方法求参数
的极大似然估i1计值．
极大似然函数
极大似然估计，是以极大似然函数为基础。所谓“似然函数”，就是构造一个以观察数据和

对数极大似然估计(1)

L( y ; ψ) 0 , i =1, 2, …, n （8.1.2）
i
由上式可解得 n1 向量的极大似然估计值 ψˆ，而式(8.1.2)
也被称为似然函数。
6
因为 L(y ; ) 与 ln[L(y ; ))] 在同一点处取极值，所以
也可以由
ln L( y ; ψ) 0 , i =1, 2, …, n （8.1.3）
24
每个似然说明都必须包含一个控制语句，该语句命名了保存似然贡献的序列。语句的格式为：
@logL series_name
这里@logL是关键字，series_name是保存似然贡献的序列的名字，可以写在似然说明的任何位置。
T
( yt
t 1
t)2
T t1
1 ln(2 π
2
2)
1
2 2
( yt
t)2
（8.1.7）
9
注意，可以将对数似然函数写成 t 时刻所有观测值的对数似然贡献和的形式，
T
ln L( β, 2 ) lt ( β, 2 ) t 1
（8.1.8）
这里对数似然的单个贡献（用小写字母表示）由下面
第八章对数极大似然估计
极大似然估计法(maximum likelihood, ML)，是不同于最小二乘法的另一种参数估计方法，是从极大似然原理发展起来的其他估计方法的基础。虽然其应用没有最小二乘法普遍，但在计量经济学理论上占据很重要的地位，因为极大似然原理比最小二乘原理更本质地揭示了通过样本估计母体参数的内在机理，计量经济学理论的发展更多的是以极大似然估计原理为基础的，对于一些特殊的计量经济学模型，只有极大似然方法才是很成功的估计方法。
前面两行语句创建了残差序列res和方差序列var，参数c(1),

极大似然估计

a* = m { X1 , X2 ,L Xn } in , b =m ax{ X1 , X2 ,L Xn } ,
*
是取自总体X的一个样本例5设X1,X2,…Xn是取自总体的一个样本设 θ xθ −1 , 0 < x < 1 X ~ f ( x) = 其中θ >0, 的极大似然估计. 求θ 的极大似然估计解：似然函数为
i =1 n
求导并令其为0 求导并令其为
d ln L(θ ) n n = + ∑ln xi =0 dθ θ i =1
从中解得
θ * = −n
∑ln x
i =1
n
i
即为θ 的MLE .
是取自总体X的一个样本例6 设X1,X2,…Xn是取自总体的一个样本
1 −( x−µ ) θ e , x≥µ X ~ f ( x) = θ θ , µ为未知参数 0, 其它
的极大似然估计.(注我们把σ 看作一个参数) 的极大似然估计.(注:我们把σ2看作一个参数) .(
解:
似然函数L(µ,σ ) = ∏ f ( xi , µ,σ )
2 2 i =1
n
=∏
i =1
n
− 1 e 2πσ
( xi −µ )2 2σ
2
= (2πσ) e
n − 2
−
1 2σ 2
∑
i=1
n
( xi −µ )2
n i i=1
x!
e
−λ
x = 0,1,2,L
i
i =1
i =1
xi !
似然方程为
1 n ∂ log L(λ) = −n + ∑ xi = 0 λ i =1 ∂λ

(完整)系统辨识的常用方法

系统辨识的常用方法系统辨识是根据系统的输入输出时间函数来确定描述系统行为的数学模型，是现代控制理论中的一个分支。

对系统进行分析的主要问题是根据输入时间函数和系统的特性来确定输出信号。

传统的系统辨识方法(1）脉冲响应脉冲响应一般是指系统在输入为单位冲激函数时的输出（响应）。

对于连续时间系统来说，冲激响应一般用函数h(t)来表示.对于无随机噪声的确定性线性系统,当输入信号为一脉冲函数δ(t）时，系统的输出响应 h（t)称为脉冲响应函数。

辨识脉冲响应函数的方法分为直接法、相关法和间接法。

①直接法：将波形较理想的脉冲信号输入系统，按时域的响应方式记录下系统的输出响应，可以是响应曲线或离散值。

②相关法：由著名的维纳—霍夫方程得知：如果输入信号u（t)的自相关函数R（t)是一个脉冲函数kδ（t）, 则脉冲响应函数在忽略一个常数因子意义下等于输入输出的互相关函数，即 h(t)=(1/k）Ruy（t)。

实际使用相关法辨识系统的脉冲响应时,常用伪随机信号作为输入信号,由相关仪或数字计算机可获得输入输出的互相关函数Ruy（t），因为伪随机信号的自相关函数 R(t)近似为一个脉冲函数,于是h(t）=（1/k）Ruy(t).这是比较通用的方法。

也可以输入一个带宽足够宽的近似白噪声信号，得到h （t）的近似表示。

③间接法：可以利用功率谱分析方法,先估计出频率响应函数H（ω），然后利用傅里叶逆变换将它变换到时域上，于是便得到脉冲响应h（t）。

（2)最小二乘法最小二乘法（LS）是一种经典的数据处理方法, 但由于最小二乘估计是非一致的、有偏差的, 因而为了克服它的不足, 形成了一些以最小二乘法为基础的辨识方法:广义最小二乘法（GLS）、辅助变量法(IVA)和增广矩阵法(EM），以及将一般的最小二乘法与其它方法相结合的方法,有相关分析——-最小二乘两步法（COR —LS)和随机逼近算法.（3）极大似然法极大似然法（ML）对特殊的噪声模型有很好的性能，具有很好的理论保证;但计算耗费大, 可能得到的是损失函数的局部极小值。

现代控制工程-第8章系统辨识

航空航天领域
总结词
系统辨识在航空航天领域中具有重要应用价值，主要用于飞行器控制、导航和监测系统的设计和改进。
详细描述
通过对飞行器动力学特性进行系统辨识，可以精确建模飞行器的动态行为，为飞行控制系统提供准确的数学模型。同时，系统辨识技术还可以用于导航和监测系统的误差分析
和修正，提高航空航天器的安全性和精度。
感谢您的观看
THANKS
环境监测系统
总结词
系统辨识在环境监测系统中应用广泛，主要用于建立环境参数的数学模型，实现环境质量的实时监测和预警。
详细描述
通过系统辨识技术对环境监测数据进行处理和分析，可以精确获取环境参数的变化趋势和规律，为环境治理和保护提供科学依据。同时，系统辨识技术还可以用于建立环境质量预警系统，及时发现环境异常情况并采取应对措施，保障生态安全和人类健康。
模糊逻辑系统辨识
模糊逻辑系统辨识是基于模糊逻辑理论的系统辨识方法。它通过建立模糊逻辑模型来描述系统的动态行为，能够处理不确定性和模糊性。
模糊逻辑系统辨识的优势在于能够处理语言变量和不确定信息，同时具有较强的推理能力和鲁棒性。
然而，模糊逻辑系统辨识也存在一些挑战，例如隶属度函数的选择和模糊规则的制定等。
提高控制性能
准确的数学模型有助于设计出性能更优的控制策略。
预测与优化
通过系统辨识，可以对未来系统行为进行预测，并优化系统性能。
故障诊断
系统辨识可用于诊断系统故障，提高系统的可靠性和安全性。
系统辨识的基本步骤
01
数据采集
采集系统的输入和输出数据，确保数据的准确性和完整性。
模型建立
根据处理后的数据，选择合适的数学模型进行建模。

参数估计极大似然法

解总体X服从参数为λ的指数分布，则有
e x x 0 f ( ; x ) 0 x0
所以似然函数为
L ( ) n e

xi
i 1
n
取对数令
ln L( ) n ln xi
i 1
n
d n n ln L( ) xi 0 d i 1
设总体的分布类型已知 , 但含有多个未知参数
1 , 2 ,, k ，这时总体的概率函数为 f ( x;1 , 2 ,, k ) . 设
( x1 , x2 ,, xn ) 为总体
X 的一个样本观察值,若似然函数
n i 1
L(1 , 2 ,, k ) L( x1 , x2 ,, xk ;1 , 2 ,, k ) f ( xi ;1 , 2 ,, k )
(x )
n
0
1 n 解得 xi x n i 1
n 1 2 ( xi x )2 n i 1
所以μ，2的极大似然估计量为
1 n ˆ Xi X n i 1
n 1 2 2 ˆ ( Xi X ) n i 1
与矩估计量相同
7-26
求极大似然估计的一般步骤归纳如下：
（1）求似然函数 L( ) ；
（2）求出 ln L( ) 及方程
d ln L( ) 0 d
；
（3）解上述方程得到极大似然估计值
ˆ ˆ( x , x ,, x ) 1 2 n .
（4）解上述方程得到极大似然估计量
ˆ ˆ( X , X ,, X ) 1 2 n .
解得λ的极大似然估计值为
ˆ
n
x

1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。

二、系统参数的极大似然估计
A( z −1 ) = C ( z −1 )
n ( k ) = e ( k ) / C ( z −1 )
A( z −1 ) z (k ) = B( z −1 )u (k ) + e(k ) e(k ) = D( z −1 )v(k )
v ( k ) 是零均值，方差为 σ v2 的服从正态分布的不相关
,L ,L+n
λ ( j) 0
ˆ ˆ i.e. 2v( j ) + λ ( j ) + ∑ di λ ( j + i ) = 0
i =1 n
j = n + 1, n + 2, j = L + 1, L + 2,
,L
λ ( j) = 0
,L+n
L (θ )对λ (k )求导
ˆ ˆ ˆ ˆ v( k ) = z ( k ) + ∑ ai z ( k − i ) − ∑ bi u ( k − i ) − ∑ di v(k − i )
, z ( L)]T
, u ( L − 1)]T
v 2 (k ) ∑
k =1 L
l ( z L | uL −1 , θ ) = log L( z L | uL −1 , θ ) = log p ( z L | uL −1 , θ ) L L 1 2 = const − log 2π − log σ v − 2 2 2 2σ v
L 1 L 2 L L 1 L 2 l ( z L | u L −1 , θ ) = const − log( ∑ v ( k )) − = const − log( ∑ v (k )) 2 L k =1 2 2 L k =1
l ( z L | uL −1 , θ ) |θˆ = max 等价于V (θ ) |θˆ
x( L)] 表示随机变量
T
x 的L个观
则x在θ 条件下的似然函数为
L ⎡ ⎤ 2L L( xL | θ ) = ∏ p( x(k ) | θ ) = θ ∏ x(k ) exp ⎢ −θ ∑ x(k ) ⎥ ⎣ k =1 ⎦ k =1 k =1 L L
ln L( xL | θ ) = 2 L ln θ + ∑ ln x(k ) − θ ∑ x(k )
, u (L-1), θ )
, u (L-1), θ ) , u (L-2), θ )
× p (z (1)| z (0), u (0), θ ) =∏ p (z (k)| z (1),
k=1 L
, z (k-1), u (1), u (2),
n
, u (k-1), θ )
n
z ( k ) = − ∑ ai z ( k − i ) + ∑ bi u ( k − i ) + v( k ) + ∑ d i v ( k − i )
k =1 k =1
L
L
∂ ln L( xL | θ ) 2 L L = − ∑ x(k ) = 0 ∂θ θ k =1
θˆ
ML
=
2L
∑ x(k )
k =1
L
∂ 2 ln L( xL | θ ) L 又∵ |θˆ = − 2 < 0 ML ∂θ 2 θˆ ML
故 θˆML 使似然函数达到了最大值。因此θˆML 是 θ 参数的极大似然估计。
u (1 − n) ⎤ u (2 − n) ⎥ ⎥ ⎥ ⎥ u ( L − n) ⎦
, z ( L)]T , e( L)]
T
θ = [a1 , , an , b1 , , bn ]T
u (0) u (1)
− z ( L − n) u ( L − 1)
n
e( k ) = v ( k ) + d1v ( k − 1) +
随机噪声； A( z −1 ) = 1 + a z −1 + 1
+ an z − n
−n
B ( z ) = b1 z +
−1
−1
−1
+ bn z
D ( z −1 ) = 1 + d1 z −1 +
B( z −1
−1
+ dn z −n
假设 A( z 和 ) ) 和 D( z ) 没有公共因子，这意味着系统是渐近稳定的。
n n n 1 L 2 1 L ⎡ ⎤ L (θ ) = ∑ v (k ) + ∑ λ (k ) ⎢v(k ) + ∑ di v(k − i ) + ∑ bi u (k − i ) − z (k ) − ∑ ai z ( k − i ) ⎥ L k =1 L k =1 i =1 i =1 i =1 ⎣ ⎦
设 xL = [ x(1) 值向量
L
x(2)
x( L)] 表示随机变量 x的L个观测
T
⎡ 1 L 2 ⎤ L ( xL | a ) = ∏ p ( x ( k ) | a ) = ( ) L a −3 L ∏ x 2 (k ) exp ⎢ − 2 ∑ x (k ) ⎥ π ⎣ a k =1 ⎦ k =1 k =1 L 4 1 L 2 2 − 3L ln a + ln ∏ x (k ) − 2 ∑ x (k ) ln L( xL | a ) = L ln a k =1 π k =1 4
L
∂ ln L( xL | a ) 3L 2 L 2 =− + 3 ∑ x (k ) = 0 ∂a a a k =1
∵ x是独立同分布随机变量，有 2 L 2 L 2 2 2 ˆML } = E {a E { x (k )} = E {x } = E {x2} ∑ ∑ 3L k =1 3L k =1 3
= ∏ p (v(k )) + const = const + ∏ (2π ) (σ ) e
k =1 k =1
= const + (2π ) (σ ) e
L − 2
L − 2 2 v
⎛ 1 ⎜− ⎜ 2σ 2 v ⎝
∑
⎞ v2 ( k ) ⎟ ⎟ k =1 ⎠
L
记：z L = [ z (1), z (2), uL −1 = [u (1), u (2),
A D( z −1 ) 的所有零点均位于平面的单位圆内,且 ( z −1 )
1、极大似然估计
zL = H Lθ + eL
⎡ − z (0) ⎢ − z (1) HL = ⎢ ⎢ ⎢ ⎣ − z ( L − 1) − z (1 − n) − z (2 − n)
zL = [ z (1), z (2), eL = [e(1), e(2),
ˆ θ ML
ˆ θ ML
ˆ θ ML
必须进行搜索，使 L (θˆML ) = min：采用DFP（Davidon, Fletcher, Powell）变尺度法，搜索过程
流程图
给定初始状态
ˆ 计算 v ( k
)
计算 λ(k )
计算 g 和 p
有约束条件的极值问题转化为无约束条件的 Lagrangian函数极值问题
L (θ )对v( j )求导
n ∂L (θ ) 2 1⎡ ⎤ ˆ ˆ = v( j ) + ⎢λ ( j ) + ∑ di λ ( j + i ) ⎥ = 0 L⎣ ∂v( j ) θˆML L i =1 ⎦
j = n + 1, n + 2, j = L + 1, L + 2,
i =1 i =1
, z (k − 1), u (0),
, u ( k − 1), θ )
p ( z (1), z (2),
L
, z ( L) | z (0),
, z (k − 1), u (0), u (1), u ( L − 1), θ )
L 1 − 2 1 − 2 2 v ⎛ 1 2 ⎞ ⎜ − 2 v (k )⎟ ⎜ 2σ ⎟ v ⎝ ⎠
v ( k ) 是零均值，方差为 σ v2 的服从正态分布的白噪声；
独立观测获得L组数据:
{u ( k ), z ( k )}
k = 1, 2,
,L
p (z (1), z (2), = p (z (L)| z (1), × p (z (L-1)| z (1), ×
, z (L)| z (0), u (0), u (1), u (2), , z (L-1), u (1), u (2), , z (L-2), u (1), u (2),
i =1 i =1 i =1
n
p ( z (1), z (2),
L k =1
, z ( L) | z (0),
n i =1
, z (k − 1), u (0), u (1), u ( L − 1), θ )
n n
= ∏ p (v( k ) − ∑ ai z (k − i ) + ∑ bi u ( k − i ) + ∑ di v(k − i ) | z (0),
第八章极大似然法辨识
极大似然参数估计方法是以观测值的出现概率为最大作为准则的。方法 1.构造一个似然函数:此似然函数以数据和未知参数为自变量 2.极大化似然函数——〉得到未知参数前提 1.要求知道输出变量的条件概率密度
一、极大似然原理
极大似然原理的意义：
设 xL = [ x(1) x(2) 测值向量
v ( k ) = z ( k ) + ∑ ai z ( k − i ) − ∑ bi u ( k − i ) − ∑ d i v( k − i )
i =1 i =1 i =1
n
n
n
∂l ( z L | u L −1 , θ ) L 1 L 2 1 L 2 2 ˆ =− 2 + v (k ) ⇒ σ v = ∑ v (k ) 2 4 ∑ ∂σ v 2σ v 2σ v k =1 L k =1