系统辨识第三章(随机逼近法)讲义(NJUST)

《系统辨识》第3讲要点第2章 随机信号的描述与分析2.5 白噪声及其产生方法（Why and How ？）2.5.1 白噪声的概念（Why ）● 白噪声过程（一系列不相关的随机变量组成的理想化随机过程）相关函数：)()(2τδστ=W R 谱密度：+∞<<∞-=ωσω2)(W S● 近似白噪声过程谱密度：⎩⎨⎧>≤=002,0,)(ωωωωσωW S （0ω为给定的远大于过程的截止频率）相关函数：τωτωπωστ0002sin )(⋅=W R ● 讨论白噪声时，还要涉及到白噪声的概率分布，服从正态分布的白噪声称为高斯白噪声。

n 维白噪声：一个n 维随机过程)(t W 满足：⎩⎨⎧=+=+=)()}()({)}(),({0)}({τδττQ t W t W E t W t W Cov t W E 其中Q 为正定常数矩阵，则称)(t W 为n 维白噪声过程。

● 白噪声序列白噪声序列是白噪声过程的离散形式。

如果序列)}({k W 满足： 相关函数： ,2,1,0,)(2±±==l l R l W δσ 则称为白噪声序列。

谱密度：2)()(σωω==∑∞-∞=-l l j WW e l RS2.5.2 表示定理与成形滤波器● 表示定理（某些特定的有色噪声可以由白噪声输入线性系统而生成） 设平稳噪声序列)}({k e 的谱密度)(ωe S 是ω的实函数，或是ωcos 的有理函数，那么必定存在一个渐近稳定的线性环节，使得如果环节的输入是白噪声序列，则环节的输出是谱密度为)(ωe S 的平稳噪声序列)}({k e 。

● 成形滤波器表示定理中所涉及到的线性环节称为成型滤波器。

白噪声)(k w)(k e可以证明：如果)}({k e 的谱密度)(ωe S 是ωcos 的有理函数，那么一定存在一个成型滤波器，它的脉冲传递函数为：d d c c n n n n z d z d z c z c z C z D z H -------++++++== 111111111)()()( 且)(),(11--z D z C 的根都在z 平面的单位圆内。

3-第三章-辨识方法-1-相关函数法清华大学电机系辨识技术1第三章辨识方法——辨识技术课程主要内容清华大学电机系辨识技术相关辨识法时域--最小二乘辨识法频域—模态分析法现代辨识方法—神经网络ANN 非线性辨识方法—遗传算法GA 6. 实时在线辨识方法1. 2. 3. 4. 5.2辨识方法（1）经典方法特点：假定系统是线性的，而不需要确定模型的具体结构。

通常是获得非参数模型，再转化为传递函数模型。

缺点是要求无噪声，系统是确定的。

清华大学电机系阶跃响应法、频率响应法、脉冲响应法相关辨识法辨识技术3（2）现代辨识法特点：基于随机性系统的辨识方法。

对噪声大小不限制。

系统可以是非线性的。

与现代控制律结合起来可用于闭环系统的自适应控制。

最小二乘法——通过使广义误差的平方和（准则函数）极小来确定模型的参数。

梯度校正法——根据快速下降寻优原理，沿着误差准则函数对应于模型参数的负梯度方向，逐步逼近使准则函数达到极小的参数估计值。

极大似然法－－使似然函数达到最大来确定模型参数。

人工神经网络遗传基因卡尔曼滤波清华大学电机系辨识技术（1）经典方法阶跃响应法清华大学电机系试验获取过程的阶跃响应利用阶跃响应曲线来确定传递函数由阶跃响应求取过程的传递函数等面积法、切线法、两点法等辨识技术——《系统辨识基础》-李鹏波5脉冲响应法清华大学电机系Z变换理想脉冲作用下获得系统的输出响应简单的可以直接从曲线上获取参数 h(n) H(z)辨识技术6*相关辨识法*清华大学电机系辨识技术特点经典方法，获得非参数型模型根据被辨识对象在平稳随机信号输入于平稳随机输出之间的互相关函数，求出对象的脉冲响应函数的一种办法。

7背景知识能量信号与功率信号能量信号定义:信号电压(电流)加到1欧姆上的给定信号f(t),若0<e< ∞,="" 则称为能量有限信号。

清华大学电机系E=∫所消耗的能源.∞2f (t ) dt平均功率定义1 P = lim T ?∞ T辨识技术∫2 ?T 2 T 2f (t ) dt给定信号f(t),若0<p< ∞,="" 则称为功率有限信号。

《系统辨识》第3讲要点第3章 经典的辨识方法 3.1 引言● 辨识方法的分类▲ 经典的辨识方法 (Classical Identification)① 阶跃响应辨识方法 (Step Response Identification) ② 脉冲响应辨识方法 (Impulse Response Identification) ③ 频率响应辨识方法 (Frequency Response Identification) ④ 相关分析辨识方法 (Correlation Analysis Identification) ⑤ 谱分析辨识方法 (Spectral Analysis Identification) ▲ 现代的辨识方法 (Modern Identification)① 最小二乘类辨识方法 (Least Square Identification) ② 梯度校正辨识方法 (Gradient Correction Identification) ③ 概率逼近辨识方法 (Probability Approximation Identification)● 辨识处理方式: 离线、在线 ● 辨识步骤3.2 阶跃响应法3.2.1 阶跃响应求过程的传递函数 ● 归一化：输入：0/)()(U t u t u =* 0U 为输入信号幅度 输出：)(/)()(∞=*h t h t h● 传递函数为：)(11)(111111m n s a s a s a s b s b s b K s G n n n n m m m m ≥++++++++•=---- ● 算法： 0/)(U h K ∞=⎰∞*-=1)}(1{dt t h A⎰∑⎰∞-=∞*---*+=--+---=020011),,2,1(!)()](1[)!1()()](1[m n i dt j t t h A dt i t t h A i j j j i i i⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎣⎡⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎣⎡-=⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎣⎡+++--+-++-++--m n n n n m n m n m n n n m n n nm A A A A A A A A A A A A b b b21121211121 ⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎣⎡+⎥⎥⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎢⎢⎣⎡⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎣⎡=⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎣⎡--n m n n n A A A b b b A A A A a a a2121121121010010001● 传递函数阶次的确定：判别各阶面积是否大于零● Laplace 极限定理求过程的传递函数设：)(1)(1110111m n a s a s a b s b s b s b s G n n n n m m m m >++++++++=---- 000)(lim )(lim b s G t h K s t ===→∞→⎰-=td h K t h 001)]([)(ττ)(lim 11t h K t ∞→=⎰+=-=--tr r r m n r d h K t h 011),,3,2()]([)( ττ)(lim t h K r t r ∞→=⎪⎪⎪⎩⎪⎪⎪⎨⎧-++-+-=+-=-==---r r r r r r r a K a K a K b K b a K a K K b a K K b K 012211120112110100)1()1( m n r +=,,2,1,0 ● 当阶次比较底，或0=m 时适用3.3 脉冲响应法3.3.1过程脉冲响应的辨识(确定性情形) ● 由阶跃响应的差分获得：)]1()([1)(0--=k h k h T k g● 由“学习法”获得：（1） 给定正交函数系：{})()(t F t i = （2） 过程的脉冲响应：∑===Ni i i t F t F t g 0000)()(),(θθθτ⎪⎩⎪⎨⎧==ττθθθθ],,,[)(],,,[21002010N N F F F t （3） 模型的脉冲响应：∑===Ni i i t t F t g 0)()(),(θθθττθθθ],,,[21N = 为待辨识参数（4） θ 的估计：⎪⎪⎩⎪⎪⎨⎧==-=-===-=-=⎰∑⎰∑⎰∑⎰∑∞=∞=∞=∞=0101001010000)()()()()(),()()()()()()(),()(N i N i i i i i N i N i i i i i t S t S d t u F d t u g t y t t S d t u F d t u g t y θιττθτττθθιττθττθτττ其中： ⎰⎰⎰⎰∞∞∞∞-=⎥⎥⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎢⎢⎣⎡---=⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎣⎡=00020121)()()()()()()()()()()()(ττττττττττττd t u F d t u F d t u F d t u F t S t S t S t S N N输出误差： θθττ())(()()()(0t S t S t y t y t y =-=-= Lyapunov 函数：)(2121t y V =)()(t t y K dtd dt -=-=θ 其中K 为正常数 3.3.1由脉冲响应求过程的传递函数 （1） 一阶过程 （2） 二阶过程 （3） 差分方程法设过程的传递函数为：)(1)(1110111m n a s a s a b s b s b s b s G n n n n m m m m ≥++++++++=---- 特征方程：01111=++++--a s a s a n n n n (a) 只有单根：n s s s ,,21 则脉冲响应为：t s n t s t s n e c e c e c t g +++= 2121)((b) 有重根：r n s s s -,,,21 为单根，0s 为r 重根则脉冲响应为：t s r n t s r n t s r n t s n t s t s e t c te c e c e c e c e c t g r n 0002112121)(-+-+-+++++++=- 目的：确定i c 和i s第一步：从所获得的)(t g 中选取)1(+n 个点，等间隔0T ，为：)(,),1(),(n k g k g k g ++第二步：确定AR 模型的参数n ααα,,,21 ，由下列方程确定0)()1()(1=+++++n k g k g k g n αα 第三步：确定AR 模型的解：如果特征方程01000221=++++nT n T T x x x ααα 只有单根0T i x ，则AR 模型的解为：002211)(kT n n kT kT x x x k g βββ+++=同时有重根时，000,,,21T r n T T x x x - 为单根，00T x 为r 重根，则AR 模型的解为：000000102012211)(kT r n kT r n kT r n kT r n r n kT kT x k kx x x x x k g -+-+---+++++++=ββββββ 第四步：求i c 和i s⎪⎩⎪⎨⎧==i i i i x T s c log 10β （4） Hankel 矩阵法● 考虑n 阶的脉冲传递函数nn n n za z a z a zb z b z b z G -------+++++++= 2211221111)( ● Hankel 矩阵的定义⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎣⎡-++-++++-++=)22()()1()()2()1()1()1()(),(l k g l k g l k g l k g k g k g l k g k g k g k l H ● 确定参数的方程：⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎣⎡++-=⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎣⎡⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎣⎡-++-)2()2()1()12()1()()1()3()2()()2()1(11n g n g n g a a a n g n g n g n g g g n g g g n n⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎣⎡⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎣⎡=⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎣⎡--)()2()1(10010001121121n g g g a a a a b b b n n n3.4 频率响应法（数据不含噪声情形）3.4.1 实验测取过程的频率响应● )()()(ωωωj U j Y j G =其中，⎪⎪⎪⎪⎩⎪⎪⎪⎪⎨⎧-==-==⎰⎰⎰⎰⎰⎰--yy yu u u t t t tj t t t t j tdt t y j tdt t y dte t y j Y tdt t u j tdt t u dte t u j U 00000ωωωωωωωωsin )(cos )()()(sin )(cos )()()( ⎪⎩⎪⎨⎧∆-∆-=∆++∆-∆-=⎥⎦⎤⎢⎣⎡+∆-≈∑⎰-=ucuc u nc uc uc uc u ic n i u nc u ic t uc t n t n K t i t i t i K K n u K i u t tdt t u uc ωωωωωωωcos )(cos )(cos cos )(cos )()(cos )()()()()()(21121111102⎪⎩⎪⎨⎧∆-∆-=∆++∆-∆-=⎥⎦⎤⎢⎣⎡+∆-≈∑⎰-=usus u ns us us us u is n i u ns u is t us t n t n K t i t i t i K K n u K i u t tdt t u usωωωωωωωsin )(sin )(sin sin )(sin )()(sin )()()()()()(21121121102⎪⎩⎪⎨⎧∆-∆-=∆++∆-∆-=⎥⎦⎤⎢⎣⎡+∆-≈∑⎰-=ycyc y nc yc yc yc y ic n i y nc y ic t yc t n t n K t i t i t i K K n y K i y t tdt t y ycωωωωωωωcos )(cos )(cos cos )(cos )()(cos )()()()()()(21121131102⎪⎩⎪⎨⎧∆-∆-=∆++∆-∆-=⎥⎦⎤⎢⎣⎡+∆-≈∑⎰-=ysys y ns ys ys ys y is n i y ns y is t ys t n t n K t i t i t i K K n u K i y t tdt t y ysωωωωωωωsin )(sin )(sin sin )(sin )()(sin )()()()()()(21121141102● 令 ⎪⎪⎪⎪⎪⎩⎪⎪⎪⎪⎪⎨⎧⎥⎦⎤⎢⎣⎡+∆=⎥⎦⎤⎢⎣⎡+∆=⎥⎦⎤⎢⎣⎡+∆=⎥⎦⎤⎢⎣⎡+∆=∑∑∑∑-=-=-=-=111111111111n i u ns u is us n i u nc u ic uc n i y ns y is ys n i y nc y ic yc K n u K i u t s K n u K i u t r K n u K i y t q K n y K i y t p )()()()()()()()()()()()()()()()( 则实频特性和虚频特性分别为：⎪⎪⎩⎪⎪⎨⎧+-=++=2222s r qr ps s r qs pr )Im()Re(ωω3.4.2 Levy 法 ● 传递函数)(,)(m n s a s a s a s b s b s b b s G nn mm >++++++++= 22122101● 对应的频率响应)()()()()( -+-+-+--+-+-+-=45231442245231442201ωωωωωωωωωωωa a a j a a b b b j b b b j G ● 频率响应的误差[])()()Im()Re()(i i i i i j D j N j j ωωωωωε-+=● 误差准则 21∑=Li i j J )(ωε＝● Levy 修正的误差准则 21∑=Li i i j j D J )()(ωεω＝● 模型参数估计方程[]∑∑∑∑====+====⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎣⎡=⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎣⎡⎥⎥⎥⎥⎥⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎢⎢⎢⎢⎢⎣⎡------------Li i i j i j i L i ji j i Li j i j Li jij U T S V U S T S a a ab b b U U U U U T S T S T S T S T T S T S T S T S T V V V V V 022000221032121064442543432321543432321422200000000000)(Im )(Re )Im()Re(ˆˆˆˆˆˆωωωωωωωω3.5 相关分析法3.5.1 频率响应的辨识（数据含噪声情形）● ⎪⎩⎪⎨⎧++==∑∞=1)()sin()(sin )(k k k t w t k B t z t A t u θωω 其中)(t w 为均值为零的白噪声，相关函数为)()(2τδστW W R =，输出第一项)sin(11θω+t B 是所要估计的频率响应。