非线性非高斯滤波讲义
- 格式:pdf
- 大小:433.03 KB
- 文档页数:30
4.1 扩展的卡尔曼滤波方程前面讲的Kalman滤波要求系统状态方程和观测方程都是线性的。
然而,许多工程系统往往不能用简单的线性系统来描述。
例如,导弹控制问题,测轨问题和惯性导航问题的系统状态方程往往不是线性的。
因此,有必要研究非线性滤波问题。
对于非线性模型的滤波问题,理论上还没有严格的滤波公式。
一般情况下,都是将非线性方程线性化,而后,利用线性系统Kalman滤波基本方程。
这一节我们就给出非线性系统的Kalman滤波问题的处理方法。
为了方便描述,下面仅限于讨论下列情况的非线性模型kkxkk=k+(3.2.8.1)Φ+Γx+x),1(])w[()(k()1),(kkv=+kk+z(3.2.8.2)hx),1]1()1([+(+)1+式中,1)(⨯∈n R k x 是状态向量,1)(⨯∈m R k z 是观测向量,)(k w 和)(k v 是噪声;1⨯∈Φn R 是k k x ),(的非线性函数,具有一阶连续导数;1⨯∈m R h 是1),1(++k k x 的非线性函数,具有一阶连续导数。
)(k w 和)(k v 都是均值为零的白噪声序列,其统计特性如下{}{}0)(,0)(==k v E k w E ,{}kj T k Q j w k w E δ)()()(=,{}kj T k R j v k v E δ)()()(=另外,已知初始条件,即)0(x 的统计特性。
下面仅介绍推广的Kalman 滤波方法,即围绕滤波值)|(ˆk k x的线性化滤波方法,这种方法是先将非线性模型线性化,而后应用线性系统的Kalman 滤波基本公式。
由系统状态方程(3.2.8.1)可得)(]),|(ˆ[)]|(ˆ)([)),|(ˆ()1()|(ˆ)(k w k k k x k k xk x xk k k xk x k k xk x Γ+-∂Φ∂+Φ≈+= (2.3.8.3)),1()|(ˆ)(k k xk k xk x +Φ=∂Φ∂= (2.3.8.4))()|(ˆ]),|(ˆ[)|(ˆ)(k f k k xxk k k xk k xk x =∂Φ∂-Φ= (2.3.8.5) 则状态方程为)()(]),|(ˆ[)(),1()1(k f k w k k k xk x k k k x +Γ++Φ=+ (3.2.8.6) 初始值为{}000ˆm x E x==。
粒子滤波算法综述作者:李孟敏来源:《中国新通信》2015年第10期【摘要】对粒子滤波算法的原理、发展历史以及应用领域进行综述,首先针对非线性非高斯系统的状态滤波问题阐述粒子滤波的原理,而后讨论粒子滤波算法存在的主要问题和改进手段,最后阐明其在多个研究领域中的应用现状。
【关键字】非线性滤波概率密度重采样粒子退化一、引言粒子滤波(PF)是一种在处理非线性非高斯系统状态估计问题时具有较好估计效果的方法,其原理是通过非参数蒙特卡洛方法实现贝叶斯滤波。
其最早起源于Hammersley等人在20实际50年代末提出的顺序重要性采样(SIS)滤波思想。
但由于上述方法存在严重的样本权值退化从而导致的粒子数匮乏现象,直到1993年Gordon等人将重采样技术引入蒙特卡洛重要性采样过程,提出一种Bootstrap滤波方法,从而奠定了粒子滤波算法的基础。
二、基本粒子滤波算法三、粒子滤波算法存在的主要问题及改进对于SIS算法来说,容易出现粒子的退化问题,目前存在的诸多对SIS算法的改进中,能够降低该现象影响的有效方法是选择合适的重要性函数和采用重采样方法。
针对状态空间模型的改进算法,如辅助变量粒子滤波算法(APF),局部线性化方法,代表的算法主要有EKF,UKF等。
针对重采样改进方法,文献通过将遗传算法和进化算法引入粒子滤波算法中,增加重采样过程中粒子的多样性。
然APF算法在过程噪声较小时,可获得比标准粒子滤波更高的滤波精度,在过程噪声较大时,其效果则大大降低。
采用局部线性化的方法EKF,UKF都是针对非线性系统的线性卡尔曼滤波方法的变形和改进,因此受到线性卡尔曼滤波算法的条件制约,而对于非高斯分布的状态模型,其滤波性能变差。
将遗传算法和进化算法与粒子滤波结合的改进粒子滤波算法,虽取得了较好的滤波效果,然而是以消耗过多计算资源为代价的。
四、粒子滤波的应用4.1 目标跟踪对目标进行定位和跟踪是典型的动态系统状态估计问题,在诸如纯角度跟踪的运动模型中,采用粒子滤波方法进行实现目标跟踪已获得了较好的跟踪精度,文献研究了多目标跟踪与数据融合问题,文献给出了基于粒子滤波的群目标跟踪算法。
基于Gabor特征分解的高斯混合非线性图像滤波
蔡敏
【期刊名称】《科技通报》
【年(卷),期】2015(31)12
【摘要】通过图像滤波提高图像的分辨和识别能力,传统的图像滤波算法采用小波降噪方法,由于受到背景色噪声的干扰,小波分解中对低频图像参量的滤波性能不好。
提出一种基于Gabor特征分解的高斯混合非线性图像滤波算法。
首先进行图像平
滑和小波分解预处理,沿梯度方向求得图像边缘信息,在尺度平移平面上进行小波特
征分解,得到图像滤波过程中的Gabor小波变换系数,采用高斯混合非线性滤波算法实现图像滤波方法改进。
仿真结果表明,采用该方法进行图像滤波,能有效抑制图像
斑点噪声,提高图像的分辨性能,对边缘特征和细节的保持能力方面性能有优越,特别适用于对合成孔径雷达成像的滤波处理。
【总页数】3页(P64-66)
【关键词】图像;滤波;小波变换;特征分解
【作者】蔡敏
【作者单位】青岛黄海学院基础教学部
【正文语种】中文
【中图分类】TP317.4
【相关文献】
1.基于Gabor特征和字典学习的高斯混合稀疏表示图像识别 [J], 詹曙;王俊;杨福猛;方琪
2.基于贝叶斯自组织映射和高斯混合模型的混合像元分解 [J], 刘力帆;王斌;张立明
3.基于非高斯二维Gabor滤波器的生物特征提取算法 [J], 陈熙;张戈
4.基于Gabor特征和混合高斯模型的人脸表情分析 [J], 刘伟锋;汪增福;卢纪丽
5.基于Gabor特征分解的高斯混合非线性滤波算法 [J], 高菲菲
因版权原因,仅展示原文概要,查看原文内容请购买。
图像滤波原理图像滤波是数字图像处理中常用的一种技术,它可以对图像进行去噪、增强、边缘检测等操作,是图像处理中的重要环节。
图像滤波的原理是利用滤波器对图像进行卷积运算,通过改变像素值来实现对图像的处理。
在图像处理中,滤波器通常是一个矩阵,它可以对图像进行不同程度的平滑或锐化处理。
图像滤波的原理可以分为线性滤波和非线性滤波两种。
线性滤波是指滤波器的响应与图像的像素值之间存在线性关系,常见的线性滤波器有均值滤波、高斯滤波等。
均值滤波是一种简单的线性滤波器,它将图像中每个像素的值替换为其周围像素值的平均值,从而起到平滑图像的作用。
高斯滤波则是利用高斯函数来构造滤波器,对图像进行平滑处理的同时保留图像的细节。
非线性滤波则是指滤波器的响应与图像的像素值之间不存在线性关系,常见的非线性滤波器有中值滤波、最大值滤波、最小值滤波等。
中值滤波是一种常用的非线性滤波器,它将每个像素的值替换为其周围像素值的中值,适用于去除图像中的椒盐噪声等非线性噪声。
图像滤波的原理还涉及到频域滤波和空域滤波两种方法。
频域滤波是指将图像转换到频域进行滤波处理,然后再将处理后的图像转换回空域。
常见的频域滤波包括傅里叶变换、小波变换等。
空域滤波则是直接在图像的空间域进行滤波处理,常见的空域滤波包括均值滤波、中值滤波等。
总的来说,图像滤波的原理就是利用滤波器对图像进行卷积运算,通过改变像素值来实现对图像的处理。
不同的滤波器和滤波方法都有各自的特点和适用场景,选择合适的滤波器和滤波方法对图像进行处理,可以达到去噪、增强、边缘检测等不同的效果。
在实际应用中,需要根据具体的图像处理任务来选择合适的滤波器和滤波方法,以达到最佳的处理效果。
主要内容※EKF的特点※最小模型误差准则※非线性预测滤波※非线性预测卡尔曼滤波※分段自调整加权的非线性预测滤波※总结EKF的特点EKF的优点EKF是卡尔曼滤波在非线性系统中的扩展应用,其典型特征是在系统模型设计中采用状态空间表达式。
(1)适于对多维随机过程进行估计;(2)算法具有递推性,便于在计算机上实现。
EKF的不足EKF有效的前提条件是:1)要求系统模型准确已知;2)过程噪声被假设为协方差已知的零均值高斯白噪声过程。
在扩展卡尔曼滤波器的设计中,系统动态模型中存在的误差被作为过程噪声来处理,而且一般假定为零均值、协方差已知的高斯白噪声。
然而,这种假设往往缺少理论根据,不能正确反映模型误差的真实特性,从而导致状态估计精度的下降,甚至使滤波器发散。
为了解决上述问题,Mook等人提出了一种新的最优估计准则,即最小模型误差准则(MME:Minimum Model Error)。
最小模型误差准则最小模型误差准则考虑某一系统的状态矢量的动态特性可被建模为测量方程具有如下的离散形式且测量噪声满足考虑在存在建模误差的动态模型中增加修正项,此时方程(1)被修改为[]t t f t ),()(x x =&[])(),()(k k k k t t t h t v x y +={}0)(=k t E v {}kj j Tk R t t E δ=)()(v v (1)(2)[]()()t t G t t f t d x x+=),()(&()t d ()t G 为模型误差矢量;为模型误差分配矩阵。
对于连续-离散系统[]()()t t G t t f t d x x+=),()(&[])(),()(k k k k t t t h t v x y +=最小模型误差估计的最优准则是,寻找满足协方差约束条件的模型误差矢量的最小估计值。
是时刻的测量噪声方差阵。
在测量噪声是平稳随机过程的典型情况下,协方差约束条件可被描述为[]{}[]{}kT k k k k k k R t t x h t t t x h t ≈−−),(ˆ)(),(ˆ)(y y ()t d k R k t []{}[]{}R t t h t t t h tM M k Tk k k k k k ≈−−∑=1),(ˆ)(),(ˆ)(1x y x y (3)指标函数:[][][])()(21)(ˆ)()(ˆ)(21)(1t W t t t t t R t t t t t J T T d d y y y y d +∆+−∆+∆+−∆+=−由两项罚函数组成:(1)测量残差的加权平方和;(2)模型误差的加权平方和。
滤波器的非线性特性和补偿技术滤波器在信号处理中起着至关重要的作用。
然而,由于实际元件的非线性特性,滤波器的性能可能会受到影响。
因此,研究滤波器的非线性特性以及相应的补偿技术就显得尤为重要。
一、滤波器的非线性特性滤波器在处理信号时,通常需要对信号进行放大、延迟、相位调整等操作。
而实际中使用的滤波器元件往往存在非线性特性,非线性项的引入可能导致输出信号中出现非线性谐波扭曲、交调等问题,严重影响滤波器的性能。
例如,由于非线性特性,滤波器的幅频响应曲线在不同输入信号下呈现非线性变化。
这就意味着在频率域中,不同频率的输入信号通过滤波器后会出现幅度失真现象。
此外,非线性特性还可能引发滤波器的相位失真,导致信号频谱的错位,影响信号的解调和调制等应用。
二、滤波器的非线性补偿技术为了消除滤波器的非线性特性对信号处理的影响,研究人员提出了多种补偿技术。
下面介绍几种常见的非线性补偿技术。
1. 前向补偿法前向补偿法是一种基于模型的非线性补偿方法。
这种方法首先对滤波器的非线性特性进行建模,然后通过插入逆模型来抵消非线性失真。
通过前向补偿,可以实现对滤波器的非线性特性进行精确补偿,提高信号处理的准确性。
2. 反馈补偿法反馈补偿法是一种常见的非线性补偿方法。
该方法通过引入反馈路径,将非线性失真信号与滤波器的输入信号进行比较,并生成相应的补偿信号。
将补偿信号与输入信号相加,可以有效减少滤波器输出信号中的非线性失真。
3. 预估补偿法预估补偿法是一种利用滤波器的预估模型来进行非线性补偿的方法。
该方法通过对输入信号进行预估,并根据预估结果对滤波器输出信号进行补偿。
这种补偿技术可以根据信号的实时性动态调整补偿效果,提高滤波器的性能和稳定性。
4. 自适应滤波技术自适应滤波技术是一种实时调整滤波器参数的方法。
该方法通过不断的监测滤波器的输出信号与期望信号之间的误差,调整滤波器的参数,使输出信号尽可能接近期望信号,并消除非线性特性的影响。
自适应滤波技术可以广泛应用于多种领域,如通信、图像处理等。
非线性滤波概念和原理介绍一、背景介绍[1]“估计”就是从带有随机误差的观测数据中估计出某些参数或某些状态变量。
估计问题一般分为三类:从当前和过去的观测值来估计信号的当前值,称为滤波;从过去的观测值来估计信号的将来值,称为预测或外推;从过去的观测值来估计过去的信号值,称为平滑或内插。
滤波理论就是在对系统可观测信号进行测量的基础上,根据一定的滤波准则,对系统的状态或参数进行估计的理论和方法。
1795年,高斯(K.Gauss)提出了最小二乘估计法。
该方法不考虑观测信号的统计特性,仅仅保证测量误差的方差最小,一般情况下这种滤波方法的性能较差。
但该方法只需要建立测量模型(测量方程),因此目前在很多领域仍有应用。
二十世纪40年代,Weiner和Kolmogorov提出了维纳滤波理论。
维纳滤波充分利用输入信号和量测信号的统计特性推的,不便于实时应用。
V.Kucera于1979年提出了现代维纳滤波方法。
该方法可以直接得到可实现的和显式的维纳滤波器,可处理多维信号和非平稳随机信号。
卡尔曼(R.E.Kalman)于1960年提出了卡尔曼滤波(Kalman Filtering)理论。
该方法是一种时域方法,对于具有高斯分布噪声的线性系统可以得到系统状态的递推最小均方差估计(Recursive Minimum Mean-Square Estimation,RMMSE);将状态空间模型引入最优滤波理论,用状态方程描述系统动态模型(状态转移模型),用观测方程描述系统观测模型,可处理时变系统、非平稳信号和多维信号;采用递推计算,适宜于用计算机来实现。
该方法的缺点是要求知道系统的精确数学模型,并假设系统为线性、噪声信号为噪声统计特性已知的高斯噪声,计算量以被估计向量维数的三次方剧增。
为了将卡尔曼滤波器应用于非线性系统,Bucy和Sunahara等人提出了扩展卡尔曼滤波(Extended Kalman Filtering,EKF),其基本思想是将非线性系统进行线性化,再进行卡尔曼滤波,它是一种次优滤波。
非线性/非高斯滤波讲义L ECTURE N OTES ON N ONLINEAR N ON-G AUSSIAN F ILTERING(第0.3版)张永安哈尔滨工业大学航天学院电话:150********;Email:zhangyongan76@2012年3月符号表∼:随机变量(向量)x具有概率分布密度函数()p x。
x p x()Pr()x:x取某值的概率。
∼:x服从均值为x、自协方差阵为P的高斯分布密度函数。
(;,)x N x x Pexp()x:x的指数函数,也可写作x e。
第一章 最优滤波的一般描述1.1 预备知识z 符号表示:()x p x ∼:随机变量(向量)x 具有概率分布密度函数()p x ; Pr()x :x 取某值的概率;(;)x N x x P ∼:x 服从均值为x 、自协方差阵为P 的高斯分布密度函数;exp()x :x 的指数函数,也可写作x e 。
z 估计(Estimation ):从受到各种噪声和干扰影响的信号中按一定准则提取有用信号的过程。
z 估计器(Estimator ):用作估计的算法。
z 估值(Estimate ):被估计量经估计后得到的真实值的估计值。
z 决策(Decision ):从一组离散的物理量中选取其中一个的估计过程。
z 滤波(Filtering ):估计动态系统当前状态的过程。
z 导航(Navigation )等运动状态信息。
z 跟踪(Tracking ):通过遥测的方法估计运动体的状态信息。
引理1:分块矩阵求逆 给定11122122P P P P P ⎡⎤=⎢⎥⎣⎦则其逆阵为11122122T T T T T ⎡⎤=⎢⎥⎣⎦其中()()111111122221112211122221112111222121222111T P P P P T P P P P V P P TV P P T −−−−−−⎧=−⎪⎪⎪=−⎨⎪=−⎪=−⎪⎩引理2 矩阵逆引理 设,A C 可逆,则()1111111()A BCD A A B DA B C DA −−−−−−−+=−+若用1A −代替A ,1C −代替C ,则()1111()A BC D A AB DAB C DA −−−−+=−+1.2 高斯随机向量的概率特征n 维随机向量n x ∈ 可以由其概率分布函数()F x 或者概率分布密度函数()p x 来表征,若其具有分布密度函数()p x ,则()()xF x p x dx −∞=∫x 也可以由其特征函数来决定,x 的特征函数为其概率分布密度函数的傅里叶变换:()()()TTnjx jx x E e e p x dx ωωφω=∫ ,()1()()2T njx x np x ed ωφωωπ−=∫顾名思义,高斯随机向量的概率分布为高斯分布(也称多维正态分布)。
非线性滤波现代数字信号处理非线性信号滤波滤波的信号模型统计状态转换方程联系当前状态与以前状态统计观察测量方程联系观察数据与当前状态噪声滤波方法线性加性高斯噪声非线性加性高斯噪声非线性非高斯非加性噪声卡尔曼滤波扩展卡尔曼滤波基于高斯积分无色变换的卡尔曼滤波粒子滤波器信号模型滤波方法非线性滤波通用贝叶斯非线性滤波加性高斯噪声非加性高斯噪声高斯积分卡尔曼滤波器无色卡尔曼滤波器MC卡尔曼滤波器扩展卡尔曼滤波器重采样粒子滤波器无重采样粒子滤波器SequentialImportanceSamplingParticleFilterSISPFBootstrapParticleFilter BPF基于高斯分布的粒子滤波器高斯积分粒子滤波器无色粒子滤波器MC粒子滤波器粒子退化问题RaoBlackwellasationPF粒子滤波器应用(一)贝叶斯滤波一个非线性随机系统可以由一个统计的状态转换方程和一个统计的观察测量方程共同定义。
贝叶斯框架下公式()确定了预测当前状态的条件转换概率(给定前一时刻的状态和所有的观测值):公式()确定了预测当前观测值的似然概率(给定当前状态):()()(*)(*)贝叶斯滤波假设n时刻状态的后验分布已经得到那么我们利用条件转移概率可以获得n时刻状态的先验分布:在n时刻可以获得新的观测矢量基于贝叶斯准则可以利用似然模型来更新先验概率分布从而得到n时刻状态的后验概率:迭代滤波问题通常就是在给定观测值情况下计算当前状态的某个函数的期望(如前两阶矩)。
即:遗憾的是上式在很多场合下(非线性非高斯)没有可分解的计算方法。
因此常常采用一些近似的方法求解上面的积分。
在线性模型和加性高斯噪声情况下上面各式有解析计算方法。
此时最优滤波为卡尔曼滤波。
两种可分解情况在两种情况下有可分解的计算方法:。
离散状态空间。
线性模型高斯噪声。
(Kalmanfilter)(二)卡尔曼滤波器状态转换方程观察测量方程W,V为互不相关的均值为方差为Q,R的高斯加性噪声f(),h(),Q,R已知且不随时间改变。
用于数字图像处理的非线性滤波器算法优化1.引言数字图像处理是计算机视觉和图像处理领域中的一个重要研究方向。
在数字图像处理的过程中,图像滤波是一个重要的处理方法。
其中非线性滤波器是常用滤波器之一。
针对非线性滤波器算法的优化研究已经成为许多领域研究的热点问题。
本文将针对非线性滤波器算法的优化进行探讨,以提高数字图像处理的速度和效率。
2.非线性滤波器算法概述非线性滤波器是一种可以实现图像去噪、图像增强等目的的滤波器。
其常见的算法包括中值滤波器、自适应中值滤波器、修正高斯滤波器等。
其中中值滤波器是非线性滤波器中最常用的算法之一。
中值滤波器的作用是将图像中的噪声去除。
其工作原理是将每个像素的值替换为其相邻像素的中值。
具体地,对于一个大小为n×m的滤波器,以每个像素点为中心,取周围n×m个像素点的灰度值,然后求这n×m个像素点的中值并将中值作为该像素点的新灰度值。
修正高斯滤波器是一种通过估计图像中每个像素点的“局部方差”来进行滤波的算法。
其理论基础是建立在高斯噪声模型上的,通过计算每个像素点的领域灰度值的方差与预先设定的阈值之间的差值,决定是否应该对该像素点进行滤波。
3.非线性滤波器算法的应用为了有效地应用非线性滤波器算法,需要了解其适用的场景。
大部分情况下,非线性滤波器算法主要应用于以下两个方面:图像去噪和图像增强。
图像去噪是非线性滤波器的主要应用领域之一。
图像噪声的来源有很多,例如传感器噪声、压缩噪声等。
由于噪声的不可预测性,常规的线性滤波器往往难以有效去除图像噪声。
而对于非线性滤波器,其基于图像像素的相似性进行滤波,能够更加有效地去除图像中的噪声。
图像增强也是非线性滤波器的主要应用之一。
通过对图像中不同区域进行滤波,可以有效改善图像的质量。
例如,在医学领域,通过对CT图像进行修正高斯滤波器处理,可以使图像更加清晰,帮助医生更好地诊断病情。
4.非线性滤波器算法的优化在实际应用中,非线性滤波器算法有着其本身的巨大缺陷,主要体现在效率不高和噪声处理效果不够理想。
非线性/非高斯滤波讲义L ECTURE N OTES ON N ONLINEAR N ON-G AUSSIAN F ILTERING(第0.3版)张永安哈尔滨工业大学航天学院电话:150********;Email:zhangyongan76@2012年3月符号表∼:随机变量(向量)x具有概率分布密度函数()p x。
x p x()Pr()x:x取某值的概率。
∼:x服从均值为x、自协方差阵为P的高斯分布密度函数。
(;,)x N x x Pexp()x:x的指数函数,也可写作x e。
第一章 最优滤波的一般描述1.1 预备知识z 符号表示:()x p x ∼:随机变量(向量)x 具有概率分布密度函数()p x ; Pr()x :x 取某值的概率;(;)x N x x P ∼:x 服从均值为x 、自协方差阵为P 的高斯分布密度函数;exp()x :x 的指数函数,也可写作x e 。
z 估计(Estimation ):从受到各种噪声和干扰影响的信号中按一定准则提取有用信号的过程。
z 估计器(Estimator ):用作估计的算法。
z 估值(Estimate ):被估计量经估计后得到的真实值的估计值。
z 决策(Decision ):从一组离散的物理量中选取其中一个的估计过程。
z 滤波(Filtering ):估计动态系统当前状态的过程。
z 导航(Navigation )等运动状态信息。
z 跟踪(Tracking ):通过遥测的方法估计运动体的状态信息。
引理1:分块矩阵求逆 给定11122122P P P P P ⎡⎤=⎢⎥⎣⎦则其逆阵为11122122T T T T T ⎡⎤=⎢⎥⎣⎦其中()()111111122221112211122221112111222121222111T P P P P T P P P P V P P TV P P T −−−−−−⎧=−⎪⎪⎪=−⎨⎪=−⎪=−⎪⎩引理2 矩阵逆引理 设,A C 可逆,则()1111111()A BCD A A B DA B C DA −−−−−−−+=−+若用1A −代替A ,1C −代替C ,则()1111()A BC D A AB DAB C DA −−−−+=−+1.2 高斯随机向量的概率特征n 维随机向量n x ∈ 可以由其概率分布函数()F x 或者概率分布密度函数()p x 来表征,若其具有分布密度函数()p x ,则()()xF x p x dx −∞=∫x 也可以由其特征函数来决定,x 的特征函数为其概率分布密度函数的傅里叶变换:()()()TTnjx jx x E e e p x dx ωωφω=∫ ,()1()()2T njx x np x ed ωφωωπ−=∫顾名思义,高斯随机向量的概率分布为高斯分布(也称多维正态分布)。
定义: (1) 随机向量x 具有高斯分布密度函数:()()1121(;,)2exp 2T xxxx x N x x P P x x P x x π−−⎡⎤=−−−⎢⎥⎣⎦∼ 其中x Ex ,()()Txx P E x x x x ⎡⎤−−⎣⎦(2) 随机向量x 具有如下形式特征函数:()1()exp 2Tjx T T x xx E e jx P ωφωωωω⎡⎤==−⎢⎥⎣⎦其中x Ex ,()()Txx P E x x x x ⎡⎤−−⎣⎦1.3 高斯向量的基本性质性质1 高斯向量的线性变换仍然是高斯向量。
也就是,若(;,)xx x N x x P ∼,z Ax =,m n A ×∈ ,rank A m =,则~(;)zz z N z z P ,且Tzzxx z AxP AP A =⎧⎨=⎩ 证明:()()()()1exp ()()21exp ()()2T TTTjz j Ax z z x jx A T x x T T T T T xx T T T xx E eE e E e A jx A A P A j Ax AP A ωωωφωφωωωωωωω⎡⎤==⎣⎦⎡⎤==⎣⎦⎡⎤=−⎢⎥⎣⎦⎡⎤=−⎢⎥⎣⎦性质2(作为性质1的推论):高斯向量的线性组合仍然是高斯向量。
也就是:若1x 与2x 是联合高斯的,12,n x x ∈ ,且11111122122222;,x x x P P N P P x x x ⎧⎫⎡⎤⎡⎤⎡⎤⎡⎤⎪⎪⎨⎬⎢⎥⎢⎥⎢⎥⎢⎥⎪⎪⎣⎦⎣⎦⎣⎦⎣⎦⎩⎭∼ 则其线性组合1122z A x A x =+也是高斯的,其中12,m n A A ×∈ ,12rank rank A A m ==,11111122122222;,x x x P P N PP x x x ⎧⎫⎡⎤⎡⎤⎡⎤⎡⎤⎪⎪⎨⎬⎢⎥⎢⎥⎢⎥⎢⎥⎪⎪⎣⎦⎣⎦⎣⎦⎣⎦⎩⎭∼ 则~(;)zz z N z z P ,且11221111112222112222T T T Tzz z A x A x P A PA A P A A P A A P A =+⎧⎨=+++⎩ 特别的,若12n A A I ==,则1211122122zz z x x P PP P P =+⎧⎨=+++⎩ 证明:112212TT Tz A x A x M x x =+⎡⎤=⎣⎦这里[]12M A A =然后利用性质1。
性质3 若TTTy x z ⎡⎤=⎣⎦为高斯向量,则给定z 的条件下,x 的分布也是高斯分布,也就是;,xxxz zx zz P P x x x N PP z z z ⎧⎫⎡⎤⎡⎤⎡⎤⎡⎤⎪⎪⎨⎬⎢⎥⎢⎥⎢⎥⎢⎥⎪⎪⎣⎦⎣⎦⎣⎦⎣⎦⎩⎭∼ 则()|(|);),xx z p x z N x x z P =,其中;,xx xz zx zz P P x x x N P P z z z ⎧⎫⎡⎤⎡⎤⎡⎤⎡⎤⎪⎪⎨⎬⎢⎥⎢⎥⎢⎥⎢⎥⎪⎪⎣⎦⎣⎦⎣⎦⎣⎦⎩⎭∼ 其中11|ˆ()()xz zz xx z xx xz zz zxx z x P P z z P P P P P −−⎧=+−⎪⎨=−⎪⎩ 证明:可逆分块矩阵xxxz zxzz P P P P P ⎡⎤=⎢⎥⎣⎦的逆阵为11xxxz xxxz zxzz zx zz PP T T P P P T T −−⎡⎤⎡⎤==⎢⎥⎢⎥⎣⎦⎣⎦其中()()11111111xxxx xz zz zxxz xx xz zz xx xz zzzx zz zx xx zz zx xx zz zzzx xx xz T P P P P T P P T T P P T T P P P P T T P P P P −−−−−−−−⎧=−⎪⎪=−=−⎪⎨=−=⎪⎪=−⎪⎩ 证明一:设x xz zξη⎧−⎨−⎩ ()()()()()()()()()12121112exp (,)2|1()2exp 211exp 22T xxyy T zz zz T T yy zz P y y P y y p x z p x z p z P z z P z z c y y P y y z z P z z ππ−−−−⎡⎤−−−⎢⎥⎣⎦==⎡⎤−−−⎢⎥⎣⎦⎡⎤=−−−+−−⎢⎥⎣⎦定义()()()()()11111112()T Tyy zz T TT yy zz xx xz T T T zz zxzz T T T T T xx zx xz zz zz zx xx xz T T T T xx zx xz zx xx xz Tzx xxq y y P y y z z P z z T P T T P T T T T T T T T T T T T T T T T T T T ξξηηηηξξηηηηξξξηηξηηηηξξξηηξηηξη−−−−−−−=−−−−−⎡⎤⎡⎤=−⎢⎥⎣⎦⎣⎦⎡⎤⎡⎤⎡⎤=−⎢⎥⎢⎥⎣⎦⎣⎦⎣⎦=+++−−=+++=+()111()(xx zx xx Txz zz xx xz zz T T x x P P z z T x x P P z z ξη−−−+⎡⎤⎡⎤=−−−−−−⎣⎦⎣⎦因此,在给定z 的条件下,x 的条件分布为高斯分布:|ˆ~(),xx z x N x z P ⎡⎤⎣⎦其中111ˆ()()xz zz zz xx xx xz zz zxxz x P P z z P T P P P P −−−⎧=+−⎪⎨==−⎪⎩证明二:构造新的变量()1xz zz s x P P z z −=−−后面请同学们补充上。
定义 系统称为是线性高斯系统,若它是线性系统,且初始状态和输入信号满足高斯假设:1k k k k kk k k kx A x B w z C x v −=+⎧⎨=+⎩ 其中000ˆ~(,)~(,)~(,)k k k kk k x N xP w N q Q v N r R ⎧⎪⎨⎪⎩ 以下不作说明时,都假定0,,k k x w v 相互独立。
例 给定如上离散时间线性高斯系统,记{}1:1121,,,k k z z z z −−给定1k −时刻1k x −的概率分布密度()11:1|k k p x z −−,试求k x 的条件概率分布密度()1:|k k p x z 。
1.4 估计的基本概念1.4.1 参数估计问题引出参数估计问题 设参数n x ∈ 未知,现用某传感器测量该参数,传感器输出m z ∈ 为()z h x v =+其中m v ∈ 为测量误差,它为一随机变量,一般可以通过实验的方法确定其统计特性,因此这里设()p v 已知。
现给定参数x 的k 个测量12,,,k z z z ,()i i z h x v =+记{}1::1,2,,k k j z z j k Z = ,估计问题就是要寻找一个关于1:k z 的函数1:1:ˆˆ()(,)k k xz x k z 使得ˆx在某个准则意义上给出x 的最佳近似。
定义估计误差: ˆxx x =− 区分测量残差与测量误差两个概念,给定()ˆ()z h x vz h x ε=+⎧⎨=+⎩则v 为测量误差,是未知量;ε为测量残差,在x 的估计值ˆx 给出后,ε是已知的。
1.4.2 估计方法估计方法与所掌握的先验信息与使用的概率模型有关。
因此首先介绍一下概率模型。
1. 概率模型(1)非贝叶斯模型 (Non-Bayesian Model) 若在估计前没有任何关于状态的先验信息时,估计只能利用测量所提供的信息,给定k 个测量1:k z 后,可以有似然函数来表征:1:()(|)Z k x p z x Λ=如果这些测量是相互独立的,则1:1()(|)(|)kZ k i i x p z x p z x =Λ==∏进一步,若测量误差服从高斯分布,也就是~(;,)i i i i v N v r R则有[][]111()det(2)exp ()()2kT Z i i i i i x R z h x r R z h x r π−=⎧⎫Λ=−−−−−⎨⎬⎩⎭∏。