非齐次隐马尔可夫模型随机变换的若干强极限定理
- 格式:ppt
- 大小:379.00 KB
- 文档页数:16
马尔可夫随机场(MarkovRandomField)与马尔可夫链马尔可夫随机场(Markov Random Field)与马尔可夫链2016年09⽉26⽇ 13:40:23阅读数:61301.什么是随机过程?在当代科学与社会的⼴阔天地⾥,⼈们都可以看到⼀种叫作随机过程的数学模型:从银河亮度的起伏到星系空间的物质分布、从分⼦的布朗运动到原⼦的蜕变过程,从化学反应动⼒学到电话通讯理论、从谣⾔的传播到传染病的流⾏、从市场预测到密码破译,随机过程理论及其应⽤⼏乎⽆所不在。
⼈类历史上第⼀个从理论上提出并加以研究的过程模型是马尔科夫链,它是马尔科夫对概率论乃⾄⼈类思想发展作出的⼜⼀伟⼤贡献。
2.什么是马尔科夫随机过程和马尔科夫链马尔科夫过程,是指下⼀个时间点的指只与当前值有关系,与以前没有关系,即未来决定于现在⽽不是过去。
⽤⼀个通俗的⽐喻来形容,⼀只被切除了⼤脑的⽩⿏在若⼲个洞⽳间的蹿动就构成⼀个马尔科夫链。
因为这只⽩⿏已没有了记忆,瞬间⽽⽣的念头决定了它从⼀个洞⽳蹿到另⼀个洞⽳;当其所在位置确定时,它下⼀步蹿往何处与它以往经过的路径⽆关。
这⼀模型的哲学意义是⼗分明显的,⽤前苏联数学家⾟钦(1894-1959〕的话来说,就是承认客观世界中有这样⼀种现象,其未来由现在决定的程度,使得我们关于过去的知识丝毫不影响这种决定性。
这种在已知 “现在”的条件下,“未来”与“过去”彼此独⽴的特性就被称为马尔科夫性,具有这种性质的随机过程就叫做马尔科夫过程,其最原始的模型就是马尔科夫链。
换个说法:马尔科夫随机过程是⼀类随机过程马尔科夫随机过程是⼀类随机过程。
它的原始模型马尔可夫链,由俄国数学家A.A.马尔可夫于1907年提出。
该过程具有如下特性:在已知⽬前状态 (现在)的条件下,它未来的演变 (将来)不依赖于它以往的演变 ( 过去 ) 。
例如森林中动物头数的变化构成——马尔可夫过程。
在现实世界中,有很多过程都是马尔可夫过程,如液体中微粒所作的布朗运动、传染病受感染的⼈数、车站的候车⼈数等,都可视为马尔可夫过程。
第3讲 信源模型信源(information source ),也称消息源,是通信系统中发送消息的一方。
信源所产生或者输出的消息(message )是一个符号序列。
任何产生符号序列的事物都可视为信源。
报社、广播电台是信源;一个的人表情、行为是信源;我们所说的汉语是一个信源;一本英文小说也构成一个信源;水面波纹、天空的云等等万事万物都是信源,都在传递着各自的信息。
这一讲我们介绍离散信源的几种基本的和常用的模型。
1. 随机过程随机过程是一个带时间参数的随机变量,其取值的统计特性可随时间不断变化,用以机变量描述状态不断变化的物理系统或者随机现象。
定义1.1 随机过程是定义在同一个样本空间上一族随机变量{(),}X t t T ∈,其中t 为时间参数,T 是参数集合。
对于任何t T ∈,随机变量()X t 的值称为随机过程在时刻t 的状态。
为表达方便,可将随机过程{(),}X t t T ∈简记为()X X t 或。
定义 1.2 当随机过程的参数集合为实数区间(,)[0,)-∞∞∞或者时,该随机过程称为时间连续的。
当随机过程的参数集合为整数集或者非负整数集时,该随机过程称为时间离散的。
时间离散的随机过程称为随机序列。
若X 为随机序列,则X 在时刻t 的状态X(t)一般记为X n 。
实例:热噪声电压的样本函数这里我们主要学习关于随机序列的基本概念和性质,随机过程的更多知识在后面需要的地方再作介绍。
随机序列的概率分布:随机序列的统计特性用其中各随机变量的概率分布和联合概率分布进行描述。
一维分布:对于()Pr{}t t p x X x ==这是随机序列在时刻t 处于状态x 的概率。
二维分布:对于任何状态1x 与2x ,随机序列从t 时刻开始所经历的状态序列为12x x 的概率记为12112112()Pr{}Pr{,}t t t t t p x x X X x x X x X x ++=====则函数t p 称为该随机序列在t 时刻的二维分布。
马尔可夫链在自然界与社会现象中,许多随机现象遵循下列演变规律,已知某个系统(或过程)在时刻0t t =所处的状态,与该系统(或过程)在时刻0t t >所处的状态与时刻0t t <所处的状态无关。
例如,微分方程的初值问题描述的物理系统属于这类随机性现象。
随机现象具有的这种特性称为无后效性(随机过程的无后效性),无后效性的直观含义:已知“现在”,“将来”和“过去”无关。
在贝努利过程(){},1X n n ≥中,设()X n 表示第n 次掷一颗骰子时出现的点数,易见,今后出现的点数与过去出现的点数无关。
在维纳过程(){},0X t t ≥中,设()X t 表示花粉在水面上作布朗运动时所处的位置,易见,已知花粉目前所处的位置,花粉将来的位置与过去的位置无关。
在泊松过程(){,0}N t t ≥中,设()N t 表示时间段[0,]t 内进入某商店的顾客数。
易见,已知时间段0[0,]t 内进入商店的顾客数()0N t ,在时间段()0[0,]t t t >内进入商店的顾客数()N t 等于()0N t 加上在时间段0(,]t t 内进入商店的顾客数()()0N t N t -,而与时刻0t 前进入商店的顾客无关。
一、马尔可夫过程定义:给定随机过程(){},X t t T ∈。
如果对任意正整数3n ≥,任意的12,,1,,n i t t t t T i n <<<∈=,任意的11,,,n x x S -∈S 是()X t 的状态空间,总有()()()1111|,n n n n P X x X t x X t x --≤==()()11|,n n n n n P X x X t x x R --=≤=∈ 则称(){},X t t T ∈为马尔可夫过程。
在这个定义中,如果把时刻1n t -看作“现在”,时刻n t 是“将来”,时刻12,,n t t -是“过去”。
马尔可夫过程要求:已知现在的状态()11n n X t x --=,过程将来的状态()n X t 与过程过去的状态()()1122,,n n X t x X t x --==无关。