下载文档原格式
随机过程第四章：马尔可夫链第四章：马尔可夫链4.1 马尔可夫链定义4.2 一步转移概率及多步转移概率4.3 初始概率及绝对概率4.4 遍历的马尔可夫链及平稳分布4.5 马尔可夫链状态分类4.6 状态空间的分解时间、状态都是离散的马尔可夫过程，称为马尔可夫链。
时间连续、状态离散的马尔可夫过程，称为连续时间的马尔可夫链。
时间、状态都是连续的马尔可夫过程，就是马尔可夫过程。
例如：天气预报…质点的随机游动…赌博输光问题…生死链…4.1 马尔可夫链定义例如：在某数字通信系统中传递0，1两种信号，且传递需要经过若干级。
因为系统中有噪声，各级将造成错误，若某级输入0，1信号后，其输出不产生错误的概率为p，产生错误的概率为1-p，则该级的输入输出状态构成了一个两个状态的马氏链。
例题4-1:设马尔可夫链{X n ,n∈T}有状态空间I={0,1}，其一步转移概率矩阵为求和两步转移概率矩阵P (2) 。
⎟⎟⎠⎞⎜⎜⎝⎛=11100100p p p p P }0|0{2==+m m X X P设质点在数轴上移动，每次移动一格，向右移动的概率为p，向左移动的概率为q=1-p，这种运动称为无限制随机游动。
以X n 表示时刻n质点所处的位置，则{X n ,n∈T}是一个齐次马尔可夫链，求一步和k步转移概率。
,1,1, 1 0 (j i-1,i+1) i i i i i j P p P q p P +−⎧=⎪==−⎨⎪=≠⎩解：一步转移概率为：...........................q 0 p 0 0......0 q 0 p 0......0 0 q 0 p...........................P ⎛⎞⎜⎟⎜⎟⎜⎟=⎜⎟⎜⎟⎜⎟⎝⎠例题4-2：无限制随机游动质点在数轴上移动，规律同上例。
当质点一旦达到X n =0时，X n+1就停留该0状态，这种状态称为吸收态。
{X n ,n∈T}是一个齐次马尔可夫链，求一步转移概率。
第四章 马尔可夫链随机过程在不同时刻下的状态之间一般具有某种关系，马尔可夫（Markov ）过程就是描述一类状态之间具有某种特殊统计联系的随机过程.Markov 过程在近代物理学、生物学、管理科学、信息处理与数字计算方法等领域都有重要的应用.按其状态和时间参数是连续的或离散的，它可分为三类：（1）时间、状态都是离散的Markov 过程，称为Markov 链；（2）时间连续、状态离散的Markov 过程，称为连续时间的Markov 链；（3）时间、状态都连续的Markov 过程.本章主要讨论Markov 链，有关连续时间的Markov 链的相关理论将在下章讨论.4.1 马尔可夫链的概念和例子独立随机试验模型最直接的推广就是Markov 链模型，早在1906年俄国数学家Markov 对它进行研究而得名，以后Kolmogorov 、Feller 、Doob 等数学家发展了这一理论.4.1 .1 Markov 链的定义假设Markov 过程{,}n X n T ∈的参数集T 是离散时间集合，即{0,1,2,}T =，相应n X 可能取值的全体组成的状态空间是离散状态集012{,,,}I i i i =.定义 4.1 设有一随机过程{,}n X n T ∈，若对于任意整数n T ∈和任意011,,,n i i i I +∈，条件概率满足11001111{|,,,}{|}n n n n n n n n P X i X i X i X i P X i X i ++++=======则称{,}n X n T ∈为离散时间的Markov 链，简称Markov 链（Markov chains ）或马氏链.从定义可以看出：Markov 链具有Markov 性（即无后效性），如果把时刻n 看作现在，那么，1n +是将来的时刻，而0,1,2,,1n -是过去的时刻.Markov 性表示在确切知道系统现在状态的条件下，系统将来的状况与过去的状况无关，而且Markov 链的统计特征完全由条件概率11{|}n n n n P X i X i ++==所决定. 因此，如何确定这个条件概率，是研究Markov 链理论和应用中十分重要的问题之一. 4.1.2 转移概率定义 4.2 称条件概率1(){|}ij n n p n P X j X i +=== （4.1）为Markov 链{,}n X n T ∈在时刻n 的一步转移概率，其中,i j I ∈，简称转移概率（transition probability ）.一般地，转移概率()ij p n 不仅仅与状态,i j 有关，而且与时刻n 有关，如果()ij p n 不依赖时刻n 时，则称Markov 链具有平稳转移概率.定义 4.3 若对任意,i j I ∈，Markov 链{,}n X n T ∈的转移概率()ij p n 与n 无关，则称Markov 链是齐次的（或称时齐的）（time homogeneous -），并记()ij p n 为ij p . 下面只讨论齐次Markov 链，并且通常将“齐次”两字省去.定义 4.4 设P 表示一步转移概率ij p 所组成的矩阵，且状态空间{1,2,}I =，则1112121222...........................n n p p p P p p p ⎛⎫ ⎪= ⎪ ⎪⎝⎭称为系统状态的一步转移概率矩阵（transition probability matrix ），它具有性质： （1）0,,ij p i j I ≥∈； （2）1,ijj Ipi I ∈=∈∑.（2）式说明一步转移概率矩阵中任一行元素之和为1，通常称满足性质（1）（2）的矩阵为随机矩阵.定义 4.5 称条件概率(){|},n ij m n m p P X j X i +=== ,,0,1i j I m n ∈≥≥ （4.2）为Markov 链{,}n X n T ∈的n 步转移概率，并称()()()n n ij P p =为Markov 链{,}n X n T ∈的n 步转移矩阵.其中()()0,1n n ij ij j Ip p ∈≥=∑，即()n P 也是一个随机矩阵.特别地，当1n =时，(1)ij ij p p =，此时，一步转移矩阵(1)P P =.我们还规定(0)0,1,iji jpi j ≠⎧=⎨=⎩Markov 链n 步转移概率满足重要的Chapman Kolmogorov -方程（简称C K -方程）。
第四章4.1 马尔可夫链的的概念及转移概率一、知识回顾二、马尔可夫链的的定义三、转移概率四、马尔可夫链的一些简单例子五、总结一、知识回顾1. 条件概率定义：设A，B为两个事件，且，称为事件A发生条件下B事件发生的条件概率。
将条件概率公式移项即得到所谓的乘法公式：2.全概率公式设试验E的样本空间为S，A为E的事件，若，，为S的一个完备事件组，既满足条件：1)，，两两互不相容，即，2).，且有，则此式称为全概率公式。
3.矩阵乘法矩阵乘法的定义，如果那么矩阵C叫做矩阵A和B的乘积，记作4.马尔可夫过程的分类马尔可夫过程按其状态和时间参数是连续的或离散的，可分为三类：（1）时间、状态都是离散的马尔科夫过程，称为马尔可夫链；（2）时间连续、状态离散的马尔科夫过程称为连续时间的马尔可夫链的；（3）时间、状态都连续的马尔科夫过程。
二、马尔科夫链的定义定义4.1设有随机过程，若对于任意的整数和任意的，条件概率都满足则称为马尔科夫链，简称马氏链。
已知的条件下，的条件概率与无关，而仅与所处的状态有关。
式是马尔科夫链的马氏性（或无后效性）的数学表达式。
由定义知===可见，马尔科夫链的统计特性完全由条件概率所决定。
如何确定这个条件概率，是马尔科夫链理论和应用中的重要问题之一。
现举一例说明上述概念：例4.1.1 箱中装有c个白球和d个黑球，每次从箱子中任取一球，抽出的球要到从箱子中再抽出一球后才放回箱中，每抽出一球作为一次取样试验。
现引进随机变量序列为,每次取样试验的所有可能结果只有两个，即白球或黑球。
若以数代表白球，以数代表黑球则有，第次抽球结果为白球，第次抽球结果为黑球由上所述的抽球规则可知，任意第n次抽到黑球或白球的概率只与第n-1次抽得球的结果有关，而与第次，第次，，第次，抽的球的结果无关，由此可知上述随机变量序列,为马氏链。
三、转移概率定义4.2称条件概率为马尔科夫链在时刻N的一步转移概率，其中，简称为转移概率。
