马尔可夫链预测

  • 格式:docx
  • 大小:293.57 KB
  • 文档页数:99

1 马尔可夫预测  马尔可夫链的基本原理  马尔可夫预测方法及应用 2

1. 马尔可夫链的基本概念 一、马尔可夫链 马尔可夫过程指满足无后效性的随机过程 3 1. 马尔可夫链的基本概念 一、马尔可夫链 马尔可夫过程指满足无后效性的随机过程 定义1 若非负随机序列{X(tn),n∈N}满足条件 则称随机序列{X(tn)}为马尔科夫链,简称马氏链。4

1. 马尔可夫链的基本概念 一、马尔可夫链 马尔可夫过程指满足无后效性的随机过程 定义1 若非负随机序列{X(tn),n∈N}满足条件 则称随机序列{X(tn)}为马尔科夫链,简称马氏链。

 无后效性指“将来”取什么值只与“现在”的取值有关, 而与“过去”取什么值无关。 5

二、状态转移概率矩阵 6

二、状态转移概率矩阵 当系统由一种状态变为另一种状态时,称为状态转移。 7 N 二、状态转移概率矩阵

当系统由一种状态变为另一种状态时,称为状态转移。

定义2 一步状态转移概率 p(1)  p  P{X  j X  i} ij ij n1 pij n

 0,  pij  1

j1

若由X n  i转移到X n 1 j的概率pij与n无关,则称该马尔

可夫链是齐次的。 8

几个概念: 9

几个概念: 概率向量:对于任意的行向量(或列向量),如果其每个元素均非负且总和等于1, 则称该向量为概率向量。 10 几个概念: 概率向量:对于任意的行向量(或列向量),如果其每个元素均非负且总和等于1, 则称该向量为概率向量。

u  (0.4, 0.25, 0.25, 0.1) 11

几个概念: 概率向量:对于任意的行向量(或列向量),如果其每个元素均非负且总和等于1, 则称该向量为概率向量。

u  (0.4, 0.25, 0.25, 0.1) 概率向量 12  

几个概念: 概率向量:对于任意的行向量(或列向量),如果其每个元素均非负且总和等于1, 则称该向量为概率向量。

u  (0.4, 0.25, 0.25, 0.1) 概率向量

概率矩阵 由概率向量作为行向量所构成的方阵称为概率矩阵。

 0.7 0.3A  0.5 0.5

13



概率矩阵的性质:如果A、B 皆是概率矩阵,则AB也是

概率矩阵;如果A是概率矩阵,则A的任意次幂是概率矩阵。 Am (m  1)也 14 概率矩阵的性质:如果A、B 皆是概率矩阵,则AB也是 概率矩阵;如果A是概率矩阵,则A的任意次幂是概率矩阵。 Am (m  1)也

一步状态转移概率矩阵  p11 p12 L p1N 假设:

 p p L p p

与n无关

P  21 22 2N 

L L L L ij

(齐次性) 

 pN 1 pN 2 L 

pNN 15

ij ij n k p k步状态转移概率 p k  PX  j X  i, Pk   p k  , N N k  1 称 pij k 为k步状态转移概率, P k 为k步状态转移概率矩阵,  p( k ) p( k ) L p( k )  11 12 1N p( k ) p( k ) L p( k ) P( k )  21 22 2N L L L L  ( k ) N 1 ( k ) N 2 ( k ) NN n p L p 16

马尔可夫链中任何k步状态转移概率都可由

1步状态转移概率求出。 17 1步状态转移概率求出。

全概率公式

马尔可夫链中任何k步状态转移概率都可由 18 1步状态转移概率求出。

全概率公式

P k   Pk , k  1

马尔可夫链中任何k步状态转移概率都可由 P (k )  P (k 1) P P —— 一步状态转移概率矩阵 P( k ) —— k 步状态转移概率矩阵 19

三、平稳分布与稳态分布 20

三、平稳分布与稳态分布 1. 平稳分布 21 三、平稳分布与稳态分布

1. 平稳分布 如 X 

 x1 , x2 ,L , x

N

为一状态概率向量,P为状态转移

概率矩阵。若 XP  X

则称 X 为马尔可夫链的一个平稳分布。 22

三、平稳分布与稳态分布 1. 平稳分布 如 X 

 x1 , x2 ,L , x

N

为一状态概率向量,P为状态转移

概率矩阵。若 XP  X

则称 X 为马尔可夫链的一个平稳分布。

若随机过程某时刻的状态概率向量为平稳分布,则称过程处于平衡状态。

一旦过程处于平衡状态,则过程经过一步或多步状态转移之后,其状态概率分布保持不变,即,过程一旦处于平衡状态后将永远处于平衡状态。 23

2. 稳态分布 问题:对于系统的状态P(m),当 m 趋于无穷时, 是否存在极限? 24 

2. 稳态分布 问题:对于系统的状态P(m),当 m 趋于无穷时, 是否存在极限?

若存在,设其极限为 , lim mP(m) lim(p1 (m),p2 (m),...,pN (m))

m  

 (1,2 ,...,N ) 25 

2. 稳态分布 问题:对于系统的状态P(m),当 m 趋于无穷时, 是否存在极限?

若存在,设其极限为 , lim mP(m) lim(p1 (m),p2 (m),...,pN (m))

m  

 (1,2 ,...,N )

lim mp j m



 

j 26



2. 稳态分布 问题:对于系统的状态P(m),当 m 趋于无穷时, 是否存在极限?

若存在,设其极限为  , lim mP(m) lim(p1 (m),p2 (m),...,pN (m))

m  

 (1,2 ,...,N )

lim mp j m  

j

N N lim p m lim  p 0p(m)   p 0lim p(m)

m j m i1 i ij i i1 m ij 27

定义 对于概率向量  1,2 ,...,N 

,如

对任意的 i, j  S ,均有

lim p(m )  

mij j

则称 为稳态分布。 28

定义 对于概率向量  1,2 ,...,N 

,如

对任意的 i, j  S ,均有

lim p(m )  

mij j

则称 为稳态分布。

此时,不管初始状态概率向量如何,均有 N N lim p m lim  p 0p(m)   p 0lim p(m)

m j m i1 i ij i i1 m ij N N

 i1 pi (0)j  j 

i1 pi (0) 

j

这也是称 为稳态分布的理由。