马尔可夫链预测
- 格式:docx
- 大小:293.57 KB
- 文档页数:99
1 马尔可夫预测 马尔可夫链的基本原理 马尔可夫预测方法及应用 2
1. 马尔可夫链的基本概念 一、马尔可夫链 马尔可夫过程指满足无后效性的随机过程 3 1. 马尔可夫链的基本概念 一、马尔可夫链 马尔可夫过程指满足无后效性的随机过程 定义1 若非负随机序列{X(tn),n∈N}满足条件 则称随机序列{X(tn)}为马尔科夫链,简称马氏链。4
1. 马尔可夫链的基本概念 一、马尔可夫链 马尔可夫过程指满足无后效性的随机过程 定义1 若非负随机序列{X(tn),n∈N}满足条件 则称随机序列{X(tn)}为马尔科夫链,简称马氏链。
无后效性指“将来”取什么值只与“现在”的取值有关, 而与“过去”取什么值无关。 5
二、状态转移概率矩阵 6
二、状态转移概率矩阵 当系统由一种状态变为另一种状态时,称为状态转移。 7 N 二、状态转移概率矩阵
当系统由一种状态变为另一种状态时,称为状态转移。
定义2 一步状态转移概率 p(1) p P{X j X i} ij ij n1 pij n
0, pij 1
j1
若由X n i转移到X n 1 j的概率pij与n无关,则称该马尔
可夫链是齐次的。 8
几个概念: 9
几个概念: 概率向量:对于任意的行向量(或列向量),如果其每个元素均非负且总和等于1, 则称该向量为概率向量。 10 几个概念: 概率向量:对于任意的行向量(或列向量),如果其每个元素均非负且总和等于1, 则称该向量为概率向量。
u (0.4, 0.25, 0.25, 0.1) 11
几个概念: 概率向量:对于任意的行向量(或列向量),如果其每个元素均非负且总和等于1, 则称该向量为概率向量。
u (0.4, 0.25, 0.25, 0.1) 概率向量 12
几个概念: 概率向量:对于任意的行向量(或列向量),如果其每个元素均非负且总和等于1, 则称该向量为概率向量。
u (0.4, 0.25, 0.25, 0.1) 概率向量
概率矩阵 由概率向量作为行向量所构成的方阵称为概率矩阵。
0.7 0.3A 0.5 0.5
13
概率矩阵的性质:如果A、B 皆是概率矩阵,则AB也是
概率矩阵;如果A是概率矩阵,则A的任意次幂是概率矩阵。 Am (m 1)也 14 概率矩阵的性质:如果A、B 皆是概率矩阵,则AB也是 概率矩阵;如果A是概率矩阵,则A的任意次幂是概率矩阵。 Am (m 1)也
一步状态转移概率矩阵 p11 p12 L p1N 假设:
p p L p p
与n无关
P 21 22 2N
L L L L ij
(齐次性)
pN 1 pN 2 L
pNN 15
ij ij n k p k步状态转移概率 p k PX j X i, Pk p k , N N k 1 称 pij k 为k步状态转移概率, P k 为k步状态转移概率矩阵, p( k ) p( k ) L p( k ) 11 12 1N p( k ) p( k ) L p( k ) P( k ) 21 22 2N L L L L ( k ) N 1 ( k ) N 2 ( k ) NN n p L p 16
马尔可夫链中任何k步状态转移概率都可由
1步状态转移概率求出。 17 1步状态转移概率求出。
全概率公式
马尔可夫链中任何k步状态转移概率都可由 18 1步状态转移概率求出。
全概率公式
P k Pk , k 1
马尔可夫链中任何k步状态转移概率都可由 P (k ) P (k 1) P P —— 一步状态转移概率矩阵 P( k ) —— k 步状态转移概率矩阵 19
三、平稳分布与稳态分布 20
三、平稳分布与稳态分布 1. 平稳分布 21 三、平稳分布与稳态分布
1. 平稳分布 如 X
x1 , x2 ,L , x
N
为一状态概率向量,P为状态转移
概率矩阵。若 XP X
则称 X 为马尔可夫链的一个平稳分布。 22
三、平稳分布与稳态分布 1. 平稳分布 如 X
x1 , x2 ,L , x
N
为一状态概率向量,P为状态转移
概率矩阵。若 XP X
则称 X 为马尔可夫链的一个平稳分布。
若随机过程某时刻的状态概率向量为平稳分布,则称过程处于平衡状态。
一旦过程处于平衡状态,则过程经过一步或多步状态转移之后,其状态概率分布保持不变,即,过程一旦处于平衡状态后将永远处于平衡状态。 23
2. 稳态分布 问题:对于系统的状态P(m),当 m 趋于无穷时, 是否存在极限? 24
2. 稳态分布 问题:对于系统的状态P(m),当 m 趋于无穷时, 是否存在极限?
若存在,设其极限为 , lim mP(m) lim(p1 (m),p2 (m),...,pN (m))
m
(1,2 ,...,N ) 25
2. 稳态分布 问题:对于系统的状态P(m),当 m 趋于无穷时, 是否存在极限?
若存在,设其极限为 , lim mP(m) lim(p1 (m),p2 (m),...,pN (m))
m
(1,2 ,...,N )
lim mp j m
j 26
2. 稳态分布 问题:对于系统的状态P(m),当 m 趋于无穷时, 是否存在极限?
若存在,设其极限为 , lim mP(m) lim(p1 (m),p2 (m),...,pN (m))
m
(1,2 ,...,N )
lim mp j m
j
N N lim p m lim p 0p(m) p 0lim p(m)
m j m i1 i ij i i1 m ij 27
定义 对于概率向量 1,2 ,...,N
,如
对任意的 i, j S ,均有
lim p(m )
mij j
则称 为稳态分布。 28
定义 对于概率向量 1,2 ,...,N
,如
对任意的 i, j S ,均有
lim p(m )
mij j
则称 为稳态分布。
此时,不管初始状态概率向量如何,均有 N N lim p m lim p 0p(m) p 0lim p(m)
m j m i1 i ij i i1 m ij N N
i1 pi (0)j j
i1 pi (0)
j
这也是称 为稳态分布的理由。