马尔科夫链

马尔可夫链马尔可夫链（Markov chains ）是一类重要的随机过程，它的状态空间是有限的或可数无限的。

经过一段时间系统从一个状态转到另一个状态这种进程只依赖于当前出发时的状态而与以前的历史无关。

马尔可夫链有着广泛的应用，也是研究排队系统的重要工具。

1) 离散时间参数的马尔可夫链 ①基本概念定义 5.7 设{()0,1,2,}X n n ∙∙∙=，是一个随机过程，状态空间{0,1,2,}E =，如果对于任意的一组整数时间120k n n n ∙∙∙≤<<<，以及任意状态12,,,k i i i E ∈，都有条件概率11{()|()}k k k k P X n i X n i --=== （5-17）即过程{()0,1,2,}X n n ∙∙∙=，未来所处的状态只与当前的状态有关，而与以前曾处于什么状态无关，则称{()0,1,2,}X n n ∙∙∙=，是一个离散时间参数的马尔可夫链。

当E 为可列无限集时称其为可列无限状态的马尔可夫链，否则称其为有限状态的马尔可夫链。

定义5.8 设{()0,1,2,}X n n ∙∙∙=，是状态空间{0,1,2,}E =上的马尔可夫链，条件概率(,){()|()}ij p m k P X m k j X m i i j E =+==∈，、 （5-18）称为马尔可夫链{()0,1,2,}X n n ∙∙∙=，在m 时刻的k 步转移概率。

k 步转移概率的直观意义是：质点在时刻m 处于状态i 的条件下，再经过k 步（k 个单位时间）转移到状态j 的条件概率。

特别地，当1k =时，(,1){(1)|()}ij p m P X m j X m i =+== （5-19）称为一步转移概率，简称转移概率。

如果k 步转移概率(,)ij p m k i j E ∈，、，只与k 有关，而与时间起点m 无关，则{()}X n 称为离散时间的齐次马尔可夫链。

定义5.9 设{()0,1,2,}X n n ∙∙∙=，是状态空间{0,1,2,}E ∙∙∙=上的马尔可夫链，矩阵000101011101(,)(,)(,)(,)(,)(,)(,)(,)(,)(,)n n j j jn p m k p m k p m k p m k p m k p m k P m k p m k p m k p m k ⎡⎤⎢⎥⎢⎥⎢⎥=⎢⎥⎢⎥⎢⎥⎣⎦（5-20） 称为{()}X n 在m 时刻的k 步转移概率矩阵。

马尔可夫链
马尔可夫链（Markov Chain, MC）是概率论和数理统计中具有马尔可夫性质（Markov property）且存在于离散的指数集（index set）和状态空间（state space）内的随机过程（stochastic process）。

适用于连续指数集的马尔可夫链被称为马尔可夫过程（Markov process），但有时也被视为马尔可夫链的子集，即连续时间马尔可夫链（Continuous-Time MC, CTMC），与离散时间马尔可夫链（Discrete-Time MC, DTMC）相对应，因此马尔可夫链是一个较为宽泛的概念。

马尔可夫链的命名来自俄国数学家安德雷·马尔可夫以纪念其首次定义马尔可夫链和对其收敛性质所做的研究。

马尔科夫链_马尔可夫过程一、引言1、马尔科夫链的数学背景马尔可夫链，因安德烈?马尔可夫（A.A.Markov，1856－1922）得名，是数学中具有马尔可夫性质的离散时间随机过程。

该过程中，在给定当前知识或信息的情况下，过去（即当期以前的历史状态）对于预测将来（即当期以后的未来状态）是无关的。

马尔可夫链是随机变量X_1,X_2,X_3...的一个数列。

这些变量的范围，即他们所有可能取值的集合，被称为“状态空间”，而X_n的值则是在时间n的状态。

如果X_{n+1}对于过去状态的条件概率分布仅是X_n的一个函数，则PX_{n+1}=x|X_0, X_1, X_2, \ldots, X_n = PX_{n+1}=x|X_n. 这里x为过程中的某个状态。

上面这个恒等式可以被看作是马尔可夫性质。

2、马尔科夫链的典型应用①马尔科夫链在股指期货投资中的应用马尔科夫链转移矩阵的有效状态以近时点动量策略原时点反转策略为主,有效抓住了上涨和下跌的中期和初期.从而准确的抓住了日内股指波动. ②马尔科夫链在天气预报中的应用通过对马尔科夫链理论和切普曼-柯尔莫哥洛夫方程方程的探讨,,结合天气情况不确定等诸多特点,构想了天气情况预报的马尔科夫链预测模型,给出了马尔科夫链的初始概率和多重转移概率的计算方法,根据此算法可以预报短期天气情况,同时扩展到对未来天气情况趋势的预测。

③马尔科夫链在环境预测中的应用鉴于目前环境质量预测在理论方法和实践上的缺乏，把马尔科夫链引入环境质量的预测中，将各种污染物的浓度变化过程视作马尔科夫过程，通过预测各种污染物的污染负荷系数来推知其浓度值/④马尔科夫链在桥梁状态预测中的研究与应用马尔科夫链以矩阵的形式来表达桥梁状况,通过求解状态转移矩阵,进一步预测桥梁未来数年内的基本状况。

综合考虑了桥梁检修的影响,给出了桥梁检修后不同状态的状态转移矩阵,为进一步引入实际数据做了充分的准备。

3、相关文献《程序设计实践》作者 Brian W.Kernighan程序设计实践并不是只是写代码。