隐马尔可夫模型可以解决哪些问题

隐马尔可夫模型及其典型应⽤

【原】隐马尔可夫模型及其典型应⽤

----by stackupdown⽬录

前⾔

本⽂要介绍的是隐马尔可夫模型及其应⽤。

我们从⼀个史学家开始，假设他在看某国的史料时，⾟⾟苦苦地统计了上下数年，发现了粮⾷的增长和下降的⼀段，他会结合历史去分析⼀些问题。但是如果史书的其他记载得太少，他就找不到问题的所在，所以⽆从下⼿。

⼜⽐如，⼀个⼈出去旅⾏，相信民间的传说，海藻的湿度跟未来的天⽓有关，未来不同天⽓，海藻的湿度不⼀样，但是海藻有⼀定概率是错的。尽管如此，他还是想要根据这个来估计明天天⽓的可能性[1]。

这两个问题是跟时间相关的问题，有些这样的问题是解决不了的，有些则不然，我们在接下来的⽂章⾥会讲到相关问题的数学抽象和解决⽅法。正⽂

⼀、随机过程

我们在⾃然世界中会遇到各种不确定的过程，它们的发⽣是不确定的，这种过程称为随机过程。像花粉的布朗运动、股票市值、天⽓变化都是随机过程[2]。

马尔科夫随机过程是⼀类随机过程。它的原始模型马尔可夫链，由俄国数学家A.A.马尔可夫于1907年提出。该过程有以下的性质：指定⼀个时间点，则未来时间的状态只与现在有关，跟它的过去没有关系。在现实⽣活中的马尔科夫过程是我们⼈为抽象进⾏简化的，如果我们认为⼀个事物的未来跟过去的变化没有太⼤关系，那么我们就可以把它抽象成马尔科夫过程[2]。

⽐如我们的天⽓，很不严谨地说，可以抽象成马尔科夫过程，从今天晴天转移到明天多云、下⾬的转移只取决于今天的天⽓，⽽跟前天的天⽓⽆关。

如下图，这样我们按照概率的知识就可以得到今天下⾬，明天放晴的概率：P(明天晴|今天⾬)=0.4

这就当做是我们最简单的⼀个模型了[3]。

马尔科夫过程的假设很简单，就是概率不依赖于之前的序列，写成公式：

就好像⼀条鱼不知道⾃⼰之前的运动轨迹，只知道⾃⼰在哪⾥，接着它就会按照现在的位置随机选择⼀个⽅向去游动了。鱼的前前后后的运动形成了⼀条链。 在⼀个马尔科夫模型中，我们可以利⽤它来计算概率，⽽且由于它是单个状态的转移，我们看起来它就像是⼀条链⼀样，状态从头到尾移动。跟时间有关的序列往往可以抽象成马尔科夫过程，像浏览⽹页这种简单的⾏为乃⾄写诗、谱曲这种复杂过程都可以⽤马尔科夫过程分析。

⼀⽂搞懂HMM（隐马尔可夫模型）

什么是熵(Entropy)

简单来说，熵是表⽰物质系统状态的⼀种度量，⽤它⽼表征系统的⽆序程度。熵越⼤，系统越⽆序，意味着系统结构和运动的不确定和⽆规则；反之，，熵越

⼩，系统越有序，意味着具有确定和有规则的运动状态。熵的中⽂意思是热量被温度除的商。负熵是物质系统有序化，组织化，复杂化状态的⼀种度量。

熵最早来原于物理学. 德国物理学家鲁道夫·克劳修斯⾸次提出熵的概念，⽤来表⽰任何⼀种能量在空间中分布的均匀程度，能量分布得越均匀，熵就越⼤。

1. ⼀滴墨⽔滴在清⽔中，部成了⼀杯淡蓝⾊溶液2. 热⽔晾在空⽓中，热量会传到空⽓中，最后使得温度⼀致

更多的⼀些⽣活中的例⼦:

1. 熵⼒的⼀个例⼦是⽿机线，我们将⽿机线整理好放进⼝袋，下次再拿出来已经乱了。让⽿机线乱掉的看不见的“⼒”就是熵⼒，⽿机线喜欢变成更混乱。2. 熵⼒另⼀个具体的例⼦是弹性⼒。⼀根弹簧的⼒，就是熵⼒。 胡克定律其实也是⼀种熵⼒的表现。3. 万有引⼒也是熵⼒的⼀种(热烈讨论的话题)。4. 浑⽔澄清[1]

于是从微观看，熵就表现了这个系统所处状态的不确定性程度。⾹农，描述⼀个信息系统的时候就借⽤了熵的概念，这⾥熵表⽰的是这个信息系统的平均信息

量(平均不确定程度)。

最⼤熵模型

我们在投资时常常讲不要把所有的鸡蛋放在⼀个篮⼦⾥，这样可以降低风险。在信息处理中，这个原理同样适⽤。在数学上，这个原理称为最⼤熵原理(the

maximum entropy principle)。

让我们看⼀个拼⾳转汉字的简单的例⼦。假如输⼊的拼⾳是"wang-xiao-bo"，利⽤语⾔模型，根据有限的上下⽂(⽐如前两个词)，我们能给出两个最常见的

名字“王⼩波”和“王晓波 ”。⾄于要唯⼀确定是哪个名字就难了，即使利⽤较长的上下⽂也做不到。当然，我们知道如果通篇⽂章是介绍⽂学的，作家王⼩波

的可能性就较⼤；⽽在讨论两岸关系时，台湾学者王晓波的可能性会较⼤。在上⾯的例⼦中，我们只需要综合两类不同的信息，即主题信息和上下⽂信息。虽然

隐马尔可夫〔Hidden Markov Model， HMM〕

一、马尔可夫过程〔Markov Process〕

1、马尔可夫过程介绍

马尔可夫过程 (Markov Process)，它因俄罗斯数学家安德烈·马尔可夫而得名，代表数学中具有马尔可夫性质的离散随机过程。该过程中，每个状态的转移只依赖于之前的n个状态，这个过程被称为1个n阶的模型，其中n是影响转移状态的数目。最简单的马尔科夫过程就是一阶过程，每一个状态的转移只依赖于其之前的那一个状态。

马尔可夫链是随机变量 X1, … , Xn的一个数列。这些变量的范围，即他们所有可能取值的集合，被称为“状态空间”，而Xn的值则是在时间n的状态。如果 Xn+1对于过去状态的条件概率分布仅是Xn的一个函数，则

这里x为过程中的某个状态。上面这个恒等式可以被看作是马尔可夫性质。

2、马尔可夫过程举例

以下图展示了天气这个例子中所有可能的一阶转移：

注意一个含有 N 个状态的一阶过程有N2个状态转移。每一个转移的概率叫做状态转移概率 (state transition probability)，即从一个状态转移到另一个状态的概率。这所有的N2个概率可以用一个状态转移矩阵来表示，其表示形式如下：

对该矩阵有如下约束条件：

下面就是海藻例子的状态转移矩阵：

这个矩阵表示，如果昨天是晴天，那么今天有50%的可能是晴天，37.5%的概率是阴天，12.5%的概率会下雨，很明显，矩阵中每一行的和都是1。

为了初始化这样一个系统，我们需要一个初始的概率向量：

这个向量表示第一天是晴天。

3、一阶马尔可夫过程定义

如上述马尔可夫过程例子可知，我们为一阶马尔可夫过程定义了以下三个部分：

状态：晴天、阴天和下雨；

初始向量：定义系统在时间为0的时候的状态的概率；

状态转移矩阵：每种天气转换的概率；

所有的能被这样描述的系统都是一个马尔可夫过程。

二、隐马尔可夫过程〔HMM〕

马尔可夫链的基本概念

马尔可夫链是一种数学模型，用于描述具有马尔可夫性质的随机过程。马尔可夫性质指的是在给定当前状态的情况下，未来状态的概率只与当前状态有关，与过去状态无关。马尔可夫链由一组状态和状态之间的转移概率组成，可以用于模拟和预测各种随机过程，如天气变化、股票价格波动等。

一、马尔可夫链的定义

马尔可夫链由状态空间和转移概率矩阵组成。状态空间是指所有可能的状态的集合，用S表示。转移概率矩阵是一个n×n的矩阵，其中n是状态空间的大小。转移概率矩阵的元素表示从一个状态转移到另一个状态的概率。

二、马尔可夫链的性质

1. 马尔可夫性质：在给定当前状态的情况下，未来状态的概率只与当前状态有关，与过去状态无关。

2. 遍历性：从任意一个状态出发，经过有限步骤后可以到达任意一个状态。

3. 周期性：一个状态可以分为周期为k的状态和非周期状态。周期为k的状态在经过k步后才能返回原状态，非周期状态的周期为1。

4. 不可约性：如果一个马尔可夫链中的任意两个状态都是可达的，那么该马尔可夫链是不可约的。

5. 非周期马尔可夫链的收敛性：如果一个马尔可夫链是非周期的且不可约的，那么它具有收敛性，即在经过足够多的步骤后，状态分布会趋于稳定。

三、马尔可夫链的应用

马尔可夫链在许多领域都有广泛的应用，包括自然语言处理、机器学习、金融市场分析等。

1. 自然语言处理：马尔可夫链可以用于语言模型的建立，通过分析文本中的词语之间的转移概率，可以预测下一个词语的出现概率，从而实现自动文本生成、机器翻译等任务。

2. 机器学习：马尔可夫链可以用于序列数据的建模和预测，如音频信号处理、图像处理等。通过分析序列数据中的状态转移概率，可以预测下一个状态的出现概率，从而实现序列数据的预测和分类。

3. 金融市场分析：马尔可夫链可以用于分析金融市场的波动性和趋势。通过分析股票价格的状态转移概率，可以预测未来股票价格的走势，从而指导投资决策。