如何用简单易懂的例子解释隐马尔可夫模型教学文案
- 格式:docx
- 大小:193.06 KB
- 文档页数:48
⼀⽂搞懂HMM(隐马尔可夫模型)什么是熵(Entropy)简单来说,熵是表⽰物质系统状态的⼀种度量,⽤它⽼表征系统的⽆序程度。
熵越⼤,系统越⽆序,意味着系统结构和运动的不确定和⽆规则;反之,,熵越⼩,系统越有序,意味着具有确定和有规则的运动状态。
熵的中⽂意思是热量被温度除的商。
负熵是物质系统有序化,组织化,复杂化状态的⼀种度量。
熵最早来原于物理学. 德国物理学家鲁道夫·克劳修斯⾸次提出熵的概念,⽤来表⽰任何⼀种能量在空间中分布的均匀程度,能量分布得越均匀,熵就越⼤。
1. ⼀滴墨⽔滴在清⽔中,部成了⼀杯淡蓝⾊溶液2. 热⽔晾在空⽓中,热量会传到空⽓中,最后使得温度⼀致更多的⼀些⽣活中的例⼦:1. 熵⼒的⼀个例⼦是⽿机线,我们将⽿机线整理好放进⼝袋,下次再拿出来已经乱了。
让⽿机线乱掉的看不见的“⼒”就是熵⼒,⽿机线喜欢变成更混乱。
2. 熵⼒另⼀个具体的例⼦是弹性⼒。
⼀根弹簧的⼒,就是熵⼒。
胡克定律其实也是⼀种熵⼒的表现。
3. 万有引⼒也是熵⼒的⼀种(热烈讨论的话题)。
4. 浑⽔澄清[1]于是从微观看,熵就表现了这个系统所处状态的不确定性程度。
⾹农,描述⼀个信息系统的时候就借⽤了熵的概念,这⾥熵表⽰的是这个信息系统的平均信息量(平均不确定程度)。
最⼤熵模型我们在投资时常常讲不要把所有的鸡蛋放在⼀个篮⼦⾥,这样可以降低风险。
在信息处理中,这个原理同样适⽤。
在数学上,这个原理称为最⼤熵原理(the maximum entropy principle)。
让我们看⼀个拼⾳转汉字的简单的例⼦。
假如输⼊的拼⾳是"wang-xiao-bo",利⽤语⾔模型,根据有限的上下⽂(⽐如前两个词),我们能给出两个最常见的名字“王⼩波”和“王晓波 ”。
⾄于要唯⼀确定是哪个名字就难了,即使利⽤较长的上下⽂也做不到。
当然,我们知道如果通篇⽂章是介绍⽂学的,作家王⼩波的可能性就较⼤;⽽在讨论两岸关系时,台湾学者王晓波的可能性会较⼤。
隐马尔科夫模型在教育领域中的使用技巧隐马尔科夫模型(Hidden Markov Model, HMM)是一种统计模型,其在教育领域中的应用日益广泛。
在教育领域,HMM可以用于学习者行为分析、学习过程建模、评估和预测等方面。
本文将从HMM的基本原理、在教育领域的应用以及使用技巧等方面进行探讨。
HMM的基本原理HMM是一种用于建模时序数据的概率模型,它假设观测数据的生成过程是由一个不可见的马尔科夫链控制的。
具体来说,HMM包含三组参数:状态转移概率矩阵A、观测概率矩阵B和初始状态概率向量π。
其中,状态转移概率矩阵A描述了隐藏状态之间的转移概率,观测概率矩阵B描述了每个隐藏状态生成可观测数据的概率,初始状态概率向量π描述了模型在时间t=1时各隐藏状态的概率分布。
通过这些参数,HMM可以用来描述观测序列的生成过程,并且可以用来进行概率推断和预测。
在教育领域的应用在教育领域,HMM可以被用来分析学习者的行为轨迹、建模学习过程以及评估学习者的能力水平。
例如,在学习者行为分析方面,HMM可以用来建模学习者在学习过程中的行为序列,从而识别出学习者的学习模式和行为特征。
在学习过程建模方面,HMM可以用来建立学习者的知识状态转移模型,从而可以预测学习者在未来的学习过程中可能出现的知识迁移路径。
在评估学习者能力水平方面,HMM可以用来建立学习者的能力评估模型,从而可以对学习者的能力水平进行精准评估。
使用技巧在使用HMM进行教育领域的建模和分析时,有一些技巧和注意事项需要注意。
首先,需要根据具体的应用场景选择合适的观测数据和隐藏状态。
观测数据应该能够充分反映学习者的行为特征,隐藏状态应该能够充分刻画学习过程中的状态转移特征。
其次,需要合理选择模型的参数。
在选择状态转移概率矩阵A和观测概率矩阵B时,需要充分考虑学习者的行为特征和学习过程中的状态转移特征,从而使模型能够更好地描述学习者的行为和学习过程。
此外,还需要进行模型的训练和评估。
“简单易懂”?我们来解释隐马尔可夫模型!1赌场风云(背景介绍)最近一个赌场的老板发现生意不畅,于是派出手下去赌场张望。
经探子回报,有位大叔在赌场中总能赢到钱,玩得一手好骰子,几乎是战无不胜。
而且每次玩骰子的时候周围都有几个保镖站在身边,让人不明就里,只能看到每次开局,骰子飞出,沉稳落地。
老板根据多年的经验,推测这位不善之客使用的正是江湖失传多年的'偷换骰子大法”(编者注:偷换骰子大法,用兜里自带的骰子偷偷换掉均匀的骰子)。
老板是个冷静的人,看这位大叔也不是善者,不想轻易得罪他,又不想让他坏了规矩。
正愁上心头,这时候进来一位名叫HMM帅哥,告诉老板他有一个很好的解决方案。
不用近其身,只要在远处装个摄像头,把每局的骰子的点数都记录下来。
然后HMM帅哥将会运用其强大的数学内力,用这些数据推导出1. 该大叔是不是在出千?2. 如果是在出千,那么他用了几个作弊的骰子? 还有当前是不是在用作弊的骰子。
3. 这几个作弊骰子出现各点的概率是多少?天呐,老板一听,这位叫HMM的甚至都不用近身,就能算出是不是在作弊,甚至都能算出别人作弊的骰子是什么样的。
那么,只要再当他作弊时,派人围捕他,当场验证骰子就能让他哑口无言。
2HMM是何许人也?在让HMM开展调查活动之前,该赌场老板也对HMM作了一番调查。
HMM(Hidden Markov Model), 也称隐性马尔可夫模型,是一个概率模型,用来描述一个系统隐性状态的转移和隐性状态的表现概率。
系统的隐性状态指的就是一些外界不便观察(或观察不到)的状态, 比如在当前的例子里面, 系统的状态指的是大叔使用骰子的状态,即{正常骰子, 作弊骰子1, 作弊骰子2,...}隐性状态的表现也就是, 可以观察到的,由隐性状态产生的外在表现特点。
这里就是说, 骰子掷出的点数.{1,2,3,4,5,6}HMM模型将会描述,系统隐性状态的转移概率。
也就是大叔切换骰子的概率,下图是一个例子,这时候大叔切换骰子的可能性被描述得淋漓尽致。
隐马尔科夫模型在金融风险管理中的应用案例隐马尔科夫模型(Hidden Markov Model,HMM)是一种用于描述随机过程的统计模型,它可以描述一个含有隐藏状态的马尔科夫链。
在金融领域,隐马尔科夫模型被广泛应用于风险管理和预测。
本文将介绍隐马尔科夫模型在金融风险管理中的应用案例,并探讨其优势和局限性。
一、HMM在金融市场波动预测中的应用HMM可以用于对金融市场的波动进行预测。
通过对历史数据进行分析,可以建立HMM模型来描述金融市场的波动特征。
利用HMM模型,可以预测金融市场未来一段时间内的波动情况,为投资者提供决策依据。
例如,利用HMM模型可以对股票价格的未来走势进行预测,帮助投资者制定交易策略。
二、HMM在信用风险评估中的应用在金融风险管理中,信用风险是一个重要的问题。
利用HMM模型,可以对个体或机构的信用风险进行评估。
通过分析历史数据和市场信息,可以建立HMM模型来描述不同借款人或机构的信用状态转移过程,从而对其未来的信用风险进行预测。
这对于银行等金融机构来说,是非常重要的风险管理工具。
三、HMM在市场情绪分析中的应用金融市场的波动往往受到投资者情绪的影响。
利用HMM模型,可以对市场情绪进行分析和预测。
通过分析市场交易数据和相关新闻事件,可以建立HMM模型来描述投资者情绪的转移过程,从而预测市场未来的情绪变化。
这对于投资者来说,可以帮助他们更好地把握市场风向,做出更明智的投资决策。
四、HMM在风险事件识别中的应用金融市场存在着各种风险事件,如市场风险、操作风险、信用风险等。
利用HMM模型,可以对这些风险事件进行识别和监测。
通过对市场数据和风险事件的关联性进行建模,可以建立HMM模型来描述不同风险事件之间的转移过程,从而帮助金融机构及时识别和应对各种风险。
在金融风险管理中,HMM模型的应用具有一定的优势。
首先,HMM能够较好地描述时间序列数据和状态转移过程,适用于金融市场的复杂波动情况。
其次,HMM模型灵活性较强,可以根据实际情况进行参数调整和模型优化。
隐马尔科夫模型(Hidden Markov Model, HMM)是一种用来建模含有隐藏状态的系统的概率模型,它在语音识别、自然语言处理、生物信息学等领域都有着广泛的应用。
近年来,隐马尔科夫模型在教育领域中的应用也逐渐引起了人们的关注。
本文将从教育领域使用隐马尔科夫模型的技巧展开讨论。
首先,隐马尔科夫模型在教育领域中可以用来分析学生的学习情况。
通过收集学生的学习行为数据,如阅读时间、作业完成情况、课堂表现等,可以建立一个隐马尔科夫模型来对学生的学习状态进行建模。
这样一来,教师可以根据模型的输出来了解学生的学习情况,及时发现学生的学习问题并进行干预,提高教学效果。
其次,隐马尔科夫模型还可以用来进行学生学习行为的预测。
通过历史的学习行为数据,可以建立一个隐马尔科夫模型来预测学生未来的学习状态。
这样一来,教师可以提前知晓学生可能的学习状态,有针对性地进行教学准备,提高教学效率。
另外,隐马尔科夫模型还可以用来进行学生学习能力的评估。
通过收集学生的学习行为数据,可以建立一个隐马尔科夫模型来对学生的学习能力进行评估。
这样一来,教师可以根据模型的输出来评估学生的学习能力,有针对性地进行教学安排,帮助学生提高学习效果。
除此之外,隐马尔科夫模型还可以用来进行课程设计与优化。
通过收集学生的学习行为数据,可以建立一个隐马尔科夫模型来对课程进行建模。
这样一来,教师可以根据模型的输出来对课程进行优化,提高课程的教学效果。
综上所述,隐马尔科夫模型在教育领域中有着广泛的应用前景。
通过对学生的学习行为数据进行建模,可以帮助教师更好地了解学生的学习情况,并有针对性地进行教学。
隐马尔科夫模型的应用将极大地提高教育领域的教学效果,推动教育事业的发展。
隐马尔科夫模型在农业生产中的使用技巧隐马尔科夫模型(Hidden Markov Model, HMM)是一种用于描述状态序列的统计模型,其在农业生产中的应用越来越受到关注。
本文将探讨隐马尔科夫模型在农业生产中的使用技巧,并对其应用进行分析和讨论。
一、隐马尔科夫模型的基本原理隐马尔科夫模型是一种描述动态系统的概率模型,其基本原理是系统中存在一些看不见的隐含因素,这些隐含因素会影响观察到的结果。
在农业生产中,隐马尔科夫模型可以用来描述作物生长的状态变化,如生长阶段、生长速度等,从而帮助农民更好地进行生产管理和决策。
二、隐马尔科夫模型在农业气象预测中的应用隐马尔科夫模型在农业生产中的一个重要应用是气象预测。
通过收集大量气象数据,可以利用隐马尔科夫模型对未来一段时间内的气象变化进行预测。
这对于农民来说非常重要,可以帮助他们做出种植作物的决策,比如选择适宜的播种时间和采取相应的防灾措施。
三、隐马尔科夫模型在农作物病害预测中的应用另一个隐马尔科夫模型在农业生产中的应用是农作物病害预测。
通过收集病害发生的历史数据和相关环境因素,可以利用隐马尔科夫模型对未来一段时间内病害发生的概率进行预测。
这对于农民来说同样非常重要,可以帮助他们及时采取相应的防治措施,从而减少病害的损失。
四、隐马尔科夫模型在农业机械维护中的应用隐马尔科夫模型还可以应用于农业机械维护。
通过收集机械故障的历史数据和相关操作因素,可以利用隐马尔科夫模型对未来一段时间内机械故障的概率进行预测。
这对于农民来说同样非常重要,可以帮助他们及时进行机械维护,从而提高农业生产的效率和减少损失。
五、隐马尔科夫模型的局限性和改进方向虽然隐马尔科夫模型在农业生产中有着重要的应用价值,但是其也存在一些局限性,比如对参数的估计比较困难、对模型的准确性要求较高等。
因此,未来可以通过引入其他模型或者结合其他数据处理技术,来进一步改进隐马尔科夫模型在农业生产中的应用效果。
六、结语总之,隐马尔科夫模型作为一种描述动态系统的概率模型,在农业生产中有着重要的应用价值,可以帮助农民更好地进行生产管理和决策。
从饮食习惯知天气冷暖——浅谈隐马尔可夫模型1 引言明天的世界只与今天有关,而与昨天无关。
这句话是对马尔可夫模型的一个很好的诠释。
在概率论中,马尔可夫模型是一个非常重要的状态空间随机模型(stochastic state space model)。
该模型假设一个系统或随机变量在下一时刻的状态仅和当前的状态有关,而与任何过去的历史状态都无关,即当前的状态已经包括了预测未来所需的所有信息。
这个特性被称为马尔可夫性质(Markov property),也被称为无记忆性(memorylessness)。
马尔可夫模型由俄罗斯数学家安德雷· 马尔可夫(Андрей Андреевич Марков)提出(就是下面这位帅哥,漂亮的实力派)。
该模型在预测建模方面有着广泛的应用。
近年来,也有越来越多的人将它用在量化投资领域。
根据在时间上以及在状态空间中是否连续,马尔可夫模型又有不同的版本,比如连续的马尔可夫过程(Markov process)和离散的马尔可夫链(Markov chain)。
本文中,为了便于介绍,我们考虑最简单的离散模型,即模型在时间和状态上都是离散的。
时间上离散意味着系统仅在特定的时间点上发生状态的变化(比如每小时或者每天发生一次变化);状态空间上离散意味着系统状态的取值是非连续的。
此外我们假设状态的取值个数是有限的。
离散模型虽然简单,但在本文最后一节可以看出,它在量化投资领域同样有重要的应用价值。
在正常的马尔可夫模型中,系统的状态对于观察者来说是直接可见的,我们关心的是诸如系统在不同时刻处于不同状态的概率这类问题。
遗憾的是,在一些应用中(比如量化投资中的一些问题),我们并不能直接观测到系统的状态——这些状态对我们来说是隐形的。
虽然无法直接观测到状态,但是受这些状态影响的观测量的取值对我们来说是可见的;我们需要透过这些观测量的取值来推测系统所处的状态。
这样的模型称为隐马尔可夫模型(Hidden Markov Models,简称 HMM)。
隐马尔科夫模型(Hidden Markov Model,HMM)是一种在统计学和计算机科学领域中常用的概率模型,它在社会科学研究中也有广泛的应用。
本文将探讨隐马尔科夫模型在社会科学研究中的使用技巧,并分析其在不同领域的应用案例。
一、隐马尔科夫模型简介隐马尔科夫模型是一个描述一个含有隐藏状态的马尔科夫链的统计模型。
在隐马尔科夫模型中,虽然我们不能直接观察到隐藏状态,但我们能够观察到与隐藏状态相关的一系列观察结果。
这使得隐马尔科夫模型在社会科学研究中具有很多应用潜力。
二、隐马尔科夫模型在心理学研究中的应用心理学研究者经常使用隐马尔科夫模型来理解人类行为的潜在过程。
例如,在认知心理学中,研究者可以使用隐马尔科夫模型来建模人的记忆过程,以及在特定刺激下的认知反应。
通过观察被试者的行为,并结合隐马尔科夫模型进行分析,研究者可以更好地理解认知过程中的潜在状态转移和观察结果之间的关系。
三、隐马尔科夫模型在经济学研究中的应用在经济学研究中,隐马尔科夫模型也有着广泛的应用。
例如,经济学家可以使用隐马尔科夫模型来研究股票价格的波动,以及市场的潜在状态转移。
通过对股票价格的历史数据进行分析,并应用隐马尔科夫模型,研究者可以更好地理解市场的状态转移过程,从而为投资决策提供参考。
四、隐马尔科夫模型在社会学研究中的应用在社会学研究中,隐马尔科夫模型也有着重要的应用。
例如,社会学家可以使用隐马尔科夫模型来分析人群中的行为模式、社会转变以及群体间的相互影响。
通过对社会调查数据进行分析,并应用隐马尔科夫模型,研究者可以更好地理解社会现象背后的潜在状态和状态转移规律。
五、隐马尔科夫模型的使用技巧在实际应用中,研究者需要注意一些隐马尔科夫模型的使用技巧。
首先,需要充分理解所研究领域的背景知识,以便更好地选择合适的隐马尔科夫模型结构。
其次,需要对模型参数进行合理的估计和调整,以确保模型能够更好地拟合观察数据。
最后,需要对模型的结果进行合理的解释和推断,以便更好地理解研究结果。
隐马尔科夫模型在教育领域中的使用技巧隐马尔科夫模型(HMM)是一种统计模型,用于描述一个含有隐含未知参数的马尔科夫过程。
在教育领域中,隐马尔科夫模型被广泛应用于学生学习行为的建模、教学质量评估、个性化教育等方面。
本文将探讨隐马尔科夫模型在教育领域中的使用技巧,以及如何更好地应用这一模型来提高教学效果。
HMM在学习行为建模中的应用学习行为建模是隐马尔科夫模型在教育领域中的一个重要应用。
通过对学生学习行为进行建模,可以更好地理解学生的学习过程,从而为教学实践提供有益的指导。
隐马尔科夫模型在学习行为建模中的使用技巧包括数据的采集和预处理、模型的选择和参数估计、模型的评价和验证等方面。
首先,对于学习行为数据的采集和预处理是至关重要的。
在数据采集过程中,需要收集学生的学习行为数据,如学习时间、学习内容、答题情况等。
同时,还需要对数据进行预处理,包括数据清洗、数据转换等步骤,以便为后续的建模分析做好准备。
其次,模型的选择和参数估计是应用隐马尔科夫模型的关键技巧之一。
在选择模型时,需要考虑模型的复杂度、拟合程度等因素,以选择合适的模型来描述学生的学习行为。
在参数估计过程中,可以采用最大似然估计等方法来估计模型参数,以获得最符合实际情况的模型。
最后,模型的评价和验证是使用隐马尔科夫模型的另一个重要技巧。
通过对模型进行评价和验证,可以检验模型的有效性和预测能力,从而为后续的教学实践提供参考。
常用的评价指标包括对数似然比、信息准则等,可以通过这些指标来评价模型的拟合程度和预测能力。
个性化教育中的HMM应用技巧除了学习行为建模外,隐马尔科夫模型还可以在个性化教育中发挥重要作用。
个性化教育旨在根据学生的个体差异,为其提供个性化的学习支持和教学服务。
隐马尔科夫模型可以通过对学生学习行为和学习情况的建模,为个性化教育提供技术支持。
在个性化教育中,隐马尔科夫模型的应用技巧包括学生模型的构建、个性化教学策略的设计和优化等方面。
如何用简单易懂的例子解释隐马尔可夫模型如何用简单易懂的例子解释隐马尔可夫模型? - 知乎隐马尔可夫(HMM)好讲,简单易懂不好讲。
我想说个更通俗易懂的例子。
我希望我的读者是对这个问题感兴趣的入门者,所以我会多阐述数学思想,少写公式。
霍金曾经说过,你多写一个公式,就会少一半的读者。
还是用最经典的例子,掷骰子。
假设我手里有三个不同的骰子。
第一个骰子是我们平常见的骰子(称这个骰子为D6),6个面,每个面(1,2,3,4,5,6)出现的概率是1/6。
第二个骰子是个四面体(称这个骰子为D4),每个面(1,2,3,4)出现的概率是1/4。
第三个骰子有八个面(称这个骰子为D8),每个面(1,2,3,4,5,6,7,8)出现的概率是1/8。
假设我们开始掷骰子,我们先从三个骰子里挑一个,挑到每一个骰子的概率都是1/3。
然后我们掷骰子,得到一个数字,1,2,3,4,5,6,7,8中的一个。
不停的重复上述过程,我们会得到一串数字,每个数字都是1,2,3,4,5,6,7,8中的一个。
例如我们可能得到这么一串数字(掷骰子10次):1 6 3 5 2 7 3 5 2 4这串数字叫做可见状态链。
但是在隐马尔可夫模型中,我们不仅仅有这么一串可见状态链,还有一串隐含状态链。
在这个例子里,这串隐含状态链就是你用的骰子的序列。
比如,隐含状态链有可能是:D6 D8 D8 D6 D4 D8 D6 D6 D4 D8一般来说,HMM中说到的马尔可夫链其实是指隐含状态链,因为隐含状态(骰子)之间存在转换概率(transition probability)。
在我们这个例子里,D6的下一个状态是D4,D6,D8的概率都是1/3。
D4,D8的下一个状态是D4,D6,D8的转换概率也都一样是1/3。
这样设定是为了最开始容易说清楚,但是我们其实是可以随意设定转换概率的。
比如,我们可以这样定义,D6后面不能接D4,D6后面是D6的概率是0.9,是D8的概率是0.1。
这样就是一个新的HMM。
同样的,尽管可见状态之间没有转换概率,但是隐含状态和可见状态之间有一个概率叫做输出概率(emission probability)。
就我们的例子来说,六面骰(D6)产生1的输出概率是1/6。
产生2,3,4,5,6的概率也都是1/6。
我们同样可以对输出概率进行其他定义。
比如,我有一个被赌场动过手脚的六面骰子,掷出来是1的概率更大,是1/2,掷出来是2,3,4,5,6的概率是1/10。
其实对于HMM来说,如果提前知道所有隐含状态之间的转换概率和所有隐含状态到所有可见状态之间的输出概率,做模拟是相当容易的。
但是应用HMM模型时候呢,往往是缺失了一部分信息的,有时候你知道骰子有几种,每种骰子是什么,但是不知道掷出来的骰子序列;有时候你只是看到了很多次掷骰子的结果,剩下的什么都不知道。
如果应用算法去估计这些缺失的信息,就成了一个很重要的问题。
这些算法我会在下面详细讲。
×××××××××××××××××××××××××××××××××××××××××××××××××××××××如果你只想看一个简单易懂的例子,就不需要往下看了。
×××××××××××××××××××××××××××××××××××××××××××××××××××××××说两句废话,答主认为呢,要了解一个算法,要做到以下两点:会其意,知其形。
答主回答的,其实主要是第一点。
但是这一点呢,恰恰是最重要,而且很多书上不会讲的。
正如你在追一个姑娘,姑娘对你说“你什么都没做错!”你要是只看姑娘的表达形式呢,认为自己什么都没做错,显然就理解错了。
你要理会姑娘的意思,“你赶紧给我道歉!”这样当你看到对应的表达形式呢,赶紧认错,跪地求饶就对了。
数学也是一样,你要是不理解意思,光看公式,往往一头雾水。
不过呢,数学的表达顶多也就是晦涩了点,姑娘的表达呢,有的时候就完全和本意相反。
所以答主一直认为理解姑娘比理解数学难多了。
回到正题,和HMM模型相关的算法主要分为三类,分别解决三种问题:1)知道骰子有几种(隐含状态数量),每种骰子是什么(转换概率),根据掷骰子掷出的结果(可见状态链),我想知道每次掷出来的都是哪种骰子(隐含状态链)。
这个问题呢,在语音识别领域呢,叫做解码问题。
这个问题其实有两种解法,会给出两个不同的答案。
每个答案都对,只不过这些答案的意义不一样。
第一种解法求最大似然状态路径,说通俗点呢,就是我求一串骰子序列,这串骰子序列产生观测结果的概率最大。
第二种解法呢,就不是求一组骰子序列了,而是求每次掷出的骰子分别是某种骰子的概率。
比如说我看到结果后,我可以求得第一次掷骰子是D4的概率是0.5,D6的概率是0.3,D8的概率是0.2.第一种解法我会在下面说到,但是第二种解法我就不写在这里了,如果大家有兴趣,我们另开一个问题继续写吧。
2)还是知道骰子有几种(隐含状态数量),每种骰子是什么(转换概率),根据掷骰子掷出的结果(可见状态链),我想知道掷出这个结果的概率。
看似这个问题意义不大,因为你掷出来的结果很多时候都对应了一个比较大的概率。
问这个问题的目的呢,其实是检测观察到的结果和已知的模型是否吻合。
如果很多次结果都对应了比较小的概率,那么就说明我们已知的模型很有可能是错的,有人偷偷把我们的骰子給换了。
3)知道骰子有几种(隐含状态数量),不知道每种骰子是什么(转换概率),观测到很多次掷骰子的结果(可见状态链),我想反推出每种骰子是什么(转换概率)。
这个问题很重要,因为这是最常见的情况。
很多时候我们只有可见结果,不知道HMM模型里的参数,我们需要从可见结果估计出这些参数,这是建模的一个必要步骤。
问题阐述完了,下面就开始说解法。
(0号问题在上面没有提,只是作为解决上述问题的一个辅助)0.一个简单问题其实这个问题实用价值不高。
由于对下面较难的问题有帮助,所以先在这里提一下。
知道骰子有几种,每种骰子是什么,每次掷的都是什么骰子,根据掷骰子掷出的结果,求产生这个结果的概率。
解法无非就是概率相乘:1.看见不可见的,破解骰子序列这里我说的是第一种解法,解最大似然路径问题。
举例来说,我知道我有三个骰子,六面骰,四面骰,八面骰。
我也知道我掷了十次的结果(1 6 3 5 2 7 3 5 2 4),我不知道每次用了那种骰子,我想知道最有可能的骰子序列。
其实最简单而暴力的方法就是穷举所有可能的骰子序列,然后依照第零个问题的解法把每个序列对应的概率算出来。
然后我们从里面把对应最大概率的序列挑出来就行了。
如果马尔可夫链不长,当然可行。
如果长的话,穷举的数量太大,就很难完成了。
另外一种很有名的算法叫做Viterbi algorithm. 要理解这个算法,我们先看几个简单的列子。
首先,如果我们只掷一次骰子:看到结果为1.对应的最大概率骰子序列就是D4,因为D4产生1的概率是1/4,高于1/6和1/8.把这个情况拓展,我们掷两次骰子:结果为1,6.这时问题变得复杂起来,我们要计算三个值,分别是第二个骰子是D6,D4,D8的最大概率。
显然,要取到最大概率,第一个骰子必须为D4。
这时,第二个骰子取到D6的最大概率是同样的,我们可以计算第二个骰子是D4或D8时的最大概率。
我们发现,第二个骰子取到D6的概率最大。
而使这个概率最大时,第一个骰子为D4。
所以最大概率骰子序列就是D4 D6。
继续拓展,我们掷三次骰子:同样,我们计算第三个骰子分别是D6,D4,D8的最大概率。
我们再次发现,要取到最大概率,第二个骰子必须为D6。
这时,第三个骰子取到D4的最大概率是同上,我们可以计算第三个骰子是D6或D8时的最大概率。
我们发现,第三个骰子取到D4的概率最大。
而使这个概率最大时,第二个骰子为D6,第一个骰子为D4。
所以最大概率骰子序列就是D4 D6 D4。
写到这里,大家应该看出点规律了。
既然掷骰子一二三次可以算,掷多少次都可以以此类推。
我们发现,我们要求最大概率骰子序列时要做这么几件事情。
首先,不管序列多长,要从序列长度为1算起,算序列长度为1时取到每个骰子的最大概率。
然后,逐渐增加长度,每增加一次长度,重新算一遍在这个长度下最后一个位置取到每个骰子的最大概率。
因为上一个长度下的取到每个骰子的最大概率都算过了,重新计算的话其实不难。
当我们算到最后一位时,就知道最后一位是哪个骰子的概率最大了。
然后,我们要把对应这个最大概率的序列从后往前推出来。
2.谁动了我的骰子?比如说你怀疑自己的六面骰被赌场动过手脚了,有可能被换成另一种六面骰,这种六面骰掷出来是1的概率更大,是1/2,掷出来是2,3,4,5,6的概率是1/10。
你怎么办么?答案很简单,算一算正常的三个骰子掷出一段序列的概率,再算一算不正常的六面骰和另外两个正常骰子掷出这段序列的概率。
如果前者比后者小,你就要小心了。
比如说掷骰子的结果是:要算用正常的三个骰子掷出这个结果的概率,其实就是将所有可能情况的概率进行加和计算。
同样,简单而暴力的方法就是把穷举所有的骰子序列,还是计算每个骰子序列对应的概率,但是这回,我们不挑最大值了,而是把所有算出来的概率相加,得到的总概率就是我们要求的结果。
这个方法依然不能应用于太长的骰子序列(马尔可夫链)。
我们会应用一个和前一个问题类似的解法,只不过前一个问题关心的是概率最大值,这个问题关心的是概率之和。
解决这个问题的算法叫做前向算法(forward algorithm)。
首先,如果我们只掷一次骰子:看到结果为1.产生这个结果的总概率可以按照如下计算,总概率为0.18:把这个情况拓展,我们掷两次骰子:看到结果为1,6.产生这个结果的总概率可以按照如下计算,总概率为0.05:继续拓展,我们掷三次骰子:看到结果为1,6,3.产生这个结果的总概率可以按照如下计算,总概率为0.03:同样的,我们一步一步的算,有多长算多长,再长的马尔可夫链总能算出来的。