贝叶斯推理

计算机系统应用　ｈｔｔｐ：／／ｗｗｗ．ｃ—Ｓ－ａ．ｏｒｇ．ｃａ　２０１２年第２１卷第７期　

基于贝叶斯推理与ＰＦＮＥＴ理论的认知模型①　

付水贵　

（山西财经大学信息管理学院，太原０３００３１）　

摘要：针对从固定认知结构中生成认知模型的局限性，提出在认知元素固定而认知结构不固定的学习中使用　贝叶斯推理方法和ＰＦＮＥＴ理论从以往学习者的样本信息中按学习者的要求生成“最佳Ｋｉ结点集合”和“最优　

Ｋｉ认知链”，获得Ｂ－Ｐ认知模型；对Ｂ－Ｐ认知模型的生成原理进行说明并通过实例验证该模型的有效性和可行性。　关键词：Ｂ．Ｐ认知模型；认知结构；最佳Ｋｉ结点集合：最优Ｋｉ认知链　

Ｃｏｇｎｉｔｉｖｅ　Ｍｏｄｅｌ　Ｂａｓｅｄ　ｏｎ　Ｂａｙｅｓｉａｎ　Ｉｎｆｅｒｅｎｃｅ　ａｎｄ　ＰＦＮＥＴ　Ｔｈｅｏｒｙ　

ＦＵＹｏｎｇ－Ｇｕｉ　

（Ｃｏｌｌｅｇｅ　ｏｆ　Ｉｎｆｏｒｍａｔｉｏｎ　Ｍａｎａｇｅｍｅｎｔ，Ｓｈａｎｘｉ　Ｕｎｉｖｅｒｓｉｔｙ　ｏｆ　Ｆｉｎａｎｃｅ　ａｎｄ　Ｅｃｏｎｏｍｉｃｓ，Ｔａｉｙｕａｎ　０３００３　１，Ｃｈｉｎａ）　

Ａｂｓｔｒａｃｔ：Ａｉｍｉｎｇ　ａｔ　ｔｈｅ　ｌｉｍｉｔａｔｉｏｎ　ｏｆｇｅｎｅｒａｔｉｎｇ　ｃｏｇｎｉｔｉｖｅ　ｍｏｄｅｌ　ｆｒｏｍ　ｆｉｘｅｄ　ｃｏｇｎｉｔｉｖｅ　ｓｔｒｕｃｔｕｒｅ，ｔｈｉｓ　ｐａｐｅｒ　ｐｒｏｐｏｓｅｓ　ｔｈａｔ　

ｉｎ　ｔｈｅ　ｌｅａｒｎｉｎｇ　ｐｒｏｃｅｓｓ　ｏｆ　ｆｉｘｅｄ　ｃｏｇｎｉｔｉｖｅ　ｅｌｅｍｅｎｔｓ　ａｎｄ　ｎｏｔ　ｆｉｘｅｄ　ｃｏｇｎｉｔｉｖｅ　ｓｔｒｕｃｔｕｒｅ　ｕｓｉｎｇ　ｂａｙｅｓｉａｎ　ｉｎｆｅｒｅｎｃｅ　ｍｅｔｈｏｄ　ａｎｄ　ＰＦＮＥＴ　ｔｈｅｏｒｙ　ｔｏ　ｇｅｎｅｒａｔｅ‘＇ｔｈｅ　ｏｐｔｉｍａｌ　Ｋｉ　ｓｅｔ　ｏｆ　ｎｏｄｅｓ”ａｎｄ‘＇ｔｈｅ　ｏｐｔｉｍａｌ　Ｋｉ　ｃｏｇｎｉｔｉｖｅ　ｌｉｎｋ＇’ａｃｃｏｒｄｉｎｇ　ｔｏ　ｔｈｅ　ｌｅａｒｎｅｒ　

第２４卷第１Ｏ期　２０１４年１０月　计算机技术与发展　

ＣＯＭＰＵＴＥＲ　ＴＥＣＨＮＯＬＯＧＹ　ＡＮＤ　ＤＥＶＥＬＯＰＭＥＮＴ　Ｖｏ１．２４　Ｎｏ．１Ｏ　０ｅｔ．　２０１４　

ＧＰＵ加速的贝叶斯网络精确推理方法研究　

肖　旭，慕德俊，张慧翔，陈春雷　

（西北工业大学自动化学院，陕西西安７１００７２）　

摘要：对于复杂输入的贝叶斯网络，精确推理时间较长。文中针对贝叶斯网络精确推理中的团树传播算法，提出了一种　基于ＣＰＵ—ＧＰＵ异构计算平台的并行化方法。首先研究团节点间信念势更新方式，提出了节点级并行化方法加速更新过　程；其次，提出了利用计算复杂度的优先级队列方法，通过拓扑级并行化加速全局推理过程；最后，通过输入不同团树结　构一线性结构、两分支二叉树结构和完全二叉树结构验证算法加速效果。实验结果表明，节点级并行化方法对线性结构　有明显加速效果，拓扑级并行化对两分支二叉树和满二叉树结构有明显加速效果。　关键词：贝叶斯网络；团树传播算法；ＧＰＵ加速；并行化信念传播　中图分类号：ＴＰ３９１　文献标识码：Ａ　文章编号：１６７３—６２９Ｘ（２０１４）１０—０００１—０５　ｄｏｉ：１０．３９６９／ｊ．ｉｓｓｎ．１６７３—６２９Ｘ．２０１４．１０．００１　

Ｒｅｓｅａｒｃｈ　ｏｎ　Ｂａｙｅｓｉａｎ　Ｎｅｔｗｏｒｋ’Ｓ　Ｅｘａｃｔ　Ｉｎｆｅｒｅｎｃｅ　Ｕｓｉｎｇ　

ＧＰＵ　Ａｃｃｅｌｅｒａｔｉｏｎ　

ＸＩＡＯ　Ｘｕ，ＭＵ　Ｄｅ－ｊａｎ，ＺＨＡＮＧ　Ｈｕｉ－ｘｉａｎｇ，ＣＨＥＮ　Ｃｈｕｎ—ｌｅｉ　

（Ｃｏｌｌｅｇｅ　ｏｆ　Ａｕｔｏｍａｔｉｏｎ，Ｎｏｒｔｈｗｅｓｔｅｒｎ　Ｐｏｌｙｔｅｃｈｎｉｃａｌ　Ｕｎｉｖｅｒｓｉｔｙ，Ｘｉ’ｆｉｎ　７１００７２，Ｃｈｉｎａ）　

Ａｂｓｔｒａｃｔ：Ｆｏｒ　Ｂａｙｅｓｉａｎ　ｎｅｔｗｏｒｋ　ｗｉｔｈ　ｃｏｍｐｌｅｘ　ｉｎｐｕｔ，ｔｈｅ　ｉｎｆｅｒｒｉｎｇ　ｉｓ　ｔｉｍｅ－ｃｏｎｓｕｍｉｎｇ．Ａｉｍｉｎｇ　ａｔ　ｔｈｅ　ｊｕｎｃｔｉｏｎ　ｔｒｅｅ　ｐｒｏｐａｇａｔｉｏｎ　ａｌｇｏｒｉｔｈｍ　ｏｆ　Ｂａｙｅｓｉａｎ　ｎｅｔｗｏｒｋ’ｅｘａｃｔ　ｉｎｆｅｒｅｎｃｅ．ａ　ｐａｒａｌｌｄ　ｍｅｔｈｏｄ　ｉｓ　ｐｒｏｐｏｓｅｄ　ｂａｓｅｄ　ｏｎ　ｔｈｅ　ＣＰＵ—ＧＰＵ　ｈｅｔｅｒｏｇｅｎｅｏｕｓ　ｃｏｍｐｕｔｉｎｇ　ｐｌａｔｆｏｒｍ．Ｆｉｒｓｄｙ，　ｔｈｅ　ｕｐｄａｔｉｎｇ　ｍｅｔｈｏｄ　ｂｅｔｗｅｅｎ　ｊｕｎｃｔｉｏｎ　ｔｒｅｅ　ｎｏｄｅｓ　ｉｓ　ｉｎｖｅｓｔｉｇａｔｅｄ，ａｎｄ　ｎｏｄｅ—ｌｅｖｅｌ　ｐａｒａｌｌｅｌｉｓｍ　ｍｅｔｈｏｄ　ｉｓ　ｐｒｏｐｏｓｅｄ　ｔｏ　ａｃｃｅｌｅｒａｔｅ　ｔｈｅ　ｕｌｘｔａ—　ｔｉｎｇ．Ｓｅｃｏｎｄｌｙ，ｔｈｅ　ｐｆｉｏｒｉｔｙ　ｑｕｅｕｅ　ｍｅｔｈｏｄ　ｉｓ　ｐｒｅｓｅｎｔｅｄ　ａｃｃｏｒｄｉｎｇ　ｔｏ　ｔｈｅ　ｃｏｍｐｕｔａｔｉｏｎａｌ　ｃｏｍｐｌｅｘｉｔｙ　ｔｏ　ａｃｈｉｅｖｅ　ｔｏｐｏｌｏｇｉｃａｌ—ｌｅｖｅｌ　ｐａｒａｌｌｅｌｉｓｍ　ｔｏ　ａｃｃｅｌｅｒａｔｅ　ｔｈｅ　ｇｌｏｂａｌ　ｉｎｆｅｒｅｎｃｅ　ｐｒｏｃｅｓｓ．Ｆｉｎａｌｌｙ，ｓｐｅｅｄｕｐ　ｏｆ　ｔｈｅ　ｐｒｏｐｏｓｅｄ　ｍｅｔｈｏｄ　ｉｓ　ｖｅｒｉｆｉｅｄ　ｏｎ　ｖａｒｉｏｕｓ　ｉｎｐｕｔ　ｊｕｎｃｔｉｏｎ　ｔｒｅｅｓ　ｉｎｃｌｕｄｉｎｇ　ｌｉｎ—　ｅａｒ　ｓｔｒｕｃｔｕｒｅ，ｔｗｏ　ｂｒａｎｃｈｅｓ　ｏｆ　ｂｉｎａｒｙ　ｔｒｅｅ　ｓｔｒｕｃｔｕｒｅ　ａｎｄ　ｃｏｍｐｌｅｔｅ　ｂｉｎａｒｙ　ｔｒｅｅ　ｓｔｒｕｃｔｕｒｅ．Ｔｈｅ　ｅｘｐｅｒｉｍｅｎｔａｌ　ｒｅｓｕｌｔｓ　ｉｎｄｉｃａｔｅ　ｔｈａｔ　ｔｈｅ　ｎｏｄｅ—ｌｅｖｅｌ　ｐａｒａｌｌｅｌｉｓｍ　ｍｅｔｈｏｄ　ｃａｎ　ｓｉｇｎｉｆｉｃａｎｔｌｙ　ａｃｃｅｌｅｒａｔｅ　ｔｈｅ　ｌｉｎｅａｒ　ｓｔｒｕｃｔｕｒｅ，ａｎｄ　ｔ０ｐｏｌｏｇｉｃａｌ—ｌｅＶｅ１　ｐａｒａｌｌｅｌｉｓｍ　ｉｓ　ｅｆｆｅｃｔｉｖｅ　ｆｏｒ　ｔｈｅ　ｔｗｏ　ｂｒａｎｃｈｅｓ　ｏｆ　ｂｉｎａｒｙ　ｔｒｅｅ　ａｎｄ　ｃｏｍｐｌｅｔｅ　ｂｉｎａｒｙ　ｔｒｅｅ．　Ｋｅｙ　ｗｏｒｄｓ：Ｂａｙｅｓｉａｎ　ｎｅｔｗｏｒｋ；ｊｕｎｃｔｉｏｎ　ｔｒｅｅ　ｐｒｏｐａｇａｔｉｏｎ　ａｌｇｏｒｉｔｈｍ；ＧＰＵ　ａｃｃｅｌｅｒａｔｉｏｎ；ｐａｒａｌｌｅｌ　ｂｅｌｉｅｆ　ｐｒｏｐａｇａｔｉｏｎ　

贝叶斯推理例子

1. 嘿，你想想看啊，比如说你去买彩票，你觉得中奖的概率有多大呢？这就可以用贝叶斯推理呀！你先根据以往的开奖情况大概估计一个基础概率，然后每次开奖后根据新的结果来调整你的概率判断，这多有意思啊！

2. 来，咱说个生活中的例子。你判断今天会不会下雨，你会先根据天气预报和以往的经验来有个初步想法吧，但如果突然天空变得阴沉沉的，你不得赶紧调整你觉得下雨的概率呀，这就是贝叶斯推理在起作用呀，你说是不是？

3. 你知道怎么猜别人手里的牌吗？这也能用贝叶斯推理呢！看他的表情动作，先有个初步判断，然后随着每一轮出牌，不断更新你对他手里牌的估计，哎呀，多带劲啊！

4. 你想想，你找工作的时候，对拿到某个 offer 的概率判断不也是这样嘛！开始根据公司的要求和自己的情况有个想法，然后面试过程中根据各种表现来调整，这可真是贝叶斯推理的活用呀！

5. 就像你猜你喜欢的人对你有没有意思，一开始你有个感觉，然后通过他跟你的每次互动，你不就会调整那个可能性嘛，这就是贝叶斯推理呀，神奇吧！

6. 好比你玩猜数字游戏，你先乱猜一个，然后根据提示不断缩小范围，调整你的猜测，这不就是活脱脱的贝叶斯推理嘛，多好玩呀！ 7. 哎呀，你看医生诊断病情也是这样的呀！根据症状先有个初步判断，然后做各种检查，根据检查结果不断改变对病情的推测，贝叶斯推理真的无处不在呢！

8. 再比如你预测一场比赛的结果，先有个大概想法，比赛过程中根据双方的表现来不断调整胜败的概率，这不是贝叶斯推理在帮忙嘛，多有用啊！总之，贝叶斯推理在我们生活中可太常见啦，好多事情都能靠它来让我们的判断更准确呢！

1. 贝叶斯网络是一种概率网络，它是基于概率推理的图形化网络，而贝叶斯公式则是这个概率网络的基础。贝叶斯网络是基于概率推理的数学模型,所谓概率推理就是通过一些变量的信息来获取其他的概率信息的过程，基于概率推理的贝叶斯网络(Bayesian network)是为了解决不定性和不完整性问题而提出的，它对于解决复杂设备不确定性和关联性引起的故障有很的优势，在多个领域中获得广泛应用。

2. 贝叶斯网络又称信度网络，是Bayes方法的扩展，目前不确定知识表达和推理领域最有效的理论模型之一。从1988年由Pearl提出后，已知成为近几年来研究的热点.。一个贝叶斯网络是一个有向无环图(Directed Acyclic Graph,DAG),由代表变量节点及连接这些节点有向边构成。节点代表随机变量，节点间的有向边代表了节点间的互相关系(由父节点指向其后代节点)，用条件概率进行表达关系强度，没有父节点的用先验概率进行信息表达。节点变量可以是任何问题的抽象，如：测试值，观测现象，意见征询等。适用于表达和分析不确定性和概率性的事件，应用于有条件地依赖多种控制因素的决策，可以从不完全。不精确或不确定的知识或信息中做出推理。

3. 贝叶斯网络建造

贝叶斯网络的建造是一个复杂的任务，需要知识工程师和领域专家的参与。在实际中可能是反复交叉进行而不断完善的。面向设备故障诊断应用的贝叶斯网络的建造所需要的信息来自多种渠道，如设备手册，生产过程，测试过程，维修资料以及专家经验等。首先将设备故障分为各个相互独立且完全包含的类别（各故障类别至少应该具有可以区分的界限），然后对各个故障类别分别建造贝叶斯网络模型，需要注意的是诊断模型只在发生故障时启动，因此无需对设备正常状态建模。通常设备故障由一个或几个原因造成的，这些原因又可能由一个或几个更低层次的原因造成。建立起网络的节点关系后，还需要进行概率估计。具体方法是假设在某故障原因出现的情况下，估计该故障原因的各个节点的条件概率，这种局部化概率估计的方法可以大大提高效率。