贝叶斯网络与朴素贝叶斯方法 PPT
- 格式:pptx
- 大小:575.62 KB
- 文档页数:53
贝叶斯网络与朴素贝叶斯方法贝叶斯网络(Bayesian Network)和朴素贝叶斯方法(Naive Bayes)是两种基于贝叶斯定理的统计模型,用于处理分类和预测问题。
虽然它们都围绕贝叶斯推理展开,但在方法和应用上存在一些区别。
首先,让我们了解一下贝叶斯定理。
贝叶斯定理是一种条件概率的推理方法,它可以根据已知的先验概率和新的观测数据更新后验概率。
贝叶斯定理的公式如下:P(A,B)=(P(B,A)*P(A))/P(B)其中,P(A,B)表示在观测到B的条件下发生A的概率,P(B,A)表示在A发生的条件下观测到B的概率,P(A)和P(B)分别表示A和B的先验概率。
贝叶斯网络是一种用有向无环图(DAG)表示的概率图模型,它使用节点和边来表示变量之间的依赖关系,并利用贝叶斯定理进行推理。
每个节点表示一个变量,节点之间的有向边表示变量之间的依赖关系。
贝叶斯网络可以通过定义每个节点的条件概率表(CPT)来描述变量之间的关系。
这些CPT指定了在给定其父节点的条件下,每个节点的概率分布。
通过观测一些节点的值,我们可以使用贝叶斯网络进行概率推理,计算其他未观测节点的后验概率。
贝叶斯网络和朴素贝叶斯方法在实际应用中有各自的特点和用途。
贝叶斯网络可以建模更复杂的依赖关系,并且能够推理未观测节点的后验概率,因此在不确定性推理和决策支持方面具有优势。
然而,贝叶斯网络的构建和推理可能比较复杂,并且在处理大规模数据集时会面临挑战。
朴素贝叶斯方法在文本分类和垃圾邮件过滤等领域得到广泛应用。
它的简单性和高效性使得它成为高维数据集分类问题的首选方法之一、虽然朴素贝叶斯方法忽略了特征之间的相关性,但在实际应用中,它的表现通常仍然很好。
总结一下,贝叶斯网络和朴素贝叶斯方法是基于贝叶斯定理的统计模型,用于处理分类和预测问题。
贝叶斯网络是一种用于建模复杂依赖关系的概率图模型,而朴素贝叶斯方法则是一种简化的贝叶斯网络模型,假设所有特征之间都是条件独立的。
朴素贝叶斯与贝叶斯⽹络朴素贝叶斯与贝叶斯⽹络标签(空格分隔):机器学习朴素贝叶斯朴素贝叶斯朴素在哪⾥呢? —— 两个假设⼀个特征出现的概率与其他特征(条件)独⽴;每个特征同等重要。
朴素贝叶斯分类器P(c|x)=P(c)P(x|c)P(x)=P(x)P(x)Πdi=1P(x i|c)1)计算先验概率及条件概率;2)对于给定的实例,⽤贝叶斯公式计算后验概率。
在计算类条件概率时,如果不加平滑因⼦,则是利⽤极⼤似然估计;如果加上平滑因⼦,就是拉普拉斯平滑。
⼀个贝叶斯决策的例⼦现在有两个袋⼦,袋⼦X中装有2颗红球和2颗⿊球,还有1美元;袋⼦Y中装有1颗红球和2颗⿊球。
在选择袋⼦之前,可以从任意⼀个袋⼦中选择⼀个⼩球,如果摸出来的是红球,应该选哪个袋⼦?如果摸出来的是⿊球。
⼜应该选择哪个袋⼦?⽤R表⽰红球,⽤B表⽰⿊球。
选择每个袋⼦的概率:P(X)=12,P(Y)=12;选择了袋⼦X的条件下摸到红球的概率:P(R|X)=12,摸到⿊球的概率:P(B|X)=12;选择了袋⼦Y的条件下摸到红球的概率:P(R|Y)=13,摸到⿊球的概率:P(B|Y)=23;由全概率公式:摸到红球的概率P(R)=P(R|X)P(X)+P(R|Y)P(Y)=512; 摸到⿊球的概率为P(B)=P(B|X)P(X)+P(B|Y)P(Y)=712;由贝叶斯公式:摸到红球时,是袋⼦X的概率为:P(X|R)=P(R|X)P(X)P(R)=35;摸到红球时,是袋⼦Y的概率为:P(Y|R)=P(R|Y)P(Y)P(R)=25;摸到⿊球时,是袋⼦X的概率为:P(X|B)=P(B|X)P(X)P(B)=37;摸到⿊球时,是袋⼦Y的概率为:P(Y|B)=P(B|Y)P(Y)P(B)=47.所以摸到的球是红⾊时,选择这个袋⼦;摸到的球是⿊⾊时,选择另外⼀个袋⼦。
图模型根据是否是有向图,可以分为有向图模型和⽆向图模型。
有向图模型(⼜称为贝叶斯⽹络):包含隐马尔科夫模型,马尔科夫随机过程;⽆向图模型(⼜称为马尔科夫⽹络):条件随机场等贝叶斯⽹络朴素贝叶斯可以看做是贝叶斯⽹络的特殊情况:即该⽹络中⽆边,各个节点都是独⽴的。