Bayes
- 格式:ppt
- 大小:187.00 KB
- 文档页数:19


例:研究某年全国各地区农民家庭收支的分布规律,根据抽样调查资料进行分类,共抽取28个省、市、自治区的六个指标数据。先采用聚类分析,将28个省、市、自治区分为三组。北京、上海、广州3个城市属于待判样本。(家庭收支.sav)
1.选中判别分析,
2.选择Fisher 即bayes判别分析方法,易混!!!
3.确定组别
4. 选择保存结果
5. 模型检验(即判别准确率)
重要结果
分类函数系数
类别
1 2 3
食品 .480 .473 .429
衣着 1.612 1.354 .933
燃料 2.421 2.189 .777
住房 .555 .335 .052
用品及其它 1.032 .580 .847
文化支出 5.387 5.446 4.317
(常量) -117.620 -89.052 -53.616
Fisher 的线性判别式函数
按照案例顺序的统计量
案例数目
实际组 最高组 第二最高组 判别式得分
预测组 P(D>d |
G=g)
P(G=g
| D=d) 到质心的平方
Mahalanobis
距离 组 P(G=g
| D=d) 到质心的平方
Mahalanobis
距离 函数
1 函数
2
p df
初始 1 1 1 .320 2 1.000 2.282 2 .000 22.754 3.163 -2.717
2 1 1 .799 2 1.000 .449 2 .000 17.611 3.559 -1.659
3 1 2** .095 2 .688 4.705 1 .312 6.283 2.737 1.275
4 1 1 .797 2 .984 .453 2 .016 8.670 2.855 -.569
5 1 1 .504 2 1.000 1.372 2 .000 20.770 4.205 -1.461
6 1 1 .313 2 .996 2.321 2 .004 13.305 1.847 -2.131
用贝叶斯(bayes)公式计算后验概率的excel法介绍如下:
在 Excel 中,可以通过使用 BAYESIANPOSTODDS 函数来计算贝叶斯公式的后验概率。
该函数的语法如下:
BAYESIANPOSTODDS(priorodds, likelihoodratio)
其中,
• priorodds:表示先验几率。
• likelihoodratio:表示似然比,即阳性率除以假阳性率。
例如,如果先验概率为 0.02,似然比为 19,则可以使用以下公式计算后验概率:
后验概率 = 先验概率 / (1 - 先验概率) × 似然比 / ((1 - 先验概率) / 先验概率 × 似然比 + 1)
这个公式可以通过 BAYESIANPOSTODDS 函数进行计算,如下所示:
=BAYESIANPOSTODDS(0.02/(1-0.02), 19/(1-0.95))
运行该公式会返回后验概率结果,即 0.27。注意,先验概率需要除以 (1-先验概率)
才能作为 priorodds 参数输入到函数中,而似然比需要除以 (1-阳性率) 才能作为 likelihoodratio 参数输入到函数中。
在使用该函数时,需要确保已经正确计算先验概率和似然比,以获得准确的后验概率。
实验3 用贝叶斯方法重建基因进化历史
传统的系统进化学研究一般采用的要么是表型的数据,要么是化石的证据。
化石的证据依赖于考古学的发现,而表型数据往往极难量化,所以往往会得到许
多极具争议的结论。如今,现代分子生物学尤其是测序技术的发展为重建进化史
提供了大量的数据,如多态性数据(如SNPs或微卫星)、基因序列、蛋白序列等
等。常规的做法一般都是利用某一个或者几个基因来构建物种树(species tree),
但是一个基因的进化史能不能完全代表所有被研究物种的进化史呢?这是非常
值得讨论的问题,但这不是我们本次实验的重点,在这里就不多赘述了。所以,
我们这里所指的进化树如非特别说明,指的都是基因树(gene tree)。
经典的研究系统进化的方法主要有距离法、最大简约法(maximum
parsimony,MP)、最大似然法(maximum likelihood,ML)等等。这些方法各有各的优点,也分别有其局限性,例如距离法胜在简单快速、容易理解,但是其模
糊化了状态变量,将其简化为距离,也就不可避免的丧失了许多序列本身所提供
的信息。而最大简约法虽然用的是原始数据,但也只是原始数据的一小部分。特
别是在信息位点比较小的情况下,其计算能力还不如距离法。相对来说,最大似
然法虽然考虑问题更加全面,但带来的另一个结果是其计算量大大增加,因此常
常需要采用启发式(heuristic)方法推断模型参数,重建进化模型。
本实验利用的是贝叶斯方法来重建基因进化史。
1. 贝叶斯方法概述
不可免俗的,我们还是要来看看贝叶斯模型,并分别对模型内部的一系列
内容一一进行简单的介绍。
Bayes模型将模型参数视作随机变量(r.v.),并在不考虑序列的同时为参数假设先验分布(prior distribution)。所谓先验分布,是对参数分布的初始化估计。
根据Bayes定理,可以不断对参数进行改进:
f(θ|D)=f(D|θ)f(θ)f(D) (1)
贝叶斯算法原理分析
Bayes法是一种在已知先验概率与条件概率的情况下的模式分类方法,待分样本的分类结果取决于各类域中样本的全体。
Bayes方法的薄弱环节在于实际情况下,类别总体的概率分布和各类样本的概率分布函数(或密度函数)常常是不知道的。为了获得它们,就要求样本足够大。另外,Bayes法要求表达文本的主题词相互独立,这样的条件在实际文本中一般很难满足,因此该方法往往在效果上难以达到理论上的最大值。
1.贝叶斯法则
机器学习的任务:在给定训练数据D时,确定假设空间H中的最佳假设。
最佳假设:一种方法是把它定义为在给定数据D以及H中不同假设的先验概率的有关知识下的最可能假设。贝叶斯理论提供了一种计算假设概率的方法,基于假设的先验概率、给定假设下观察到不同数据的概率以及观察到的数据本身。
2.先验概率和后验概率
用P(h)表示在没有训练数据前假设h拥有的初始概率。P(h)被称为h的先验概率。先验概率反映了关于h是一正确假设的机会的背景知识,如果没有这一先验知识,可以简单地将每一候选假设赋予相同的先验概率。类似地,P(D)表示训练数据D的先验概率,P(D|h)表示假设h成立时D的概率。机器学习中,我们关心的是P(h|D),即给定D时h的成立的概率,称为h的后验概率。
3.贝叶斯公式
贝叶斯公式提供了从先验概率P(h)、P(D)和P(D|h)计算后验概率P(h|D)的方法:p(h|D)=P(D|H)*P(H)/P(D) ,P(h|D)随着P(h)和P(D|h)的增长而增长,随着P(D)的增长而减少,即如果D独立于h时被观察到的可能性越大,那么D对h的支持度越小。
4.极大后验假设
学习器在候选假设集合H中寻找给定数据D时可能性最大的假设h,h被称为极大后验假设(MAP),确定MAP的方法是用贝叶斯公式计算每个候选假设的后验概率,计算式如下:
h_map=argmax P(h|D)=argmax (P(D|h)*P(h))/P(D)=argmax P(D|h)*p(h) (h属于集合H) 最后一步,去掉了P(D),因为它是不依赖于h的常量。