《贝叶斯决策理论》PPT课件
- 格式:ppt
- 大小:2.27 MB
- 文档页数:88


管理决策理论之贝叶斯法则
2010-11-05 17:14:14来源:长松咨询网 作者:点击: 175
摘要:贝叶斯法则又被称为贝叶斯定理、贝叶斯规则是概率统计中的应用所观察到的现象对有关概率分布的主观判断(即先验概率)进行修正的标准方法。
什么是贝叶斯法则
贝叶斯的统计学中有一个基本的工具叫贝叶斯法则、也称为贝叶斯公式, 尽管它是一个数学公式,但其原理毋需数字也可明了。如果你看到一个人总是做一些好事,则那个人多半会是一个好人。这就是说,当你不能准确知悉一个事物的本质时,你可以依靠与事物特定本质相关的事件出现的多少去判断其本质属性的概率。 用数学语言表达就是:支持某项属性的事件发生得愈多,则该属性成立的可能性就愈大。
贝叶斯法则又被称为贝叶斯定理、贝叶斯规则是概率统计中的应用所观察到的现象对有关概率分布的主观判断(即先验概率)进行修正的标准方法。
所谓贝叶斯法则,是指当分析样本大到接近总体数时,样本中事件发生的概率将接近于总体中事件发生的概率。
但行为经济学家发现,人们在决策过程中往往并不遵循贝叶斯规律,而是给予最近发生的事件和最新的经验以更多的权值,在决策和做出判断时过分看重近期的事件。面对复杂而笼统的问题,人们往往走捷径,依据可能性而非根据概率来决策。这种对经典模型的系统性偏离称为“偏差”。由于心理偏差的存在,投资者在决策判断时并非绝对理性,会行为偏差,进而影响资本市场上价格的变动。但长期以来,由于缺乏有力的替代工具,经济学家不得不在分析中坚持贝叶斯法则。
贝叶斯法则的原理
通常,事件A在事件B(发生)的条件下的概率,与事件B在事件A的条件下的概率是不一样的;然而,这两者是有确定的关系,贝叶斯法则就是这种关系的陈述。
作为一个规范的原理,贝叶斯法则对于所有概率的解释是有效的;然而,频率主义者和贝叶斯主义者对于在应用中概率如何被赋值有着不同的看法:频率主义者根据随机事件发生的频率,或者总体样本里面的个数来赋值概率;贝叶斯主义者要根据未知的命题来赋值概率。一个结果就是,贝叶斯主义者有更多的机会使用贝叶斯法则。
第二章
1、 简述基于最小错误率的贝叶斯决策理论;并分析在“大数据时代”,使用贝叶斯决策理论需要解决哪些问题,贝叶斯决策理论有哪些优缺点,贝叶斯决策理论适用条件和范围是什么?举例说明风险最小贝叶斯决策理论的意义。
答: 在大数据时代,我们可以获得很多的样本数据,并且是已经标记好的;要使用贝叶斯决策理论最重要的是确定类条件概率密度函数和相关的参数。
优缺点:贝叶斯决策的优点是思路比较简单,大数据的前提下我 们可以得到较准确的先验概率,因此如果确定了类条件概率密度函数,我们便可以很快的知道如何分类,但是在大数据的前提下,类条件概率密度函数的确定不是这么简单,因为参数可能会增多,有时候计算量也是很大的。
适用条件和范围:
(1) 样本(子样)的数量(容量)不充分大,因而大子样统计理论不适宜的场合。
(2) 试验具有继承性,反映在统计学上就是要具有在试验之前已有先验信息的场合。用这种方法进行分类时要求两点:
第一,要决策分类的参考总体的类别数是一定的。例如两类参考总体(正常状态Dl和异常状态D2),或L类参考总体D1,D2,„,DL(如良好、满意、可以、不满意、不允许、„„)。
第二,各类参考总体的概率分布是已知的,即每一类参考总体出现的先验概率P(Di)以及各类概率密度函数P(x/Di)是已知的。显然,0≤P(Di)≤1,(i=l,2,„,L),∑P(Di)=1。
说明风险最小贝叶斯决策理论的意义:
那股票举例,现在有A、B两个股票,根据市场行情结合最小错误率的风险选择A股(假设为0.55),而B股(0.45);但是选着A股必须承担着等级为7的风险,B股风险等级仅为4;这时因遵循最小风险的贝叶斯决策,毕竟如果A股投资的失败带来的经济损失可能获得收益还大。
2、 教材中例2.1-2.2的Matlab实现.
2.1: 结果:
3、 利用Matlab提供的正态分布函数,产生d(=1,2,3)维的随机数据(可考虑类别数目为2,各类的先验概率自定或随机产生,类条件概率由正态分布密度函数确定),编写Matlab代码实现最小错误率的贝叶斯决策。
研究与分析YAN JIU YU FEN X
基于贝叶斯决策理论的电网运行方式决策研究
贾 强,郭静宜,付 华
(西安供电局,陕西西安710032)
摘要:电网运行方式的调整受网架结构和设备检修等多种因素影响.不同运行方式下设备发生故障的概率及 对电网造成的后果不尽相同,电网运行方式的调整属于典型的风险型决策。贝叶斯决策理论是处理风险型决策 的经典理论,文章将贝叶斯理论引入电网运行方式决策中,以数理统计和效用函数为基础,通过构建“决策树”来 量化决策风险,为电网运行方式的决策者提供易于比较的数学参考,从而实现客观的量化决策。 关键词t电网调度:运行方式;贝叶斯决策理论;决策树 中图分类号:TM732 文献标志码:A 文章编号:1673—7598(2010)10—0010—04
0 引言
目前,电网调度在制定和调整运行方式时,主要
依据电网网架结构和设备检修等实际情况,拟订一
种或几种运行方式策略,电网调度决策者依据自身
经验判断,选择其中的一种方案实施。这种依据经验
的判断基本上可以分为乐观准则、悲观准则和最大
可能性准则3个类别
乐观准则的基本思想是让电网运行在一个排除
了任何危险情况的最优运行方式,其最大的缺陷是
完全忽略电网可能发生的异常情况,即忽略了相关
设备发生故障的先验概率。因此基于乐观准则的决
策大多数应用于瞬时或短时运行方式调整.例如综
合操作过程中的瞬时合环,而对于运行时间较长的
过渡方式,这种决策依据显然存在较大缺陷。
悲观准则与乐观准则相反,它仅着眼于所发生
的对决策者最不利的情况。采用悲观准则进行决策
时,电网调度会针对电网可能出现的影响最大、最不
利的结果,选择相应的方式调整策略。悲观准则提供
了一种电网在最不利情况下的最优运行方式,因此
基于悲观准则的决策大多应用于运行时间较长的过
渡方式。但是它与乐观准则一样,也忽略了先验概率。
最大可能性准则考虑最有可能出现的结果,发
第二章 贝叶斯决策理论与统计判别方法
课前思考
1、 机器自动识别分类,能不能避免错分类,如汉字识别能不能做到百分之百正确?怎样才能减少错误?
2、 错分类往往难以避免,因此就要考虑减小因错分类造成的危害损失,譬如对病理切片进行分析,有可能将正确切片误判为癌症切片,反过来也可能将癌症病人误判为正常人,这两种错误造成的损失一样吗?看来后一种错误更可怕,那么有没有可能对后一种错误严格控制?
3、 概率论中讲的先验概率,后验概率与概率密度函数等概念还记得吗?什么是贝叶斯公式?
4、 什么叫正态分布?什么叫期望值?什么叫方差?为什么说正态分布是最重要的分布之一?
学习目标
这一章是模式识别的重要理论基础,它用概率论的概念分析造成错分类和识别错误的根源,并说明与哪些量有关系。在这个基础上指出了什么条件下能使错误率最小。有时不同的错误分类造成的损失会不相同,因此如果错分类不可避免,那么有没有可能对危害大的错分类实行控制。对于这两方面的概念要求理解透彻。 这一章会将分类与计算某种函数联系起来,并在此基础上定义了一些术语,如判别函数、决策面(分界面),决策域等,要正确掌握其含义。
这一章会涉及设计一个分类器的最基本方法——设计准则函数,并使所设计的分类器达到准则函数的极值,即最优解,要理解这一最基本的做法。这一章会开始涉及一些具体的计算,公式推导、证明等,应通过学习提高这方面的理解能力,并通过习题、思考题提高自己这方面的能力。
本章要点
1、 机器自动识别出现错分类的条件,错分类的可能性如何计算,如何实现使错分类出现可能性最小——基于最小错误率的Bayes决策理论
2、 如何减小危害大的错分类情况——基于最小错误风险的Bayes决策理论
3、 模式识别的基本计算框架——制定准则函数,实现准则函数极值化的分类器设计方法
4、 正态分布条件下的分类器设计
5、 判别函数、决策面、决策方程等术语的概念