主观概率与先验分布

摘要贝叶斯方法近年来得到广泛应用，尤其在风险分析中发挥了巨大作用，与用传统方法估计风险相比，贝叶斯估计方法较大的提高了估计精度。

本文首先综合了参考的文献资料，了解了关于贝叶斯方法的基本发展过程和各个学派的不同观点，比789地学习，基较了他们的不同，对贝叶斯方法有了了解。

通过对《贝叶斯统计》[][][]本掌握了贝叶斯方法。

在文中详细的介绍了贝叶斯方法的基础理论和企业风险的有关理论，给出了贝叶斯估计方法的基本解题思路和步骤，再结合具体实例，对某纺织厂公司生产两种产品，花呢（A）和华达呢（B）具体生产的决策问题采用贝叶斯期望损益分析法，计算出两种方案的期望值，选取收益最大或损失最小的决策方案为最优决策方案，在不同的自然状态下，再计算其他的指标，例如敏感度分析，风险度。

通过比较，得出方案A 为最优方案，它的收益期望值最大，而风险度相对较小，是决策者的最优选择。

关键字：贝叶斯决策；企业风险；损益分析法；最优决策ABSTRACTBayes’method had been widely applied recent years, especially made great effect in risk analysis. Compared with the traditional method of estimate, Bayes’method had been much exactitude. In this paper, I first synthesis reference literature datum, and comprehend fundamental development process and distinct concepts of every school on Beyes’method. I have get their differences. By studying Bayesian statistics, I mastered Beyes’ method essentially .In this paper I introduce basic theory of Bayes’method and business risk. I give out the thought of essential solving steps, then combine with an instance, as a spinning mill which would produce two different manufactures, flower woolen cloth (A) and gabardine (B). I adopt Bayes’ expectation of loss method to analysis the two manufactures producing, then made a decision, figure out expectation value of the two schemes. Then select a plan which get best profit or least loss. I compute other indexes, for example, probabilities under different stations, tenderness analysis, risk degree of different plans, then compare those indexes, we make a decision. Plan A is the best one. The profit of plan A is the highest and the risk is the lowest. So plan A is the best choice t.Key Words: Bayes’ decision-making; business risk; loss analysis method; best decision目录1 绪论 (1)2 贝叶斯基本理论 (3)2.1贝叶斯公式 (3)2.2贝叶斯推断 (5)2.2.1 条件方法 (5)2.2.2 估计与区间估计 (6)2.2.3 假设检验与似然原理 (8)2.3先验分布的确定 (9)2.3.1 主观概率 (9)2.3.2 利用先验信息确定先验分布 (10)2.3.3 利用边缘分布确定先验密度 (11)2.3.4 无信息先验分布 (13)2.4 贝叶斯决策 (16)2.4.1 决策问题的三要素 (16)2.4.2 决策准则 (18)2.5本章小结 (20)3 贝叶斯在经营决策中的运用并举例论证 (21)3.1企业决策的几种方法 (21)3.2贝叶斯在企业决策的运用 (22)3.3本章小结 (24)4结论 (28)致谢 (29)参考文献 (30)附录1 外文原文 (31)附录2 中文翻译 (37)1 绪论贝叶斯统计起源于英国学者贝叶斯死后发表的一篇论文“论有关给予问题的求解”。

先验分布的确定幻灯⽚67 其步骤如下：（1）写出样本的对数似然函数∑∏====ni i n i i x p x p x l 11)|(ln )|(ln )|(θθθ（2）求样本的信息阵pj i l E I j i x ,...,2,1,,)(2|=-=θθθθ2|2(),x l I Eθθθ=-??在单参数(p=1)场合,(3)Θ的⽆信息先验密度为2/1)]([det )(θθπI =1/2()[()]I πθθ=在单参数(p=1)场合,幻灯⽚682122(,,...,)(,),(,).n X x x x N Jeffreys µσθµσ==设是来⾃正态分布的⼀组样本试求的先验2211:()ln[]2i x ni l x e µσθπσ--==∑写出样本的对数似然函数22111(,)ln(2)ln ().22ni i l n x µσπσµσ=?=---∑22222222()()0:(,);20()()ll nE E Fisher I n ll E E µµσσµσσµσσ-- ??==?? -- ??其信息阵42),(det -=?σσµn I22,(,):(,)2.Jeffreys n µσπµσσσ--=∝所以的先验为幻灯⽚6911:,(),:()1;,()2,();,(,);nI I n σµπµσµσσπσσµσπµσσ---=∝=∝∝注当已知当已知当和独⽴幻灯⽚70 例3.22关于成功概率的⽆信息先验分布⾄今已有4种π1(θ)=1 ——正常π2(θ)=θ-1(1-θ)-1 ——不正常π3(θ)=θ-1/2(1-θ)-1/2 ——正则化后可成为正常π4(θ)=θθ(1-θ)(1-θ) ——正则化后可成为正常注意：1.⼀般说来，⽆信息先验不是唯⼀的.但它们对贝叶斯统计推断的影响都很⼩，很少对结果产⽣较⼤的影响2.任何⽆信息先验都可以采⽤。

《贝叶斯统计》课程教学大纲（2004年制定，2006年修订）课程编号：060046英文名：Bayesian Statistics课程类别：统计学专业选修课前置课：微积分、概率论与数理统计后置课：学分：3学分课时：54课时主讲教师：陈耀辉等选定教材：茆诗松，贝叶斯统计，北京：中国统计出版社，1999课程概述：贝叶斯学派是数理统计中一个重要的学派，它有鲜明的特点和独到的处理方法，在国际上贝叶斯学派与非贝叶斯学派的争论是很多的。

本课程重点介绍贝叶斯统计推断的理论、方法及其基本观点，同时对贝叶斯方法和经典方法在历史上的重大分歧也适当地予以介绍。

通过本课程的学习能系统地掌握贝叶斯统计的基本理论、方法和应用，特别是贝叶斯统计中所具特色的一些处理方法及相应的理论。

主要内容有：先验分布与后验分布的基本概念、后验分布的计算方法、估计及假设检验、贝叶斯统计决策方法等。

教学目的：通过该门课程的学习，使学生能了解贝叶斯学派的基本观点和基本思想，了解贝叶斯学派和频率学派联系和区别，了解贝叶斯统计的最新研究进展，能够系统地掌握贝叶斯统计的基本理论、基本方法，更重要的是掌握贝叶斯统计具有特色的一些处理方法以及相应的理论，用以分析问题、解决问题。

教学方法：根据该门课程的特点，在利用传统的教学方法讲授理论的同时，注重案例教学，特别是要适当地运用研讨性教学方法，而且要适时运用创新教学方法，即教师应依据教材对教学内容作合理的安排，讲透重点难点，注意本学科研究的最新成果和前沿知识，既要教学生学习知识，又要培养学生的能力，特别是要培养学生的创新意识和创新能力，争取开展一些第二课堂活动。

各章教学要求及教学要点第一章引论课时分配：2课时教学要求：通过本章的学习，要求学生掌握贝叶斯统计理论的基本观点，了解贝叶斯统计学派和经典统计学派之间的重大分歧，了解现代贝叶斯统计理论的研究现状及贝叶斯统计理论的应用，重点掌握贝叶斯统计的基本思想，深刻理解“概率”、“统计”的不同的哲学解释，学习他们各自的优点来分析问题、解决问题。

【决策管理】《决策理论和⽅法》习题<决策理论和⽅法>习题1998年第⼀章概论⼀、什么是决策? 什么是决策分析? 决策问题的特点是什么? 决策问题有哪些要素?⼆、⽤决策树表⽰下列问题:1. ⽕灾保险2. 易腐品进货问题3. 油井钻探问题: 某公司拥有⼀块可能有油的⼟地, 该公司可以⾃⼰钻井,也可以出租给其它公司开采; 若出租⼟地,租约有两种形式,①⽆条件出租,租⾦45万元②有条件出租,租⾦依产量⽽定: 产量在20万桶或以上时,每桶提成5元; 产量不⾜20万桶时不收租⾦.设钻井费⽤为75万元,有油时需另加采油设备费25万元,油价为15元/桶.(为了简化,可以将油井产量离散化,分为4种状态: ⽆油,产油5万桶, 产油20万桶, 产油50万桶)三、* 设油井钻探问题如下: 每次钻井费⽤10万元,有油时售油收⼊100万元,有油的概率为0.2, ⽆油的概率为0.8.问⽆油时该继续钻井否? 若该, 钻⼏次仍⽆油时停⽌钻井?第⼆章主观概率和先验分布(Subjective Probability & Prior Distribution)⼀、为什么要引⼊主观概率? 试⽐较主、客观概率的异同.如何设定先验分布?⼆、1. 阅读<决策分析> §6.3.42. 两⼈⼀组,⼀⼈充当决策⼈, ⼀⼈充当决策分析⼈, 就来年国民经济增长率的先验分布进⾏对话,并画出对话所得的图形曲线. 互换⾓⾊, 就就来年通涨率的先验分布进⾏对话.三、设某个决策⼈认为产品售出400件的可能性是售出800件的可能性的1/3,是售出1200件的可能性的1/2, 与售出1600件的可能性相同, 售出800件的可能性售出1200件的可能性的两倍, 是售出1600件的可能性的3倍; 售出1200件的可能性⽐售出1600件的可能性的⼤2倍. 求该决策⼈关于产品销售量的主观概率分布.第三章效⽤、损失和风险(Utility 、Loss & Risk)⼀、什么是效⽤? 基数效⽤与序数效⽤有何区别? 采⽤效⽤进⾏决策分析有何利弊?⼆、某⼈请3个朋友吃饭, 他不知道究竟能来⼏⼈. 设各种状态的主观概率如下表所⽰. 设此⼈的效⽤函数u=x-2y-z2.其中x是为朋友预订的客饭有⼈吃的份数, y是来了吃不到饭的客⼈数, z是预订了客饭没有⼈吃的份数, 求他该为朋友订⼏份客饭? (设每⼈吃⼀份, 不得分⽽⾷之)三、某⼈有资产1000⽤于购买股票,A 种股票有70%的机会增值⼀倍30%的可能连本丢掉; B 种股票有60%的机会增值⼀倍40%的可能连本丢掉. 设此⼈的效⽤U 与收益X 的函数关系是U(x)=ln(x+3000).决策⼈⽤m 购A 种股票,1000- m 购B 种股票.求m.四、某⼚考虑两种⽣产⽅案产品A 可以0.3的概率获利5万元, 以0.2的概率获利8万元, 以0.5的概率获利9万元; 产品B 肯定可以获利8万元. 决策⼈甲的效⽤函数为线性,即U 1(x)= x; 决策⼈⼄的效⽤函数 U 2(x)= x 2/5 当 0≤x ≤5 4x -10- x 2/5 当5≤x ≤10 1.画出两个决策⼈的效⽤曲线. 2.甲⼄两个决策⼈分别作何选择?3.若⽣产AB 两种产品均需另加5万元的固定成本, 甲⼄两个决策⼈⼜该作何选择?五、画出你的关于货币的效⽤曲线并作简要说明.六、把⼀副扑克牌的四张A 取出,牌⾯向下洗匀后排在桌⾯上.你可以从下列两种玩法中任选⼀种:⑴先任意翻开⼀张再决定: a)付出35元,叫停; 或者 b)继续翻第⼆张,若第⼆张为红你可收⼊100元, 第⼆张为⿊则付出100元; ⑵任意翻开⼀张, 若此牌为红你可收⼊100元,为⿊则付出100元; 1. 画出此问题的决策树2. 设某决策⼈的效⽤函数u=ln()1200 x ,他该选何种玩法?七、(Peterberg Paradox)⼀个⼈付出C 元即可参加如下的赌博:抛⼀枚硬币,若第N 次开始出现正⾯, 则由庄家付给2N 元. 在这种赌博中, 参加者的期望收益为21N N N p =∞∑ =2121NN ∞∑ = ∞ 但是, 很少有⼈愿意出较⼤的C. 试⽤效⽤理论对此加以证明.第四章贝叶斯分析 (Bayesean Analysis )⼀、 1. 风险型和不确定型决策问题的区别何在? 各有哪些求解⽅法?2. 什么是贝叶斯分析? 贝叶斯分析的正规型与扩展型有何区别?⼆、⽤Molnor 的六项条件逐⼀衡量下列原则: ①Minmax ②Minmin ③Hurwitz ④Savage-Hiehans ⑤Laplace三、不确定型决策问题的损失矩阵如下表. ⽤上题所列五种原则分别求解.(在⽤四、某决策问题的收益矩阵如下表. 试⽤①最⼤可能值原则②Bayes 原则③E-V原则④贝努⾥原则(U=0.1C 2)分别求解五、油井钻探问题(续第⼆章⼆之3)1. 设各种状态的主观概率分布如下表且决策⼈风险中⽴,决策⼈该选择什么⾏动?2. 若可以通过地震勘探(试验费12万元)获得该地区的地质构造类型x j(j=1,2,3,4)的信息.设已知P(x |θ)如下表③进⾏贝叶斯分析,求贝叶斯规则; ④讨论正规型贝叶斯分析的求解步骤;⑤求完全信息期望值EVPI 和采样信息期望值EVSI.六、 1. 医⽣根据某病⼈的症状初步诊断病⼈可能患A 、B 、C 三种病之⼀, 得这三种病的概率分别是0.4、0.3、0.3. 为了取得进⼀步的信息,要求病⼈验⾎,结果⾎相偏⾼. 得A 、B 、C 三种病⾎相偏⾼的可能性分别是0.8、0.6、0.2. 验⾎后医⽣判断患者得A 、B 、C 三种病的概率各是多少? 2.(续1)若得A 、B 、C 三种病的⽩⾎球计数的先验分布分别是在[8000, 1000] 、[7000, 9000] 、[6000, 8500]区间上的均匀分布,化验结果是8350-8450.求此时病⼈患三种病的可能性各是多少?七、某公司拟改变产品的包装, 改变包装后产品的销路不能确定,公司经理的估为了对销路的估计更有把握, 公司先在某个地区试销改变了包装的产品.根据以:1. 2. 确定与各种试销结果相应的贝叶斯⾏动;3. 分析试销费⽤与是否试销的关系.第五章随机优势(Stochastic Dominance)⼀、⽤随机优势原则求解决策问题有何利弊?⼆、决策⼈⾯临两种选择:①在[-1, 1]上均匀分布;②在[-A, B]上均匀分布其中⑴A=B=2; ⑵A=0.5, B=1.5; ⑶A=2, B=3. 试⽤FSD和SSD判别在上述三种情况)下①与②何者占优势.(设决策⼈的效⽤函数u∈U2三、已知收益如下表, ⽤优势原则筛选⽅案. (设决策⼈的效⽤函数u∈U)2.试分析他对下表所⽰的决策问题应作何选择. 四、决策⼈的效⽤函数u∈Ud第⼆篇多准则决策分析(MCDM)第⼋章多属性效⽤函数（Multi-attribution utility function）⼀、某企业拟在若⼲种产品中选⼀种投产，每种产品的⽣产周期均为两年. 现仅考虑两种属性: 第⼀年的现⾦收益X和第⼆年的现⾦收益Y. 设现⾦收益可以精确预计; 企业的偏好是①X、Y是互相偏好独⽴的;②x x x’?x≥x’ ;③y y y’?y≥y’④(100,400)~(200,300), (0,600) ~(100,200). 设有下列产品对:(1). (0,100) (100,100) (2).(0,400) (200,200)(3). (100,500) (200,300) (4). (0,500) (150,200)每对产品只能⽣产其中之⼀. 企业应该作何选择,为什么?⼆、表⼀、表⼆分别给出了两个不同的⼆属性序数价值函数. 分别判断X是否偏好独⽴于Y, Y是否偏好独⽴于X.表⼀表⼆三、某⼈拟从甲地到⼄地.他考虑两个因素,⼀是费⽤C,⼀是旅途花费的时间t,设①他对c、t这两个属性是互相效⽤独⽴的,②费⽤及时间的边际效⽤都是线性的, 且边际效⽤随费⽤和时间的增加⽽减少,③他认为(20,4) ~(10,5), (20,5) ~(10,618);1.求此⼈的效⽤函数2.若此⼈⾯临3种选择:a,乘⽕车,3⼩时到达,30元钱; b,⾃⼰开车,有3/4的机会4⼩时到达化汽油费10元,1/4的机会6⼩时到达化汽油费12元; c, 先化2元乘公共汽车到某地搭便车,1/4的机会5⼩时到达,1/2的机会6⼩时到达,1/4的机会8⼩时到达. 求他应作何种选择.第⼗章多属性决策问题(Multi-attribution Decision-making Problem)即:有限⽅案的多⽬标决策问题(MCDP with finite alternatives)⼀、现拟在6所学校中扩建⼀所. 通过调研和分析, 得到两个⽬标的属性值表如下:(1. .2. 设w1=2w2, ⽤TOPSIS法求解.⼆、(续上题)若在⽬标中增加⼀项,教学质量⾼的学校应优先考虑. 但是各学校教学质量的⾼低难以定量给出, 只能给出各校教学质量的优先关系矩阵如下表. 设三、某⼈拟在六种牌号的洗⾐机中选购⼀种. 各种洗⾐机的性能指标如下表所(表中所列为洗5kg⾐物时的消耗).设各⽬标的重要性相同, 试⽤适当的⽅法求解四、六⽅案四⽬标决策问题的决策矩阵如下表. 各⽬标的属性值越⼤越好.W=(0.3, 0.2, 0.4, 0.1)T , α=0.7 , d1=15 , d3=2.0×106.⽤ELECTRE第⼗⼀章多⽬标决策问题(Multi-objective Decision-making Problem)设决策⼈认为属性x 最重要, 属性y 次之, 试⽤字典序法求解并讨论解的合理性.⼆、<决策分析>P219之例11.1, 若决策⼈的⽬的改为MinP y P y P y y 1123322--+-+++() 试求解并作图. 三、试画出逐步进⾏法(STEM)的计算机求解的程序框图.四、举⼀随机性多⽬标决策问题的实例. 五、多⽬标规划问题 max f 1= 2x 1+ x 2f 1=-4x 1+ x 2 -2x 1+ x 2≤1 - x 1+2x 2≤8 x 1+ x 2≤10 2x 1- x 2≤8 4x 1+3x 2≥8 x 1, x 2≥01. 画出可⾏域X 和X 在⽬标空间的映象Y 的图形.2. 求出所有⾮劣解;3. 在⽬标空间标出理想点;4. 设ω1=ω2求x ω1, x ω2, x ω∞及最佳调和解.六、MADP 和MODP 各有什么特点? 哪些⽅法可以同时适⽤于求解这两类问题?第⼗⼆章群决策(Group Decision )⼀、1.Arrow 不可能定理有什么现实意义?2.什么是投票悖论?3.什么是策略⾏为?⼆、群由30⼈组成, 现要从a、b、c、d四个候选⼈中选出⼀⼈担任某职务.已知群中成员的偏好是:其中8位成员认为 a b c d其中4位成员认为 b c d a其中6位成员认为 b d a c其中5位成员认为 c d a b其中5位成员认为 d a c b其中2位成员认为 d c b a1. ⽤你所知道的各种⽅法分别确定由谁⼊选.2. 你认为选谁合适?为什么?三、某个委员会原有编号为1、2、3的三个成员, 备选⽅案集为{a, b, c}.三个成员的偏好序分别是:c 1b 1ab 2a 2ca 3c 3b1. 求群体序.2. 若委员会新增两个成员(编号为4, 5), 原来成员的偏好序不变, 新增的两个成员应如何表达偏好?3. 原来成员的偏好序不变时,成员4,5联合能否控制委员会的排序结果?为什么?四、谈判问题的可⾏域和现况点如图所⽰.。

第二章主观概率和先验分布Subjective Probability and Prior Distribution 本章主要参考文献：60，52，上帝怎样掷骰子§2-1 基本概念一、概率（probability）1. 频率f n(A)==N a/NP (A)==limf n(A)…古典概率的定义n2. Laplace在《概率的理论分析》(1812)中的定义P(A)==k/N式中，k为A所含基本事件数，N为基本事件总数适用条件 1.基本事件有限2.每个基本事件等可能3.公理化定义E是随机试验,S是E的样本空间,对E的每一事件A,对应有确定实数P(A),若满足:①非负性：0≤P(A)≤1②规范性： P(S)=1③可列可加性：对两两不相容事件A k (k=1,2…) (A i∩A j=φ)P(∪A k)=∑P(A k)则称P(A)为事件A发生的概率二、主观概率(subjective probability, likelihood)1. 为什么引入主观概率。

有的自然状态无法重复试验如：明天是否下雨新产品销路如何明年国民经济增长率如何能否考上博士生。

试验费用过于昂贵、代价过大例：洲导弹命中率战争中对敌方下一步行动的估计2.主观概率定义：合理的信念的测度某人对特定事件会发生的可能的度量。

即他相信(认为)事件将会发生的可能性大小的程度。

这种相信的程度是一种信念，是主观的，但又是根据经验、各方而后知识，对客观情况的了解进行分析、推理、综合判断而设定(Assignment)的，与主观臆测不同。

例：考博士生、掷硬币、抛图钉三、概率的数学定义对非空集Ω，元素ω，即Ω=｛ω｝，F是Ω的子集A所构成的σ-域(即Ω∈F；若A∈F则A∈F；若A i∈F i=1,2,…则∪A i∈F)若P(A)是定在F上的实值集函数，它满足①非负性 P(A)≥0②规范性 P(Ω)=1③可列可加性则称P(A)为直的(主以或客观)概率测度，简称概率ω为基本事件A为事件三元总体(Ω，F，P)称为概率空间注意：主观概率和客观概率（objective probability）有相同的定义四、主客观概率的比较(一) 基本属性：O：系统的固有的客观性质，在相同条件下重复试验时频经的极限 S：概率是观察者而非系统的性质，是观察者对对系统处于某状态的信任程度(二)抛硬币：正面向上概率为１／２O：只要硬币均匀，抛法类似，次数足够多，正面向上的概率就是１／２，这是简单的定义。

分配概率的三个方法分配概率是概率论中的一个重要概念，指的是将一定数量的可能性分配给不同的事件发生的可能性大小。

在实际生活中，我们经常需要对某些事情进行预测和判断，而分配概率就是一种有效的工具来帮助我们做出正确的决策。

下面将介绍三种常用的分配概率方法。

一、主观概率法主观概率法是一种基于个人经验和主观判断的方法，它将事件发生的可能性分配给不同结果。

这种方法适用于那些没有明确规律或数据支持的情况下，例如天气预报、股票市场等。

在使用主观概率法时，需要考虑以下几个方面：1. 个人经验：个人经验是主观概率法最重要的依据之一。

通过自己过去所获得的知识和经验来判断某件事情发生的可能性大小。

2. 相关信息：除了个人经验之外，还需要考虑与该事件相关联的其他信息，例如历史数据、市场趋势等。

3. 主观感受：在进行主观概率评估时，还需要考虑自己对该事件所持有的态度和看法。

二、频率概率法频率概率法是一种基于历史数据和实验结果的方法，它将事件发生的可能性分配给不同结果。

这种方法适用于那些已经有了大量数据支持的情况下，例如赌场、彩票等。

在使用频率概率法时，需要考虑以下几个方面：1. 历史数据：通过对过去的数据进行分析和统计，来确定某个事件发生的可能性大小。

2. 实验结果：通过实验来验证某个事件发生的可能性大小。

3. 稳定性：在使用频率概率法时，需要考虑到数据稳定性问题。

如果样本数量太少或者数据不够稳定，就不能准确地预测未来的结果。

三、主客观概率法主客观概率法是一种综合了主观和客观因素的方法，它将事件发生的可能性分配给不同结果。

这种方法适用于那些既有历史数据支持，又需要考虑个人经验和看法的情况下，例如体育比赛、选举等。

在使用主客观概率法时，需要考虑以下几个方面：1. 历史数据：通过对过去的数据进行分析和统计，来确定某个事件发生的可能性大小。

2. 个人经验：通过自己过去所获得的知识和经验来判断某件事情发生的可能性大小。

3. 相关信息：除了个人经验之外，还需要考虑与该事件相关联的其他信息，例如历史数据、市场趋势等。