贝叶斯统计原理及方法优秀PPT

( ) 0
( ) 0
( 1) 1 ( )
E(X2)
( 1) 2
Var( X
)
E(X
2)
[E(X
)]2
2
7
贝塔函数
函数
B(a, b) 1 xa1(1 x)b1dx 0
称为贝塔函数，其中参数 a>0,b>0.
贝塔函数的性质: (1) B(a,b) B(b, a)
(2) B(a,b) (a)(b) (a b)
2
(2) ( 1) ( ) 当为自然数n时，有 (n 1) n(n) n!
5
伽玛分布
如果随机变量 X 具有概率密度函数
p(
x)
(
)
x
e 1 x
,
0,
x0 x0
则称 X 服从伽玛分布, 记作 X~Ga(α,λ).
其中α>0 为形状参数,λ>0 为尺度参数.
6
E(X)
x e xdx 1 1 ( x) e xd ( x)
3
课程考核：闭卷考试
成绩评定 平时(20分)
=作业+考勤+课堂表现
期末(80分)
=卷面(100分) ×
80%
总评(100分)
=平时+期末
比例
20%
80%
100%
学分数
2
课堂上讲过的习题、练习题和作业的题目要会.
4
伽玛函数
函，其中α>0.
伽玛函数的性质: (1) (1) 1; (1)
23
15
贝叶斯方法(Bayesian approach )
• 贝叶斯方法是基于贝叶斯定理而发展起来用于系 统地阐述和解决统计问题的方法(Samuel Kotz和 吴喜之,2000)。
• 贝叶斯推断的基本方法是将关于未知参数的先 验信息与样本信息综合，再根据贝叶斯定理，得 出后验信息，然后根据后验信息去推断未知参数 (茆诗松和王静龙等,1998年)。 “贝叶斯提出了一种归纳推理的理论(贝叶斯定 理)，以后被一些统计学者发展为一种系统的统计 推断方法，称为贝叶斯方法.”──摘自《中国大百 科全书》（数学卷）
17
本书共六章，可分二部分。前三章围绕先验分 布介绍贝叶斯推断方法。后三章围绕损失函数介绍 贝叶斯决策方法。阅读这些内容仅需要概率统计基 本知识就够了。
Byaes统计学派与经典统计学派虽然有很大区别， 但是它们各有优缺点，各有其适用的范围，作为研 究者一定要博采众长，以获得一种更适合解决实际 问题的方法。而且，在不少情况下，二者得出的结 论在形式上是相同的。
16
序言
英国学者T.贝叶斯1763年在《论有关机遇问 题的求解》中提出一种归纳推理的理论，后被一 些统计学者发展为一种系统的统计推断方法，称 为贝叶斯方法。采用这种方法作统计推断所得的 全部结果，构成贝叶斯统计的内容。认为贝叶斯 方法是唯一合理的统计推断方法的统计学者，组 成数理统计学中的贝叶斯学派，其形成可追溯到 20世纪 30 年代。到50～60年代，已发展为一个 有影响的学派。时至今日，其影响日益扩大。
➢ 贝叶斯学派的观点：除了上述两种信息以外， 统计推断还应该使用第三种信息：先验信息。
21
§1.1 三种信息
• 一、总体信息，即总体分布或总体所属分布给我 们的信息。
• 例如：”总体是正态分布“
• 说明：总体信息是很重要的信息，为了获取此种 信息往往耗资巨大。
• 二、样本信息，即从总体抽取的样本给我们的信 息。（愈多愈好）
• 人们希望通过对样本的加工和处理对总体的某些 特征做出较为精确的统计推断。
• 例：有了样本观察值，我们可根据它大概知道总 体的一些特征数（均值、方差等）在一个什么范 围内。
22
•经典统计学：基于以上两种信息进行的统计推断被 称为经典统计学。 •说明：它的基本观点是把数据（样本）看成是来自 具有一定概率分布的总体，所研究对象是这个总体而 不局限于数据本身。 •据现有资料看，这方面最早的工作是高斯和勒让德 德误差分析、正态分布和最小二乘法。从十九世纪末 期到二十世纪中叶，经皮尔逊、费歇和奈曼等人杰出 的工作创立了经典统计学。 •随着经典统计学的持续发展与广泛应用，它本身的 缺陷也逐渐暴露出来了。
10
贝塔分布
如果随机变量 X 具有概率密度函数
p(
x)
(a b) (a)(b)
xa
1
(1
x)b1
,
0 x 1
0,
其它
那么称 X 服从贝塔分布,记作 X~Be(a,b),其中参
数 a>0,b>0.
特别，如果 a=b=1，那么 X 服从[0,1]上的均
匀分布.
13
贝塔分布的数学期望和方差
若X ~ Be(a, b)
E( X ) (a b) 1 xa (1 x)b1dx
(a)(b) 0
(a b) (a 1)(b) a (a)(b) (a b 1) a b
E(X
2)
(a
a(a 1) b)(a b
1)
Var( X
)
(a
ab b)2(a
b
1)
14
（Bayes，Thomas）(1702─1761)
贝叶斯是英国数学家.1702年生于伦敦；1761年4月17日 卒于坦布里奇韦尔斯.
贝叶斯是一位自学成才的数学家.曾助理宗教事务，后来 长期担任坦布里奇韦尔斯地方教堂的牧师.1742年，贝叶斯被 选为英国皇家学会会员.
如今在概率、数理统计学中以贝叶斯姓氏命名的有贝叶 斯公式、贝叶斯风险、贝叶斯决策函数、贝叶斯决策规则、贝 叶斯估计量、贝叶斯方法、贝叶斯统计等等.
Bayesian Statistics
贝叶斯统计
1
贝叶斯统计
预修要求：已修过概率论与数理统计
基本教材： 茆诗松编，贝叶斯统计
中国统计出版社，2005年.
2
[1] 贝叶斯统计与决策．Berger J O．中国统计出版 社．1998 [2] 现代贝叶斯统计．Kotz S,吴喜之．中国统计出版 社．1999 [3] 贝叶斯统计推断．张尧庭、陈汉峰．科学出版 社．1991
18
目录
第一章先验分布与后验分布 第二章 贝叶斯推断 第三章 先验分布的确定 第四章 决策中的收益、损失与效用 第五章 贝叶斯决策 第六章 统计决策理论
19
第一章先验分布与后验分布
统计学中有两个主要学派：频率学派与贝叶斯 学派。下面从统计推断的三种信息来说明他们之 间的区别与联系。
20
➢ 经典学派的观点：统计推断是根据样本信息 对总体分布或总体的特征数进行推断，这里 用到两种信息：总体信息和样本信息；