Bayes统计的起源
- 格式:doc
- 大小:77.00 KB
- 文档页数:4
Bayes统计的起源、发展和若干应用
姚宗静1 余强1,2
(1.西南科技大学理学院,四川绵阳621000 2.电子科技大学应用数学学院,四川成都610000)
摘要:国际数理统计主要有两大学派:Bayes学派和经典学派。
随着越来越多的人支持Bayes 学派的观点,其相关思想、内容及其起源、发展和应用,成了在一开始就必须了解的内容;同时,越来越多的业余统计爱好者希望能够有比较全面又浅显易懂的资料以帮助他们了解该学科。
关键词:Bayes统计;先验;后验信息
中图分类号:O212.8 文献标识码:A
The development and application of Bayes statistics
YAO Zong-jing1 YU Qiang1,2
(1.School of Science, Southwest University of Science and Technology, Sichuan Mian yang 610000,China,2.College of mathematics, University of Electronic Science and Technology of China,Chengdu 610064,China)
Abstract: There are two branches in the international mathematics statistics: bayesian statistics and conventional statistics. With more and more people think that Bayesian statistics are more logical, the ideas of it still be more important. At the same time, People want to have a paper that can be more easier and pellucid.
Key words: Bayesian statistics; Prior distribution; Posterior distribution;
1. Bayes统计的起源、发展
国际数理统计主要有两大学派:Bayes学派和经典学派。
他们之间既有共同点,又有不同点。
经典统计学是基于总体信息(即总体分布或总体所属分布族的信息)和样本信息(即从总体抽取的样本的信息)进行的统计推断,而Bayes统计是基于总体信息、样本信息和先验信息(即在抽样之前有关统计问题的一些信息,主要来源于经验或历史资料)进行的统计推断,与经典统计的本质区别在于是否利用先验信息。
Bayes统计起源于英国学者托马斯.贝叶斯(Thomas Bayes,1702~1761)死后发表的一篇论文“论有关机遇问题的求解”[31](An essay towards solving a problem in the doctrine of chances)。
在此论文中,他提出著名的贝叶斯公式和一种归纳推理方法。
随后拉普拉斯[32](Laplace,P.C,1749~1817 )不仅重新发现了贝叶斯定理,阐述的远比贝叶斯更为清晰,而且还用它来解决天体力学、医学统计以及法学问题。
之后虽有一些研究和应用,但由于其理论尚不完整,应用中出现一些问题,致使贝叶斯方法长期未被接受.直到二战后,瓦尔德[33]( Wald,A,1902~1950 )提出统计决策函数论后,又引起很多人对贝叶斯研究方法的兴趣。
因为在这个理论中,贝叶斯解被认为是一种最优决策函数。
在Savage,L.J
[34](1954),Berger,J.O[2]等贝叶斯学者的努力下,对贝叶斯方法在观点、方法和理论上不断的完善。
1984年史密斯教授曾预言:“到本世纪末,Bayes理论加上计算机的图示,将成为现代统计实践中最受欢迎的形式”。
不论这一预言是否偏颇,但如今贝叶斯统计日趋成熟,有关贝叶斯统计方面的研究与著作也越来越多,贝叶斯学派已发展成为一个有影响的统计学派,打破了经典统计学一统天下的局面。
2 Bayes学派的观点
Bayer学派最基本的观点是:总体分布中的未知参数θ是一随机变量,用一个概率分布去描述对θ的未知状况,这个概率分布是在抽样前就有的关于θ先验信息的概率陈述,被称为先验分布(prior-distribution)。
为什么采用概率的形式呢?因为任一未知量都有不确定性,而在表述不确定性时,概率和概率分布是最好的语言。
例如产品的不合格率θ是未知量,但每天都有一些变化,把它看作一个随机变量是合理的,用一概率分布去描述它也是恰当的。
贝叶斯统计就是基于所具有的知识用概率(或概率分布)来度量对一个不确定事件的真实度的相信程度。
Bayes统计存在的主要问题是先验分布问题。
例如如何在具体的问题中定出“合适的”先验分布?先验分布是一个纯主观的随意性的东西,那还有什么科学意义?到目前为止,Bayes 统计未能提出一个放之四海皆准的确定先验分布的方法,且看来在今后也难以做到这一点,因而,这确实是Bayes统计的一个重大弱点。
但在承认这一点的同时应清晰的看到,Bayes 学赞成主观概率,并不等于说可以用主观随意的方式去选取先验分布,而是要求研究者对所考察的事件有较透彻的了解和丰富的经验,甚至是这一方面的专家。
事实上,对如何确定先验分布Baye:学者做了不少的探讨,并且在实用范围内,对一些常见的分布都已得到了较好的回答。
3 Bayes统计的应用
随着Bayes统计的兴起和发展,Bayes统计得到了广泛的应用。
1.经济方面
国外己出版了Bayes统计在经济学的某一领域的应用专著。
其中,芝加哥
大学的Zellner,A教授是Bayes学派在经济方面应用的主要领导人,东京大学的两位知名学者铃木雪夫和国友直人是日本Bayes统计在经济学中应用的领导人。
而在国内,经济界的学者结合我国实际研究“三角债“的博弈理论分析时,把Bayes方法、博弈论和经济学的”均衡理论“结合起来,提出了”Bayes博弈均衡理论“。
2.计算机科学方面
Bayes 统计在计算机科学中的“统计模式识别”中用得最多,已经使用“修正的Bayes 公式”作为开发Prospeetor 地质矿藏勘探专家系统的概率推理方法,软件可靠中的L-V 模型就是一个Bayes 随机模型,从这一模型出发,可以确定软件投放市场的最佳时间,有利于软件生产的质量管理,提高软件产业的经济效益。
3.可靠性方面
1982年,美国出版了 Martz 和Walter 的专著《Bayesian Reliability Analysis 》.该书系统地介绍了Bayes 方法在可靠性中的应用。
国内的许多刊物也经常可看到Bayes 方法在可靠性方面应用的文章。
另外,Bayes 方法在可靠性中的一个有代表性的例子是,美国研制MZ 导弹时,应用Bayes 方法把发射试验从原来的36次减少为25次,可靠性却从0.72提高到0.93,节省费用二亿五千万美元。
另外,Bayes 统计在医学、法律以及体育运动等方面都有广泛的应用,它已逐步渗透到现实中的各个领域。
它既可以用于质量控制,软件质量评估,核电站可靠性评价和缓慢周转物品的存储问题;又可以应用于水文事件频率的估计,犯罪学不完全记数的估计以及保险精算。
这里就不一一详述。
4贝叶斯方法应用的关键
贝叶斯推断方法的关键在于所作出的任何推断都必须也只须根据后验分布
(|)x πθ,而不能再涉及x 的样本分布P θ。
例如,在奈曼一皮尔逊理论中,为了确定水平a 的检验的临界值C ,必须考虑x 的样本分布P θ,这在贝叶斯推断中是不允许的。
但贝叶斯推断在如何使用(|)x πθ上,有一定的灵活性,例如作为θ的点估计,可用后验分布密度(|)x πθ关于θ的最大值点,也可用(|)x πθ的均值或中位数等。
作为θ的区间估计,可以取区间[A(X ), B(X )],使π(A(x) ≤ θ≤ B(x) | x)等于事先指定的数1-a (0<a<1),并在这个条件下使区间长度B(x)一A(X)最小。
若要检验关于θ的假设H:θω∈,则可以算出ω的后验概率(|)X πω,然后在(|)X πω<12
时拒绝0H 。
如果是统计决策性质问题,则有一定的损失函数L(θ,a),知道了(|)x πθ,可算出各行动a 的后验风险,即L(θ,a)在后验分布(|)x πθ的数学期望值,然后挑选行动a 使这期望值达到最小,这在贝叶斯统计中称为“后验风险最小”的原则,是贝叶斯决策理论中的
根本原则和方法。
参考文献:
[1]Berger.J.o.统计决策理论及贝叶斯分析[M].贾乃光,译(1998).北京:中国统计出版
社,1985.
[2]Kotz.S.吴喜之。
现代贝叶斯统计学[M] 北京:中国统计出版社,2000.
[3]Press,S.J.(1989)贝叶斯统计学,原理,模型及应用,廖文,陈安贵等译,中国统计出版社,1992。
[4]陈希孺,数理统计引论,科学出版社,1997.
[5]陈希孺,高等数理统计学,中国科学技术大学出版社,1999。
[6]峁诗松,贝叶斯统计,中国统计出版社,1999.
[7]张尧庭,陈汉峰,贝叶斯统计推断,科学出版社,1991.
[8]张金槐,唐雪梅,Bayes方法(修改版),国防科技大学出版社,1993.
[9]陈希孺,数理统计中的两个学派-频率学派和Bayes学派,数理统计和应用概率,1990,5(4)。