第三章贝叶斯决策

手写体数字识别第一章绪论 (3)1.1课题研究的意义 (3)1.2国内外究动态目前水平 (4)1.3手写体数字识别简介 (4)1.4识别的技术难点 (5)1.5主要研究工作 (5)第二章手写体数字识别基本过程： (6)2.1手写体数字识别系统结构 (6)2.2分类器设计 (7)2.2.1 特征空间优化设计问题 (7)2.2.2分类器设计准则 (7)2.2.3分类器设计基本方法 (8)3.4 判别函数 (9)3.5训练与学习 (10)第三章贝叶斯方法应用于手写体数字识别 (10)3.1贝叶斯由来 (10)3.2贝叶斯公式 (11)3.3贝叶斯公式Bayes决策理论： (12)3.4贝叶斯应用于的手写体数字理论部分： (15)3.4.1.特征描述： (15)3.4.2最小错误分类器进行判别分类 (17)第四章手写体数字识别的设计流程及功能的具体实现 (18)4.1 手写体数字识别的流程图 (18)4.2具体功能实现方法如下： (19)结束语 (25)致谢词 (25)参考文献 (26)附录 (27)摘要数字识别就是通过计算机用数学技术方法来研究模式的自动处理和识别。

随着计算机技术的发展，人类对模式识别技术提出了更高的要求。

特别是对于大量己有的印刷资料和手稿，计算机自动识别输入己成为必须研究的课题，所以数字识别在文献检索、办公自动化、邮政系统、银行票据处理等方面有着广阔的应用前景。

对手写数字进行识别，首先将汉字图像进行处理，抽取主要表达特征并将特征与数字的代码存储在计算机中，这一过程叫做“训练”。

识别过程就是将输入的数字图像经处理后与计算机中的所有字进行比较，找出最相近的字就是识别结果。

本文主要介绍了数字识别的基本原理和手写的10个数字字符的识别系统的设计实现过程。

第一章介绍了数字识别学科的发展状况。

第二章手写体数字识别基本过程。

第三章贝叶斯方法应用于手写体数字识别。

第四章手写体数字识别的设计流程及功能的具体实现，并对实验结果做出简单的分析。

《贝叶斯统计》教学大纲“Bayesian Statistics” Course Outline课程编号：152053A课程类型：专业选修课总学时：48 讲课学时：48实验（上机）学时：0学分：3适用对象：金融学（金融经济）先修课程：数学分析、概率论与数理统计、计量经济学Course Code：152053ACourse Type：Discipline ElectiveTotal Hours：48 Lecture：48Experiment(Computer)：0Credit：3Applicable Major：Finance（Finance and Economics Experiment Class）Prerequisite：Mathematical Analysis, Probability Theory and Statistics, Econometrics一、课程的教学目标本课程旨在向学生介绍贝叶斯统计理论、贝叶斯统计方法及其在实证研究中的应用。

贝叶斯统计理论与传统统计理论遵循着不同的基本假设，为我们处理数据信息提供新的角度和解读思路，并在处理某些复杂模型上（如，估计动态随机一般均衡模型、带时变参数的状态空间模型等）相比传统方法具有相对优势。

本课程要求学生在选课前具备基本的微积分、概率统计以及计量经济学知识。

以此为起点，我们将主要就贝叶斯统计理论知识、统计模型的应用以及基于计算机编程的实证能力三方面对学生进行训练。

经过对本课程的学习，学生应了解贝叶斯框架的基本思想，掌握基本的贝叶斯理论方法及其主要应用，并掌握实证研究中常用的贝叶斯数值抽样方法以及相关的计算机编程技能。

特别地，学生应能明确了解贝叶斯统计方法与传统统计方法在思想和应用上的区别以及各自的优缺点，以便能在实际应用中合理选择统计分析工具。

This course introduces the basic concepts of Bayesian statistics and the use of Bayesian econometric methods in empirical study. Bayesian statistics has different fundamental assumptions from the classical (frequentist) framework, providing us with an alternative way in analyzing and interpreting data information. Bayesian methods also have relative advantages, and thus are widely used, in dealing with certain complicated models (for example, the estimation of Dynamic Stochastic General Equilibrium model, state space models with time-varying parameters, etc.).Students should have had basic trainings on calculus, probability theory and statistics, and preferably econometrics prior to this course. The major trainings offered in this course focus on Bayesian theories, Bayesian statistical models with applications and computational skills required for empirical analysis. After the course, students should develop their understanding on the philosophy of Bayesian framework, understand basic Bayesian theories, Bayesian estimation methods and their applications, and master the computer skills for the practical use of Bayesian methods. Specifically, students should understand the differences between the Bayesian viewpoint and the classical frequentist perspective in order to be able to choose appropriate analyzing tools in empirical use.二、教学基本要求贝叶斯统计学和计量方法在近年得到越来越广泛的关注和应用，主要得益于计算机技术的发展使得贝叶斯数值抽样方法在实际应用中得以实现。

第一章 先验分布与后验分布1.1 解：令120.1,0.2θθ==设A 为从产品中随机取出8个，有2个不合格，则22618()0.10.90.1488P A C θ== 22628()0.20.80.2936P A C θ== 从而有5418.03.02936.07.01488.07.01488.0)()|()()|()()|()|(2211111=⨯+⨯⨯=+=θπθθπθθπθθπA P A P A P A 4582.0)|(1)|(4582.03.02936.07.01488.03.02936.0)()|()()|()()|()|(122211222=-==⨯+⨯⨯=+=A A or A P A P A P A θπθπθπθθπθθπθθπ1.2 解：令121, 1.5λλ==设X 为一卷磁带上的缺陷数，则()XP λ∴3(3)3!e P X λλλ-==R 语言求：)4(/)exp(*)3(^gamma λλ-1122(3)(3)()(3)()0.0998P X P X P X λπλλπλ∴===+== 从而有111222(3)()(3)0.2457(3)(3)()(3)0.7543(3)P X X P X P X X P X λπλπλλπλπλ==========1.3 解：设A 为从产品中随机取出8个，有3个不合格，则3358()(1)P A C θθθ=-（1） 由题意知 ()1,01πθθ=<< 从而有.10,)1(504)|(504)6,4(/1)6,4(1)6,4()1()1()1()1()1()1()1()()|()()|()|(535311614531535315338533810<<-==-=--=--=--==⎰⎰⎰⎰--θθθθπθθθθθθθθθθθθθθθθθθθπθθπθθπA beta B R B d d d C C d A P A P A ：语言求（2）.10,)1(840)|(840)7,4(/1)7,4(1)7,4()1()1()1()1()1()1(2)1()1(2)1()()|()()|()|(636311714631636315338533810<<-==-=--=--=----==⎰⎰⎰⎰--θθθθπθθθθθθθθθθθθθθθθθθθθθπθθπθθπA beta B R B d d d C C d A P A P A ：语言求1.5 解：（1）由已知可得.5.125.11,110110/1)()|()()|()|(,2010,101)(5.125.111)|(2112211)|(12,2121,1)|(5.125.11201011111111<<===<<=<<=+<<-==+<<-=⎰⎰θθθθπθθπθθπθθπθθθθθθθθd d x p x p x x p x p x x x p ，，即，时，当（2）由已知可得.6.115.11,1010110/1)()|,,()()|,,(),,|(,2010,101)(6.115.111)|,,(,219.1121,214.1121,211.1121,217.1121215.11212112211)|,,(9.11,4.11,1.11,7.11,5.11,0.12,6,2,1,2121,1)|,,(6.115.112010621621621621621654321621<<===<<=<<=+<<-+<<-+<<-+<<-+<<-+<<-========+<<-=⎰⎰θθθθπθθπθθπθθπθθθθθθθθθθθθθθθθθθd d x x x p x x x p x x x x x x p x x x p x x x x x x i x x x x p i ，即，，时，当【原答案：由已知可得 ()1,0.50.5P x x θθθ=-<<+1(),102010πθθ=<< 11.611.51()0.0110m x d θ==⎰从而有()()()10,11.511.6()P x x m x θπθπθθ==<< 】1.6 证明：设随机变量()XP λ，λ的先验分布为(,)Ga αβ，其中,αβ为已知，则即得证！),(~),,|()()|,,(),,|(,0,)()(,!!)|,,(121)(121211112111βαλπλλπλλπλλαβλπλλλλβαβλααλλ++∑∑∝•∝>Γ=∑===+--+--=-=-==∏∏n x Ga x x x ex x x p x x x e x e x ex x x p ni i n n x n n ni in x ni i x n ni i ni ii【原答案： (),0!x e P x x λλλλ-=>1(),0()e ααβλβπλλλα--=>Γ 因此 11(1)()()()x x x P x e e e λαβλαβλπλλπλλλλ---+--+∝•∝= 所以 (,1)x Ga x λαβ++】 1.7 解：（1）由题意可知.1},max{,1)/(1)/(122)()|,,()()|,,(),,|(,10,1)(,,2,1,10,22)|,,(121},max{221},max{2121121212112122111<<∝===<<==<<<==⎰⎰∏∏⎰∏∏====θθθθθθθθθθπθθπθθπθθπθθθθn nx x nn x x nni in nni inn n n ni i nni inin x x d d x xd x x x p x x x p x x x n i x xx x x x p n n【原答案：由题意可知 ()1,01πθθ=<< 因此122()12(1)xxm x d x θθ=•=-⎰因此 2()()1(),1()1P x x x x m x x θπθπθθθ==<<- （实质是新解当n=1的情形）】（2） 由题意可知.1},max{,1)/(1)/(13232)()|,,()()|,,(),,|(,10,3)(,,2,1,10,22)|,,(12-21},max{2-22-21},max{2212211212121212122111<<∝=⨯⨯==<<==<<<==⎰⎰∏∏⎰∏∏====θθθθθθθθθθθθπθθπθθπθθθπθθθθn n x x n n x x nni in nni inn n n ni i nni inin x x d d x xd x x x p x x x p x x x n i x xx x x x p n n【原答案：由题意可知 1222()36xm x d x θθθ=•=⎰因此 ()()()1,01()P x x m x θπθπθθ==<<】 1.8 解：设A 为100个产品中3个不合格，则3397100()(1)P A C θθθ=-由题意可知 199(202)()(1),01(200)πθθθθΓ=-≤≤Γ 因此 3971994296()()()(1)(1)(1)A P A πθθπθθθθθθθ∝•∝--=- 由上可知)297,5(~)|(Be A θπ1.9 解：设X 为某集团中人的高度，则2(,5)XN θ∴25(,)10XNθ ∴2(176.53)5()p x θθ--=由题意可知 2(172.72)5.08()θπθ--=又由于X 是θ的充分统计量，从而有()()()()x x p x πθπθθπθ=∝•222(176.53)(172.72)(174.64)55.0821.26eeeθθθ------⨯∝•∝因此 (174.64,1.26)x N θ1.10 证明：设22(,),,N u u θσσ其中为已知又由于X 是θ的充分统计量，从而有()()()()x x p x πθπθθπθ=∝•222222251()()11252()11225252u x x u eeeσθθθσσσ+----+⨯--⨯+⨯∝∝因此 222251(,)112525u x xN σθσσ+++又由于21112525σ≤+ 所以 θ的后验标准差一定小于151.11 解：设X 为某人每天早上在车站等候公共汽车的时间，则(0,)X U θ.8,861)/(1192192)()|,,()()|,,(),,|(,4,192)(.81)|,,(8,8,5.3,2,1,0,1)|,,(768778774321321321433213213321>⨯====≥=>=====<<=⎰⎰⎰∞∞∞θθθθθθθθθθπθθπθθπθθθπθθθθθθd d d x x x p x x x p x x x x x x p x x x i x x x x p i ，时，当【原答案：设X 为某人每天早上在车站等候公共汽车的时间，则(0,)XU θ∴1(),0p x x θθθ=<<当8θ>时，31()p x θθ=43819211()8192m x d θθθ+∞==⎰从而有 7()()3()()128p x x m x θπθπθθ==, 计算错误】1.12 证明：由题意可知 1(),0,1,2,...,i np x x i n θθθ=<<=从而有 ()()()()x x p x πθπθθπθ∝•00111n n n ααααθθθθθ++++∝•∝ 因此 θ的后验分布仍是Pareto 分布。

《数理统计》课程教学大纲Mathematica1Statistics一、课程基本信息学时：48学分：3考核方式：考试。

期末成绩、平时成绩各占总成绩的70%和30%课程简介：数理统计是统计学专业的一门专业基础课，在教学计划中列为主干课程。

通过本课程的学习，可以使学生初步掌握处理随机现象的基本方法，掌握随机变量理论和基本的统计推断方法，提高学生分析问题解决问题的能力，为学生进一步学习数据分析、统计学原理等后续课程打下良好的基础。

二、课程性质与教学目的本课程是统计学专业学生必修的一门专业基础主干课程；数理统计是研究随机现象统计规律的学科，是培养学生掌握、解决、处理随机现象的一门课程。

本课程的教学目的为，通过本课程的学习，使学生初步掌握掌握随机变量四大理论,分布函数理论、分布律理论、概率密度理论和数字特征理论；掌握基本的统计推断方法,参数估计方法、假设检验方法和回归分析方法，提高学生分析问题解决问题的能力，拓展学生创新能力。

本课程将为后续课程的学习以及相关课程设计、毕业设计等奠定重要的基础。

三、教学方法与手段教学方法方面，本课程思维方式独特，还需要学生有一定的微积分基础。

教学中应注意概率意义的解释和学生基础情况的把握，处理好抽象与具体，偶然与必然、一维与多维，理论与实践的关系。

采用启发式教学，培养学生思考问题、分析问题和解决问题的能力；引导和鼓励学生通过自学获取知识，培养学生的自学能力；增加讨论课，调动学生学习的主观能动性，培养学生的创新能力。

教学手段方面，本课程属于理论基础课，在教学中采用多媒体课件及多媒体教学系统等先进教学手段，以确保在有限的学时内，全面、高质量地完成课程教学任务。

五、推荐教材和教学参考斐源推荐教材：《概率论与数理统计教程》，蔚诗松、程依明、濮晓龙编著，高等教育出版社，2004教学参考资源1.沈恒范，《概率论与数理统计教程》，高等教育出版社，20052.盛骤等，《概率论与数理统计》，高等教育出版社，20083.华东师范大学数学系，《概率论与数理统计教程》，高等教育出版社，19804.张玉春、刘玉凤，《概率论与数理统计学习指导》，国防工业出版社，2008。