4.3-贝叶斯判别分析
- 格式:ppt
- 大小:2.11 MB
- 文档页数:53
第二章2.1.试表达多元联合分布和边际分布之间的关系。
解:多元联合分布讨论多个随机变量联合到一起的概率分布状况,12(,,)p X X X X '=的联合分布密度函数是一个p 维的函数,而边际分布讨论是12(,,)p X X X X '=的子向量的概率分布,其概率密度函数的维数小于p 。
2.2设二维随机向量12()X X '服从二元正态分布,写出其联合分布。
解:设12()X X '的均值向量为()12μμ'=μ,协方差矩阵为21122212σσσσ⎛⎫ ⎪⎝⎭,则其联合分布密度函数为1/21222112112222122121()exp ()()2f σσσσσσσσ--⎧⎫⎛⎫⎛⎫⎪⎪'=---⎨⎬ ⎪⎪⎝⎭⎝⎭⎪⎪⎩⎭x x μx μ。
2.3已知随机向量12()X X '的联合密度函数为121212222[()()()()2()()](,)()()d c x a b a x c x a x c f x x b a d c --+-----=-- 其中1a x b ≤≤,2c x d ≤≤。
求〔1〕随机变量1X 和2X 的边缘密度函数、均值和方差; 〔2〕随机变量1X 和2X 的协方差和相关系数; 〔3〕判断1X 和2X 是否相互独立。
〔1〕解:随机变量1X 和2X 的边缘密度函数、均值和方差;112121222[()()()()2()()]()()()dx cd c x a b a x c x a x c f x dx b a d c --+-----=--⎰12212222222()()2[()()2()()]()()()()ddcc d c x a x b a x c x a x c dx b a d c b a d c -------=+----⎰12122222()()2[()2()]()()()()dd cc d c x a x b a t x a t dt b a d c b a d c ------=+----⎰2212122222()()[()2()]1()()()()d cdcd c x a x b a t x a t b a d c b a d c b a------=+=----- 所以由于1X 服从均匀分布,则均值为2b a +,方差为()212b a -。
贝叶斯判别、费希尔判别法的计算机操作及结果分析一、实验内容、目标及要求(一)实验内容选取140家上市公司作为样本,其中70家为由于“财务状况异常”而被交易所对其股票实行特别处理(Special Treatment,简称ST)的公司,另外70家为财务正常的公司。
为了研究上市公司发生财务困境的可能性,以“是否被ST”为分组变量,选择资产负债率、总资产周转率和总资产利润率几个财务指标作为判别分析变量,这三个指标分别从上市公司的偿债能力、资产管理能力和获利能力三个不同的角度反映了企业的财务状况。
(二)实验目标贝叶斯判别、费希尔判别法的计算机操作及结果分析。
(三)实验要求要求学生能熟练应用计算机软件进行判别分析并对结果进行分析,培养实际应用能力。
二、实验准备(一)运行环境说明电脑操作系统为Windows XP及以上版本,所需软件为SPSS 16.0。
(二)基础数据设置说明将数据正确导入SPSS,设置相应的变量值。
三、实验基本操作流程及说明(一)系统界面及说明同实验一。
(二)操作步骤1. 选择菜单项Analyze→Classify→Discriminate,打开Discriminate Analysis对话框,如图4-1。
将分组变量st移入Grouping V ariable列表框中,将自变量x1-x3选入Independents 列表框中。
选择Enter independents together单选按钮,即使用所有自变量进行判别分析。
若选择了Use stepwise method单选按钮,则可以根据不同自变量对判别贡献的大小进行变量筛选,此时,对话框下方的Method按钮被激活,可以通过点击该按钮设置变量筛选的方法及变量筛选的标准。
图4-1 Discriminate Analysis对话框2. 单击Define Range按钮,在打开的Define Range子对话框中定义分组变量的取值范围。
本例中分类变量的取值范围为0到1,所以在Minimum和Maximum输入框中分别输入0和1。
贝叶斯判别分析在独立学院学生考研中的运用——以宁波大学科学技术学院为例摘要:为了提高就业竞争力,越来越多独立学院学生选择考研。
考研对独立学院学生而言是一把双刃剑,如考研失败,其极有可能陷入就业困境。
以宁波大学科学技术学院为例,运用贝叶斯判别分析对经济管理类专业学生考研结果进行预测。
研究结果表明,该方法预测效果良好,有助于独立学院给予考研学生合理的建议。
关键词:判别分析;独立学院;考研一、引言国内学者对大学生考研的研究不太多,其研究主要集中在两个方面:一是对考研大学生的研究。
霍建勋(2005)通过对包头市考研大学生人格特征进行分析后指出,考研大学生的人格特征偏向于高恃强性、高兴奋性、高有恒性、高敏感性、高幻想性、高专业而有成就者人格因素,低世故性[1]。
牛永君(2010)对培养新升本科院校学生考研能力进行了研究,并从学校、院系和学生三个方面提出了相应措施[2]。
周婷(2007)调查了考研毕业生心理健康状况,发现考研毕业生在研究生入学考试前的心理健康水平低于其他毕业生, 焦虑情绪尤为明显[3]。
二是对大学生考研现象的研究。
李晓峰(2007)研究了“考研热”对本科教学秩序和专业素质培养的冲击,并从改革教学计划、加强管理和正确引导等方面提出了应对之策[4]。
高玉梅(2012)从经济学角度分析了大学生“考研热”形成的机理,并提出了缓解这种不合理现象的措施[5]。
钱桦(2008)从社会学角度分析了“考研热”现象,认为在现有的政策制约和文化环境下,角色预期与社会分层从根本上直接推动了这种现象生成[6]。
上述研究主要聚焦在普通公办高校大学生身上,通过检索中国知网(CNKI)所刊学术论文发现,没有学者对独立学院①大学生的考研问题进行研究。
独立学院及其学生具有与普通公办高校及其学生不同的特点,故上述研究成果不能直接应用于独立学院。
随着大学毕业生就业竞争日益激烈和研究生教育规模不断扩大,越来越多的独立学院大学生也开始选择考研。
第四章贝叶斯分析Bayesean Analysis§4.0引言一、决策问题的表格表示——损失矩阵对无观察(No-data)问题a=δ可用表格(损失矩阵)替代决策树来描述决策问题的后果(损失):或损失矩阵直观、运算方便二、决策原则通常,要根据某种原则来选择决策规则δ,使结果最优(或满意),这种原则就叫决策原则,贝叶斯分析的决策原则是使期望效用极大。
本章在介绍贝叶斯分析以前先介绍芙他决策原则。
三、决策问题的分类:1.不确定型(非确定型)自然状态不确定,且各种状态的概率无法估计.2.风险型自然状态不确定,但各种状态的概率可以估计.四、按状态优于:l ij ≤lik∀I, 且至少对某个i严格不等式成立, 则称行动aj按状态优于ak§4.1 不确定型决策问题一、极小化极大(wald)原则(法则、准则) a1a2a4minj maxil (θi, aj) 或maxjminiuij例:各行动最大损失: 13 16 12 14其中损失最小的损失对应于行动a3.采用该原则者极端保守, 是悲观主义者, 认为老天总跟自己作对.二、极小化极小minj minil (θi, aj) 或maxjmaxiuij例:各行动最小损失: 4 1 7 2其中损失最小的是行动a2.采用该原则者极端冒险,是乐观主义者,认为总能撞大运。
三、Hurwitz准则上两法的折衷,取乐观系数入minj [λminil (θi, aj)+(1-λ〕maxil (θi, aj)]例如λ=0.5时λmini lij: 2 0.5 3.5 1(1-λ〕maxi lij: 6.5 8 6 7两者之和:8.5 8.5 9.5 8其中损失最小的是:行动a4四、等概率准则(Laplace)用i∑l ij来评价行动a j的优劣选minji∑l ij上例:i∑l ij: 33 34 36 35 其中行动a1的损失最小五、后梅值极小化极大准则(svage-Niehans)定义后梅值sij =lij-minklik其中mink lik为自然状态为θi时采取不同行动时的最小损失.构成后梅值(机会成本)矩阵S={sij }m n⨯,使后梅值极小化极大,即:min max j i s ij例:损失矩阵同上, 后梅值矩阵为:3 1 0 23 0 8 11 4 0 20 3 2 4各种行动的最大后梅值为: 3 4 8 4其中行动a1 的最大后梅值最小,所以按后梅值极小化极大准则应采取行动1.六、Krelle准则:使损失是效用的负数(后果的效用化),再用等概率(Laplace)准则.七、莫尔诺(Molnor)对理想决策准则的要求(1954)1.能把方案或行动排居完全序;2.优劣次序与行动及状态的编号无关;3.若行动ak 按状态优于aj,则应有ak优于aj;4.无关方案独立性:已经考虑过的若干行动的优劣不因增加新的行动而改变;5.在损失矩阵的任一行中各元素加同一常数时,各行动间的优劣次序不变;6.在损失矩阵中添加一行,这一行与原矩阵中的某行相同,则各行动的优劣次序不变。
第1章 多元正态分布1、在数据处理时,为什么通常要进行标准化处理?数据的标准化是将数据按比例缩放,使之落入一个小的特定区间。
在某些比较和评价的指标处理中经常会用到,去除数据的单位限制,将其转化为无量纲的纯数值,便于不同单位或量级的指标能够进行比较和加权。
其中最典型的就是0-1标准化和Z 标准化。
2、欧氏距离与马氏距离的优缺点是什么?欧氏距离也称欧几里得度量、欧几里得度量,是一个通常采用的距离定义,它是在m 维空间中两个点之间的真实距离。
在二维和三维空间中的欧氏距离的就是两点之间的距离。
缺点:就大部分统计问题而言,欧氏距离是不能令人满意的。
每个坐标对欧氏距离的贡献是同等的。
当坐标表示测量值时,它们往往带有大小不等的随机波动,在这种情况下,合理的方法是对坐标加权,使变化较大的坐标比变化较小的坐标有较小的权系数,这就产生了各种距离。
当各个分量为不同性质的量时,“距离”的大小与指标的单位有关。
它将样品的不同属性之间的差别等同看待,这一点有时不能满足实际要求。
没有考虑到总体变异对距离远近的影响。
马氏距离表示数据的协方差距离。
为两个服从同一分布并且其协方差矩阵为Σ的随机变量与的差异程度:如果协方差矩阵为单位矩阵,那么马氏距离就简化为欧氏距离,如果协方差矩阵为对角阵,则其也可称为正规化的欧氏距离。
优点:它不受量纲的影响,两点之间的马氏距离与原始数据的测量单位无关。
由标准化数据和中心化数据计算出的二点之间的马氏距离相同。
马氏距离还可以排除变量之间的相关性的干扰。
缺点:夸大了变化微小的变量的作用。
受协方差矩阵不稳定的影响,马氏距离并不总是能顺利计算出。
3、当变量X1和X2方向上的变差相等,且与互相独立时,采用欧氏距离与统计距离是否一致?统计距离区别于欧式距离,此距离要依赖样本的方差和协方差,能够体现各变量在变差大小上的不同,以及优势存在的相关性,还要求距离与各变量所用的单位无关。
如果各变量之间相互独立,即观测变量的协方差矩阵是对角矩阵, 则马氏距离就退化为用各个观测指标的标准差的倒数作为权数的加权欧氏距离。
复习题原文: 答案:4.2 试述判别分析的实质。
4.3 简述距离判别法的基本思想和方法。
4.4 简述贝叶斯判别法的基本思想和方法。
4.5 简述费希尔判别法的基本思想和方法。
4.6 试析距离判别法、贝叶斯判别法和费希尔判别法的异同。
4.2 试述判别分析的实质。
答:判别分析就是希望利用已经测得的变量数据,找出一种判别函数,使得这一函数具有某种最优性质,能把属于不同类别的样本点尽可能地区别开来。
设R1,R2,…,Rk 是p 维空间R p 的k 个子集,如果它们互不相交,且它们的和集为 ,则称 , 为 的一个划分。
判别分析问题实质上就是在某种意义上,以最优的性质对p 维空间 构造一个“划分”,这个“划分”就构成了一个判别规则。
4.3 简述距离判别法的基本思想和方法。
答:距离判别问题分为①两个总体的距离判别问题和②多个总体的判别问题。
其基本思想都是分别计算样本与各个总体的距离(马氏距离),将距离近的判别为一类。
①两个总体的距离判别问题设有协方差矩阵∑相等的两个总体G 1和G 2,其均值分别是?1和? 2,对于一个新的样品X ,要判断它来自哪个总体。
计算新样品X 到两个总体的马氏距离D 2(X ,G 1)和D 2(X ,G 2),则X ,D 2(X ,G 1) D 2(X ,G 2)X ,D 2(X ,G 1)> D 2(X ,G 2, 具体分析,记()()W '=-X αX μ 则判别规则为 X ,W(X) X ,W(X)<0②多个总体的判别问题。
设有k 个总体k G G G ,,,21 ,其均值和协方差矩阵分别是和k ΣΣΣ,,,21 ,且ΣΣΣΣ====k 21。
计算样本到每个总体的马氏距离,到哪个总体的距离最小就属于哪个总体。
具体分析,21(,)()()D G ααα-'=--X X μΣX μ取ααμΣI 1-=,αααμΣμ121-'-=C ,k ,,2,1 =α。