下载文档原格式
第二章2.1.试表达多元联合分布和边际分布之间的关系。
解：多元联合分布讨论多个随机变量联合到一起的概率分布状况，12(,,)p X X X X '=的联合分布密度函数是一个p 维的函数，而边际分布讨论是12(,,)p X X X X '=的子向量的概率分布，其概率密度函数的维数小于p 。
2.2设二维随机向量12()X X '服从二元正态分布，写出其联合分布。
解：设12()X X '的均值向量为()12μμ'=μ，协方差矩阵为21122212σσσσ⎛⎫ ⎪⎝⎭，则其联合分布密度函数为1/21222112112222122121()exp ()()2f σσσσσσσσ--⎧⎫⎛⎫⎛⎫⎪⎪'=---⎨⎬ ⎪⎪⎝⎭⎝⎭⎪⎪⎩⎭x x μx μ。
2.3已知随机向量12()X X '的联合密度函数为121212222[()()()()2()()](,)()()d c x a b a x c x a x c f x x b a d c --+-----=-- 其中1a x b ≤≤，2c x d ≤≤。
求〔1〕随机变量1X 和2X 的边缘密度函数、均值和方差； 〔2〕随机变量1X 和2X 的协方差和相关系数； 〔3〕判断1X 和2X 是否相互独立。
〔1〕解：随机变量1X 和2X 的边缘密度函数、均值和方差；112121222[()()()()2()()]()()()dx cd c x a b a x c x a x c f x dx b a d c --+-----=--⎰12212222222()()2[()()2()()]()()()()ddcc d c x a x b a x c x a x c dx b a d c b a d c -------=+----⎰12122222()()2[()2()]()()()()dd cc d c x a x b a t x a t dt b a d c b a d c ------=+----⎰2212122222()()[()2()]1()()()()d cdcd c x a x b a t x a t b a d c b a d c b a------=+=----- 所以由于1X 服从均匀分布，则均值为2b a +，方差为()212b a -。
贝叶斯判别、费希尔判别法的计算机操作及结果分析一、实验内容、目标及要求（一）实验内容选取140家上市公司作为样本，其中70家为由于“财务状况异常”而被交易所对其股票实行特别处理（Special Treatment，简称ST）的公司，另外70家为财务正常的公司。
为了研究上市公司发生财务困境的可能性，以“是否被ST”为分组变量，选择资产负债率、总资产周转率和总资产利润率几个财务指标作为判别分析变量，这三个指标分别从上市公司的偿债能力、资产管理能力和获利能力三个不同的角度反映了企业的财务状况。
（二）实验目标贝叶斯判别、费希尔判别法的计算机操作及结果分析。
（三）实验要求要求学生能熟练应用计算机软件进行判别分析并对结果进行分析，培养实际应用能力。
二、实验准备（一）运行环境说明电脑操作系统为Windows XP及以上版本，所需软件为SPSS 16.0。
（二）基础数据设置说明将数据正确导入SPSS，设置相应的变量值。
三、实验基本操作流程及说明（一）系统界面及说明同实验一。
（二）操作步骤1. 选择菜单项Analyze→Classify→Discriminate，打开Discriminate Analysis对话框，如图4-1。
将分组变量st移入Grouping V ariable列表框中，将自变量x1－x3选入Independents 列表框中。
选择Enter independents together单选按钮，即使用所有自变量进行判别分析。
若选择了Use stepwise method单选按钮，则可以根据不同自变量对判别贡献的大小进行变量筛选，此时，对话框下方的Method按钮被激活，可以通过点击该按钮设置变量筛选的方法及变量筛选的标准。
图4-1 Discriminate Analysis对话框2. 单击Define Range按钮，在打开的Define Range子对话框中定义分组变量的取值范围。
本例中分类变量的取值范围为0到1，所以在Minimum和Maximum输入框中分别输入0和1。
贝叶斯判别分析在独立学院学生考研中的运用——以宁波大学科学技术学院为例摘要：为了提高就业竞争力，越来越多独立学院学生选择考研。
考研对独立学院学生而言是一把双刃剑，如考研失败，其极有可能陷入就业困境。
以宁波大学科学技术学院为例，运用贝叶斯判别分析对经济管理类专业学生考研结果进行预测。
研究结果表明，该方法预测效果良好，有助于独立学院给予考研学生合理的建议。
关键词：判别分析；独立学院；考研一、引言国内学者对大学生考研的研究不太多，其研究主要集中在两个方面：一是对考研大学生的研究。
霍建勋（2005）通过对包头市考研大学生人格特征进行分析后指出，考研大学生的人格特征偏向于高恃强性、高兴奋性、高有恒性、高敏感性、高幻想性、高专业而有成就者人格因素,低世故性[1]。
牛永君（2010）对培养新升本科院校学生考研能力进行了研究，并从学校、院系和学生三个方面提出了相应措施[2]。
周婷（2007）调查了考研毕业生心理健康状况，发现考研毕业生在研究生入学考试前的心理健康水平低于其他毕业生, 焦虑情绪尤为明显[3]。
二是对大学生考研现象的研究。
李晓峰（2007）研究了“考研热”对本科教学秩序和专业素质培养的冲击，并从改革教学计划、加强管理和正确引导等方面提出了应对之策[4]。
高玉梅（2012）从经济学角度分析了大学生“考研热”形成的机理，并提出了缓解这种不合理现象的措施[5]。
钱桦（2008）从社会学角度分析了“考研热”现象，认为在现有的政策制约和文化环境下,角色预期与社会分层从根本上直接推动了这种现象生成[6]。
上述研究主要聚焦在普通公办高校大学生身上，通过检索中国知网（CNKI）所刊学术论文发现，没有学者对独立学院①大学生的考研问题进行研究。
独立学院及其学生具有与普通公办高校及其学生不同的特点，故上述研究成果不能直接应用于独立学院。
随着大学毕业生就业竞争日益激烈和研究生教育规模不断扩大，越来越多的独立学院大学生也开始选择考研。
第四章贝叶斯分析Bayesean Analysis§4.0引言一、决策问题的表格表示——损失矩阵对无观察(No-data)问题a=δ可用表格(损失矩阵)替代决策树来描述决策问题的后果(损失):或损失矩阵直观、运算方便二、决策原则通常，要根据某种原则来选择决策规则δ，使结果最优(或满意)，这种原则就叫决策原则，贝叶斯分析的决策原则是使期望效用极大。
本章在介绍贝叶斯分析以前先介绍芙他决策原则。
三、决策问题的分类：1.不确定型(非确定型)自然状态不确定,且各种状态的概率无法估计.2.风险型自然状态不确定,但各种状态的概率可以估计.四、按状态优于：l ij ≤lik∀I, 且至少对某个i严格不等式成立, 则称行动aj按状态优于ak§4.1 不确定型决策问题一、极小化极大(wald)原则(法则、准则) a1a2a4minj maxil (θi, aj) 或maxjminiuij例:各行动最大损失: 13 16 12 14其中损失最小的损失对应于行动a3.采用该原则者极端保守, 是悲观主义者, 认为老天总跟自己作对.二、极小化极小minj minil (θi, aj) 或maxjmaxiuij例:各行动最小损失: 4 1 7 2其中损失最小的是行动a2.采用该原则者极端冒险，是乐观主义者，认为总能撞大运。
三、Hurwitz准则上两法的折衷，取乐观系数入minj ［λminil (θi, aj)＋（1－λ〕maxil (θi, aj)］例如λ=0.5时λmini lij: 2 0.5 3.5 1（1－λ〕maxi lij: 6.5 8 6 7两者之和：8.5 8.5 9.5 8其中损失最小的是：行动a4四、等概率准则(Laplace)用i∑l ij来评价行动a j的优劣选minji∑l ij上例：i∑l ij: 33 34 36 35 其中行动a1的损失最小五、后梅值极小化极大准则(svage-Niehans)定义后梅值sij =lij-minklik其中mink lik为自然状态为θi时采取不同行动时的最小损失.构成后梅值(机会成本)矩阵S={sij }m n⨯,使后梅值极小化极大,即:min max j i s ij例:损失矩阵同上, 后梅值矩阵为:3 1 0 23 0 8 11 4 0 20 3 2 4各种行动的最大后梅值为: 3 4 8 4其中行动a1 的最大后梅值最小,所以按后梅值极小化极大准则应采取行动1.六、Krelle准则：使损失是效用的负数(后果的效用化),再用等概率(Laplace)准则.七、莫尔诺(Molnor)对理想决策准则的要求(1954)1.能把方案或行动排居完全序；2.优劣次序与行动及状态的编号无关；3.若行动ak 按状态优于aj，则应有ak优于aj；4.无关方案独立性：已经考虑过的若干行动的优劣不因增加新的行动而改变；5.在损失矩阵的任一行中各元素加同一常数时，各行动间的优劣次序不变；6.在损失矩阵中添加一行，这一行与原矩阵中的某行相同，则各行动的优劣次序不变。
第1章 多元正态分布1、在数据处理时，为什么通常要进行标准化处理？数据的标准化是将数据按比例缩放，使之落入一个小的特定区间。
在某些比较和评价的指标处理中经常会用到，去除数据的单位限制，将其转化为无量纲的纯数值，便于不同单位或量级的指标能够进行比较和加权。
其中最典型的就是0-1标准化和Z 标准化。
2、欧氏距离与马氏距离的优缺点是什么？欧氏距离也称欧几里得度量、欧几里得度量，是一个通常采用的距离定义，它是在m 维空间中两个点之间的真实距离。
在二维和三维空间中的欧氏距离的就是两点之间的距离。
缺点：就大部分统计问题而言，欧氏距离是不能令人满意的。
每个坐标对欧氏距离的贡献是同等的。
当坐标表示测量值时，它们往往带有大小不等的随机波动，在这种情况下，合理的方法是对坐标加权，使变化较大的坐标比变化较小的坐标有较小的权系数，这就产生了各种距离。
当各个分量为不同性质的量时，“距离”的大小与指标的单位有关。
它将样品的不同属性之间的差别等同看待，这一点有时不能满足实际要求。
没有考虑到总体变异对距离远近的影响。
马氏距离表示数据的协方差距离。
为两个服从同一分布并且其协方差矩阵为Σ的随机变量与的差异程度:如果协方差矩阵为单位矩阵,那么马氏距离就简化为欧氏距离,如果协方差矩阵为对角阵,则其也可称为正规化的欧氏距离。
优点：它不受量纲的影响，两点之间的马氏距离与原始数据的测量单位无关。
由标准化数据和中心化数据计算出的二点之间的马氏距离相同。
马氏距离还可以排除变量之间的相关性的干扰。
缺点：夸大了变化微小的变量的作用。
受协方差矩阵不稳定的影响，马氏距离并不总是能顺利计算出。
3、当变量X1和X2方向上的变差相等，且与互相独立时，采用欧氏距离与统计距离是否一致？统计距离区别于欧式距离，此距离要依赖样本的方差和协方差，能够体现各变量在变差大小上的不同，以及优势存在的相关性，还要求距离与各变量所用的单位无关。
如果各变量之间相互独立,即观测变量的协方差矩阵是对角矩阵, 则马氏距离就退化为用各个观测指标的标准差的倒数作为权数的加权欧氏距离。
复习题原文： 答案：4.2 试述判别分析的实质。
4.3 简述距离判别法的基本思想和方法。
4.4 简述贝叶斯判别法的基本思想和方法。
4.5 简述费希尔判别法的基本思想和方法。
4.6 试析距离判别法、贝叶斯判别法和费希尔判别法的异同。
4.2 试述判别分析的实质。
答：判别分析就是希望利用已经测得的变量数据，找出一种判别函数，使得这一函数具有某种最优性质，能把属于不同类别的样本点尽可能地区别开来。
设R1，R2，…，Rk 是p 维空间R p 的k 个子集，如果它们互不相交，且它们的和集为 ，则称 ， 为 的一个划分。
判别分析问题实质上就是在某种意义上，以最优的性质对p 维空间 构造一个“划分”，这个“划分”就构成了一个判别规则。
4.3 简述距离判别法的基本思想和方法。
答：距离判别问题分为①两个总体的距离判别问题和②多个总体的判别问题。
其基本思想都是分别计算样本与各个总体的距离（马氏距离），将距离近的判别为一类。
①两个总体的距离判别问题设有协方差矩阵∑相等的两个总体G 1和G 2，其均值分别是?1和? 2，对于一个新的样品X ，要判断它来自哪个总体。
计算新样品X 到两个总体的马氏距离D 2（X ，G 1）和D 2（X ，G 2），则X ，D 2（X ，G 1） D 2（X ，G 2）X ，D 2（X ，G 1）> D 2（X ，G 2， 具体分析，记()()W '=-X αX μ 则判别规则为 X ，W(X) X ，W(X)<0②多个总体的判别问题。
设有k 个总体k G G G ,,,21 ，其均值和协方差矩阵分别是和k ΣΣΣ,,,21 ，且ΣΣΣΣ====k 21。
计算样本到每个总体的马氏距离，到哪个总体的距离最小就属于哪个总体。
具体分析，21(,)()()D G ααα-'=--X X μΣX μ取ααμΣI 1-=，αααμΣμ121-'-=C ，k ,,2,1 =α。
模式识别——贝叶斯判别硕4080 3114315011 李尧一、实验目的1．理解贝叶斯判别原则，编写两类正态分布模式的贝叶斯分类程序； 2．了解正态分布模式的贝叶斯分类判别函数； 3．通过实验，统计贝叶斯判别的正确率。
二、实验原理（1）贝叶斯判别原则对于两类模式集的分类，就是要确定x 是属于1ω类还是2ω类，这要看x 来自1ω类的概率大还是来自2ω类的概率大，根据概率的判别规则，可以得到： 如果)|()|(21x P x P ωω> 则 1ω∈x如果)|()|(21x P x P ωω< 则 2ω∈x （1.1） 利用贝叶斯定理，可得 )()()|()|(x p P x p x P i i i ωωω=式中，)|(i x p ω亦称似然函数。
把该式代入（1.1）式，判别规则可表示为： )()|()()|(2211ωωωωP x p P x p > 则 1ω∈x )()|()()|(2211ωωωωP x p P x p < 则 2ω∈x 或写成： )()()|()|()(122112ωωωωP P x p x p x l >=则 1ω∈x)()()|()|()(122112ωωωωP P x p x p x l <=则 2ω∈x （1.2）这里，12l 称为似然比，2112)()(θωω=P P 称为似然比的判决阈值。
该式称为贝叶斯判别。
（2）正态分布模式的贝叶斯分类器判别原理具有M 种模式类别的多变量正态分布的概率密度函数为：)]()(21exp[)2(1)|(1212i i T i in i m x C m x C x P ---=-πω 2,1=i （1.3）式中，x 是n 维列向量； i m 是n 维均值向量； i C 是n n ⨯协方差矩阵；i C 为矩阵i C 的行列式。
且有 {}i i m E x =； ()(){}Ti i i i m x m x E C --=；{}iE x 表示对类别属于i ω的模式作数学期望运算。
距离判别法、贝叶斯判别法和费歇尔判别法的比较分析距离判别法、贝叶斯判别法和费歇尔判别法是三种常见的判别方法，用于对数据进行分类和判别。
本文将对这三种方法进行比较分析，探讨它们的原理、特点和适用范围，以及各自的优势和局限性。
1. 距离判别法距离判别法是一种基于样本间距离的判别方法。
它的核心思想是通过计算待分类样本与各个已知类别样本之间的距离，将待分类样本归入距离最近的类别。
距离判别法常用的距离度量有欧氏距离、曼哈顿距离和马氏距离等。
优势：- 简单直观，易于理解和实现。
- 不依赖于概率模型，适用于各种类型的数据。
- 对异常值不敏感，具有较好的鲁棒性。
局限性：- 忽略了各个特征之间的相关性，仅考虑样本间的距离，可能导致分类效果不佳。
- 对数据的分布假设较强，对非线性分类问题表现较差。
- 对特征空间中的边界定义不明确。
2. 贝叶斯判别法贝叶斯判别法是一种基于贝叶斯理论的判别方法。
它通过建立样本的概率模型，计算待分类样本的后验概率，将其归入后验概率最大的类别。
贝叶斯判别法常用的模型包括朴素贝叶斯和高斯混合模型等。
优势：- 考虑了样本的先验概率和类条件概率，能够更准确地对样本进行分类。
- 可以灵活应用不同的概率模型，适用范围广。
- 在样本量不充足时，具有较好的鲁棒性和泛化能力。
局限性：- 对特征分布的假设较强，对非线性和非正态分布的数据表现较差。
- 需要估计大量的模型参数，对数据量要求较高。
- 对特征空间中的边界定义不明确。
3. 费歇尔判别法费歇尔判别法是一种基于特征选择的判别方法。
它通过选择能够最好地区分不同类别的特征，建立判别函数进行分类。
费歇尔判别法常用的特征选择准则有卡方检验、信息增益和互信息等。
优势：- 基于特征选择，能够提取最具有判别性的特征，减少了特征维度，提高了分类性能。
- 不对数据分布做假设，适用于各种类型的数据。
- 可以灵活选择不同的特征选择准则，满足不同的需求。
局限性：- 特征选择的结果可能受到特征相关性和重要性的影响，选择不准确会导致分类效果下降。
Bayes 判别分析及应用班级：计算B101姓名：孔维文 学号201009014119指导老师：谭立云教授【摘 要】判别分析是根据所研究个体的某些指标的观测值来推断该个体所属类型的一种统计方法，在社会生产和科学研究上应用十分广泛。
在判别分析之前，我们往往已对各总体有一定了解，样品的先验概率也对其预测起到一定作用，因此进行判别时应考虑到各个总体出现的先验概率；由于在实际问题中，样品错判后会造成一定损失，故判别时还要考虑到预报的先验概率及错判造成的损失，Bayes 判别就具有这些优点；然而当样品容量大时计算较复杂，故而常借助统计软件来实现。
本文着重于Bayes 判别分析的应用以及SPSS 的实现。
【关键词 】 判别分析 Bayes 判别 Spss 实现 判别函数 判别准则Class: calculation B101 name: KongWeiWen registration number 201009014119Teacher: TanLiYun professor.【Abstract 】Discriminant analysis is based on the study of certain indicators of individual observations to infer that the individual belongs as a type of statistical methods in social production and scientific research is widely used. In discriminant analysis, we often have a certain understanding of the overall sample of the a priori probability of its prediction play a role, it should be taken into account to determine the overall emergence of various prior probability; because of practical problems, samples will result in some loss of miscarriage of justice, so identification must be considered when the prior probability and wrongly predicted loss, Bayes discriminant to have these advantages; However, when the sample is large computing capacity of more complex, often using statistical software Guer to achieve. This article focuses on the application of Bayes discriminant analysis, and implementation of SPSS.【Key words 】 Discriminant analysis; Bayes discriminant; Spss achieve; Discriminantfunction; Criteria;1.1.1 判别分析的概念在科学研究中，经常会遇到这样的问题：某研究对象以某种方式（如先前的结果或经验）已划分成若干类型，而每一种类型都是用一些指标T p X X X X ),,(21 来表征的，即不同类型的X 的观测值在某种意义上有一定的差异。
