第四章判别分析
习题4.8
（1）根据数据建立贝叶斯判别函数，并根据此判别函数对原样本进行回判。
（2）现有一新品牌的饮料在该超市试销，其销售价格为3.0，顾客对其口味评分为8，信任度评分平均为5，试预测该饮料的销售情况。
将数据导入SPSS，分析得到以下结果：
1.典型判别函数的特征函数的特征值表
表1-1 特征值表
表1-1所示是典型判别函数的特征值表，只有两个判别函数，所以特征值只有2个。函数1的特征值为17.791，函数2的特征值为0.720，判别函数的特征值越大，说明函数越具有区别判断力。函数1方差的累积贡献率高达96.1%，且典型相关系数为0.973，而函数2方差的贡献率仅为3.9%，典型相关系数为0.647。由此，说明函数1的区别判断力比函数2的强，函数1更具有区别判断力。
2.Wilks检验结果
表1-2 Wilks 的Lambda
上表中判别函数1和判别函数2的Wilks’Lambda值为0.031，判别函数2的Wilks’Lambda值为0.581。“1到2”表示两个判别函数的平均数在三个类间的差异情况，P值=0.002<0.05表示差异达到显著水平“2”表示在排除了第一个判别函数后，第二个判别函数在三个组别间的差异情况，P值=0.197>0.05表示判别函数2未达到显著水平。
3.建立贝叶斯判别函数
表1-3 贝叶斯判别法函数系数
上表为贝叶斯判别函数的系数矩阵，用数学表达式表示各类的贝叶斯判别函数为：
第一组：
F1=-81.843-11.689X1+12.97X2+16.761X3
第二组：
F2=-94.536-10.707X1+13.361X2+17.086X3
第三组：
F3=-17.499-2.194X1+4.960X2+6.447X3
将新品牌饮料样品的自变量值分别代入上述三个贝叶斯判别函数，得到三个函数值为：
F1=65.271，F2=65.661，F3=47.884
比较三个值，可以看出F2=65.661最大，据此得出新品牌饮料样品应该属于第二组，即该饮料的销售情况为平销。
4.个案观察结果表
表1-4 个案观察结果表
3 1 1 0.531 2 0.97
4 1.268 1.153 -1.528
4 1 2**0.734 2 0.714 0.619 1.948 0.791
5 2 1**0.535 2 0.633 1.249 1.394 0.176
6 2 2 0.951 2 0.822 0.1 2.954 0.721
7 2 2 0.342 2 0.985 2.148 3.816 1.911
8 3 3 0.26 2 1 2.695 -4.112 -0.961
9 3 3 0.538 2 1 1.239 -6.386 0.548
10 3 3 0.811 2 1 0.418 -5.613 0.693
11 未分
组的
2 0.165 2 0.597 3.598 0.825 0.969
表1-4所示为原始数据逐一回代的判别结果和预测分类的结果显示，其中畅销组有1个样品被判错（标注**者，产品序号为4），平销组有1个样品被判错（标注**者，产品序号为5）。通过预测得知新品牌饮料的销售情况为平销。
习题4.9
（1）根据样本资料分别用距离判别法、贝叶斯判别法和费希尔判别法建立判别函数和判别规则。（2）某客户的如上情况资料为，（53,1,9,18,50,11,20,2.02，3.58）对其进行信用好坏的判别。
将数据导入SPSS，分析得到以下结果：
1.典型判别函数的特征函数的特征值表
表2-1 特征值表
表2-1所示是典型判别函数的特征值表，只有1个判别函数，所以特征值只有1个。函数1的特征值为8.145。函数1方差的累积贡献率为100%，典型相关系数为0.944。由此，说明对于两类总体的判别只需一个判别函数就可以对样品进行分类。
2.Wilks检验结果
表1-2 Wilks 的Lambda
上表中判别函数1的Wilks’Lambda值为0.109，P值=0.355>0.05表示判别函数1未达到显著水平。
3.建立费希尔判别函数
表2-3（a）未标准化的典型判别函数系数
由表2-3(a)可知，费希尔判别函数为：
y=-11.337-0.047X1+7.083X2+0.195X3-0.367X4+0.028X5
+0.783X6+0.833X7-2.613X8
将待判样品的自变量值代入上述判别函数，得y=-9.059
表2-3（b）组重心处的费希尔判别函数值
如表2-3（b）所示，实际上为两类别重心在空间中的坐标位置，因为由费希尔判别函数计算得，待判样品的费希尔判别函数值为y=-9.059，所以待判样品属于第一组，即该客户的信用判定为已履行还贷责任，信用较好。
4.建立贝叶斯判别函数
表2-4 贝叶斯判别法函数系数
上表为贝叶斯判别函数的系数矩阵，用数学表达式表示各类的贝叶斯判别函数为：
第一组：
F1=-117.963+0.239X1+99.051X2+1.472X3-5.159X4
+2.794X5+14.067X6-7.916X7-40.212X8
第二组：
F2=-175.844+0.001X1+135.212X2+2.47X3-7.033X4
+2.938X5+18.064X6-3.665X7-53.55X8
将待判样品的自变量值分别代入上述两个贝叶斯判别函数，得到两个函数值为：
F1=51.442，F2=5.1615
比较两个值，可以看出51.442>5.1615，据此得出待判样品应该属于第一组，即该客户的信用判定为已履行还贷责任，信用较好。
5. 个案观察结果表
表2-5 个案观察结果表
表2-5所示为个案观察结果表，表中实际组和预测组的判别结果相同，说明个样品没有判错的，判别的准确率较高。用马氏距离对待判样品进行判别，可得，到质心的平方Mahalanobis 距离为42.336，待判样品属于第一组，从而，说明该客户的信用判定为已履行还贷责任，信用较好。
习题4.10
试用距离判别法建立判别函数，并根据此判别函数对原样本进行回判。
将数据导入SPSS，分析得到以下结果：
1.典型判别函数的特征函数的特征值表
表3-1 特征值表
表3-5所示是典型判别函数的特征值表，只有两个判别函数，所以特征值只有2个。函数1的特征值为3.044，函数2的特征值为0.207，判别函数的特征值越大，说明函数越具有区别判断力。函数1方差的累积贡献率高达93.6%，且典型相关系数为0.868，而函数2方差的贡献率仅为6.4%，典型相关系数为0.414。由此，说明函数1的区别判断力比函数2的强，函数1更具有区别判断力。2.Wilks检验结果
表1-2 Wilks 的Lambda
上表中判别函数1和判别函数2的Wilks’Lambda值为0.205，判别函数2的Wilks’Lambda值为0.828。“1到2”表示两个判别函数的平均数在三个类间的差异情况，P值=0.034<0.05表示差异达到显著水平，“2”表示在排除了第一个判别函数后，第二个判别函数在三个组别间的差异情况，P值=0.577>0.05表示判别函数2未达到显著水平。
3.建立费希尔判别函数
表3-3（a）为未标准化的典型判别函数系数
由表2-3(a)可知，费希尔判别函数为：
y1=-8.784+0.01X1+0.04X2+0.176X3-0.031X4
y2=5.448-0.004X1-0.055X2+0.16X3+0.062X4
表3-3（b）组重心处的费希尔判别函数值
如表3-3（b）所示，实际上为各类别重心在空间中的坐标位置。根据计算出各观测值的具体位置和它们分别离各重心的距离，判别它们所属的类别。
4.建立贝叶斯判别函数
表2-4 贝叶斯判别法函数系数
上表为贝叶斯判别函数的系数矩阵，用数学表达式表示各类的贝叶斯判别函数为：
第一组：
F1=-79.212+0.164X1+0.753X2+0.778X3+0.073X4
第二组：
F2=-46.721+0.13X1+0.595X2+0.317X3+0.012X4
第三组：
F3=-49.598+0.13X1+0.637X2+0.1X3-0.059X4
将个样品自变量的值代入上述三个贝叶斯判别函数，得到三个函数值。比较这三个函数值，哪个函数值比较大就可以判断该样品判入哪一类。
5. 个案观察结果表
表3-5 个案观察结果表
表3-5所示为原始数据逐一回代的判别结果和预测分类的结果显示，其中胃
癌患者组有1个病人被判错（标注**者，病人序号为4），实际为胃癌患者，预测分类时被判为非胃炎患者；萎缩性胃炎患者组有1个病人被判错（标注**者，病人序号为8），实际为萎缩性胃炎患者，预测分类时被判为非胃炎患者；非胃炎患者组也有1个病人被判错（标注**者，病人序号为11），实际为非胃炎患者，预测分类时被判为萎缩性胃炎患者。
练习题 一、填空题 1．人们通过各种实践，发现变量之间的相互关系可以分成（相关）和（不相关）两种类型。多元统计中常用的统计量有：样本均值、样本方差、样本协方差和样本相关系数。 2．总离差平方和可以分解为（回归离差平方和）和（剩余离差平方和）两个部分，其中（回归离差平方和）在总离差平方和中所占比重越大，则线性回归效果越显著。3．回归方程显著性检验时通常采用的统计量是（S R/p）/[S E/（n-p-1）]。 4．偏相关系数是指多元回归分析中，（当其他变量固定时，给定的两个变量之间的）的相关系数。 5．Spss中回归方程的建模方法有（一元线性回归、多元线性回归、岭回归、多对多线性回归）等。 6．主成分分析是通过适当的变量替换，使新变量成为原变量的（线性组合），并寻求（降维）的一种方法。 7．主成分分析的基本思想是（设法将原来众多具有一定相关性（比如P个指标），重新组合成一组新的互相无关的综合指标来替代原来的指标）。 8．主成分表达式的系数向量是（相关系数矩阵）的特征向量。 9．样本主成分的总方差等于（1）。 10．在经济指标综合评价中，应用主成分分析法，则评价函数中的权数为（方差贡献度）。主成分的协方差矩阵为（对称）矩阵。主成分表达式的系数向量是（相关矩阵特征值）的特征向量。 11．SPSS中主成分分析采用（analyze—data reduction—facyor）命令过程。 12．因子分析是把每个原始变量分解为两部分因素，一部分是（公共因子），另一部分为（特殊因子）。 13．变量共同度是指因子载荷矩阵中（第i行元素的平方和）。 14．公共因子方差与特殊因子方差之和为（1）。 15．聚类分析是建立一种分类方法，它将一批样品或变量按照它们在性质上的（亲疏程度）进行科学的分类。 16．Q型聚类法是按（样品）进行聚类，R型聚类法是按（变量）进行聚类。 17．Q型聚类统计量是（距离），而R型聚类统计量通常采用（相关系数）。 18．六种Q型聚类方法分别为（最长距离法）、（最短距离法）、（中间距离法）、（类平均法）、（重心法）、（离差平方和法）。 19．快速聚类在SPSS中由（k-均值聚类（analyze—classify—k means cluster））过程实现。 20．判别分析是要解决在研究对象已（已分成若干类）的情况下，确定新的观测数据属于已知类别中哪一类的多元统计方法。 21．用判别分析方法处理问题时，通常以（判别函数）作为衡量新样本点与各已知组别接近程度的指标。 22．进行判别分析时，通常指定一种判别规则，用来判定新样本的归属，常见的判别准则有（Fisher准则）、（贝叶斯准则）。 23．类内样本点接近，类间样本点疏远的性质，可以通过（类与类之间的距离）与（类内样本的距离）的大小差异表现出来，而两者的比值能把不同的类区别开来。这个比值越大，说明类与类间的差异越（类与类之间的距离越大），分类效果越（好）。24．Fisher判别法就是要找一个由p个变量组成的（线性判别函数），使得各自组内点的
第九章 典型相关分析 9.1 什么是典型相关分析？简述其基本思想。 答： 典型相关分析是研究两组变量之间相关关系的一种多元统计方法。用于揭示两组变量之间的内在联系。典型相关分析的目的是识别并量化两组变量之间的联系。将两组变量相关关系的分析转化为一组变量的线性组合与另一组变量线性组合之间的相关关系。 基本思想： （1）在每组变量中找出变量的线性组合，使得两组的线性组合之间具有最大的相关系数。即： 若设(1) (1)(1) (1)12(,, ,)p X X X =X 、(2)(2)(2) (2) 12(,, ,)q X X X =X 是两组相互关联的随机变量， 分别在两组变量中选取若干有代表性的综合变量Ui 、Vi ，使是原变量的线性组合。 在(1)(1)(1)(2)()()1D D ''==a X b X 的条件下，使得(1)(1)(1)(2)(,)ρ''a X b X 达到最大。（2）选取和最初挑选的这对线性组合不相关的线性组合，使其配对，并选取相关系数最大的一对。 （3）如此继续下去，直到两组变量之间的相关性被提取完毕为此。 9.2 什么是典型变量？它具有哪些性质？ 答：在典型相关分析中，在一定条件下选取系列线性组合以反映两组变量之间的线性关系，这被选出的线性组合配对被称为典型变量。具体来说， ()(1)()(1) ()(1) ()(1)1122i i i i i P P U a X a X a X '=++ +a X ()(2)()(2) ()(2) ()(2)1122i i i i i q q V b X b X b X '=+++b X 在(1)(1)(1)(2)()()1D D ''==a X b X 的条件下，使得(1)(1)(1)(2)(,)ρ''a X b X 达到最大，则称 (1)(1)'a X 、(1)(2)'b X 是(1)X 、(2)X 的第一对典型相关变量。 典型变量性质： 典型相关量化了两组变量之间的联系，反映了两组变量的相关程度。 1. ()1,()1 (1,2,,)k k D U D V k r === (,)0,(,)0()i j i j Cov U U Cov V V i j ==≠ 2. 0(,1,2,,) (,)0 ()0() i i j i j i r Cov U V i j j r λ≠==?? =≠??>? 9.3 试分析一组变量的典型变量与其主成分的联系与区别。 答：一组变量的典型变量和其主成分都是经过线性变换计算矩阵特征值与特征向量得出的。主成分分析只涉及一组变量的相互依赖关系而典型相关则扩展到两组变量之间的相互依赖关系之中 ()(1)()(1)()(1)()(1) 1122i i i i i P P U a X a X a X '=+++a X ()(2)()(2)()(2)()(2)1122i i i i i q q V b X b X b X '=+++b X (1)(1)(1)(1)1 2 (,,,)p X X X =X 、(2)(2)(2)(2)1 2 (,,,)q X X X =X
一、填空题（20分） 1、若),2,1(),,(~)(n N X p 且相互独立，则样本均值向量X 服从的分布 为 2、变量的类型按尺度划分有_间隔尺度_、_有序尺度_、名义尺度_。 3、判别分析是判别样品 所属类型 的一种统计方法，常用的判别方法有__距离判别法_、Fisher 判别法、Bayes 判别法、逐步判别法。 4、Q 型聚类是指对_样品_进行聚类，R 型聚类是指对_指标(变量)_进行聚类。 5、设样品),2,1(,),,(' 21n i X X X X ip i i i ，总体),(~ p N X ，对样品进行分类常用的距离 2 ()ij d M )()(1j i j i x x x x ，兰氏距离()ij d L 6、因子分析中因子载荷系数ij a 的统计意义是_第i 个变量与第j 个公因子的相关系数。 7、一元回归的数学模型是： x y 10，多元回归的数学模型是： p p x x x y 22110。 8、对应分析是将 R 型因子分析和Q 型因子分析结合起来进行的统计分析方法。 9、典型相关分析是研究两组变量之间相关关系的一种多元统计方法。 二、计算题（60分） 1、设三维随机向量),(~3 N X ，其中 200031014，问1X 与2X 是否独立？),(21 X X 和3X 是否独立？为什么？ 解： 因为1),cov(21 X X ，所以1X 与2X 不独立。 把协差矩阵写成分块矩阵 22211211，),(21 X X 的协差矩阵为11 因为12321),),cov(( X X X ，而012 ，所以),(21 X X 和3X 是不相关的，而正态分布不相关与相互
习题五 1 试检验不同日期生产的钢锭的平均重量有无显著差异？（=0.05） 解 根据问题，因素A 表示日期，试验指标为钢锭重量，水平为5. 假设样本观测值(1,2,3,4)ij y j =来源于正态总体2 ~(,),1,2,...,5i i Y N i μσ= . 检验的问题：01251:,:i H H μμμμ===不全相等 . 计算结果： 表5.1 单因素方差分析表 ‘*’ . 查表0.95(4,15) 3.06F =，因为0.953.9496(4,15)F F =>，或p = 0.02199<0.05， 所以拒绝0H ，认为不同日期生产的钢锭的平均重量有显著差异. 2 考察四种不同催化剂对某一化工产品的得率的影响，在四种不同催化剂下分别做试验 试检验在四种不同催化剂下平均得率有无显著差异？（=0.05） 解 根据问题，设因素A 表示催化剂，试验指标为化工产品的得率，水平为4 . 假设样本观测值(1,2,...,)ij i y j n =来源于正态总体2 ~(,),1,2,...,5i i Y N i μσ= .其中
样本容量不等，i n 分别取值为6，5，3，4 . 检验的问题：012341:,:i H H μμμμμ===不全相等 . 计算结果： 表5.2 单因素方差分析表 查表0.95(3,14) 3.34F =，因为0.952.4264(3,14)F F =<，或p = 0.1089 > 0.05， 所以接受0H ，认为在四种不同催化剂下平均得率无显著差异 . 3 试验某种钢的冲击值（kg ×m/cm2），影响该指标的因素有两个，一是含铜量A ， 试检验含铜量和试验温度是否会对钢的冲击值产生显著差异？（=0.05） 解 根据问题，这是一个双因素无重复试验的问题，不考虑交互作用. 设因素,A B 分别表示为含铜量和温度，试验指标为钢的冲击力，水平为12. 假设样本观测值(1,2,3,1,2,3,4)ij y i j ==来源于正态总体2 ~(,),1,2,3,ij ij Y N i μσ= 1,2,3,4j = .记i α?为对应于i A 的主效应；记j β?为对应于j B 的主效应； 检验的问题：（1）10:i H α?全部等于零，11 :i H α?不全等于零； （2）20:j H β?全部等于零，21:j H β?不全等于零； 计算结果： 表5.3 双因素无重复试验的方差分析表 查表0.95(2,6) 5.143F =，0.95(3,6) 4.757F =，显然计算值,A B F F 分别大于查表值， 或p = 0.0005，0.0009 均显著小于0.05，所以拒绝1020,H H ，认为含铜量和试验温度都会对钢的冲击值产生显著影响作用. 4 下面记录了三位操作工分别在四台不同的机器上操作三天的日产量：
第五章 聚类分析 判别分析和聚类分析有何区别 答：即根据一定的判别准则，判定一个样本归属于哪一类。具体而言，设有n 个样本，对每个样本测得p 项指标（变量）的数据，已知每个样本属于k 个类别（或总体）中的某一类，通过找出一个最优的划分，使得不同类别的样本尽可能地区别开，并判别该样本属于哪个总体。聚类分析是分析如何对样品（或变量）进行量化分类的问题。在聚类之前，我们并不知道总体，而是通过一次次的聚类，使相近的样品（或变量）聚合形成总体。通俗来讲，判别分析是在已知有多少类及是什么类的情况下进行分类，而聚类分析是在不知道类的情况下进行分类。 试述系统聚类的基本思想。 答：系统聚类的基本思想是：距离相近的样品（或变量）先聚成类，距离相远的后聚成类，过程一直进行下去，每个样品（或变量）总能聚到合适的类中。 对样品和变量进行聚类分析时， 所构造的统计量分别是什么简要说明为什么这样构造 答：对样品进行聚类分析时，用距离来测定样品之间的相似程度。因为我们把n 个样本看作p 维空间的n 个点。点之间的距离即可代表样品间的相似度。常用的距离为 （一）闵可夫斯基距离：1/1 ()() p q q ij ik jk k d q X X ==-∑ q 取不同值，分为 （1）绝对距离（1q =） 1 (1)p ij ik jk k d X X ==-∑ （2）欧氏距离（2q =） 21/2 1 (2)() p ij ik jk k d X X ==-∑ （3）切比雪夫距离（q =∞） 1()max ij ik jk k p d X X ≤≤∞=- （二）马氏距离 （三）兰氏距离 对变量的相似性，我们更多地要了解变量的变化趋势或变化方向，因此用相关性进行衡量。 将变量看作p 维空间的向量，一般用 2 1()()()ij i j i j d M -'=--X X ΣX X 11()p ik jk ij k ik jk X X d L p X X =-=+∑
22121212121 ~(,),(,),(,),, 1X N X x x x x x x ρμμμμσρ ?? ∑==∑= ??? +-1、设其中则Cov(,)=____. 10 31 2~(,),1,,10,()()_________i i i i X N i W X X μμμ=' ∑=--∑L 、设则=服从。 ()1 2 34 433,4 92, 3216___________________ X x x x R -?? ?'==-- ? ?-? ? =∑、设随机向量且协方差矩阵则它的相关矩阵 4、 __________， __________， ________________。 215,1,,16(,),(,)15[4()][4()]~___________i p p X i N X A N T X A X μμμμ-=∑∑'=--L 、设是来自多元正态总体和分别为正态总体的样本均值和样本离差矩阵,则。 12332313116421(,,)~(,),(1,0,2),441, 2142X x x x N x x x x x μμ-?? ?'=∑=-∑=-- ? ?-?? -?? + ??? 、设其中试判断与是否独立？ (), 1 2 3设X=x x x 的相关系数矩阵通过因子分析分解为 211X h = 的共性方差111X σ= 的方差21X g = 1公因子f 对的贡献1213 30.93400.1280.9340.4170.8351100.4170.8940.02700.8940.44730.8350.4470.10320 13 R ? ? - ????? ? -?? ? ? ?=-=-+ ? ? ? ??? ? ? ????? ? ???
一、判断题 （ 对 ）112(,,,)p X X X X '=L 的协差阵一定是对称的半正定阵 （ 对 ）2标准化随机向量的协差阵与原变量的相关系数阵相同。 （ 对）3典型相关分析是识别并量化两组变量间的关系，将两组变量的相关关系 的研究转化为一组变量的线性组合与另一组变量的线性组合间的相关关系的研究。 （ 对 ）4多维标度法是以空间分布的形式在低维空间中再现研究对象间关系的数据分析方法。 （ 错）5),(~),,,(21∑'=μp p N X X X X Λ，,X S 分别是样本均值和样本离差阵，则, S X n 分别是,μ∑的无偏估计。 （ 对）6),(~),,,(21∑'=μp p N X X X X Λ，X 作为样本均值μ的估计，是 无偏的、有效的、一致的。 （ 错）7 因子载荷经正交旋转后，各变量的共性方差和各因子的贡献都发生了变化 （ 对）8因子载荷阵()ij A a =中的ij a 表示第i 个变量在第j 个公因子上的相对重要性。 （ 对 ）9 判别分析中，若两个总体的协差阵相等，则Fisher 判别与距离判别等 价。 （对）10距离判别法要求两总体分布的协差阵相等，Fisher 判别法对总体的分布无特定的要求。 二、填空题 1、多元统计中常用的统计量有：样本均值向量、样本协差阵、样本离差阵、样本相关系数矩阵． 2、设∑是总体1(,,)m X X X =L 的协方差阵，∑的特征根(1,,)i i m λ=L 与相应的单 位正交化特征向量 12(,,,)i i i im a a a α=L ，则第一主成分的表达式是 11111221m m y a X a X a X =+++L ，方差为 1λ。 3设∑是总体1234(,,,)X X X X X =的协方差阵，∑的特征根和标准正交特征向量分别 为：' 112.920(0.1485,0.5735,0.5577,0.5814)U λ==--- ' 221.024(0.9544,0.0984,0.2695,0.0824)U λ==- '330.049(0.2516,0.7733,0.5589,0.1624)U λ==--
第七章 因子分析 7.1 试述因子分析与主成分分析的联系与区别。 答：因子分析与主成分分析的联系是：①两种分析方法都是一种降维、简化数据的技术。②两种分析的求解过程是类似的，都是从一个协方差阵出发，利用特征值、特征向量求解。因子分析可以说是主成分分析的姐妹篇，将主成分分析向前推进一步便导致因子分析。因子分析也可以说成是主成分分析的逆问题。如果说主成分分析是将原指标综合、归纳，那么因子分析可以说是将原指标给予分解、演绎。 因子分析与主成分分析的主要区别是：主成分分析本质上是一种线性变换，将原始坐标变换到变异程度大的方向上为止，突出数据变异的方向，归纳重要信息。而因子分析是从显在变量去提炼潜在因子的过程。此外，主成分分析不需要构造分析模型而因子分析要构造因子模型。 7.2 因子分析主要可应用于哪些方面？ 答：因子分析是一种通过显在变量测评潜在变量，通过具体指标测评抽象因子的统计分析方法。目前因子分析在心理学、社会学、经济学等学科中都有重要的应用。具体来说，①因子分析可以用于分类。如用考试分数将学生的学习状况予以分类；用空气中各种成分的比例对空气的优劣予以分类等等②因子分析可以用于探索潜在因素。即是探索未能观察的或不能观测的的潜在因素是什么，起的作用如何等。对我们进一步研究与探讨指示方向。在社会调查分析中十分常用。③因子分析的另一个作用是用于时空分解。如研究几个不同地点的不同日期的气象状况，就用因子分析将时间因素引起的变化和空间因素引起的变化分离开来从而判断各自的影响和变化规律。 7.3 简述因子模型中载荷矩阵A 的统计意义。 答：对于因子模型 1122i i i ij j im m i X a F a F a F a F ε=++++ ++ 1,2, ,i p = 因子载荷阵为11 12121 22212 1 2 (,, ,)m m m p p pm a a a a a a A A A a a a ????? ?==???????? A i X 与j F 的协方差为： 1Cov(,)Cov(,)m i j ik k i j k X F a F F ε==+∑ =1 Cov( ,)Cov(,)m ik k j i j k a F F F ε=+∑ =ij a
习题三 1 正常情况下，某炼铁炉的铁水含碳量2 (4.55,0.108)X N :.现在测试了5炉铁水，其含碳量分别为4.28，4.40，4.42，4.35，4.37. 如果方差没有改变，问总体的均值有无显著变化？如果总体均值没有改变，问总体方差是否有显著变化（0.05α=）？ 解 由题意知 2~(4.55,0.108),5,0.05X N n α==，1/20.975 1.96u u α-==，设立统计原假设 0010:,:H H μμμμ=≠ 拒绝域为 {}00K x c μ=->，临界值 1/2 1.960.108/0.0947c u α-==?=， 由于 0 4.364 4.550.186x c μ-=-=>，所以拒绝0H ，总体的均值有显著性变化. 设立统计原假设 2222 0010:,:H H σσσσ=≠ 由于0μμ=，所以当0.05α=时 22220.0250.9751 1()0.03694,(5)0.83,(5)12.83,n i i S X n μχχ==-===∑% 2210.02520.975(5)/50.166,(5)/5 2.567c c χχ==== 拒绝域为 {} 222200201//K s c s c σσ=><%%或 由于22 0/ 3.167 2.567S σ=>%，所以拒绝0H ，总体的方差有显著性变化. 2 一种电子元件，要求其寿命不得低于1000h .现抽测25件，得其均值为x =950h .已知该种元件寿命2(100,)X N σ:，问这批元件是否合格（0.05α=）？ 解 由题意知 2(100,)X N σ:，设立统计原假设 0010:,:,100.0.05.H H μμμμσα≥<== 拒绝域为 {}00K x c μ=-> 临界值为 0.050.0532.9c u u =?=?=- 由于 050x c μ-=-<，所以拒绝0H ，元件不合格. 3 某食品厂用自动装罐机装罐头食品，每罐标准重量为500g ，现从某天生产的罐头中随机抽测9罐，其重量分别为510，505，498，503，492，502，497，506，495（g ），假定罐头重量服从正态分布. 问 (1)机器工作是否正常（0.05α=）？ 2）能
一、填空题： 1、多元统计分析是运用数理统计方法来研究解决多指标问题的理论和方法. 2、回归参数显著性检验是检验解释变量对被解释变量的影响是否著. 3、聚类分析就是分析如何对样品（或变量）进行量化分类的问题。通常聚类分析分为 Q型聚类和 R型聚类。 4、相应分析的主要目的是寻求列联表行因素A 和列因素B 的基本分析特征和它们的最优联立表示。 5、因子分析把每个原始变量分解为两部分因素：一部分为公共因子，另一部分为特殊因子。 6、若 () (,), P x N αμα∑ :=1,2,3….n且相互独立，则样本均值向量x服从的分布为_x~N(μ，Σ/n)_。 二、简答 1、简述典型变量与典型相关系数的概念，并说明典型相关分析的基本思想。在每组变量中找出变量的线性组合，使得两组的线性组合之间具有最大的相关系数。选取和最初挑选的这对线性组合不相关的线性组合，使其配对，并选取相关系数最大的一对，如此下去直到两组之间的相关性被提取完毕为止。被选出的线性组合配对称为典型变量，它们的相关系数称为典型相关系数。 2、简述相应分析的基本思想。 相应分析，是指对两个定性变量的多种水平进行分析。设有两组因素A和B，其中因素A包含r个水平，因素B包含c个水平。对这两组因素作随机抽样调查，得到一个rc的二维列联表，记为。要寻求列联表列因素A和行因素B
的基本分析特征和最优列联表示。相应分析即是通过列联表的转换，使得因素A 和因素B 具有对等性，从而用相同的因子轴同时描述两个因素各个水平的情况。把两个因素的各个水平的状况同时反映到具有相同坐标轴的因子平面上，从而得到因素A 、B 的联系。 3、简述费希尔判别法的基本思想。 从k 个总体中抽取具有p 个指标的样品观测数据，借助方差分析的思想构造一个线性判别函数 系数： 确定的原则是使得总体之间区别最大，而使每个总体内部的离差最小。将新样品的p 个指标值代入线性判别函数式中求出 值，然后根据判别一定的规则，就可以判别新的样品属于哪个总体。 5、简述多元统计分析中协差阵检验的步骤 第一，提出待检验的假设 和H1； 第二，给出检验的统计量及其服从的分布； 第三，给定检验水平，查统计量的分布表，确定相应的临界值，从而得到否定域； 第四，根据样本观测值计算出统计量的值，看是否落入否定域中，以便对待判假设做出决策（拒绝或接受）。 协差阵的检验 检验0 ΣΣ
第一章： 多元统计分析研究的内容（5点） 1、简化数据结构（主成分分析） 2、分类与判别（聚类分析、判别分析） 3、变量间的相互关系（典型相关分析、多元回归分析） 4、多维数据的统计推断 5、多元统计分析的理论基础 第二三章： 二、多维随机变量的数字特征 1、随机向量的数字特征 随机向量X 均值向量： 随机向量X 与Y 的协方差矩阵： 当X=Y 时Cov （X ，Y ）=D （X ）；当Cov （X ，Y ）=0 ，称X ，Y 不相关。 随机向量X 与Y 的相关系数矩阵： )',...,,(),,,(2121P p EX EX EX EX μμμ='=Λ)')((),cov(EY Y EX X E Y X --=q p ij r Y X ?=)(),(ρ
2、均值向量协方差矩阵的性质 (1).设X ，Y 为随机向量，A ，B 为常数矩阵 E （AX ）=AE （X ）； E （AXB ）=AE （X ）B; D(AX)=AD(X)A ’; Cov(AX,BY)=ACov(X,Y)B ’; (2).若X ，Y 独立，则Cov(X,Y)＝０，反之不成立． (3).X 的协方差阵D(X)是对称非负定矩阵。例2.见黑板 三、多元正态分布的参数估计 2、多元正态分布的性质 (1).若 ,则E(X)= ,D(X)= . 特别地，当 为对角阵时， 相互独立。 (2).若 ，Ａ为sxp 阶常数矩阵，d 为s 阶向量， ＡＸ＋d ～ . 即正态分布的线性函数仍是正态分布． (3).多元正态分布的边缘分布是正态分布，反之不成立． (4).多元正态分布的不相关与独立等价． 例３．见黑板． 三、多元正态分布的参数估计 (1)“ 为来自p 元总体X 的（简单）样本”的理解---独立同截面． (2)多元分布样本的数字特征---常见多元统计量 样本均值向量 ＝ 样本离差阵Ｓ＝ 样本协方差阵Ｖ＝ S ;样本相关阵Ｒ (3) ,Ｖ分别是 和 的最大似然估计； (4)估计的性质 是 的无偏估计； ,Ｖ分别是 和 的有效和一致估计； ； Ｓ～ ， 与Ｓ相互独立； 第五章 聚类分析： 一、什么是聚类分析 ：聚类分析是根据“物以类聚”的道理，对样品或指标进行分类的一种多元统计分析方法。用于对事物类别不清楚，甚至事物总共可能有几类都不能确定的情况下进行事物分类的场合。聚类方法：系统聚类法（直观易懂）、动态聚类法（快）、有序聚类法（保序）...... Q-型聚类分析（样品）R-型聚类分析（变量） 变量按照测量它们的尺度不同，可以分为三类：间隔尺度、有序尺度、名义尺度。 二、常用数据的变换方法:中心化变换、标准化变换、极差正规化变换、对数变换（优缺点） 1、中心化变换（平移变换）：中心化变换是一种坐标轴平移处理方法，它是先求出每个变量的样本平均值，再从原始数据中减去该变量的均值，就得到中心化变换后的数据。不改变样本间的相互位置，也不改变变量间的相关性。 2、标准化变换：首先对每个变量进行中心化变换，然后用该变量的标准差进行标准化。 经过标准化变换处理后，每个变量即数据矩阵中每列数据的平均值为0，方差为1，且也不再具有量纲，同样也便于不同变量之间的比较。 3、极差正规化变换（规格化变换）：规格化变换是从数据矩阵的每一个变量中找出其最大值和最小值，这两者之差称为极差，然后从每个变量的每个原始数据中减去该变量中的最小值，再除以极差。经过规格化变换后，数据矩阵中每列即每个变量的最大数值为1，最小数值为0，其余数据取值均在0－1之间；且变换后的数据都不再具有量纲，便于不同的),(~∑μP N X μ∑μp X X X ,,,21Λ),(~∑μP N X ) ,('A A d A N s ∑+μ)()1(,, n X X ΛX )',,,(21p X X X Λ)')(()()(1X X X X i i n i --∑=n 1X μ∑μX )1,(~∑n N X P μ),1(∑-n W p X X
习题五 1 某钢厂检查一月上旬内的五天中生产的钢锭重量，结果如下：(单位：k g) 日期重旦量 1 5500 5800 5740 5710 2 5440 5680 5240 5600 4 5400 5410 5430 5400 9 5640 5700 5660 5700 10 5610 5700 5610 5400 试检验不同日期生产的钢锭的平均重量有无显著差异？ ( =0.05) 解根据问题，因素A表示日期，试验指标为钢锭重量，水平为 5. 2 假设样本观测值y j(j 123,4)来源于正态总体Y~N(i, ),i 1,2,...,5 检验的问题：H。：i 2 L 5, H i : i不全相等. 计算结果： 注释当=0.001表示非常显著，标记为*** '类似地，=0.01，0.05，分别标记为 查表F0.95(4,15) 3.06，因为F 3.9496 F0.95(4,15)，或p = 0.02199<0.05 ，所 以拒绝H。，认为不同日期生产的钢锭的平均重量有显著差异 2 考察四种不同催化剂对某一化工产品的得率的影响，在四种不同催化剂下分别做试验 解 根据问题，设因素A表示催化剂，试验指标为化工产品的得率，水平为 4 . 2 假设样本观测值y j(j 1,2,..., nJ来源于正态总体Y~N(i, ), i 1,2,...,5 .其中样本容量不等，n分别取值为6，5，3，4 .
日产量 操作工 查表 F O .95（3,14） 3.34，因为 F 2.4264 F °.95（3,14），或 p = 0.1089 > 0.05， 所以接受H 。，认为在四种不同催化剂下平均得率无显著差异 3 试验某种钢的冲击值（kg Xm/cm2 ）,影响该指标的因素有两个，一是含铜量 A ,另 一个是温度 试检验含铜量和试验温度是否会对钢的冲击值产生显著差异？ （ =0.05 ） 解 根据问题，这是一个双因素无重复试验的问题，不考虑交互作用 设因素A,B 分别表示为含铜量和温度，试验指标为钢的冲击力，水平为 12. 2 假设样本观测值y j （i 1,2,3, j 1,2,3,4）来源于正态总体 Y j ~N （j , ）,i 1,2,3, j 1,2,3,4 .记i 为对应于A 的主效应；记 j 为对应于B j 的主效应； 检验的问题：（1） H i 。： i 全部等于零，H i — i 不全等于零； （2） H 20 : j 全部等于零，H 21： j 不全等于零； 计算结果： 查表F 0.95（2,6） 5.143 ,局.95（3,6） 4.757 ,显然计算值F A , F B 分别大于查表值, 或p = 0.0005 , 0.0009均显著小于0.05，所以拒绝H i°,H 20，认为含铜量和试验温度 都会对钢的冲击值产生显著影响作用 . 4 下面记录了三位操作工分别在四台不同的机器上操作三天的日产量: 检验的问题：H 0： 1 计算结果： H i : i 不全相等
主成分分析 6.1 试述主成分分析的基本思想。 答：我们处理的问题多是多指标变量问题，由于多个变量之间往往存在着一定程度的相关性，人们希望能通过线性组合的方式从这些指标中尽可能快的提取信息。当第一个组合不能提取止。这就是主成分分析的基本思想。 6.2 主成分分析的作用体现在何处？ 答：一般说来，在主成分分析适用的场合，用较少的主成分就可以得到较多的信息量。以各个主成分为分量，就得到一个更低维的随机向量；主成分分析的作用就是在降低数据“维数” 6.3 简述主成分分析中累积贡献率的具体含义。 答：主成分分析把p 个原始变量12,, ,p X X X 的总方差()tr Σ分解成了p 个相互独立的变量p 个主成分的，忽略 一些带有较小方差的主成分将不会给总方差带来太大的影响。这里我们()m p <个主成分，则称1 1 p m m k k k k ψλλ ===∑∑ 为主成分1, ,m Y Y 的累计贡献率，累计贡献率表明1,,m Y Y 综合12,, ,p X X X 的能力。通常取m ，使得累计贡 献率达到一个较高的百分数（如85％以上）。 答：这个说法是正确的。 即原变量方差之和等于新的变量的方差之和 6.5 试述根据协差阵进行主成分分析和根据相关阵进行主成分分析的区别。 答：从相关阵求得的主成分与协差阵求得的主成分一般情况是不相同的。从协方差矩阵出发的，其结果受变量单位的影响。主成分倾向于多归纳方差大的变量的信息，对于方差小的变量就可能体现得不够，也存在“大数吃小数”的问题。实际表明，这种差异有时很大。我 6.6 已知X =()’的协差阵为 试进行主成分分析。 解：=0 计算得 当 时 ，
第 三 章 作 业 参 考 答 案 2、解：计算矩估计：2 1)1(1 ++= +?= ? αααα dx x x EX ， 令 X EX =++= 2 1αα ，解得 1 2-1?1-=X X α ； 计算极大似然估计：α α αα α)()1()1()()(1 1 1 ∏∏∏ ===+=+= = n i i n n i i n i i x x x f L )ln()1ln()(ln 1 ∏=++=?n i i x n L ααα0 )ln(1 )(ln 1 =++= ??? ∏=n i i x n L αα α 解得 ) ) ln(1(?1 2∏=+-=n i i x n α ； 将样本观测值代入，得到估计值分别为0.3077?1=α ，0.2112?2=α。 6、 解：（1）由例3.2.3可知，μ的极大似然估计分别为 X =μ ?， 05.0)(1)(=-Φ-=>μA A X P )645.1(95.0)(Φ==-Φ?μA 645 .1+=?μA ，由46页上极大似然估计的不变性可知645.1??+=μA ； （2）由例3.2.3可知，2 σμ，的极大似然估计分别为 ∑=-= =n i i X X n X 1 2 2 ) (1 ??σ μ，， 05.0)( 1)(=-Φ-=>σ μ A A X P )645.1(95.0)( Φ==-Φ?σ μ A σ μ645.1+=?A ，由46页上极大似然估计的不变性可知σμ?645.1??+=A 。 8、解：计算2 2 2 2222)()()(σσ μC n S CE X E CS X E -+ =-=-，由题意则有 2 2 2 2 μσ σ μ=-+ C n ，解得n C 1= 。
多元统计分析模拟试题（两套：每套含填空、判断各二十道） A卷 1)判别分析常用的判别方法有距离判别法、贝叶斯判别法、费歇判别法、逐步 判别法。 2)Q型聚类分析是对样品的分类，R型聚类分析是对变量_的分类。 3)主成分分析中可以利用协方差矩阵和相关矩阵求解主成分。 4)因子分析中对于因子载荷的求解最常用的方法是主成分法、主轴因子法、极 大似然法 5)聚类分析包括系统聚类法、模糊聚类分析、K-均值聚类分析 6)分组数据的Logistic回归存在异方差性，需要采用加权最小二乘估计 7)误差项的路径系数可由多元回归的决定系数算出，他们之间的关系为 P e= 1?R2 8)最短距离法适用于条形的类，最长距离法适用于椭圆形的类。 9)主成分分析是利用降维的思想，在损失很少的信息前提下，把多个指标转化 为几个综合指标的多元统计方法。 10)在进行主成分分析时，我们认为所取的m（m 第一章： 多元统计分析研究的容（5点） 1、简化数据结构（主成分分析） 2、分类与判别（聚类分析、判别分析） 3、变量间的相互关系（典型相关分析、多元回归分析） 4、多维数据的统计推断 5、多元统计分析的理论基础 第二三章： 二、多维随机变量的数字特征 1、随机向量的数字特征 随机向量X均值向量： 随机向量X与Y的协方差矩阵： 当X=Y时Cov（X，Y）=D（X）；当Cov（X，Y）=0 ，称X，Y不相关。 随机向量X与Y的相关系数矩阵： 2、均值向量协方差矩阵的性质 (1).设X，Y为随机向量，A，B 为常数矩阵 E（AX）=AE（X）； E（AXB）=AE（X）B; D(AX)=AD(X)A’; )' ,..., , ( ) , , , ( 2 1 2 1P p EX EX EX EXμ μ μ = ' = )' )( ( ) , cov(EY Y EX X E Y X- - = q p ij r Y X ? =) ( ) , (ρ Cov(AX,BY)=ACov(X,Y)B ’; (2).若X ，Y 独立，则Cov(X,Y)＝０，反之不成立． (3).X 的协方差阵D(X)是对称非负定矩阵。例2.见黑板 三、多元正态分布的参数估计 2、多元正态分布的性质 (1).若 ,则E(X)= ,D(X)= . 特别地，当 为对角阵时， 相互独立。 (2).若 ，Ａ为sxp 阶常数矩阵，d 为s 阶向量， ＡＸ＋d ～ . 即正态分布的线性函数仍是正态分布． (3).多元正态分布的边缘分布是正态分布，反之不成立． (4).多元正态分布的不相关与独立等价． 例３．见黑板． 三、多元正态分布的参数估计 (1)“ 为来自p 元总体X 的（简单）样本”的理解---独立同截面． (2)多元分布样本的数字特征---常见多元统计量 样本均值向量 ＝ 样本离差阵Ｓ＝ 样本协方差阵Ｖ＝ S ;样本相关阵Ｒ (3) ,Ｖ分别是 和 的最大似然估计； (4)估计的性质 是 的无偏估计； ,Ｖ分别是 和 的有效和一致估计； ； Ｓ～ ， 与Ｓ相互独立； 第五章 聚类分析： 一、什么是聚类分析 ：聚类分析是根据“物以类聚”的道理，对样品或指标进行分类的一种多元统计分析方法。用于对事物类别不清楚，甚至事物总共可能有几类都不能确定的情况下进行事物分类的场合。聚类方法：系统聚类法（直观易懂）、动态聚类法（快）、有序聚类法（保序）...... Q-型聚类分析（样品）R-型聚类分析（变量） 变量按照测量它们的尺度不同，可以分为三类：间隔尺度、有序尺度、名义尺度。 二、常用数据的变换方法:中心化变换、标准化变换、极差正规化变换、对数变换（优缺点） 1、中心化变换（平移变换）：中心化变换是一种坐标轴平移处理方法，它是先求出每个变量的样本平均值，再从原始数据中减去该变量的均值，就得到中心化变换后的数据。不改变样本间的相互位置，也不改变变量间的相关性。 2、标准化变换：首先对每个变量进行中心化变换，然后用该变量的标准差进行标准化。 经过标准化变换处理后，每个变量即数据矩阵中每列数据的平均值为0，方差为1，且也不再具有量纲，同样也便于不同变量之间的比较。 3、极差正规化变换（规格化变换）：规格化变换是从数据矩阵的每一个变量中找出其最大值和最小值，这两者之差称为极差，然后从每个变量的每个原始数据中减去该变量中的最小值，再除以极差。经过规格化变换后，数据矩阵中每列即每个变量的最大数值为1，最小数值为0，其余数据取值均在0－1之间；且变换后的数据都不再具有量纲，便于不同的变量之间的比较。 4、对数变换：对数变换是将各个原始数据取对数，将原始数据的对数值作为变换后的新值。它将具有指数特征的数据结构变换为线性数据结构。 三、样品间相近性的度量 研究样品或变量的亲疏程度的数量指标有两种：距离，它是将每一个样品看作p 维空),(~∑μP N X μ∑μp X X X ,,,21 ),(~∑μP N X ),('A A d A N s ∑+μ)()1(,,n X X X )',,,(21p X X X )')(()()(1X X X X i i n i --∑=n 1X μ ∑μX )1,(~∑n N X P μ),1(∑-n W p X X 应用多元统计分析课后答案 第五章 聚类分析 判别分析和聚类分析有何区别 答：即根据一定的判别准则，判定一个样本归属于哪一类。具体而言，设有n 个样本，对每个样本测得p 项指标（变量）的数据，已知每个样本属于k 个类别（或总体）中的某一类，通过找出一个最优的划分，使得不同类别的样本尽可能地区别开，并判别该样本属于哪个总体。聚类分析是分析如何对样品（或变量）进行量化分类的问题。在聚类之前，我们并不知道总体，而是通过一次次的聚类，使相近的样品（或变量）聚合形成总体。通俗来讲，判别分析是在已知有多少类及是什么类的情况下进行分类，而聚类分析是在不知道类的情况下进行分类。 试述系统聚类的基本思想。 答：系统聚类的基本思想是：距离相近的样品（或变量）先聚成类，距离相远的后聚成类，过程一直进行下去，每个样品（或变量）总能聚到合适的类中。 对样品和变量进行聚类分析时， 所构造的统计量分别是什么简要说明为什么这样构造 答：对样品进行聚类分析时，用距离来测定样品之间的相似程度。因为我们把n 个样本看作p 维空间的n 个点。点之间的距离即可代表样品间的相似度。常用的距离为 （一）闵可夫斯基距离：1/1 ()() p q q ij ik jk k d q X X ==-∑ q 取不同值，分为 （1）绝对距离（1q =） 1 (1)p ij ik jk k d X X ==-∑ （2）欧氏距离（2q =） 21/2 1 (2)() p ij ik jk k d X X ==-∑ （3）切比雪夫距离（q =∞） 1()max ij ik jk k p d X X ≤≤∞=- （二）马氏距离 （三）兰氏距离 对变量的相似性，我们更多地要了解变量的变化趋势或变化方向，因此用相关性进行衡量。 将变量看作p 维空间的向量，一般用 （一）夹角余弦 （二）相关系数 在进行系统聚类时，不同类间距离计算方法有何区别选择距离公式应遵循哪些原则 答： 设d ij 表示样品X i 与X j 之间距离，用D ij 表示类G i 与G j 之间的距离。 （1）. 最短距离法 ,min i k j r kr ij X G X G D d ∈∈= min{,}kp kq D D = （2）最长距离法 ,max i p j q pq ij X G X G D d ∈∈= 21 ()()()ij i j i j d M -'=--X X ΣX X 11()p ik jk ij k ik jk X X d L p X X =-=+∑ cos p ik jk ij X X θ= ∑ ()() p ik i jk j ij X X X X r --= ∑ ij G X G X ij d D j j i i ∈∈= ,min多元统计分析期末复习试题
应用多元统计分析课后答案
相关主题
文本预览