第一章： 多元统计分析研究的内容（5点） 1、简化数据结构（主成分分析） 2、分类与判别（聚类分析、判别分析） 3、变量间的相互关系（典型相关分析、多元回归分析） 4、多维数据的统计推断 5、多元统计分析的理论基础 第二三章：
二、多维随机变量的数字特征 1、随机向量的数字特征 随机向量X 均值向量： 随机向量X 与Y 的协方差矩阵： 当X=Y 时Cov （X ，Y ）=D （X ）；当Cov （X ，Y ）=0 ，称X ，Y 不相关。 随机向量X 与Y 的相关系数矩阵： 2、均值向量协方差矩阵的性质 (1).设X ，Y 为随机向量，A ，B 为常数矩阵 E （AX ）=AE （X ）； E （AXB ）=AE （X ）B; D(AX)=AD(X)A ’; Cov(AX,BY)=ACov(X,Y)B ’; (2).若X ，Y 独立，则Cov(X,Y)＝０，反之不成立． (3).X 的协方差阵D(X)是对称非负定矩阵。例2.见黑板 三、多元正态分布的参数估计 2、多元正态分布的性质 (1).若 ,则E(X)= ,D(X)= . )' ,...,,(),,,(2121P p EX EX EX EX μμμ='= )' )((),cov(EY Y EX X E Y X --=q p ij r Y X ?=)(),(ρ) ,(~∑μP N X μ ∑ p X X X ,,,21
特别地，当 为对角阵时， 相互独立。 (2).若 ，Ａ为sxp 阶常数矩阵，d 为s 阶向量， ＡＸ＋d ～ . 即正态分布的线性函数仍是正态分布． (3).多元正态分布的边缘分布是正态分布，反之不成立． (4).多元正态分布的不相关与独立等价． 例３．见黑板． 三、多元正态分布的参数估计 (1)“ 为来自p 元总体X 的（简单）样本”的理解---独立同截面． (2)多元分布样本的数字特征---常见多元统计量 样本均值向量 ＝ 样本离差阵Ｓ＝ 样本协方差阵Ｖ＝ S ;样本相关阵Ｒ (3) ,Ｖ分别是 和 的最大似然估计； (4)估计的性质 是 的无偏估计； ,Ｖ分别是 和 的有效和一致估计； ； Ｓ～ ， 与Ｓ相互独立； 第五章 聚类分析： 一、什么是聚类分析 ：聚类分析是根据“物以类聚”的道理，对样品或指标进行分类的一种多元统计分析方法。用于对事物类别不清楚，甚至事物总共可能有几类都不能确定的情况下进行事物分类的场合。聚类方法：系统聚类法（直观易懂）、动态聚类法（快）、有序聚类法（保序）...... Q-型聚类分析（样品）R-型聚类分析（变量） 变量按照测量它们的尺度不同，可以分为三类：间隔尺度、有序尺度、名义尺度。 μ ) ,(~∑μP N X ) ,('A A d A N s ∑+μ) () 1(,,n X X X )' ,,,(21p X X X )' )(() () (1 X X X X i i n i --∑=n 1 X μ∑μ X ) 1 , (~∑n N X P μ) ,1(∑-n W p X X
多元统计分析实例 院系:商学院 学号: 姓名:
多元统计分析实例 本文收集了2012年31个省市自治区的农林牧渔和相关农业数据,通过对对收集的数据进行比较分析对31个省市自治区进行分类.选取了6个指标农业产值,林业产值.牧业总产值,渔业总产值,农村居民家庭拥有生产性固定资产原值,农村居民家庭经营耕地面积. 数据如下表: 一.聚类法
设定4个群聚,采用了系统聚类法.下表为spss分析之后的结果.
Rescaled Distance Cluster Combine C A S E 0 5 10 15 20 25 Label Num +---------+---------+---------+---------+---------+ 内蒙 5 -+ 吉林 7 -+ 云南 25 -+-+ 江西 14 -+ +-+ 陕西 27 -+-+ | 新疆 31 -+ +-+ 安徽 12 -+-+ | | 广西 20 -+ +-+ +-------+ 辽宁 6 ---+ | | 浙江 11 -+-----+ | 福建 13 -+ | 重庆 22 -+ +---------------------------------+ 贵州 24 -+ | | 山西 4 -+---+ | | 甘肃 28 -+ | | | 北京 1 -+ | | | 青海 29 -+ +---------+ | 天津 2 -+ | | 上海 9 -+ | | 宁夏 30 -+---+ | 西藏 26 -+ | 海南 21 -+ | 河北 3 ---+-----+ | 四川 23 ---+ | | 黑龙江 8 -+-+ +-------------+ | 湖南 18 -+ +---+ | | | 湖北 17 -+-+ +-+ +-------------------------+ 广东 19 -+ | | 江苏 10 -------+ | 山东 15 -----------+-----------+ 河南 16 -----------+
一、填空题： 1、多元统计分析是运用数理统计方法来研究解决多指标问题的理论和方法. 2、回归参数显著性检验是检验解释变量对被解释变量的影响是否著. 3、聚类分析就是分析如何对样品（或变量）进行量化分类的问题。通常聚类分析分为 Q型聚类和 R型聚类。 4、相应分析的主要目的是寻求列联表行因素A 和列因素B 的基本分析特征和它们的最优联立表示。 5、因子分析把每个原始变量分解为两部分因素：一部分为公共因子，另一部分为特殊因子。 6、若 () (,), P x N αμα ∑=1,2,3….n且相互独立，则样本均值向量x服从的分布 为_x~N(μ，Σ/n)_。 二、简答 1、简述典型变量与典型相关系数的概念，并说明典型相关分析的基本思想。 在每组变量中找出变量的线性组合，使得两组的线性组合之间具有最大的相关系数。选取和最初挑选的这对线性组合不相关的线性组合，使其配对，并选取相关系数最大的一对，如此下去直到两组之间的相关性被提取完毕为止。被选出的线性组合配对称为典型变量，它们的相关系数称为典型相关系数。 2、简述相应分析的基本思想。 相应分析，是指对两个定性变量的多种水平进行分析。设有两组因素A和B，其中因素A包含r个水平，因素B包含c个水平。对这两组因素作随机抽样调查，得到一个rc的二维列联表，记为。要寻求列联表列因素A和行因素B的基本分析特征和最优列联表示。相应分析即是通过列联表的转换，使得因素A
和因素B 具有对等性，从而用相同的因子轴同时描述两个因素各个水平的情况。把两个因素的各个水平的状况同时反映到具有相同坐标轴的因子平面上，从而得到因素A 、B 的联系。 3、简述费希尔判别法的基本思想。 从k 个总体中抽取具有p 个指标的样品观测数据，借助方差分析的思想构造一个线性判别函数 系数： 确定的原则是使得总体之间区别最大，而使每个总体内部的离差最小。将新样品的p 个指标值代入线性判别函数式中求出 值，然后根据判别一定的规则，就可以判别新的样品属于哪个总体。 5、简述多元统计分析中协差阵检验的步骤 第一，提出待检验的假设 和H1； 第二，给出检验的统计量及其服从的分布； 第三，给定检验水平，查统计量的分布表，确定相应的临界值，从而得到否定域； 第四，根据样本观测值计算出统计量的值，看是否落入否定域中，以便对待判假设做出决策（拒绝或接受）。 协差阵的检验 检验0=ΣΣ 0p H =ΣI ： /2 /21exp 2np n e tr n λ???? =-?? ? ???? S S 00p H =≠ΣΣI ： /2 /2**1exp 2np n e tr n λ???? =-?? ? ???? S S
1．多元分析研究的是多个随机变量及其相互关系的统计总体。 2．多元统计中常用的统计量有：样本均值、样本方差、样本协方差和样本相关系数。 3．协方差和相关系数仅仅是变量间离散程度的一种度量，并不能刻画变量间可能存在的关联程度。 4．人们通过各种实践，发现变量之间的相互关系可以分成相关和不相关两种类型。 5．总离差平方和可以分解为回归离差平方和和剩余离差平方和两个部分，各自的自由度为p 和n-p-1，其中回归离差平方和在总离差平方和中所占比重越大，则线性回归效果越显著。7．偏相关系数是指多元回归分析中，当其他变量固定后，给定的两个变量之间的的相关系数。8．Spss中回归方程的建模方法有一元线形回归、多元线形回归、岭回归、多对多线形回归等。9．主成分分析是通过适当的变量替换，使新变量成为原变量的综合变量，并寻求相关性的一种方法。 10．主成分分析的基本思想是：设法将原来众多具有一定相关性（比如P个指标），重新组合成一组新的互相无关的综合指标来代替原来的指标。 11．主成分的协方差矩阵为对角矩阵。 12．主成分表达式的系数向量是相关系数矩阵的特征向量。 13．原始变量协方差矩阵的特征根的统计含义是原始数据的相关系数。 14．原始数据经过标准化处理，转化为均值为0 ，方差为1 的标准值，且其协方差矩阵与相关系数矩阵相等。 15．样本主成分的总方差等于1 。 16．变量按相关程度为，在相关性很强程度下，主成分分析的效果较好。 17．在经济指标综合评价中，应用主成分分析法，则评价函数中的权数为方差贡献度。 19．因子分析是把每个原始变量分解为两部分因素，一部分是公共因子，另一部分为特殊因子。20．变量共同度是指因子载荷矩阵中第i行元素的平方和。 21．公共因子方差与特殊因子方差之和为 1 。22．聚类分析是建立一种分类方法，它将一批样哂或变量按照它们在性质上的亲疏程度进行科学的分类。 23．Q型聚类法是按样品进行聚类，R型聚类法是按变量进行聚类。 24．R型聚类统计量通常采用具有代表性的变量。 25．在聚类分析中需要对原始数据进行无量纲化处理，以消除不同量纲或数量级的影响，达到数据间可同度量的目的。常用的无量纲化方法有以下几种：中心化变换、规格化变换、标准化变换、对数变换。 26．六种Q型聚类方法分别为最短距离法、最长距离法、中间距离法、重心法、类平均法、可变类平均法 28．判别分析是要解决在研究对象已分成若干类的情况下，确定新的观测数据属于已知类别中哪一类的多元统计方法。 29．用判别分析方法处理问题时，通常以判别函数作为衡量新样本点与各已知组别接近程度的指标。 30．进行判别分析时，通常指定一种判别规则，用来判定新样本的归属，常见的判别准则有Fisher准则、贝叶斯准则。 33．Fisher判别法就是要找一个由p个变量组成的线性判别函数，使得各自组内点的离差尽可能接近，而不同组间点的尽可能疏远。 能够进行分类和组 合；能够研究指标之间的依存关系；进行预测；进 量的影响显著性大小，从大到小逐个引入回归方程， 同时，在逐个自变量选入回归方程的过程中，如果 发现先前被引入的自变量在其后由于某些自变量的 引入而失去其重要性时，可以从回归方程中随时予 以剔除。引入一个变量或剔除一个变量，为逐步回 归的一步，每步都要进行显著性检验，以便保证每 次引入变量前回归方程中只包括显著性变量，这个 过程反复进行，直到既无不显著变量从回归方程中 i j1 X1 ,X2…… X p的一切线性 组合中方差最大的，F2是与F1不相关的X1 ,X2……Xp 一切线性组合中方差最大。F p是与F1 ,……F P-1不相关 在经济统计研究中，除了经济效益的综合评价研究 外，对不同地区经济发展水平的评价研究，不同地 区经济发展竞争力的评价研究，人民生活水平、生 活质量的评价研究，等等都可以用主成分分析方法 进行研究；另外，主成分分析除了用于系统评估研 究领域外，还可以与回归分析结合，进行主成分回 归分析，以及利用主成分分析进行挑选变量，选择 阵内部结构的研究，找出存在于所有变量（或样品） 中具有共性的因素，并综合为少数几个新变量，把 原始变量表示成少数几个综合变量的线性组合，以 再现原始变量与综合变量之间的相关关系。其中， 这里的少数几个综合变量一般是不可观测指标，通 亲疏程度进行分类的多元统计分析方法。聚类分析 时，用来描述样品或变量的亲疏程度通常有两个途 径，一是把每个样品或变量看成是多维空间上的一 个点，在多维坐标中，定义点与点，类和类之间的 距离，用点与点间距离来描述样品或变量之间的亲 疏程度；另一个是计算样品或变量的相似系数，用 先将n个样品自成一类，然后每次将具有最小距 离的两个类合并，合并后再重新计算类与类之间的 距离，再并类，这个过程一直持续到所有的样品都 归为一类为止。这种聚类方法称为系统聚类法。根 据并类过程所做的样品并类过程图称为聚类谱系 区别：判别分析与聚类分析不同。判别分析是 在已知研究对象分成若干类型（或组别）并已取得 各种类型的一批已知样品的观测数据，在此基础上 根据某些准则建立判别式，然后对未知类型的样品 进行判别分类。聚类分析，并对于一批合定样品要 划分的类型事先不知道，正需要聚类分析来综合确 定类型的。 联系：判别分析与聚类分析往往联合使用，往 往是专职能部门类分析，再进行判别新样品属于哪 单变量描述的计量，对判别分析所要求的前提能定 进行统计检验；（2）推导判别系数组出标准化或未 标准化的典则判别函数系数，并进行安著性检验； （3）建立Fisher判别模型，根据Bayes规则和 Fisher规则进行判别组合；4）进行样本回判分析， 对判别系数的结果进行分析；（5）输出结果，根据 Fisher判别：又称典则判别，该方法的基本思 想是投影，即将原来在R维空间的自变量组合投影 到维度较低的D维空间上去，然后在D维空间再进 行分类。其优势在于对分布和方差没有什么限制， 应用范围广泛。 Bayes判别：就是利用经验信息，基本思想是认 为所有D个类别都是空间中互斥的子城，每个观测 都是空间中的一点。其优点在于进行多类别判别， ，根据样品到类之间的“距 离”大小判别，样品到那个类的“距离”最小，判 p个指标 的线性判别函数，把待判样品代入线性判别函数， 公式计算样品到每个 总体（类）的概率，比较概率的大小，样品到那个 总体（类）的概率最大，就判样品属于哪个总体（类）。 将每个 原始变量分解成两部分因素，一部分是由所有变量 共同具有的少数几个公共因子组成的，另一部分是 联系：（ 成分分析的逆问题。（2）二者都是以‘降维’为目的， 都是从协方差矩阵或相关系数矩阵出发。 区别：（1）主成分分析模型是原始变量的线性组 合，是将原始变量加以综合、归纳，仅仅是变量变 换；而因子分析是将原始变量加以分解，描述原始 变量协方差矩阵结构的模型；只有当提取的公因子 个数等于原始变量个数时，因子分析才对应变量变 换。（2）主成分分析，中每个主成分对应的系数是 唯一确定的；因子分析中每个因子的相应系数即因 子载荷不是唯一的。（3 ）因子分析中因子载荷的不 唯一性有利于对公因子进行有效解释；而主成分分 （2）因子提取 （3）因子旋转 概念（思想） 重新组合成一组新的互相无关的几个综合指标来 代替原来指标。同时根据实际需要从中可取几个较 少的综合指标尽可能多地反映原来的指标的信息 几何意义： 主成分分析的过程也就是坐标旋转的过程，各主 成分表达式就是新坐标系与原坐标系的转换关系， 新坐标系中各坐标轴的方向就是原始数据方差最 一些能够度量样品或指标之间相似程度的统计量， 然后利用统计量将样品或指标进行归类。把相似的 样品或指标归为一类，把不相似的归为其他类。直 到把所有的样品（或指标）聚合完毕. 首先在 组合之间具有最大的相关系数。然后选取和最初挑 选的这对线性组合不相关的线性组合，使其配对， 并选取相关系数最大的一对，如此继续下去，直到 两组变量之间的相关性被提取完毕为此。被选出的 线性组合配对称为典型变量，它们的相关系数称为 典型相关系数。典型相关系数度量了这两组变量之 的统计方法 （2）取每组变量的线性组合，使他们的线性组合 的相关系数达到最大 （3）然后在每组中再取第二对典型相关变量，使 其与第一对不相关 （4）反复取，直到两组变量的相关性提取完为止 * X(α) (α＝1,…,n).检 验 （1）H0: μX＝μ0 (μ0为已知向量),H1: μ≠μ0 （2）取检验统计量 （3）按传统的检验方法,对给定的显著水平α,查临 界值表得λα: （4）由样本值计算X及T20值,若T 20 ＞λα,则否 （2）求典型相关系数及典型变量 2 别抽取n1和n2个样品，每个样品测量p个指标， 计算X到G1、G2总体的距离。X∈G1 D (X1 , G1) ﹤D (X1 , G2)；X∈G2 D (X1 , G1) D (X1 , G2)；待定 D (X1 , G1)= D (X1 , G2)。 （2）多个总体的距离判别法：○1∑（1）=（2……=∑(k)= ∑时当W ji(X)﹥0 对一切j≠I；待判若有一个 W ji=0。当∑（1），∑（2……∑(k)互不相等时：X∈G i， 若有一个W ji=0 0=μ0 H1：μ≠μ0 (2) 检验统计量=n(X--μ0)/∑-1(X--μ0)～X2(P)(在H0 成立时)（3）对给定的检验水平a，查X2分布表使 P〔T02﹥λa〕=a可确定临界值λx再用样本值计算 T02,若T02﹥λa则否定H0，否则相容
题目：研究不同温度与不同湿度对粘虫发育历期的影响，得试验数据如表。分析不同温度和湿度对粘虫发育历期的影响是否存在着显著性差异。（注：要对方差齐性进行检验） 不同温度与不同湿度粘虫发育历期表 根据上述题目，分析结果如下。 一、相关理论概述 F检验与方差齐性检验 在方差分析的F检验中，是以各个实验组内总体方差齐性为前提的，因此，按理应该在方差分析之前，要对各个实验组内的总体方差先进行齐性检验。如果各个实验组内总体方差为齐性，而且经过F检验所得多个样本所属总体平均数差异显著，这时才可以将多个样本所属总体平均数的差异归因于各种实验处理的不同所致；如果各个总体方差不齐，那么经过F 检验所得多个样本所属总体平均数差异显著的结果，可能有一部分归因于各个实验组内总体方差不同所致。 但是，方差齐性检验也可以在F检验结果为多个样本所属总体平均数差异显著的情况下进行，因为F检验之后，如果多个样本所属总体平均数差异不显著，就不必再进行方差齐性检验。本文分析数据采用后一种方法，即先F检验再方差齐次性检验。
二、从单因子方差角度分析 （一）在假定相对湿度不变的情况下分析 1、假定相对湿度恒为40%，分析不同温度对粘虫发育历期的影响。如下表： 温度℃ 重复 25 27 29 31 1 100. 2 90.6 77.2 73.6 2 103. 3 91.7 85.8 73.2 3 98.3 94.5 81.7 76. 4 4 103.8 92.2 79.7 72. 5 Ti 405. 6 369 324.4 295.7 T 2 i 164511.36 136161 105235.36 87438.49 在本例中，r=4，m=4, n=16 ， =1394.7, = 123413.4696 T 2 /n=(1394.7)2/ 16=121574.2556 (式1） （ 式2） （式3） S E =S T -S A =1839.214-1762.297=76.917 （式4） 数据的方差分析表见表1. 表1 粘虫发育历期方差分析表 粘虫发育历期 （相对湿度40%） 来源 平方和 df 均方 F 显著性 组间 1762.297 3 587.432 91.646 .000 组内 76.917 12 6.410 总数 1839.214 15 分析表1可知，F 0.05(3，12)=3.49，F 值=,91.646，F>F 0.05，P=0.000<0.05,说明在相对湿度为40%时，不同温度对粘虫发育历期有显著影响。同时，在方差齐次性检验中P=0.304>0.05,说明方差齐次性显著，如下表。以下方差齐次性检验于此类同，限于篇幅，直接得出结果，方差齐性检验 粘虫发育历期 Levene 统计量 df1 df2 显著性 1.351 3 12 .304 相关程序源代码附录如下：DATASET ACTIV ATE 数据集0. ONEW AY 粘虫发育历期 BY X2 /STA TISTICS HOMOGENEITY =493346.2105/4-121574.2556=1762.297 =123413.4696-121574.2556=1839.214
多元统计分析有哪些应用? 比较 关系 预测 分类 评价 各种应用对应的多元统计分析方法 比较：多元方差分析 关系：回归模型 预测：回归模型 分类：聚类分析与判别分析、回归模型 评价：主成分分析与因子分析 ?多元回归、logisitic回归、Cox回归、Poisson回归 多元统计分析方法主要内容 多元T检验、多元方差分析 ?Hotelling T2 ?multivariate analysis of variance (MANOV A) 多元线性回归(multivariate linear regression) logistic回归(logistic regression) Cox比例风险模型(Cox model) Poisson回归(Poisson regression) 聚类分析(cluster analysis) 判别分析(discriminant analysis) 主成分分析和因子分析 生存分析 本课程的要求 上机做练习，分析实际资料 学会看文献，判断统计分析的应用是否正确 统计软件SAS，或Stata, SPSS10.01 考试： 理论占30%，实验占70% 二、多元统计分析的基本概念 研究因素从广义的角度看，所有可以测量的变量都可以成为研究因素，比如：年 龄、性别、文化程度、人体的各种生物学特征和生理生化指标环境因素、心理因素等。狭义来看，研究因素是指可能与研究目的有关的影响因素 多元统计分析对多变量样本的要求 ①分布：多元正态分布、相互独立、多元方差齐 ②样本含量 目前尚没有多元分析的样本含量估计方法，一般认为样本含量应超过研究因素5-10倍以上即可。 数值变量→分类成有序分类变量 哑变量的数量=K-1（K为分类数）
作业一
1.2 分析2016年经济发展情况 排名省gdp 占比累计占比 1 广东79512.05 10.30 10.30 2 江苏76086.2 9.86 20.17 3 山东67008.2 8.68 28.85 4 浙江4648 5 6.02 34.87 5 河南40160.01 5.20 40.08 6 四川32680.5 4.24 44.31 7 湖北32297.9 4.19 48.50 8 河北31827.9 4.12 52.62 9 湖南31244.7 4.05 56.67 10 福建28519.2 3.70 60.37 11 上海27466.2 3.56 63.93 12 北京24899.3 3.23 67.16 13 安徽24117.9 3.13 70.28 14 辽宁22037.88 2.86 73.14 15 陕西19165.39 2.48 75.62 16 内蒙古18632.6 2.41 78.04 17 江西18364.4 2.38 80.42 18 广西18245.07 2.36 82.78 19 天津17885.4 2.32 85.10 20 重庆17558.8 2.28 87.37 21 黑龙江15386.09 1.99 89.37 22 吉林14886.23 1.93 91.30 23 云南14869.95 1.93 93.22 24 山西12928.3 1.68 94.90 25 贵州11734.43 1.52 96.42 26 新疆9550 1.24 97.66 27 甘肃7152.04 0.93 98.59 28 海南4044.51 0.52 99.11 29 宁夏3150.06 0.41 99.52 30 青海2572.49 0.33 99.85 31 西藏1150.07 0.15 100.00 将2016各省的GDP进行排名，可以发现，经济发达的的地区主要集中在东部地区。西部gdp的占比较小。作出2016各省的gdp直方图如下：
实验报告 一、实验名称 多元统计分析作业题。 二、实验目的 （一）了解并掌握主成分分析与因子分析的基本原理和简单解法。 （二）学会使用matlab编写程序进行因子分析，求得特征值、特征向量、载荷矩阵等值。（三）学会使用排序、元胞数组、图像表示最后的结果，使结果更加直观。 三、实验内容与要求
四、实验原理与步骤 （一）第一题： 1、实验原理： 因子分析简介： (1) 1.1 基本因子分析模型 设p维总体x=(x1,x2,....,xp)'的均值为u=(u1,u2,....,u3)'，因子分析的一般模型为 x1=u1+a11f1+a12f2+........+a1mfm+ε 1 x2=u2+a21f1+a22f2+........+a2mfm+ε 2 ......... xp=up+ap1f1+fp2f2+..........+apmfm+εp 其中，f1,f2,.....,fm为m个公共因子；εi是变量xi(i=1,2,.....,p)所独有的特殊因子，他们都是不可观测的隐变量。称aij(i=1,2,.....,p;j=1,2,.....,m)为变量xi的公共因子fi上的载荷，它反映了公共因子对变量的重要程度，对解释公共因子具有重要的作用。上式可以写为矩阵形式 x=u+Af+ε
其中A=(aij)pxm 称为因子载荷矩阵；f=(f1,f2,....,fm)'为公共因子向量；ε=(ε1,ε2,.....εp)称为特殊因子向量 (2) 1.2 共性方差与特殊方差 xi的方差var(xi)由两部分组成，一个是公共因子对xi方差的贡献，称为共性方差；一个是特殊因子对xi方差的贡献，称为特殊方差。每个原始变量的方差都被分成了共性方差和特殊方差两部分。 (3) 1.3 因子旋转 因子分析的主要目的是对公共因子给出符合实际意义的合理解释，解释的依据就是因子载荷阵的个列元素的取值。当因子载荷阵某一列上各元素的绝对值差距较大时，并且绝对值大的元素较少时，则该公共因子就易于解释，反之，公共因子的解释就比较困难。此时可以考虑对因子和因子载荷进行旋转（例如正交旋转），使得旋转后的因子载荷阵的各列元素的绝对值尽可能量两极分化，这样就使得因子的解释变得容易。 因子旋转方法有正交旋转和斜交旋转两种，这里只介绍一种普遍使用的正交旋转法：最大方差旋转。这种旋转方法的目的是使因子载荷阵每列上的各元素的绝对值（或平方值）尽可能地向两极分化，即少数元素的绝对值（或平方值）取尽可能大的值，而其他元素尽量接近于0. (4) 1.4 因子得分 在对公共因子做出合理解释后，有时还需要求出各观测所对应的各个公共因子的得分，就比如我们知道某个女孩是一个美女，可能很多人更关心该给她的脸蛋、身材等各打多少分，常用的求因子得分的方法有加权最小二乘法和回归法。 注意：因子载荷矩阵和得分矩阵的区别： 因子载荷矩阵是各个原始变量的因子表达式的系数，表达提取的公因子对原始变量的影响程度。因子得分矩阵表示各项指标变量与提取的公因子之间的关系，在某一公因子上得分高，表明该指标与该公因子之间关系越密切。简单说，通过因子载荷矩阵可以得到原始指标变量的线性组合，如X1=a11*F1+a12*F2+a13*F3,其中X1为指标变量1，a11、a12、a13分别为与变量X1在同一行的因子载荷，F1、F2、F3分别为提取的公因子；通过因子得分矩阵可以得到公因子的线性组合，如F1=a11*X1+a21*X2+a31*X3，字母代表的意义同上。 (5) 1.5 因子分析中的Heywood（海伍德）现象 如果x的各个分量都已经标准化了，则其方差=1。即共性方差与特殊方差的和为1。也就是说共性方差与特殊方差均大于0，并且小于1。但在实际进行参数估计的时候，共性方差
一、聚类分析的基本思想： 我们认为，所研究的样品或指标之间存在着程度不同的相似性。根据一批样品的多个观测指标，具体找出一些能够度量样品或指标之间的相似程度的统计量，以这些统计量为划分类型的依据，把一些相似程度较大的样品聚合为一类，把另一些彼此之间相似程度较大的样品又聚合到另外一类。把不同的类型一一划分出来，形成一个由小到大的分类系统。最后，用分群图把所有的样品间的亲疏关系表示出来。 二、聚类分析的方法 系统聚类法、模糊聚类法、K-均值法、有序样品的聚类、分解法、加入法 三、系统聚类法的种类 最短距离法、最长距离法、重心法、类平均法、离差平方和法 四、判别分析的基本思想 判别分析用来解决被解释变量是非度量变量的情形，预测和解释影响一个对象所属类别。识别一个个体所属类别的情况下有着广泛的应用 判别分析将对象进行分析，通过人们选择的解释变量来预测或者解释每个对象的所属类别。 五、判别分析的假设条件 判别分析的假设条件之一是每一个判别变量不能是其他判别变量的线性组合；判别分析的假设之二是各组变量的协方差矩阵相等。判别分析最简单和最常用的形式是采用线性判别函数。判别分析的假设之三是各判别变量之间具有多元正态分布，即每个变量对于所有其他变量的固定值有正态分布。当违背该假设时，计算的概率将非常的不准确。 六、判别分析的方法 距离判别法、Bayes判别法、Fisher判别法、逐步判别法
七、距离判别法的判别准则 设有两个总体1G 和2G ，x 是一个p 维样品，若能定义样品到总体1G 和2G 的距离d （x ，1G ）和d （x ，2G ），则用如下规则进行判别：若样品x 到总体1G 的距离小于到总体2G 的距离，则认为样品x 属于总体1G ，反之，则认为样品x 属于总体样品x 属于总体2G ，若样品x 到总体1G 和2G 的距离相等，则让它待判。 八、Fisher 判别的思想 Fisher 判别的思想是投影，将k 组p 维数据投影到某一个方向，使的它们的投影与组之间尽可能地分开。 九、Bayes 判别的思想 Bayes 统计的思想是：假定对研究的对象已有一定的认识，常用先验概率分布来描述这种认识，然后我们取得一个样本，用样本来修正已有的认识，得到后验概率分布，各种统计推断都通过后验概率分布来进行。将Bayes 统计的思想用于判别分析，就得到Bayes 判别。 十、判别分析的方法和步骤 1.判别分析的对象 2.判别分析的研究设计 3.判别分析的假定 4.估计判别模型和评估整体拟合 5.结果的解释 6.结果的验证 十一、提取主成分的原则 1.累计方差贡献率大于85%， 2.特征根大于1 ，3碎石图特征根的变化趋势。 十二、因子分析的步骤 1.根据研究问题选取原始变量。 2.对原始变量进行标准化并求其相关阵，分析变量之间的相关性。 3.求解初始公共因子及因子载荷矩阵。 4.因子旋转。 5.因子得分。 6.根据因子得分值进行进一步分析。
多元统计分析 > data1=matrix(c(260,200,240,170,270,205,190,200,250,200,225,210,170,270,190,280,310,270,25 0,260,75,72,87,65,110,130,69,46,117,107,130,125,64,76,60,81,119,57,67,135,40,34,45,39,39,34, 27,45,21,28,36,26,31,33,34,20,25,31,31,39,18,17,18,17,24,23,15,15,20,20,11,17,14,13,16,18,15, 8,14,29),20,4) > data2=matrix(c(310,310,190,225,170,210,280,210,280,200,200,280,190,295,270,280,240,280,37 0,280,122,60,40,65,65,82,67,38,65,76,76,94,60,55,125,120,62,69,70,40, 30,35,27,34,37,31,37,36,30,40,39,26,33,30,24,32,32,29,30,37,21,18,15,16,16,17,18,17,23,17,20, 11,17,16,21,18,20,20,20,17),20,4) > data3=matrix(c(320,260,360,295,270,380,240,260,260,295,240,310,330,345,250,260,225,345,36 0,250,64,59,88,100,65,114,55,55,110,73,114,103,112,127,62,59,100,120,107,117,39,37,28,36,32 ,36,42,34,29,33,38,32,21,24,22,21,34,36,25,36,17,11,26,12,21,21,10,20,20,21,18,18,11,20,16,19, 30,18,23,16),20,4) 1.对单个分量进行检验 对第一个分量进行检验，看其是否服从正态分布，利用的是Q-Q图检验法： > x<-rbind(data1,data2,data3) > x<-sort(x[,1]) > x [1] 170 170 170 190 190 190 190 200 200 200 200 200 205 210 210 210 225 225 [19] 225 240 240 240 240 250 250 250 250 260 260 260 260 260 260 270 270 270 [37] 270 270 280 280 280 280 280 280 280 295 295 295 310 310 310 310 320 330 [55] 345 345 360 360 370 380 > p<-c() > for(i in 1:60){ + pi[i]=(i-0.5)/60} > q<-c() > for(i in 1:60){ + q[i]=qnorm(pi[i])} > plot(q,x)
多元统计分析重点宿舍版 第一讲：多元统计方法及应用；多元统计方法分类（按变量、模型、因变量等） 多元统计分析应用 选择题：①数据或结构性简化运用的方法有：多元回归分析，聚类分析，主成分分析，因子分析 ②分类和组合运用的方法有：判别分析，聚类分析，主成分分析 ③变量之间的相关关系运用的方法有：多元回归，主成分分析，因子分析， ④预测与决策运用的方法有：多元回归，判别分析，聚类分析 ⑤横贯数据：{因果模型(因变量数)：多元回归，判别分析相依模型(变量测度)：因子分析，聚类分析 多元统计分析方法 选择题：①多元统计方法的分类：1）按测量数据的来源分为：横贯数据（同一时间不同案例的观测数据），纵观数据（同样案例在不同时间的多次观测数据） 2）按变量的测度等级（数据类型）分为：类别（非测量型）变量，数值型（测量型）变量 3）按分析模型的属性分为：因果模型，相依模型 4）按模型中因变量的数量分为：单因变量模型，多因变量模型，多层因果模型 第二讲：计算均值、协差阵、相关阵；相互独立性 第三讲：主成分定义、应用及基本思想，主成分性质，主成分分析步骤 主成分定义：何谓主成分分析 就是将原来的多个指标（变量）线性组合成几个新的相互无关的综合指标（主成分），并使新的综合指标尽可能多地反映原来的指标信息。 主成分分析的应用 ：（1）数据的压缩、结构的简化；（2）样品的综合评价，排序 主成分分析概述——思想：①（1）把给定的一组变量X1,X2,…XP ,通过线性变换，转换为一组不相关的变量Y1，Y2，…YP 。（2）在这种变换中，保持变量的总方差（X1，X2，…Xp 的方差之和）不变，同时，使Y1具有最大方差，称为第一主成分；Y2具有次大方差，称为第二主成分。依次类推，原来有P 个变量，就可以转换出P 个主
多元统计分析实践论文 院系：理学院 专业：统计学 年级：2010 姓名：樊恩泽 学号：20101004005
我国城镇居民人均消费支出的多元统计分析 樊恩泽 摘要：本文本文综合了主成分因子分析与系统聚类分析,先进行主成分因子分析, 再用进行聚类分析。采用2011年我国31个省、市、自治区城镇居民人均消费支出数据，首先利用主成分因子分析的方法, 找出影响我国城镇居民人均消费支出的主成分, 计算各样本的主成分得分；其次运用系统聚类分析法，对各地区人均消费水平进行分类，结果表明，系统聚类分析法得到的结果也较好；最后对于扩大国内消费提出相关建议。 关键词：主成分分析聚类分析居民人均消费支出 1、引言 人均消费支出指居民用于满足家庭日常生活消费的全部支出，包括购买实物支出和服务性消费支出。消费支出按商品和服务的用途可分为食品、衣着、家庭设备用品及服务、医疗保健、交通和通讯、娱乐教育文化服务、居住、杂项商品和服务等八大类。人均消费支出是社会消费需求的主体，是拉动经济增长的直接因素，是体现居民生活水平和质量的重要指标。 本文选取2011年我国城镇居民人均消费支出数据，主要利用三种统计方法进行分析：主成分分析法、聚类分析法。将全国31个省、市、自治区进行分类和排序，并与人们实际观察到的情况进行比较。 1.1主成分分析 主成分分析是将分量相关的原始变量, 借助于一个正交变换转化为不相关的新变量, 并以方差作为信息量的测度, 对新变量进行降维, 取累计贡献率大的若干成分作为主成分。这些主成分能够反映原始变量的绝大部分信息, 它们通常表示为原始变量的某种线性组合。
1.2聚类分析 聚类分析是直接比较各事物之间的性质，将性质相近的归为一类，将性质差别较大的归入不同的类的分析技术。 在市场研究领域，聚类分析主要应用方面是帮助我们寻找目标消费群体，运用这项研究技术，我们可以划分出产品的细分市场，并且可以描述出各细分市场的人群特征，以便于客户可以有针对性的对目标消费群体施加影响，合理地开展工作 2、数据来源及处理 2.1统计思想 主成分因子分析的基本思想是通过对变量相关系数矩阵内部结构的研究，找出能控制所以变量的少数几个随机变量去描述多个变量之间的相关关系，并依据相关性的大小将变量分组，使得同组内的变量之间相关性较高，不同组的变量相关性较低。每组代表一个基本结构，这个基本结构成为公共因子。对于所研究的问题试图用最小个数的不可观测的所谓公共因子的线性函数与特殊因子之和来描述原来可观测的每一个变量。 下表是要进行处理的31个省市的城镇居民人均消费支出的相关原始数据，数据来源于《2011中国统计年鉴》。 X1：食品x2：衣着x3：居住x4：家庭用品x5：交通通信x6：文教娱乐x7：医疗保健 表1
第三章多元统计分析 §4 聚类分析 分类是人类认识世界的方式，也是管理世界的有效手段。在科学研究中非常重要，许多科学的研究都是从分类研究出发的。没有分类就没有效率；没有分类，这个世界就没有秩序。瑞典博物学家林奈（Carl von Linnaeus, 1707-1778）因为对植物的分类成就被后人誉为“分类学之父”，后人评价说“上帝创世，林奈分类”——能与上帝的名字并列的人不多，另一个著名的科学家是牛顿。由此可见分类成果的重要性。最初分类都是定性了，后来随着科学的发展产生了定量分类技术，包括基于统计学的聚类方法和基于模糊数学的聚类技巧。本节主要讲述统计学意义的数字分类方法思想和过程。 1 聚类的分类 分类研究的成果的重要性决定了方法的重大实践意义。在任何一门语言的语法学中，都要对词词汇进行分类，词汇分类可以根据词性：名词，动词，形容词……；英文还可以根据首字母分类：ABCD……；汉字则还可以根据笔划，如此等等。在生物学中，将生物划分为：界，门，纲，目，科，属，种。例如白菜（种）属于油菜属、十字花科、十字花目、双子叶植物纲、被子植物亚门、种子植物门、植物界；老虎（种）则属于猫属、猫科、食肉目、哺乳动物纲、脊椎动物亚门、脊索动物门、动物界。这样，整个世界的生物就可以建立一个等级谱系，根据这个谱系，我们可以比较容易地判断那些生物已经认识了，哪些生物尚未发现，哪些生物已经灭绝了。如果发现了新的生物，就可以方便地将其归类。在天文学中，天体可以根据视觉区域分类，也可以根据发光性质与光谱特征进行分类。在地理学中，城市既可以根据地域空间分类，也可以根据城市的职能进行分类。 表3-3-1 各种生物在分类学上的位置举例 位置白菜虎 界植物界动物界 门种子植物门脊索动物门 亚门被子植物亚门脊椎动物亚门 纲双子叶植物纲哺乳动物纲 目十字花目食肉目 科十字花科猫科 属油菜属猫属 种白菜虎 当我们走进一家图书馆，如果它们的图书没有分类编目，我们要找到一本图书与大海捞针没有什么区别。分类的方式也会影响工作的效率。书店的图书一般根据科学门类进行分类摆设，但有一段时间一家书店改为按照出版单位进行分类排列，结果读者很难找到所需图书，这家原本效益挺好的书店很快收到了消极影响。 早期的分类，一般根据事物的属性与特征进行划分，属于定性分类的范畴。随着人们认识的深入和研究对象复杂程度的增加，单纯的定性分类方法就不能满足要求了，于是产生了定量分类技术，即所谓数字分类。本节要讲述的就是根据多个指标进行数字分类的一种多元
第九章多元统计分析简介 多元统计分析主要研究多个变量之间的关系以及具有这些变量的个体之间的关系。无论是自然科学还是社会科学，无论是理论研究还是应用决策，多元统计分析都有较广泛的应用。近年来，随着计算机的普及和广泛应用，多元统计分析的应用越来越广泛，越来越深入。生物学研究中，有许多问题要考虑样本与样本之间的关系、性状与性状之间的关系，也要考虑样本与性状之间的关系，为了能够正确处理这些错综复杂的关系，就需要借助于多元统计分析方法来解决这些问题。 从应用的观点看，多元统计分析就是要研究多个变量之间的关系，但哪些问题才是多元统计的内容，并无严格的界限。一般认为，典型的多元统计分析主要可以归结为两类问题：第一类是决定某一样本的归属问题：根据某样品的多个性状（特征）判定其所属的总体。如判别分析、聚类分析即属于此类内容。第二类问题是设法降低变量维数，同时将变量变为独立变量，以便更好地说明多变量之间的关系。主成分分析、因子分析和典型相关分析均属于此类问题。此外，多因素方差分析、多元回归与多元相关分析和时间序列分析，均是研究一个变量和多个变量之间的关系的，也是多元统计分析的内容。 第一节聚类分析(Cluster Analysis) 聚类分析是研究分类问题的一种多元统计方法，聚类分析方法比较粗糙，但由于这种方法能解决许多实际问题，应用比较方便，因此越来越受到人们的重视。近年来聚类分析发展较快，内容也越来越多。常见的有系统聚类、模糊聚类、灰色聚类、信息聚类、图论聚类、动态聚类、最优分割、概率聚类等方法，本节重点介绍系统聚类法。 系统聚类法是目前应用较多的聚类分析方法，这种聚类方法从一批样本的多个观测指标(变量)中，找出能度量样本之间相似程度的统计数，构成一个相似矩阵，在此基础上计算出样本(或变量)之间或样本组合之间的相似程度或距离，按相似程度或距离大小将样本(或变量)逐一归类，关系密切的归类聚集到一个小分类单位，关系疏远的聚集到一个大的分类单位，直到把所有样本(或变量)都聚集完毕，形成一个亲疏关系谱系图，直观地显示分类对象的差异和联系。 第二节判别分析(Discriminant Analysis) 判别分析是多元统计分析中较为成熟的一类分类方法，它是根据两个或多个总体的观测结果，按照一定的判别准则和相应的判别函数，来判断某一样本属于哪一类总体。判别分析的内容很多，常见的有距离判别、贝叶斯判别、费歇判别、逐步判别、序贯判别等方法。 第三节主成分分析（Principal components analysis）