聚类分析、判别分析、主成分分析、因子分析
主成分分析与因子分析的区别
1. 目的不同：因子分析把诸多变量看成由对每一个变量都有作用的一些公共因子和仅对某一个变量有作用的特殊因子线性组合而成，因此就是要从数据中控查出对变量起解释作用的公共因子和特殊因子以及其组合系数；主成分分析只是从空间生成的角度寻找能解释诸多变量变异的绝大部分的几组彼此不相关的新变量（主成分）。
2. 线性表示方向不同：因子分析是把变量表示成各公因子的线性组合；而主成分分析中则是把主成分表示成各变量的线性组合。
3. 假设条件不同：主成分分析中不需要有假设；因子分析的假设包括：各个公共因子之间不相关，特殊因子之间不相关，公共因子和特殊因子之间不相关。
4. 提取主因子的方法不同：因子分析抽取主因子不仅有主成分法，还有极大似然法，主轴因子法，基于这些方法得到的结果也不同；主成分只能用主成分法抽取。
5. 主成分与因子的变化：当给定的协方差矩阵或者相关矩阵的特征值唯一时，主成分一般是固定的；而因子分析中因子不是固定的，可以旋转得到不同的因子。
6. 因子数量与主成分的数量：在因子分析中，因子个数需要分析者指定（SPSS 根据一定的条件自动设定，只要是特征值大于1的因子主可进入分析），指定的因子数量不同而结果也不同；在主成分分析中，成分的数量是一定的，一般有几个变量就有几个主成分（只是主成分所解释的信息量不等）。
7. 功能：和主成分分析相比，由于因子分析可以使用旋转技术帮助解释因子，在解释方面更加有优势；而如果想把现有的变量变成少数几个新的变量（新的变量几乎带有原来所有变量的信息）来进入后续的分析，则可以使用主成分分析。当然，这种情况也可以使用因子得分做到，所以这种区分不是绝对的。
1 、聚类分析
基本原理：将个体（样品）或者对象（变量）按相似程度（距离远近）划分类别，使得同一类中的元素之间的相似性比其他类的元素的相似性更强。目的在于使类间元素的同质性最大化和类与类间元素的异质性最大化。
常用聚类方法：系统聚类法，K-均值法，模糊聚类法，有序样品的聚类，分解法，加入法。
注意事项：1. 系统聚类法可对变量或者记录进行分类，K-均值法只能对记录进行分类；
2. K-均值法要求分析人员事先知道样品分为多少类；
3. 对变量的多元正态性，方差齐性等要求较高。
应用领域：细分市场，消费行为划分，设计抽样方案等
2、判别分析
基本原理：从已知的各种分类情况中总结规律（训练出判别函数），当新样品进入时，判断其与判别函数之间的相似程度（概率最大，距离最近，离差最小等判别准则）。
常用判别方法：最大似然法，距离判别法，Fisher判别法，Bayes判别法，逐步判别法等。
注意事项：1. 判别分析的基本条件：分组类型在两组以上，解释变量必须是可测的；
2. 每个解释变量不能是其它解释变量的线性组合（比如出现多重共线性情况时，判别权重会出现问题）；
3. 各解释变量之间服从多元正态分布（不符合时，可使用Logistic回归替代），且各组解释变量的协方差矩阵相等（各组协方方差矩阵有显著差异时，判别函数不相同）。
相对而言，即使判别函数违反上述适用条件，也很稳健，对结果影响不大。
应用领域：对客户进行信用预测，寻找潜在客户（是否为消费者，公司是否成功，学生是否被录用等等），临床上用于鉴别诊断。
3、主成分分析/ 因子分析
主成分分析基本原理：利用降维（线性变换)的思想，在损失很少信息的前提下把多个指标转化为几个综合指标（主成分),即每个主成分都是原始变量的线性组合,且各个主成分之间互不相关,使得主成分比原始变量具有某些更优越的性能（主成分必须保留原始变量90%以上的信息），从而达到简化系统结构，抓住问题实质的目的。
因子分析基本原理：利用降维的思想，由研究原始变量相关矩阵内部的依赖关系出发，把一些具有错综复杂关系的变量归结为少数几个综合因子。（因子分析是主成分的推广，相对于主成分分析，更倾向于描述原始变量之间的相关关系）
求解主成分的方法：从协方差阵出发（协方差阵已知），从相关阵出发（相关阵R已知）。
（实际研究中，总体协方差阵与相关阵是未知的，必须通过样本数据
来估计）
求解因子载荷的方法：主成分法，主轴因子法，极大似然法，最小二乘法，a因子提取法。
注意事项：1. 由协方差阵出发与由相关阵出发求解主成分所得结果不一致时，
要恰当的选取某一种方法；
2. 对于度量单位或是取值范围在同量级的数据，可直接求协方差阵；对于度量单位不同的指标或是取值范围彼此差异非常大的指标，应考虑将数据标准化，再由协方差阵求主成分；
3.主成分分析不要求数据来源于正态分布；
4. 在选取初始变量进入分析时应该特别注意原始变量是否存在多
重共线性的问题（最小特征根接近于零，说明存在多重共线性问题）。
5. 因子分析中各个公共因子之间不相关，特殊因子之间不相关，公共因子和特殊因子之间不相关。
应用领域：解决共线性问题，评价问卷的结构效度，寻找变量间潜在的结构，内在结构证实。
4、对应分析/最优尺度分析
基本原理：利用降维的思想以达到简化数据结构的目的，同时对数据表中的行与列进行处理，寻求以低维图形表示数据表中行与列之间的关系。
对应分析：用于展示变量（两个/多个分类）间的关系（变量的分类数较多时较佳）；
最优尺度分析：可同时分析多个变量间的关系，变量的类型可以是无序多分类，有序多分类或连续性变量，并对多选题的分析提供了支持。
5、典型相关分析
基本原理：借用主成分分析降维的思想，分别对两组变量提取主成分，且使从两组变量提取的主成分之间的相关程度达到最大，而从同一组内部提取的各主成分之间互不相关。
（以上分享。仅是概念，无软件操作，好吧我是标题党。但是本人目前正在钻研SPSS，无奈IQ有点不够用，故此跪求SPSS高手，敬请指教——）
主成分分析 起源及发展 主成分分析是1901年Pearson对非随机变量引入的，1933年Hotelling将此方法推广到随机向量的情形，主成分分析和聚类分析有很大的不同，它有严格的数学理论作基础。 原理 在用统计分析方法研究多变量的课题时，变量个数太多就会增加课题的复杂性。人们自然希望变量个数较少而得到的信息较多。在很多情形，变量之间是有一定的相关关系的，当两个变量之间有一定相关关系时，可以解释为这两个变量反映此课题的信息有一定的重叠。主成分分析是对于原先提出的所有变量，将重复的变量（关系紧密的变量）删去多余，建立尽可能少的新变量，使得这些新变量是两两不相关的，而且这些新变量在反映课题的信息方面尽可能保持原有的信息。 设法将原来变量重新组合成一组新的互相无关的几个综合变量，同时根据实际需要从中可以取出几个较少的综合变量尽可能多地反映原来变量的信息的统 计方法叫做主成分分析或称主分量分析，也是数学上用来降维的一种方法。 应用学科 主成分分析作为基础的数学分析方法，其实际应用十分广泛，比如人口统计学、数量地理学、分子动力学模拟、数学建模、数理分析等学科中均有应用，是一种常用的多变量分析方法。 评价步骤 1）对原始数据进行标准化处理 假设进行主成分分析的指标变量有m个：,,…,，共有n个评价对象，第i个评价对象的第j个指标的取值为。将各指标值转换成标准化指标，有 ，（i =1,2,…,n ; j =1,2,…,m）
其中， , ，即为第j个指标的样本均值和样本标准差。对应地，称 ，（j =1,2,…,m） 为标准化指标变量。 2）计算相关系数矩阵R 相关系数矩阵, 有 , （i,j =1,2,…,m） 式中，=，是第i个指标与第j个指标的相关系数。 3）计算特征值和特征向量 计算相关系数矩阵R的特征值，及对应的特征向量，其中，由特征向量组成m个新的指标变量: ? 式中是第1主成分，是第2主成分，…，是第m 主成分。 4）选择个主成分，计算综合评价值 ① 计算特征值的信息贡献率和累积贡献率。称
北京建筑工程学院 理学院信息与计算科学专业实验报告 课程名称《数据分析》实验名称《主成分分析和聚类分析》实验地点：基础楼C-423日期__2016.5.5_____ 姓名张丽芝班级信131 学号201307010108___指导教师王恒友成绩 【实验目的】 （1）熟悉利用主成分分析进行数据分析，能够使用SPSS软件完成数据的主成分分析； （2）熟悉利用聚类分析进行数据分析，能够运用主成分分析的结果，做进一步分析，如聚类分析、回归分析等，能够使用SPSS软件完成该任务。 【实验要求】 根据各个题目的具体要求，分别运用SPSS软件完成实验任务。 【实验内容】 1、表4.9（数据见exercise4_5.txt）给出了1991年我国30个省市、城镇居民的月平均消 费数据，所考察的八个指标如下：（单位均为元/人） X1: 人均粮食支出；X2：人均副食支出； X3: 人均烟酒茶支出；X4: 人均其他副食支出； X5:人均衣着商品支出；X6: 人均日用品支出； X7: 人均燃料支出；X8: 人均非商品支出。 （1）求样本相关系数矩阵R。 （2）从R出发做主成分分析，求出各主成分的贡献率及前两个主成分的累积贡献率； 2、（1）对题1中的数据，按照原有的八个指标，对30个省份进行聚类，给出分为3
类的聚类结果。 （2）利用题1得到的前2个主成分指标，分别按最短距离法（最近邻居距离）、最长距离法（最远邻居距离）、类平均距离法（组间平均距离）、重心距离法；其中距离均采用欧式平方距离，对样本进行谱系聚类分析，并画出谱系聚类图；给出分为3类的聚类结果。并与（1）的结果进行比较 【实验步骤】（此部分主要包括实验过程、方法、结果、对结果的分析、结论等） 1 1） 2） 表:方差贡献率和累计贡献率
主成分分析：利用降维（线性变换)的思想，在损失很少信息的前提下把多个指标转化为几个综合指标（主成分),用综合指标来解释多变量的方差- 协方差结构，即每个主成分都是原始变量的线性组合,且各个主成分之间互不相关,使得主成分比原始变量具有某些更优越的性能（主成分必须保留原始变量90%以上的信息），从而达到简化系统结构，抓住问题实质的目的综合指标即为主成分。 求解主成分的方法：从协方差阵出发（协方差阵已知），从相关阵出发（相关阵R已知）。（实际研究中，总体协方差阵与相关阵是未知的，必须通过样本数据来估计） 注意事项：1. 由协方差阵出发与由相关阵出发求解主成分所得结果不一致时，要恰当的选取某一种方法； 2. 对于度量单位或是取值范围在同量级的数据，可直接求协方差阵；对于度量单位不同的指标或是取值范围彼此差异非常大的指标，应考虑将数据标准化，再由协方差阵求主成分； 3.主成分分析不要求数据来源于正态分布； 4. 在选取初始变量进入分析时应该特别注意原始变量是否存在多重共线性的问题（最小特征根接近于零，说明存在多重共线性问题）。 优点：首先它利用降维技术用少数几个综合变量来代替原始多个变量，这些综合变量集中了原始变量的大部分信息。其次它通过计算综合主成分函数得分，对客观经济现象进行科学评价。再次它在应用上侧重于信息贡献影响力综合评价。 缺点：当主成分的因子负荷的符号有正有负时，综合评价函数意义就不明确。命名清晰性低。 聚类分析：将个体（样品）或者对象（变量）按相似程度（距离远近）划分类别，使得同一类中的元素之间的相似性比其他类的元素的相似性更强。目的在于使类间元素的同质性最大化和类与类间元素的异质性最大化。 。其主要依据是聚到同一个数据集中的样本应该彼此相似，而属于不同组的样本应该足够不相似。 常用聚类方法：系统聚类法，K-均值法，模糊聚类法，有序样品的聚类，分解法，加入法。 注意事项：1. 系统聚类法可对变量或者记录进行分类，K-均值法只能对记录进行分类；2. K-均值法要求分析人员事先知道样品分为多少类；
注意事项：1. 系统聚类法可对变量或者记录进行分类，K-均值法只能对记录进行分类； 2. K-均值法要求分析人员事先知道样品分为多少类； 3. 对变量的多元正态性，方差齐性等要求较高。应用领域：细分市场，消费行为划分，设计抽样方案等 优点：聚类分析模型的优点就是直观，结论形式简明。 缺点：在样本量较大时，要获得聚类结论有一定困难。由于相似系数是根据被试的反映来建立反映被试间内在联系的指标，而实践中有时尽管从被试反映所得出的数据中发现他们之间有紧密 的关系，但事物之间却无任何内在联系，此时，如果根据距离或相似系数得出聚类分析的结果，显然是不适当的，但是，聚类分析模型本身却无法识别这类错误。 因子分析：利用降维的思想，由研究原始变量相关矩阵内部的依赖关系出发，把一些具有错综复杂关系的变量归结为少数几个综合因子。（因子
分析是主成分的推广，相对于主成分分析，更倾向于描述原始变量之间的相关关系），就是研究如何以最少的信息丢失，将众多原始变量浓缩成少数几个因子变量，以及如何使因子变量具有较强的可解释性的一种多元统计分析方法。 求解因子载荷的方法：主成分法，主轴因子法，极大似然法，最小二乘法，a因子提取法。 注意事项：5. 因子分析中各个公共因子之间不相关，特殊因子之间不相关，公共因子和特殊因子之间不相关。 应用领域：解决共线性问题，评价问卷的结构效度，寻找变量间潜在的结构，内在结构证实。 优点:第一它不是对原有变量的取舍，而是根据原始变量的信息进行重新组合，找出影响变量的共同因子，化简数据；第二，它通过旋转使得因子变量更具有可解释性，命名清晰性高。 缺点:在计算因子得分时，采用的是最小二乘法，此法有时可能会失效。 判别分析：从已知的各种分类情况中总结规律（训练出判别函数），当新样品进入时，判断其与判别函数之间的相似程度（概率最大，距离最
主成分分析、聚类分析的比较与应用
主成分分析、聚类 分析的比较与应用 摘要：主成分分析、聚类分析是两种比较有价值的多元统计方法,但同时也是在使用过程中容易误用或混淆的几种方法。本文从基本思想、数据的标准化、应用上的优缺点等方面,详细地探讨了两者的异同,并且 举例说明了两者在实际问题中的应用。 关键词：spss、主成分分析、聚类分析 一、基本概念 主成分分析就是设法将原来众多具有一定相关性（比如P个指标），重新组合成一组新的互相无关的综合指标来代替原来的指标。综合指标即为主成分。所得出的少数几个主成分，要尽可能多地保留原始变量的信息，且彼此不相关。因子分析是研究如何以最少的信息丢失，将众多原始变量浓缩成少数几个因子变量，以及如何使因子变量具有较强的可解释性的一种多元统计分析方法。 聚类分析是依据实验数据本身所具有的定性或定量的特征来对大量的数据进行分组归类以了解数据集的在结构，并且对每一个数据集进行描述的过程。其主要依据是聚到同一个数据集中的样本应该彼此相似，而属于不同组的样本应该足够不相似。 二、基本思想的异同 （一）共同点 主成分分析法和因子分析法都是用少数的几个变量(因子) 来综合反映原始变量(因子) 的主要信息，变量虽然较原始变量少，但所包含的信息量却占原始信息的85 %以上，所以即使用少数的几个新变量，可信度也很高，也可以有效地解释问题。并且新的变量彼此间互不相关，消除了多重共线性。这两种分析法得出的新变量，并不是原始变量筛选后剩余的变量。在主成分分析中，最终确定的新变量是原始变量的线性组合，如原始变量为x1 ，x2 ，. . . ，x3 ，经过
泛珠三角区域物流发展水平综合评价研究 资料来源：吴晓燕. 泛珠三角区域物流发展水平综合评价研究 泛珠三角区域是我国最主要的经济发达地区之一，也是现代物流最为强劲的“增长极”，具有优越的地理、交通与经济区位优势。但是区域内有发达省份，也有不发达省份，有沿海的省份，也有内陆省份，有东部省份，也有西部省份，彼此之间存在不同的优势和劣势。因此对泛珠三角区域物流发展水平进行评估与分析，有利于明确广东、福建、江西、广西、海南、湖南、四川、云南、贵州九省(区)的区域物流发展现状及差异，找出区域间的优势互补项目，为区域内物流资源有效利用和合理共享、促进区域物流一体化发展提供方向和依据。 评价区域物流综合发展水平是一项很复杂的工作。选择并构建区域物流发展水平综合评价指标体系是评价的关键。因此选择指标构建评价指标体系，必须以综合评价目的为依据，对所要考察的事物进行认真分析，寻找出影响评价对象的因素，从中选出若干主要因素，构建成综合评价指标体系。在多指标综合评价中，如果指标选择不当，再好的综合评价方法也会出现差错，甚至完全失败。 区域物流发展水平评价指标体系实际上就是利用具体的指标将区域物流所包括的功能、区域物流的内涵、特征具体化、层次化的统计描述和综合评价。为了合理评估区域物流发展综合水平，我们主要选取6个一级评价指标，20个次级评价指标对其进行评估，具体结构如下表：
表1 区域物流发展水平评价指标体系 1、社会经济发展类 经济发展是区域物流发展的基础保障，一个地区雄厚的经济基础有利于该物流的加速发展。一般来说，区域物流发展水平与区域的经济发展水平成正比。因此，我们考虑GDP和人均GDP两个次级指标，他们综合反映了物流发展的社会经济基础。 2、生产、消费流通类 从物流需求源考虑，农业、制造业等产业中的物流需求主要是生产资料的位移、储存和流通加工等，这类产业的物流需求与各行业的产量产值存在正比关系，物流需求是商品需求的派生物，与消费品销售，生产资料市场直接相关，商品市场的规模直接决定物流需求的大
https://www.doczj.com/doc/4519167685.html,/ysuncn/archive/2007/12/08/1924502.aspx 一、问题的提出 在科学研究或日常生活中，常常需要判断某一事物在同类事物中的好坏、优劣程度及其发展规律等问题。而影响事物的特征及其发展规律的因素（指标）是多方面的，因此，在对该事物进行研究时，为了能更全面、准确地反映出它的特征及其发展规律，就不应仅从单个指标或单方面去评价它，而应考虑到与其有关的多方面的因素，即研究中需要引入更多的与该事物有关系的变量，来对其进行综合分析和评价。多变量大样本资料无疑能给研究人员或决策者提供很多有价值的信息，但在分析处理多变量问题时，由于众变量之间往往存在一定的相关性，使得观测数据所反映的信息存在重叠现象。因此为了尽量避免信息重叠和减轻工作量，人们就往往希望能找出少数几个互不相关的综合变量来尽可能地反映原来数据所含有的绝大部分信息。而主成分分析和因子分析正是为解决此类问题而产生的多元统计分析方法。 近年来，这两种方法在社会经济问题研究中的应用越来越多，其应用范围也愈加广泛。因子分析是主成分分析的推广和发展，二者之间就势必有着许多共同之处，而SPSS软件不能直接进行主成分分析，致使一些应用者在使用SPSS进行这两种方法的分析时，常常会出现一些混淆性的错误，这难免会使人们对分析结果产生质疑。因此，有必要在运用SPSS分析时，将这两种方法加以严格区分，并针对实际问题选择正确的方法。 二、主成分分析与因子分析的联系与区别 两种方法的出发点都是变量的相关系数矩阵，在损失较少信息的前提下，把多个变量（这些变量之间要求存在较强的相关性，以保证能从原始变量中提取主成分）综合成少数几个综合变量来研究总体各方面信息的多元统计方法，且这少数几个综合变量所代表的信息不能重叠，即变量间不相关。 主要区别： 1. 主成分分析是通过变量变换把注意力集中在具有较大变差的那些主成分上，而舍弃那些变差小的主成分；因子分析是因子模型把注意力集中在少数不可观测的潜在变量（即公共因子）上，而舍弃特殊因子。 2. 主成分分析是将主成分表示为原观测变量的线性组合， （1） 主成分的个数i=原变量的个数p，其中j=1,2,…,p，是相关矩阵的特征值所对应的特征向量矩阵中的元素，是原始变量的标准化数据，均值为0，方差为1。其实质是p维空间的坐标变换，不改变原始数据的结构。 而因子分析则是对原观测变量分解成公共因子和特殊因子两部分。因子模型如式（2），
4实证过程与结果 4.1主成分与聚类分析 首先通过SPSS软件对环境污染的相应指标进行主成分分析，得到：提取Y1、Y2、Y3和Y4四个主成分，其累积贡献率已经达到，超过80%，代表所有环境污染指标的绝大部分信息。Y1偏向于解释工业氢氧化物排放量，Y2偏向于解释生活烟尘排放量，Y3偏向于解释生活废水排放量，Y4偏向于解释工业二氧化硫排放量。 然后，根据主成分分析结果，用Z=0.43226*Y1+0.21911*Y2+0.10380*Y3+ 0.06519*Y4计算综合得分，见下表1。 表1环境污染地区的主成分综合得分表 序号地区Z 排名序号地区Z 排名 1 北京0.863 5 17 武汉-0.116 13 2 天津 1.088 4 18 长沙-0.841 28 3 石家庄0.455 6 19 广州-0.373 19 4 太原0.209 8 20 南宁-0.519 24 5 呼和浩特-0.052 12 21 海口-1.29 31 6 沈阳-0.273 1 7 22 重庆 2.767 1 7 长春-0.257 16 23 成都-0.451 20 8 哈尔滨 2.489 2 24 贵阳-0.331 18 9 上海 1.979 3 25 昆明-0.552 26 10 南京-0.232 15 26 拉萨-1.275 30 11 杭州0.175 9 27 西安0.357 7 12 合肥-0.5 21 28 兰州-0.514 23 13 福州-0.525 25 29 西宁0.004 11 14 南昌-0.949 29 30 银川-0.702 27 15 济南0.022 10 31 乌鲁木齐-0.502 22 16 郑州-0.152 14 最后将环境污染的综合得分作为个案进行层次聚类分析，将31个地区分为5类，如表2。
主成分分析和因子分析的区别 通过主成分分析所得来的新变量是原始变量的线性组合，每个主成分都是由原有P个变量线组合得到，在诸多主成分z中，Z1在总方差中占的比重最大，说明它综合原有变量的能力最强，其余主成分在总方差中占的比重依次递减，说明越往后的主成分综合原信息的能力越弱。以后的分析可以用前面几个方差最大的主成分来进行，一般情况下，要求前几个z 所包含的信息不少于原始信息的85％，这样既减少了变量的数目，又能够用较少的主成分反映原有变量的绝大部分信息。如利用主成分来消除多元回归方程的多重共线性，利用主成分来筛选多元线性回归方程中的变量等。 通过因子分析得来的新变量是对每一个原始变量进行内部剖析。打比喻来说，原始变量就如成千上万的糕点，每一种糕点的原料都有面粉、油、糖及相应的不同原料，这其中，面粉、油、糖是所有糕点的共同材料，这正好象是因子分析中的新变量即因子变量。正确选择因子变量后，如果想考虑成千上万糕点的物价变动，只需重点考虑面粉、油、糖等公共因子的物价变动即可。所以因子分析不是对原始变量的重新组合，而是对原始变量进行分解，分解为公共因子与特殊因子两部分。即因子分析就是要利用少数几个公共因子去解释较多个要观测变量中存在的复杂关系，它把原始变量分解为两部分因素，一部分是由所有变量共同具有的少数几个公共因子构成的，另一部分是每个原始变量独自具有的因素，即特殊因子。 1、因子分析中是把变量表示成各因子的线性组合，而主成分分析中则是把主成分表示成各个变量的线性组合。在主成分分析中，最终确定的新变量是原始变量的线性组合，如原始变量为x1，x2，. . . ，x3 ，经过坐标变换,将原有的p个相关变量xi 作线性变换,每个主成分都是由原有p 个变量线性组合得到。在诸多主成分Zi 中,Z1 在方差中占的比重最大,说明它综合原有变量的能力最强,越往后主成分在方差中的比重也小,综合原信息的能力越弱。 2、主成分分析的重点在于解释各变量的总方差，而因子分析则把重点放在解释各变量之间的协方差。 3、主成分分析中不需要有假设(assumptions)，因子分析则需要一些假设。因子分析的假设包括：各个共同因子之间不相关，特殊因子（specific factor）之间也不相关，共同因子和特殊因子之间也不相关。 4、主成分分析中，当给定的协方差矩阵或者相关矩阵的特征值是唯一的时候，主成分一般是独特的；而因子分析中因子不是独特的，可以旋转得到不到的因子。 5、在因子分析中，因子个数需要分析者指定（spss根据一定的条件自动设定，只要是特征值大于1的因子进入分析），而指定的因子数量不同而结果不同。在主成分分析中，成分的数量是一定的，一般有几个变量就有几个主成分。 和主成分分析相比，由于因子分析可以使用旋转技术帮助解释因子，在解释方面更加有优势。大致说来，当需要寻找潜在的因子，并对这些因子进行解释的时候，更加倾向于使用因子分析，并且借助旋转技术帮助更好解释。而如果想把现有的变量变成少数几个新的变量（新的变量几乎带有原来所有变量的信息）来进入后续的分析，则可以使用主成分分析。当然，这中情况也可以使用因子得分做到。所以这种区分不是绝对的。
主成分分析就是将多项指标转化为少数几项综合指标,用综合指标来解释多变量的方差-协方差结构.综合指标即为主成分.所得出的少数几个主成分,要尽可能多地保留原始变量的信息,且彼此不相关.因子分析是研究如何以最少的信息丢失,将众多原始变量浓缩成少数几个因子变量,以及如何使因子变量具有较强的可解释性的一种多元统计分析方法. 聚类分析是依据实验数据本身所具有的定性或定量的特征来对大量的数据进行分组归类以了解数据集的内在结构,并且对每一个数据集进行描述的过程.其主要依据是聚到同一个数据集中的样本应该彼此相似,而属于不同组的样本应该足够不相似. 三种分析方法既有区别也有联系,本文力图将三者的异同进行比较,并举例说明三者在实际应用中的联系,以期为更好地利用这些高级统计方法为研究所用有所裨益. 二、基本思想的异同 (一) 共同点 主成分分析法和因子分析法都是用少数的几个变量(因子) 来综合反映原始变量(因子) 的主要信息,变量虽然较原始变量少,但所包含的信息量却占原始信息的85 %以上,所以即使用少数的几个新变量,可信度也很高,也可以有效地解释问题.并且新的变量彼此间互不相关,消除了多重共线性.这两种分析法得出的新变量,并不是原始变量筛选后剩余的变量.在主成分分析中,最终确定的新变量是原始变量的线性组合,如原始变量为x1 ,x2 ,. . . ,x3 ,经过坐标变换,将原有的p个相关变量xi 作线性变换,每个主成分都是由原有p 个变量线性组合得到.在诸多主成分Zi 中,Z1 在方差中占的比重最大,说明它综合原有变量的能力最强,越往后主成分在方差中的比重也小,综合原信息的能力越弱.因子分析是要利用少数几个公共因子去解释较多个要观测变量中存在的复杂关系,它不是对原始变量的重新组合,而是对原始变量进行分解,分解为公共因子与特殊因子两部分.公共因子是由所有变量共同具有的少数几个因子；特殊因子是每个原始变量独自具有的因子.对新产生的主成分变量及因子变量计算其得分,就可以将主成分得分或因子得分代替原始变量进行进一步的分析,因为主成分变量及因子变量比原始变量少了许多,所以起到了降维的作用,为我们处理数据降低了难度. 聚类分析的基本思想是: 采用多变量的统计值,定量地确定相互之间的亲疏关系,考虑对象多因素的联系和主导作用,按它们亲疏差异程度,归入不同的分类中一元,使分类更具客观实际并能反映事物的
实验三我国各地区城镇居民消费性支出的 主成分分析和聚类分析 （王学民编写） 一、实验目的 1.掌握如何使用SAS软件来进行主成分分析和聚类分析； 2.看懂和理解SAS输出的结果，并学会以此来作出分析； 3.掌握对实际数据如何来进行主成分分析； 4.对同一组数据使用五种系统聚类方法及k均值法，学会对各种聚类效果的比较，获取重要经验； 5.掌握使用主成分进行聚类 二、实验内容 数据集sasuser.examp633中含有1999年全国31个省、直辖市和自治区的城镇居民家庭平均每人全年消费性支出的八个主要变量数据。对这些数据进行主成分分析，可将这31个地区的前两个主成分得分标示于平面坐标系内，对各地区作直观的比较分析。对同样的数据使用五种系统聚类方法及k均值法聚类，并对聚类效果作比较。最后，对主成分的图形聚类和正规聚类的效果进行比较。 实验1 进行主成分分析，根据前两个主成分得分所作的散点图对31个地区进行比较分析。 实验2 分别使用最长距离法、中间距离法、两种类平均法、离差平方和法和k均值法进行聚类分析，并比较其聚类效果。 实验3 主成分聚类，并与上述正规的聚类方法进行比较 三、实验要求 1.用SAS软件的交互式数据分析菜单系统完成主成分分析； 2.完成五种系统聚类方法及k均值法，比较其聚类效果； 3.根据前两个主成分得分的散点图作直观的聚类，并与上述正规的聚类方法进行比较。 四、实验指导
1.进行主成分分析 在inshigt中打开数据集sasuser.examp633，见图1。选菜单过程如下： 在图1中选分析?多元（Y X）?在变量框中选x1，x2，x3，x4，x5，x6，x7，x8(见图2)?Y?选输出?选主分量分析，主分量选项（见图3）?在图4中作图中的选择（主成分个数缺省时为“自动”选项，此时只输出特征值大于1的主成分）?确定?确定?确定 图1 图2
4实证过程与结果 主成分与聚类分析 首先通过SPSS软件对环境污染的相应指标进行主成分分析，得到： 提取Y 1、Y 2 、Y 3 和Y 4 四个主成分，其累积贡献率已经达到，超过80%，代表 所有环境污染指标的绝大部分信息。Y 1偏向于解释工业氢氧化物排放量，Y 2 偏向 于解释生活烟尘排放量，Y 3偏向于解释生活废水排放量，Y 4 偏向于解释工业二氧 化硫排放量。 然后，根据主成分分析结果，用Z=*Y 1+*Y 2 +*Y 3 + *Y 4 计算综合得分，见下表1。 表1 环境污染地区的主成分综合得分表 序号地区Z排名序号地区Z排名1北京517武汉13 2天津418长沙28 3石家庄619广州19 4太原820南宁24 5呼和浩特1221海口31 6沈阳1722重庆1 7长春1623成都20 8哈尔滨224贵阳18 9上海325昆明26 10南京1526拉萨30 11杭州927西安7 12合肥2128兰州23 13福州2529西宁11 14南昌2930银川27 15济南1031乌鲁木齐22 16郑州14 最后将环境污染的综合得分作为个案进行层次聚类分析，将31个地区分为5类，如表2。 表2 各地区污染分类 分类污染情况地区 1轻度污染海口、拉萨
2比较轻度污染合肥、乌鲁木齐、福州、南宁、兰州、，昆明、成都、银川、南昌、长沙、沈阳、长春、南京、广州、贵阳、郑州、武汉、济南、西宁、呼和浩特 3污染情况一般太原、杭州、石家庄、西安 4污染比较严重北京、天津 5污染十分严重上海、哈尔滨、重庆 主成分分析和聚类分析在SPSS中的操作过程 打开SPSS，“文件-打开-数据”，选中excel，如下图结果。 首先将变量标准化，“分析-描述统计-描述”，将变量全部选入对话框，点上“将标准化得分另存为变量（Z）”，结果如下。
更多精彩统计学相关文章，请访问“统计之都”Capital of Statistics——https://www.doczj.com/doc/4519167685.html,
主成分分析和因子分析的区别
一、二者在 SPSS 中的实现
（一） 、因子分析在 进行因子分析主要步骤如下： 1. 2. 3. 4. 5. 指标数据标准化（SPSS 软件自动执行） ； 指标之间的相关性判定； 确定因子个数； 综合得分表达式； 各因子 Fi 命名； 例子：对沿海 10 个省市经济综合指标进行因子分析 （一）指标选取原则 本文所选取的数据来自 《中国统计年鉴 2003》 2002 年的统计数据,在沿海 10 省市经济状况主要指标 中 体系中选取了 10 个指标： X1——GDP X3——农业增加值 X5——第三产业增加值 X7——基本建设投资 X9——海关出口总额 X2——人均 GDP X4——工业增加值 X6——固定资产投资 X8——国内生产总值占全国比重（%） X10——地方财政收入
SPSS 中的实现
图表 1 沿海 10 个省市经济数据 社会消 农业增加 工业增加 第三产业 固定资产 基本建设 费品零 值 值 增加值 投资 投资 售总额 14883.3 1390 950.2 83.9 1122.6 86.2 680 663 1023.9 591.4 1376.2 3502.5 1406.7 822.8 3536.3 2196.2 2356.5 1047.1 4224.6 367 2258.4 3851 2092.6 960 3967.2 2755.8 3065 1859 4793.6 995.7 1315.9 2288.7 1161.6 703.7 2320 1970.2 2296.6 964.5 3022.9 542.2 529 1070.7 597.1 361.9 1141.3 779.3 1180.6 397.9 1275.5 352.7 2258.4 3181.9 1968.3 941.4 3215.8 2035.2 2877.5 1663.3 5013.6 1025.5
地区
GDP
人均 GDP 13000 11643 9047 22068 14397 40627 16570 13510 15030 5062
海关出 地方财 口总额 政收入 123.7 211.1 45.9 115.7 384.7 320.5 294.2 173.7 1843.7 15.1 399.7 610.2 302.3 171.8 643.7 709 566.9 272.9 1202 186.7
辽宁 5458.2 山东 10550 河北 6076.6 天津 2022.6 江苏 浙江 福建 广东 10636 7670 4682 11770 上海 5408.8
广西 2437.2
（二）因子分析在 SPSS 中的具体操作步骤
1
主成分分析和因子分析十大不同点 主成分分析和因子分析无论从算法上还是应用上都有着比较相似之处，本文结合以往资料以及自己的理解总结了以下十大不同之处，适合初学者学习之用。 1.原理不同 主成分分析基本原理：利用降维（线性变换）的思想，在损失很少信息的前提下把多个指标转化为几个不相关的综合指标（主成分）,即每个主成分都是原始变量的线性组合,而且各个主成分之间互不相关,使得主成分比原始变量具有某些更优越的性能（主成分必须保留原始变量90%以上的信息），从而达到简化系统结构，抓住问题实质的目的。 因子分析基本原理：利用降维（线性变换）的思想，由研究原始变量相关矩阵内部的依赖关系出发，把一些具有错综复杂关系的变量表示成少数的公共因子和仅对某一个变量有作用的特殊因子线性组合而成。就是要从数据中提取对变量起解释作用的少数公共因子（因子分析是主成分的推广，相对于主成分分析，更倾向于描述原始变量之间的相关关系）。 2.线性表示方向不同 因子分析是把变量表示成各公因子的线性组合；而主成分分析中则是把主成分表示成各变量的线性组合。 3.假设条件不同 主成分分析：不需要有假设（assumptions）。 因子分析：需要一些假设。因子分析的假设包括：各个共同因子之间不相关，特殊因子（specific factor）之间也不相关，共同因子和特殊因子之间也不相关。4.求解方法不同 求解主成分的方法：从协方差阵出发（协方差阵已知），从相关阵出发（相关阵R已知），采用的方法只有主成分法。（实际研究中，总体协方差阵与相关阵是未知的，必须通过样本数据来估计）。 注意事项：由协方差阵出发与由相关阵出发求解主成分所得结果不一致时，要恰当的选取某一种方法；一般当变量单位相同或者变量在同一数量等级的情况下，可以直接采用协方差阵进行计算；对于度量单位不同的指标或是取值范围彼此差异非常大的指标，应考虑将数据标准化，再由协方差阵求主成分；实际应用中应该尽可能的避免标准化，因为在标准化的过程中会抹杀一部分原本刻画变量之间离散程度差异的信息。此外，最理想的情况是主成分分析前的变量之间相关性高，且变量之间不存在多重共线性问题(会出现最小特征根接近0的情况)。 求解因子载荷的方法：主成分法，主轴因子法，极大似然法，最小二乘法，a因子提取法。
4实证过程与结果 4、1主成分与聚类分析 首先通过SPSS软件对环境污染的相应指标进行主成分分析,得到: 提取Y1、Y2、Y3与Y4四个主成分,其累积贡献率已经达到,超过80%,代表所有环境污染指标的绝大部分信息。Y1偏向于解释工业氢氧化物排放量,Y2偏向于解释生活烟尘排放量,Y3偏向于解释生活废水排放量,Y4偏向于解释工业二氧化硫排放量。 然后,根据主成分分析结果,用Z=0、43226*Y1+0、21911*Y2+0、10380*Y3+ 0、06519*Y4计算综合得分,见下表1。 表1 环境污染地区的主成分综合得分表 序号地区Z 排名序号地区Z 排名 1 北京0、863 5 17 武汉-0、116 13 2 天津1、088 4 18 长沙-0、841 28 3 石家庄0、455 6 19 广州-0、373 19 4 太原0、209 8 20 南宁-0、519 24 5 呼与浩特-0、052 12 21 海口-1、29 31 6 沈阳-0、273 1 7 22 重庆2、767 1 7 长春-0、257 16 23 成都-0、451 20 8 哈尔滨2、489 2 24 贵阳-0、331 18 9 上海1、979 3 25 昆明-0、552 26 10 南京-0、232 15 26 拉萨-1、275 30 11 杭州0、175 9 27 西安0、357 7 12 合肥-0、5 21 28 兰州-0、514 23 13 福州-0、525 25 29 西宁0、004 11 14 南昌-0、949 29 30 银川-0、702 27 15 济南0、022 10 31 乌鲁木齐-0、502 22 16 郑州-0、152 14 最后将环境污染的综合得分作为个案进行层次聚类分析,将31个地区分为5类,如表2。 表2 各地区污染分类 分类污染情况地区
S P S S因子分析和主成分分析
实验课：因子分析 实验目的 理解主成分（因子）分析的基本原理，熟悉并掌握SPSS中的主成分（因子）分析方法及其主要应用。 因子分析 一、基础理论知识 1 概念 因子分析（Factor analysis）：就是用少数几个因子来描述许多指标或因素之间的联系，以较少几个因子来反映原资料的大部分信息的统计学分析方法。从数学角度来看，主成分分析是一种化繁为简的降维处理技术。 主成分分析（Principal component analysis）：是因子分析的一个特例，是使用最多的因子提取方法。它通过坐标变换手段，将原有的多个相关变量，做线性变化，转换为另外一组不相关的变量。选取前面几个方差最大的主成分，这样达到了因子分析较少变量个数的目的，同时又能与较少的变量反映原有变量的绝大部分的信息。 两者关系：主成分分析（PCA）和因子分析（FA）是两种把变量维数降低以便于描述、理解和分析的方法，而实际上主成分分析可以说是因子分析的一个特例。
2 特点 （1）因子变量的数量远少于原有的指标变量的数量，因而对因子变量的分析能够减少分析中的工作量。 （2）因子变量不是对原始变量的取舍，而是根据原始变量的信息进行重新组构，它能够反映原有变量大部分的信息。 （3）因子变量之间不存在显著的线性相关关系，对变量的分析比较方便，但原始部分变量之间多存在较显著的相关关系。 （4）因子变量具有命名解释性，即该变量是对某些原始变量信息的综合和反映。 在保证数据信息丢失最少的原则下，对高维变量空间进行降维处理（即通过因子分析或主成分分析）。显然，在一个低维空间解释系统要比在高维系统容易的多。 3 类型 根据研究对象的不同，把因子分析分为R型和Q型两种。 当研究对象是变量时，属于R型因子分析； 当研究对象是样品时，属于Q型因子分析。 但有的因子分析方法兼有R型和Q型因子分析的一些特点，如因子分析中的对应分析方法，有的学者称之为双重型因子分析，以示与其他两类的区别。
现代地理学中的数学方法 本次作业数据主要来源于《2013安徽统计年鉴》，由于部分数据缺失，故用《2012年安徽统计年鉴》中的数据进行了选取与处理；本次作业选取的指标有X1（人均GDP/元）、 X2（第三产业增加值/千万元）、X3（第三产业占GDP的比重/%）、X4（第三产业从业人员数比重/%）X5（第二产业占GDP的比重/%）、X6（总人口/万人）、X7（农民人均纯收入/元）、X8（城镇居民可支配收入/元）、X9（市区人民人均医疗保健消费支出/元）、X10（非农业人口比重/%）、X11（地方财政收入/万元）、X12（规模以上工业总产值/千万元）、X13（农业总产值/万元）、X14（商品进出口总额/美元）、X15（社会消费品零售总额/万元）、 X16（实际利用外资额/万美元）。 运用spss19.0，首先对原始数据进行标准化处理，后经过降维进行因子分析，得到表1相关系数矩阵、表2表征值及贡献率、表3主成分载荷因子矩阵、表4主成分得分。 表1 2012年安徽省各市有关指标相关系数矩阵 X1X2X3X4X4X6X7X8X9X10X11X12X13X14X15X16 X1 1.000 X20.276 1.000 X3-0.309 0.343 1.000 X40.79 0.394 0.034 1.000 X40.809 0.043 -0.672 0.589 1.000 X6-0.417 0.587 0.255 -0.375 -0.516 1.000 X70.826 0.192 -0.102 0.733 0.659 -0.549 1.000 X80.758 0.343 -0.164 0.61 0.584 -0.254 0.823 1.000 X9-0.06 0.018 -0.286 0.013 0.124 -0.024 0.043 0.131 1.000 X100.832 0.131 -0.504 0.725 0.916 -0.486 0.62 0.528 0.21 1.000 X110.391 0.977 0.274 0.508 0.187 0.451 0.348 0.435 0.038 0.263 1.000 X120.474 0.938 0.095 0.532 0.303 0.429 0.376 0.453 0.077 0.343 0.962 1.000 X13-0.582 0.341 0.257 -0.51 -0.708 0.913 -0.648 -0.362 0.118 -0.659 0.184 0.17 1.000 X140.643 0.901 0.153 0.612 0.346 0.296 0.523 0.635 0.013 0.421 0.93 0.926 0.044 1.000 X150.145 0.977 0.338 0.274 -0.054 0.709 0.039 0.22 0.007 0.029 0.936 0.896 0.468 0.822 1.000 X160.524 0.806 0.066 0.604 0.358 0.226 0.586 0.729 0.218 0.354 0.86 0.892 0.034 0.871 0.729 1.000 表2 表征值及贡献率 成份初始特征值提取平方和载入
聚类分析、判别分析、主成分分析、因子分析 主成分分析与因子分析的区别 1. 目的不同：因子分析把诸多变量看成由对每一个变量都有作用的一些公共因子和仅对某一个变量有作用的特殊因子线性组合而成，因此就是要从数据中控查出对变量起解释作用的公共因子和特殊因子以及其组合系数；主成分分析只是从空间生成的角度寻找能解释诸多变量变异的绝大部分的几组彼此不相关的新变量（主成分）。 2. 线性表示方向不同：因子分析是把变量表示成各公因子的线性组合；而主成分分析中则是把主成分表示成各变量的线性组合。 3. 假设条件不同：主成分分析中不需要有假设；因子分析的假设包括：各个公共因子之间不相关，特殊因子之间不相关，公共因子和特殊因子之间不相关。 4. 提取主因子的方法不同：因子分析抽取主因子不仅有主成分法，还有极大似然法，主轴因子法，基于这些方法得到的结果也不同；主成分只能用主成分法抽取。 5. 主成分与因子的变化：当给定的协方差矩阵或者相关矩阵的特征值唯一时，主成分一般是固定的；而因子分析中因子不是固定的，可以旋转得到不同的因子。 6. 因子数量与主成分的数量：在因子分析中，因子个数需要分析者指定（SPSS 根据一定的条件自动设定，只要是特征值大于1的因子主可进入分析），指定的因子数量不同而结果也不同；在主成分分析中，成分的数量是一定的，一般有几个变量就有几个主成分（只是主成分所解释的信息量不等）。 7. 功能：和主成分分析相比，由于因子分析可以使用旋转技术帮助解释因子，在解释方面更加有优势；而如果想把现有的变量变成少数几个新的变量（新的变量几乎带有原来所有变量的信息）来进入后续的分析，则可以使用主成分分析。当然，这种情况也可以使用因子得分做到，所以这种区分不是绝对的。 1 、聚类分析 基本原理：将个体（样品）或者对象（变量）按相似程度（距离远近）划分类别，使得同一类中的元素之间的相似性比其他类的元素的相似性更强。目的在于使类间元素的同质性最大化和类与类间元素的异质性最大化。 常用聚类方法：系统聚类法，K-均值法，模糊聚类法，有序样品的聚类，分解法，加入法。
主成分分析法 主成分分析（principal components analysis，PCA）又称：主分量分析，主成分回归分析法 [编辑] 什么是主成分分析法 主成分分析也称主分量分析，旨在利用降维的思想，把多指标转化为少数几个综合指标。 在统计学中，主成分分析（principal components analysis,PCA）是一种简化数据集的技术。它是一个线性变换。这个变换把数据变换到一个新的坐标系统中，使得任何数据投影的第一大方差在第一个坐标(称为第一主成分)上，第二大方差在第二个坐标(第二主成分)上，依次类推。主成分分析经常用减少数据集的维数，同时保持数据集的对方差贡献最大的特征。这是通过保留低阶主成分，忽略高阶主成分做到的。这样低阶成分往往能够保留住数据的最重要方面。但是，这也不是一定的，要视具体应用而定。 [编辑] 主成分分析的基本思想
在实证问题研究中，为了全面、系统地分析问题，我们必须考虑众多影响因素。这些涉及的因素一般称为指标，在多元统计分析中也称为变量。因为每个变量都在不同程度上反映了所研究问题的某些信息，并且指标之间彼此有一定的相关性，因而所得的统计数据反映的信息在一定程度上有重叠。在用统计方法研究多变量问题时，变量太多会增加计算量和增加分析问题的复杂性，人们希望在进行定量分析的过程中，涉及的变量较少，得到的信息量较多。主成分分析正是适应这一要求产生的，是解决这类题的理想工具。 同样，在科普效果评估的过程中也存在着这样的问题。科普效果是很难具体量化的。在实际评估工作中，我们常常会选用几个有代表性的综合指标，采用打分的方法来进行评估，故综合指标的选取是个重点和难点。如上所述，主成分分析法正是解决这一问题的理想工具。因为评估所涉及的众多变量之间既然有一定的相关性，就必然存在着起支配作用的因素。根据这一点，通过对原始变量相关矩阵内部结构的关系研究，找出影响科普效果某一要素的几个综合指标，使综合指标为原来变量的线性拟合。这样，综合指标不仅保留了原始变量的主要信息，且彼此间不相关，又比原始变量具有某些更优越的性质，就使我们在研究复杂的科普效果评估问题时，容易抓住主要矛盾。上述想法可进一步概述为：设某科普效果评估要素涉及个指标，这指标构成的维随机向量为。对作正交变换，令，其中为正交阵，的各分量是不相关的，使得的各分量在某个评估要素中的作用容易解释，这就使得我们有可能从主分量中选择主要成分，削除对这一要素影响微弱的部分，通过对主分量的重点分析，达到对原始变量进行分析的目的。的各分量是原始变量线性组合，不同的分量表示原始变量之间不同的影响关系。由于这些基本关系很可能与特定的作用过程相联系，主成分分析使我们能从错综复杂的科普评估要素的众多指标中，找出一些主要成分，以便有效地利用大量统计数据，进行科普效果评估分析，使我们在研究科普效果评估问题中，可能得到深层次的一些启发，把科普效果评估研究引向深入。 例如，在对科普产品开发和利用这一要素的评估中，涉及科普创作人数百万人、科普作品发行量百万人、科普产业化（科普示范基地数百万人）等多项指标。经过主成分分析计算，最后确定个或个主成分作为综合评价科普产品利用和开发的综合指标，变量数减少，并达到一定的可信度，就容易进行科普效果的评估。 [编辑] 主成分分析法的基本原理 主成分分析法是一种降维的统计方法，它借助于一个正交变换，将其分量相关的原随机向量转化成其分量不相关的新随机向量，这在代数上表现为将原随机向量的协方差阵变换成对角形阵，在几何上表现为将原坐标系变换成新的正交坐标系，使之指向样本点散布最开的p 个正交方向，然后对多维变量系统进行降维处理，使之能以一个较高的精度转换成低维变量系统，再通过构造适当的价值函数，进一步把低维系统转化成一维系统。 [编辑] 主成分分析的主要作用