第10章 主成份分析和因子分析

主成分分析与因子分析的异同比较及应用一、相似之处：1.降低数据维度：主成分分析和因子分析都是降维方法，通过将原始变量进行线性组合，生成一组新变量，减少原始数据的维度。

2.揭示变量之间的关系：主成分分析和因子分析都可以揭示数据中变量之间的相关性和潜在结构，更好地理解变量之间的关系。

3.数据依赖：主成分分析和因子分析都依赖原始数据的线性关系。

二、主成分分析的特点和应用：1.数据探索：主成分分析可以用于对数据进行探索性分析，揭示数据中的模式和变量之间的关系。

2.特征选择：主成分分析可以用于提取最相关的变量，帮助选择最能代表数据信息的特征。

3.数据压缩：通过保留主要的主成分，主成分分析可以将数据压缩成较低维度，减少存储和计算的开销。

4.降噪：主成分分析可以通过去除与主成分相关较小的维度，减少噪声的影响。

三、因子分析的特点和应用：因子分析的目标是通过找到能够解释原始变量间共同方差的不可观测因子，来揭示变量背后的潜在结构。

因子分析的原理是通过将多个变量通过线性函数关系表示为少数几个潜在因子的和。

因子分析可以用于以下场景：1.变量间关系建模：因子分析可以用于建立变量之间的概念模型，识别变量的共同因子、独特因子和测量误差。

2.假设测试：因子分析可以用于检验变量之间的因果关系，以验证一些假设。

3.变量缩减：通过识别共同的因子，并组合成新的因子变量，因子分析可以减少数据集的维度。

4.数据恢复：因子分析可以通过基于因子提取的结果，恢复原始变量的丢失信息。

四、主成分分析与因子分析的区别：1.目标：主成分分析的目标是将原始变量转化为一组新的不相关的维度，以解释数据方差最大化；而因子分析的目标是将原始变量转化为一组潜在因子，以解释变量间的共同方差。

2.变量假设：主成分分析假设所有变量是观测变量的线性组合，而因子分析假设所有变量既有观测变量，也有不可观测的因子变量。

3.因素解释：主成分分析的主要解释对象是方差，因而主成分的解释目标是能够包含尽可能多的方差；而因子分析的解释对象是共同方差，因而因子的解释目标是能够解释原始变量之间的共同方差。

数据分析中的因子分析和主成分分析在数据分析领域，因子分析和主成分分析是两种常用的多变量分析方法。

它们可以用来处理大量的数据，找出数据的内在规律，并将数据简化为更少的变量。

本文将介绍因子分析和主成分分析的定义、应用以及它们在数据分析中的区别和联系。

一、因子分析因子分析是一种用于研究多个变量之间的潜在因素结构及其影响的统计方法。

它通过将多个观测变量转化为少数几个无关的因子，来解释变量之间的相关性。

因子分析的基本思想是将多个相关观测变量归因于少数几个潜在因子，这些潜在因子不能被观测到，但可以通过观测变量的变化来间接地推断出来。

因子分析通常包括两个主要步骤：提取因子和旋转因子。

提取因子是指确定能够解释原始变量方差的主要共性因子，常用的方法有主成分分析法和最大似然估计法。

旋转因子是为了减少因子之间的相关性，使得因子更易于解释。

常用的旋转方法有正交旋转和斜交旋转。

因子分析的应用非常广泛，可以用于市场研究、社会科学调查、心理学、金融等领域。

例如，在市场研究中，因子分析可以用来确定消费者购买行为背后的潜在因素，从而更好地理解市场需求。

二、主成分分析主成分分析是一种通过线性变换将原始变量转化为一组线性无关的主成分的统计方法。

主成分是原始变量的线性组合，具有较大的方差，能够尽可能多地解释原始数据。

主成分分析的主要思想是将原始变量投影到一个新的坐标系中，使得新坐标系上的第一主成分具有最大方差，第二主成分具有次最大方差，以此类推。

通过选择解释原始数据方差较多的前几个主成分，我们可以实现数据的降维和主要信息提取。

主成分分析在数据降维、特征提取和数据可视化等领域有广泛的应用。

例如，在图像处理中，主成分分析可以用来压缩图像数据、提取重要特征，并且可以在保留图像主要信息的同时减少存储空间的需求。

三、因子分析和主成分分析的区别和联系因子分析和主成分分析在某些方面有相似之处，但也存在明显的区别。

首先，因子分析是用于研究多个观测变量之间的潜在因素结构，而主成分分析是通过线性变换将原始变量转化为一组线性无关的主成分。

主成分分析在许多领域的研究与应用中，往往需要对反映事物的多个变量进行大量的观测，收集大量数据以便进行分析寻找规律。

多变量大样本无疑会为研究和应用提供了丰富的信息，但也在一定程度上增加了数据采集的工作量，更重要的是在多数情况下，许多变量之间可能存在相关性，从而增加了问题分析的复杂性，同时对分析带来不便。

如果分别对每个指标进行分析，分析往往是孤立的，而不是综合的。

盲目减少指标会损失很多信息，容易产生错误的结论。

因此需要找到一个合理的方法，在减少需要分析的指标同时，尽量减少原指标包含信息的损失，以达到对所收集数据进行全面分析的目的。

由于各变量间存在一定的相关关系，因此有可能用较少的综合指标分别综合存在于各变量中的各类信息。

主成分分析与因子分析就属于这类降维的方法。

主成分分析是设法将原来众多具有一定相关性（比如P个指标），重新组合成一组新的互相无关的综合指标来代替原来的指标。

主成分分析，是考察多个变量间相关性一种多元统计方法，研究如何通过少数几个主成分来揭示多个变量间的内部结构，即从原始变量中导出少数几个主成分，使它们尽可能多地保留原始变量的信息，且彼此间互不相关.通常数学上的处理就是将原来P个指标作线性组合，作为新的综合指标。

最经典的做法就是用F1（选取的第一个线性组合，即第一个综合指标）的方差来表达，即Var(F1)越大，表示F1包含的信息越多。

因此在所有的线性组合中选取的F1应该是方差最大的，故称F1为第一主成分。

如果第一主成分不足以代表原来P个指标的信息，再考虑选取F2即选第二个线性组合，为了有效地反映原来信息，F1已有的信息就不需要再出现在F2中，用数学语言表达就是要求Cov(F1, F2)=0，则称F2为第二主成分，依此类推可以构造出第三、第四，……，第P个主成分。

2. 问题描述下表1是某些学生的语文、数学、物理、化学成绩统计：首先，假设这些科目成绩不相关，也就是说某一科目考多少分与其他科目没有关系。

因子分析主成分分析因子分析和主成分分析是一种统计方法，用于探索多个变量之间的关系。

它们可以帮助人们理解数据的结构、降低变量维度、提取重要信息以及进行数据压缩等。

因子分析和主成分分析的基本思想是将一组观测变量转化为一组新的、不相关的变量(主成分或因子)，以保留原始数据中的关键信息。

主成分分析(PCA)是一种线性降维方法，它通过寻找原始数据中方差最大的方向（主成分），将原始数据映射到一个低维子空间中。

这些主成分是原始数据中的线性组合，但它们是彼此正交的，也就是说，它们在数据中没有相关性。

主成分的数量通常比原始变量少，因此可以实现数据压缩和降维的目的。

主成分分析的步骤如下：1.标准化数据：将原始数据标准化为均值为0，标准差为1的数据集，以消除不同变量之间的量纲差异。

2.计算协方差矩阵：根据标准化后的数据计算协方差矩阵。

3.计算特征值和特征向量：对协方差矩阵进行特征值分解，得到特征值和特征向量。

4.选择主成分：根据特征值的大小选择前k个主成分，其中k是降维后的维度。

5.构建降维矩阵：将选定的主成分按照特征值大小的顺序组合起来，构成降维矩阵。

6.数据转化：将原始数据通过降维矩阵映射到低维子空间中，得到降维后的数据。

因子分析(Factor Analysis)是一种非线性降维方法，它假设观测数据是由若干个“潜在因子”造成的，这些因子不能直接观测到，只能通过相关的观测变量间接反映出来。

因子分析通过寻找观测数据中的共同因素，解释多变量之间的协方差结构，并试图从中识别出潜在的因素。

因子分析的步骤如下：1.确定因子数：通过确定潜在因素的数量，决定需要提取的因子个数。

2.选择提取方法：根据因素的假设和数据特点选择合适的提取方法，常用的有主成分法、极大似然法和最小残差法等。

3.估计因子载荷：根据选择的提取方法，估计每个观测变量与每个因子的相关程度，即因子载荷。

4.解释因子：根据因子载荷的结果解释因子的意义和潜在的因素。

5.因子旋转：将因子旋转到更容易解释和解读的位置，常用的旋转方法有方差最大化法、正交旋转法和斜交旋转法等。

主成分分析与因子分析法主成分分析是一种减少数据维度的统计学方法，通过将多变量数据投影到一个较低维度的空间中，实现数据的降维。

主成分分析的基本思想是将原始数据转换为一组新的变量，这些新的变量称为主成分，通过主成分的降序排列，能够使原始数据中较大方差的信息更好地保留下来。

1.数据标准化：根据数据的特点，将数据进行标准化处理，使得各个变量具有相同的尺度。

2.计算协方差矩阵：通过计算数据的协方差矩阵，了解各个变量之间的相关性。

3.求解特征向量和特征值：通过对协方差矩阵进行特征值分解，得到特征向量和特征值。

4.选择主成分：选取前k个特征向量对应的主成分，使得它们能够解释绝大部分的方差。

通常选择的标准是特征值大于1，或者解释方差的累积比例达到一定的阈值。

5.主成分系数：计算原始变量和主成分之间的线性关系，这个关系可以用主成分的特征向量作为系数矩阵进行表示。

1.降低维度：主成分分析能够将高维数据降维，提取出最能代表原始数据的主成分。

2.去除冗余信息：通过选择主成分，可以去除原始数据中的冗余信息，提取出最有用的信息。

3.可视化：降维后的数据可以更容易地可视化和解释。

二、因子分析法（Factor Analysis）因子分析法是一种用于确定多个观测变量之间的潜在结构的统计学方法。

它假设观测变量是由一组潜在因子决定的，通过观测变量和因子之间的相关性，可以推断出潜在因子之间的关系。

因子分析法的基本步骤如下：1.确定因子数：根据研究的目的和背景，确定潜在因子的个数。

2.求解因子载荷矩阵：通过最大似然估计或主因子方法，求解因子载荷矩阵，得到每个观测变量与潜在因子之间的相关关系。

3.提取因子：根据因子载荷矩阵，提取出与观测变量相关性最高的因子，将原始数据映射到潜在因子空间中。

4.旋转因子：通过旋转因子载荷矩阵，使得因子之间更易解释和解读，常用的旋转方法有正交旋转和斜交旋转。

5.因子得分：根据观测变量的信息和因子载荷矩阵，计算每个样本在每个因子上的得分。

主成分分析与因子分析的联系与区别相比之下，因子分析（Factor Analysis）更关注隐性的变量或者未观测到的结构。

因子分析假设观测到的变量由一组潜在的因子决定，这些因子通过线性组合来解释观测到的变量的协方差矩阵。

这些因子是未观测到的，但可以通过观测到的变量的线性组合来间接估计。

因子分析的目标是通过提取因子，找到能够解释原始数据方差的最少因子数量，以及变量与因子之间的关系。

相同点：1.数据降维：主成分分析和因子分析都是用于降低数据维度的方法。

它们能够将高维数据转化为低维的表示形式，从而更好地展示数据的结构。

2.可视化：主成分分析和因子分析都可以用于数据可视化。

通过降维，我们可以将数据在二维或三维平面上进行展示，以更好地理解变量之间的关系。

不同点：1.目标：主成分分析旨在最大化数据方差的解释，而因子分析旨在找到能够解释观测到的变量协方差矩阵的最少因子数量。

2.假设：主成分分析假设观测到的变量是线性相关的，而因子分析假设这些变量受到潜在因子的影响。

3.变量解释：在主成分分析中，主成分是原始变量的线性组合，它们解释了数据方差的不同比例。

而在因子分析中，因子是潜在的变量，通过观测到的变量的线性组合来间接估计。

4.其中一种程度上冗余度：主成分分析中的主成分是不相关的，而在因子分析中，因子之间可能存在一定的相关性。

5.数据特点：主成分分析适用于变量之间存在线性相关性的数据；而因子分析适用于存在潜在因子的数据，且变量之间的关系更加复杂。

需要注意的是，主成分分析和因子分析是统计方法，它们的结果需要进一步解释和解释。

研究者需要考虑数据的背景知识和分析的目标，以确定何时使用主成分分析还是因子分析。

因子分析与主成分分析因子分析和主成分分析是统计学中常用的降维技术，它们在数据分析和模式识别等领域中广泛应用。

本文将介绍因子分析和主成分分析的基本概念与原理，并对它们的应用进行探讨。

一、因子分析的概念与原理因子分析是一种用于发掘多个变量之间潜在关联性的方法。

当我们面对大量变量时，往往希望找到其中的共性因素来解释观测数据。

因子分析通过将变量进行降维，将原始变量解释为共同的因子或构念，从而减少信息冗余，提取数据的主要特征。

因子分析的核心思想是假设多个观测变量是由少数几个潜在因子所共同决定的。

这些潜在因子无法直接观测，但可以通过观测变量的线性组合进行间接估计。

通过因子分析，我们可以得到因子载荷矩阵，它描述了每个观测变量与潜在因子之间的关系强度。

二、主成分分析的概念与原理主成分分析是一种常用的无监督学习方法，用于降维和数据压缩。

与因子分析类似，主成分分析也采用线性组合的方式将原始变量映射到一个低维的特征空间。

主成分分析的目标是找到一组新的变量，称为主成分，它们能够最大程度地保留原始数据中的信息。

主成分分析的步骤如下：1. 标准化数据：将原始数据标准化，使得变量的均值为0，方差为1，以消除变量尺度差异的影响。

2. 计算协方差矩阵：计算标准化后的数据的协方差矩阵，用于评估各个变量之间的相关性。

3. 特征值分解：对协方差矩阵进行特征值分解，得到特征值和特征向量。

4. 选择主成分：根据特征值大小，选择要保留的主成分数量。

5. 计算主成分：将原始数据投影到所选择的主成分上，得到降维后的数据。

三、因子分析与主成分分析的应用1. 数据降维：因子分析和主成分分析可以用于降低数据集的维度，减少冗余信息。

在机器学习和数据挖掘中，高维数据集的处理往往会面临计算复杂度和过拟合等问题，降维技术可以有效解决这些问题。

2. 变量选择：通过因子分析和主成分分析，可以识别出对观测数据具有重要影响的变量。

这对于特征选择和模型建立有重要意义，可以提高模型的解释性和泛化能力。

在实际工作中，为了全面的分析问题，往往会收集很多变量，这些变量之间通常都会存在大量重复信息，如果直接用来分析，不但计算繁琐，模型复杂，而且还有一个更严重的问题就是共线性问题，前面提到过共线性问题会导致模型误差增大，失去意义。

当面对变量过多时，通常的处理方法是降维，即设法将原来众多具有一定相关性的变量，重新组合成一组新的互相无关的综合变量，这些综合变量要尽可能多的反映原有变量的信息。

降维的方法有很多，其中最常用的就是主成分分析和因子分析一、主成分分析(Principal Component Analysis，PCA)1.基本思路设有n个原始变量，如果将它们都用散点图表示，会发现一些变量是存在某种线性关系的，这就是共线性，我们可以利用这个特点，创建一个变量Yi，使它成为某些原始变量的线性组合结果Yi =β+β1x1+...βnxn，这样处理之后，n个原始变量就转化为i个新变量，这i个新变量不同程度的反映了原始变量的信息，并且互不相关，这就解决了共线性问题。

那么接下来的问题是，n个变量的线性组合有很多种，我们取哪种结果作为新变量呢？经典的方法就是根据方差来判断，方差越大，变异越大，而我们的目的并不是消除变异，而是用尽可能少的新变量表示大部分原始变量，因此变异信息也必须尽量完整的反映。

我们将新变量按照方差大小排序，最大者也就是包含变异最多的为第一主成分，以此类推，通常只取前面几个最大的主成分，这样虽然损失部分信息，但是抓住了主要变异，如果全都取的话是没有意义的，因为原则上有多少个原始变量，就可以提取多少个主成分，但是这样做违背了降维的目的，多数情况下，取钱2-3个主成分就可以代表90%以上的变异信息，其余的可以忽略不计。

2.计算过程前面讲了PCA的基本思路，现在用具体数学算法来加以实现<1>数据标准化由于每个变量都有自己的数量级和量纲，首先要对变量进行标准化处理以消除这方面的差异<2>计算协方差矩阵或相关系数矩阵对于一维数据，也就是一个变量的数据，我们可以用均值、方差、标准差来描述，而协方差用于衡量两个变量的总体误差，如果多于两个变量，那就要用协方差矩阵来表示。

主成分分析与因⼦分析主成分分析，主成份是原始变量的线性组合，在考虑所有主成份的情况下主成份和原始变量间是可以逆转的。

即“简化变量”，将变量以不同的系数合起来，得到好⼏个复合变量，然后在从中挑⼏个能表⽰整体的复合变量就是主成份，然后计算得分。

因⼦分析，公共因⼦和原始变量的关系是不可逆转的，但是可以通过回归得到。

是将变量拆开，分成公共因⼦和特殊因⼦。

过程是：因⼦载荷计算，因⼦旋转，因⼦得分。

主成份分析主成份分析需要知道两变量之间的相关性，⽣成协⽅差举证和相关新矩阵，对应的⽣成的新向量矩阵Y还有特征值λi，对应是第I个新向量对总体信息的贡献率为λi/(λ1+λ2+...+λn),对应的还有⼀个累积贡献率。

确定主成份的个数的⽅法有：特征值⼤于1（要求原始数据的每⼀个变量⾄少能贡献1各单位的变异）、陡坡检验法（陡坡图中开始平坦的点之前的点的个数）、累积解释变异⽐例法（即（λ1+...+λi）/(λ1+λ2+...+λn)>70%）。

同时也可以知道主成分分析对应的⼏个难点①是使⽤协⽅差矩阵还是相关系数矩阵②如何确定主成份的个数。

当数据中不同变量的度量单位不同并且数值相差较⼤就⽤标准化后的相关系数矩阵，当数值相差不⼤并且指标的权重不⼀样时，考虑⽤协⽅差矩阵。

对于个数的确定就是我们⼀些边界问题是否1左右的也可以囊括进主成份中，是否难以确定开始变平坦的是那个点，是否70%不够。

等⼏个问题。

主成分分析可以⽤两个过程步完成PROC FACTORS 、PROC PRINCOMP。

后者能处理的数据量⼤⼀些，效率⾼⼀些，，前者输出的内容丰富些，还可以做旋转因⼦。

以下是主成分分析过程；proc princomp data=sashelp.cars out=car_component;var mpg_city mpg_highway weight wheelbase length;run;输出结果：先是输出统计结果，再是输出相关性矩阵，这⾥princomp步默认使⽤的是相关系数矩阵，实际应⽤过程中，可以通过cov选项来指定使⽤的矩阵。

主成分分析和因子分析有十大区别：1.原理不同主成分分析基本原理：利用降维（线性变换)的思想，在损失很少信息的前提下把多个指标转化为几个不相关的综合指标（主成分),即每个主成分都是原始变量的线性组合,且各个主成分之间互不相关,使得主成分比原始变量具有某些更优越的性能（主成分必须保留原始变量90%以上的信息），从而达到简化系统结构，抓住问题实质的目的。

因子分析基本原理：利用降维的思想，由研究原始变量相关矩阵内部的依赖关系出发，把一些具有错综复杂关系的变量表示成少数的公共因子和仅对某一个变量有作用的特殊因子线性组合而成。

就是要从数据中提取对变量起解释作用的少数公共因子（因子分析是主成分的推广，相对于主成分分析，更倾向于描述原始变量之间的相关关系）2.线性表示方向不同因子分析是把变量表示成各公因子的线性组合；而主成分分析中则是把主成分表示成各变量的线性组合。

3.假设条件不同主成分分析：不需要有假设(assumptions),因子分析：需要一些假设。

因子分析的假设包括：各个共同因子之间不相关，特殊因子（specificfactor）之间也不相关，共同因子和特殊因子之间也不相关。

4.求解方法不同求解主成分的方法：从协方差阵出发（协方差阵已知），从相关阵出发（相关阵R已知），采用的方法只有主成分法。

（实际研究中，总体协方差阵与相关阵是未知的，必须通过样本数据来估计）注意事项：由协方差阵出发与由相关阵出发求解主成分所得结果不一致时，要恰当的选取某一种方法；一般当变量单位相同或者变量在同一数量等级的情况下，可以直接采用协方差阵进行计算；对于度量单位不同的指标或是取值范围彼此差异非常大的指标，应考虑将数据标准化，再由协方差阵求主成分；实际应用中应该尽可能的避免标准化，因为在标准化的过程中会抹杀一部分原本刻画变量之间离散程度差异的信息。

此外，最理想的情况是主成分分析前的变量之间相关性高，且变量之间不存在多重共线性问题(会出现最小特征根接近0的情况)；求解因子载荷的方法：主成分法，主轴因子法，极大似然法，最小二乘法，a因子提取法。