主成分分析(PCA)，因子分析(EFA)，傻傻分不清楚？
导语
社会学家、心理学家和消费者研究人员在分析多元数据时，常常会遇到这样的问题：应该使用主成分分析（PCA）还是探索性因子分析（EFA）呢？选择不当可能导致错误的结果或者对数据的错误理解。
在我们过往的推文《这样的数据分析员才有时间谈恋爱？》中，我们已经从概念、区别及各自的使用优势上向大家介绍了主成分分析和因子分析的区别。今天，我们将借助于JMP平台进一步解释PCA和EFA之间的关键区别，帮助大家掌握并思考何时使用最适合的方法来解决最相关的问题。
01从一个小案例谈起
为了举例说明，我们首先创建一组符合标准正态分布的数据表，包含1000个观测变量和互不相关的4个变量。
打开JMP软件的多元平台（JMP菜单：多元分析->多元），观看变量之间的相关性。通过相关性色图（图1），我们可以看到非对角线的相关系数都接近于0，这说明变量之间相互独立。 图1 四个模拟变量的相关系数和对应的色图
那么问题来了：如果在这些数据上执行PCA，结果会是怎样？如果执行EFA，结果又会是怎样？
02 PCA VS EFA
打开JMP的因子分析平台，同时对数据集执行PCA和EFA。需要说明的是，因为只有四个变量，这里我们只保留一个因子。另外，不采用任何的因子旋转。之后得到如图2所示的PCA和EFA的因子载荷矩阵。
因子载荷，测量的是主成分或公因子对变量的影响，可以帮助我们理解主成分或公因子代表的到底是什么。载荷的绝对值越接近1，主成分或公因子对变量的影响就越大。通常定义为绝对值≥0.4为高载荷，因为这表明至少16％的测量变量方差与因子的方差重叠。具有高载荷的变量最能代表主成分或公因子。 图2 主成分分析和因子分析的因子载荷矩阵
对比PCA和EFA的因子载荷矩阵，我们不难发现两者截然不同！PCA给了我们三个绝对值大于0.4的载荷，而EFA没有给出任何高载荷。
为什么结果会截然不同呢？
实验课：因子分析
实验目的
理解主成分（因子）分析的基本原理，熟悉并掌握SPSS中的主成分（因子）分析方法及其主要应用。
因子分析
一、 基础理论知识
1 概念
因子分析（Factor analysis）：就是用少数几个因子来描述许多指标或因素之间的联系，以较少几个因子来反映原资料的大部分信息的统计学分析方法。从数学角度来看，主成分分析是一种化繁为简的降维处理技术。
主成分分析（Principal component analysis）：是因子分析的一个特例，是使用最多的因子提取方法。它通过坐标变换手段，将原有的多个相关变量，做线性变化，转换为另外一组不相关的变量。选取前面几个方差最大的主成分，这样达到了因子分析较少变量个数的目的，同时又能与较少的变量反映原有变量的绝大部分的信息。
两者关系：主成分分析（PCA）和因子分析（FA）是两种把变量维数降低以便于描述、理解和分析的方法，而实际上主成分分析可以说是因子分析的一个特例。
2 特点
（1）因子变量的数量远少于原有的指标变量的数量，因而对因子变量的分析能够减少分析中的工作量。
（2）因子变量不是对原始变量的取舍，而是根据原始变量的信息进行重新组构，它能够反映原有变量大部分的信息。
（3）因子变量之间不存在显著的线性相关关系，对变量的分析比较方便，但原始部分变量之间多存在较显著的相关关系。
（4）因子变量具有命名解释性，即该变量是对某些原始变量信息的综合和反映。
在保证数据信息丢失最少的原则下，对高维变量空间进行降维处理（即通过因子分析或主成分分析）。显然，在一个低维空间解释系统要比在高维系统容易的多。 3 类型
根据研究对象的不同，把因子分析分为R型和Q型两种。
当研究对象是变量时，属于R型因子分析；
当研究对象是样品时，属于Q型因子分析。
但有的因子分析方法兼有R型和Q型因子分析的一些特点，如因子分析中的对应分析方法，有的学者称之为双重型因子分析，以示与其他两类的区别。
====Word行业资料分享--可编辑版本--双击可删====
源-于-网-络-收-集 主成分分析和因子分析的区别
通过主成分分析所得来的新变量是原始变量的线性组合，每个主成分都是由原有P个变量线组合得到，在诸多主成分z中，Z1在总方差中占的比重最大，说明它综合原有变量的能力最强，其余主成分在总方差中占的比重依次递减，说明越往后的主成分综合原信息的能力越弱。以后的分析可以用前面几个方差最大的主成分来进行，一般情况下，要求前几个z所包含的信息不少于原始信息的85％，这样既减少了变量的数目，又能够用较少的主成分反映原有变量的绝大部分信息。如利用主成分来消除多元回归方程的多重共线性，利用主成分来筛选多元线性回归方程中的变量等。
通过因子分析得来的新变量是对每一个原始变量进行内部剖析。打比喻来说，原始变量就如成千上万的糕点，每一种糕点的原料都有面粉、油、糖及相应的不同原料，这其中，面粉、油、糖是所有糕点的共同材料，这正好象是因子分析中的新变量即因子变量。正确选择因子变量后，如果想考虑成千上万糕点的物价变动，只需重点考虑面粉、油、糖等公共因子的物价变动即可。所以因子分析不是对原始变量的重新组合，而是对原始变量进行分解，分解为公共因子与特殊因子两部分。即因子分析就是要利用少数几个公共因子去解释较多个要观测变量中存在的复杂关系，它把原始变量分解为两部分因素，一部分是由所有变量共同具有的少数几个公共因子构成的，另一部分是每个原始变量独自具有的因素，即特殊因子。
1、因子分析中是把变量表示成各因子的线性组合，而主成分分析中则是把主成分表示成各个变量的线性组合。在主成分分析中，最终确定的新变量是原始变量的线性组合，如原始变量为x1，x2，. . . ，x3 ，经过坐标变换,将原有的p个相关变量xi 作线性变换,每个主成分都是由原有p 个变量线性组合得到。在诸多主成分Zi 中,Z1 在方差中占的比重最大,说明它综合原有变量的能力最强,越往后主成分在方差中的比重也小,综合原信息的能力越弱。
1
主成分分析实验报告
一、实验数据
2013年，在国内外形势错综复杂的情况下，我国经济实现了平稳较快发展。全年国内生产总值568845亿元，比上年增长7.7%。其中第三产业增加值262204亿元，增长8.3%，其在国内生产总值中的占比达到了46.1%，首次超过第二产业。经济的快速发展也带来了就业的持续增加，年末全国就业人员76977万人，其中城镇就业人员38240万人，全年城镇新增就业1310万人。随着我国城镇化进程的不断加快，加之农业用地量的不断衰减，工业不断的转型升级，使得劳动力就业压力的缓解需要更多的依靠服务业的发展。
（一）指标选择
根据指标选择的可行性、针对性、科学性等原则，选择13个指标来衡量服务业的发展水平，指标体系如表1所示：
表1 服务业发展水平指标体系
指标 单位 计算方法 代码
服务业增加值 亿元 ∑服务业各企事业单位增加值 X1
服务业就业人数 万人 服务业吸纳劳动力数量 X2
服务业产值比重 % 服务业增加值/GDP X3
服务业就业比重 % 服务业就业人数/总就业人数 X4
人均服务产品占有量 元/人 服务业增加值/地区总人口数 X5
服务密度 元/万平方公里 服务业增加值/地区面积 X6
服务综合生产率 亿元/万人 服务业增加值/服务业就业人数 X7
服务业贡献率 % 服务增加值/总人口 X8
人均GDP 元 国内生产总值/总人口 X9
服务业增长速度 % （报告期不变价服务业增加值/基期不变价服务业增加值-1）*100% X10
工业化水平 % 工业增加值/国内生产总值 X11
城市化水平 % 城镇人口/总人口 X12
服务业全社会固定资产投资额 亿元 ∑服务业各行业固定资产投资额 X13
2
（二）指标数据
本次实验采用的数据是我国31个省（市、自治区）2012年的数据，原数据均来自《2013中国统计年鉴》以及2013年各省（市、自治区）统计年鉴，不能直接获得的指标数据是通过对相关原始数据的换算求得。原始数据如表2所示：
