当前位置：文档之家 › 第六章因子分析

第六章因子分析

  • 格式：docx
  • 大小：18.18 KB
  • 文档页数：5

下载文档原格式

  / 5

合集下载

因子分析-PPT

因子分析-PPT
小或增大。所以“方差极大” 旋转就是使载荷值按照列向0,1 两极分化,同时也包含着按行向 两极分化。
因子 得分
因子分析
什么 叫因 子分
析
定义解释
因子分析就是主成分分析得推广和发展, 她就是把具有复杂关系得多个变量(或样 品)综合为少数几个因子,并给出原始变量 与综合因子之间得相关关系得多元统计 分析方法
种类
R型因子分析(对变量进行因子分析) Q型因子分析(对样品进行因子分析)
应用意义
应用范围
表示得形式不同。
因子 分析 得统 计意
义
假定因子模型中,各个变量、 公共因子、特殊因子都已经进 行了标准化处理
因子载荷矩阵得统计意义
变量共同度得统计意义
公因子方差贡献得统计意义
因子 载荷 矩阵 得估 计方
法
方法一:流
应用类型
基本思想 数学模型
因子 分析 得模
型
主成 分分 析与 因子 分析 得区
别
主成分分析就是一种数学变换 (正交变换)不能称为一种数学 模型;而因子分析需要构造数 学模型。
主成分得个数与原始数据个数 相等,就是把原始变量变换成 为相互独立得新得变量;而因 子个数一般要求小于原始数据 个数,目得在于得到一个结构 简单得因子模型。
可以互相讨论下，但要小声点
因子 旋转
含义:
因子旋转就是根据因子载荷矩阵 得不唯一性,用一个正交矩阵右乘 因子载荷矩阵,实行旋转(由线性代 数,一次正交变换,对应坐标系得一 次旋转),使旋转后得因子载荷矩阵 结构简化,以便对公共因子进行合 理得解释。
所谓结构简化就就是使得每个变 量仅在一个公共因子上有较大得 载荷,而在其她得公共因子上得载 荷比较小。
常用得方法有:

06 第六章 R-Q型因子分析

06 第六章 R-Q型因子分析

X = nW
于是有
（6.24）
F=
nWU
∧−1 2
=
nF R
∧−1 2
即
（6.24）
FR =
1
F
∧−1 2
n
（6.25）
其中各记号同前文一致。 现在用图 4-9 中汇水盆地的样本为例说明R-Q型因子分析的计算与应用。由样本中 25
个样品 6 个变量作R型因子分析后得因子负载矩阵A于表 5-2。它就是R-Q型因子分析中要求 的R型负载AR。表 5-2 对应的R型因子得分矩阵F列表 5-3，由（6.25）式可求得R-Q型因子分 析中要求的Q型的负载AQ=FR，所得结果列于表 6-1。
三、R-Q 型因子分析的图示
矩阵AR和AQ都是p列的，这意味着m维变量空间和n维样品空间样品都可用一p维因子空
3
间代替，因为p＜＜min(n，m)，故原始空间维数约简了许多。 由于下面的关系成立
AR ARΤ = W ΤW
AQ AQΤ = WW Τ
可见，变量间关系完全保留在ARARΤ中，样品间关系完全保留在AQAQΤ中。
一、R-Q 型因子分析的相似性矩阵
我们考虑用相关系数作为变量间相似性的度量，用欧氏距离作为样品间的相似性度量，并
以此建立起变量间相似性矩阵与样品间相似性矩阵的联系。设原始数据矩阵为如下的形式：
Xn×m=(xij)n×m 其中xij为样品i变量j的观测值；并对数据作如下变换，即类似与标准化变换：
（6.1）
n
j =1
j =1
∑ (xij − x j )2
i =1
(6.8)
∑m
=
(xkj − xLj ) 2
n
= hkk + hLL − 2hkL

第六章 因子分析

第六章 因子分析
Cov( X i , Fj ) Cov( aik Fk i , Fj )
k 1 m m
= Cov( = aij
a
k 1
ik
Fk , Fj ) Cov( i , Fj )
如果对 X i 作了标准化处理， X i 的标准差为 1，且 Fj 的标准差 为 1，因此
rX i , Fj
m * ij
i j i j
i, j 1, 2,, p
（6.10） 我们知道 A 的解是不唯一的，可以有许多。这种方法要求得 到的解使得第一公共因子 F1 对 X 的贡献 g1
2
ai2 达到最 1
i 1
p
大，第二共因子 F2 对 X 的贡献 g 2
2
ai22 达到次之， ，
第一，变量 X 的协差阵 Σ 的分解式为
D( X ) D( AF ε) E[( AF ε)( AF ε)] AE (FF ) A AE (Fε) E (εF ) A E (εε) AD(F ) A D(ε )
由模型（6.2）式所满足的条件知
第六章 因子分析
第一节

引言
一般认为因子分析是从Charles Spearman在 1904年发表的文章《对智力测验得分进行统 计分析》开始，他提出这种方法用来解决智 力测验得分的统计方法。目前因子分析在心 理学、社会学、经济学等学科中都取得了成 功的应用，是多元统计分析中典型方法之一 。

因子分析(factor analysis)也是一种降维、 简化数据的技术。它通过研究众多变量之间 的内部依赖关系，探求观测数据中的基本结 构，并用少数几个“抽象”的变量来表示其 基本的数据结构。这几个抽象的变量被称作 “因子”，能反映原来众多变量的主要信息 。原始的变量是可观测的显在变量，而因子 一般是不可观测的潜在变量。

第六章 因子分析

第六章 因子分析


因此：因子也是综合变量；因子具有更 明确的指标意义；具有不同意义的因子 便于揭示事物变化的内在结构；提取少 量重要因子可以达到降维和简化分析的 作用。
（二）因子分析的一般模型：
令因子为 F(factor)，当我们研究 m 个因子对实 际问题的影响时可以建立因子模型，即
X i ai1F1 ai 2 F2 aim Fm + i 。 其中的 F 是对所有
（三）基本思想：

基于对因子的认识，因子分析的基本思想就是通过变 量（或样品）的相关系数矩阵（或相似系数矩阵）内 部结构的研究，找出能控制所有变量（或样品）的少 数几个随机变量去描述多个变量（或样品）之间的相 关（或）相似关系。在分解原始变量的基础上，从中 归纳出潜在的“类别”，相关性较强的变量归为一类， 不同类间变量的相关性则较低。从而实现因子分析的 两个目的：一简化分析，二将原变量分类，对公因子 的意义作出合理可信的解释。

而进行因子分析的起点就是因子模型，我们通 过估计因子模型中的参数即因子负荷和方差对 各因子的重要程度进行衡量，并利用因子负荷 矩阵所体现的各变量或样品之间的相关程度提 取出具有明确意义的公因子F，赋予其有实际 背景的解释进而给以命名，从而达到降维和分 类的目的。
三、因子分析的数学原理。
因R型因子分析应用广泛，故本章的解释均是 以R型因子分析为对象。 （一）正交因子模型： 因子分析的一般模型为：

X 1 a11F1 a12 F2 a1m Fm 1 X 2 a21F1 a22 F2 a2 m Fm 2 X p a p1F1 a p 2 F2 a pm Fm p
i

可将上式写成简单的矩阵形式

6-因子分析

6-因子分析

上式是假定了因子模型中特殊因子是不重要的，因而 从∑的分解中忽略掉特殊因子的方差 如果考虑了特殊因子以后，协差阵为：
当∑未知，可用样本协差阵S去代替，要经过标准化 处理，则S与相关阵R相同，仍然可作上面类似的表示。 一般设 则因子载荷阵的估计 即 为样本相关阵尺的特征根， 设 m < p， 相应的标准正交化特征向量为；
所以
也是公共因子，
ቤተ መጻሕፍቲ ባይዱ
也是因子载荷阵。
因子载荷这个不唯一性，从表面上看是不利的，但后面将 会看到当因子载荷阵A的结构不够简化时，可对A实行变 换以达到简化目的，使新的因子更具有鲜明的实际意义。 从因子分析的数学模型上看，它与多变量回归分析也有类 似之处，但本质的区别是因子分析模型作为“自变量”的 F是不可观测的。 2 因子模型中公共因子、因子载荷和变量共同度的 统计意义 为了便于对因子分析计算结果做解释，将因子分析数 学模型中各个量的统计意义加以说明是十分必要的， 假定因子模型中，各个变量以及公共因子、特殊因子 都已经是标准化(均值为0，方差为1)的变量。 (1)因子载荷的统计意义 已知模型：
为了说明它的统计意义，将下式两边求方差，即
由于
已标准化了，所以有
此式说明变量 的方差由两部分组成：第一部分为共 度 它刻划全部公共因子对变量 的总方差所作的贡 献， 越接近1，说明该变量的几乎全部原始信息都被 所选取的公共因子说明了，如 则说明 的 97%的信息被m个公共因子说明了，也就是说由原始变量 空间转为因子空间转化的性质越好， 保留原来信息量
A经过Tk j ，旋转(变换)后，矩阵A＝A T k j ，其元素为
其中旋转角度
仍按下面公式求得：
m个因子，每次取两个全部配对进行旋转，共需旋转

第六章 因子分析

第六章 因子分析
由EOF分解可知，每个原变量都可以用各主成分来线性表示： x1 l11 l12 l11 y1 l12 y2 l y l y y y = x 1 1 2 2 l 1 l 2 l y l y 2 21 22 21 1 22 2
2
4
6
8
10 t
12
14
16
18
20
主因子的概念
如果对m个原变量(x1, x2,…, xm)进行n次观测，则各主成分的时间序列可表示为：
x11 x Y LT X LT 21 xm1 x12 ... x1n y11 y x22 ... x2 n = 21 xm 2 ... xmn ym1 y12 ... y1n y22 ... y2 n ym 2 ... ymn
第1主成分y1 第2主成分y2 第m主成分ym
主成分的方差，即X的协方差阵的特征值，按照y1、y2、…、ym的顺序从大到小进 行排列。 为了分析各主成分对原变量的作用、研究原变量与各主成分的关系:
对各主成分进行标准化，使它们的方差都等于1，这时的主成分称为“主因子”。
第i个主因子就是第i个主成分yi的标准化，记为fi, 有：
为了提高因子的利用率，需要将公共信息与独立信息尽可能地分离开来，以
便采取公共信息作为新的因子变量(少于原变量的个数m)建立预报方程，从而 达到减少误差，提高预报准确率的效果。 简言之，从数量较多的因子变量中分离出数量较少的新因子，并分析原变量 与各个新因子之间的关系，这称为“因子分析”。
例： x1和x2两个变量，存在相关性，寻找它们的共同信息和独立信息，并分离。 对x1和x2做了20次观测， 如右图所示20个散点，两样本的相关系 数为0.92。 可见，第一主成分y1可以表征x1和x2的共同的成分； 所以因子分析与主成分分析(或经验正交函数分解)有密切联系。

第六章 温度因子分析

第六章 温度因子分析
植物对生长所必须的水分、CO2、养分吸收增多， 酶活性增强、促进细胞分裂、伸长，因此生长量 增 加。 • 3.影响生产力 • 温度是影响生产力的主要因素之一。怀梯克认 为， 沿温度梯度，生产力从热带到到北极逐渐降低。 对生产力而言，最适温度为15～25，与光合作用 的 适宜范围一致。
不同生态系统生产力
化，形成与此相应的植物发育节律，称为物候。 • 植物发芽、生长、现蕾、开花、结实、落叶、 休
眠等生长发育阶段的开始和结束称为物候期。 • 植物物候具有稳定性，可以用来指导林业生产。
影响物候的因素
• 纬度、经度和海拔 • 霍普金斯通过研究发现： • 在北美洲温带，每向北移动纬度1度，或向
东移动经度5度，或海拔上升124m，植物 在春天和初夏 物候会延迟4天。这一规律称 为霍普金斯定律。 • 南京和北京，纬度相差6度，桃、李开花 间 差19天；但到4、5月间，两地物候相差9天。
二、关于温度的一些生态概念
• （一）三基点温度 • 最适温度：生物生长发育或生理活动得以
正常进行的温度范围。 • 最低温度和最高温度：植物生长发育和生
理活动的低温和高温限度。 • 合称为三基点温度。
• （二）积温： 积温既能说明某一地区的热 量条件，又能说明生物各生长发育阶段或 整个生长期所需要的热量条件。
• *昼夜变温与种子萌发
•
有一些植物的种子在变温下萌发良好。
低温有利于增加氧在细胞中的溶解度；提
高透性。
• 昼夜变温与生长发育 • 较低的夜温和适宜的昼温对植物生长、开花、结
实和物质的贮藏有利。 • 云南松林：1000m 3/ha。 • 波密云杉林：2000m 3/ha。 • （二）物候 • 季节明显地区，植物适应于气候条件的节律性 变

第六章 因子分析

第六章 因子分析

9
寻找基本结构
在多元统计中，经常遇到诸多变量之间存在强相关的问题，它 会对分析带来许多困难。通过因子分析，可以找出几个较少的有实
际意义的因子，反映出原来数据的基本结构。
例如：调查汽车配件的价格中，通过因子分析从 20 个指标中概 括出原材料供应商、配件厂商、新进入者、后市场零部件厂商、整 车厂和消费者6个基本指标。从而找出对企业配件价格起决定性作用 的几个指标。
本包含了原来变量的所有信息。
12
主成分分析的数学模型
13
主成分分析与因子分析公式上的区别
y1 a11 x1 a12 x2 a1 p x p
主成分分析
y2 a21 x1 a22 x2 a2 p x p y p a p1 x1 a p 2 x2 a pp x p
由于umn为随机向量X的相关矩阵的特征值对 应的特征向量的分量，特征向量之间彼此正交， 实际上从X到F的转换关系是可逆的，即：
x1 11 F1 21 F2 p1 Fp x2 12 F1 22 F2 p 2 Fp x F F F 1p 1 2p 2 pp p p
1、因子分析的核心：用较少的、相互独立的因 子反映原有变量的绝大部分信息。 因子分析的数学模型：设有p个变量，每个变量 的均值为0，标准差为1。将每个原有变量用k个 （k<p）因子f1,f2,…,fk 的线性组合表示，即
x1 a11 f1 a12 f 2 a1k f k 1 x2 a21 f1 a22 f 2 a2 k f k 2 x p a p1 f1 a p 2 f 2 a pk f k p

6-因子分析

6-因子分析

上面的分解式恰公共因子与变量个数一样多且特殊因子 的方差为0时，因子模型中协差阵的结构。 因为这时因子模型为： 其中 所以 即 列应该是 因子载荷恰是第
对照∑的分解式，则因子载荷阵A的第
也就是说除常数 个主成分的系数 外，第 列
故称为主成分法。
上边给出的∑表达式是精确的，但实际应用时总是希 望公共因子个数小于变量的个数即 m<p ，当最后p---m 个特征根较小时，通常是略去最后p---m项 对∑的贡献，于是得到
称上式为因子得分函数。用它来计算每个样本的公共 因子得分。比如 m ＝2，则将每个样本的p个变量值代入 上式即可算出每个样品的因子得分 F1和 F2，这样就可以 在二维平面上作出因子得分的散点图，进而对样品进行分 类或作为下一步分析的原始数据对问题做更深入的研究。
两组数据的方差 V1 和 V2 要尽可能地大。为此，正交旋转 的角度 必须满足使旋转后所得到因子载荷阵的总方差 达到最大值，即
达到最大值 ( 这里 V 的表达式形式类似一元统计中样本 方差 可写成 形式). 根据求极值原理，先求 V 对 令 的导数。
经过计算，其旋转角度
可按下面公式求得：
记
则
根据
即对 A 施行正交变换C1 而得B (1) ，并计算载荷阵B (1)的 方差记为 V (1 ) ，在第一轮循环完毕的基础上，从B (1)出 发进行第二轮旋转循环，旋转完毕得B (2) ，则B (2)可写成：
从B (2) 算出V (2) 。 显然
从B (3) 算出V (3) 。
如此不断重复旋转循环可得 V 值的一个非降序列： 因为因子载荷的绝对值不大于 1 ，故这个序列是有上界
首先考虑 m ＝2的情形。
设因子载荷阵
对止按行计算共同度

第六讲 因子分析

第六讲 因子分析

第五讲 因子分析在许多实际问题中，涉及的变量众多，各变量间还存在错综复杂的相关关系，这时最好能从中提取少数综合变量，这些综合变量彼此不相关，而且包含原变量提供的大部分信息。

因子分析就是为解决这一问题提供的统计分析方法。

以后，如无特别说明，都假定总体是一个p 维变量：),...,,(21'=p X X X x它的均值向量μ=)(x E ，协方差矩阵V =(σij )p ⨯p 都存在。

第一节 正交因子模型1．1 公共因子与特殊因子从总体中提取的综合变量：F 1, F 2, … , F m (m <p )称为（总体的）公共因子。

一般来说，公共因子不可能包含总体的所有信息，每个变量X i 除了可以由公共因子解释的那部分外，总还有一些公共因子解释不了的部分，称这部分为变量X i 的特殊因子，记为：εi 。

于是，我们有：变量X i 的信息＝公共因子可以表达部分+公共因子不可表达部分这就是所谓因子模型。

目前，公共因子可以表达的部分由公共因子的线性组合表示。

即上面的因子模型可以写成以下的形式：p i F a F a F a X i m im i i i i ,...,2,1,2211=++++=-εμ1．2 正交因子模型设总体),...,,(21'=pX X X x ，均值向量μ=)(x E ，协方差矩阵p p V x Va r ⨯=)( 。

因子模型有形式：其中m<p ，F 1,F 2,…,F m 称为所有变量的公共因子；εi 称为变量X i 的特殊因子。

如果引入以下向量与矩阵：),...,,(,),...,,(2121'='=p m F F F F εεεε⎪⎪⎪⎪⎪⎭⎫⎝⎛=pm p p m m a a a a a a a a a A212222111211则因子模型的矩阵形式为：εμ+=-F A x 对于正交的因子模型，还要进一步要求：z 1. m m I F Var F E ⨯==)(,0)(。

06 第六章 R-Q型因子分析

06 第六章 R-Q型因子分析

-.156
19
-.180
-.104
7
-.142
-.180
20
-.116
.010
8
-.150
-.220
21
-.118
-.030
9
-.054
-.138
22
-.090
.640
10
-.120
-.012
23
.056
1.290
11
-.126
-.246
24
-.110
.134
12
-.012
-.160
25
.082
.124
R-Q 型因子分析是一种广义概念，它可能包括不同的方法。例如周蒂（1985）提到用主分 析可作为一种 R-Q 式因子分析方法，但这一方法至今未被重视。另一种方法是对应分析，或称 对应因子分析，这是目前用得最多的方法。这两种方法都有一定理论基础，在效果上各有特点。 本章主要介绍这两种方法的基本思想、计算方法与应用，更详细的论述可参考专门性文献。
§2 对应分析
对应分析也称作对应因子分析，它也是一种 R-Q 型因子分析。对应分析的理论比较复 杂，在此仅简要介绍其基本原理与计算方法，并给出计算实例。
对应分析的基本思路与上述 R-Q 型因子分析类似，目的在于同时揭示样品与样品、变 量与变量、样品与变量间的相互关系，并用作图方法将这种关系表现出来，因此也将原始的 m 或 n 维空间压缩为同一 p 维（p＜＜min(m，n)）的因子空间。
（6.4）
1
∑ ∑ hkL =
m
(xkj − x j )(xLj − x j ) = n
m
xkj xLj
− x j xkj

第6章因子分析m

第6章因子分析m
hi2大，表明X的第i个分量xi对于F的每一个分量F1，F2，，Fm 的共同依赖程度大，故hi2为变量xi的共同度。
m
hi2 ui2j j 1
i 1,2,, n 24
• Q型因子分析模型与R型因子分析模型的差 异体现在X1，…，Xn表示的是n个样品。
• 因子分析的目的就是通过模型X=UF+ε，以 F代替X，由于一般都要求m<p，m<n，从而 达到简化变量维数的目的。
25
• 注：在因子分析中，因子载荷阵是不唯一的。 • 证明：
若T为任意一个m m阶正交矩阵，令U * UT，F * T F，
34
可看出，公因子F1与变量X1，X2，X5关系密 切，它主要代表了这些变量的信息；公因子F2与变 量X3，X4关系密切，它主要代表了这两个变量的 信息。
35
4、变量共同度hi2 ——U的行元素平方和
变量共同度也称为公共方差（公因子方差），指观
测变量方差中由公因子决定的比例，也即原始变量Xi对
公因子依赖的程度。
• 例：五个观测变量，两个公因子的模型： X1 0.9562F1 0.2012F2 1 X 2 0.8735F1 0.2896F2 2 X 3 0.1744F1 0.8972F2 3 X 4 0.5675F1 0.7586F2 4 X 5 0.8562F1 0.3315F2 5
的公共因素,每个公因子Fj （j=1, …,m)假定至少对
两个原始变量有作用（有贡献），否则它将归入特殊 因子。
29
公因子是相互独立的不可观测的理论变 量（之所以称其为因子，是因为它是不可观 测的，即不是具体的变量，与前面的聚类分 析不同）。公共因子的含义，必须结合具体 问题的实际意义而定。
30

06-第六章因子分析

06-第六章因子分析

第六章 因子分析一．基本原理因子分析（Factor anslysis ）是用来分析隐藏在表象背后的因子作用的一类统计模型与方法。

起源于心理度量学（Phsycholometrics ），在方法上与主成分分析有密切联系。

因子分析一般有两个用途，一是通过寻求变量的基本结构，对变量进行简化；二是通过因子得分，在因子轴构成的空间中将变量或者样品进行分类。

1．正交因子模型设x 为一个p 维可观测随机向量，假定x 受到m 个不可观测的随机因子的控制，称这m 个影响x 的因子为公共因子，若m 维随机向量f 对x 的影响是线性的，则x 与f 之间的关系可用下述模型来表述：x Lf με=++其中μ为P 维常向量，表示X 的均值；L 为p m ⨯维常数阵，L 的第I 行表示公共因子f 对X 第I 个分量i x 的影响系数；ε为P 维随机变量，表示X 中与f 无关的那一部分，称为特殊因子。

其中f 和ε都是不可观测的，假定它们满足下列条件 （1）f 和ε相互独立 （2）()0,()m E f V f I ==（3）()0,()E V εε==ψ，其中ψ(psai)为对角阵。

由于()m V f I =，即各因子之间不相关，这样的模型便称为正交因子模型。

在正交因子模型中，公共因子f 对X 的各分量都起作用，而特殊因子ε的第I 个分量只对X 的第I 个分量起作用。

L 称为载荷阵（Loading Matrix ）。

如果对X 进行标准化处理，则μ为0，原式化为x Af ε=+。

A 为载荷阵。

X 的方差是由载荷阵和特殊因子的方差构成的。

即()Var X AA '=+ψ。

2．因子分析与其他多元分析方法的区别与多元回归的区别：因子分析中，各个公共因子是虚拟的，本身是未知量。

与主成分分析的区别：主成分分析本质上是一种变量变换，而因子分析则是构造出一组新的因子来对原变量进行解释。

二．计算模型1．因子载荷的含义假定在因子分析模型中，对各变量及公共因子、特殊因子均进行了标准化处理。

因子分析

因子分析

（4）方差贡献率----指公共因子对实测变量的贡献，又称变异 量:方差贡献率=特征值G/实测变量数p， 是衡量公共因子相对重要性的指标，Gi越大，表明公共 因子Fj对X*的贡献越大，该因子的重要程度越高
2013-12-31
14 cxt
6.2 因子的基本内容
1、因子分析的基本步骤：
（1）因子分析的前提条件鉴定 考察原始变量之间是否存在较强的相关关系，是否适 合进行因子分析。因为： 因子分析的主要任务之一就是对原有变量中信息重 叠的部分提取和综合成因子，最终实现减少变量个数 的目的。所以要求原有变量之间应存在较强的相关关 系。否则，如果原有变量相互独立，不存在信息重叠， 也就无需进行综合和因子分析。 （2）因子提取 研究如何在样本数据的基础上提取综合因子。
1
即 F1 , F2 ,, Fm 互不相关，方差为1。
8 cxt
（3）
12 D ( )
2 2

2 p
即互不相关，方差不一定相等，i ~ N (0, i2 ) 满足以上条件的，称为正交因子模型．
。
如果（２）不成立，即 D( F ) 各公共因子之间不独立， I 则因子分析模型为斜交因子模型．
2 1 aij i2 hi2 i2 j 1
部公共因子对变量Xi*的影响，是全部公共因子对变量方差所做出 的贡献，或者说Xi*对公共因子的共同依赖程度，称为公共因子对 变量Xi*的方差贡献。 Hi2接近于1，表明该变量的原始信息几乎都被选取的公共因子 说明了。 i2 特殊因子的方差，反映了原有变量方差中无法被公共因子 描述的比例。
1u1
u1 0 u 2 p u p

因子分析PPT课件

因子分析PPT课件

3. 公共因子的方差贡献:是某公共因子对所有原变量载荷的平方和, 它
反映该公共因子对所有原始总变异的解释能力，等于因子载荷矩阵中某 一列载荷的平方和。一个因子的方差贡献越大，说明该因子就越重要。
2024/6/2
15
★ 确定公因子数目的准则
1）因素的特征值（Eigenvalues）大于或等于1；
2）因素必须符合陡阶检验（Screen Test）,陡阶检
仅仅是为了化简、浓缩数据，则采用正交旋转（保持
直角90度，不允许公因子相关）。如果研究的目的是
为了得到理论上有意义的研究结果，则采用斜交旋转。
（不呈90度，允许公因子相关；有证据表明公因子之
间是相关的才用）
旋转之后，特征值发生变化，但共同度不变
2024/6/2
18
第六步：单击Scores按纽,弹出对话框
输出旋转后的 因子载荷矩阵
2024/6/2
输出载荷散点图17
★ 因子旋转
为了更好地解释因子分析解的结果，常常需要将
因子载荷转换为比较容易解释的形式（相当于相机的
调焦，使看得更清楚；一般会使各因子对应的载荷尽
可能地向0和1两极分化）。
常用的方法有正交旋转（varimax procedure）
和斜交旋转（oblique rotation），如果研究的目的
2024/6/2
1
二、因子分析思想与方法的由来
● 英国统计学家Scott 1961年对英国157个 城镇发展水平进行调查时，原始测量的变量有57 个，而通过因子分析发现，只需要用5个新的综 合变量（它们是原始变量的线性组合），就可以 解释95%的原始信息。
● 美国统计学家Stone在1947年研究国民经

第六讲 因子分析

第六讲 因子分析

第五讲因子分析在许多实际问题中，涉及的变量众多，各变量间还存在错综复杂的相关关系，这时最好能从中提取少数综合变量，这些综合变量彼此不相关，而且包含原变量提供的大部分信息。

因子分析就是为解决这一问题提供的统计分析方法。

以后，如无特别说明，都假定总体是一个p维变量：它的均值向量，协方差矩阵V=(ij)pp都存在。

第一节正交因子模型1．1 公共因子与特殊因子从总体中提取的综合变量：F1, F2, … , F m(m<p)称为（总体的）公共因子。

一般来说，公共因子不可能包含总体的所有信息，每个变量X i 除了可以由公共因子解释的那部分外，总还有一些公共因子解释不了的部分，称这部分为变量X i的特殊因子，记为：i。

于是，我们有：变量X i的信息＝公共因子可以表达部分公共因子不可表达部分这就是所谓因子模型。

目前，公共因子可以表达的部分由公共因子的线性组合表示。

即上面的因子模型可以写成以下的形式：1．2 正交因子模型设总体，均值向量，协方差矩阵。

因子模型有形式：其中m<p，F1,F2,…,F m称为所有变量的公共因子；i称为变量X i的特殊因子。

如果引入以下向量与矩阵：则因子模型的矩阵形式为：对于正交的因子模型，还要进一步要求：z1. 。

即有：公共因子是互相不相关的。

z2. 。

即：特殊因子和公共因子不相关。

1．3 因子载荷矩阵1．矩阵A称为因子载荷矩阵(component matrix)，系数a ij称为变量X i在因子F j上的载荷(loading)。

由于特别，如果总体是标准化的，则有Var(X i)=1，从而有：于是：即变量X i在公共因子F j上的载荷a ij就是X i与F j的相关系数。

2．载荷矩阵的估计：主成分法。

主成分法是估计载荷矩阵的一种方法，由于其估计结果和变量的主成分仅相差一个常数倍，因此就冠以主成分法的名称。

在学到这里的时候，不要和主成分分析混为一谈。

主成分法是SPSS系统默认的方法，在一般情况下，这是比较好的方法。

第六章因子分析

第六章因子分析

§6.1.1 因子分析的基本思想
因子分析还可用于对变量或样品的分类处理，我们在得出 因子的表达式之后，就可以把原始变量的数据代入表达式 得出因子得分值，根据因子得分在因子所构成的空间中把 变量或样品点画出来，形象直观地达到分类的目的。
因子分析不仅仅可以用来研究变量之间的相关关系， 还可以用来研究样品之间的相关关系，通常将前者称之 为R 型因子分析，后者称之为Q 型因子分析。我们下面 着重介绍R型因子分析。
第六章 因子分分析
•§6.1 因子分析的基本理论 •§6.2 因子载荷的求解 •§6.3 因子分析的步骤与逻辑框图 •§6.4 因子分析的上机实现
第六章 因子分分析
因子分析（factor analysis）模型是主成分分析的 推广。它也是利用降维的思想，由研究原始变量相关 矩阵内部的依赖关系出发，把一些具有错综复杂关系 的变量归结为少数几个综合因子的一种多变量统计分 析方法。相对于主成分分析，因子分析更倾向于描述 原始变量之间的相关关系；因此，因子分析的出发点 是原始变量的相关矩阵。因子分析的思想始于1904年 Charles Spearman对学生考试成绩的研究。
1。F1, F2 ,, Fm 是彼此独立的公共因子，都满足均值为0，方差 为1。ei为特殊因子，与每一个公共因子均不相关且均值为0。
则ai1, ai2 ,, aim为对第 i门科目考试成绩的因子载荷。对该模型，
有： var( X i ) ai21 ai22 ai2m var(ei ) 1 （6.5）
121
cov(ε)

Σ



2 22

0 ห้องสมุดไป่ตู้
0

2 pp

第6章--因子分析

第6章--因子分析

第6章--因子分析第六章因子分析一、填空题1. 因子分析常用的两种类型为 ____________ 和 ___________ 。

2. 因子分析是将具有错综复杂关系的变量（或样品）综合为数量较少的几个因子，以再现______________ 与____________ 间的相互关系。

3•因子分析就是通过寻找众多变量的______________ 来简化变量中存在的复杂关系的一种方法。

4 •因子分析是把每个原始变量分解成两个部分即____________ 、。

5 •变量共同度是指因子载荷矩阵中__________________________ 。

6 •公共因子方差与特殊因子方差之和为________ 。

7.求解因子载荷矩阵常用的方法有______________________ 和________________ &常用的因子旋转方法有 ____________________ 和__________________ 。

9. Spss中因子分析采用__________________ 命令过程。

10•变量X i的方差由两部分组成，一部分为 ___________ ，另一部分为__________二、判断题1. 在因子分析中，因子载荷阵不是唯一的。

（）2. 因子载荷阵经过正交旋转后，各变量的共性方差和各个因子的贡献都发生了变化。

（）3. 因子分析和主成分分析的核心思想都是降维。

（）4.因子分析有两大类，R型因子分析和Q型因子分析；其中R型因子分析是从变量的相似矩阵出发，而Q型因子分析是从样品的相关矩阵出发。

（）5. 特殊因子与公共因子之间是相互独立的。

（）6. 变量共同度是因子载荷矩阵列元素的平方和。

（）7. 公共因子的方差贡献是衡量公共因子相对重要性指标。

（）8. 对因子载荷阵进行旋转的目的是使结构简化。

（）三、简答题1.因子分析的基本思想是什么，它与主成分分析有什么区别和联系？2 •因子模型的矩阵形式UF ，其中:F F1, ,F m 1, , P U U ij pm请解释式中F、、U的统计意义。

  1. 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
  2. 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
  3. 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。

第六章因子分析
第六章因子分析§6.1因子分析的基本原理与模型一、因子分析的基本思想基本思想：根据相关性的大小将变量分组，使得同组内变量间的相关性较高，不同组间的相关性较低。

每组变量代表一个基本结构，并用一个不可观测的综合变量形式表示，这个基本结构成为公共
因子。

此时的原始变量就可以分解成两部分之和的形式，一部分是少数几个不可测的所谓公共因子的线性函数，另一部分是与公共因子无关的
特殊因子。

目的：从一些有错综复杂的问题中找出几个主要因子，每个主要因子代表原始变量间相互依赖的一种作用。

二
、因子分析的基本模型常用的因子分析模型：R型因子分析和Q 型因子分析（一）R型因子分析模型R型因
子分析是对变量作因子分析。

R型因子分析中的公共因子是不可直接观测但又客观存在的共同影响因素，每一个变量都可以表示成公共因子的线性函数与特殊因子之和，即:其中：称为公共因子，称为的特殊因子矩阵表达式：且满足
：（1）（2），即公共因子与特殊因子是不相关的（3）
，即各公共因子不相关且方差为1（4），即各个特殊因子不
相关，方差不要求相等模型中称为因子载荷，是第个变量在第个因子上的负荷，如果把变量
看成维空间中的一个点，则表示它在坐标轴上的投影，因此矩阵称为因子载荷矩阵。

（二）Q型因
子分析Q型因子分析是对样品作因子分析。

模型同上注：主成分分析与因子分析的区别主成
分分析的数学模型本质上是一种线性变换，是将原始坐标变换到变异程度大的方向上去，相当于从空间上转换观看数据的的角度，突出数据变
异的方向，归纳重要信息。

因子分析与主成分分析一样都属降低
变量维数的方法。

但因子分析的本质是从显在变量去“提
炼”潜在因子的过程。

模型中应注意的问题：（1）变量的协方差阵的分解式为
即（2）因子载荷不是唯一的。

三、因子载荷阵的统计意义（一）因子载荷的统计意义对于因子模型可知的协方差若对作标准化处理，
的标准差为1，且的标准差为1则
（相关系数）综上可知：对于标准化后的，是的相关系数，一方面表示
的依赖程度，绝对值越大，密切程度越高；另一方面也反映了变量对公共因子的相对重要
性。

（二）变量共同度的统计意义设因子载荷矩阵为，称第行元素的平方和，即
为变量的共同度。

由因子模型，知即变量
的方差由两部分组成：第一部分为共同度，它描述了全部公共因子对变量的总方差所作的贡献，反映了公共因子对
变量的影响程度。

第二部分为特殊因子对变量的方差的贡献，通常称为个性方差如果对变量作了标准化处理，则（
三）公因子的方差贡献的统计意义设因子载荷矩阵，称第列元素的平方和，即
为公共因子对的贡献，即表示同一公共因子对各变量所提供的方差
贡献之总和，它是衡量每一个公共因子相对重要性的一个尺度。

§6.2因子分析的步骤因子分析的一般步骤可以分为确
定因子载荷矩阵、因子旋转和计算因子得分三步。

一、因子载荷的求解对于因子载荷阵的求解方法有很多，在这里介绍主
成分法和主轴因子法。

（一）、主成分法主成分法确定因子载荷是在进行因子分析前先对数据进行一次主成分分析。

假定从相关矩阵出发求解主成分，设有个变量，则可以找出个主成分。

将这个主成分按大到小顺序排列为
，则主成分与原始变量之间存在以下关系：由于为随机向量的相关矩阵的特征值所
对应的特征向量的分量，且特征向量间彼此正交，之间的转换关系是可逆的，由此解出由得转换关系如
下：将上式中每一等式只保留前个主成分而把后面的部分用代替，则：将
转化为合适的公共因子，只需要把主成分变成方差为1的变量，即将除以其标准差（）即可。

于是令
则：需指出：这样得到的
之间并不独立，因此它并不完全符合因子模型的假设前提，也就是说所得的因子载荷矩阵并不完全正确。

但是当共同度较大时，特殊因子
所起的作用很小，因而特殊因子间的相关性所带来的影响几乎可以忽略。

（二）、主轴因子法假定原始变量
已作了标准化处理，的相关矩阵令
则称为的约相关阵。

中的主对角线元素是，非主对角线元素和的完全一样，并且是
一个非负定矩阵记（特点，限制条件）
利用这种方法求得的的解使得第一公共因子的贡献
达到最大，第二公因子的贡献达到次之，....，第m个公共因子
的贡献最小。

即相应的“贡献”依次为。

求解过程：利用
极值定理，构造函数求偏导获得。

二、因子旋转因子分析的目标之一就是要对所提取的抽象因子的实际含义进行合
理解释。

有时直接根据特征根、特征向量求得的因子载荷阵难以看出公共因子的含义。

例如，可能有些变量在多个公共因子上都有较大的载荷
，有些公共因子对许多变量的载荷也不小，说明它对多个变量都有较明显的影响作用。

这时需要通过因子旋转的方法，使每一个变量仅在
一个公共因子上有较大的载荷，而在其余的公共因子上的载荷比
较小，至多达到中等大小。

而对于公共因子而言，它在大部分变量上的载荷较
大，在其他变量上的载荷较小，使同一列上的载荷尽可能地靠近1和0，两极分离。

因子旋转方法有正交旋转和斜交旋转两类正交旋转是指对载荷矩阵作一正交变换，右乘正交矩阵，使得，旋转后的公共因子向量为
,它的各个分量是互不相关的公共因子。

这里介绍最大方差旋转法。

令则的第j列元素平方的相对方差可定义为：所谓最大方差旋转法就是选择正
交矩阵，使得矩阵所有m个列元素平方的相对方差之和达到最大。

三、因子得分在因子分析模型中，如果不考虑特殊因子的影响，当
可逆时，可以非常方便地从每一个样品的指标取值计算出其在因子上的相应取值：，即
该样品在因子上的“得分”情况，简称为该样品的因子得分。

但因子分析模型在实际应用中要求因此不能精确计算
出因子的得分情况，只能对因子得分进行估计，通常采用汤姆孙回归法。

假设公共因子可对个原始变量作回归，即
如果都标准化了，回归的常数项为0，即由因子载荷的统计意义知，对于任意的
都有
记为因子得分系数矩阵，则上式可写成矩阵形式为于
是即得因子得分的估算式其中的相关系数矩阵，一般为标准化变
量。

§6.3实例分析例6.1为研究消费者对购买牙膏的偏好程度，通过市场拦截访问，用7级量表询问受访者对以下陈述的认同程度（1表示非常不满意，7表示非常同意）。

V1：购买预防蛀牙的牙膏是重要的V2：我喜欢使牙齿亮泽的牙膏V3：牙膏应当保护牙龈V4：我喜欢使口气清新的牙膏V5：预防坏牙不是牙膏提供的一项重要利益V6：购买牙膏时最重要的考虑是富有魅力的
牙膏例6.22001年我国其中的31个省、市和自治区的城镇居民家
庭平均每人全年消费性支出（单位：元）的8个主要变量数据是x1(食品)、x2（衣着）、x3（家庭设备用品及服务）、x4（医疗保健）、x5（交通和通信）、x6（娱乐教育文化服务）、x7（居住）、x8（杂项商品和服务）。

使用因子分析方法对不同地区进行综合评价。

（可以根据因子得分系数矩阵，求出各地区的因子得分，从而对全国31个省、市和自治区的城镇居民的生活水平进行简要的综合评价。

,其中为因子得分系数矩阵，为标准化变量）。