主成分分析与因子分析法

主成分分析与因子分析的异同

专业：金融统计

学号：13610704150504

姓名：解盼

一、取初始因子的方法为主成分法。

方向不同,直接导致主成分值、因子得分值、综合评价值和应用侧重上不同,综合评价应该分开进行,混淆在一起是不同计量值交替错误。

二、避免出错的方法步骤

主成分分析法和SPSS软件应用时一对一的正确步骤:

(1)指标的正向化;

(2)指标数据标准化(SPSS软件自动执行);

(3)指标之间的相关性判定:用SPSS软件中表

“CorrelationMatrix(相关系数矩阵)”判定;

(4)确定主成分个数m:用SPSS软件中表“TotalVarianceExplained(总方差解释)”的主成分方差累计贡献率≥85%、结合表“ComponentMatrix(初始因子载荷阵)”中变量不出现丢失确定主成分个数m。

(5)主成分Fi表达式(这是SPSS软件及其教科书中没完善的地方):将SPSS软件中表“ComponentMatrix”中的第i列向量除以第i个特征根的开根后就得到第i个主成分Fi的变量系数向量(在“transform→compute”中进行计算),由此写出主成分Fi表达式。用Fm=A′mX的A′mAm=Im检验之。

(6)主成分Fi命名:用SPSS软件中表“ComponenMatrix”中的第i列中系数绝对值大的对应变量对Fi命名(有时命名清晰性低)。

(7)主成分与综合主成分(评价)值(这是SPSS软件及其教科书中没完善的地方):综合主成分(评价)公式F综=∑mi=1(λi/p)Fi(在“transform→compute”中进行计算),λiΠp在SPSS软件中表“TotalVarianceExplained”下“InitialEigrnvalues(主成分方差)”栏的“%ofVariance(方差率)”

一、问题的提出

在科学研究或日常生活中，常常需要判断某一事物在同类事物中的好坏、优劣程度及其发展规律等问题。而影响事物的特征及其发展规律的因素（指标）是多方面的，因此，在对该事物进行研究时，为了能更全面、准确地反映出它的特征及其发展规律，就不应仅从单个指标或单方面去评价它，而应考虑到与其有关的多方面的因素，即研究中需要引入更多的与该事物有关系的变量，来对其进行综合分析和评价。多变量大样本资料无疑能给研究人员或决策者提供很多有价值的信息，但在分析处理多变量问题时，由于众变量之间往往存在一定的相关性，使得观测数据所反映的信息存在重叠现象。因此为了尽量避 免信息重叠和减轻工作量，人们就往往希望能找出少数几个互不相关的综合变量来尽可能地反映原来数据所含有的绝大部分信息。而主成分分析和因子分析正是为解决此类问题而产生的多元统计分析方法。

近年来，这两种方法在社会经济问题研究中的应用越来越多，其应用范围也愈加广泛。因子分析是主成分分析的推广和发展，二者之间就势必有着许多共同之处，而 SPSS软件不能直接进行主成分分析，致使一些应用者在使用SPSS进行这两种方法的分析时，常常会出现一些混淆性的错误，这难免会使人们对分析结果产生质疑。因此，有必要在运用SPSS分析时，将这两种方法加以严格区分，并针对实际问题选择正确的方法。

二、主成分分析与因子分析的联系与区别

两种方法的出发点都是变量的相关系数矩阵，在损失较少信息的前提下，把多个变量（这些变量之间要求存在较强的相关性，以保证能从原始变量中提取主成分）综合成少数几个综合变量来研究总体各方面信息的多元统计方法，且这少数几个综合变量所代表的信息不能重叠，即变量间不相关。

主要区别： 1. 主成分分析是通过变量变换把注意力集中在具有较大变差的那些主成分上，而舍弃那些变差小的主成分；因子分析是因子模型把注意力集中在少数不可观测的潜在变量（即公共因子）上，而舍弃特殊因子。

主成分分析与因子分析的异同比较及应用

一、相似之处：

1.降低数据维度：主成分分析和因子分析都是降维方法，通过将原始变量进行线性组合，生成一组新变量，减少原始数据的维度。

2.揭示变量之间的关系：主成分分析和因子分析都可以揭示数据中变量之间的相关性和潜在结构，更好地理解变量之间的关系。

3.数据依赖：主成分分析和因子分析都依赖原始数据的线性关系。

二、主成分分析的特点和应用：

1.数据探索：主成分分析可以用于对数据进行探索性分析，揭示数据中的模式和变量之间的关系。

2.特征选择：主成分分析可以用于提取最相关的变量，帮助选择最能代表数据信息的特征。

3.数据压缩：通过保留主要的主成分，主成分分析可以将数据压缩成较低维度，减少存储和计算的开销。

4.降噪：主成分分析可以通过去除与主成分相关较小的维度，减少噪声的影响。

三、因子分析的特点和应用：

因子分析的目标是通过找到能够解释原始变量间共同方差的不可观测因子，来揭示变量背后的潜在结构。因子分析的原理是通过将多个变量通过线性函数关系表示为少数几个潜在因子的和。因子分析可以用于以下场景： 1.变量间关系建模：因子分析可以用于建立变量之间的概念模型，识别变量的共同因子、独特因子和测量误差。

2.假设测试：因子分析可以用于检验变量之间的因果关系，以验证一些假设。

3.变量缩减：通过识别共同的因子，并组合成新的因子变量，因子分析可以减少数据集的维度。

4.数据恢复：因子分析可以通过基于因子提取的结果，恢复原始变量的丢失信息。

四、主成分分析与因子分析的区别：

1.目标：主成分分析的目标是将原始变量转化为一组新的不相关的维度，以解释数据方差最大化；而因子分析的目标是将原始变量转化为一组潜在因子，以解释变量间的共同方差。

2.变量假设：主成分分析假设所有变量是观测变量的线性组合，而因子分析假设所有变量既有观测变量，也有不可观测的因子变量。

3.因素解释：主成分分析的主要解释对象是方差，因而主成分的解释目标是能够包含尽可能多的方差；而因子分析的解释对象是共同方差，因而因子的解释目标是能够解释原始变量之间的共同方差。

4 主成分分析

1）原理

假设实际问题中有p个指标，我们把这p个指标看作p个随机变量，记为x1，x2，…，xp，主成分分析就是要把这p个指标的问题，转变为讨论p个指标的线性组合的问题，而这些新的指标y1，y2，…，yk(k≤p），按照保留主要信息量的原则充分反映原指标的信息，并且相互无关。这种由讨论多个指标降为少数几个综合指标的过程在数学上就叫做降维。

主成分分析通常的做法，是寻求原指标的线性组合yi：

11112121212122221122ppppppppppyuxuxuxyuxuxuxyuxuxux

满足如下条件：

(1) 每个主成分的系数平方和为1（否则其方差可能为无穷大），即

22211121iipiuuuuu

(2) 主成分之间相互无关，即无重叠的信息。即

(,)0,,,1,,ijyyijijp

(3) 主成分的方差依次递减，重要性依次递减，即

12()()()pVaryVaryVary

2）数据

为确定人参的品级，选取了5个指标来评价人参，而我们希望用更少的指标来评价，试用主成分分析法进行分析。（结果保留两个主成分）

有机酸（%） 维生素（%） 糖类（%） 无机盐（%） 人参多苷（%）

0.056 0.084 0.031 0.038 0.056

0.049 0.055 0.100 0.110 0.049

0.038 0.130 0.079 0.170 0.038

0.034 0.095 0.058 0.160 0.034

0.084 0.066 0.029 0.320 0.084

0.064 0.072 0.100 0.210 0.064

0.048 0.089 0.062 0.260 0.048

0.069 0.087 0.027 0.250 0.069

3）实验步骤

采用SPSS，操作步骤如下：

Step1 输入数据，形成源数据表；