主成分分析

主成分分析

起源及发展

主成分分析是1901年Pearson对非随机变量引入的，1933年Hotelling将此方法推广到随机向量的情形，主成分分析和聚类分析有很大的不同，它有严格的数学理论作基础。

原理

在用统计分析方法研究多变量的课题时，变量个数太多就会增加课题的复杂性。人们自然希望变量个数较少而得到的信息较多。在很多情形，变量之间是有一定的相关关系的， 当两个变量之间有一定相关关系时，可以解释为这两个变量反映此课题的信息有一定的重叠。主成分分析是对于原先提出的所有变量，将重复的变量（关系紧密的变量）删去多余，建立尽可能少的新变量，使得这些新变量是两两不相关的，而且这些新变量在反映课题的信息方面尽可能保持原有的信息。

设法将原来变量重新组合成一组新的互相无关的几个综合变量，同时根据实际需要从中可以取出几个较少的综合变量尽可能多地反映原来变量的信息的统计方法叫做主成分分析或称主分量分析，也是数学上用来降维的一种方法。

应用学科

主成分分析作为基础的数学分析方法，其实际应用十分广泛，比如人口统计学、数量地理学、分子动力学模拟、数学建模、数理分析等学科中均有应用，是一种常用的多变量分析方法。

评价步骤

1）对原始数据进行标准化处理

假设进行主成分分析的指标变量有m个：𝑥1, 𝑥2,…, 𝑥𝑚，共有n个评价对象，第i个评价对象的第j个指标的取值为𝑎𝑖𝑗。将各指标值𝑎𝑖𝑗转换成标准化指标𝑎𝑖𝑗̃，有

𝑎𝑖𝑗̃= 𝑎𝑖𝑗−𝜇𝑗𝑠𝑗，（i =1,2,…,n ; j =1,2,…,m） 其中，𝜇𝑗=1𝑛∑𝑎𝑖𝑗 𝑛𝑖=1 , 𝑠𝑗=√1𝑛−1∑(𝑎𝑖𝑗−𝜇𝑗)2𝑛𝑖=1 ，即𝜇𝑗,𝑠𝑗为第j个指标的样本均值和样本标准差。对应地，称

𝑥𝑗̃= 𝑥𝑗−𝜇𝑗𝑠𝑗 ，（j =1,2,…,m）

为标准化指标变量。

第十二章 主成分分析

主成分分分析也称作主分量分析，是霍特林(Hotelling)在1933年首先提出。主成分分析是利用降维的思想，在损失较少信息的前提下把多个指标转化为较少的综合指标。转化生成的综合指标即称为主成分，其中每个主成分都是原始变量的线性组合，且各个主成分互不相关。Stata对主成分分析的主要内容包括：主成分估计、主成分分析的恰当性（包括负偏协方差矩阵和负偏相关系数矩阵、KMO(Kaiser-Meyer-Olkin)抽样充分性、复相关系数、共同度等指标测度）、主成分的旋转、预测、各种检验、碎石图、得分图、载荷图等。

pjnibayijjiij,,2,1,,2,1,'

主成分的模型表达式为：

ppjiiiidiagvvvvipVVC2121),,,,(01

其中，a称为得分，b称为载荷。主成分分析主要的分析方法是对相关系数矩阵（或协方差矩阵）进行特征值分析。

Stata中可以通过负偏相关系数矩阵、负相关系数平方和KMO值对主成分分析的恰当性进行分析。负偏相关系数矩阵即变量之间两两偏相关系数的负数。非对角线元素则为负的偏相关系数。如果变量之间存在较强的共性，则偏相关系数比较低。因此，如果矩阵中偏相关系数较高的个数比较多，说明某一些变量与另外一些变量的相关性比较低，主成分模型可能不适用。这时，主成分分析不能得到很好的数据约化效果。

Kaiser-Meyer-Olkin抽样充分性测度也是用于测量变量之间相关关系的强弱的重要指标，是通过比较两个变量的相关系数与偏相关系数得到的。KMO介于0于1之间。KMO越高，表明变量的共性越强。如果偏相关系数相对于相关系数比较高，则KMO比较低，主成分分析不能起到很好的数据约化效果。根据Kaiser（1974），一般的判断标准如下：0.00-0.49,不能接受（unacceptable）;0.50-0.59,非常差（miserable）；0.60-0.69，勉强接受（mediocre）；0.70-0.79,可以接受（middling）；0.80-0.89，比较好（meritorious）；0.90-1.00,非常好（marvelous）。

姓名：XXX 学号：XXXXXXX 专业：XXXX

用SPSS19软件对下列数据进行主成分分析：

… … 一、相关性

通过对数据进行双变量相关分析，得到相关系数矩阵，见表1。

表1 淡化浓海水自然蒸发影响因素的相关性

由表1可知：

辐照、风速、湿度、水温、气温、浓度六个因素都与蒸发速率在0.01水平上显著相关。

分析：各变量之间存在着明显的相关关系，若直接将其纳入分析可能会得到因多元共线性影响的错误结论，因此需要通过主成份分析将数据所携带的信息进行浓缩处理。

二、KMO和球形Bartlett检验

KMO和球形Bartlett检验是对主成分分析的适用性进行检验。

KMO检验可以检查各变量之间的偏相关性，取值范围是0～1。KMO的结果越接近1，表示变量之间的偏相关性越好，那么进行主成分分析的效果就会越好。实际分析时，KMO统计量大于0.7时，效果就比较理想；若当KMO统计量小于0.5时，就不适于选用主成分分析法。

Bartlett球形检验是用来判断相关矩阵是否为单位矩阵，在主成分分析中，若拒绝各变量独立的原假设，则说明可以做主成分分析，若不拒绝原假设，则说明这些变量可能独立提供一些信息，不适合做主成分分析。

由表2可知：

1、KMO=0.631＜0.7，表明变量之间没有特别完美的信息的重叠度，主成分

分析得到的模型又可能不是非常完善，但仍然值得实验。

2、显著性小于0.05，则应拒绝假设，即变量间具有较强的相关性。

三、公因子方差

公因子方差表示变量共同度。表示各变量中所携带的原始信息能被提取出的主成分所体现的程度。

由表3可知：

几乎所有变量共同度都达到了75%，可认为这几个提取出的主成分对各个变量的阐释能力比较强。

四、解释的总方差

解释的总方差给出了各因素的方差贡献率和累计贡献率。 由表4可知：

1、仅前3个特征根大于1，故SPSS只提取了前三个主成分。

2、第一主成分的方差所占所有主成分方差的33.045%，接近三分之一，而前三个主成分的方差累计贡献率达到88.363%，因此选前三个主成分已足够描述气象因子和卤水因子对蒸发的影响了。

引言：

主成分分析也称主分量分析，是由霍特林于1933年首先提出的。主成分分析是利用降维的思想，在损失很少信息的前提下，把多个指标转化为几个综合指标的多元统计方法。通常把转化生成的综合指标称为主成分，其中每个主成分都是原始变量的线性组合，且各个主成分之间互不相关，使得主成分比原始变量具有某些更优越的性能。这样在研究复杂问题时就可以只考虑少数几个主成分而不至于损失太多信息，从而更容易抓住主要矛盾，揭示事物内部变量之间的规律性，同时使得问题得到简化，提高分析效率。本文用主成分分析的方法对某市14家企业的经济效益进行分析。[1]

在处理涉及多个指标问题的时候，为了提高分析的效率可以不直接对p个指标构成的p维随机向量x=(x1，x2，x3，……，xp)进行分析，而是先对向量x进行线性变换，形成少数几个新的综合变量，使得个综合变量之间相互独立且能解释原始变量尽可能多的信息，这样在意损失很少部分信息为代价的前提下，达到简化数据结构，提高分析效率的目的。

主成分的基本思想就是在保留原始变量尽可能多的前提下达到降维的目的，从而简化问题的复杂性并抓住问题的主要矛盾。而这里对于随机变量x1，x2，x3，……，xp而言，其协方差矩阵或相关矩阵正是对各变量离散程度与变量之间的相关程度的信息的反映，而相关矩阵不过是将原始变量标准化后的协方差矩阵我们所说的保留原始变量尽可能多的信息，也就是指生成的较少的综合变量（主成分）的方差和尽可能接近原始变量方差的总和。因此在实际求解主成分的时候，总是从原始变量的协方差矩阵或相关矩阵的结构分析入手。一般来说从原始变量的协方差矩阵出发求得的主成分与从原始变量的相关矩阵出发求得的主成分是不同的本文我们用从原始变量的相关矩阵出发求得的主成分进行分析。[5]

一、 材料与方法

1.1数据材料

表1 14家企业的利润指标的统计数据

企业 净产值利润率（%）

xi1 固定资产利润率（%）