主成分分析 实例

§8 实例 实例1计算得1x =71.25，2x =67.5分析1：基于协差阵∑ 求主成分。

369.6117.9117.9214.3S ⎛⎫= ⎪⎝⎭特征根与特征向量（Ｓ无偏，用SPSS ）Factor 1 Factor 2 11x x - 0.880 -0.47422x x -0.474 0.880 特征值 433.12 150.81 贡献率0.7417 0.2583注：样本协差阵为无偏估计11(11)1n n n S X I X n n''=--， 所以，第一、二主成分的表达式为1122120.88(71.25)0.47(67.5)0.47(71.25)0.88(67.5)y x x y x x =-+-⎧⎨=--+-⎩ 第一主成分是英语与数学的加权和（反映了综合成绩），且英语的权数要大于数学的权数。

1y 越大，综合成绩越好。

（综合成分）第二主成分的两个系数异号（反映了两科成绩的均衡性）。

不妨将英语称为文科，数学称为理科。

2y 越大，说明偏科（文、理成绩不均衡），2y 越小，越接近于零，说明不偏科（文、理成绩均衡）。

（结构成分）问题：英语的权数为何大？如何解释？ 分析2：基于相关阵R 求主成分。

因为1x =71.25，2x =67.5所以相关阵11R ⎛=⎪⎪⎭解得R 的特征根为：1λ=1.419，2λ=0.581，对应的单位特征向量分别为：Factor 1 Factor 2 111x x s - 0.707 0.707 222x x s - 0.707 -0.707 特征根 1.419 0.581 贡献率0.7090.291所以，第一、二主成分的表达式为12112271.2567.50.7070.70717.9813.6971.2567.50.7070.70717.9813.69x x y x x y --⎧=+=+⎪⎪⎨--⎪=-=-⎪⎩1122120.039(71.25)0.052(67.5)0.039(71.25)0.052(67.5)y x x y x x =-+-⎧⎨=---⎩ 1122120.0390.052 6.2730.0390.0520.671y x x y x x =+-⎧⎨=-+⎩ *2*11707.0707.0x x y += *2*12707.0707.0x x y -=基于相关阵的更说明了：第一主成分是英语与数学的加权总分。

主成分分析案例/聚类分析案例我国各地区行业结构分析摘要：近年来，我国各行各业得到了高速发展，许多新兴行业也伴随着人们的多样化需求而日益成熟。

文章利用主成分分析、聚类分析、典型相关分析和判别分析方法对我国各地区行业工资进行分析，探讨我国各区域之间行业结构的差异，从而为各地政府根据地区间的行业结构差异制定更加合理的引导性政策提供更加有效的决策依据。

关键词：行业结构主成分分析聚类分析典型相关分析判别分析1.相关经济指标及数据选取1.1相关经济指标本文以2013年我国各地区城镇私营单位就业人员平均工资为标准，选取了农、林、牧、渔业，制造业，电力、热力、燃气及水生产和供应业，建筑业，批发和零售业，交通运输、仓储和邮政业，住宿和餐饮业，信息传输、软件和信息技术服务业，金融业，房地产业，租赁和商务服务业，科学研究和技术服务业，水利、环境和公共设施管理业、居民服务、修理和其他服务行业，教育，卫生和社会工作，文化、体育和娱乐业作为标准，对我国各地区的行业结构进行分析。

1.2数据选取本文数据来自2014年中国统计年鉴，由于西藏人烟稀少，缺少数据，因此选取了30个省的部分数据。

表1-1 分地区按行业分城镇私营单位就业人员平均工资(2013年)地区农、林、制造业电力、热力、建筑业批发和零售交通运输、住宿和餐饮信息传输、北京32531 42809 41939 40942 40742 34213 34517 73626 天津41255 42765 34968 39704 40093 48095 38877 46580 河北24198 28983 27760 28852 25345 30108 24783 27827 山西21064 27348 27199 29185 25978 22411 20577 21177 内蒙古31246 33368 41316 35242 29201 40449 29899 33239 辽宁24194 29354 25658 33830 28330 31019 26197 30848 吉林18281 22915 19804 24389 25170 25836 22530 29716 黑龙江18992 24899 24063 27687 23335 22793 22768 26667 上海22722 30443 31231 32413 27420 36601 28119 58420 江苏32507 36188 36986 37051 34213 37625 32144 48032 浙江27932 33186 28185 39113 33766 38760 30096 46003安徽21159 31943 26903 35024 27437 38871 27810 21489 福建30234 35460 29918 39207 33192 40793 28951 46072 江西25854 26924 31275 32085 25652 29388 22678 30168 山东30394 34705 39881 35392 31817 35833 30311 37675 河南19869 23142 23711 27104 23086 24919 21798 22215 湖北17742 25696 26030 27611 23028 23379 23694 33526 湖南23363 27287 32001 29932 23271 25321 23264 35898 广东25709 35646 21670 37488 40866 41074 29401 61935 广西22762 29315 27879 30752 25026 28395 24300 26484 海南16593 27836 20408 33335 29126 37389 27086 29651 重庆27961 35398 34641 36539 32919 34703 27616 38615 四川25127 29652 30099 30850 29149 29386 26066 28671 贵州18034 27183 43575 26704 22260 23913 21155 35040 云南21580 24646 26405 27603 28732 28718 25552 25011 陕西22480 25582 25193 26140 24392 25359 23418 33454 甘肃19319 24212 24873 25256 26544 25435 18656 25994 青海18363 27676 33502 24730 27760 25290 24295 24681 宁夏24172 31638 32293 36178 28035 30101 28544 29269 新疆30308 32990 33911 41001 27373 37746 24646 312792.主成分分析2.1构造因子变量的前提主成分分析的目的是从众多原有变量中提炼少数具有代表性的因自变量。

1、主成分法：用主成分法寻找公共因子的方法如下：假定从相关阵出发求解主成分，设有p 个变量，则可找出p 个主成分。

将所得的p 个主成分按由大到小的顺序排列，记为1Y ，2Y ，…，P Y ， 则主成分与原始变量之间存在如下关系：11111221221122221122....................p p p p pp p pp p Y X X X Y X X X Y X X Xγγγγγγγγγ=+++⎧⎪=+++⎪⎨⎪⎪=+++⎩ 式中，ij γ为随机向量X 的相关矩阵的特征值所对应的特征向量的分量，因为特征向量之间彼此正交，从X 到Y 得转换关系是可逆的，很容易得出由Y 到X 得转换关系为：11112121212122221122....................p p p p pp p pp p X Y Y Y X Y Y Y X Y Y Yγγγγγγγγγ=+++⎧⎪=+++⎪⎨⎪⎪=+++⎩ 对上面每一等式只保留钱m 个主成分而把后面的部分用i ε代替，则上式变为：1111212112121222221122....................m m m m p p p mp m p X Y Y Y X Y Y Y X Y Y Y γγγεγγγεγγγε=++++⎧⎪=++++⎪⎨⎪⎪=++++⎩上式在形式上已经与因子模型相一致，且i Y （i=1,2，…，m ）之间相互独立，且i Y 与i ε之间相互独立，为了把i Y 转化成合适的公因子，现在要做的工作只是把主成分i Y 变为方差为1的变量。

为完成此变换，必须将i Y 除以其标准差，由主成分分析的知识知其标准差即为特征根的平方根/i i F Y =，12m ，则式子变为：1111122112211222221122....................m m m m p p p pm m p X a F a F a F X a F a F a F X a F a F a F εεε=++++⎧⎪=++++⎪⎨⎪⎪=++++⎩这与因子模型完全一致，这样，就得到了载荷A 矩阵和 初始公因子(未旋转)。

主成分分析法主成分分析（principal components analysis，PCA）又称：主分量分析，主成分回归分析法[编辑]什么是主成分分析法主成分分析也称主分量分析，旨在利用降维的思想，把多指标转化为少数几个综合指标。

在统计学中，主成分分析（principal components analysis,PCA）是一种简化数据集的技术。

它是一个线性变换。

这个变换把数据变换到一个新的坐标系统中，使得任何数据投影的第一大方差在第一个坐标(称为第一主成分)上，第二大方差在第二个坐标(第二主成分)上，依次类推。

主成分分析经常用减少数据集的维数，同时保持数据集的对方差贡献最大的特征。

这是通过保留低阶主成分，忽略高阶主成分做到的。

这样低阶成分往往能够保留住数据的最重要方面。

但是，这也不是一定的，要视具体应用而定。

[编辑]主成分分析的基本思想在实证问题研究中，为了全面、系统地分析问题，我们必须考虑众多影响因素。

这些涉及的因素一般称为指标，在多元统计分析中也称为变量。

因为每个变量都在不同程度上反映了所研究问题的某些信息，并且指标之间彼此有一定的相关性，因而所得的统计数据反映的信息在一定程度上有重叠。

在用统计方法研究多变量问题时，变量太多会增加计算量和增加分析问题的复杂性，人们希望在进行定量分析的过程中，涉及的变量较少，得到的信息量较多。

主成分分析正是适应这一要求产生的，是解决这类题的理想工具。

同样，在科普效果评估的过程中也存在着这样的问题。

科普效果是很难具体量化的。

在实际评估工作中，我们常常会选用几个有代表性的综合指标，采用打分的方法来进行评估，故综合指标的选取是个重点和难点。

如上所述，主成分分析法正是解决这一问题的理想工具。

因为评估所涉及的众多变量之间既然有一定的相关性，就必然存在着起支配作用的因素。

根据这一点，通过对原始变量相关矩阵内部结构的关系研究，找出影响科普效果某一要素的几个综合指标，使综合指标为原来变量的线性拟合。

在统计学中，主成分分析（principal components analysis, PCA）是一种简化数据集的技术。

它是一个线性变换。

这个变换把数据变换到一个新的坐标系统中，使得任何数据投影的第一大方差在第一个坐标(称为第一主成分)上，第二大方差在第二个坐标(第二主成分)上，依次类推。

主成分分析经常用减少数据集的维数，同时保持数据集的对方差贡献最大的特征。

这是通过保留低阶主成分，忽略高阶主成分做到的。

这样低阶成分往往能够保留住数据的最重要方面。

在实证问题研究中，为了全面、系统地分析问题，我们必须考虑众多影响因素。

这些涉及的因素一般称为指标，在多元统计分析中也称为变量。

因为每个变量都在不同程度上反映了所研究问题的某些信息，并且指标之间彼此有一定的相关性，因而所得的统计数据反映的信息在一定程度上有重叠。

在用统计方法研究多变量问题时，变量太多会增加计算量和增加分析问题的复杂性，人们希望在进行定量分析的过程中，涉及的变量较少，得到的信息量较多。

主成分分析正是适应这一要求产生的，是解决这类题的理想工具主成分分析法是一种降维的统计方法，它借助于一个正交变换，将其分量相关的原随机向量转化成其分量不相关的新随机向量，这在代数上表现为将原随机向量的协方差阵变换成对角形阵，在几何上表现为将原坐标系变换成新的正交坐标系，使之指向样本点散布最开的p 个正交方向，然后对多维变量系统进行降维处理，使之能以一个较高的精度转换成低维变量系统，再通过构造适当的价值函数，进一步把低维系统转化成一维系统。

主成分分析的主要作用体现在五个方面，第一，主成分分析能降低所研究的数据空间的维数。

第二，可通过因子负荷的结论，弄清X变量间的某些关系。

第三，可用于多为数据的一种图形表现方法。

第四，可由主成分分析构造回归模型，即把各个主成分作为新自变量代替原来自变量做回归分析。

第五，用主成分分析筛选回归变量。

案例分析：下表是关于全国31个省市的8项经济指标，以此为例，进行主成分分析。

【转】主成分分析法概述、案例实例分析主成分分析法主成分分析也称主分量分析，旨在利用降维的思想，把多指标转化为少数几个综合指标。

在实证问题研究中，为了全面、系统地分析问题，我们必须考虑众多影响因素。

这些涉及的因素一般称为指标，在多元统计分析中也称为变量。

因为每个变量都在不同程度上反映了所研究问题的某些信息，并且指标之间彼此有一定的相关性，因而所得的统计数据反映的信息在一定程度上有重叠。

在用统计方法研究多变量问题时，变量太多会增加计算量和增加分析问题的复杂性，人们希望在进行定量分析的过程中，涉及的变量较少，得到的信息量较多。

主成分分析正是适应这一要求产生的，是解决这类题的理想工具。

主成分分析法是一种数学变换的方法, 它把给定的一组相关变量通过线性变换转成另一组不相关的变量，这些新的变量按照方差依次递减的顺序排列。

在数学变换中保持变量的总方差不变，使第一变量具有最大的方差，称为第一主成分，第二变量的方差次大，并且和第一变量不相关，称为第二主成分。

依次类推，I 个变量就有I个主成分。

这种方法避免了在综合评分等方法中权重确定的主观性和随意性，评价结果比较符合实际情况；同时，主成份分量表现为原变量的线性组合，如果最后综合指标包括所有分量，则可以得到精确的结果，百分之百地保留原变量提供的变差信息，即使舍弃若干分量，也可以保证将85％以上的变差信息体现在综合评分中，使评价结果真实可靠。

是在实际中应用得比较广的一种方法。

由于其第一主成份（因子）在所有的主成分中包含信息量最大，很多学者在研究综合评价问题时常采用第一主成分来比较不同实体间的差别。

综上所述，该方法的优点主要体现在两个方面：1.权重确定的客观性；2.评价结果真实可靠。

1．主成分分析的基本原理主成分分析：把原来多个变量划为少数几个综合指标的一种统计分析方法，是一种降维处理技术。

）记原来的变量指标为x1，x2，…，xP，它们的综合指标——新变量指标为z1，z2，…，zm（m≤p），则z1，z2，…，zm分别称为原变量指标x1，x2，…，xP的第一，第二，…，第m 主成分，在实际问题的分析中，常挑选前几个最大的主成分。

第14章主成分分析1 概述基本概念定义主成分分析是根据原始变量之间的相互关系，寻找一组由原变量组成、而彼此不相关的综合变量，从而浓缩原始数据信息、简化数据结构、压缩数据规模的一种统计方法。

举例为什么叫主成分，下面通过一个例子来说明。

假定有N 个儿童的两个指标x1与x2，如身高和体重。

x1与x2有显着的相关性。

当N较大时，N观测量在平面上形成椭圆形的散点分布图，每一个坐标点即为个体x1与x2的取值，如果把通过该椭圆形的长轴取作新坐标轴的横轴Z1，在此轴的原点取一条垂直于Z1的直线定为新坐标轴的Z2，于是这N个点在新坐标轴上的坐标位置发生了改变；同时这N个点的性质也发生了改变，他们之间的关系不再是相关的。

很明显，在新坐标上Z1与N个点分布的长轴一致，反映了N个观测量个体间离差的大部分信息，若Z1反映了原始数据信息的80%，则Z2只反映总信息的20%。

这样新指标Z1称为原指标的第一主成分，Z2称为原指标的第二主成分。

所以如果要研究N个对象的变异，可以只考虑Z1这一个指标代替原来的两个指标（x1与x2），这种做法符合PCA提出的基本要求，即减少指标的个数，又不损失或少损失原来指标提供的信息。

函数公式通过数学的方法可以求出Z1和Z2与x1与x2之间的关系。

Z1=l11x1+ l12x2Z2=l21x1+ l22x2即新指标Z1和Z2是原指标x1与x2的线性函数。

在统计学上称为第一主成分和第二主成分。

若原变量有3个，且彼此相关，则N个对象在3维空间成椭圆球分布，见图14-1。

通过旋转和改变原点（坐标0点），就可以得到第一主成分、第二主成分和第三主成分。

如果第二主成分和第三主成分与第一主成高度相关，或者说第二主成分和第三主成分相对于第一主成分来说变异很小，即N个对象在新坐标的三维空间分布成一长杆状时，则只需用一个综合指标便能反映原始数据中3个变量的基本特征。

PCA满足条件一般条件一般来说，N个对象观察p个指标，可以得到N*p个数据（矩阵）。

主成分分析法主成分分析（principal components analysis，PCA）又称：主分量分析，主成分回归分析法[编辑]什么是主成分分析法主成分分析也称主分量分析，旨在利用降维的思想，把多指标转化为少数几个综合指标。

在统计学中，主成分分析（principal components analysis,PCA）是一种简化数据集的技术。

它是一个线性变换。

这个变换把数据变换到一个新的坐标系统中，使得任何数据投影的第一大方差在第一个坐标(称为第一主成分)上，第二大方差在第二个坐标(第二主成分)上，依次类推。

主成分分析经常用减少数据集的维数，同时保持数据集的对方差贡献最大的特征。

这是通过保留低阶主成分，忽略高阶主成分做到的。

这样低阶成分往往能够保留住数据的最重要方面。

但是，这也不是一定的，要视具体应用而定。

[编辑]主成分分析的基本思想在实证问题研究中，为了全面、系统地分析问题，我们必须考虑众多影响因素。

这些涉及的因素一般称为指标，在多元统计分析中也称为变量。

因为每个变量都在不同程度上反映了所研究问题的某些信息，并且指标之间彼此有一定的相关性，因而所得的统计数据反映的信息在一定程度上有重叠。

在用统计方法研究多变量问题时，变量太多会增加计算量和增加分析问题的复杂性，人们希望在进行定量分析的过程中，涉及的变量较少，得到的信息量较多。

主成分分析正是适应这一要求产生的，是解决这类题的理想工具。

同样，在科普效果评估的过程中也存在着这样的问题。

科普效果是很难具体量化的。

在实际评估工作中，我们常常会选用几个有代表性的综合指标，采用打分的方法来进行评估，故综合指标的选取是个重点和难点。

如上所述，主成分分析是解决这一问题的理想工具。

因为评估所涉及的众多变量之间既然有一定的相关性，就必然存在着起支配作用的因素。

根据这一点，通过对原始变量相关矩阵部结构的关系研究，找出影响科普效果某一要素的几个综合指标，使综合指标为原来变量的线性拟合。