学生成绩的主成分分析和聚类分析
摘要
运用主成分分析方法和聚类分析方法，对高校学生的综合成绩进行评价。避免传
统方法在综合评价中对指标的主观选择及对权重的主观判断，使权重的分配更合理，
尽可能地减少重叠信息的不良影响，克服变量之间的多重相关性，简化系统分析。
关键词：主成分分析;综合评价；聚类分析
Principal Component and Cluster Analysis
in Students’Grades
Abstract
Using principal component analysis and cluster analysis method to evaluate College students’comprehensive performance.Avoid the traditional method of Comprehensive Evaluation that will give rise to choice subjective indicators and subjectively judge right weight. So there is a more reasonable distribution of right weight.Possible to reduce duplication of information that causes the adverse effects.Overcome the multiple variables related to simplify analysis.
K ey words：principal component analysis,comprehensive evaluation,cluster analysis
1引言
学生的学习成绩是学校、工作单位选拔人才的重要依据，更是学生衡量自己知识掌握程度的重要标准。因此，对成绩进行科学评价的问题显得尤为重要。假如每人只有一科分数，排出名次即可。但实际上，每个学生都有几科甚至几十科分数。这就需要对这些数据进行加工整理分析并提取出有关这N个学生的有用信息，即多指标统计分析问题。显然，指标越多越复杂，因此，自然希望通过对原有指标数据的科学的加工、整理，将问题的指标数尽可能地减少、压缩。所以，我们希望能用较少的几个新的综合指标，来代替原由的
较多的指标，使问题大大简化，但同时要求新指标：1、尽可能保留原有指标含有的信息量；2、各指标之间不相关，即各自含有的信息不重叠。这样一种将原来较多的指标简化为少数几个新的综合指标的多元统计方法叫主成分分析。新的综合指标称为原指标的主成分。并且按其含有的信息量的大小依次称为第一主成分，第二主成分……
在提取出样本的主成分之后，我们自然希望能对学生进行更加深入的评级。目前最常用的加工方法是计算各人的加权平均分，按平均分的高低来评价学生。但是这样虽然可以将问题简化，但往往也失去许多信息。目前,综合评价大学生的方法比较单一,多数大学或院系都是用学生的总成绩或平均成绩作为评价的定量依据。应该说这种评价方法比较简单,并能提供一定的综合信息,但它存在着两大缺点:一是这种评价方法掩盖了学生的个性,即不能反映学生不同方面的特点。比如,我们无法从这种评价结论中得知一个学生基础知识怎样,动手能力强弱,外语水平高低等等;二是这种评价方法不能对学生进行分类,即不能提供学生群体的分类标准。上述两方面特征即学生个性特征和群体分类特征是学生管理工作中非常有用的重要信息,因此,研究反映这两个特征的方法是非常必要的。
本论文的主要目的为：利用多元统计中的主成分法和聚类分析，提取学生成绩的主成分并将学生进行分类，让我们用几个主成分就能解释学生于科目之间的关系，让我们知道哪些学生善于理性思维，哪些学生的动手能力强，这样也可以从中得到两类学生的比例，作为系里评价学生的一个基础，也可以让学生很清楚自己在那个方面的优势，对其以后的发展作一个前期的指导。
2、方法简述
2.1、主成分方法简介[1]
设有n 组样本，每组样品有p 个变量。用主成分分析法，利用全部p 个变量来重新构造
q 个新的综合变量，并使得这些较少的变量既能更多得反映原来p 个变量的统计特性，又使它们之间相互独立。假定是一组随机变量，并且.考虑
()'
12,,...,p x x x =x ,()EX Var x V μ==的一个线形组合这里对于综合12,,...,p x x x 1122...'p p Z a x a x a x a x =+++=12'(,, ...,).p a a a a =变量Z，要选择这一组系数使得Z 的方差最大值（为加以限制，令=1）。12'(,, ...,).p a a a a ='a a 用拉格朗日极值理论，可以证明，的最大值等价于求的值，就等于矩阵( )Var x 'x
'a va
ma a a
V 的最大特征根，a 就是对应的特征向量。若记矩阵的p 个特征值L 1λ1λ+Σ，且m 个非零特征值所对应的特征向量分别为121......0m m p λλλλλ+≥≥≥≥===。那么把矩阵V 的非0特征根所对应的特征向量分别作为
12,, ...,m a a a 12...0m λλλ≥≥≥≥的系数向量，分别称为随机变量x的第1主成分、第2主成分、…第
12,, ...,m a a a '''
12,...m a x a x a x n 主成分。当i≠j 时所以主成分之间是不相关的。而且可()cov ,0i j i j j i j a x a x a va a a λ===以看到，主成分分析主要就是求实对称矩阵（相关矩阵或协方差矩阵）的特征值和特征向量。称为第k 个主成分的贡献率，它反映了第k 个主成分提取全部信息的多
1/p
k k j p j λλ==∑少。又称为前k 个主成分的积累贡献率，它反映了前k 个主成分共同提取全部信
1
1
/p k
j j j j λλ==∑∑息的多少。
2.2、聚类分析及其基础知识简介[2]
2.2.1、聚类分析的思想
我们所研究的样品或指标（变量）之间存在程度不同的相似性（亲疏关系）。于是根据一批样品的多个观测指标，具体找出一些能够度量样品或指标之间相似程度的统计量，以这些统计量为划分类型的依据。把一些相似程度较大的样品（或指标）聚合为一类，把另外一些彼此之间相似程度较大的样品（或指标）又聚合为另一类，关系密切的聚合到一个小的分类单位，关系疏远的聚合到一个大的分类单位，直到把所有的样品（或指标）聚合完毕，这就是分类的基本思想。
2.2.2、聚类分析作用
在聚类分析中，通常我们将根据分类对象的不同分为Q型聚类分析和R型聚类分析两大类。Q型聚类分析是对样本进行分类处理，R型聚类分析是对变量进行分类处理。
R型聚类分析的主要作用是：
1、不但可以了解个别变量之间的关系的亲疏程度，而且可以了解各个变量组合之间的亲疏程度；
2、根据变量的分类结果以及它们之间的关系，可以选择主要变量进行回归分析或Q 型聚类分析。
Q型聚类分析的优点是：
1、可以综合利用多个变量的信息对样本进行分类；
2、分类结果是直观的，聚类谱系图非常清楚地表现其数值分类结果；
3、聚类分析所得到的结果比传统分类方法更细致、全面、合理。2.2.3、距离
由于在本文中只用到欧式距离所以下面就对该距离进行介绍。设有n 个样品，p 个指标，元素表示第i 个样品的第j 个指标。因每个样品有p 个指标，故每个样品可以看成p 维空间ij x 中的一个点，n 个样品就构成p维空间中的n 个点。因此，我们可以用距离来度量样品之间接近的程度。
明氏（Murkowski）距离：()1/1||q
p q ij i j d q x x σσσ=??=???
??∑当q =1时，为绝对距离；当q =2时，为欧氏距离；当q =3时，为切比雪夫距离。
当各变量的测量值相差悬殊时，采用明氏距离并不合理，需要先对数据标准化，然后用标准化后的数据计算距离。明氏距离特别是其中的欧氏距离是人们较为熟悉的，也是使用最多的距离。但明氏距离存在不足之处，主要表现在两个方面：第一，它与各指标的量纲有关；第二，它没有考虑指标之间的相关性，欧氏距离也不例外。2.2.4、
系统聚类方法
正如样品之间的距离可以有不同的定义方法一样，类与类之间的距离也有各种定义。例如可以定义类与类之间的距离为两类之间最近样品的距离，或者定义为两类之间最远样品的距离，与可以定义为两类重心之间的距离等等。类与类之间用不同的方法定义距离，就产生了不同的系统聚类方法。常用的八种系统聚类方法即最短距离法、最长距离法、中间距离法、重心距离法、类平均法、可变类平均法、可变法、离差平方和法。系统聚类方法尽管方法很多，但归类的步骤基本上是一样的，所不同的仅是类与类之间的距离有不同的定义方法，从而得到不同的计算距离的公式。
3实现步骤
SPSS没有提供主成分分析的专用菜单项，但通过因子分析很容易就可以实现。下面是
对统计03级的变量进行主成分分析和聚类分析的操作步骤[2]：
（1）新建一数据文件，定义变量：变量是21门科目的成绩，这些变量依次为数学分析、高等代数、大学物理、C语言、常微分方程、数值分析、概率论、复变函数、实变函数、宏观经济学、微观经济学、数理统计、运筹学、随机过程、实用回归分析、数理金融、抽样调查、时间序列分析、统计计算与试验、多元统计分析、课程设计。它们均为数值型变量。如下：
表1：
学生编号数学分析高等代数大学物理............统计计算多元统计分析课程设计1818579 (917285)
2806976 (888495)
3958994 (887475)
4888979 (757485)
5929587 (949485)
6696273 (987785)
7686566 (926885)
8606065 (866585)
9616071 (917085)
……………………………
……………………………
53698268 (987695)
54839180 (818685)
55869465 (977185)
56879291 (979295)
57848987 (948785)
58829373 (816875)
59766574 (837785)
60668271 (967585)
61798091 (789875)
（2）选择菜单[Analyze]=>[Data Reduction]=>[Factor打开[Factor Analysis（因子分析）]主对话框。选定左边列表中的变量（全部）单击按钮使之进入[Variables]列表框。（3）单击主对话框中的[Descriptive]按钮，打开[Factor Analysis:Descriptive]子对话框，在[Statistics]栏中选择[University descriptive（单变量描述统计量）]项要求输出各变量的均值与标准差，在[Correlation Matrix（相关系数矩阵）]栏内选择[Coefficients（系数）]项要求计算相关系数矩阵，单击[Continue]按钮返回[Factor Analysis]主对话框。
（4）单击主对话框中的[Extraction...]按钮。打开[Factor Analysis:Extraction]子对话框。在[Method]列表中选择默认因子抽取方法——[Principal components（主成
分分析法）]，在[Analyze]栏中选择默认的[Correlation matrix]项要求从相关系数矩阵出发求解主成分，在[Exact]栏中选择默认项。单击[Continue]按钮返回主对话框。
（5）单击主对话框中的[OK]按钮，就有结果输出。
（6）进行聚类分析，选择[Statistics]=>[Classify]=>[Hierarchical Cluster]，打开分层聚类对话框。
（7）把变量选入[Variable]框，进行样本聚类，具体的分类可以按照常规分为优秀、良好、及格、不及格，这四类。由于选取的21门成绩都是百分制，方差和均数相差不会太大，因此这里无须进行变量的标准化。数据均为连续性测量结果，且从描述指标看没有太极端的值（对少数由于缺考或没选修课程而产生的成绩值缺失，我应用该门课程的平均成绩代替），分类测量距离使用默认的欧式平方距离即可。将会在SPSS数据编辑器的最后一列给出聚类结果
（8）单击[Statistics]按钮选择要输出的统计量。最后单击OK。
4结果分析
通过上面的试验步骤，我们进行如下分析：
（1）21门科目的相关矩阵见表2，我们可以清楚的看出各科目之间的相关性，而且根据常识，变量之间的相关性符合常理。
表2：课程的相关系数矩阵
课程名称数学分析高等代数…………统计计算多元统计分析课程设计
1
0.7408111
0.6338960.578917
……
…..…………
0.1584760.114419 (1)
0.6012230.411472…………0.198321
0.1455970.066716…………0.2381060.2846181
（2）21门科目成绩的均值和标准差（见表3）。不同科目的成绩不一样这是可以理解的，一方面因为课程的难易有区别，另一方面可能各个任课老师的评分标准有严有松。标准差在4.5～12.0的范围内。
表3：成绩均值标准差表
（2）特征值和方差贡献率（结果见表4附图1）。在未指定提取几个因子时,为了使选取的主成分能包含21个变量的大部分信息，系统自动选取了4个主成分（即前4个特征值大于1的成分），这4个主成分包含了全部信息的67.075％，主成分分析效果一般。这四个主成分的特征值分别为10.184、 1.553、1.273、1.217。它们的方差贡献率分别为48.195％、7.398％、6.604％、5.193％。特征值的贡献还可以从SPSS的碎石图中看出。碎石图能帮我们确定主成分合适的个数的有用的数学工具。将特征值从小到大
排列，碎石图就是
对序号i 的（i，i λ）的图，为了确i λ定主成分的合适个数，我们在该图上找拐弯处。图1在i ＝2处拐弯，也就是说此后的特征值全部较小且彼此大小差不多。在这中情况下，没有其它证据也看得出，选取一个或两个主成分即可。这也为下述
为何只有第一、第
二、第四主成分能给出明确的解释提供依据。
表4：特征值对应特征向量
课程名称
12340.83
-0.29
0.01
0.13
课程名称
均值标准差学生数数学分析78.836079.56587761高等代数79.2131111.2399861大学物理75.524599.51070761C 语言76.786899.16172261常微分方程77.6885210.8451861数值分析87.868858.79483861概率论86.360669.7468561复变函数81.7213112.3573661实变函数79.6721311.8627261宏观经济学79.983617.77922861微观经济学80.295088.90195561数理统计84.9344310.83861运筹学84.4426211.0098861随机过程69.704929.85789761回归分析76.6229511.5313561数理金融76.8196710.5222161抽样调查81.5245910.179461时间序列分析75.950827.50205861统计计算89.4918 6.47462561多元统计分析74.7213110.7519561课程设计
84.32787
7.0397
61
（3）各主成分的得分函数及主成分载荷分析（结果见表4）。根据上表可以写出主成分的得分函数，例如第一主成分可写为
112345192021
0.830.740.720.750.64...0.210.760.33Y X X X X X X X X =++++++++由于第一主成分对所有变量都有近似相等的载荷,统计计算0.21和课程设计0.33除外，课
高等代数0.74-0.370.0470.180.72
-0.290.036-0.07语言0.75-0.130.0090.330.64-0.330.340.210.74-0.25-0.15-0.170.76-0.140.09-0.110.65-0.37-0.080.180.750.110.03-0.220.780.097-0.450.040.770.03-0.340.160.640.180.23-0.320.560.070.46-0.110.740.180.30-0.130.820.250.01-0.0170.810.110.03-0.130.660.32-0.140.080.520.20-0.51-0.320.210.38-0.090.730.760.27-0.04-0.130.33
0.580.35
0.22
方差贡献率％
累计方差贡献率％
λ10.1848.4948.49λ 1.557.3955.89λ 1.27 6.0661.95λ
1.21
5.7
67.75
程设计和统计计算不考试，以论文形式结业。因此可认为第一主成分代表学生总的学习水平，即综合学习成绩。第二主成分在数理统计0.18、随机过程0.18、抽样0.32、统计计算0.8、课程设计0.58、回归分析0.25、时间序列0.2上有较高的正载荷。第二主成分代表学生专业课的学习水平。第四主成分C语言和统计计算的载荷较大,因而第四主成分可以解释为学生的计算能力。第三主成分很难给出明显的解释。
（4）聚类的详细步骤可从表5看出。第一步是编号47的学生与编号57的学生合并成一类，第二步是编号47、57的学生和编号56的学生合并成一类，第三步是编号18的学生和编号47、57、56的学生合并成一类，第四步是编号19和26的学生合并成一类，依次类推直到全部合为一类。
表5聚类步骤表
阶段第一组第二组系数
4757201
4756341.5
1847509.6667
1926525
1837716.25
3031738
………………………………
6103349.058
1613687.024
165631.326
14912053.02
5）当变量数和纪录数较多时采用树图（结果见附图2）比冰柱图要清楚的多,因而此处我们不给出冰柱图。这66名学生可分为四类,第一类学生优秀,他们的编号是1、2、3、4、5、13、16、17、18、19、20、21、22、23、25、26、27、28、29、30、31、32、33、35、36、37、39、42、43、47、48、50、51、52、53、54、55、56、57、58、59、60、;第二类学生良好,他们的编号是6、7、8、9、10、11、12、14、15、24、34、38、40、41、44、45、46、;第三类学生及格,编号是61、；第四类学生不及格，他们的编号是49。
5总结
利用多元统计中的主成法分析法用较少的综合变量代替较多的原始变量，并以第一主成分评价学生综合学习成绩，第二是对专业课的度量，结果具有科学性、客观性、全面性，具有一定的实际意义。将聚类法得出的结果与平常利用成绩加权得出的结果相比较有不同之处。可能是聚类分析法给出了分类界限,且这种界限的划定不含主观因素。
经过一个学期的学习，让我知道多元统计是一门实用性极强的学科，我学到如何应用概率论和数理统计的原理、方法研究数据资料的搜集、整理、分析和推断，从而掌握事物的内在规律。同时我也深刻的体会到了计算机在复杂的数学运算中是多么的重要。当然，对于不同的问题，其求解方式也不同，所利用的软件也不一定一样。这就导致了随着科技的进步，数学软件的更新必然会变化巨大，我们也必须随着它们的进步而更新自己的知识。真正体会到理论与实践的真正结合。
参考文献
[1]Richard A.Johnson,Dean W.Wichern.实用多元统计分析第四版清华大学出版社
[2]张文彤SPSS统计分析教程北京希望电子出版社
[3]米红,张文璋.实用现代统计分析方法与SPSS应用当代中国出版社
附图2
2009年第11期 科技管理研究Science and Technol ogyM anage ment Research 2009No 111 收稿日期:2009-08-25,修回日期:2009-09-11 文章编号:1000-7695(2009)11-0169-03 基于主成分分析法的科技投入产出聚类分析 秦浩源 (华中科技大学管理学院,湖北武汉 430074) 摘要:在科技投入与产出指标体系的基础上,利用主成分分析法将指标进行综合,通过区域聚类分析对我国科技经费的配置效果进行评价,为科技体制改革、科技活动的结构调整、科技经费的优化配置和科学管理提供依据。 关键词:科技经费;投入产出;主成分分析法;聚类分析法中图分类号:F223 文献标识码:A 1 引言 随着科技经济一体化进程的不断加深,科技对经济增长 的贡献程度不断提高,各国纷纷加大对科技经费的投入力度以促进科技经济更好更快地协调发展。在各国科技投入不断增加的同时,科技经费资源的稀缺性、配置的低效性则越来越凸显出来:我国长期以来形成科技经费资源的粗放式投入模式,造成了科技经费配置中的巨大浪费[1-2];较高的科技投入并不能带来高质量的科技成果,等等。这严重制约了我国科技创新能力的提高,不利于充分发挥科技对经济的支撑和促进作用。 因此,对科技投入产出状况进行研究,提高科技经费配置效率就显得十分必要,这对缓解我国科技投入压力、提高我国的科技创新能力和科技竞争力具有极其重要的现实意义。 2 指标体系及数据获取 在进行指标选取时,分别考虑科技经费投入、科技活动产出以及两者的关系。科技经费投入指标主要考虑各种科技财力资源,而科技产出指标主要包括知识形态的成果和科技转化成果。因此,在指标的选取时,注重对统计指标进行研究,以避免定性分析带来主观影响。本文选取科技经费投入指标包括:科技经费筹集总额,科技经费中政府投资总额,R&D 经费内部支出总额,R&D 经费内部支出总额与G DP 的比值等;科技活动产出指标包括:发明专利申请受理数,被SC I 、E I 、I STP 检索的论文数,技术市场成交合同金额,高技术产业增加值等。具体的科技投入产出指标如表1所示。 表1 科技投入产出指标 指标 分类 指标名称 指标编号 科技投入指标 科技经费筹集总额(万元)T 1科技经费中政府投资总额(万元)T 2R&D 经费内部支出总额(万元)T 3R&D 经费内部支出总额与G DP 的比值(%) T 4科技产出指标 发明专利申请受理数(件)C 1被SC I 、E I 、I STP 检索的论文数(篇)C 2技术市场成交合同金额(万元)C 3高技术产业增加值(万元) C 4 注:所用数据为2007年各地区科技投入产出指标数值,数据来源于《中国统计年鉴2008》和《中国科技统计年鉴2008》。 3 基于主成分分析法的科技投入产出能力指标综合 本文采用主成分分析法获得投入产出综合能力指数。主成分分析法是通过研究指标体系的内在结构关系,将多个指标的问题化为少数指标问题的一种多元统计分析方法,即把原来多个指标转化为一个或几个综合指标,并且这些少量的指标能够包含原来多个指标的绝大部分信息。 (1)主成分分析法的基本步骤 1)标准化处理。标准化处理也即无量纲化,就是针对量纲不同的各指标间不能简单相加的情况,通过变换,用比率的形式来消除量纲不同所带来的影响,使原本不可以直接相加的变量可以相加。 本文采用的无量纲化的计算公式为: 指标L 比率=011+019×[(L -L m in )/(L max -L m in )] 其中,L max 、L m in 分别表示参加比较的各地区中该指标的最大值和最小值;L 则表示某地区该指标的实际值。 2)通过SPSS 主成分分析选取所选数据主成分,一般要求累计贡献率达到一定要求(如不小于85%)来确定样本主成分个数。 3)用原指标的线性组合来计算各主成分得分[3-4] 。以各主成分对原指标的相关系数为权,即载荷系数为权,将主成分用原指标的线性组合表示,主成分的经济意义由权数较大指标的综合意义决定。 I j =u j 1T 1+u j 2T 2+u j 3T 3+u j 4T 4 (u j 1,u j 2,u j 3,u j 4为主成分对应载荷) O j =v j 1C 1+v j 2C 2+v j 3C 3+v j 4C 4 (v j 1,v j 2,v j 3,v j 4为主成分对应载荷) 4)综合得分。以各主成分方差贡献率为权,进行线性组合得到综合评价指标函数。 I = w 1I 1+w 2I 2+…+w j I j w 1+w 2+…+w j O = w 1O 1+w 2O 2+…+w j O j w 1+w 2+…+w j 其中,w j 为主成分占总方差的比例。 5)得分排序。算出总得分进行名次排序。(2)科技投入产出能力计算 运用SPSS 对标准化后数据进行主成分分析,得到投入指标第一个主成分占总方差的861393%,可代表原来四个指标的全部信息,并且第一主成分在投入指标上的载荷分别为
北京建筑工程学院 理学院信息与计算科学专业实验报告 课程名称《数据分析》实验名称《主成分分析和聚类分析》实验地点：基础楼C-423日期__2016.5.5_____ 姓名张丽芝班级信131 学号201307010108___指导教师王恒友成绩 【实验目的】 （1）熟悉利用主成分分析进行数据分析，能够使用SPSS软件完成数据的主成分分析； （2）熟悉利用聚类分析进行数据分析，能够运用主成分分析的结果，做进一步分析，如聚类分析、回归分析等，能够使用SPSS软件完成该任务。 【实验要求】 根据各个题目的具体要求，分别运用SPSS软件完成实验任务。 【实验内容】 1、表4.9（数据见exercise4_5.txt）给出了1991年我国30个省市、城镇居民的月平均消 费数据，所考察的八个指标如下：（单位均为元/人） X1: 人均粮食支出；X2：人均副食支出； X3: 人均烟酒茶支出；X4: 人均其他副食支出； X5:人均衣着商品支出；X6: 人均日用品支出； X7: 人均燃料支出；X8: 人均非商品支出。 （1）求样本相关系数矩阵R。 （2）从R出发做主成分分析，求出各主成分的贡献率及前两个主成分的累积贡献率； 2、（1）对题1中的数据，按照原有的八个指标，对30个省份进行聚类，给出分为3
类的聚类结果。 （2）利用题1得到的前2个主成分指标，分别按最短距离法（最近邻居距离）、最长距离法（最远邻居距离）、类平均距离法（组间平均距离）、重心距离法；其中距离均采用欧式平方距离，对样本进行谱系聚类分析，并画出谱系聚类图；给出分为3类的聚类结果。并与（1）的结果进行比较 【实验步骤】（此部分主要包括实验过程、方法、结果、对结果的分析、结论等） 1 1） 2） 表:方差贡献率和累计贡献率
主成分分析 起源及发展 主成分分析是1901年Pearson对非随机变量引入的，1933年Hotelling将此方法推广到随机向量的情形，主成分分析和聚类分析有很大的不同，它有严格的数学理论作基础。 原理 在用统计分析方法研究多变量的课题时，变量个数太多就会增加课题的复杂性。人们自然希望变量个数较少而得到的信息较多。在很多情形，变量之间是有一定的相关关系的，当两个变量之间有一定相关关系时，可以解释为这两个变量反映此课题的信息有一定的重叠。主成分分析是对于原先提出的所有变量，将重复的变量（关系紧密的变量）删去多余，建立尽可能少的新变量，使得这些新变量是两两不相关的，而且这些新变量在反映课题的信息方面尽可能保持原有的信息。 设法将原来变量重新组合成一组新的互相无关的几个综合变量，同时根据实际需要从中可以取出几个较少的综合变量尽可能多地反映原来变量的信息的统 计方法叫做主成分分析或称主分量分析，也是数学上用来降维的一种方法。 应用学科 主成分分析作为基础的数学分析方法，其实际应用十分广泛，比如人口统计学、数量地理学、分子动力学模拟、数学建模、数理分析等学科中均有应用，是一种常用的多变量分析方法。 评价步骤 1）对原始数据进行标准化处理 假设进行主成分分析的指标变量有m个：,,…,，共有n个评价对象，第i个评价对象的第j个指标的取值为。将各指标值转换成标准化指标，有 ，（i =1,2,…,n ; j =1,2,…,m）
其中， , ，即为第j个指标的样本均值和样本标准差。对应地，称 ，（j =1,2,…,m） 为标准化指标变量。 2）计算相关系数矩阵R 相关系数矩阵, 有 , （i,j =1,2,…,m） 式中，=，是第i个指标与第j个指标的相关系数。 3）计算特征值和特征向量 计算相关系数矩阵R的特征值，及对应的特征向量，其中，由特征向量组成m个新的指标变量: ? 式中是第1主成分，是第2主成分，…，是第m 主成分。 4）选择个主成分，计算综合评价值 ① 计算特征值的信息贡献率和累积贡献率。称
注意事项：1. 系统聚类法可对变量或者记录进行分类，K-均值法只能对记录进行分类； 2. K-均值法要求分析人员事先知道样品分为多少类； 3. 对变量的多元正态性，方差齐性等要求较高。应用领域：细分市场，消费行为划分，设计抽样方案等 优点：聚类分析模型的优点就是直观，结论形式简明。 缺点：在样本量较大时，要获得聚类结论有一定困难。由于相似系数是根据被试的反映来建立反映被试间内在联系的指标，而实践中有时尽管从被试反映所得出的数据中发现他们之间有紧密 的关系，但事物之间却无任何内在联系，此时，如果根据距离或相似系数得出聚类分析的结果，显然是不适当的，但是，聚类分析模型本身却无法识别这类错误。 因子分析：利用降维的思想，由研究原始变量相关矩阵内部的依赖关系出发，把一些具有错综复杂关系的变量归结为少数几个综合因子。（因子
分析是主成分的推广，相对于主成分分析，更倾向于描述原始变量之间的相关关系），就是研究如何以最少的信息丢失，将众多原始变量浓缩成少数几个因子变量，以及如何使因子变量具有较强的可解释性的一种多元统计分析方法。 求解因子载荷的方法：主成分法，主轴因子法，极大似然法，最小二乘法，a因子提取法。 注意事项：5. 因子分析中各个公共因子之间不相关，特殊因子之间不相关，公共因子和特殊因子之间不相关。 应用领域：解决共线性问题，评价问卷的结构效度，寻找变量间潜在的结构，内在结构证实。 优点:第一它不是对原有变量的取舍，而是根据原始变量的信息进行重新组合，找出影响变量的共同因子，化简数据；第二，它通过旋转使得因子变量更具有可解释性，命名清晰性高。 缺点:在计算因子得分时，采用的是最小二乘法，此法有时可能会失效。 判别分析：从已知的各种分类情况中总结规律（训练出判别函数），当新样品进入时，判断其与判别函数之间的相似程度（概率最大，距离最
主成分分析：利用降维（线性变换)的思想，在损失很少信息的前提下把多个指标转化为几个综合指标（主成分),用综合指标来解释多变量的方差- 协方差结构，即每个主成分都是原始变量的线性组合,且各个主成分之间互不相关,使得主成分比原始变量具有某些更优越的性能（主成分必须保留原始变量90%以上的信息），从而达到简化系统结构，抓住问题实质的目的综合指标即为主成分。 求解主成分的方法：从协方差阵出发（协方差阵已知），从相关阵出发（相关阵R已知）。（实际研究中，总体协方差阵与相关阵是未知的，必须通过样本数据来估计） 注意事项：1. 由协方差阵出发与由相关阵出发求解主成分所得结果不一致时，要恰当的选取某一种方法； 2. 对于度量单位或是取值范围在同量级的数据，可直接求协方差阵；对于度量单位不同的指标或是取值范围彼此差异非常大的指标，应考虑将数据标准化，再由协方差阵求主成分； 3.主成分分析不要求数据来源于正态分布； 4. 在选取初始变量进入分析时应该特别注意原始变量是否存在多重共线性的问题（最小特征根接近于零，说明存在多重共线性问题）。 优点：首先它利用降维技术用少数几个综合变量来代替原始多个变量，这些综合变量集中了原始变量的大部分信息。其次它通过计算综合主成分函数得分，对客观经济现象进行科学评价。再次它在应用上侧重于信息贡献影响力综合评价。 缺点：当主成分的因子负荷的符号有正有负时，综合评价函数意义就不明确。命名清晰性低。 聚类分析：将个体（样品）或者对象（变量）按相似程度（距离远近）划分类别，使得同一类中的元素之间的相似性比其他类的元素的相似性更强。目的在于使类间元素的同质性最大化和类与类间元素的异质性最大化。 。其主要依据是聚到同一个数据集中的样本应该彼此相似，而属于不同组的样本应该足够不相似。 常用聚类方法：系统聚类法，K-均值法，模糊聚类法，有序样品的聚类，分解法，加入法。 注意事项：1. 系统聚类法可对变量或者记录进行分类，K-均值法只能对记录进行分类；2. K-均值法要求分析人员事先知道样品分为多少类；
泛珠三角区域物流发展水平综合评价研究 资料来源：吴晓燕. 泛珠三角区域物流发展水平综合评价研究 泛珠三角区域是我国最主要的经济发达地区之一，也是现代物流最为强劲的“增长极”，具有优越的地理、交通与经济区位优势。但是区域内有发达省份，也有不发达省份，有沿海的省份，也有内陆省份，有东部省份，也有西部省份，彼此之间存在不同的优势和劣势。因此对泛珠三角区域物流发展水平进行评估与分析，有利于明确广东、福建、江西、广西、海南、湖南、四川、云南、贵州九省(区)的区域物流发展现状及差异，找出区域间的优势互补项目，为区域内物流资源有效利用和合理共享、促进区域物流一体化发展提供方向和依据。 评价区域物流综合发展水平是一项很复杂的工作。选择并构建区域物流发展水平综合评价指标体系是评价的关键。因此选择指标构建评价指标体系，必须以综合评价目的为依据，对所要考察的事物进行认真分析，寻找出影响评价对象的因素，从中选出若干主要因素，构建成综合评价指标体系。在多指标综合评价中，如果指标选择不当，再好的综合评价方法也会出现差错，甚至完全失败。 区域物流发展水平评价指标体系实际上就是利用具体的指标将区域物流所包括的功能、区域物流的内涵、特征具体化、层次化的统计描述和综合评价。为了合理评估区域物流发展综合水平，我们主要选取6个一级评价指标，20个次级评价指标对其进行评估，具体结构如下表：
表1 区域物流发展水平评价指标体系 1、社会经济发展类 经济发展是区域物流发展的基础保障，一个地区雄厚的经济基础有利于该物流的加速发展。一般来说，区域物流发展水平与区域的经济发展水平成正比。因此，我们考虑GDP和人均GDP两个次级指标，他们综合反映了物流发展的社会经济基础。 2、生产、消费流通类 从物流需求源考虑，农业、制造业等产业中的物流需求主要是生产资料的位移、储存和流通加工等，这类产业的物流需求与各行业的产量产值存在正比关系，物流需求是商品需求的派生物，与消费品销售，生产资料市场直接相关，商品市场的规模直接决定物流需求的大
主成分分析、聚类分 析比较
主成分分析、聚类分析的比较与应用
主成分分析、聚类 分析的比较与应用 摘要：主成分分析、聚类分析是两种比较有价值的多元统计方法,但同时也是在使用过程中容易误用或混淆的几种方法。本文从基本思想、数据的标准化、应用上的优缺点等方面,详细地探讨了两者的异同,并且 举例说明了两者在实际问题中的应用。 关键词：spss、主成分分析、聚类分析 一、基本概念 主成分分析就是设法将原来众多具有一定相关性（比如P个指标），重新组合成一组新的互相无关的综合指标来代替原来的指标。综合指标即为主成分。所得出的少数几个主成分，要尽可能多地保留原始变量的信息，且彼此不相关。 因子分析是研究如何以最少的信息丢失，将众多原始变量浓缩成少数几个因子变量，以及如何使因子变量具有较强的可解释性的一种多元统计分析方法。 聚类分析是依据实验数据本身所具有的定性或定量的特征来对大量的数据进行分组归类以了解数据集的内在结构，并且对每一个数据集进行描述的过程。 其主要依据是聚到同一个数据集中的样本应该彼此相似，而属于不同组的样本应该足够不相似。 二、基本思想的异同 （一）共同点 主成分分析法和因子分析法都是用少数的几个变量(因子) 来综合反映原始变量(因子) 的主要信息，变量虽然较原始变量少，但所包含的信息量却占原始信息的85 %以上，所以即使用少数的几个新变量，可信度也很高，也可以有效地解释问题。并且新的变量彼此间互不相关，消除了多重共线性。这两种分析
法得出的新变量，并不是原始变量筛选后剩余的变量。在主成分分析中，最终确定的新变量是原始变量的线性组合，如原始变量为x1 ，x2 ，. . . ，x3 ，经过坐标变换，将原有的p个相关变量xi 作线性变换，每个主成分都是由原有p 个变量线性组合得到。在诸多主成分Zi中，Z1 在方差中占的比重最大，说明它综合原有变量的能力最强，越往后主成分在方差中的比重也小，综合原信息的能力越弱。因子分析是要利用少数几个公共因子去解释较多个要观测变量中存在的复杂关系，它不是对原始变量的重新组合，而是对原始变量进行分解，分解为公共因子与特殊因子两部分。公共因子是由所有变量共同具有的少数几个因子；特殊因子是每个原始变量独自具有的因子。 对新产生的主成分变量及因子变量计算其得分，就可以将主成分得分或因子得分代替原始变量进行进一步的分析，因为主成分变量及因子变量比原始变量少了许多，所以起到了降维的作用，为我们处理数据降低了难度。 聚类分析的基本思想是: 采用多变量的统计值，定量地确定相互之间的亲疏关系，考虑对象多因素的联系和主导作用，按它们亲疏差异程度，归入不同的分类中一元，使分类更具客观实际并能反映事物的内在必然联系。也就是说，聚类分析是把研究对象视作多维空间中的许多点，并合理地分成若干类，因此它是一种根据变量域之间的相似性而逐步归群成类的方法，它能客观地反映这些变量或区域之间的内在组合关系。聚类分析是通过一个大的对称矩阵来探索相关关系的一种数学分析方法，是多元统计分析方法，分析的结果为群集。对向量聚类后，我们对数据的处理难度也自然降低，所以从某种意义上说，聚类分析也起到了降维的作用。 (二) 不同之处 主成分分析是研究如何通过少数几个主成分来解释多变量的方差一协方差结构的分析方法，也就是求出少数几个主成分(变量) ，使它们尽可能多地保留原始变量的信息，且彼此不相关。它是一种数学变换方法，即把给定的一组变量通过线性变换，转换为一组不相关的变量(两两相关系数为0 ，或样本向量彼此相互垂直的随机变量) ，在这种变换中，保持变量的总方差(方差之和) 不变，同时具有最大方差，称为第一主成分；具有次大方差，称为第二主成分。依次类推。若共有p 个变量，实际应用中一般不是找p 个主成分，而是找出m
4实证过程与结果 4.1主成分与聚类分析 首先通过SPSS软件对环境污染的相应指标进行主成分分析，得到：提取Y1、Y2、Y3和Y4四个主成分，其累积贡献率已经达到，超过80%，代表所有环境污染指标的绝大部分信息。Y1偏向于解释工业氢氧化物排放量，Y2偏向于解释生活烟尘排放量，Y3偏向于解释生活废水排放量，Y4偏向于解释工业二氧化硫排放量。 然后，根据主成分分析结果，用Z=0.43226*Y1+0.21911*Y2+0.10380*Y3+ 0.06519*Y4计算综合得分，见下表1。 表1环境污染地区的主成分综合得分表 序号地区Z 排名序号地区Z 排名 1 北京0.863 5 17 武汉-0.116 13 2 天津 1.088 4 18 长沙-0.841 28 3 石家庄0.455 6 19 广州-0.373 19 4 太原0.209 8 20 南宁-0.519 24 5 呼和浩特-0.052 12 21 海口-1.29 31 6 沈阳-0.273 1 7 22 重庆 2.767 1 7 长春-0.257 16 23 成都-0.451 20 8 哈尔滨 2.489 2 24 贵阳-0.331 18 9 上海 1.979 3 25 昆明-0.552 26 10 南京-0.232 15 26 拉萨-1.275 30 11 杭州0.175 9 27 西安0.357 7 12 合肥-0.5 21 28 兰州-0.514 23 13 福州-0.525 25 29 西宁0.004 11 14 南昌-0.949 29 30 银川-0.702 27 15 济南0.022 10 31 乌鲁木齐-0.502 22 16 郑州-0.152 14 最后将环境污染的综合得分作为个案进行层次聚类分析，将31个地区分为5类，如表2。
主成分分析、聚类分析的比较与应用
主成分分析、聚类 分析的比较与应用 摘要：主成分分析、聚类分析是两种比较有价值的多元统计方法,但同时也是在使用过程中容易误用或混淆的几种方法。本文从基本思想、数据的标准化、应用上的优缺点等方面,详细地探讨了两者的异同,并且 举例说明了两者在实际问题中的应用。 关键词：spss、主成分分析、聚类分析 一、基本概念 主成分分析就是设法将原来众多具有一定相关性（比如P个指标），重新组合成一组新的互相无关的综合指标来代替原来的指标。综合指标即为主成分。所得出的少数几个主成分，要尽可能多地保留原始变量的信息，且彼此不相关。因子分析是研究如何以最少的信息丢失，将众多原始变量浓缩成少数几个因子变量，以及如何使因子变量具有较强的可解释性的一种多元统计分析方法。 聚类分析是依据实验数据本身所具有的定性或定量的特征来对大量的数据进行分组归类以了解数据集的在结构，并且对每一个数据集进行描述的过程。其主要依据是聚到同一个数据集中的样本应该彼此相似，而属于不同组的样本应该足够不相似。 二、基本思想的异同 （一）共同点 主成分分析法和因子分析法都是用少数的几个变量(因子) 来综合反映原始变量(因子) 的主要信息，变量虽然较原始变量少，但所包含的信息量却占原始信息的85 %以上，所以即使用少数的几个新变量，可信度也很高，也可以有效地解释问题。并且新的变量彼此间互不相关，消除了多重共线性。这两种分析法得出的新变量，并不是原始变量筛选后剩余的变量。在主成分分析中，最终确定的新变量是原始变量的线性组合，如原始变量为x1 ，x2 ，. . . ，x3 ，经过
4实证过程与结果 主成分与聚类分析 首先通过SPSS软件对环境污染的相应指标进行主成分分析，得到： 提取Y 1、Y 2 、Y 3 和Y 4 四个主成分，其累积贡献率已经达到，超过80%，代表 所有环境污染指标的绝大部分信息。Y 1偏向于解释工业氢氧化物排放量，Y 2 偏向 于解释生活烟尘排放量，Y 3偏向于解释生活废水排放量，Y 4 偏向于解释工业二氧 化硫排放量。 然后，根据主成分分析结果，用Z=*Y 1+*Y 2 +*Y 3 + *Y 4 计算综合得分，见下表1。 表1 环境污染地区的主成分综合得分表 序号地区Z排名序号地区Z排名1北京517武汉13 2天津418长沙28 3石家庄619广州19 4太原820南宁24 5呼和浩特1221海口31 6沈阳1722重庆1 7长春1623成都20 8哈尔滨224贵阳18 9上海325昆明26 10南京1526拉萨30 11杭州927西安7 12合肥2128兰州23 13福州2529西宁11 14南昌2930银川27 15济南1031乌鲁木齐22 16郑州14 最后将环境污染的综合得分作为个案进行层次聚类分析，将31个地区分为5类，如表2。 表2 各地区污染分类 分类污染情况地区 1轻度污染海口、拉萨
2比较轻度污染合肥、乌鲁木齐、福州、南宁、兰州、，昆明、成都、银川、南昌、长沙、沈阳、长春、南京、广州、贵阳、郑州、武汉、济南、西宁、呼和浩特 3污染情况一般太原、杭州、石家庄、西安 4污染比较严重北京、天津 5污染十分严重上海、哈尔滨、重庆 主成分分析和聚类分析在SPSS中的操作过程 打开SPSS，“文件-打开-数据”，选中excel，如下图结果。 首先将变量标准化，“分析-描述统计-描述”，将变量全部选入对话框，点上“将标准化得分另存为变量（Z）”，结果如下。
实验三我国各地区城镇居民消费性支出的 主成分分析和聚类分析 （王学民编写） 一、实验目的 1.掌握如何使用SAS软件来进行主成分分析和聚类分析； 2.看懂和理解SAS输出的结果，并学会以此来作出分析； 3.掌握对实际数据如何来进行主成分分析； 4.对同一组数据使用五种系统聚类方法及k均值法，学会对各种聚类效果的比较，获取重要经验； 5.掌握使用主成分进行聚类 二、实验内容 数据集sasuser.examp633中含有1999年全国31个省、直辖市和自治区的城镇居民家庭平均每人全年消费性支出的八个主要变量数据。对这些数据进行主成分分析，可将这31个地区的前两个主成分得分标示于平面坐标系内，对各地区作直观的比较分析。对同样的数据使用五种系统聚类方法及k均值法聚类，并对聚类效果作比较。最后，对主成分的图形聚类和正规聚类的效果进行比较。 实验1 进行主成分分析，根据前两个主成分得分所作的散点图对31个地区进行比较分析。 实验2 分别使用最长距离法、中间距离法、两种类平均法、离差平方和法和k均值法进行聚类分析，并比较其聚类效果。 实验3 主成分聚类，并与上述正规的聚类方法进行比较 三、实验要求 1.用SAS软件的交互式数据分析菜单系统完成主成分分析； 2.完成五种系统聚类方法及k均值法，比较其聚类效果； 3.根据前两个主成分得分的散点图作直观的聚类，并与上述正规的聚类方法进行比较。 四、实验指导
1.进行主成分分析 在inshigt中打开数据集sasuser.examp633，见图1。选菜单过程如下： 在图1中选分析?多元（Y X）?在变量框中选x1，x2，x3，x4，x5，x6，x7，x8(见图2)?Y?选输出?选主分量分析，主分量选项（见图3）?在图4中作图中的选择（主成分个数缺省时为“自动”选项，此时只输出特征值大于1的主成分）?确定?确定?确定 图1 图2
主成分分析法 主成分分析（principal components analysis，PCA）又称：主分量分析，主成分回归分析法 [编辑] 什么是主成分分析法 主成分分析也称主分量分析，旨在利用降维的思想，把多指标转化为少数几个综合指标。 在统计学中，主成分分析（principal components analysis,PCA）是一种简化数据集的技术。它是一个线性变换。这个变换把数据变换到一个新的坐标系统中，使得任何数据投影的第一大方差在第一个坐标(称为第一主成分)上，第二大方差在第二个坐标(第二主成分)上，依次类推。主成分分析经常用减少数据集的维数，同时保持数据集的对方差贡献最大的特征。这是通过保留低阶主成分，忽略高阶主成分做到的。这样低阶成分往往能够保留住数据的最重要方面。但是，这也不是一定的，要视具体应用而定。 [编辑] 主成分分析的基本思想
在实证问题研究中，为了全面、系统地分析问题，我们必须考虑众多影响因素。这些涉及的因素一般称为指标，在多元统计分析中也称为变量。因为每个变量都在不同程度上反映了所研究问题的某些信息，并且指标之间彼此有一定的相关性，因而所得的统计数据反映的信息在一定程度上有重叠。在用统计方法研究多变量问题时，变量太多会增加计算量和增加分析问题的复杂性，人们希望在进行定量分析的过程中，涉及的变量较少，得到的信息量较多。主成分分析正是适应这一要求产生的，是解决这类题的理想工具。 同样，在科普效果评估的过程中也存在着这样的问题。科普效果是很难具体量化的。在实际评估工作中，我们常常会选用几个有代表性的综合指标，采用打分的方法来进行评估，故综合指标的选取是个重点和难点。如上所述，主成分分析法正是解决这一问题的理想工具。因为评估所涉及的众多变量之间既然有一定的相关性，就必然存在着起支配作用的因素。根据这一点，通过对原始变量相关矩阵内部结构的关系研究，找出影响科普效果某一要素的几个综合指标，使综合指标为原来变量的线性拟合。这样，综合指标不仅保留了原始变量的主要信息，且彼此间不相关，又比原始变量具有某些更优越的性质，就使我们在研究复杂的科普效果评估问题时，容易抓住主要矛盾。上述想法可进一步概述为：设某科普效果评估要素涉及个指标，这指标构成的维随机向量为。对作正交变换，令，其中为正交阵，的各分量是不相关的，使得的各分量在某个评估要素中的作用容易解释，这就使得我们有可能从主分量中选择主要成分，削除对这一要素影响微弱的部分，通过对主分量的重点分析，达到对原始变量进行分析的目的。的各分量是原始变量线性组合，不同的分量表示原始变量之间不同的影响关系。由于这些基本关系很可能与特定的作用过程相联系，主成分分析使我们能从错综复杂的科普评估要素的众多指标中，找出一些主要成分，以便有效地利用大量统计数据，进行科普效果评估分析，使我们在研究科普效果评估问题中，可能得到深层次的一些启发，把科普效果评估研究引向深入。 例如，在对科普产品开发和利用这一要素的评估中，涉及科普创作人数百万人、科普作品发行量百万人、科普产业化（科普示范基地数百万人）等多项指标。经过主成分分析计算，最后确定个或个主成分作为综合评价科普产品利用和开发的综合指标，变量数减少，并达到一定的可信度，就容易进行科普效果的评估。 [编辑] 主成分分析法的基本原理 主成分分析法是一种降维的统计方法，它借助于一个正交变换，将其分量相关的原随机向量转化成其分量不相关的新随机向量，这在代数上表现为将原随机向量的协方差阵变换成对角形阵，在几何上表现为将原坐标系变换成新的正交坐标系，使之指向样本点散布最开的p 个正交方向，然后对多维变量系统进行降维处理，使之能以一个较高的精度转换成低维变量系统，再通过构造适当的价值函数，进一步把低维系统转化成一维系统。 [编辑] 主成分分析的主要作用
聚类分析、判别分析、主成分分析、因子分析 主成分分析与因子分析的区别 1. 目的不同：因子分析把诸多变量看成由对每一个变量都有作用的一些公共因子和仅对某一个变量有作用的特殊因子线性组合而成，因此就是要从数据中控查出对变量起解释作用的公共因子和特殊因子以及其组合系数；主成分分析只是从空间生成的角度寻找能解释诸多变量变异的绝大部分的几组彼此不相关的新变量（主成分）。 2. 线性表示方向不同：因子分析是把变量表示成各公因子的线性组合；而主成分分析中则是把主成分表示成各变量的线性组合。 3. 假设条件不同：主成分分析中不需要有假设；因子分析的假设包括：各个公共因子之间不相关，特殊因子之间不相关，公共因子和特殊因子之间不相关。 4. 提取主因子的方法不同：因子分析抽取主因子不仅有主成分法，还有极大似然法，主轴因子法，基于这些方法得到的结果也不同；主成分只能用主成分法抽取。 5. 主成分与因子的变化：当给定的协方差矩阵或者相关矩阵的特征值唯一时，主成分一般是固定的；而因子分析中因子不是固定的，可以旋转得到不同的因子。 6. 因子数量与主成分的数量：在因子分析中，因子个数需要分析者指定（SPSS 根据一定的条件自动设定，只要是特征值大于1的因子主可进入分析），指定的因子数量不同而结果也不同；在主成分分析中，成分的数量是一定的，一般有几个变量就有几个主成分（只是主成分所解释的信息量不等）。 7. 功能：和主成分分析相比，由于因子分析可以使用旋转技术帮助解释因子，在解释方面更加有优势；而如果想把现有的变量变成少数几个新的变量（新的变量几乎带有原来所有变量的信息）来进入后续的分析，则可以使用主成分分析。当然，这种情况也可以使用因子得分做到，所以这种区分不是绝对的。 1 、聚类分析 基本原理：将个体（样品）或者对象（变量）按相似程度（距离远近）划分类别，使得同一类中的元素之间的相似性比其他类的元素的相似性更强。目的在于使类间元素的同质性最大化和类与类间元素的异质性最大化。 常用聚类方法：系统聚类法，K-均值法，模糊聚类法，有序样品的聚类，分解法，加入法。
系统工程论文 主成分分析与聚类分析 姓名： 学号： 班级： 学院： 指导教师：
数据为2012年全国各省城镇民平均每人全年家庭收入来源的各项数据。数据来源位国家统计局https://www.doczj.com/doc/898414790.html,/easyquery.htm?cn=E0103 表1-1 2012年全国各省城镇民平均每人全年家庭收入来源
一 主成分分析 主成分分析（Principal Component Analysis ，PCA ）， 是一种统计方法。通过正交变换将一组可能存在相关性的变量转换为一组线性不相关的变量，转换后的这组变量叫主成分。 其分析步骤如下： 1.1.1 首先将样本数据写成矩阵的形式 ? ? ? ???? ?? ?? ???=6,312,311,310262221 161211 Y Y Y Y Y Y Y Y Y Y （1） 对样本进行标准化处理 标准化处理计算式位 ∑∑∑===??? ??--= 31131131 1 311311311i i ij ij i ij ij ij Y Y Y Y X （2） 经过标准化处理后可得到标准化矩阵 ?? ? ??? ????? ???=6,312 ,3101 ,31262221 1612 11 X X X X X X X X X X （3） 数据标准化是为了消除量纲的影响。 矩阵元素如表1-2所示，标准化矩阵是通过MATLAB 程序实现，源程序在文章最后。 表1-2 标准化数据
1.1.2 计算6个指标的协方差矩阵 ?? ? ??? ????? ???==6,312 ,311 ,31262221 1612 1131 1r r r r r r r r r X X R T （4） 矩阵（4）是一个实对称矩阵。 经计算，矩阵（4）的每一个元素如表格3所示。
4实证过程与结果 4、1主成分与聚类分析 首先通过SPSS软件对环境污染的相应指标进行主成分分析,得到: 提取Y1、Y2、Y3与Y4四个主成分,其累积贡献率已经达到,超过80%,代表所有环境污染指标的绝大部分信息。Y1偏向于解释工业氢氧化物排放量,Y2偏向于解释生活烟尘排放量,Y3偏向于解释生活废水排放量,Y4偏向于解释工业二氧化硫排放量。 然后,根据主成分分析结果,用Z=0、43226*Y1+0、21911*Y2+0、10380*Y3+ 0、06519*Y4计算综合得分,见下表1。 表1 环境污染地区的主成分综合得分表 序号地区Z 排名序号地区Z 排名 1 北京0、863 5 17 武汉-0、116 13 2 天津1、088 4 18 长沙-0、841 28 3 石家庄0、455 6 19 广州-0、373 19 4 太原0、209 8 20 南宁-0、519 24 5 呼与浩特-0、052 12 21 海口-1、29 31 6 沈阳-0、273 1 7 22 重庆2、767 1 7 长春-0、257 16 23 成都-0、451 20 8 哈尔滨2、489 2 24 贵阳-0、331 18 9 上海1、979 3 25 昆明-0、552 26 10 南京-0、232 15 26 拉萨-1、275 30 11 杭州0、175 9 27 西安0、357 7 12 合肥-0、5 21 28 兰州-0、514 23 13 福州-0、525 25 29 西宁0、004 11 14 南昌-0、949 29 30 银川-0、702 27 15 济南0、022 10 31 乌鲁木齐-0、502 22 16 郑州-0、152 14 最后将环境污染的综合得分作为个案进行层次聚类分析,将31个地区分为5类,如表2。 表2 各地区污染分类 分类污染情况地区
1问题提出 经济是指一个国家国民经济的总称.区域经济是在一定区域内经济发展的内部因素与外部条件相互影响而形成的综合性的经济概念，它受到该区域的自然条件、资源开发和利用状况、社会经济条件以及经济政策等各种因素的制约和影响.经济发展为一个国家摆脱贫困落后状态，走向经济和社会生活现代化的过程.区域经济发展不仅意味着该区域国民经济规模的扩大，更意味着经济和社会生活素质的提高.我们要提高某地方人们的生活水平，要更好更快地发展某个地方，就必须充分了解这个地方现有的经济发展状况.因此，现有经济发展状况的研究对将来的发展有着非常重要的指导意义. 四川简称“川”、“蜀”；1952年9月1日正式成立；政治、经济、文化中心—成都.四川历史悠久、风光秀丽、物产丰富，享有“天府之国”美誉，现系“西部综合交通枢纽”、“西部经济发展高地”.四川各个县市的经济发展差异大,如何全面、系统、定量地分析评价四川各县市经济发展水平，本文将运用多元统计学中的主成分分析方法和系统聚类分析法对这一问题进行具体分析. 本文通过建立四川省各县市经济发展水平评价指标体系，运用统计软件SPSS 进行主成分分析及系统聚类分析，对四川省21个县市的经济发展水平进行了综合排序，而后对结果进行了分析,并提出了相应的政策建议.
2 模型的建立 2.1 主成分分析知识： 简介：主成分分析的数学模型是：设n 个变量构成的n 维随机向量为X=（X1，X2，…，Xn ）‘.对X 作正交变换，令Y=T’X ，其中T 为正交阵，要求Y 的各分量是不相关的，并且Y 的第一个分量的方差是最大的，第二个分量的方差次之，……为了保持信息不丢失，Y 的各分量方差和与X 的各分量方差和相等. 原理：设法将原来变量重新组合成一组新的互相无关的几个综合变量，同时根据实际需要从中可以取出几个较少的综合变量尽可能多地反映原来变量的信息的统计方法叫做主成分分析或称主分量分析，也是数学上处理降维的一种方法. 基本思想：主成分分析是设法将原来众多具有一定相关性（比如P 个指标），重新组合成一组新的互相无关的综合指标来代替原来的指标.通常数学上的处理就是将原来P 个指标作线性组合，作为新的综合指标.最经典的做法就是用1F （选取的第一个线性组合，即第一个综合指标）的方差来表达，即()1F Var 越大，表示1F 包含的信息越多.因此在所有的线性组合中选取的1F 应该是方差最大的，故称1F 为第一主成分.如果第一主成分不足以代表原来P 个指标的信息，再考虑选取2F 即选第二个线性组合，为了有效地反映原来信息，1F 已有的信息就不需要再出现在2F 中，用数学语言表达就是要求()0,21=F F Cov ，则称2F 为第二主成分，依此类推可以构造出第三、第四，……，第P 个主成分. 步骤：P P apiZX iZX a iZX a F ++=2121 其中a1i, a2i, ……,api(i=1,……,m)为X 的协方差阵Σ的特征值所对应的特征向量，p ZX ZX ZX ,,21是原始变量经过标准化处理的值，因为在实际应用中，往往存在指标的量纲不同，所以在计算之前须先消除量纲的影响，而将原始数据标准化，本文所采用的数据就存在量纲影响[注：本文指的数据标准化
现代地理学中的数学方法 本次作业数据主要来源于《2013安徽统计年鉴》，由于部分数据缺失，故用《2012年安徽统计年鉴》中的数据进行了选取与处理；本次作业选取的指标有X1（人均GDP/元）、 X2（第三产业增加值/千万元）、X3（第三产业占GDP的比重/%）、X4（第三产业从业人员数比重/%）X5（第二产业占GDP的比重/%）、X6（总人口/万人）、X7（农民人均纯收入/元）、X8（城镇居民可支配收入/元）、X9（市区人民人均医疗保健消费支出/元）、X10（非农业人口比重/%）、X11（地方财政收入/万元）、X12（规模以上工业总产值/千万元）、X13（农业总产值/万元）、X14（商品进出口总额/美元）、X15（社会消费品零售总额/万元）、 X16（实际利用外资额/万美元）。 运用spss19.0，首先对原始数据进行标准化处理，后经过降维进行因子分析，得到表1相关系数矩阵、表2表征值及贡献率、表3主成分载荷因子矩阵、表4主成分得分。 表1 2012年安徽省各市有关指标相关系数矩阵 X1X2X3X4X4X6X7X8X9X10X11X12X13X14X15X16 X1 1.000 X20.276 1.000 X3-0.309 0.343 1.000 X40.79 0.394 0.034 1.000 X40.809 0.043 -0.672 0.589 1.000 X6-0.417 0.587 0.255 -0.375 -0.516 1.000 X70.826 0.192 -0.102 0.733 0.659 -0.549 1.000 X80.758 0.343 -0.164 0.61 0.584 -0.254 0.823 1.000 X9-0.06 0.018 -0.286 0.013 0.124 -0.024 0.043 0.131 1.000 X100.832 0.131 -0.504 0.725 0.916 -0.486 0.62 0.528 0.21 1.000 X110.391 0.977 0.274 0.508 0.187 0.451 0.348 0.435 0.038 0.263 1.000 X120.474 0.938 0.095 0.532 0.303 0.429 0.376 0.453 0.077 0.343 0.962 1.000 X13-0.582 0.341 0.257 -0.51 -0.708 0.913 -0.648 -0.362 0.118 -0.659 0.184 0.17 1.000 X140.643 0.901 0.153 0.612 0.346 0.296 0.523 0.635 0.013 0.421 0.93 0.926 0.044 1.000 X150.145 0.977 0.338 0.274 -0.054 0.709 0.039 0.22 0.007 0.029 0.936 0.896 0.468 0.822 1.000 X160.524 0.806 0.066 0.604 0.358 0.226 0.586 0.729 0.218 0.354 0.86 0.892 0.034 0.871 0.729 1.000 表2 表征值及贡献率 成份初始特征值提取平方和载入
主成分分析和聚类分析的比较 摘要：主成分分析和聚类分析方多元统计中两种重要的分析方法，但却容易在使用中混淆。本文从基本思想，应用的优缺点、应用实例中讨论两者的异同，并简述两种方法在实际问题中的应用。 关键词：主成分分析；聚类分析 一、引言 主成分分析是利用降维的思想，在缺失很少信息的前提下，把多个指标转化为几个综合指标的多元统计方法。通常把转化生成的综合指标称为主成分，其中每个主成分都是原始变量的线性组合，且各个主成分之间互不相关，使得主成分比原始变量具有某些更优越的性能。聚类分析是依据实验数据本身所具有的定性或定量的特征来对大量的数据进行分组归类以了解数据集的内在结构，并且对每一个数据集进行描述的过程。其主要依据是聚到同一个数据集的样本应该性质相似，而属于不同组的样本应该足够不相似。 两种方法既有区别又有联系，本文将两者的异同进行比较，并举例说明两者在实际应用中的联系，以便更好地理解这两种统计方法而为实际所应用。 二、基本思想的异同 相同点：主成分分析方法是用少数的几个变量来综合反映原始变量的主要信息，变量虽然较原始变量少，但所包含的信息量却占原始信息的85%以上，因此其可信度很高。通过主成分分析，可以将事物之间错综复杂的关系中找出一些主要成分，从而能有效利用大量统计数据进行定量分析，解释变量之间的内在关系。因此主成分变量比原始变量少了很多，从而起到了降维的作用。 聚类分析的基本思想是采用多变量的统计值，定量的确定相互之间的亲疏关系，考虑对象多因素的联系和主导作用。按它们亲疏差异程度，归类不同的分类中的一元。使分类更具有客观实际并能反映事物的内在必然联系。聚类分析是通过一种大的对称矩阵来探索相关关系的一种数学分析方法。对变量分类后，我们