统计分析-主成分分析

统计学中的主成分分析主成分分析（Principal Component Analysis, PCA）是一种多变量分析方法，用于降维和数据可视化。

它通过将原始数据转换为新的坐标系，使得转换后的数据能够保留原始数据的主要变化趋势，并且可以按照重要性进行排序。

在本文中，将介绍主成分分析的原理、应用场景和步骤。

一、主成分分析原理主成分分析的核心是寻找数据中的主要变化趋势，即找到数据中的主成分。

主成分是数据最大方差方向上的投影，也即是能够解释数据中最大不同的变量。

对于一个具有p个变量的数据集，主成分分析可以得到p个主成分，按照重要性递减排序。

通过选择适当数量的主成分，可以实现对数据的降维和可视化。

主成分分析的计算过程可以通过特征值分解或奇异值分解来实现。

特征值分解会得到数据的特征向量和特征值，而奇异值分解则可以直接得到主成分。

在实际应用中，奇异值分解是更常用的方法。

二、主成分分析的应用场景主成分分析广泛应用于各个领域，包括金融、生物学、社会科学等。

下面将介绍主成分分析在这些领域的具体应用。

1. 金融：主成分分析常用于资产组合管理和风险管理。

通过将各种金融数据进行主成分分析，可以获得具有代表性的主成分，从而有效降低资产组合的维度，减少投资组合中的相关风险。

2. 生物学：主成分分析可以应用于基因表达数据的分析。

通过主成分分析，可以从大量的基因表达数据中提取出基因表达的主要变化趋势，帮助研究人员理解基因与表型之间的关系。

3. 社会科学：主成分分析可以用于社会调查数据的分析。

通过对调查数据进行主成分分析，可以发现不同变量之间的相关性，进而揭示不同因素对于社会问题的影响程度。

三、主成分分析的步骤主成分分析的步骤通常包括以下几个步骤：1. 数据标准化：对原始数据进行标准化处理，将不同量级的变量转化为标准差为1的变量。

这一步骤是为了消除变量间的量纲差异。

2. 计算协方差矩阵：根据标准化后的数据计算协方差矩阵，用于度量变量之间的相关性。

一、主成分分析基本原理概念：主成分分析是把原来多个变量划为少数几个综合指标的一种统计分析方法。

从数学角度来看，这是一种降维处理技术。

思路：一个研究对象，往往是多要素的复杂系统。

变量太多无疑会增加分析问题的难度和复杂性，利用原变量之间的相关关系，用较少的新变量代替原来较多的变量，并使这些少数变量尽可能多的保留原来较多的变量所反应的信息，这样问题就简单化了。

原理：假定有n 个样本，每个样本共有p 个变量，构成一个n ×p 阶的数据矩阵，记原变量指标为x 1，x 2，…，x p ，设它们降维处理后的综合指标，即新变量为 z 1，z 2，z 3，… ，z m (m ≤p)，则系数l ij 的确定原则：①z i 与z j （i ≠j ；i ，j=1，2，…，m ）相互无关；②z 1是x 1，x 2，…，x P 的一切线性组合中方差最大者，z 2是与z 1不相关的x 1，x 2，…，x P 的所有线性组合中方差最大者； z m 是与z 1，z 2，……，z m －1都不相关的x 1，x 2，…x P ， 的所有线性组合中方差最大者。

新变量指标z 1，z 2，…，z m 分别称为原变量指标x 1，x 2，…，x P 的第1，第2，…，第m 主成分。

从以上的分析可以看出，主成分分析的实质就是确定原来变量x j （j=1，2 ，…， ⎥⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎢⎣⎡=np n n p p x x x x x x x x x X ΛM M M ΛΛ212222111211⎪⎪⎩⎪⎪⎨⎧+++=+++=+++=p mp m m m p p pp x l x l x l z x l x l x l z x l x l x l z ΛΛΛ22112222121212121111............p ）在诸主成分z i （i=1，2，…，m ）上的荷载 l ij （ i=1，2，…，m ； j=1，2 ，…，p ）。

主成分分析法什么事主成分分析法:主成分分析（principal components analysis , PCA 又称：主分量分析，主成分回归分析法主成分分析也称主分量分析，旨在利用降维的思想，把多指标转化为少数几个综合指标。

在统计学中，主成分分析（principal components analysis,PCA）是一种简化数据集的技术。

它是一个线性变换。

这个变换把数据变换到一个新的坐标系统中，使得任何数据投影的第一大方差在第一个坐标（称为第一主成分）上，第二大方差在第二个坐标（第二主成分）上，依次类推。

主成分分析经常用减少数据集的维数，同时保持数据集的对方差贡献最大的特征。

这是通过保留低阶主成分，忽略高阶主成分做到的。

这样低阶成分往往能够保留住数据的最重要方面。

但是，这也不是一定的，要视具体应用而定。

主成分分析的基本思想：在实证问题研究中，为了全面、系统地分析问题，我们必须考虑众多影响因素。

这些涉及的因素一般称为指标，在多元统计分析中也称为变量。

因为每个变量都在不同程度上反映了所研究问题的某些信息，并且指标之间彼此有一定的相关性，因而所得的统计数据反映的信息在一定程度上有重叠。

在用统计方法研究多变量问题时，变量太多会增加计算量和增加分析问题的复杂性，人们希望在进行定量分析的过程中，涉及的变量较少，得到的信息量较多。

主成分分析正是适应这一要求产生的，是解决这类题的理想工具同样，在科普效果评估的过程中也存在着这样的问题。

科普效果是很难具体量化的。

在实际评估工作中，我们常常会选用几个有代表性的综合指标，采用打分的方法来进行评估，故综合指标的选取是个重点和难点。

如上所述，主成分分析法正是解决这一问题的理想工具。

因为评估所涉及的众多变量之间既然有一定的相关性，就必然存在着起支配作用的因素。

根据这一点，通过对原始变量相关矩阵内部结构的关系研究，找出影响科普效果某一要素的几个综合指标，使综合指标为原来变量的线性拟合。

主成分分析（principal component analysis, PCA）如果一组数据含有N个观测样本，每个样本需要检测的变量指标有K个, 如何综合比较各个观测样本的性质优劣或特点？这种情况下，任何选择其中单个变量指标对本进行分析的方法都会失之偏颇，无法反映样本综合特征和特点。

这就需要多变量数据统计分析。

多变量数据统计分析中一个重要方法是主成份分析。

主成分分析就是将上述含有N个观测样本、K个变量指标的数据矩阵转看成一个含有K维空间的数学模型，N个观测样本分布在这个模型中。

从数据分析的本质目的看，数据分析目标总是了解样本之间的差异性或者相似性，为最终的决策提供参考。

因此，对一个矩阵数据来说，在K维空间中，总存在某一个维度的方向，能够最大程度地描述样品的差异性或相似性(图1)。

基于偏最小二乘法原理，可以计算得到这个轴线。

在此基础上，在垂直于第一条轴线的位置找出第二个最重要的轴线方向，独立描述样品第二显著的差异性或相似性；依此类推到n个轴线。

如果有三条轴线，就是三维立体坐标轴。

形象地说，上述每个轴线方向代表的数据含义，就是一个主成份。

X、Y、Z轴就是第1、2、3主成份。

由于人类很难想像超过三维的空间，因此，为了便于直观观测，通常取2个或者3个主成份对应图进行观察。

图（1）PCA得到的是一个在最小二乘意义上拟合数据集的数学模型。

即，主成分上所有观测值的坐标投影方差最大。

从理论上看，主成分分析是一种通过正交变换，将一组包含可能互相相关变量的观测值组成的数据，转换为一组数值上线性不相关变量的数据处理过程。

这些转换后的变量，称为主成分（principal component, PC）。

主成分的数目因此低于或等于原有数据集中观测值的变量数目。

PCA最早的发明人为Karl Pearson，他于1901年发表的论文中以主轴定理（principal axis theorem）衍生结论的形式提出了PCA的雏形，但其独立发展与命名是由Harold Hotelling于1930年前后完成。

1 主成分分析定义在许多实际问题中，我们经常用多个变量来刻画某一事物，但由于这些变量之间往往具有相关性，很多变量带有重复信息，这样就给分析问题带来了很多不便，同时也使分析结论不具有真实性和可靠性，因此，人们希望寻找到少量几个综合变量来代替原来较多的变量，使这几个综合变量能较全面地反映原来多项变量的信息，同时相互之间不相关。

主成分分析正是满足上述要求的一种处理多变量问题的方法。

主成分分析（Principal Component Analysis，PCA），将多个变量通过线性变换以选出较少个数重要变量的一种多元统计分析方法。

又称主分量分析。

2 主成分分析基本思想主成分分析是考察多个变量间相关性的一种多元统计方法。

它是研究如何通过少数几个主分量来解释多个变量间的内部结构。

也就是说，从原始变量中导出少数几个主分量，使它们尽可能多地保留原始变量的信息，且彼此间互不相关。

主成分分析的应用目的可以被简单归结为两句话:数据的压缩、数据的解释。

它常被用来寻找判断某种事物或现象的综合指标，并且给综合指标所包含的信息以适当的解释，从而更加深刻的揭示事物的内在规律。

但是在实际应用中，主成分分析更多的只是一种达到目的的中间手段，而并非目的本身，它往往会被作为许多大型研究的中间步骤，在对数据进行浓缩后继续采用其他多元统计方法以解决实际问题。

主成分分析是把原来多个变量化为少数几个综合指标的一种统计分析方法，从数学角度来看，这是一种降维处理技术。

假定有n个地理样本，每个样本共有p个变量描述，这样就构成了一个n×p阶的地理数据矩阵：如何从这么多变量的数据中抓住地理事物的内在规律性呢？要解决这一问题，自然要在p维空间中加以考察，这是比较麻烦的。

为了克服这一困难，就需要进行降维处理，即用较少的几个综合指标来代替原来较多的变量指标，而且使这些较少的综合指标既能尽量多地反映原来较多指标所反映的信息，同时它们之间又是彼此独立的。

主成分分析法什么事主成分分析法：主成分分析（principal components analysis，PCA）又称：主分量分析，主成分回归分析法主成分分析也称主分量分析，旨在利用降维的思想，把多指标转化为少数几个综合指标。

在统计学中，主成分分析（principal components analysis,PCA）是一种简化数据集的技术。

它是一个线性变换。

这个变换把数据变换到一个新的坐标系统中，使得任何数据投影的第一大方差在第一个坐标(称为第一主成分)上，第二大方差在第二个坐标(第二主成分)上，依次类推。

主成分分析经常用减少数据集的维数，同时保持数据集的对方差贡献最大的特征。

这是通过保留低阶主成分，忽略高阶主成分做到的。

这样低阶成分往往能够保留住数据的最重要方面。

但是，这也不是一定的，要视具体应用而定。

主成分分析的基本思想：在实证问题研究中，为了全面、系统地分析问题，我们必须考虑众多影响因素。

这些涉及的因素一般称为指标，在多元统计分析中也称为变量。

因为每个变量都在不同程度上反映了所研究问题的某些信息，并且指标之间彼此有一定的相关性，因而所得的统计数据反映的信息在一定程度上有重叠。

在用统计方法研究多变量问题时，变量太多会增加计算量和增加分析问题的复杂性，人们希望在进行定量分析的过程中，涉及的变量较少，得到的信息量较多。

主成分分析正是适应这一要求产生的，是解决这类题的理想工具。

同样，在科普效果评估的过程中也存在着这样的问题。

科普效果是很难具体量化的。

在实际评估工作中，我们常常会选用几个有代表性的综合指标，采用打分的方法来进行评估，故综合指标的选取是个重点和难点。

如上所述，主成分分析法正是解决这一问题的理想工具。

因为评估所涉及的众多变量之间既然有一定的相关性，就必然存在着起支配作用的因素。

根据这一点，通过对原始变量相关矩阵内部结构的关系研究，找出影响科普效果某一要素的几个综合指标，使综合指标为原来变量的线性拟合。

主成分分析法主成分分析是多元统计分析的一个分支。

20世纪30年代，由于费希尔、霍特林、许宝禄及罗伊等人的一系列奠基工作，多元统计分析成为应用数学的一个重要分支。

主成分分析法是处理多元变量数据的一种数学方法，它从众多的观测变量中找出几个相互独立的因素来解释原有的变量，这些因素称为主成分。

通过主成分分析法的数学处理，可以将互相间有联系的多变量复杂系统简化成几个可以解释这些变量的综合因素，这样可以清楚的解释系统的本质及相互间的关系。

抽取抽取综合因素及如何定义要按综合因素与原变量的关系而定，即按综合和因素对变量的影响程度，称为变量在综合因素上的“负荷”。

最终还可以计算出受测样本在综合因素上的水平，称为主成分分析。

主成分分析发广泛应用于复杂系统的相互比较研究中。

设一个系统共有P个指标表示，而且这P个指标中可能有些指标互相有影响。

主成分分析法就是要用几个综合因素反映原来几个指标的信息，而且这些因素又是相互无关的。

一基本原理现实生活中，人们常常遇到多指标问题。

在大多数情况下，不同指标之间具有一定的相关性，这就增加了分析处理问题的难度。

于是统计学家们就设法将指标重新组合成一组相互独立的少数几个综合指标来代替原有指标，并且反映原有指标的主要信息。

这种将多指标化为少数独立的综合指标的方法就称为主成分分析法。

主成分分析(Principal Component Analysis,PCA),首先是由英国的皮尔生（Karl Pearosn）对非随机变量引入的，而后美国的数理统计学家霍特林在1933年将此法推广到随即向量的情形。

主成分分析法的降维思想从一开始就很好的为综合评价提供了有力的理论和技术支持。

主成分分析是研究如何将多指标问题转化为较少的综合指标的一种重要统计方法，它能将高维空间的问题转化到低维空间去处理，使问题变得比较简单、直观，而且这些较少的综合指标之间互不相关，又能提供原有指标的绝大部分信息。

主成分分析除了降低多变量数据系统的维度外，同时还简化了变量系统的统计数字特征。

主成分分析方法主成分分析方法是常用的一种统计分析方法,主要用于进行数据压缩或减少数据的维数[2]。

它是对一组相关的变量进行线性变换,得到一组维数不变但彼此互不相关的变量,亦即一组主成分。

由于各主成分是不相关的,因此可以认为它们是一组独立变量。

一般图像的线性变换可用下式表示:Y=TX (1)式中:X为待变换图像数据矩阵,Y为变换后的数据矩阵;T为实现这一线性变换的变换矩阵。

如果变换矩阵T是正交矩阵,并且它是由原始图像数据矩阵X的协方差矩阵S的特征向量所组成,则(1)式的线性变换称为主成分分析,并且变换后的数据矩阵的每一行矢量为主成分分析的一个主成分。

主成分分析的优点是消除了波段间的相互关系,减少了各波段提供信息的交叉和冗余,有利于分析。

同时,在分析过程中得到主要波段的合理权重,具有很好的客观性。

主成分分析法的主要步骤如下:(1)根据原始图像数据矩阵X,求出它的协方差矩阵S 以矩阵的形式表示多波段图像的原始数据如下:X=x11x12,x1nx21x22,x2ns s s sxn1xn1,xnn=[xij]m@n(2)矩阵X中,m,n分别为波段数和每幅图像中的像元数,矩阵中的每一行矢量表示一个波段的图像。

矩阵X的协方差矩阵S为:S=1n[X-Xl][X-Xl]T(3)式中:l=[1 1 , 1]1@n(4)X=[x1 x2 , x3]T(5)xi=1nEnk=1xik(第i波段的均值) (6)(2)求协方差矩阵S的特征值Ki和特征向量Ui,并组成变换矩阵T 求解特征方程(KI-S)U=0; 然后将特征值Ki按由小到大的顺序排列,求出对应特征值的单位特征向量Ui,以Ui为列构成矩阵U,U矩阵的转置矩阵,即UT为所求的变换矩阵T。

经过主成分变换后得到的新变量的各个行向量依次被称为第一主成分、第二主成分,,第m主成分,这时将新变量恢复为二维图像,便得到m个主成分图像。