主成分分析方法

19.主成分分析法

一、方法介绍

基本思路：

主成分分析就是设法将原来指标重新组合成一组新的互相无关的几个综合指标来代替原来指标，同时根据实际需要从中可取几个较少的综合指标尽可能多地反映原来指标的信息。这种将多个指标化为少数互相无关的综合指标的统计方法叫做主成分分析或称主分量分析。主成分分析的基本思想就是，设法将原来众多具有一定相关性的指标（比如P个指标），重新组合成一组新的相互无关的综合指标来代替原来指标。最经典的方法就是用F1的方差来表达，即 Var (F1)越大，表示F1包含的信息越多。

理论模型：

设有n个样品，每个样品观测p项指标（变量）：X1，X2，．．．，Ｘp，得到原始数据资料阵：

111121,,....pPnnpxxXXXXxx （1）

其中，123.....iiiixxXx i=1，．．．，p

用数据矩阵X的p个向量(即p个指标向量)X1，．．．，Xp作线形组合（即综合指标向量）为： 11112121212122221122pPpPPPPpPPFaXaXaXFaXaXaXFaXaXaX （2）

简写成

1122iiipiPFaXaXaX i=1，．．．，p （3）

（注意：Xi是n维向量，所以Fi也是n维向量。）

上述方程要求：

121iipiaaa i=1,．．．，p （4）

且系数aij由下列原则决定：

（1）Fi与Fj（i≠j，i，j=1，…，p）不相关；

（2）F1是X1，．．．，Ｘp的一切线性组合（系数满足上述方程组）中方差最大的，F2是与F1不相关的X1，．．．，Ｘp的一切线性组合中方差最大的，…，Fp是与其他都不相关的X1，．．．，Ｘp的一切线性组合中方差最大的。

- 1 - 主成分分析方法

主成分分析方法是一种统计学技术，用于通过数据降低维数，它将多变量间的关系简化成少量的主成分，以把原来的多维变量映射到一维或者更少的维度空间。主成分分析方法既可以用于对描述性数据的研究，也可以用于预测数据模型，它可以帮助估计定量指标与预测变量之间的关系，并降低多变量试验数据的维数。

主成分分析方法是一种数据处理技术，它主要用于减少维数，把原来的多变量压缩成少量的主成分。它还可以用于描述多变量之间的关系，并降低有关模型之间的维数。

主成分分析方法的基本原理是，先把原来的n个变量分解成n个协方差矩阵，然后把它们求和，计算出协方差矩阵的特征值和特征向量，即主成分，接着，取出最大的特征值对应的特征向量，最后得到第一个主成分。然后，用第一个主成分代替n个变量来表示n个变量，同时还可以利用空间的关系，把原来的n个变量转换成n-1个新变量，以此类推，一直到只有一个主成分为止。

主成分分析方法具有众多优势。首先，它可以去除重复的信息，使用降维后的特征向量可以有效减少重复信息。其次，它可以降低原始数据的数量，因为原始数据的降维，数据量就会减少。此外，主成分分析方法可以有效去除噪声，因为它可以提取一组准确的特征。

最后，主成分分析方法还可以用于模型预测，它可以帮助估计定量指标与预测变量之间的关系，从而提高预测的准确性。

总之，主成分分析方法具有简单、快速、有效的特点，可以有效 - 2 - 地减少多变量之间的维度，及其在统计学和机器学习领域的广泛应用，极大地提升了研究成果的准确性和可信度。

ENVI主成分分析(PCA)是通过使用Principal Components选项生成互不相关的输出波段，达到隔离噪声和减少数据集的维数的方法。 由于多波段数据经常是高度相关的，主成分变换寻找一个原点在数据均值的新的坐标系统，通过坐标轴的旋转来使数据的方差达到最大

ENVI主成分分析(PCA)是通过使用Principal Components选项生成互不相关的输出波段，达到隔离噪声和减少数据集的维数的方法。

由于多波段数据经常是高度相关的，主成分变换寻找一个原点在数据均值的新的坐标系统，通过坐标轴的旋转来使数据的方差达到最大，从而生成互不相关的输出波段。

主成分（PC）波段是原始波谱波段的线性合成，它们之间是互不相关的。可以计算输出主成分波段（与输入的波谱波段数相同）。

第一主成分包含最大的数据方差百分比，第二主成分包含第二大的方差，以此类推，最后的主成分波段由于包含很小的方差（大多数由原始波谱的噪声引起），因此显示为噪声。由于数据的不相关，主成分波段可以生成更多种颜色的彩色合成图像。

ENVI 能完成正向和逆向的主成分（PC）旋转。

1.正向主成分（PC）旋转

正向PC旋转用一个线性变换使数据方差达到最大。当使用正向PC旋转时，ENVI允许计算新的统计值，或根据已经存在的统计值进行旋转。输出值可以存为字节型、浮点型、整型、长整型或双精度型。也可以基于特征值来提取PC旋转的输出内容，生成只包含所需的PC波段的输出。

计算新的统计值和旋转

使用Compute New Statistics and Rotate选项可以计算数据特征值、协方差或相关系数矩阵以及PC正向旋转。

选择Transforms > Principal Components > Forward PC Rotation > Compute New Statistics and

Rotate。

当出现Principal Components Input File对话框时，选择输入文件或用标准ENVI选择程序选取子集。将会出现Forward PC Rotation Parameters对话框。

主成分分析法

主成分分析法是一种数学变换的方法, 它把给定的一组相关变量通过线性变换转成另一组不相关的变量，这些新的变量按照方差依次递减的顺序排列。在数学变换中保持变量的总方差不变，使第一变量具有最大的方差，称为第一主成分，第二变量的方差次大，并且和第一变量不相关，称为第二主成分。依次类推，I个变量就有I个主成分。其中Li为p维正交化向量（Li＊Li＝1），Zi之间互不相关且按照方差由大到小排列，则称Zi为X的第I个主成分。

10

本词条 无基本信息模块, 欢迎各位 编辑词条，额外获取10个积分。

目录

1 基本定义

2 分析目的

3 分析步骤

4 因子旋转

5 应用问题

1 基本定义

主成分分析法是一种数学变换的方法, 它把给定的一组相关变量通过线性变换转成另一组不相关的变量，这些新的变量按照方差依次递减的顺序排列。在数学变换中保持变量的总方差不变，使第一变量具有最大的方差，称为第一主，第二变量的方差次大，并且和第一变量不相关，称为第二主成分。依次类推，I个变量就有I个主成分。

其中Li为p维正交化向量（Li＊Li＝1），Zi之间互不相关且按照方差由大到小排列，则称Zi为X的第I个主成分。设X的协方差矩阵为Σ，则Σ必为半正定对称矩阵，求特征值λi（按从大到小排序）及其特征向量，可以证明，λi所对应的正交化特征向量，即为第I个主成分Zi所对应的系数向量Li，而Zi的方差贡献率定义为λi／Σλj,通常要求提取的主成分的k满足Σλk／Σλj>0.85。

2 分析目的

是希望用较少的变量去解释原来资料中的大部分变量，将我们手中许多相关性很高的变量转化成彼此相互独立或不相关的变量。通常是选出比原始变量个数少，能解释大部分资料中变量的几个新变量，即所谓主成分，并用以解释资料的综合性指标。由此可见，主成分分析实际上是一种降维方法。

3 分析步骤

数据标准化;

求相关系数矩阵;

一系列正交变换，使非对角线上的数置0，加到主对角上;