第五章 主成分分析与典型相关分析

主成分分析法及其应用一、本文概述主成分分析法（Principal Component Analysis，简称PCA）是一种广泛应用于数据降维和特征提取的统计方法。

它通过正交变换将原始数据集中的多个变量转换为少数几个互不相关的主成分，这些主成分能够最大程度地保留原始数据集中的信息。

本文旨在全面介绍主成分分析法的基本原理、实现步骤以及在各个领域中的应用案例。

我们将详细阐述主成分分析法的数学基础和算法流程，包括协方差矩阵、特征值、特征向量等关键概念的计算方法。

然后，我们将通过实例演示如何使用主成分分析法进行数据降维和特征提取，以及如何通过可视化工具展示降维后的数据效果。

我们将探讨主成分分析法在机器学习、图像处理、生物信息学、社会科学等多个领域中的实际应用，展示其在数据分析和处理中的重要价值和潜力。

二、主成分分析法的基本原理主成分分析法（Principal Component Analysis，简称PCA）是一种在多个变量中找出主要影响因素，并通过降维技术把多个变量转化为少数几个互不相关的综合变量的统计方法。

这种方法在保持数据信息损失最小的原则下，通过正交变换将原始数据转化为一个新的坐标系统，使得在这个新的坐标系统中，任何数据的最大方差都投影在第一主成分上，第二大的方差都投影在第二主成分上，以此类推。

变量降维：在多数情况下，原始数据集中可能存在多个变量，这些变量之间可能存在相关性。

主成分分析通过构造新的变量（即主成分），这些新变量是原始变量的线性组合，并且新变量之间互不相关，从而将原始的高维数据空间降维到低维空间，实现数据的简化。

方差最大化：主成分分析的另一个重要原理是方差最大化。

这意味着，第一个主成分将捕获数据中的最大方差，第二个主成分捕获第二大方差，以此类推。

通过这种方式，主成分分析能够识别出数据中的主要变化方向和模式。

数据解释性：主成分分析生成的主成分是对原始数据的线性变换，因此，每个主成分都可以被解释为原始变量的某种组合。

（3）对于特征值=4.661 0，=2.089 0， =1.0430分别求出其特征向量e1，e2，e3，再 用公式（3.5.5）计算各变量x1，x2，…，x9 在主成分z1，z2，z3上的载荷（表4）。
表4
主成分载荷 占方差的百分数 /% 82.918 80.191 92.948 75.346 85.811 71.843 95.118 98.971 92.939
z1
z2 -0.532 0.887
z3 -0.0061 -0.0028
x1 x2 x3 x4 x5 x6 x7 x8 x9
0.739 0.123 -0.964 0.004 2 0.813 0.819 0.933 0.197 0.964
0.009 6 0.009 5 0.868 0.444 0.179 -0.133 -0.1 0.003 7 -0.0011 0.125 -0.251 0.97
68.001 1 255.42 211.55 60.702 1 251.03 220.91 63.304 1 246.47 242.16 54.206 814.21 193.46
55.901 1 124.05 228.44 54.503 805.67 175.23
49.102 1 313.11 236.29
-0.0025 0.0091，x5，x6，x7，x9——正相关， x3——负相关，z1是生态经济结构状况。 (2)第2主成分z2：x2，x4，x5——正相关， x1— —负相关，其中，除了x1为人口总数外，x2，x4， x5都反映了人均占有资源量的情况，z2代表了人均 资源量。
0.009 -0.078 -0.93 -0.109 -0.05 -0.031 0.672 0.658 1 -0.03 0.89 0.098 0.222 -0.03 1 0.29

定义：记x1，x2，…，xP为原变量指标，z1， z2，…，zm（m≤p）为新变量指标
z1 l1 1x1 l1 2x2 l1 p x p z2 l2 1x1 l2 2x2 l2 p x p z l x l x l x m1 1 m2 2 mp p m
2.根据特征根的变化来确定
1 p i 1 p i1
i
④ 计算主成分载荷
l p ( z , x ) e ( i , j 1 , 2 , , p )（3.5.5） ij i j i ij
⑤ 各主成分的得分：
z11 z 21 Z z n1 z12 z 22 zn2 z 1m z 2m z nm
六、主成分模型中各统计量的意义

１、主成分的方差贡献率：
i

p

i1
i
这个值越大，表明第i主成分综合信息的
能力越强。 i 2、主成分的累计贡献率 i 表明取前几个主成分基本包含了全部测 量指标所具有信息的百分率。
七、主成分个数的选取
1.累积贡献率达到85%以上
ei
e i 1 , 2 , ,p )，要求 i(

p
j 1
e ij2 1 ，
③ 计算主成分贡献率及累计贡献率
▲贡献率:
i

k 1
p
(i 1 ,2, , p)
k
▲累计贡献率:

k 1 k 1 p i k
(i 1,2, , p )
k
, , 一般取累计贡献率达85—95%的特征值 1 2, m 所对应的第一、第二、…、第m（m≤p） 个主成分。

2.主成分的总方差 由于
tr ( A ) = tr ( T′ΣT ) = tr ( ΣTT′ ) = tr ( Σ )
故
∑ λ = ∑σ
i =1 i i =1
p
p
ii
或
∑V ( y ) = ∑V ( x )
i =1 i i =1 i
p
p
总方差中属于第 i 主成分 yi（或被 yi 所解释)的比例 为
ˆ 三、从R 出发求主成分
ˆ ˆ* ˆ* ˆ R 的 p 个特征值为λ1* ≥ λ2 ≥ L ≥ λ p， 设样本相关阵 ˆ* ˆ 2 ˆ t1 , t * ,L , t *p 为相应的正交单位特征向量，则第 i 样本
主成分
ˆ ˆi yi* = t*x* , i = 1, 2,L , p
其中 x* 是各分量经（样本）标准化了的向量，即
S
主成分得分 在实际应用中，我们常常让 x j 减去 x ，使样本数据 中心化。这不影响样本协差阵 S ，在前面的论述中 惟一需要变化的是，将第 i 主成分改写成中心化的 形式，即
ˆ ˆi yi = t′ ( x − x ) , i = 1, 2,L , p 若将各观测值 x j 代替上式中的观测值向量 x ，则第i
现比较本例中从R 出发和例7.2.2中从 Σ 出发的主成 分计算结果。从R 出发的 y1* 的贡献率0.705明显小于 从 Σ 出发的 y1的贡献率0.938，事实上，原始变量方 差之间的差异越大，这一点也就倾向于越明显， * * * （7.2.15）式有助于我们理解之。 y1 , y2 , y3 可用标准 化前的原变量表达如下： x3 − µ3 x1 − µ1 x2 − µ2 *
主成分的值
ˆi ˆ y ji = t′ ( x j − x ) , i = 1, 2,L , p