当前位置：文档之家 › 典型相关分析

典型相关分析

  • 格式：ppt
  • 大小：330.50 KB
  • 文档页数：21

下载文档原格式

  / 21

合集下载

第4章 典型相关分析

第4章 典型相关分析

-1.4787
X2
0.2721
1.6443
Y组典型变量的系数
V1
V2
Y1
0.0491
1.0003
Y2
0.8975
-0.5837
Y3
0.1900
0.2956
u1 0.7689 x1 0.2721x2 v1 0.0491y1 0.8975 y2 0.1900 y3 u2 1.4787 x1 1.6443x2 v2 1.0003 y1 0.5837 y2 0.2956 y3
三、样本典型相关系数
在实际应用中，总体的协方差矩阵常常是未知的， 类似于其他的统计分析方法，需要从总体中抽出一个样 本，根据样本对总体的协方差阵或相关系数阵进行估计， 然后利用估计得到的协方差阵或相关系数阵进行分析。 由于估计中有抽样误差的存在，所以估计以后还需要进 行有关的假设检验。
23
1、假设有X组和Y组变量，样本容量为n。假设( X1, Y1), ( X2, Y2),…, ( Xn, Yn)，观测值矩阵为：
所以，典型相关分析就是求1和1，使二者的相关系
数 u1达,v1到最大。
（二）典型相关系数和典型变量的求法
在约束条件 Var(u1) 1111 1 Var(v1) 1221 1 下，求1和1，使u1v1达到最大。
根据数学分析中条件极值的求法，引入Lagrange乘数， 求极值问题，则可以转化为求
U (u1,, ur ) V (v1,, vr )
从而达到降维的目的。
二、典型相关的数学描述
（一）想法 考虑两组变量的向量
Z (x1, x2,, xp , y1, y2,, yq )
其协方差阵为
Σ
Σ11 Σ21

典型相关分析

典型相关分析

典型相关分析简介典型相关分析（canonical correlation analysis, CCA）是一种多变量统计分析方法，用于研究两组观测变量之间的相关性。

该方法可以帮助我们理解两组变量之间的线性关系，并找出两组变量中最相关的部分。

在机器学习、数据挖掘以及统计学中，典型相关分析被广泛应用于特征选择、降维和模式识别等领域。

方法典型相关分析是基于矩阵分解的方法，通过将两组变量转化成低秩的典型变量来寻找相关性。

典型相关分析的基本思想是找出两组变量的线性组合，使得这两个组合能够达到最大的相关性。

具体而言，给定两组变量X和Y，我们可以得到X的线性组合u和Y的线性组合v，使得cor(u,v)达到最大。

其中cor(u,v)表示两个向量u和v的相关系数。

典型相关分析的目标即是求解出使得cor(u,v)最大的u和v。

下面是典型相关分析的数学表示形式:max cor(u,v)subject to u = Xa, v = Yb其中，X和Y分别是两组变量的矩阵，u和v是X和Y的线性组合，a和b是权重向量。

通过求解最优化问题，我们可以得到最相关的线性组合u和v，从而得到最相关的部分。

应用典型相关分析广泛应用于多个领域，下面列举了几个常见的应用场景：特征选择在特征选择中，我们经常面临着从大量的特征中选取最相关的特征集合。

典型相关分析可以帮助我们通过寻找两组变量之间的相关性，筛选出对目标变量有着较强相关性的特征。

通过选择最相关的特征，我们可以提高模型的泛化能力，并降低过拟合的风险。

降维在大数据时代，数据维度高维且复杂。

降维可以帮助我们减少计算负担，并去除冗余信息。

典型相关分析可以通过找出两组变量最相关的部分，将原始多维数据降到低维空间。

这样做可以减少计算复杂度，提高模型的训练速度，并帮助我们更好地理解数据之间的关系。

模式识别典型相关分析在模式识别领域也有着重要的应用。

通过找出两组变量之间的最相关部分，我们可以构建更加精确和可靠的模式识别模型。

典型相关分析

典型相关分析

§15.2 典型相关分析的步骤及逻辑框图
2020/7/6
图15.1 典型相关分 析的逻辑框图
中国人民大学六西格玛质量管理研究中心
25
目录 上页 下页 返回 结束
§15.2 典型相关分析的步骤及逻辑框图
2020/7/6
图15.1 典型相关分析 的逻辑框图 （续）
中国人民大学六西格玛质量管理研究中心
13
目录 上页 下页 返回 结束
§15.1 典型相关分析的基本理论
2020/7/6
中国人民大学六西格玛质量管理研究中心
14
目录 上页 下页 返回 结束
§15.1 典型相关分析的基本理论
2020/7/6
中国人民大学六西格玛质量管理研究中心
15
目录 上页 下页 返回 结束
§15.1 典型相关分析的基本理论
2020/7/6
中国人民大学六西格玛质量管理研究中心
30
目录 上页 下页 返回 结束
§15.2 典型相关分析的步骤及逻辑框图
（一）推导典型函数 典型函数的推导类似于没有旋转的因子分析的过程[参见 前面推导]。典型相关分析集中于说明两组变量间的最 大相关关系，而不是一组变量。结果是第一对典型变量 在两组变量中有最大的相关关系。第二对典型变量得到 第一对典型变量没有解释的两组变量间的最大相关关系。 简言之，随着典型变量的提取，接下来的典型变量是基 于剩余残差，并且典型相关系数会越来越小。每对典型 变量是正交的，并且与其他的典型变量是独立的。 典型相关程度是通过相关系数的大小来衡量的。典型相
2020/7/6
中国人民大学六西格玛质量管理研究中心
3
目录 上页理论
2020/7/6
中国人民大学六西格玛质量管理研究中心

典型相关分析

典型相关分析

一、典型相关分析的概念典型相关分析(canonical correlation analysis ) 就是利用综合变量对之间的相关关系来反映两组指标之间的整体相关性的多元统计分析方法。

它的基本原理是：为了从总体上把握两组指标之间的相关关系，分别在两组变量中提取有代表性的两个综合变量U1和V1 (分别为两个变量组中各变量的线性组合)，利用这两个综合变量之间的相关关系来反映两组指标之间的整体相关性。

二、条件：典型相关分析有助于综合地描述两组变量之间的典型的相关关系。

其条件是，两组变量都是连续变量，其资料都必须服从多元正态分布。

~*、相关计算如果我们记两组变量的第一对线性组合为U1 1X V1 1Y1(a11 1 1 a21 , , a p1 )1 (11 ,21 , ,q1 )Var (U1) 1Var (X ) 111 1Var (V1) 1Var (Y ) 1 1 22 1 1典型相关分析就是求和，使二者的相关系数达到最大。

1 1典型相关分析希望寻求 a 和b 使得p 达到最大，但是由于随 机变量乘以常数时不改变它们的相关系数， 为了防止不必要的结 果重复出现，最好的限制是令 Var(U) =1和Var (V ) = 11.实测变量标准化;2.求实测变量的相关阵R;XXl，…,X3.求A 和B;A1XXXY 1YYYX B1YY YX1XXXY4、求A 和B 的特征根及特征向量;A 关于 ，的特征向量(a i ,比，…，ap )，求B 关于i的特征向量(bi 1, b i2, •…bi P ) 5、计算Vi 和Wi ；V i b i1X 1 b i2X 21X Y Y Yrp1!qqb ip X p Wiai1Y 1ai2丫 2a iq Y qR「i6、Vi 和Wi 的第i 对典型相关系数应用典型相关分析的场合是：可以使用回归方法, 但有两个或两个以上的因变量；特别是因变量或准则 变量相互间有一定的相关性，无视它们之间相互依赖 的关系而分开处理，研究就毫无意义。

SPSS典型相关分析

SPSS典型相关分析
还可以得到每个典型变量V和第一组变量的相关系数 见表6以及每个典型变量W和第二组变量的相关系数 见表7.
表6
第18页/共23页
表7
从这两个表中可以看出，V1主要和变量hed相关 （0.99329），而V2主要和led（0.92484）及net （0.75305）相关；W1主要和变量arti（0.99696）及 man（0.92221）相关，而W2主要和com（0.81123） 相关；这和它们的典型系数是一致的。
表1 相关性的若干检验
第12页/共23页
表2给出了特征根(Eigenvalue)，特征根所占的百分比 (Pct)和累积百分比(Cum. Pct)和典型相关系数(Canon Cor)及其平方(Sq. Cor)。看来，头两对典型变量(V, W) 的累积特征根已经占了总量的99.427%。它们的典型相 关系数也都在0.95之上。
第14页/共23页
表3 未标准化系数 表4 标准化系数
第15页/共23页
可以看出，头一个典型变量V1相应于前面第一个（也是最 重要的）特征值，主要代表高学历变量hed；而相应于前面 第二个（次要的）特征值的第二个典型变量V2主要代表低 学历变量led和部分的网民变量net，但高学历变量在这里起 负面作用。 从表4中可以得到第一变量的头三个典型变量V1、 V2、V3中的V1 和V2的表达式:
12.3 典型相关分析的实例分析
例12.1为研究业内人士和观众对于一些电视节目的观点 的关系，对某地方30个电视节目做了问卷调查并给出 了平均评分。观众评分来自低学历(led)、高学历(hed) 和网络(net)调查三种,它们形成第一组变量；而业内人 士分评分来自包括演员和导演在内的艺术家(arti)、发 行(com)与业内各部门主管(man)三种，形成第二组变 量。参加图12.1，数据间TV.Sav。

多元统计分析——典型相关分析

多元统计分析——典型相关分析

多元统计分析——典型相关分析典型相关分析（Canonical correlation analysis）是一种多元统计分析方法，用于研究两组变量之间的关联性。

与传统的相关分析不同，典型相关分析可以同时考虑多组变量，找出最佳的线性组合，使得两组变量之间的相关性最大化。

它主要用于探索一组自变量与另一组因变量之间的线性关系，并且可以提供详细的相关性系数、特征向量和特征值等信息。

典型相关分析的基本原理是将两组变量分别投影到最佳的线性组合上，使得投影后的变量之间的相关性最大。

这种投影是通过求解特征值问题来实现的，其中特征值表示相关系数的大小，特征向量表示两组变量的线性组合。

通常情况下，我们希望保留具有最大特征值的特征向量，因为它们对应着最强的相关性。

典型相关分析的应用广泛，可以用于众多领域，如心理学、社会科学、经济学等。

例如，在心理学研究中，我们可能对人们的人格特征和行为方式进行测量，然后使用典型相关分析来探索它们之间的关系。

在经济学研究中，我们可以将宏观经济指标与企业盈利能力进行比较，以评估它们之间的相关性。

典型相关分析的步骤如下：1.收集数据：首先，我们需要收集两组变量的数据。

这些数据可以是定量数据（如收入、年龄）或定性数据（如性别、职业）。

2.建立模型：然后，我们需要建立一个数学模型，用于描述两组变量之间的关系。

这可以通过线性回归、主成分分析等方法来实现。

3.求解特征值问题：接下来，我们需要求解特征值问题，以获得相关系数和特征向量。

在实际计算中，我们可以使用统计软件来完成这一步骤。

4.解释结果：最后，我们需要解释典型相关分析的结果。

通常情况下，我们会关注最大的特征值和对应的特征向量，因为它们表示着最强的相关性。

典型相关分析的结果提供了一组线性组合，这些组合可以最大化两组变量之间的相关性。

通过分析这些组合，我们可以洞察两组变量之间的潜在关系，并提供有关如何解释和预测这种关系的指导。

总结而言，典型相关分析是一种强大的多元统计分析方法，可以用于研究两组变量之间的关联性。

典型相关分析

1典型相关分析内涵1.1典型相关分析基本概念典型相关分析（c anonical c orrelation analysis ）是利用综合变量对之间的相关关系来反映两组指标之间的整体相关性的多元统计分析方法。

它的基本原理是：为了从总体上把握两组指标之间的相关关系，分别在两组变量中提取有代表性的两个综合变量U1和V1（分别为两个变量组中各变量的线性组合），利用这两个综合变量之间的相关关系来反映两组指标之间的整体相关性。

典型相关分析是由霍特林(Hotelling,1935,1936)首先提出的。

典型相关分析的目的是识别并量化两组变量之间的联系，将两组变量相关关系的分析，转化为一组变量的线性组合与另一组变量线性组合之间的相关关系分析。

目前，典型相关分析已被广泛应用于心理学、市场营销等领域，如用于研究个人性格与职业兴趣的关系，市场促销活动与消费者响应之间的关系等。

1.2 典型相关分析的基本思想典型相关分析的基本思想和主成分分析非常相似。

首先在每组变量中找出变量的一个线性组合，使得两组的线性组合之间具有最大的相关系数。

然后选取相关系数仅次于第一对线性组合并且与第一对线性组合不相关的第二对线性组合，如此继续下去，直到两组变量之间的相关性被提取完毕为止。

被选出的线性组合配对称为典型变量，它们的相关系数称为典型相关系数。

典型相关系数度量了这两组变量之间联系的强度。

一般情况，设(1)(1)(1)(1)12(,,,)pX X X= X、(2)(2)(2)(2)12(,,,)q X X X = X是两个相互关联的随机向量，分别在两组变量中选取若干有代表性的综合变量Ui 、Vi ，使得每一个综合变量是原变量的线性组合，即：()(1)()(1)()(1)()(1)1122i i i i i P P U a X a X a X '=+++aX()(2)()(2)()(2)()(2)1122i i i i i q qV b X b X b X '=+++bX为了确保典型变量的唯一性，我们只考虑方差为1的(1)X 、(2)X 的线性函数()(1)i 'aX与()(2)i 'b X ，求使得它们相关系数达到最大的这一组。

典型相关分析(CCA)简介

典型相关分析(CCA)简介一、引言在多变量统计分析中，典型相关分析（Canonical Correlation Analysis，简称CCA）是一种用于研究两个多变量之间关系的有效方法。

这种方法最早由哈罗德·霍特林（Harold Hotelling）于1936年提出。

随着数据科学和统计学的发展，CCA逐渐成为多个领域分析数据的重要工具。

本文将对典型相关分析的基本原理、应用场景以及与其他相关方法的比较进行详细阐述。

二、典型相关分析的基本概念1. 什么是典型相关分析典型相关分析是一种分析两个多变量集合之间关系的方法。

设有两个随机向量 (X) 和 (Y)，它们分别包含 (p) 和 (q) 个变量。

CCA旨在寻找一种线性组合，使得这两个集合在新的空间中具有最大的相关性。

换句话说，它通过最优化两个集合的线性组合，来揭示它们之间的关系。

2. 数学模型假设我们有两个数据集：(X = [X_1, X_2, …, X_p])(Y = [Y_1, Y_2, …, Y_q])我们可以表示为：(U = a^T X)(V = b^T Y)其中 (a) 和 (b) 是待求解的权重向量。

通过最大化协方差 ((U, V))，我们得到最大典型相关系数 ()，公式如下：[ ^2 = ]通过求解多组 (a) 和 (b)，我们可以获得多个典型变量，从而得到不同维度的相关信息。

三、典型相关分析的步骤1. 数据准备在进行CCA之前，需要确保数据集满足一定条件。

一般来说，应对数据进行标准化处理，以消除可能存在的量纲差异。

可以使用z-score标准化的方法来处理数据。

2. 求解协方差矩阵需要计算两个集合的协方差矩阵，并进一步求出其逆矩阵。

给定随机向量 (X) 和 (Y)，我们需要计算如下协方差矩阵：[ S_{xx} = (X, X) ] [ S_{yy} = (Y, Y) ] [ S_{xy} = (X, Y) ]同时，求出逆矩阵 (S_{xx}^{-1}) 和 (S_{yy}^{-1})。

典型相关分析(CCA)简介

典型相关分析(CCA)简介在现代统计学和数据分析领域，典型相关分析（Canonical Correlation Analysis，CCA）是一种重要的方法，用于研究和揭示多变量之间的关系。

当我们面对多组变量时，传统的相关性分析往往无法完全捕捉不同变量之间的复杂关联。

典型相关分析为解决这一问题提供了一种有效的工具，尤其适用于社会科学、心理学、医学和市场研究等领域。

本文将对典型相关分析的基本概念、原理、计算方法及其应用进行详细介绍。

典型相关分析的基本概念典型相关分析是一种多变量统计技术，它旨在找出两组变量之间的关系结构。

具体而言，假设我们有两组变量，分别为 (X) 和 (Y)，其中 (X) 包含(p)个变量，(Y)包含(q)个变量。

典型相关分析的目标是通过线性组合找出两个线性组合使得这两个组合之间的相关性最大化。

更具体地说，我们希望找到以下形式的线性组合： - (U =a_1X_1 + a_2X_2 + … + a_pX_p) - (V = b_1Y_1 + b_2Y_2 + … + b_qY_q)使得 (U) 和 (V) 之间的相关系数达到最大值，继而进一步探索(U) 和 (V) 与原始变量之间的联系。

CCA 的基本原理典型相关分析建立在协方差矩阵基础上。

在进行 CCA 前，我们通常会首先计算 (X) 和 (Y) 的协方差矩阵。

然后，我们需要解一个特征值问题，通过特征根和特征向量来捕捉到不同线性组合下变量间的典型相关性。

整个过程可以分为以下几个步骤：计算协方差矩阵：首先计算系列变数X与Y的样本均值，然后构建对应的协方差矩阵。

求解特征值问题：通过构造一个标准特征值问题 ((X,Y){}(Y)b = (X,X){}a)，来得到特征值与特征向量。

提取典型相关系数：根据特征值计算出对应的典型相关系数，通过这些系数可以判断两个组变量之间关系强度。

解释结果：通过不同组合下所得到的典型变量，进一步理解各组变量间更深层次的联系和相互影响.CCA 的计算方法在实践中，可以使用多种统计软件，如 R、Python、SAS 等来实现 CCA 分析。

典型相关分析


典型相关分析研究的问题是，如何选取典型变量的最优线性组合。选取原则是：在所有 线性组合 U 和 V 中， 选取典型相关系数为最大的 U 和 V ， 即选取 a
(1) (1)
和b
(1)
使得 U 1 = a ′ X
(1) ( 2)
与 V1 = b ′ Y 之间的相关系数达到最大（在所有的 U 和 V 中） ，然后选取 a
说明， λ 既是矩阵 A ，同时也是矩阵 B 的特征值，同时也表明，相应的 a 与 b 分别是
2
特征值 λ 的特征向量。
2
而且，根据证明，矩阵 A 和 B 的特征值还具有以下的性质： （1）矩阵 A 和 B 有相同的非零特征值，且相等的非零特征值的数目就等于 p 。 （2）矩阵 A 和 B 的特征值非负。 （3）矩阵 A 和 B 的全部特征值均在 0 和 1 之间。 根据前边，我们知道，λ = ν = a ′
(
X 1 ， X 2 ，…， X p
)′
和Y =
(
Y1 ， Y2 ，…， Yq
)′ ，
E ( X ) = µ1
E (Y ) = µ 2 Cov ( X , Y ) = ∑ 12 =
于是，对于矩阵
Cov ( X ) = ∑ 11 Cov (Y ) = ∑ 22
第二组变量的均值和协方差为矩阵为
第一组与第二组变量的协方差为矩阵为
∑
12
b = ρ ，所以 λ 为其典型变量 U 和 V 之间的简单
相关系数。 又由于要求其相关系数达到最大(按习惯考虑为正相关)，所以取矩阵 A 或 B 的最大特 征值 λ1 的平方根 λ1 ，作为相关系致，同时由特征值 λ1 所对应的两个特征向量 a
2 2 (1)
  1. 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
  2. 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
  3. 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
1 2
k
i 1
T i i i
1 2
A的平方根矩阵的逆矩阵记为
A
1 2

i 1
k
1
i
e e p p T
T i i
1 2
例4.5 设标准化变量X=(X1,X2)T,Y=(Y1,Y2)T 的相关 1 系数矩阵为

1


1
,| | 1,| | 1, 0
如此确定的(uk,vk)称为X,Y的第k对典型变量，相 应的uk,vk称为第k个典型相关系数.
2. 总体典型变量与典型相关系数的计算 (1) 计算矩阵(XT,YT)T的协方差矩阵
(2) 令
A = Σ11 Σ12 Σ 22 Σ 21
-1 B = Σ -1 Σ 21 Σ11 Σ12 22
11 12 21 22 -1 -1
11 11 11 11 1 1 1 T T 1/ 2 1 a1 e1 R11 [ 2 , 2 ] 1 2(1 ) [1,1] 11 11 11 2 1 1 b1T 2(1 ) (1,1) 第一对典型相关变量为 同理可得
[va,da]=eig(T1),[vb,db]=eig(T2),A1=p1*va,B1=p2*vb,r=sqrt(sum(da)),
解: R11=[1,0.505;0.505,1];R12=[0.569,0.602;0.422,0.467];
p1,p2 即 R 与R
1 2 11
1 2 22
典型相关系数为: r1=0.6311 r2= 0.0568
T 1
V1 b Y b11Y1 b12Y2 b1qYq
T 1
其中 a1=(a11,a12,…,a1p)T, b1=(b11,b12,…,b1q)T Var(U1)=a1T11a1, 由于 Var(V1)=b1T22b1, cov(U1,V1)= a1T12b1 则U1,V1的相关系数为
1 1 U1 ( X 1 X 2 ),V1 (Y1 Y2 ) 2(1 ) 2(1 )
故
11 1 0 2
0 1 1
1 2 1 2
1 1 2 2
1 2
1 1 1 1

da = 0.3983 0 0 0.0032
特征值从大到小，故va第一列为第一典型变量系数 vb =-0.8170 -0.5766 db = 0.0032 0 0.5766 -0.8170 0 0.3983 特征值从小到大，故vb第二列为第一典型变量系数
4.2.4 典型相关系数的显著性检验 设总体X,Y的各对典型相关系数为1 2 … p 0 首先检验提出原假设与备择假设 (1) ( 1) H 0 : 1 0 H1 : 1 0
T 1 1 1
1 2
1 2 22
(v2 v ) ,
T 1 2 2
1 2
v1,1, v2,2分别为R11,R22的特征值与特征向量.
例4.6 设样本的相关系数矩阵为 典型相关系数与典型相关变量
0.505 0.569 0.602 1 1 0.422 0.467 0.505 0.569 0.422 1 0.926 1 0.602 0.467 0.926
1
计算X,Y的典型相关变量与典型相关系数 解： 1 R 1 1 1 , R 1 R R
11

1
11
1 2
1
22

1
1 22
1 1 1 2
1
典型变量：u1=0.7808x1+0.3445x2, v1=0.0603y1+0.9439y2
u2=-0.8560x1+1.1062x2, v2=-2.6482y1+2.4749y2
注意：eig 求出特征值未必从大到小，对应向量选准！
va =0.8437 -0.5368, 0.5368 0.8437
典型相关分析示意图
X1
X2 X3 X4 X5
X
U1 U2 U3 CanR1 CanR2 CanR3 CanR4 CanR5
Y
V1 V2 V3
Y1
Y2 Y3 Y4 Y5
U4
U5
V4
V5
X6
典型相关相关分析是研究两组变量之间相关性的 一种统计分析方法。也是一种降维技术。
最早由Hotelling (1935, 1936) 提出， Cooley and Lohnes (1971)、 Kshirsagar (1972)和 Mardia, Kent, and Bibby (1979) 推动了它的应用。
12 对应的单位特征向量为 e1 [ 12 ，12 ]T
又因为 所以
1 R112
1 2 1 2
R11
1 2
1 2 1 2
1 0 1 0 1 2
1 2
1 2 1 2
1 2
1 2
1 1 1 1
1 1 1 1
1 ( R11 ) R12 ( R22 ) R21 , B ( R22 ) R21 ( R11 ) R12
未必对称 ，难以求出标准正交特征向量.
1
1
1
1
我们介绍另一种解法，考虑以下两个矩阵：
A* ( R11 )1/ 2 R12 ( R22 )1 R21 ( R11 )1/ 2 B ( R22 )
R YX 1 XY XX
YY
3. 典型相关系数 r.v.组Y1,Y2，…,Yq与r.v.组X1,X2,…,Xp 的相关性 在实际问题中，经常遇到研究两组随机变量 之间的相关性.比如 工厂管理人员需要了解原料的主要质量指标 X1,X2,…,Xp 与产品的主要质量指标Y1,Y2,…,Yq之间 的相关性，以便提高产品质量；医生要根据一组化 验指标确定与一些疾病之间的关系；主教练排兵布 阵要考虑自己的队员与对手之间的相生相克以便制 定更好的对策，等等. 受主成分分析的启发，对每组变量分别构造 线性组合，将两组变量之间的相关性转化为两个 变量之间的相关性进行研究.
4.2 典型相关分析 4.2.1 引言
典型相关分析研究两组随机变量之间的相关性， 它是两个随机变量之间的相关性在两组变量之下的 推广. 1. 随机变量Y与X的相关系数 简单相关系数
xy
cov( x, y ) var( x).var( y )
2. r.v.Y与随机变量组X1,X2,…, Xp 复相关系数
H
(k ) 0
: k 0 H
(k ) 1
: k 0
若不能拒绝H0(k),则只需考虑前k-1对典型相关变量, 否则继续检验，直至检验p是否为零. 在总体服从p+q维正态分布条件下，可用如下 的似然比统计量进行检验
ˆ 2 ), k (1 j
p
Tk [n ( p q 3) / 2]ln k ~ (d1k )
* 1/ 2
R21 ( R11 ) R12 ( R22 )
1
1/ 2
①A*,B*对称，有相同的特征值即典型相关系数平方. ②A*,B*的特征向量矩阵E,F是单位正交矩阵.
③典型变量的系数矩阵为：a ( R11 )1/ 2 E, b ( R22 )1/ 2 F
其中
R
1 2 11
(v1 v ) , R
若不能拒绝原假设，则 1= 2 =… = k=0，此时 不能做典型相关分析；若拒绝H0(1),继续如下检验
H
( 2) 0
: 2 0 H
( 2) 1
: 2 0
若不能拒绝H0(2),表明只有第一对典型变量显著相关 外，其余变量均不显著，实际应用只需考虑第一对 典型变量；若拒绝H0(2),则需检验3是否为零,以此类 推，若假设k-1 =0被拒绝，则检验
1 1 由于 的特征值为2，0，所以A*的特征值为 1 1 4 2 2 2 2 1 , 2 0 1 (1 )(1 ) (1 )(1 )
1 1 2 2 1 1 A* R11 R12 R22 R21 (1 )(1 ) 1 1
U k a X ak1 X 1 ak 2 X 2 akp X p
T k T Vk bk Y bk1Y1 bk 2Y2 bkqYq
在约束条件 Var(uk)=Var(vk)=1,及 cov(uk,uj)=cov(uk,vj)=cov(vk,uj)=cov(vk,vj)=0,(1j<k) 求ak,bk，使得uk,vk=akT12bk取得最大值.
计算
R21=[0.569,0.422;0.602,0.467];R22=[1,0.926;0.926,1]; [v1,d1]=eig(R11); [v2,d2]=eig(R22); p1=inv(v1*sqrt(d1)*v1'); p2=inv(v2*sqrt(d2)*v2'); T1=p1*R12*inv(R22)*R21*p1;T2=p2*R21*inv(R11)*R12*p2;
计算机技术的发展，特别是应用软件的使 用，使得多元统计的方法应用到更多的领域更加 方便、快捷.
4.2.2 总体的典型变量与典型分析 1.总体典型变量的定义
设有两组随机变量
X ( X 1 , X 2 ,, X p ) , Y (Y1 , Y2 , , Yq )
T
，
T
(XT,YT)T=(X1,X2,…,Xp,Y1,Y2,…,Yq)T的协方差矩阵为
使得(U1,V1)与(U2,V2)不相关，即 cov(u1,u2)=cov(u1,v2)=cov(u2,v1)=cov(v1,v2)=0 在约束条件Var(u1)=Var(v1)=Var(u2)=Var(v2)=1下 求a2,b2，使得u2,v2=a2T12b2取得最大值.