相关系数的性质的几种证明方法

协方差及相关系数

所以X与Y不独立.
1/8 0 1/8 2/8 1/8 1/8 1/8 3/8 3/8 2/8 3/8 1
若(X,Y) ~ N(1,2 ,12, 22,)，即(X,Y)概率密度函数为
f
( x,
y)
1
2 1 2
1
2
exp{
1
2(1 2 ) [(
x 1 1
)2
2( x 1 )( y 2 ) ( y 2 )2 ]}
(1) 求 Z 的数学期望和方差. (2) 求 X 与 Z 的相关系数.
解 (1)由E( X ) 1, D( X ) 9, E(Y ) 0, D(Y ) 16.
得 E(Z ) E( X Y ) 1 E( X ) 1 E(Y )
32 3
2
1. 3
D(Z ) D( X ) D(Y ) 2Cov( X ,Y )
注：若Y aX b, 则 a<0时,ρXY=-1
例2 (X,Y)的联合分布为:
求相关系数ρXY,并判断X, Y是否相关,是否独立.
解：
E( X ) xi pi 0
i
E(Y ) y j p. j 0
j
X Y -1 0 1 -1 1/8 1/8 1/8 0 1/8 0 1/8 1 1/8 1/8 1/8
3
1
2
( z5)2
e 18 ,
z
契比雪夫不等式
定理设随机变量 X 具有数学期望 E(X ) μ,
方差 D( X ) σ2,则对于任意正数ε, 不等式
P{
X
μ
ε}
σ2 ε2
成立.
证明取连续型随机变量的情况来证明. 设 X 的概率密度为 f ( x),则有

随机变量的相关系数和相关性

3
18
O
1
x
E(XY )

xy f ( x, y)dxdy
1
dx
3x
2xy dy

5
，

0
2x
4
Cov( X , Y ) E( XY ) E( X ) E(Y ) 5 ，
36
XY
Cov( X ,Y )
5
0.9449 .
D( X )D(Y ) 2 7
i
j
E( X 2 )
x
2 i
pi
•

3.1，
i
D( X ) E( X 2 ) [E( X )]2 3.1 1.12 1.89，
E(Y 2 )
y
2 j
p •
j
0.4，D(Y ) 0.24 ,
j
E(XY )
xi y j pij
ij
0 0.2 (1) 0.1 0 0.4 2 0.3 0.5， 7
D( X ) b

b b

1 1
b0 b0
14
例3 已知X与Y分别服从正态分布N (1,32 )和N (0,42 ),
(1) 若 XY 0,求( X ,Y )的联合密度；
(2) 若 XY

1,Z 2

X 3
Y 2
,求E(Z ),D(Z )和 XZ .
解 (1) 由 XY 0，知X与Y相互独立，
证 D( X Y ) D( X ) D(Y ) 2Cov ( X , Y )
2 2 XY 0，

第14讲协方差与相关系数

X 和 Y 独立时 X 和 Y 不相关，反之不一定成立。但对下述情形，独立与不相关是一回事：若(X, Y )服从二维正态分布，则
X 与Y 独立的充分必要条件是X与Y不相关。参见P70-例3.6.3： X与Y独立 XY=0
练习2 1) X ~ U (0,1), Y X 2 , 求 XY
2 1 x2 1 2 dy = 1 x -1 x 1 1 x2 f X ( x) 0, 其他 1 2 E( X ) x 1 x2 d y 0
1

E ( XY )
1
x 2 y 2 1 1 1
( xy/ ) dxdy
期望、方差、协方差的性质对比
期望
E(c)=C E(aX)=aE(X), E(X+Y) =E(X)+E(Y) 当X与Y独立时 E(XY)=E(X)E(Y)
方差
D(c)=0 D(aX)=a2D(X),
协方差
Cov(c,X)=0
Cov(aX,bY) =abCov(X,Y) D(X+Y)=D(X)+ Cov(X+Y,Z) D(Y)+2Cov(X,Y) =Cov(X,Z) +Cov(Y,Z)
y 1
1 y 2 1 y 2
xdx dy
1 0 dy 0.
所以，Cov(X, Y)= E(XY)-E(X) E(Y) = 0 . 此外，Var(X) > 0, Var(Y) > 0 . 所以，XY = 0，即 X 与 Y 不相关。但是，在第三章已计算过: X与Y不独立。
第十四讲协方差与相关系数
前面我们介绍了随机变量的数学期望和方差，对于多维随机变量，反映分量之间关系的数字特征中，最重要的，就是本讲要讨论的协方差和相关系数

协方差与相关系数

其余均方误差
e
D(Y
)(1
2 XY
).
从这个侧面也
能说明 XY 越接近1，e 越小. 反之， XY 越近于0，
e 就越大， Y与X的线性相关性越小.
完
例3 设 ( X ,Y ) 的分布律为
X
Y
2 1 1 2 P{Y yi }
1
0 1/4 1/4 0
1/ 2
4
1/4 0 0 1/4 1/2
D(Y
)[1
2 XY
],
D(Y
)1
[cov( X ,Y )]2 D( X )D(Y )
D(Y
)[1
2 XY
],
由于方差
D(Y
)
是正的，
故必有
1
2 XY
0,
所以
XY 1.
性质2. 若 X 和 Y 相互独立，则 XY 0;
注意到此时 cov( X ,Y ) 0, 易见结论成立.
注： X 与Y 相互独立
完
例4 设服从 [ , ] 上的均匀分布, 且
X sin , Y cos
判断 X 与 Y 是否不相关, 是否独立.
解
由于
E( X )
1
2
sind 0,
E(Y
)
1
2
cosd 0,
而
E(
XY
)
1
2
sin cosd 0.
2
因此
E( XY ) E( X )E(Y ),
从而 X 与 Y 不相关. 但由于 X 与 Y 满足关系:
完
例2 设连续型随机变量 ( X ,Y ) 的密度函数为
f
(
x,

关于协方差、相关系数与相关性的关系

在实际中，人们为什么总是用（线性）相关系数 XY ，而不是用协方差 CovX ,Y 来判断两个随机变量
X 与Y 的线性相关程度呢？关于这个问题，只要我们注意 CovX ,Y EX EX Y EY 与
XY
CovX DX
,Y DY
的单位，就不难发现：
XY
是一个无量纲的量，用它来描述
X
于是 XY 是一个可以用来表征 X ，Y 之间线性关系紧密程度的量，当 XY 较大时，我们通常说 X ，Y
线性相关的程度较好；当 XY 较小时，我们通常说 X ，Y 线性相关的程度较差；当 XY 0 时，称 X ，
Y 不相关（实际上，按照严格的线性相关的定义，只有在 XY 1时，X 与Y 才是线性相关的， XY 1
概率论与数理统计
关于协方差、相关系数与相关性的关系
前言
z
y x
（概率论与数理统计(茆诗松)，Page 147）
高等学校教科书中，关于协方差、相关系数的概念，都是直接给出定义，再由定义导出几个基本
性质，然后是一些关于相关系数的计算或相关性的判断，至于定义这两个量的根据是什么，为什么它
们就是衡量随机变量 X ，Y 的线性相关程度的两把尺子？代数学与概率论中两个变量存在线性关系的
---------------------------------------------------------------------------------------------------------------------------------
Reproduction Forbidden
时二者是线性无关的，不过为了研究 XY 的不同取值下， X ，Y 的关系，我们分为严格线性相关和线性相关（一定程度）来讨论。）（注意：这里指的是线性不相关，但它们还会存在其他的相关关系，否则如果什么关系都不存在，那就是 X ，Y 相互独立的情况了。）

线性相关分析

二、秩相关（等级相关）
秩相关的适用条件及基本概念秩相关系数秩相关系数的显著性检验进行秩相关分析的注意事项
1、秩相关的适用条件及基本概念
适用条件: 资料不服从双变量正态分布总体分布型未知，一端或两端是不确定数值
秩相关是分析X与Y两变量等级间是否相关的
（如＜10岁，≥65岁）的资料；原始数据用等级表示的资料
样误差的问题，故要推断总体中两变量间有无线性相关关系，须做假设检验
数，k为有相同秩次的组数
TX = ∑ ( t i3 − t i ) / 12 ，ti 为第 i 组相同秩次的个
常用的方法有两种： 1.n≤50,直接查附表14，得到P值 2.
n>50用假设检验法，计算检验统计量，公式为
1.将X、Y分别从小到大编秩，若观察值相
同，则取平均秩次。 2.差数d 3.算d2 4.带入公式计算
rs = 1 − n( n − 1)
2
6∑ d 2
= 1−
6 × 12.5 = 0.85 8(82 − 1)
秩相关系数为负，说明两变量间有负相关关系，同样由样本算得的秩相关系数是否有统计学意义，也应做检验
本章内容：
相关分析
南方医科大学生物统计学系
线性相关秩相关
一、线性相关
线性相关的基本概念线性相关系数相关系数的显著性检验进行线性相关分析的注意事项
1、线性相关的基本概念
线性相关(linear
correlation)又称简单相关 (simple correlation)，用于双变量正态分布 (bivariate normal distribution)资料。
6∑ d 2

随机变量的相关系数和相关性解析

2 2
E(Y 2 ) y 2 D(Y ) 0.24 , j p j 0.4 ，
j
E( XY ) xi y j pij
0 0.2 (1) 0.1 0 0.4 2 0.3 0.5 ，
i
j
7
E( X ) x pi 3.1 ，
2 2 i i
E( X ) xi pi 1.1 ， E(Y ) y j p j 0.4 ，
i
j
D( X ) E( X 2 ) [E( X )]2 3.1 1.12 1.89，
D(Y ) 0.24 , E(Y 2 ) y 2 j p j 0.4 ，
8
例2 设(X,Y )的联合密度函数为
y
3
y 3x
y 2x
2 , 0 x 1, 2 x y 3 x f ( x, y) , else 0 ,
求协方差 Cov( X , Y )及相关系数 XY .
2
O
1
x
解先求出边缘密度，
f X ( x)

2 x , 0 x 1 , f ( x, y) dy 0 , else
( b 0)
2
E(Y ) a bE( X ) , D(Y ) b D( X ) , E( XY ) E[ X (a bX )] aE( X ) bE( X 2 ) ,
C ov (X,Y ) E( XY ) E( X ) E(Y ) D( X ) D(Y ) D( X ) D(Y )
aE( X ) bE( X ) E( X )[ a bE( X )]
2
XY

概率论与数理统计协方差和相关系数

X -1 0 1
pk 3/8 2/8 3/8
Y -1 0 1
pk 3/8 2/8 3/8
E( X ) (1) 3 0 2 1 3 0 同理 E(Y ) 0
8
8
8
1
②说明E(：XY虽)然 Cov(Xx,iYy)=j p0i，j 但1
i,i1
P{ X
1P{ X0 8 0}
10,Y101} P{8Y 0} 8
=相关系数刻划了X和Y间“线性相关”的程度.
=
2021/4/4
8
8
皮肌炎图片——皮肌炎的症状表现
数
• 皮肌炎是一种引起皮肤、肌肉、
字
心、肺、肾等多脏器严重损害的，全身性疾病，而且不少患者同时
伴有恶性肿瘤。它的1症状表现如特下：
• 1、早期皮肌炎患者，还往往伴征有全身不适症状，如-全身肌肉酸
=ቤተ መጻሕፍቲ ባይዱ
2021/4/4
3
3
§3 协方差和相关系数 Covariance and
correlation coefficient
2021/4/4
4
一、协方差
1、定对于义向: 量设X(和X,YY，)是期一望随和机方向差量只，反称映E{了[X变-E(量X)各][Y自-E(的Y)情]} 况，没有
相互之间的关系。若X、Y相互独立, E{[X-E(X)][Y-E(Y)]}=0，因此为EX{[与X-YE的(X)协][Y方-E差(Y,)记]} 作在C一ov定（程X，度Y上）反，映即了X与Y之间的关系，称为X 与Y的协方差。 Cov(X,Y)= E{[X-E(X)][Y-E(Y)]}
② 若 E X E( X ) k 存在，则称之为X的 k阶中心矩

协方差和相关系数的计算

XY 0
X，Y 不相关
cov( X ,Y ) 0
E( XY ) E( X )E(Y )
D( X Y ) D( X ) D(Y )
X，Y 相互独立
X，Y 不相关．
若 X，Y 服从二维正态分布，X，Y 相互独立
X，Y 不相关．
第十四页，共23页。
在例1中已知 X ，Y 的联合分布为
pij X 1 Y
1
p
0
0
0 0 < p <1
0 p+q=1
q
E( X ) p, E(Y ) p, D( X ) pq, D(Y ) pq,
E( XY ) p, D( XY ) pq,
cov( X ,Y ) pq, XY 1
X X p ,Y Y p , P(X Y ) 1
pq
pq
第十五页，共23页。
4ixjij12n则称由bij组成的矩阵为随机变量x1xn的协方差矩阵b即以前讲过的n维正态分布的形式中就有协方差矩阵332协方差矩阵显然biidxii12nbikbkiik12n故协方差矩阵b是对称矩阵由柯西许瓦兹不等式有如果我们记则有因此b为称为列随机向量x的数学的方差其中期望对任意实数t1tn有如果记tt1tn上式即为证明设协方差矩阵的性质的概率密度函数则以及分别为这表示b是非负定的由矩阵论的二次型理论知对任意正整数k1kn有如果x1xn相互独立则b为对角矩阵证明因为x1xn相互独立所以当ki时所以b为对角矩阵作业p208习题三3536单击此处编辑母版文本样式第二级第三级第四级第五级放映结束感谢各位的批评指导
而 D(U ) a2D( X ) b2D(Y ) (a2 b2 ) 2
D(V ) a2D( X ) b2D(Y ) (a2 b2 ) 2

关于协方差与相关系数的两个证明

cov xnew, ynew var xnew var ynew
cov xnew, ynew
通过结论 1）可以证明：标准化后的变量的协方差就是原变量的相关系数
cov xnew, ynew
n
xnew xnew ynew ynew
n i 1 i i
n 1
x x yi y n i xi x yi y var x var y i 1 1 i 1 n 1 n 1 var x var y
2
n 1 n xi x 1 xi x n 1 i 1 var x n 1 var x i 1

2

2
x x
n i 1 i
2

n 1 var x

var x 1 var x
the _ same : var ynew 1
1 n 1 n x , y yi i n n i 1 i 1
1 n 1 n var x xi x , var y yi y n 1 i 1 n 1 i 1
可以得到以下两个结论： 1）标准化后的变量的均值为 0

2

2
x j nx 1 n 1 n xj x 1 j 1 xnew xnew j 0 n j 1 n j 1 var x n var x

x x y y
n i 1 i i
n 1 var x var y

cov x, y var x var y

随机变量的协方差和相关系数.

2.简单性质
(1) cov(X,C)= 0, C为常数； (2) cov(X,X)= D(X) (3) cov(X,Y)= cov(Y,X) (4) cov(aX+b, Y) = a cov(X,Y) a, b 是常数 (5) cov(aX, bY) = ab cov(X,Y) a, b 是常数 (6) cov(X1+X2,Y)= cov(X1,Y) + cov(X2,Y) (7) D(X±Y)=D(X)+D(Y)±2cov(X,Y)
X 与 Y 的相关系数 XY
1 147 . 46 147
Cov ( X ,Y ) 15 . D( X ) D(Y ) 69
2 2
2. 设二维连续型随机变量( X ,Y ) 的联合密度
6 2 1 ( x xy), 0 x 1, 0 y 2, 函数为 f ( x , y ) 7 2 其他 0, 求 ( X ,Y ) 的协方差矩阵及相关系数.
解 E( X )
1 2
x f ( x , y )dxdy
cov( X i , X j ) D( X i ) D( X j )

vij vii v jj
( i, j=1,2,…,n )
都存在, 则称
11 21 矩阵 R n1
12 22

1n 2n
nn
这是一个非负定对称矩阵
cov(X,Y)=E[X-EX][Y-EY]=EXY-EXEY
1) 当(X,Y)是离散型随机变量时,
cov( X , Y ) ( xi EX )( y j EY ) pij ,
i j

斯皮尔曼相关系数推导

斯皮尔曼相关系数推导斯皮尔曼等级相关系数（Spearman's correlation coefficient）是一种度量两个变量之间相关性的统计量，它基于等级变量（有序变量）的秩（rank）而不是实际值。

假设有两个变量 X 和 Y，每个变量都有 n 个观测值。

1. 首先，对每个变量进行排序，得到每个观测值的秩。

例如，如果 X 的观测值为 x1, x2, ..., xn，那么 X 的秩为 r1, r2, ..., rn。

2. 计算斯皮尔曼相关系数的公式为：Spearman(X, Y) = 6 × Σ(Xi - Yi) / (n × (n^2 - 1))其中 Xi 和 Yi 分别是 X 和 Y 的秩。

下面是这个公式的推导过程：第一步，由于 X 和 Y 都是等级变量，它们的秩可以看作是观测值的相对位置。

因此，我们可以将 Xi 和 Yi 看作是观测值在各自变量中的相对位置。

第二步，根据斯皮尔曼相关系数的定义，我们希望找到一个系数，使得对于任意两个观测值 Xi 和 Yi，它们的相对位置差（Xi - Yi）越小，则 X 和 Y 的相关性越高。

第三步，为了使相关性最大化，我们需要最小化Σ(Xi - Yi)。

由于 Xi 和 Yi 都是秩，它们都是非负整数，因此最小化Σ(Xi - Yi) 等价于最小化Σ(Xi + Yi)。

第四步，根据算术-几何平均不等式（AM-GM inequality），对于非负实数 a 和 b，有(a + b) / 2 ≥ sqrt(ab)。

应用这个不等式到 Xi 和 Yi，我们得到：Σ(Xi + Yi) / 2 ≥ sqrt(ΣXi × ΣYi)第五步，由于 Xi 和 Yi 是秩，它们的总和是 n × (n + 1) / 2。

因此，我们可以进一步化简上面的不等式为：Σ(Xi + Yi) / n × (n + 1) ≥ 1第六步，将这个不等式代入斯皮尔曼相关系数的公式中，我们得到：Spearman(X, Y) ≥ 1第七步，当且仅当 Xi = Yi 对所有 i 都成立时，即 X 和 Y 是完全相关的，斯皮尔曼相关系数达到最大值 1。