浅谈协方差矩阵=

协⽅差矩阵计算cov(x,y)=EXY－EX*EY 协⽅差的定义，EX为随机变量X的，同理，EXY是XY的 举例： Xi 1.1 1.9 3 Yi 5.0 10.4 14.6 E(X) = (1.1+1.9+3)/3=2 E(Y) = (5.0+10.4+14.6)/3=10 E(XY)=(1.1×5.0+1.9×10.4+3×14.6)/3=23.02 Cov(X,Y)=E(XY)-E(X)E(Y)=23.02-2×10=3.02 此外：还可以计算：D(X)=E(X^2)-E^2(X)=(1.1^2+1.9^2+3^2)/3 - 4=4.60-4=0.606 σx=0.778888 D(Y)=E(Y^2)-E^2(Y)=(5^2+10.4^2+14.6^2)/3-100=15.44 σy=3.93 X,Y的相关系数： r(X,Y)=Cov(X,Y)/(σxσy)=3.02/(0.778888×3.93) = 0.986 表明这组数据X,Y之间相关性很好!补充：计算协⽅差矩阵如计算矩阵 1 2 310 20 30 的协⽅差矩阵。

计算结果为：40.5000 81.0000 121.500081.0000 162.0000 243.0000121.5000 243.0000 364.5000协⽅差通常，在提到协⽅差的时候，需要对其进⼀步区分。

（1）随机变量的协⽅差。

跟数学期望、⽅差⼀样，是分布的⼀个总体参数。

（2）样本的协⽅差。

是样本集的⼀个统计量，可作为联合分布总体参数的⼀个估计。

在实际中计算的通常是样本的协⽅差。

随机变量的协⽅差在概率论和统计中，协⽅差是对两个随机变量联合分布线性相关程度的⼀种度量。

两个随机变量越线性相关，协⽅差越⼤，完全线性⽆关，协⽅差为零。

定义如下。

cov(X,Y)=E[(X−E[X])(Y−E[Y])]当X，Y是同⼀个随机变量时，X与其⾃⾝的协⽅差就是X的⽅差，可以说⽅差是协⽅差的⼀个特例。

浅谈协方差矩阵今天看论文的时候又看到了协方差矩阵这个破东西,以前看模式分类的时候就特困扰,没想到现在还是搞不清楚,索性开始查协方差矩阵的资料，恶补之后决定马上记录下来,嘿嘿~本文我将用自认为循序渐进的方式谈谈协方差矩阵.统计学的基本概念学过概率统计的孩子都知道，统计里最基本的概念就是样本的均值，方差,或者再加个标准差。

首先我们给你一个含有n个样本的集合,依次给出这些概念的公式描述,这些高中学过数学的孩子都应该知道吧,一带而过。

均值：标准差：方差:很显然，均值描述的是样本集合的中间点,它告诉我们的信息是很有限的，而标准差给我们描述的则是样本集合的各个样本点到均值的距离之平均。

以这两个集合为例，［0，8，12，20］和[8,9，11,12］,两个集合的均值都是10，但显然两个集合差别是很大的，计算两者的标准差,前者是8.3，后者是1。

8,显然后者较为集中，故其标准差小一些，标准差描述的就是这种“散布度”.之所以除以n-1而不是除以n，是因为这样能使我们以较小的样本集更好的逼近总体的标准差,即统计上所谓的“无偏估计”.而方差则仅仅是标准差的平方。

为什么需要协方差?上面几个统计量看似已经描述的差不多了，但我们应该注意到,标准差和方差一般是用来描述一维数据的，但现实生活我们常常遇到含有多维数据的数据集，最简单的大家上学时免不了要统计多个学科的考试成绩。

面对这样的数据集，我们当然可以按照每一维独立的计算其方差,但是通常我们还想了解更多，比如，一个男孩子的猥琐程度跟他受女孩子欢迎程度是否存在一些联系啊,嘿嘿~协方差就是这样一种用来度量两个随机变量关系的统计量,我们可以仿照方差的定义：来度量各个维度偏离其均值的程度，标准差可以这么来定义：协方差的结果有什么意义呢?如果结果为正值，则说明两者是正相关的(从协方差可以引出“相关系数”的定义),也就是说一个人越猥琐就越受女孩子欢迎，嘿嘿，那必须的~结果为负值就说明负相关的，越猥琐女孩子越讨厌，可能吗？如果为0，也是就是统计上说的“相互独立”。

协方差与协方差矩阵协方差是统计学上表示两个随机变量之间的相关性，随机变量ξ的离差与随机变量η的离差的乘积的数学期望叫做随机变量ξ与η的协方差（也叫相关矩），记作K ξη：[()()]()K E E E E E E ξηξξηηξηξη=--=-,记为cov(,)ξη对于离散随机变量，我们有()()(,)i i ii ijK xE y E p x y ξηξη=--∑∑；对于连续随机变量，我们有()()(,)K x E y E x y dxdy ξηξηϕ+∞+∞-∞-∞=--⎰⎰，随机变量的协方差用来描述随机变量之间的相关性，我们指出，独立随机变量的协方差等于零，即如果ξ与在统计学与概率论中, 协方差矩阵是一个矩阵，这是从标量随机变量到高维度随机向量η独立，则K ξη=0. 如果ξ与η相同，则协方差就是变量ξ的方差。

的自然推广。

协方差矩阵对于多元随机变量，一般是对于一个多维随机变量来讲的，表现的是随机变量X 各个元素分量（为1维随机变量）之间的相互关系，每一项都对应着其中两个变量的协方差，组合起来就是协方差矩阵了,比如 一个n 维的随机变量X,其协方差矩阵之第ij 个元素即为E[(Xi-E(Xi))*(Xj-E(Xj))],Xi 和Xj 分别表示X 的第i 个和第j 个元素分量。

比如：随机变量x 和y ，n Q 为它们的协方差矩阵，2ij σ为随机变量i 和j 的协方差，(,),1,...,Tn n n u x y n N== ，其中， cos n n n x d θ=，sin n n n y d θ=，N 为扫描数据点个数。

现实中，由于测量值(,)n n d θ受噪声干扰，假设它们分别服从高斯白噪声分布且互相独立，方差分别为2d σ和2θσ，则：222222()()()()x xy TTnnnnn d nnnn xy y u u u u Q d d θσσσσθθσσ⎡⎤∂∂∂∂==+⎢⎥∂∂∂∂⎢⎥⎣⎦22222222cos sin 22sin sin 2()22sin 22sin sin 22cos nn nn d n nn nn d θθθθθσσθθθθ⎡⎤⎡⎤-=+⎢⎥⎢⎥-⎣⎦⎣⎦补充知识：数学期望：随机变量ξ的一切可能值i x 与对应的概率()i P x ξ=的乘积的和叫做随机变量ξ的数学期望，记作E ξ。

方差协方差矩阵计算
方差协方差矩阵是多元统计分析中的重要概念之一。

它是对多个变量之间的相关性进行描述的工具，在许多领域中都有广泛的应用。

方差协方差矩阵的计算可以通过以下步骤完成：
1. 首先，需要对多个变量进行观测和数据收集，得到一个数据矩阵。

2. 然后，可以通过计算每个变量的平均值和标准差来得到变量的基本统计量。

3. 接下来，可以计算出变量之间的协方差，通过以下公式进行计算：cov(X,Y) = E[(X - E(X))(Y - E(Y))]，其中E表示期望。

4. 最后，可以将协方差的值以及变量的方差组合在一起，得到方差协方差矩阵。

方差协方差矩阵的计算对于多元统计分析和数据建模都非常重要，它可以帮助我们理解变量之间的相关性以及它们对于整个数据集的贡献。

在实际应用中，我们可以使用各种数学软件和工具来进行方差协方差矩阵的计算，例如MATLAB、R、Python等。

- 1 -。