概率论与数理统计:矩与协方差矩阵的概念
- 格式:docx
- 大小:82.92 KB
- 文档页数:3
协方差矩阵的概念协方差矩阵是概率论和统计学中一个重要的概念,用于描述多维随机变量之间的关联程度。
它是一个对称的矩阵,其中包含了各个随机变量之间的协方差以及它们的方差。
协方差是一种描述两个随机变量之间关系的统计量,它衡量了两个随机变量的变化趋势是否一致。
具体而言,对于随机变量X和Y,它们的协方差定义为E[(X - E[X])(Y - E[Y])],其中E[·]表示期望值操作符。
如果协方差大于0,则表明X和Y 之间存在正相关关系;如果协方差小于0,则表明X和Y之间存在负相关关系;如果协方差等于0,则表明X和Y之间没有线性关系。
对于多个随机变量的情况,我们将它们的协方差组成一个矩阵,即协方差矩阵。
设有n个随机变量X1,X2,...,Xn,它们的协方差矩阵记为Σ,其中Σ(i, j)表示随机变量Xi和Xj之间的协方差。
协方差矩阵是一个对称矩阵,满足以下性质:1. 对角线上的元素是随机变量的方差,即Σ(i, i) = Var(Xi);2. 非对角线上的元素是对应两个随机变量的协方差,即Σ(i, j) = Σ(j, i)。
协方差矩阵的作用主要体现在以下几个方面:1. 描述随机变量之间的关联性:协方差矩阵可以直观地展示多个随机变量之间的相关性。
通过对协方差矩阵进行分析,可以了解随机变量之间的关系强度和方向。
2. 变量选择与降维:通过协方差矩阵,可以判断不同随机变量之间的相关性。
在建模分析中,我们可以通过分析协方差矩阵来选择与目标变量相关性最强的变量,去除冗余的变量,从而实现降低维度的目的。
3. 风险度量:在金融领域,协方差矩阵可用于衡量资产之间的风险关系。
通过计算资产收益率之间的协方差矩阵,可以估计投资组合的风险水平,为资产配置、风险控制提供依据。
4. 生成随机样本:协方差矩阵可用于生成符合特定相关性要求的随机样本。
通过给定均值向量和协方差矩阵,可以使用相关多元正态分布的特性生成具有一定相关性的随机样本。
概率论与数理统计复习概率论与数理统计复习一、概率论的基本概念:1、事件的运算律:交换律:,;结合律:,;分配律:,;德·摩根法则:,;减法运算:。
2、概率的性质:性质1;性质2(有限可加性)当个事件两两互不相容时,;性质3对于任意一个事件,;性质4当事件满足时,,;性质5对于任意两个随机事件,;性质6对于任意一个事件;性质7(广义加法法则)对于任意两个事件,。
3、条件概率:在已知发生的条件下,事件的概率为:()。
注意:所有概率的性质对条件概率依然适用,但使用公式必须在同一条件下进行。
4、全概率公式与贝叶斯公式:设个事件构成样本空间的一个划分,是一个事件,当()时,全概率公式:;贝叶斯公式:当时,,。
应用全概率公式和贝叶斯公式计算事件的概率或其在已知条件下的条件概率时,关键的问题是找到一个完备事件组,使得能且仅能与之一同时发生,然后运用古典概型、概率的加法和乘法法则计算出和,,并套用全概率公式或贝叶斯公式即可。
若一个较复杂的事件是由多种“原因”产生的样本点构成时,多考虑用全概率公式,而这些样本点就构成一个完备事件组;若已知试验结果而要追查“原因”时,往往使用贝叶斯公式,这些“原因”的全体即是所求的完备事件组。
5、随机事件的独立性:事件独立性的结论:(1)事件与独立;(2)若事件与独立,则与,与,与中的每一对事件都相互独立;(3)若事件与独立,且,,则,;(4)若事件相互独立,则;(5)若事件相互独立,则。
注意:(1)事件相互独立只要求满足,而事件互斥(互不相容)只要求,这两个概念前一个与事件的概率有关,后一个与事件有关,两者之间没有必然的联系;(2)如果事件相互独立,则与不相关,反之一般不成立。
(3)对于任意个随机事件,相互独立则两两独立,反之未必;(4)对于任意个相互独立的随机事件,它们中任意一部分事件的运算结果(和、差、积、逆等)与其他一部分事件或它们的运算结果都相互独立,如:与,与,与都相互独立;6、贝努利概型与二项概率公式:设一次试验中事件发生的概率为,则重贝努利试验中,事件恰好发生次的概率为,。
矩与协方差矩阵的概念
§4.4 矩与协方差矩阵
数学期望和方差可以纳入到一个更一般的概念范畴之中,那就是随机变量的矩。
4.4.1 矩与协方差矩阵的概念
定义4.7 设X 和Y 为随机变量.
若)(k X E (1,2,
)k =存在,称它为X 的k 阶原点矩,简称k 阶矩. 若{[()]}k E X E X -(1,2,
)k =存在,称它为X 的k 阶中心矩. 若)(l k Y X E (,1,2,)k l =存在,称它为X 和Y 的l k +阶混合矩.
若})]([)]({[l k Y E Y X E X E --(,1,2,)k l =存在,称它为X 和Y 的l k +阶混合中
心矩.
注:①X 的数学期望)(X E 是X 的一阶原点矩.
②X 的方差)(X D 是X 的二阶中心矩.
③协方差Cov(,)X Y 是X 和Y 的二阶混合中心矩.
定义4.8 设二维随机变量),(21X X 的四个二阶中心矩都存在,记为
2111112112221221122222{[()]},
{[()][()]},
{[()][()]},
{[()]},
c E X E X c E X E X X E X c E X E X X E X c E X E X =-=--=--=-
称矩阵 ⎪⎪⎭⎫ ⎝⎛22211211c c c c 为),(21X X 的协方差矩阵. 类似地,可定义n 维随机变量),,,(21n X X X 的协方差矩阵.
若 ()Cov(,){[()][()]},1,2,,ij i j i i j j c X X E X E X X E X i j n ==--=都存在,则称矩阵
111212122212
n n n n nn c c c c c c c c c ⎛⎫ ⎪ ⎪= ⎪ ⎪⎝⎭
C 为随机变量),,,(21n X X X 的协方差矩阵.
注:协方差矩阵中的元素ij c 有如下性质:
①
(),1,2,,ii i c D X i n ==, ② ,,1,2,,ij ji c c i j n ==,即C 为对称矩阵.
③2ij ii jj c c c ≤⋅.
特别地,2=n 时,二维随机变量的),(Y X 协方差矩阵定义如下: 定义矩阵⎪⎪⎭
⎫ ⎝⎛=)(),(),()(Y D Y X Cov Y X Cov X D C 称为),(Y X 的协方差矩阵 例4.48 设二维连续型随机变量),(Y X 的联合密度函数为
⎪⎩
⎪⎨⎧<<<<+=其它,020,10),21(76),(2y x xy x y x f ,求),(Y X 的协方差矩阵。
解:75)21(76),()(10202=+==⎰⎰⎰⎰∞+∞-∞+∞-dydx xy x x dxdy y x xf X E , 7039)21(76)(102
0222=+=⎰⎰dxdy xy x x X E , 49023)75(7039)]([)()(222=-=
-=X E X E X D , 78)21(76),()(10202=+=
=⎰⎰⎰⎰∞+∞-∞+∞-dydx xy x y dxdy y x yf Y E , 2134)21(76)(102
0222=+=⎰⎰dydx xy x y Y E , 14746)78(2134)]([)()(222=-=
-=Y E Y E Y D , 21
17)21(76)(10202=+=⎰⎰dydx xy x xy XY E , 147178752117)()()(),(-=⨯-=
-=Y E X E XY E Y X Cov ,
于是),(Y X 的协方差矩阵为:⎪⎪⎪⎪⎭
⎫ ⎝⎛--1474614711471490
23。
例4.49 设),(Y X 的协方差矩阵为⎪⎪⎭
⎫ ⎝⎛--=9111C ,求XY ρ. 解 由协方差矩阵的定义可知9)(,1)(,1),(==-=Y D X D Y X Cov 则 31911)()(),(-=⨯-==
Y D X D Y X Cov XY ρ。