期望、方差协方差

随机变量是概率论中非常重要的概念，它描述了一次随机试验中可能出现的各种结果及其对应的概率。

而随机变量的期望和方差是对这些结果的统计性质的度量。

首先，我们来看看随机变量的期望。

期望是对随机变量的平均值的度量，它表示了在多次随机试验中，随机变量的结果的平均表现。

对于离散型随机变量，期望可以用如下公式来计算：E(X) = Σ(x_i * p_i)其中，E(X)表示随机变量X的期望，x_i表示随机变量X可能的取值，p_i表示该取值出现的概率。

对于连续型随机变量，期望的计算方式稍有不同。

在这种情况下，期望可以用如下公式来计算：E(X) = ∫(x * f(x))dx其中，E(X)表示随机变量X的期望，x表示随机变量X的取值，f(x)表示X的概率密度函数。

期望可以理解为随机变量的平均表现，它具有很多应用。

例如，在赌博中，我们可以用期望来判断一个赌局是否合理。

如果某个赌局的期望为负，意味着赌徒平均而言会亏损，此时赌徒应该避免参与这个赌局。

接下来，我们来看看随机变量的方差。

方差是对随机变量结果的离散程度的度量，它表示了多次随机试验中，随机变量结果与其期望之间的差异程度。

方差越大，表示结果的离散程度越大，反之亦然。

对于离散型随机变量，方差可以用如下公式来计算：Var(X) = Σ((x_i - E(X))^2 * p_i)其中，Var(X)表示随机变量X的方差，x_i表示随机变量X可能的取值，p_i表示该取值出现的概率。

对于连续型随机变量，方差的计算方式稍有不同。

在这种情况下，方差可以用如下公式来计算：Var(X) = ∫((x - E(X))^2 * f(x))dx其中，Var(X)表示随机变量X的方差，x表示随机变量X的取值，f(x)表示X的概率密度函数。

方差可以理解为随机变量结果的离散程度。

它具有很多应用。

例如，在金融领域，方差被广泛用于度量投资组合的风险。

一个投资组合的方差越大，意味着其回报的波动性越大，风险越高。

均值、方差和协方差的定义和基本性质1 数学期望（均值）的定义和性质定义：设离散型随机变量X 的分布律为{}, 1,2,k k P X x p k === 若级数1k k k xp ∞=∑绝对收敛，则称级数1k k k xp ∞=∑的和为随机变量X 的数学期望，记为()E X 。

即()1k k k E X x p ∞==∑。

设连续型随机变量X 的概率密度为()f x ，若积分()xf x dx ∞−∞⎰ 绝对收敛，则称积分()xf x dx ∞−∞⎰的值为随机变量X 的数学期望，记为()E X 。

即 ()()E X xf x dx ∞−∞=⎰ 数学期望简称期望，又称为均值。

性质：下面给出数学期望的几个重要的性质（1）设C 是常数，则有()E C C =；（2）设X 是一个随机变量，C 是常数，则有()()E CX CE X =；（3）设X 和Y 是两个随机变量，则有()()()E X Y E X E Y +=+，这一性质可以推广至任意有限个随机变量之和的情况；（4）设X 和Y 是相互独立的随机变量，则有()()()E XY E X E Y =。

2 方差的定义和性质定义：设X 是一个随机变量，若(){}2E X E X −⎡⎤⎣⎦存在，则称(){}2E X E X −⎡⎤⎣⎦为X的方差，记为()D X 或()Var X ，即性质：下面给出方差的几个重要性质（1）设C 是常数，则有()0D C =；（2）设X 是一个随机变量，C 是常数，则有()()2D CX C D X =，()()D X C D X +=；（3）设X 和Y 是两个随机变量，则有()()()()()()(){}2D X Y D X D Y E X E X Y E Y +=++−−特别地，若X 和Y 相互独立，则有()()()D X Y D X D Y +=+ （4）()0D X =的充分必要条件是以概率1取常数()E X ，即(){}1P X E X ==。

协方差（Covariance）定义在概率论和统计学中，协方差用于衡量两个变量的总体误差。

而方差是协方差的一种特殊情况，即当两个变量是相同的情况。

期望值分别为E(X) = μ 与E(Y) = ν 的两个实数随机变量X与Y之间的协方差定义为：COV(X，Y)=E[(X-E(X))(Y-E(Y))]=EXY-EX*EY其中，E是期望值。

它也可以表示为：直观上来看，协方差表示的是两个变量总体误差的方差，这与只表示一个变量误差的方差不同。

如果两个变量的变化趋势一致，也就是说如果其中一个大于自身的期望值，另外一个也大于自身的期望值，那么两个变量之间的协方差就是正值。

如果两个变量的变化趋势相反，即其中一个大于自身的期望值，另外一个却小于自身的期望值，那么两个变量之间的协方差就是负值。

如果X与Y是统计独立的，那么二者之间的协方差就是0，因为两个独立的随机变量满足EXY=EXEY。

但是，反过来并不成立。

即如果X与Y的协方差为0，二者并不一定是统计独立的。

协方差cov(X,Y)的度量单位是X的协方差乘以Y的协方差。

而取决于协方差的相关性，是一个衡量线性独立的无量纲的数。

协方差为0的两个随机变量称为是不相关的。

2协方差属性两个不同参数之间的方差就是协方差若两个随机变量X和Y相互独立，则E[(X-E(X))(Y-E(Y))]=0，因而若上述数学期望不为零，则X和Y必不是相互独立的，亦即它们之间存在着一定的关系。

定义E[(X-E(X))(Y-E(Y))]称为随机变量X和Y的协方差，记作COV(X，Y)，即COV(X，Y)=E[(X-E(X))(Y-E(Y))]。

协方差与方差之间有如下关系：D(X+Y)=D(X)+D(Y)+2COV(X，Y)D(X-Y)=D(X)+D(Y)-2COV(X，Y)协方差与期望值有如下关系：COV(X，Y)=E(XY)-E(X)E(Y)。

协方差的性质：（1）COV(X，Y)=COV(Y，X)；（2）COV(aX，bY)=abCOV(X，Y)，（a，b是常数）；（3）COV(X1+X2，Y)=COV(X1，Y)+COV(X2，Y)。

数学期望的六个公式数学期望是一个概念，用于描述概率实验或随机变量的预期值，被广泛应用于统计学，信息论，投机策略和把数字概念应用于实际问题的其他领域。

数学期望有六个公式，它们是总和期望，乘积期望，定义期望，方差公式，协方差公式和零期望公式。

首先，总和期望公式定义为任何给定的两个事件X和Y的期望相加的结果，即E(X+Y) = E（X）+ E（Y）。

这意味着，如果一个随机变量X的期望值为3，而Y的期望值为4，那么X和Y的总和期望就为7。

其次，乘积期望公式定义为任何给定的两个事件X和Y的期望相乘的结果，即E（XY）=E（X）×E（Y）。

乘积期望不仅用于双重期望，而且还用于多重期望。

同样，如果一个随机变量X的期望值为3，而Y的期望值为4，那么X和Y的乘积期望就为12。

接下来是定义期望，即定义期望公式，它定义为分布的期望的加权平均值，其中每个可能的值X在函数f（x）上有不同的权重。

这个公式可以用来求解可能的联合分布的任何期望。

下一个是方差公式，即方差公式，它定义为一个随机变量与其期望之间的偏离度量，并且可以用来衡量概率分布的扩散程度。

方差公式可以表达为Var（X）= E（X-E（X）），记作σ2。

然后是协方差公式，也称为协方差矩阵，它定义为两个随机变量之间的度量，它表示两个随机变量之间的关系。

它可以用来衡量两个变量之间正负相关性，并且可以用来检测金融数据中的关联性。

协方差公式可以表达为Cov（X，Y）= E（XY）-E（X）E（Y），记作σxy。

最后，是零期望公式，它定义为任意离散变量的期望是0，即E （X）= 0。

它常用于信号处理，表示非零值时没有偏移。

以上就是数学期望的六个基本公式。

数学期望在统计学，信息论，投机策略和其他应用概率的领域都有广泛的应用，有助于我们对概率分布的理解和分析。

期望、⽅差、协⽅差、相关系数
⼀、期望
在概率论和统计学中，数学期望（或均值，亦简称期望）是试验中每次可能结果的概率乘以其结果的总和。

它反映随机变量平均取值的⼤⼩。

线性运算：
推⼴形式：
函数期望：设f(x)为x的函数，则f(x)的期望为
离散函数：
连续函数：
注意：
函数的期望不等于期望的函数；
⼀般情况下，乘积的期望不等于期望的乘积；
如果X和Y相互独⽴，则E(xy)=E(x)E(y)。

⼆、⽅差
概率论中⽅差⽤来度量随机变量和其数学期望（即均值）之间的偏离程度。

⽅差是⼀种特殊的期望。

定义为：
⽅差性质：
1）
2）常数的⽅差为0；
3）⽅差不满⾜线性性质；
4）如果X和Y相互独⽴，则：
三、协⽅差
协⽅差衡量两个变量线性相关性强度及变量尺度。

两个随机变量的协⽅差定义为：
⽅差是⼀种特殊的协⽅差。

当X=Y时，
协⽅差性质：
1）独⽴变量的协⽅差为0。

2）协⽅差计算公式：
3）特殊情况：
四、相关系数
相关系数是研究变量之间线性相关程度的量。

两个随机变量的相关系数定义为：
相关系数的性质：
1）有界性。

相关系数的取值范围是，可以看成⽆量纲的协⽅差。

2）值越接近1，说明两个变量正相关性（线性）越强。

越接近-1，说明负相关性越强，当为0时，表⽰两个变量没有相关性。

多项分布的数学期望、协方差阵、特征函数及母函数多项分布的数学期望、协方差阵、特征函数及母函数 1一、定义与性质设 X 为随机变量， I 是一个包含 0 的 ( 有限或无限的 ) 开区间，对任意t ∈ I ，期望 E e t x 存在设X为随机变量，I是一个包含0的(有限或无限的)开区间，对任意t∈I，期望Ee^{tx}存在设X为随机变量，I是一个包含0的(有限或无限的)开区间，对任意t∈I，期望Eetx存在则称函数M X ( t ) = E ( e t X ) = ∫ − ∞ + ∞ e t x d F ( x ) , t ∈ I 为 X 的矩母函数则称函数M_{X}(t)=E(e^{tX})=\int_{-\infin}^{+\infin}e^{tx}dF(x),t∈I为X的矩母函数则称函数MX(t)=E(etX)=∫−∞+∞etxdF(x),t∈I为X的矩母函数设 X 为任意随机变量，称函数φ X ( t ) = E ( e i t X ) = ∫ − ∞ + ∞ e i t x d F ( x ) 为 X 的特征函数设X为任意随机变量，称函数\varphi_{X}(t)=E(e^{itX})=\int_{-\infin}^{+\infin}e^{itx}dF(x)为X的特征函数设X为任意随机变量，称函数φX(t)=E(eitX)=∫−∞+∞eitxdF(x)为X 的特征函数一个随机变量的矩母函数不一定存在，但是特征函数一定存在。

一个随机变量的矩母函数不一定存在，但是特征函数一定存在。

一个随机变量的矩母函数不一定存在，但是特征函数一定存在。

随机变量与特征函数存在一一对应的关系随机变量与特征函数存在一一对应的关系随机变量与特征函数存在一一对应的关系二、离散型随机变量的分布0、退化分布(Degenerate distribution)若 X 服从参数为 a 的退化分布，那么 f ( k ;a ) = { 1 , k = a 0 , k ≠ a 若X服从参数为a的退化分布，那么f(k;a)=\left\{\begin{matrix} 1,k=a \\ 0,k\neq a \end{matrix}\right. 若X服从参数为a的退化分布，那么f(k;a)={1,k=a0,k=a M ( t ) = e t a M(t)=e^{ta}M(t)=eta φ ( t ) = e i t a \varphi(t)=e^{ita}φ(t)=eita M ′ ( t ) = a e t a M'(t)=ae^{ta}M′(t)=aeta E X = M ′ ( 0 ) = a EX=M'(0)=aEX=M′(0)=a M ′ ′ ( t ) = a 2 e t a M''(t)=a^2e^{ta} M′′(t)=a2eta E X 2 = M ′ ′ ( 0 ) = a 2EX^2=M''(0)=a^2 EX2=M′′(0)=a2 D X = E X 2 − ( E X ) 2 = 0 DX=EX^2-(EX)^2=0 DX=EX2−(EX)2=01、离散型均匀分布(Discrete uniform distribution)若 X 服从离散型均匀分布 D U ( a , b ) , 则 X 分布函数为 F ( k ; a , b ) = ⌊ k ⌋− a + 1 b −a + 1 若X服从离散型均匀分布DU(a,b) ,则X分布函数为F(k;a,b)=\frac{\lfloor k\rfloor -a+1}{b-a+1} 若X服从离散型均匀分布DU(a,b),则X分布函数为F(k;a,b)=b−a+1⌊k⌋−a+1 则矩母函数M ( t ) = ∑ k = a b e t k P ( x = k ) 则矩母函数M(t)=\sum_{k=a}^{b} e^{tk}P(x=k) 则矩母函数M(t)=k=a∑betkP(x=k) = ( ∑ k = a b e t k ) 1 b − a + 1 =(\sum_{k=a}^{b} e^{tk})\frac{1}{b-a+1} =(k=a∑b etk)b−a+11 = e a t − e ( b + 1 ) t ( 1 − e t ) ( b − a + 1 ) =\frac{e^{at}-e^{(b+1)t}}{(1-e^{t})(b-a+1)} =(1−et)(b−a+1)eat−e(b+1)t 特征函数φ ( t ) = ∑k = a b e i t k P ( x = k ) 特征函数\varphi(t)=\sum_{k=a}^{b} e^{itk}P(x=k) 特征函数φ(t)=k=a∑beitkP(x=k) = ( ∑ k = a b e i t k ) 1 b −a + 1 =(\sum_{k=a}^{b} e^{itk})\frac{1}{b-a+1}=(k=a∑beitk)b−a+11 = e a i t − e ( b + 1 ) i t ( 1 − e i t ) ( b − a + 1 ) =\frac{e^{ait}-e^{(b+1)it}}{(1-e^{it})(b-a+1)}=(1−eit)(b−a+1)eait−e(b+1)it M ′ ( t ) = 1 b − a + 1 ( a e a t − ( b + 1 ) e ( b + 1 ) t ) ( 1 − e t ) + ( e a t − e ( b + 1 ) t ) e t ( e t − 1 ) 2M'(t)=\frac{1}{b-a+1}\frac{(ae^{at}-(b+1)e^{(b+1)t})(1-e^t)+(e^{at}-e^{(b+1)t})e^t}{(e^{t}-1)^{2}} M′(t)=b−a+11(et−1)2(aeat−(b+1)e(b+1)t)(1−et)+(eat−e(b+1)t)et t = 0 为M ′ ( t ) 的可去间断点，补充定义M ′ ( 0 ) = lim ⁡ t → 0 M ′ ( t ) t=0为M'(t)的可去间断点，补充定义M'(0)=\lim_{t\rightarrow0}M'(t) t=0为M′(t)的可去间断点，补充定义M′(0)=t→0limM′(t) E X = M ′ ( 0 ) = lim ⁡ t → 0 1 b − a + 1 ( a 2 e at − ( b + 1 ) 2 e ( b + 1 ) t ) ( 1 − e t ) + ( e at − e ( b + 1 ) t ) e t 2 ( e t − 1 ) e tEX=M'(0)=\lim_{t\rightarrow0}\frac{1}{b-a+1}\frac{(a^2e^{at}-(b+1)^2e^{(b+1)t})(1-e^t)+(e^{at}-e^{(b+1)t})e^t}{2(e^{t}-1)e^t}EX=M′(0)=t→0limb−a+112(et−1)et(a2eat−(b+1)2e(b+1)t)(1−et)+(eat−e(b+1)t) et = lim ⁡ t → 0 1 b − a + 1 ( a 2 e a t − ( b +1 )2 e ( b + 1 ) t ) ( e − t − 1 ) + ( e a t − e ( b + 1 ) t ) 2 ( e t − 1 )=\lim_{t\rightarrow0}\frac{1}{b-a+1}\frac{(a^2e^{at}-(b+1)^2e^{(b+1)t})(e^{-t}-1)+(e^{at}-e^{(b+1)t})}{2(e^{t}-1)} =t→0limb−a+112(et−1)(a2eat−(b+1)2e(b+1)t)(e−t−1)+(eat−e(b+1)t) = lim ⁡ t → 0 1 b − a + 1 ( a 3 e a t − ( b + 1 ) 3 e ( b + 1 ) t ) ( e − t − 1 ) − ( a 2 e a t −( b + 1 ) 2 e ( b + 1 ) t ) e − t + ( a e a t − ( b + 1 ) e ( b + 1 ) t ) 2 e t=\lim_{t\rightarrow0}\frac{1}{b-a+1}\frac{(a^3e^{at}-(b+1)^3e^{(b+1)t})(e^{-t}-1)-(a^2e^{at}-(b+1)^2e^{(b+1)t})e^{-t}+(ae^{at}-(b+1)e^{(b+1)t})}{2e^{t}} =t→0limb−a+112et(a3eat−(b+1)3e(b+1)t)(e−t−1)−(a2eat−(b+1)2e(b+1)t)e−t+(aeat−(b+1)e(b+1)t) = − a 2 + ( b + 1 ) 2 +a − (b + 1 ) 2 ( b − a + 1 ) =\frac{-a^2+(b+1)^2+a-(b+1)}{2(b-a+1)} =2(b−a+1)−a2+(b+1)2+a−(b+1) = − a 2 + ( b + 1 ) 2 2 ( b − a + 1 ) − 1 2 =\frac{-a^2+(b+1)^2}{2(b-a+1)}-\frac{1}{2}=2(b−a+1)−a2+(b+1)2−21 = ( b + 1 − a ) ( b + 1 +a ) 2 (b − a + 1 ) − 1 2 =\frac{(b+1-a)(b+1+a)}{2(b-a+1)}-\frac{1}{2}=2(b−a+1)(b+1−a)(b+1+a)−21 = b + 1 + a 2 − 1 2=\frac{b+1+a}{2}-\frac{1}{2} =2b+1+a−21 = b + a 2=\frac{b+a}{2} =2b+a 由于对M ′ ( t ) 求导得到M ′ ′ ( t ) ，再求M ′ ′ ( 0 ) 的方法比较繁琐，而我们只需要 t = 0 时 M 的二阶导数值，由于对M'(t)求导得到M''(t)，再求M''(0)的方法比较繁琐，而我们只需要t=0时M的二阶导数值，由于对M′(t)求导得到M′′(t)，再求M′′(0)的方法比较繁琐，而我们只需要t=0时M的二阶导数值，因此可以考虑使用 T a y l o r 公式计算M ′ ′ ( 0 ) 因此可以考虑使用Taylor公式计算M''(0) 因此可以考虑使用Taylor公式计算M′′(0) 令 1 − e t = u , t = 0 时 , u = 0 令1-e^t=u,t=0时,u=0 令1−et=u,t=0时,u=0 M ( t ) = e a t − e ( b + 1 ) t ( 1 − e t ) ( b − a + 1 )M(t)=\frac{e^{at}-e^{(b+1)t}}{(1-e^{t})(b-a+1)}M(t)=(1−et)(b−a+1)eat−e(b+1)t = 1 b − a + 1 u a −u b + 1 u =\frac{1}{b-a+1}\frac{u^a-u^{b+1}}{u}=b−a+11uua−ub+1 = 1 b − a + 1 1 + a 1 ! ( − u ) + a ( a − 1 ) 2 ! u 2 + a ( a − 1 ) ( a − 2 ) 3 ! ( − u 3 ) + o ( u 3 ) − 1 − b + 1 1 ! ( − u ) −( b + 1 ) b 2 ! u 2 − ( b + 1 ) b ( b − 1 ) 3 ! ( −u 3 ) − o ( u 3 ) u =\frac{1}{b-a+1}\frac{1+\frac{a}{1!}(-u)+\frac{a(a-1)}{2!}u^2+\frac{a(a-1)(a-2)}{3!}(-u^3)+o(u^3)-1-\frac{b+1}{1!}(-u)-\frac{(b+1)b}{2!}u^2-\frac{(b+1)b(b-1)}{3!}(-u^3)-o(u^3)}{u} =b−a+11u1+1!a (−u)+2!a(a−1)u2+3!a(a−1)(a−2)(−u3)+o(u3)−1−1!b+1(−u)−2!(b+1)bu2−3!(b+1)b(b−1) (−u3)−o(u3) = 1 b − a + 1 a 1 ! ( − u ) + a ( a −1 ) 2 ! u 2 + a ( a − 1 ) ( a − 2 ) 3 ! ( − u 3 ) + o ( u 3 ) − b + 1 1 ! ( − u ) − ( b + 1 ) b 2 ! u 2 − ( b + 1 ) b ( b − 1 ) 3 ! ( − u 3 ) u=\frac{1}{b-a+1}\frac{\frac{a}{1!}(-u)+\frac{a(a-1)}{2!}u^2+\frac{a(a-1)(a-2)}{3!}(-u^3)+o(u^3)-\frac{b+1}{1!}(-u)-\frac{(b+1)b}{2!}u^2-\frac{(b+1)b(b-1)}{3!}(-u^3)}{u} =b−a+11u1!a(−u)+2!a(a−1)u2+3!a(a−1)(a−2)(−u3)+o(u3)−1!b+1 (−u)−2!(b+1)bu2−3!(b+1)b(b−1)(−u3) = 1 b − a + 1 ( ( b + 1 − a ) + a ( a − 1 ) 2 ! u + a ( a − 1 ) ( a − 2 ) 3 ! ( − u 2 ) + o ( u 2 ) − ( b + 1 ) b2 ! u − ( b + 1 ) b ( b − 1 )3 ! ( − u 2 ) )=\frac{1}{b-a+1}((b+1-a)+\frac{a(a-1)}{2!}u+\frac{a(a-1)(a-2)}{3!}(-u^2)+o(u^2)-\frac{(b+1)b}{2!}u-\frac{(b+1)b(b-1)}{3!}(-u^2)) =b−a+11((b+1−a)+2!a(a−1)u+3!a(a−1)(a−2)(−u2)+o(u2)−2!(b+1)bu−3!(b+1)b(b−1)(−u2)) = 1 + a ( a − 1 ) − ( b + 1 ) b 2 ! ( b − a + 1 ) u + ( b +1 ) b ( b − 1 ) − a ( a − 1 ) ( a −2 )3 ! ( b −a + 1 ) u 2 + o ( u 2 ) =1+\frac{a(a-1)-(b+1)b}{2!(b-a+1)}u+\frac{(b+1)b(b-1)-a(a-1)(a-2)}{3!(b-a+1)}u^2+o(u^2) =1+2!(b−a+1)a(a−1)−(b+1)bu+3!(b−a+1)(b+1)b(b−1)−a(a−1)(a−2)u2+o(u2) 而 u = 1 − e t = − t − t 2 2 ! + o ( t 2 ) 而u=1-e^t=-t-\frac{t^2}{2!}+o(t^2) 而u=1−et=−t−2!t2+o(t2) 因此M ( t ) = 1 − a ( a − 1 ) − ( b + 1 ) b 2 ! ( b −a + 1 ) t − a ( a − 1 ) − (b + 1 ) b 2 ! ( b − a + 1 ) t 2 2 ! + ( b + 1 ) b ( b − 1 ) − a ( a − 1 ) ( a − 2 ) 3 ! ( b − a + 1 ) t 2 + o ( t 2 ) 因此M(t)=1-\frac{a(a-1)-(b+1)b}{2!(b-a+1)}t-\frac{a(a-1)-(b+1)b}{2!(b-a+1)}\frac{t^2}{2!}+\frac{(b+1)b(b-1)-a(a-1)(a-2)}{3!(b-a+1)}t^2+o(t^2) 因此M(t)=1−2!(b−a+1)a(a−1)−(b+1)bt−2!(b−a+1)a(a−1)−(b+1)b2!t2+3!(b−a+1)(b+1)b(b−1)−a(a−1)(a−2)t2+o(t2) 又因为M ( t ) = M ( 0 ) + M ′ ( 0 ) t + M ′ ′ ( 0 ) 2 ! t 2 + o ( t 2 ) 又因为M(t)=M(0)+M'(0)t+\frac{M''(0)}{2!}t^2+o(t^2) 又因为M(t)=M(0)+M′(0)t+2!M′′(0)t2+o(t2) 因此M ′ ( 0 ) = − a ( a − 1 ) − ( b + 1 ) b 2 ! ( b − a + 1 ) = a + b 2 因此M'(0)=-\frac{a(a-1)-(b+1)b}{2!(b-a+1)}=\frac{a+b}{2} 因此M′(0)=−2!(b−a+1)a(a−1)−(b+1)b=2a+b E X = M ′( 0 ) = a + b 2 EX=M'(0)=\frac{a+b}{2} EX=M′(0)=2a+b 而M ′ ′ ( 0 ) = 2 ! ∗ ( − a ( a − 1 ) − ( b +1 ) b 4 ( b − a + 1 ) + ( b + 1 ) b ( b − 1 ) − a ( a − 1 ) ( a −2 )3 ! ( b − a + 1 ) ) 而M''(0)=2!*(-\frac{a(a-1)-(b+1)b}{4(b-a+1)}+\frac{(b+1)b(b-1)-a(a-1)(a-2)}{3!(b-a+1)}) 而M′′(0)=2!∗(−4(b−a+1)a(a−1)−(b+1)b+3!(b−a+1)(b+1)b(b−1)−a(a−1)(a−2)) = a + b 2 + ( b + 1 − a ) ( b 2 + a b − b + a 2 − 2 a ) 3 ( b − a + 1 ) =\frac{a+b}{2}+\frac{(b+1-a)(b^2+ab-b+a^2-2a)}{3(b-a+1)} =2a+b+3(b−a+1)(b+1−a)(b2+ab−b+a2−2a) = a + b 2 + b 2 + a b − b + a 2 − 2 a 3=\frac{a+b}{2}+\frac{b^2+ab-b+a^2-2a}{3} =2a+b+3b2+ab−b+a2−2a = 2 a 2 + 2 b 2 + 2 a b + b − a 6 =\frac{2a^2+2b^2+2ab+b-a}{6} =62a2+2b2+2ab+b−a D X = E X 2 − ( E X ) 2 = M ′ ′ ( 0 ) − ( E X ) 2DX=EX^2-(EX)^2=M''(0)-(EX)^2DX=EX2−(EX)2=M′′(0)−(EX)2 = 2 a 2 + 2 b 2 + 2 a b + b − a 6 − a 2 + 2 a b + b 2 4=\frac{2a^2+2b^2+2ab+b-a}{6}-\frac{a^2+2ab+b^2}{4}=62a2+2b2+2ab+b−a−4a2+2ab+b2 = ( b − a + 1 ) 2 − 1 12 =\frac{(b-a+1)^2-1}{12} =12(b−a+1)2−12、伯努利分布/两点分布(Bernoulli distribution)若 X 服从伯努利分布 B ( 1 , p ) , 则 X 满足 P ( x = 1 ) = p , P ( x = 0 ) = 1 − p = q 若X服从伯努利分布B(1,p) ,则X满足P(x=1)=p, P(x=0)=1-p=q 若X服从伯努利分布B(1,p),则X满足P(x=1)=p,P(x=0)=1−p=q M ( t ) = p e t + 1 − p M(t)=pe^{t}+1-p M(t)=pet+1−p φ ( t ) = p e i t + 1 − p \varphi(t)=pe^{it}+1-pφ(t)=peit+1−p M ′ ( t ) = p e t M'(t)=pe^{t}M′(t)=pet E X = M ′ ( 0 ) = p EX=M'(0)=p EX=M′(0)=pM ′ ′ ( t ) = p e t M''(t)=pe^{t} M′′(t)=pet E X 2 = M ′ ′ ( 0 ) = p EX^{2}=M''(0)=p EX2=M′′(0)=p D X = E X 2 − ( E X ) 2 = p ( 1 − p ) DX=EX^{2}-(EX)^{2}=p(1-p) DX=EX2−(EX)2=p(1−p)3、二项分布(Binomial distribution)若 X 服从二项分布 B ( n , p ) , 则 X 满足 f ( k ; n , p ) = P ( x = k ) = C n k p k ( 1 − p ) n − k ( n 为整数 ) 若X服从二项分布B(n,p) ,则X满足f(k;n,p)=P(x=k)=C_{n}^{k}p^k(1-p)^{n-k} (n为整数) 若X 服从二项分布B(n,p),则X满足f(k;n,p)=P(x=k)=Cnkpk(1−p)n−k(n为整数) 因为服从二项分布的变量可以看作 n 个独立相同的服从伯努利分布的变量之和因为服从二项分布的变量可以看作n个独立相同的服从伯努利分布的变量之和因为服从二项分布的变量可以看作n个独立相同的服从伯努利分布的变量之和因此M ( t ) = ( p e t + 1 − p ) n 因此M(t)=(pe^{t}+1-p)^{n} 因此M(t)=(pet+1−p)n φ ( t ) = ( p e i t + 1 − p ) n \varphi(t)=(pe^{it}+1-p)^{n}φ(t)=(peit+1−p)n M ′ ( t ) = n p ( p e t + 1 − p ) n − 1 e t M'(t)=np(pe^{t}+1-p)^{n-1}e^{t}M′(t)=np(pet+1−p)n−1et E X = M ′ ( 0 ) = n pEX=M'(0)=np EX=M′(0)=np M ′ ′ ( t ) = n ( n − 1 )p 2 ( p e t + 1 − p ) n − 2 e 2 t + n p ( p e t + 1 − p ) n − 1 e t M''(t)=n(n-1)p^{2}(pe^{t}+1-p)^{n-2}e^{2t}+np(pe^{t}+1-p)^{n-1}e^{t}M′′(t)=n(n−1)p2(pet+1−p)n−2e2t+np(pet+1−p)n−1et E X 2 = M ′ ′ ( 0 ) = n ( n − 1 ) p 2 + n pEX^{2}=M''(0)=n(n-1)p^{2}+np EX2=M′′(0)=n(n−1)p2+npD X =E X 2 − ( E X ) 2 = n p ( 1 − p ) DX=EX^{2}-(EX)^{2}=np(1-p) DX=EX2−(EX)2=np(1−p)4、几何分布(Geometric distribution)若 X 服从几何分布 G e ( p ) , 则 X 满足 f ( k ; p ) = P ( x = k ) = ( 1 − p ) k − 1 p ( k = 1 , 2 , 3...... ) 若X服从几何分布Ge(p), 则X满足f(k;p)=P(x=k)=(1-p)^{k-1}p (k=1,2,3......) 若X服从几何分布Ge(p),则X满足f(k;p)=P(x=k)=(1−p)k−1p(k=1,2,3......) M ( t ) = ∑ k = 1 ∞ ( 1 − p ) k − 1 p e t kM(t)=\sum_{k=1}^{\infin}(1-p)^{k-1}pe^{tk}M(t)=k=1∑∞(1−p)k−1petk = p e t ∑ k = 1 ∞ ( ( 1 − p ) e t ) k − 1 =pe^{t}\sum_{k=1}^{\infin}((1-p)e^t)^{k-1} =petk=1∑∞((1−p)et)k−1 = p e t 1 −( 1 − p ) e t =\frac{pe^{t}}{1-(1-p)e^{t}}=1−(1−p)etpet φ ( t ) = ∑ k = 1 ∞ ( 1 − p ) k −1 p e i t k \varphi(t)=\sum_{k=1}^{\infin}(1-p)^{k-1}pe^{itk} φ(t)=k=1∑∞(1−p)k−1peitk = p e i t ∑ k = 1 ∞ ( ( 1 − p ) e i t ) k − 1=pe^{it}\sum_{k=1}^{\infin}((1-p)e^{it})^{k-1}=peitk=1∑∞((1−p)eit)k−1 = p e i t 1 − ( 1 − p ) e i t =\frac{pe^{it}}{1-(1-p)e^{it}} =1−(1−p)eitpeit M ′ ( t ) = p e t ( 1 − ( 1 − p ) e t ) 2M'(t)=\frac{pe^t}{(1-(1-p)e^t)^2}M′(t)=(1−(1−p)et)2pet E X = M ′ ( 0 ) = 1 pEX=M'(0)=\frac{1}{p} EX=M′(0)=p1 M ′ ′ ( t ) = p e t ( e t − p e t + 1 ) ( 1 − ( 1 − p ) e t ) 3M''(t)=\frac{pe^t(e^t-pe^t+1)}{(1-(1-p)e^t)^3}M′′(t)=(1−(1−p)et)3pet(et−pet+1) E X 2 = M ′ ′( 0 ) = 2 − p p 2 EX^{2}=M''(0)=\frac{2-p}{p^2}EX2=M′′(0)=p22−p D X = E X 2 − ( E X ) 2 = 1 − p p 2 DX=EX^{2}-(EX)^{2}=\frac{1-p}{p^2}DX=EX2−(EX)2=p21−p5、负二项分布(Negative binomial distribution)若 X 服从负二项分布 N B ( r , p ) , 则 X 满足 f ( k ; r , p ) = ( k + r − 1 k ) p k ( 1 − p ) r , k = 0 , 1 , 2 , 3...... 若X服从负二项分布NB(r,p), 则X满足f(k;r,p)=\binom{k+r-1}{k}p^{k}(1-p)^{r} ,k=0,1,2,3...... 若X服从负二项分布NB(r,p),则X满足f(k;r,p)=(kk+r−1)pk(1−p)r,k=0,1,2,3...... ( r 可以为实数，此时的分布称为波利亚分布 ) (r可以为实数，此时的分布称为波利亚分布) (r可以为实数，此时的分布称为波利亚分布) M ( t ) = ∑ k = 0 ∞ ( k +r − 1 k ) p k ( 1 − p ) r e t kM(t)=\sum_{k=0}^{\infin}\binom{k+r-1}{k}p^k(1-p)^re^{tk} M(t)=k=0∑∞(kk+r−1)pk(1−p)retk = ∑ k = 0 ∞ ( − 1 ) k ( − r k ) p k ( 1 − p ) r e t k=\sum_{k=0}^{\infin}(-1)^k\binom{-r}{k}p^k(1-p)^re^{tk} =k=0∑∞(−1)k(k−r)pk(1−p)retk = ∑ k = 0 ∞ ( − p e t ) k ( − r k ) ( 1 − p ) r =\sum_{k=0}^{\infin}(-pe^t)^k\binom{-r}{k}(1-p)^r =k=0∑∞(−pet)k(k−r)(1−p)r = ( 1 − p ) r ∑ k = 0 ∞ ( − p e t ) k( − r k ) 1 − r − k =(1-p)^r\sum_{k=0}^{\infin}(-pe^t)^k\binom{-r}{k}1^{-r-k} =(1−p)rk=0∑∞(−pet)k(k−r)1−r−k = ( 1 − p ) r ( 1 − p e t ) −r =(1-p)^r(1-pe^t)^{-r} =(1−p)r(1−pet)−r φ ( t ) = ∑ k = 0 ∞ ( k + r − 1 k ) p k ( 1 − p ) r e i t k \varphi(t)=\sum_{k=0}^{\infin}\binom{k+r-1}{k}p^k(1-p)^re^{itk} φ(t)=k=0∑∞(kk+r−1)pk(1−p)reitk = ∑ k = 0 ∞ ( − 1 ) k ( − r k ) p k ( 1 − p ) r e i t k =\sum_{k=0}^{\infin}(-1)^k\binom{-r}{k}p^k(1-p)^re^{itk} =k=0∑∞(−1)k(k−r)pk(1−p)reitk = ∑ k = 0 ∞ ( − p e i t ) k ( − r k ) ( 1 − p ) r=\sum_{k=0}^{\infin}(-pe^{it})^k\binom{-r}{k}(1-p)^r=k=0∑∞(−peit)k(k−r)(1−p)r = ( 1 − p ) r ∑ k = 0 ∞ ( − p e i t ) k ( − r k ) 1 − r − k =(1-p)^r\sum_{k=0}^{\infin}(-pe^{it})^k\binom{-r}{k}1^{-r-k} =(1−p)rk=0∑∞(−peit)k(k−r)1−r−k = ( 1 − p ) r ( 1 − p e i t ) − r =(1-p)^r(1-pe^{it})^{-r}=(1−p)r(1−peit)−r M ′ ( t ) = ( 1 − p ) r ( − r ) ( 1 − p e t ) − r − 1 ( − p e t ) M'(t)=(1-p)^r(-r)(1-pe^{t})^{-r-1}(-pe^t)M′(t)=(1−p)r(−r)(1−pet)−r−1(−pet) = r p ( 1 −p ) r e t ( 1 − p e t ) − r − 1 =rp(1-p)^re^t(1-pe^t)^{-r-1} =rp(1−p)ret(1−pet)−r−1 E X = M ′( 0 ) = r p 1 − p EX=M'(0)=\frac{rp}{1-p}EX=M′(0)=1−prp M ′ ′ ( t ) = r p ( 1 − p ) r e t ( 1 − p e t ) − r − 1 + r p ( 1 − p ) r e t ( − r − 1 ) ( 1 − p e t ) − r − 2 ( − p e t )M''(t)=rp(1-p)^re^t(1-pe^t)^{-r-1}+rp(1-p)^re^t(-r-1)(1-pe^t)^{-r-2}(-pe^t)M′′(t)=rp(1−p)ret(1−pet)−r−1+rp(1−p)ret(−r−1) (1−pet)−r−2(−pet) E X 2 = r p ( 1 − p ) − 1 + r ( r + 1 ) p 2 ( 1 − p ) − 2 EX^2=rp(1-p)^{-1}+r(r+1)p^2(1-p)^{-2}EX2=rp(1−p)−1+r(r+1)p2(1−p)−2 = r p ( 1 − p ) + r ( r + 1 ) p 2 ( 1 − p ) 2 =\frac{rp(1-p)+r(r+1)p^2}{(1-p)^2} =(1−p)2rp(1−p)+r(r+1)p2 = r p + r 2 p 2 ( 1 − p ) 2 =\frac{rp+r^2p^2}{(1-p)^2}=(1−p)2rp+r2p2 D X = E X 2 − ( E X ) 2 = p r ( 1 −p ) 2 DX=EX^2-(EX)^2=\frac{pr}{(1-p)^2}DX=EX2−(EX)2=(1−p)2pr6、泊松分布(Poisson distribution)若 X 服从泊松分布P ( λ ) , 则 P ( X = k ) = e− λ λ k k ! , k = 0 , 1 , 2...... 若X服从泊松分布P(\lambda),则P(X=k)=\frac{e^{-\lambda}\lambda^k}{k!},k=0,1,2...... 若X服从泊松分布P(λ),则P(X=k)=k!e−λλk,k=0,1,2...... M ( t ) = ∑k = 0 ∞ e − λ λ k k ! e t kM(t)=\sum_{k=0}^{\infin}\frac{e^{-\lambda}\lambda^k}{k!}e^{tk} M(t)=k=0∑∞k!e−λλketk = e − λ ∑ k = 0 ∞ ( λ e t ) k k ! =e^{-\lambda}\sum_{k=0}^{\infin}\frac{(\lambda e^t)^k}{k!} =e−λk=0∑∞k!(λe t)k = e − λ e λ e t =e^{-\lambda}e^{\lambda e^t} =e−λeλet= e λ ( e t − 1 ) =e^{\lambda (e^t-1)} =eλ(et−1) φ ( t ) = ∑ k = 0∞ e − λ λ k k ! e i t k\varphi(t)=\sum_{k=0}^{\infin}\frac{e^{-\lambda}\lambda^k}{k!}e^{itk} φ(t)=k=0∑∞k!e−λλk eitk = e − λ ∑ k = 0 ∞ ( λ e i t ) k k ! =e^{-\lambda}\sum_{k=0}^{\infin}\frac{(\lambdae^{it})^k}{k!} =e−λk=0∑∞k!(λe it)k = e − λ e λ e i t =e^{-\lambda}e^{\lambda e^{it}} =e−λeλeit = e λ ( e i t − 1 ) =e^{\lambda (e^{it}-1)} =eλ(eit−1) M ′ ( t ) = e λ ( e t − 1 ) λ e t M'(t)=e^{\lambda (e^t-1)}\lambda e^t M′(t)=eλ(et−1)λe t E X = M ′ ( 0 ) = λ EX=M'(0)=\lambda EX=M′(0)=λM ′ ′ ( t ) = e λ ( e t − 1 ) λ e t + e λ ( e t − 1 ) λ e tλ e t M''(t)=e^{\lambda (e^t-1)}\lambdae^t+e^{\lambda (e^t-1)}\lambda e^t\lambda e^tM′′(t)=eλ(et−1)λe t+eλ(et−1)λe tλe t E X 2 =M ′ ′ ( 0 ) = λ + λ 2EX^2=M''(0)=\lambda+\lambda^2 EX2=M′′(0)=λ+λ2 D X = E X 2 − ( E X ) 2 = λ DX=EX^2-(EX)^2=\lambdaDX=EX2−(EX)2=λ三、连续型随机变量的分布1、连续型均匀分布(Uniform distribution (continuous))若 X 服从连续型均匀分布 U ( a , b ) , 则 f( x ) = 1 b − a I [ a , b ] ( x ) 若X服从连续型均匀分布U(a,b),则f(x)=\frac{1}{b-a}I_{[a,b]}(x) 若X服从连续型均匀分布U(a,b),则f(x)=b−a1I[a,b](x) M ( t ) = ∫ a b 1 b − a e t x d x M(t)=\int_{a}^{b}\frac{1}{b-a}e^{tx}dx M(t)=∫abb−a1etxdx = 1 b − a ∫ a b e t x d x =\frac{1}{b-a}\int_{a}^{b}e^{tx}dx =b−a1∫abetxdx = 1 b − a ( 1 t e t x ∣ a b ) =\frac{1}{b-a}(\frac{1}{t}e^{tx}\mid_{a}^{b}) =b−a1(t1etx∣ab) = e t b − e t a t ( b − a ) =\frac{e^{tb}-e^{ta}}{t(b-a)} =t(b−a)etb−eta φ ( t ) = ∫ a b 1 b − a e i t x d x \varphi(t)=\int_{a}^{b}\frac{1}{b-a}e^{itx}dxφ(t)=∫abb−a1eitxdx = 1 b − a ∫ a b e i t x d x=\frac{1}{b-a}\int_{a}^{b}e^{itx}dx =b−a1∫abeitxdx = 1 b − a ( 1 i t e i t x ∣ a b ) =\frac{1}{b-a}(\frac{1}{it}e^{itx}\mid_{a}^{b}) =b−a1(it1eitx∣ab) = e i t b − e i t a i t ( b − a ) =\frac{e^{itb}-e^{ita}}{it(b-a)} =it(b−a)eitb−eita M ′ ( t ) = 1 b − a ( b e t b − a e t a ) t − ( e t b − e t a ) t 2 M'(t)=\frac{1}{b-a}\frac{(be^{tb}-ae^{ta})t-(e^{tb}-e^{ta})}{t^2} M′(t)=b−a1t2(betb−aeta)t−(etb−eta) t = 0 为M ′ ( t ) 的可去间断点，补充定义M ′ ( 0 ) = lim ⁡ t → 0 M ′ ( t ) t=0为M'(t)的可去间断点，补充定义M'(0)=\lim_{t\rightarrow0}M'(t) t=0为M′(t)的可去间断点，补充定义M′(0)=t→0limM′(t) E X = M ′ ( 0 ) = lim ⁡ t → 0 ( b e t b − a e t a ) + ( b 2 e t b − a 2 e t a ) t − ( b e t b − a e ta ) 2 t (b − a )EX=M'(0)=\lim_{t\rightarrow0}\frac{(be^{tb}-ae^{ta})+(b^2e^{tb}-a^2e^{ta})t-(be^{tb}-ae^{ta})}{2t(b-a)} EX=M′(0)=t→0lim2t(b−a)(betb−aeta)+(b2etb−a2eta)t−(betb−aeta) = lim ⁡ t → 0 ( b 2 e t b − a 2 e t a ) 2 ( b − a ) =\lim_{t\rightarrow0}\frac{(b^2e^{tb}-a^2e^{ta})}{2(b-a)} =t→0lim2(b−a)(b2etb−a2eta) = b 2 − a 2 2 ( b − a ) =\frac{b^2-a^2}{2(b-a)} =2(b−a)b2−a2 = a + b 2 =\frac{a+b}{2} =2a+b M ′ ′ ( t ) = 1 b − a ( ( b 2 e t b − a 2 e t a ) t + ( b e t b − a e t a ) −( b e t b − a e t a ) ) t − 2 ( ( b e t b − a e ta ) t − ( e tb − e t a ) ) t 3 M''(t)=\frac{1}{b-a}\frac{((b^2e^{tb}-a^2e^{ta})t+(be^{tb}-ae^{ta})-(be^{tb}-ae^{ta}))t-2((be^{tb}-ae^{ta})t-(e^{tb}-e^{ta}))}{t^3} M′′(t)=b−a1t3((b2etb−a2eta)t+(betb−aeta)−(betb−aeta))t−2((be tb−aeta)t−(etb−eta)) = 1 b − a t 2 ( b 2 e t b −a 2 e t a ) − 2 t (b e t b − a e t a ) + 2 ( e t b − e t a ) t 3 =\frac{1}{b-a}\frac{t^2(b^2e^{tb}-a^2e^{ta})-2t(be^{tb}-ae^{ta})+2(e^{tb}-e^{ta})}{t^3} =b−a1t3t2(b2etb−a2eta)−2t(betb−aeta)+2(etb−eta) t = 0 为M ′ ′ ( t ) 的可去间断点，补充定义M ′ ′ ( 0 ) = lim ⁡ t → 0 M ′ ′ ( t ) t=0为M''(t)的可去间断点，补充定义M''(0)=\lim_{t\rightarrow0}M''(t) t=0为M′′(t)的可去间断点，补充定义M′′(0)=t→0limM′′(t) E X 2 =M ′ ′ ( 0 ) = lim ⁡ t → 0 1 b − a t 2 ( b 3 e t b − a 3 e t a ) + 2 t ( b 2 e t b − a 2 e t a ) − 2 t ( b 2 e t b − a 2 e t a ) − 2 ( b e t b − a e t a ) + 2 ( b e t b − a e t a ) 3 t 2EX^2=M''(0)=\lim_{t\rightarrow0}\frac{1}{b-a}\frac{t^2(b^3e^{tb}-a^3e^{ta})+2t(b^2e^{tb}-a^2e^{ta})-2t(b^2e^{tb}-a^2e^{ta})-2(be^{tb}-ae^{ta})+2(be^{tb}-ae^{ta})}{3t^2}EX2=M′′(0)=t→0limb−a13t2t2(b3etb−a3eta)+2t(b2etb−a2eta)−2t(b2etb−a2eta)−2(betb−aeta)+2(betb−aeta) = 1 b − a lim ⁡ t → 0 t 2 ( b 3 e t b − a 3 e t a ) 3 t 2 =\frac{1}{b-a}\lim_{t\rightarrow0}\frac{t^2(b^3e^{tb}-a^3e^{ta})}{3t^2} =b−a1t→0lim3t2t2(b3etb−a3eta) = 1 b − a lim ⁡ t → 0 ( b 3 e t b − a 3 e t a ) 3=\frac{1}{b-a}\lim_{t\rightarrow0}\frac{(b^3e^{tb}-a^3e^{ta})}{3} =b−a1t→0lim3(b3etb−a3eta) = 1 b − a ( b 3 − a 3 ) 3 =\frac{1}{b-a}\frac{(b^3-a^3)}{3}=b−a13(b3−a3) = b 2 + a b + a 2 3=\frac{b^2+ab+a^2}{3} =3b2+ab+a2 D X = E X 2 − ( E X ) 2 = ( b − a ) 2 12 DX=EX^2-(EX)^2=\frac{(b-a)^2}{12} DX=EX2−(EX)2=12(b−a)22、指数分布(Exponential distribution)若 X 服从指数分布 E ( λ ) ，则 f ( x ) = λ e− λ x I [ 0 , + ∞ ) ( x ) 若X服从指数分布E(\lambda)，则f(x)=\lambda e^{-\lambdax}I_{[0,+\infin)}(x) 若X服从指数分布E(λ)，则f(x)=λe−λx I[0,+∞)(x) M ( t ) = ∫ 0 + ∞ λ e −λ x e t x d x M(t)=\int_{0}^{+\infin} \lambda e^{-\lambda x}e^{tx}dx M(t)=∫0+∞λe−λx etxdx = λ ∫ 0 + ∞ e ( t − λ ) x d x =\lambda \int_{0}^{+\infin} e^{(t-\lambda)x}dx =λ∫0+∞e(t−λ)xdx = λ t − λ ( e ( t − λ ) x ∣ 0 + ∞ ) =\frac{\lambda}{t-\lambda}(e^{(t-\lambda)x}\mid_{0}^{+\infin}) =t−λλ(e(t−λ)x∣0+∞) t < λ 时，M ( t ) = λ t − λ ( 0 − 1 ) t<\lambda时，M(t)=\frac{\lambda}{t-\lambda}(0-1) t<λ时，M(t)=t−λλ(0−1) = λ λ − t =\frac{\lambda}{\lambda-t} =λ−tλφ ( t ) = λ λ − i t \varphi(t)=\frac{\lambda}{\lambda-it}φ(t)=λ−itλM ′ ( t ) = λ ( λ − t ) 2M'(t)=\frac{\lambda}{(\lambda-t)^2} M′(t)=(λ−t)2λE X = M ′ ( 0 ) = 1 λ EX=M'(0)=\frac{1}{\lambda}EX=M′(0)=λ1 M ′ ′ ( t ) = 2 λ ( λ − t ) 3M''(t)=\frac{2\lambda}{(\lambda-t)^3}M′′(t)=(λ−t)32λ E X 2 = M ′ ′ ( 0 ) = 2 λ 2 EX^2=M''(0)=\frac{2}{\lambda^2} EX2=M′′(0)=λ22 D X = E X 2 − ( E X ) 2 = 1 λ 2 DX=EX^2-(EX)^2=\frac{1}{\lambda^2} DX=EX2−(EX)2=λ213、正态分布(Normal distribution)若 X 服从正态分布N ( μ , σ 2 ) , 则 f ( x ) = 1 2 π σ e − ( x − μ ) 2 2 σ 2 若X服从正态分布N(\mu,\sigma^2),则f(x)=\frac{1}{\sqrt{2\pi}\sigma}e^{-\frac{(x-\mu)^2}{2\sigma^2}} 若X服从正态分布N(μ,σ2),则f(x)=2πσ1e−2σ2(x−μ)2 引理 1 ：∫ − ∞ + ∞ e − t 2 2 d t = 2 π 引理1：\int_{-\infin}^{+\infin}e^{-\frac{t^2}{2}}dt=\sqrt{2\pi} 引理1：∫−∞+∞e−2t2dt=2π证明：( ∫ − ∞ + ∞ e − t 2 2 d t ) 2 = ∫ − ∞ + ∞ ∫ − ∞ + ∞ e − x 2 + y 2 2 d x d y 证明：(\int_{-\infin}^{+\infin}e^{-\frac{t^2}{2}}dt)^2=\int_{-\infin}^{+\infin}\int_{-\infin}^{+\infin}e^{-\frac{x^2+y^2}{2}}dxdy 证明：(∫−∞+∞e−2t2dt)2=∫−∞+∞∫−∞+∞e−2x2+y2dxdy = ∫ 0 2 π d θ ∫ 0 + ∞ e − r 2 2 r d r=\int_{0}^{2\pi}d\theta \int_{0}^{+\infin}e^{-\frac{r^2}{2}}rdr =∫02πdθ∫0+∞e−2r2rdr = 2 π ∫ 0 + ∞ e − r 2 2 r d r =2\pi \int_{0}^{+\infin}e^{-\frac{r^2}{2}}rdr =2π∫0+∞e−2r2rdr = 2 π ( − e −r 2 2 ∣0 + ∞ ) =2\pi (-e^{-\frac{r^2}{2}}\mid_{0}^{+\infin}) =2π(−e−2r2∣0+∞) = 2 π =2\pi =2π因此∫ − ∞ + ∞ e − t 2 2 d t = 2 π 因此\int_{-\infin}^{+\infin}e^{-\frac{t^2}{2}}dt=\sqrt{2\pi} 因此∫−∞+∞e−2t2dt=2πM ( t ) = ∫ − ∞ + ∞ 1 2 π σ e − ( x − μ ) 2 2 σ 2 e t x d x M(t)=\int_{-\infin}^{+\infin}\frac{1}{\sqrt{2\pi}\sigma}e^{-\frac{(x-\mu)^2}{2\sigma^2}}e^{tx}dx M(t)=∫−∞+∞2πσ1e−2σ2(x−μ)2etxdx = 1 2 π σ ∫ − ∞ + ∞ e −( x − μ ) 2 2 σ 2 + t x d x=\frac{1}{\sqrt{2\pi}\sigma}\int_{-\infin}^{+\infin}e^{-\frac{(x-\mu)^2}{2\sigma^2}+tx}dx =2πσ1∫−∞+∞e−2σ2(x−μ)2+txdx 令 w = x − μ σ 令w=\frac{x-\mu}{\sigma} 令w=σx−μ原式= 1 2 π ∫ − ∞ + ∞ e − w 2 2 + t ( w σ + μ ) d w 原式=\frac{1}{\sqrt{2\pi}}\int_{-\infin}^{+\infin}e^{-\frac{w^2}{2}+t(w\sigma+\mu)}dw 原式=2π1∫−∞+∞e−2w2+t(wσ+μ)dw = e μ t 1 2 π ∫ − ∞ + ∞ e − w 2 2 + t σ w d w =e^{\mut}\frac{1}{\sqrt{2\pi}}\int_{-\infin}^{+\infin}e^{-\frac{w^2}{2}+t\sigma w}dw=eμt2π1∫−∞+∞e−2w2+tσw dw = e μ t 1 2 π ∫ − ∞ + ∞ e − ( w − t σ ) 2 − t 2 σ 2 2 d w =e^{\mut}\frac{1}{\sqrt{2\pi}}\int_{-\infin}^{+\infin}e^{-\frac{(w-t\sigma)^2-t^2\sigma^2}{2}}dw=eμt2π1∫−∞+∞e−2(w−tσ)2−t2σ2dw = e μ t + t 2 σ 2 2 1 2 π ∫ − ∞ + ∞ e − ( w − t σ ) 2 2 d w=e^{\mut+\frac{t^2\sigma^2}{2}}\frac{1}{\sqrt{2\pi}}\int_{-\infin}^{+\infin}e^{-\frac{(w-t\sigma)^2}{2}}dw=eμt+2t2σ22π1∫−∞+∞e−2(w−tσ)2dw = e μ t + t 2 σ 2 2 1 2 π 2 π =e^{\mut+\frac{t^2\sigma^2}{2}}\frac{1}{\sqrt{2\pi}}\sqrt{2\p i} =eμt+2t2σ22π12π= e μ t + t 2 σ 2 2 =e^{\mu t+\frac{t^2\sigma^2}{2}} =eμt+2t2σ2 φ ( t ) = ∫ − ∞ + ∞ 1 2 π σ e −( x − μ ) 2 2 σ 2 e i t x d x \varphi(t)=\int_{-\infin}^{+\infin}\frac{1}{\sqrt{2\pi}\sigma}e^{-\frac{(x-\mu)^2}{2\sigma^2}}e^{itx}dx φ(t)=∫−∞+∞2πσ1e−2σ2(x−μ)2eitxdx = 1 2 π σ ∫ − ∞ + ∞ e − ( x − μ ) 2 2 σ 2 + i t x d x=\frac{1}{\sqrt{2\pi}\sigma}\int_{-\infin}^{+\infin}e^{-\frac{(x-\mu)^2}{2\sigma^2}+itx}dx=2πσ1∫−∞+∞e−2σ2(x−μ)2+itxdx 令 w = x − μ σ 令w=\frac{x-\mu}{\sigma} 令w=σx−μ原式= 1 2 π ∫ − ∞ + ∞ e − w 2 2 + i t ( w σ + μ ) d w 原式=\frac{1}{\sqrt{2\pi}}\int_{-\infin}^{+\infin}e^{-\frac{w^2}{2}+it(w\sigma+\mu)}dw 原式=2π1∫−∞+∞e−2w2+it(wσ+μ)dw = e i μ t 1 2 π ∫ −∞ + ∞ e − w 2 2 + i t σ w d w =e^{i\mut}\frac{1}{\sqrt{2\pi}}\int_{-\infin}^{+\infin}e^{-\frac{w^2}{2}+it\sigma w}dw=e iμt2π1∫−∞+∞e−2w2+itσw dw = e i μ t 1 2 π ∫ − ∞ + ∞ e − ( w − i t σ ) 2 + t 2 σ 2 2 d w =e^{i\mut}\frac{1}{\sqrt{2\pi}}\int_{-\infin}^{+\infin}e^{-\frac{(w-it\sigma)^2+t^2\sigma^2}{2}}dw=e iμt2π1∫−∞+∞e−2(w−itσ)2+t2σ2dw = e i μ t − t 2 σ 2 2 1 2 π ∫ − ∞ + ∞ e − ( w − i t σ ) 2 2 d w =e^{i\mu t-\frac{t^2\sigma^2}{2}}\frac{1}{\sqrt{2\pi}}\int_{-\infin}^{+\infin}e^{-\frac{(w-it\sigma)^2}{2}}dw=e iμt−2t2σ22π1∫−∞+∞e−2(w−itσ)2dw = e i μ t − t 2 σ 2 2 12 π 2 π =e^{i\mu t-\frac{t^2\sigma^2}{2}}\frac{1}{\sqrt{2\pi}}\sqrt{2\pi} =e iμt−2t2σ22π12π= e i μ t − t 2 σ 2 2 =e^{i\mu t-\frac{t^2\sigma^2}{2}} =e iμt−2t2σ2 M ′ ( t ) = eμ t + t 2 σ 2 2 ( μ + σ 2 t ) M'(t)=e^{\mut+\frac{t^2\sigma^2}{2}}(\mu+\sigma^2t)M′(t)=eμt+2t2σ2(μ+σ2t) E X = M ′ ( 0 ) = μEX=M'(0)=\mu EX=M′(0)=μM ′ ′ ( t ) = e μ t + t 2 σ 2 2 ( μ + σ 2 t ) 2 + e μ t + t 2 σ 2 2 σ 2M''(t)=e^{\mut+\frac{t^2\sigma^2}{2}}(\mu+\sigma^2t)^2+e^{\mut+\frac{t^2\sigma^2}{2}}\sigma^2 M′′(t)=eμt+2t2σ2 (μ+σ2t)2+eμt+2t2σ2σ2 E X 2 = M ′ ′ ( 0 ) = μ 2 + σ 2 EX^2=M''(0)=\mu^2+\sigma^2 EX2=M′′(0)=μ2+σ2 D X = E X 2 − ( E X ) 2 = σ 2 DX=EX^2-(EX)^2=\sigma^2 DX=EX2−(EX)2=σ2 特别地 , X 服从标准正态分布 N ( 0 , 1 ) 时特别地,X服从标准正态分布N(0,1)时特别地,X服从标准正态分布N(0,1)时 M ( t )= e t 2 2 M(t)=e^{\frac{t^2}{2}} M(t)=e2t2 φ ( t ) = e − t 2 2 \varphi(t)=e^{-\frac{t^2}{2}} φ(t)=e−2t2 E X = 0 , D X = 1 EX=0,DX=1 EX=0,DX=14、伽马分布(Gamma distribution)若 X 服从伽马分布Γ ( α , β ) ( α , β > 0 ) , 则 f ( x ) = β α Γ ( α ) x α − 1 e − β x I( 0 , + ∞ ) ( x ) 若X服从伽马分布\Gamma(\alpha,\beta)(\alpha,\beta>0),则f(x)=\frac{\beta^\alpha}{\Gamma(\alpha)}x^{\alpha-1}e^{-\beta x}I_{(0,+\infin)}(x) 若X服从伽马分布Γ(α,β)(α,β>0),则f(x)=Γ(α)βαxα−1e−βx I(0,+∞)(x) 其中，Γ ( α ) = ∫ 0 + ∞ t α − 1 e − t d t , α > 0 其中，\Gamma(\alpha)=\int_{0}^{+\infin}t^{\alpha-1}e^{-t}dt,\alpha>0 其中，Γ(α)=∫0+∞tα−1e−tdt,α>0 指数分布 E ( λ ) 是伽马分布Γ ( 1 , λ ) , χ 2 分布χ n 2 是伽马分布Γ ( n 2 , 1 2 ) 指数分布E(\lambda)是伽马分布\Gamma(1,\lambda),\chi^2分布\chi^2_n是伽马分布\Gamma(\frac{n}{2},\frac{1}{2}) 指数分布E(λ)是伽马分布Γ(1,λ),χ2分布χn2是伽马分布Γ(2n,21) M ( t ) = ∫ 0 + ∞ β α Γ ( α ) x α −1 e − β x e t x d xM(t)=\int_{0}^{+\infin}\frac{\beta^\alpha}{\Gamma(\alp ha)}x^{\alpha-1}e^{-\beta x}e^{tx}dx M(t)=∫0+∞Γ(α)βαxα−1e−βx etxdx = ∫ 0 + ∞ β α Γ ( α ) x α − 1 e ( t − β ) x d x=\int_{0}^{+\infin}\frac{\beta^\alpha}{\Gamma(\alpha)} x^{\alpha-1}e^{(t-\beta) x}dx =∫0+∞Γ(α)βαxα−1e(t−β)xdx = β α ∫ 0 + ∞ 1 Γ ( α ) x α− 1 e ( t − β ) x d x=\beta^\alpha\int_{0}^{+\infin}\frac{1}{\Gamma(\alpha) }x^{\alpha-1}e^{(t-\beta) x}dx =βα∫0+∞Γ(α)1xα−1e(t−β)xdx t < β 时，令v = ( β − t ) x ，原式= β α β − t ∫ 0 + ∞ 1 Γ ( α ) ( v β −t ) α − 1 e − v d v t<\beta时，令v=(\beta-t)x，原式=\frac{\beta^\alpha}{\beta-t}\int_{0}^{+\infin}\frac{1}{\Gamma(\alpha)}(\frac{v}{ \beta-t})^{\alpha-1}e^{-v}dv t<β时，令v=(β−t)x，原式=β−tβα∫0+∞Γ(α)1(β−tv)α−1e−vdv = ( β β − t ) α 1 Γ ( α ) ∫ 0 + ∞ v α − 1 e − v d v =(\frac{\beta}{\beta-t})^\alpha\frac{1}{\Gamma(\alpha)}\int_{0}^{+\infin}v^ {\alpha-1}e^{-v}dv =(β−tβ)αΓ(α)1∫0+∞vα−1e−vdv = ( β β − t ) α 1 Γ ( α ) Γ ( α ) =(\frac{\beta}{\beta-t})^\alpha\frac{1}{\Gamma(\alpha)}\Gamma(\alpha)=(β−tβ)αΓ(α)1Γ(α) = ( β β − t ) α=(\frac{\beta}{\beta-t})^\alpha =(β−tβ)αφ ( t ) = ( β β − i t ) α \varphi(t)=(\frac{\beta}{\beta-it})^\alpha φ(t)=(β−itβ)αM ′ ( t ) = β α ( β − t ) − α − 1 α M'(t)=\beta^\alpha(\beta-t)^{-\alpha-1}\alpha M′(t)=βα(β−t)−α−1α E X = M ′ ( 0 ) = α β EX=M'(0)=\frac{\alpha}{\beta}EX=M′(0)=βαM ′ ′ ( t ) = β α ( β − t ) − α − 2 α ( α + 1 ) M''(t)=\beta^\alpha(\beta-t)^{-\alpha-2}\alpha(\alpha+1)M′′(t)=βα(β−t)−α−2α(α+1) E X 2 = α ( α + 1 ) β 2 EX^2=\frac{\alpha(\alpha+1)}{\beta^2}EX2=β2α(α+1) D X = E X 2 − ( E X ) 2 = α β 2。

概率论笔记（四）概率分布的下期望和方差的公式总结一：期望引入：1.1离散型随机变量的期望注：其实是在等概率的基础上引申来的，等概率下的权重都是1/N。

1.2连续型随机变量的期望注意:因为连续随机变量的一个点的概率是没有意义的，所以我们需要借用密度函数，如所示，这实际上是一个期望积累的过程。

1.3期望的性质注：其中第三个性质，可以把所有的X+Y的各种情况展开，最后得出的结果就是这样的。

二：随机变量函数（复合随机）的数学期望1.理解注：其实就是复合随机变量的期望，对于离散型，其主要是每个值增加了多少倍/减少了多少倍，但是概率不变，所以公式见上面；对于连续性随机变量，其实是一样的，每个点的概率没有变，所以就是变量本身的值发货所能了改变。

三：方差引入的意义：求每次相对于均值的波动：求波动的平方和：定义：注：其实就是对X-E(X)方，求均值其实就是方差，注意这里的均值也是加权平均，所以方差其实就是一种特殊的期望。

3.1离散型随机变量的方差3.2连续性随机变量的方差3.3方差的性质注：3）4）5）等性质可以套入定义中就可以得到，这里不多说；对于独立以及协方差见后；8）的证明如下四：协方差4.1定义注:与上一个变量相比，之前是一个变量移位平方，但这里是两个变量移位相乘。

4.2离散型二维随机变量的协方差4.3连续型二维随机变量的协方差4.4二维随机变量的协方差性质注：了解即可…4.5协方差矩阵五：相关系数所以：独立必不相关，但不相关不一定独立，因为这里的不相关指的是线性不相关，可能会有其他非线性关系，具体例子找到再补充-------。

参考链接：。

协方差（Covariance）定义在概率论和统计学中，协方差用于衡量两个变量的总体误差。

而方差是协方差的一种特殊情况，即当两个变量是相同的情况。

期望值分别为E(X) = μ 与E(Y) = ν 的两个实数随机变量X与Y之间的协方差定义为：COV(X，Y)=E[(X-E(X))(Y-E(Y))]=EXY-EX*EY其中，E是期望值。

它也可以表示为：直观上来看，协方差表示的是两个变量总体误差的方差，这与只表示一个变量误差的方差不同。

如果两个变量的变化趋势一致，也就是说如果其中一个大于自身的期望值，另外一个也大于自身的期望值，那么两个变量之间的协方差就是正值。

如果两个变量的变化趋势相反，即其中一个大于自身的期望值，另外一个却小于自身的期望值，那么两个变量之间的协方差就是负值。

如果X与Y是统计独立的，那么二者之间的协方差就是0，因为两个独立的随机变量满足EXY=EXEY。

但是，反过来并不成立。

即如果X与Y的协方差为0，二者并不一定是统计独立的。

协方差cov(X,Y)的度量单位是X的协方差乘以Y的协方差。

而取决于协方差的相关性，是一个衡量线性独立的无量纲的数。

协方差为0的两个随机变量称为是不相关的。

2协方差属性两个不同参数之间的方差就是协方差若两个随机变量X和Y相互独立，则E[(X-E(X))(Y-E(Y))]=0，因而若上述数学期望不为零，则X和Y必不是相互独立的，亦即它们之间存在着一定的关系。

定义E[(X-E(X))(Y-E(Y))]称为随机变量X和Y的协方差，记作COV(X，Y)，即COV(X，Y)=E[(X-E(X))(Y-E(Y))]。

协方差与方差之间有如下关系：D(X+Y)=D(X)+D(Y)+2COV(X，Y)D(X-Y)=D(X)+D(Y)-2COV(X，Y)协方差与期望值有如下关系：COV(X，Y)=E(XY)-E(X)E(Y)。

协方差的性质：（1）COV(X，Y)=COV(Y，X)；（2）COV(aX，bY)=abCOV(X，Y)，（a，b是常数）；（3）COV(X1+X2，Y)=COV(X1，Y)+COV(X2，Y)。