数学期望的性质与条件期望
- 格式:ppt
- 大小:839.50 KB
- 文档页数:16
数学期望⽬录数学期望定义离散型随机变量ξ有分布列x1x2⋯x k⋯p1p2⋯p k⋯如果级数 ∑k x k p k绝对收敛,则记Eξ=∑k x k p k称为ξ的数学期望.定义连续型随机变量ξ有密度函数p(x) ,若∫+∞−∞|x|p(x)dx<∞ ,则称Eξ=∫+∞−∞xp(x)dx为ξ的数学期望.定义随机变量ξ有分布函数F(x) ,若∫+∞−∞|x|dF(x)<∞ ,则称Eξ=∫+∞−∞xdF(x)为ξ的数学期望.设ξ为随机变量,η=f(ξ) ,则Eη=∫+∞−∞f(y)dFξ(y)当ξ连续时有密度函数p(x) ,则Eη=∫+∞−∞f(y)p(y)dy随机变量ξ,η独⽴同分布当且仅当对任意有界连续函数f有Ef(ξ)=Ef(η) .条件期望定义设ξ=x时,η的条件分布函数为Fη|ξ(y|x) ,则条件期望为E(η|ξ=x)=∫+∞−∞ydFη|ξ(y|x)若有条件分布列pη|ξ(y j|x) ,则E(η|ξ=x)=∑j y j pη|ξ(y j|x)若有条件密度函数pη|ξ(y|x) ,则E(η|ξ=x)=∫+∞−∞ypη|ξ(y|x)dy显然,若ξ,η相互独⽴,则E(η|ξ=x)=Eη .定理条件期望E(η|ξ=x) 可看作是x的函数,记为m(x) ,则m(ξ) 是随机变量,称m(ξ) 为已知ξ时η的条件期望,记为E(η|ξ) ,从⽽条件期望的数学期望有E[E(η|ξ)]=EηProof.利⽤期望定义m(x)=E(η|ξ=x)=∫+∞−∞ypη|ξ(y|x)dy=∫+∞−∞y p(x,y) pξ(x)dy则有E[E(η|ξ)]=E(m(ξ))=∫+∞−∞m(x)pξ(x)dx代⼊即证;直观上,E(η|ξ) 为在给定的ξ下的η的期望,它是ξ的函数,再求期望时,实际上是对所有的ξ求η的期望.全期望公式当ξ为离散型随机变量,记p i=P(ξ=x i) ,则Eη=∑i p i E(η|ξ=x i)[] Loading [MathJax]/jax/element/mml/optable/BasicLatin.js它是上⾯等式的直接推导.性质加法性质:Eξ1,⋯,Eξn存在,则∀c1,⋯,c n及b,有En∑i=1c iξi+b=n∑i=1c i Eξi+b乘法性质:若ξ1,⋯,ξn相互独⽴,Eξ1,⋯,Eξn存在,则E(ξ1⋯ξn)=Eξ1⋯Eξn有界收敛定理:设∀ω∈Ω有lim,且\forall n\ge 1,\ |\xi_n|\le M,则\lim_{n\to\infty}E\xi_n = E\xiE(h(\xi)\eta|\xi) = h(\xi)E(\eta|\xi) .柯西-施⽡茨不等式:|E(XY|Z)|\le \sqrt{E(X^2|Z)}\cdot \sqrt{E(Y^2|Z)} .⽅差定义称\xi-E\xi为\xi关于均值E\xi的离差,若E(\xi-E\xi)^2存在有限,则称其为\xi的⽅差,记作Var\xi或D\xiVar\xi = E(\xi-E\xi)^2 = E\xi^2 - (E\xi)^2为了统⼀量纲,有时使⽤标准差\sqrt{Var\xi} .切⽐雪夫不等式若⽅差存在,则\forall \epsilon>0,有P(|\xi-E\xi|\ge\epsilon)\le\dfrac{Var\xi}{\epsilon^2}Proof.⾮常巧妙的放缩法\begin{aligned} P(|\xi-E\xi|\ge\epsilon) &= \int_{|x-E\xi|\ge\epsilon}dF(x)\\ &\le \int_{|x-E\xi|\ge\epsilon}\dfrac{(x-E\xi)^2}{\epsilon^2}dF(x)\\ &\le \int_{-\infty}^{+\infty}\dfrac{(x-E\xi)^2}{\epsilon^2}dF(x)\\ &= \dfrac{1}{\epsilon^2}\int_{-\infty}^{+\infty}(x-E\xi)^2dF(x)\\ &= \dfrac{Var\xi}{\epsilon^2} \end{aligned}切⽐雪夫不等式说明\xi离均值E\xi的距离,被⽅差所控制,即\xi落在(E\xi-\epsilon,E\xi+\epsilon)的概率⼤于1-\frac{Var\xi}{\epsilon^2} .性质Var\xi = 0 \Leftrightarrow P(\xi=c)=1;切⽐雪夫不等式的直接推论.Var(c\xi+b) = c^2Var\xi .Var\xi \le E(\xi-c)^2 .加法性质:Var\left(\sum_{i=1}^n\xi_i\right) = \sum_{i=1}^nVar\xi_i + 2 \sum_{1\le i<j\le n} Cov(\xi_i,\xi_j)若\xi_1,\cdots,\xi_n两两独⽴,则Var\left(\sum_{i=1}^n\xi_i\right) = \sum_{i=1}^nVar\xi_i此时Cov(\xi_i,\xi_j) = 0 .协⽅差定义设\xi_i,\xi_j有联合分布F_{ij}(x,y),若E|(\xi_i-E\xi_i)(\xi_j-E\xi_j)|<\infty,称E(\xi_i-E\xi_i)(\xi_j-E\xi_j) = \int_{-\infty}^{+\infty}\int_{-\infty}^{+\infty}(x-E\xi_i)(y-E\xi_j)dF_{ij}(x,y)为\xi_i,\xi_j的协⽅差,记作Cov(\xi_i,\xi_j) .性质Cov(\xi,\eta) = Cov(\eta,\xi) = E\xi\eta-E\xi E\eta\begin{aligned} E(\xi-E\xi)(\eta-E\eta) &= \int_{-\infty}^{+\infty}\int_{-\infty}^{+\infty}(x-E\xi)(y-E\eta)dF(x,y)\\ &= \int_{-\infty}^{+\infty}\int_{-\infty}^{+\infty}(xy-xE\eta-yE\xi+E\xi E\eta)dF(x,y)\\ &= E\xi\eta - 2E\xi E\eta + E\xi E\eta = E\xi\eta - E\xi E\eta \end{aligned}加法性质:Cov\left(\sum_{i=1}^n\xi_i,\eta\right) = \sum_{i=1}^nCov(\xi_i,\eta)Cov(a\xi+c,b\xi+d) = abCov(\xi,\eta) .Cov(\xi,\eta) \le \sqrt{Var\xi}\sqrt{Var\eta} .Cov(a\xi+b\eta,c\xi+d\eta) = acCov(\xi,\xi) + (ad+bc)Cov(\xi,\eta) + bdCov(\eta,\eta) .协⽅差矩阵协⽅差矩阵的元素是随机向量各分量两两之间的协⽅差B = E(\xi-E\xi)(\xi-E\xi)^T = \left( \begin{matrix} b_{11} & b_{12} & \cdots & b_{1n}\\ b_{21} & b_{22} & \cdots & b_{2n}\\ \vdots & \vdots & \ddots & \vdots\\ b_{n1} & b_{n2} & \cdots & b_{nn}\\ \end{matrix} \right),\quad b_{ij} = Cov(\xi_i,\xi_j)容易看出B对称半正定.若有变换\eta = C\xi,则有EC(\xi-E\xi)(C(\xi-E\xi))^T = CBC^T为\eta的协⽅差矩阵.⼆维随机向量的协⽅差矩阵C = \left( \begin{matrix} Var\xi & E\xi\eta - E\xi E\eta\\ E\xi\eta - E\xi E\eta & Var\eta \end{matrix} \right)相关系数的计算r_{\xi,\eta} = \dfrac{Cov(\xi,\eta)}{\sqrt{Var\xi Var\eta}}相关系数为0则不相关.相关系数定义令\xi^* = (\xi-E\xi)/\sqrt{Var\xi},\ \eta^* = (\eta-E\eta)/\sqrt{Var\eta},称r_{\xi\eta} = Cov(\xi^*,\eta^*) = E\xi^*E\eta^*为\xi,\eta的相关系数.柯西-施⽡茨不等式()任意随机变量\xi,\eta有|E\xi\eta|^2\le E\xi^2E\eta^2等式成⽴当且仅当\exists t_0,\ \mathrm{s.t.}\ P(\eta=t_0\xi) = 1 .Proof.考虑u(t) = E(\eta-t\xi)^2 = t^2E\xi^2-2tE\xi\eta+E\eta^2\ge 0,分析判别式即可.性质|r_{\xi\eta}| \le 1,并且当|r_{\xi\eta}| = 1,称\xi,\eta以概率1线性相关;若|r_{\xi\eta}| = 0,称\xi,\eta不相关.若⽅差有限,则有等价条件Cov(\xi,\eta) = 0\xi,\eta不相关E\xi\eta = E\xi E\etaVar(\xi+\eta) = Var\xi + Var\eta若\xi,\eta独⽴,且它们⽅差有限,则\xi,\eta不相关.对⼆元正态随机向量,两个分量不相关与独⽴等价.矩⽅差、协⽅差本质上都是对随机变量分布分离程度的度量,可以⽤矩的概念进⾏推⼴.原点矩:m_k=E\xi^k,称为k阶原点矩中⼼距:c_k = E(\xi-E\xi)^k,称为k阶中⼼矩绝对矩:M_{\alpha} = E|\xi|^{\alpha},\ \alpha\in\mathbb{R},称为\alpha阶绝对矩。
均值、方差和协方差的定义和基本性质1 数学期望(均值)的定义和性质定义:设离散型随机变量X 的分布律为{}, 1,2,k k P X x p k === 若级数1k k k xp ∞=∑绝对收敛,则称级数1k k k xp ∞=∑的和为随机变量X 的数学期望,记为()E X 。
即()1k k k E X x p ∞==∑。
设连续型随机变量X 的概率密度为()f x ,若积分()xf x dx ∞−∞⎰ 绝对收敛,则称积分()xf x dx ∞−∞⎰的值为随机变量X 的数学期望,记为()E X 。
即 ()()E X xf x dx ∞−∞=⎰ 数学期望简称期望,又称为均值。
性质:下面给出数学期望的几个重要的性质(1)设C 是常数,则有()E C C =;(2)设X 是一个随机变量,C 是常数,则有()()E CX CE X =;(3)设X 和Y 是两个随机变量,则有()()()E X Y E X E Y +=+,这一性质可以推广至任意有限个随机变量之和的情况;(4)设X 和Y 是相互独立的随机变量,则有()()()E XY E X E Y =。
2 方差的定义和性质定义:设X 是一个随机变量,若(){}2E X E X −⎡⎤⎣⎦存在,则称(){}2E X E X −⎡⎤⎣⎦为X的方差,记为()D X 或()Var X ,即性质:下面给出方差的几个重要性质(1)设C 是常数,则有()0D C =;(2)设X 是一个随机变量,C 是常数,则有()()2D CX C D X =,()()D X C D X +=;(3)设X 和Y 是两个随机变量,则有()()()()()()(){}2D X Y D X D Y E X E X Y E Y +=++−−特别地,若X 和Y 相互独立,则有()()()D X Y D X D Y +=+ (4)()0D X =的充分必要条件是以概率1取常数()E X ,即(){}1P X E X ==。
随机过程中的条件期望应用随机过程是随机事件随着时间变化的数学模型。
它是概率论与统计学中的重要概念,被广泛应用于各个领域。
在随机过程中,条件期望是一个有用的工具,用来描述在给定一些条件的情况下,某个事件的平均值或期望值。
1. 条件期望的定义在随机过程中,条件期望是指在给定一些条件时,某个事件的平均值。
设X是一个随机变量,Y是另一个随机变量。
那么给定随机变量Y=y的条件下,X的条件期望E(X|Y=y)是在Y=y的条件下,X的平均值。
2. 条件期望的性质条件期望具有以下性质:- 线性性质:设a和b是实数,X和Y是随机变量,那么E(aX+bY|Y=y) = aE(X|Y=y) + bE(Y|Y=y)。
- 独立性质:如果X和Y是相互独立的随机变量,那么E(X|Y=y) = E(X)。
- 保持性质:如果X是一个可测函数,那么E(f(X)|Y=y) =f(E(X|Y=y))。
3. 条件期望在随机过程中的应用条件期望在随机过程中有广泛的应用,以下是其中的一些例子:3.1. 马尔可夫链马尔可夫链是一种随机过程,具有马尔可夫性质,即给定了前一个状态,下一个状态只依赖于当前状态。
在马尔可夫链中,条件期望可以用来计算给定当前状态的条件下,下一个状态的期望。
3.2. 随机游走随机游走是一种随机过程,表示随机漫步的模型。
在随机游走中,条件期望可以用来计算在给定当前位置的条件下,下一步移动的期望。
3.3. 排队论排队论是研究等待行列和相互竞争的问题的数学理论。
在排队论中,条件期望可以用来计算在给定一些条件下,等待时间、系统负载等指标的期望。
3.4. 信号处理在信号处理中,条件期望可以用来计算在给定一些条件下,信号的平均能量、功率等指标的期望。
4. 实际应用举例条件期望在实际应用中有着广泛的应用,以下是一些例子:4.1. 股票市场在股票市场中,投资者可以使用条件期望来估计某只股票未来的收益。
根据给定的一些条件,比如公司的财务状况、行业发展趋势等,可以计算出某只股票未来的收益的期望值。
5.数学期望的基本性质利用数学期望的定义可以证明,数学期望具有如下基本性质:设ξ, η为随机变量,且E(ξ),E(η)都存在,a,b,c为常数,则性质1.E(c)=c;性质2.E(aξ)=aE(ξ);性质3.E(a+ξ)=E(ξ)+a;性质4.E(aξ+b)=aE(ξ)+b;性质5. E(ξ+η)=E(ξ)+E(η).例3.5.7设随机变量X的概率分布为:P(X =k)=0.2 k =1,2,3,4,5.求E(X),E(3X+2).解. ∵P(X=k)=0.2 k=1,2,3,4,5∴由离散型随机变量的数学期望的定义可知E(X)=1×0.2+2×0.2+3×0.2+4×0.2+5×0.2=3,E(3X+2)=3E(X)+2=11.例3.5.8. 设随机变量X的密度函数为:求E(X),E(2X-1).解.由连续型随机变量的数学期望的定义可知=-1/6+1/6=0.∴E(2X-1)=2E(X)-1=-1.我们已经学习了离散型随机变量和连续型随机变量的数学期望,在随机变量的数字特征中,除数学期望外,另一重要的数字特征就是方差.4.1.2 数学期望的性质(1)设是常数,则有。
证把常数看作一个随机变量,它只能取得唯一的值,取得这个值的概率显然等于1。
所以,。
(2)设是随机变量,是常数,则有。
证若是连续型随机变量,且其密度函数为。
当是离散型随机变量的情形时,将上述证明中的积分号改为求和号即得。
(3)设都是随机变量,则有。
此性质的证明可以直接利用定理4.1.2,我们留作课后练习。
这一性质可以推广到有限个随机变量之和的情况,即。
(4)设是相互独立的随机变量,则。
证仅就与都是连续型随机变量的情形来证明。
设的概率密度分别为和,的联合概率密度为,则因为与相互独立,所以有。
由此得此性质可以推广到有限个相互独立的随机变量之积的情况。
例4.1.2 倒扣多少分?李老师喜欢在考试中出选择题,但他知道有些学生即使不懂哪个是正确答案也会乱撞一通,随便选一个答案,以图侥幸。
数学期望的性质
‘随机变量‘:是我们关注的目标事件可能发生的结果,即x 代表了事件所能取到的值。
比如:扔骰子这个事件,x能取到1~6。
‘随机变量函数‘:是我们在关注一些事件后,想在其基础继续挖掘一些有用信息所采用的手段,人们常常可以通过构造一个函数g(x)的办法来实现这个目的,而这个手段的结果就是在基本事件x的基础上构造了一个新的事件m,事件m和x 的关系通过g(x)来实现。
比如还是扔骰子的例子:我构造了一个3x,代表我想研究扔完骰子后能取到3~18值的可能性。
这里3x就是我构造的函数g(x),也是不同于x的一个新事件m。
当然由于我不同的关注目的,我可以构造各种各样的函数g(x),而g(x)=3x,它是一个比较简单的线性函数。
‘数学期望’:是我们关注的一个事件可能取到结果的平均值。
它有一个基本的性质,e(x+y)=e(x)+e(y),即两个事件x,y的‘和事件’的数学期望,等于这两个事件各自数学期望的和,这个性质可以从数学期望的定义式的角度理解,可以先把它记住。
那么,对于所谓的‘期望的线性性质’,实际上是我在基本事件x,y的基础上,通过构造两个线性函数的方法,形成了两个新事件ax和by,那么根据上面的性质显然有e(ax+by)=e (ax)+e(by),同时由于我构造的是线性函数,结合‘数学期望是随机变量结果的平均值’这一基本概念,显然有e (ax)+e(by)=ae(x)+b(y),两个式子结合一下就好了。
所以,这个线性性质并没有那么神秘,而是把线性函数的特性和数学期望的性质结合起来产生的一个结论,没必要死记硬背。
对个人来说,理解事件的本质,解释上述概念的一些原理才是最重要的。
概率中数学期望的变式应用1. 引言1.1 概率中数学期望的变式应用概率中数学期望是概率论中的一个重要概念,通常用来衡量随机变量的平均值。
在实际问题中,除了简单的期望计算外,还会涉及到一些变式的应用,如条件期望、随机变量的函数的期望等。
这些变式应用能够更加深入地挖掘随机变量的特性,为问题的解决提供更多的参考依据。
在接下来的我们将逐一介绍这些内容,通过案例分析和推导论证,展示概率中数学期望的变式应用的重要性和实用性。
在我们将对概率中数学期望的变式应用进行总结,并展望未来的研究方向,希望能够为相关领域的研究和应用提供一些参考和启发。
的研究将在不断的探索中不断取得新的进展和成果,为概率论的发展和应用贡献力量。
2. 正文2.1 条件期望的定义与性质条件期望是概率论中一个重要的概念,它描述了在已知一些附加信息的情况下,对随机变量的平均预测值。
其定义如下:对于给定的事件A,条件期望E(X|A)是指在A发生的情况下,随机变量X的取值的加权平均值。
具体来说,条件期望满足以下性质:1. 非负性:对于任意随机变量X和事件A, E(X|A) >= 02. 线性性:对于任意随机变量X和Y以及常数a,b,有E(aX + bY | A) = aE(X|A) + bE(Y|A)3. 常数性:如果X是A可测的,那么E(X|A) = X4. 独立性:如果X和Y是独立的随机变量,那么E(X|Y) = E(X)在实际计算中,条件期望的计算方法涉及到对样本空间的划分和概率计算。
通常采用的方法包括利用条件概率和辅助变量的方法。
通过对条件期望的计算,我们可以更好地理解随机变量之间的关系,为问题的解决提供更有效的方法。
条件期望在概率论中有着重要的应用,能够帮助我们更好地理解随机变量之间的关系,为问题的建模和求解提供了重要的工具。
通过对条件期望的深入研究和应用,我们可以进一步拓展概率论的应用领域,为未来的研究提供更多的可能性和方向。
2.2 条件期望的计算方法条件期望的计算方法可以根据不同情况进行分类和求解。
期望与方差的性质及应用期望与方差是概率论中两个重要的概念,用于描述一个随机变量的特征。
以下是对期望与方差的性质及其在实际应用中的一些例子。
1. 期望的性质期望是随机变量取值的加权平均,表示了变量的中心位置。
其性质如下:- 线性性质:对于两个随机变量X和Y,和常数a,b,有E(aX + bY) = aE(X) + bE(Y)。
这个性质是期望的一个重要特点,它使得我们可以将复杂的问题简化为线性组合。
- 常数性质:对于一个常数c,E(c) = c。
这表示常数的期望等于常数本身。
- 单调性:如果随机变量X和Y满足X ≤Y,那么E(X) ≤E(Y)。
这个性质说明了期望的顺序性。
2. 期望的应用- 对于离散型随机变量,期望的应用很广泛。
例如,我们可以用期望来求解投掷一枚骰子的平均点数,以及计算购买彩票的预期收益。
期望还可以用于计算游戏的平均盈亏。
- 在连续型随机变量中,期望可以用于计算概率密度函数下的面积。
例如,我们可以用期望来计算某个地区的平均降雨量,或者计算某个产品的平均寿命。
期望还可以用于求解连续概率分布的中位数和众数。
3. 方差的性质方差是随机变量与其期望之间差异的平方的期望,用于衡量变量的离散程度。
其性质如下:- 线性性质:对于两个随机变量X和Y,和常数a,b,有Var(aX + bY) = a^2Var(X) + b^2Var(Y)。
这个性质表示方差与常数放缩相关。
- 非负性:方差始终大于等于0,即Var(X) ≥0。
- 方差的开方称为标准差,它表示了随机变量的离散程度。
标准差越大,表示随机变量的取值越分散。
4. 方差的应用- 方差可以用于评估一个投资组合的风险。
在投资领域中,投资者往往希望选择一个方差较小的投资组合,以降低风险。
- 方差还可以用于评估统计模型的拟合程度。
在回归分析中,我们可以通过计算残差的方差来评估模型的质量。
- 方差还可以用于度量数据的波动性。
例如,股票市场中的波动性可通过计算股价的方差来进行衡量。