随机变量的几种收敛及其相互关系
- 格式:doc
- 大小:1.20 MB
- 文档页数:23
§4.2随机变量序列的两种收敛性在上一节中,我们从频率的稳定性出发,引入了n η=∑=n i i n 11ξ−→−p a (n ∞→) 即随机变量序列{}n η依概率收敛于常数a 这么一个概念。
我们自然可以把所讨论的问题推广到a 不是一个常数,而是一个随机变量这样的情形,于是需要引入下面的定义。
定义4.2 设有一列随机变量1η,2η,3η,…,n η,如果对任意的ε>0,都有 lim ∞→n P ()εηη<-n (4.6)则称随机变量序列{}n η依概率收敛于η,并记作lim ∞→n r η−→−p η 或n η−→−p η (n ∞→) 由此可知,前一节中讨论过的大数定律只是上述依概率收敛的一种特殊情况。
我们已经知道分布函数全面地描述了随机变量的统计规律,如果已知n η−→−p η(n ∞→),那么它们相应的分布函数n F (x )与F (x )之间的关系会有什么样的关系呢?一个猜测是,对所有的x ,都有n F (x )→ F (x )(n ∞→)成立,这个猜测对不对呢?让我们看一个很简单的例子。
例4.2 设η,n η都是服从退化分布的随机变量,且P (η=0)=1,P (n η=-n 1)=1,n=1,2,… 于是对任给的ε>0,当n>ε1时有 P (ηη-n ≥ε)=P (n η≥ε)=0所以n η−→−p η (n ∞→) 成立。
又设η,n η的分布函数分别为F (x ),n F (x ),则F (x )=⎩⎨⎧≤>0,20,1x xF (x )=⎪⎩⎪⎨⎧-≤->n x n x 1,21,1 显然,当x ≠0时,lim ∞→n n F (x )= F (x )成立,当x=0时,lim ∞→n n F (0)=lim ∞→n 1=1≠0= F (0) 这个简单的例子表明,一个随机变量序列依概率收敛于某一个随机变量,相应的分布函数列不一定是在每一点上都收敛于这个随机变量的分布函数的。
均方收敛依概率收敛依分布收敛《均方收敛依概率收敛依分布收敛:概念与应用》一、引言均方收敛、概率收敛和分布收敛是概率论和数理统计中的重要概念,它们在各种领域都有着广泛的应用。
本文将分别介绍这三种收敛方式,并探讨它们的异同点及其在实际问题中的应用。
二、均方收敛的定义及性质1. 均方收敛的定义均方收敛是指在均方意义下的收敛,即对于随机变量序列{X_n}和X,当n趋于无穷大时,有E[(X_n - X)^2]趋于0,则称{X_n}在均方意义下收敛于X。
2. 均方收敛的性质(1)均方收敛蕴含概率收敛。
(2)均方有界序列有子列在概率意义下收敛。
三、概率收敛的定义及定理1. 概率收敛的定义概率收敛是指对于随机变量序列{X_n}和X,当n趋于无穷大时,有P(|X_n - X| > ε)收敛于0(其中ε为任意小的正数),则称{X_n}在概率意义下收敛于X。
2. 概率收敛的定理切比雪夫不等式、依概率收敛的夹逼定理等。
四、分布收敛的定义及特性1. 分布收敛的定义分布收敛是指对于随机变量序列{X_n}和X,当n趋于无穷大时,有F_n(x)收敛于F(x),则称{X_n}在分布意义下收敛于X。
2. 分布收敛的特性(1)随机变量序列的分布收敛与其对应的分布函数的收敛。
(2)分布收敛蕴含概率收敛,但一般不蕴含均方收敛。
五、均方收敛、概率收敛和分布收敛的关系1. 关系概述均方收敛比概率收敛更强,概率收敛比分布收敛更弱。
2. 举例说明以随机变量序列的不同收敛方式为例,比如正态分布的中心极限定理,可以辅助理解三种收敛方式之间的关系。
六、应用举例通过一些实际问题的案例,如大数定律、中心极限定理等,展示均方收敛、概率收敛和分布收敛在实际问题中的应用。
七、结语总结三种收敛方式的特点和应用场景,强调在实际问题中选择合适的收敛方式的重要性。
以上是本文对于均方收敛、概率收敛以及分布收敛的深入探讨,通过对三种收敛方式的逐一介绍以及它们的相互关系和应用举例,希望读者能对这一概念有一个更深入的理解,并能在实际问题中灵活运用。
论文摘要概率是对大量随机现象的考察中显现出来的,而对于大量的随机现象的描述就要采用极限的方法。
概率统计中的极限定理研究的是随机变量序列的某种收敛性,对随机变量收敛性不同定义将导致不同的极限定理,而随机变量的收敛性的确可以有各种不同的定义。
主要讨论了依概率收敛与依分布收敛,r阶收敛与几乎处处收敛,几乎处处收敛与依概率收敛之间的关系。
给出了由依概率收敛推出几乎处处收敛的条件和由依概率收敛推出r阶收敛的条件,从而比较完全地说明了随机变量序列的各种收敛性之间的关系。
本论文将对随机变量的几种收敛作出较为简单扼要的介绍和讨论.论文结构如下:一、随机变量的几种收敛的概念理论;二、随机变量的几种收敛之间的关系;从以上几个方面对随机变量的几种收敛理论简明扼要地分析,说明随机变量序列收敛理论在实际问题中的应用范围之广,在实际生活中的重要性。
关键词:r阶收敛;几乎处处收敛;依概率收敛;依分布收敛。
AbstractThe Probability is the study of a large number of random phenomena emerge, but for a large number of random phenomena should use extreme methods described. Probability and statistics in the limit theorem is a sequence of random variables convergence, convergence of random variables with different definitions lead to different limit theorem, and indeed the convergence of random variables can have different definitions. Mainly discussed convergence in probability and convergence in distribution, convergence in order r and almost everywhere convergence, almost sure convergence and convergence in probability relationship. Convergence in probability is given by the launch of almost everywhere convergence of conditions and the convergence in probability by the introduction of r-order convergence conditions, which more completely describes the various random variables convergence relationship.This paper will make the convergence of several random variables is more brief presentations and discussions. Paper is structured as follows:1. Convergence of random variables the concept of theory;2. the convergence of several random variables between;From the above aspects of the theory of random variables of several brief analysis of convergence shows that the convergence theory of random variables in the actual problems in the wide range of applications, in real life importance.Keywords: convergence in order r ; almost everywhere or almost surely; convergence in probability; convergence in distribution.目录引言: (4)1 几种收敛性定义 (4)2 依概率收敛与依分布收敛的关系 (5)3 r阶收敛与几乎处处收敛的关系 (11)4 依概率收敛与r阶收敛的关系 (13)5 几乎处处收敛与依概率收敛和依分布收敛的关系 (17)总结 (19)四种收敛性 (19)四种收敛蕴涵关系 (19)致谢 (21)参考文献 (22)引言:概率论最早产生于17世纪,本来是保险事业的发展而产生的,但是来自于赌博者的请求,却是数学家们思考概率论中问题的源泉。
(完整版)8-第五章⼤数定律和中⼼极限定理解析第五章⼤数定律和中⼼极限定理⼤数定律和中⼼极限定理是概率论中两类极限定理的统称,前者是从理论上证明随机现象的“频率稳定性”,并进⼀步推⼴到“算术平均值法则”;⽽后者证明了独⽴随机变量标准化和的极限分布是正态分布或近似正态分布问题,这两类极限定理揭⽰了随机现象的重要统计规律,在理论和应⽤上都有很重要的意义。
§5.1 ⼤数定律设ΛΛ,,,,21n X X X 是互相独⽴的⼀列随机变量,每个随机变量取值于⼆元集合{0,1},并有相同的概率分布函数()()0,1,1j j P X q P X p p q ====+=易计算它们的数学期望和⽅差为 (),()j j E X p D X pq ==如果取这些j X 的部分和 n n X X X S +++=Λ21并考虑它们的平均值∑==n j j n n Xn S 1/)(/,易知它的数学期望和⽅差为;nnS S pq E p D n n n == ? ?利⽤定理4.2.13给出的切⽐雪夫不等式可知:对任何⼀个正数t 有2n S pq P p t n t n-≥≤ ? 令∞→n ,有2lim lim 0n n n S pq P p t n t n→∞→∞??-≥≤= 即lim 0n n S P p t n →∞??-≥=(5.1.1) 可见当n 很⼤时,部分和的平均值/n S n 与p 相距超过任何⼀个数0>t 的概率都很⼩,⽽当∞→n 时, 这个概率趋于0。
(5.1.1)式的结果称为弱⼤数定律,也称伯努利⼤数定律, 因为这个定律是伯努利在1713年⾸先证明的,是从理论上证明随机现象的频率具有稳定性的第⼀个定律。
注意式(5.1.1)等价于lim 1n n S P p t n →∞??-≤=(5.1.2) 把它完整地叙述如以下定理:定理5.1.1(伯努利⼤数定律)设ΛΛ,,,,21n X X X 是互相独⽴的取值于⼆元集合{0,1}的⼀列随机变量,并有相同的概率分布函数()()0,1,1j j P X q P X p p q ====+=⼜设 n n X X X S +++=Λ21则 lim 0n n S P p t n →∞??-≥=或等价地lim 1n n S P p t n →∞??-≤=。
连续分布函数的弱收敛和以概率收敛的关系连续分布函数的弱收敛和以概率收敛的关系是概率论中一个比较重要的概念。
在这篇文章中,我将解释这个概念并探讨这两种收敛方式之间的联系和区别。
为了更好地了解弱收敛和以概率收敛的定义,我们需要先了解一些基本的概念。
连续随机变量是指一个随机变量X的取值可以是整个实数范围内的任意一个数,即它的概率密度函数在整个实数轴上都存在定义。
而连续分布函数F(x)是指X≤x 时的概率值,即P(X≤x),也可以看作是 X 的一个函数。
弱收敛是指随着样本量的增加,一组概率分布函数F_n(x)的较弱概率收敛于概率分布函数F(x)。
具体来说,若对于任意的x∈R,有:lim_n→∞ F_n(x) = F(x)则称F_n(x)弱收敛于F(x)。
弱收敛的限制条件比较弱,也就是说,即使在一些情况下F_n(x)不趋近于F(x),它仍然可以被看作是弱收敛的。
与此相反,以概率收敛是指随着样本量的增加,一组概率分布函数F_n(x)的较强概率收敛于概率分布函数F(x)。
具体来说,若对于任意的δ>0,有:lim_n→∞ P{|F_n(x)−F(x)|>δ} = 0则称F_n(x)以概率收敛于F(x)。
这种类型的收敛要求更严格,因为它需要确保收敛的概率趋近于1。
接下来我们来看两种收敛方式的关系。
实际上,可以证明在很多情况下,弱收敛和以概率收敛实际上是等价的。
也就是说,如果一个概率分布函数F_n(x)弱收敛于F(x),那么它也必定以概率收敛于F(x)。
反之亦然。
为了更好地理解这两种收敛方式之间的关系和区别,以下是一个简单的例子:假设一个连续随机变量X的概率密度函数如下所示:f(x) = { 2x, 0≤x≤1 0,其他情况 }然后定义一组随机变量S_n=X_1+X_2+...+X_n,其中X_i是独立同分布的随机变量,其概率密度函数与X相同。
现在,让我们仔细观察一下这组随机变量的弱收敛和以概率收敛情况。
论文摘要概率是对大量随机现象的考察中显现出来的,而对于大量的随机现象的描述就要采用极限的方法。
概率统计中的极限定理研究的是随机变量序列的某种收敛性,对随机变量收敛性不同定义将导致不同的极限定理,而随机变量的收敛性的确可以有各种不同的定义。
主要讨论了依概率收敛与依分布收敛,r阶收敛与几乎处处收敛,几乎处处收敛与依概率收敛之间的关系。
给出了由依概率收敛推出几乎处处收敛的条件和由依概率收敛推出r阶收敛的条件,从而比较完全地说明了随机变量序列的各种收敛性之间的关系。
本论文将对随机变量的几种收敛作出较为简单扼要的介绍和讨论.论文结构如下:一、随机变量的几种收敛的概念理论;二、随机变量的几种收敛之间的关系;从以上几个方面对随机变量的几种收敛理论简明扼要地分析,说明随机变量序列收敛理论在实际问题中的应用范围之广,在实际生活中的重要性。
关键词:r阶收敛;几乎处处收敛;依概率收敛;依分布收敛。
AbstractThe Probability is the study of a large number of random phenomena emerge, but for a large number of random phenomena should use extreme methods described. Probability and statistics in the limit theorem is a sequence of random variables convergence, convergence of random variables with different definitions lead to different limit theorem, and indeed the convergence of random variables can have different definitions. Mainly discussed convergence in probability and convergence in distribution, convergence in order r and almost everywhere convergence, almost sure convergence and convergence in probability relationship. Convergence in probability is given by the launch of almost everywhere convergence of conditions and the convergence in probability by the introduction of r-order convergence conditions, which more completely describes the various random variables convergence relationship.This paper will make the convergence of several random variables is more brief presentations and discussions. Paper is structured as follows:1. Convergence of random variables the concept of theory;2. the convergence of several random variables between;From the above aspects of the theory of random variables of several brief analysis of convergence shows that the convergence theory of random variables in the actual problems in the wide range of applications, in real life importance.Keywords: convergence in order r ; almost everywhere or almost surely; convergence in probability; convergence in distribution.目录引言: (4)1 几种收敛性定义 (4)2 依概率收敛与依分布收敛的关系 (5)3 r阶收敛与几乎处处收敛的关系 (11)4 依概率收敛与r阶收敛的关系 (13)5 几乎处处收敛与依概率收敛和依分布收敛的关系 (17)总结 (19)四种收敛性 (19)四种收敛蕴涵关系 (19)致谢 (21)参考文献 (22)引言:概率论最早产生于17世纪,本来是保险事业的发展而产生的,但是来自于赌博者的请求,却是数学家们思考概率论中问题的源泉。
然而其公理体系只在20世纪的20至30年代才建立起来并得到迅速发展,在过去的半个世纪里概率论在越来越多的新兴领域显示了它的应用性和实用性。
概率论是根据大量同类随机现象的统计规律,对随机现象出现某一结果的可能性作出一种客观的科学判断,对这种出现的可能性大小做出数量上的描述;比较这些可能性的大小、研究它们之间的联系,从而形成一整套数学理论和方法。
特别值得一提的是,概率论是今天数理统计的基础,其结果被用做问卷调查的分析资料或者对经济前景进行预测。
概率论中的重要概念——概率的收敛性,寻找概率收敛中的随机变量序列收敛性的相互性质以及收敛性之间的相互关系,弄清楚它们之间的关系在理论和应用上都是很有意义的。
1 几种收敛性定义定义1.1 (r 阶收敛)设对随机变量n X ,及X 有||,||r r n E X E X <+∞<+∞,其中0r >为常数,如果lim 0rn n E X X →∞-= 则称{n X }r 阶收敛于X ,并记为r n X X −−→. 当2p =是,2lim 0n n E X X →∞-=,称{,1}n X n ≥均方收敛到X 。
记为..m s n X X −−→. 例 1.1 设{,1k X k n ≤≤}相互独立,且满足1(1)n P X n==,1(0)(1)n n P X n n -==≥,()0X ω≡。
则21(0)0n E X n-=→,故2lim 00n n E X →∞-=,即..0m s n X −−→. 定义1.2 (几乎处处收敛)如果(lim )1n n P X X →∞== 则称{n X }以概率1收敛于X ,又称{n X }必乎处处收敛于X ,并记为..a s n X X −−→.例1.2 设{n X ,1n ≥},,X Y 是定义在[0,1]上博雷尔概率空间(,,)F P Ω= ([0,1],[0,1],)F P 上的随机变量,满足:[0,1]ω∀∈,()1Y ω=。
而()1X ω=,若B ω∈={[0,1]上理点};()0X ω=,若B ω∈={[0,1]上有理点全体}。
而()1X ω=,若1,12ω⎛⎤∈ ⎥⎝⎦;()0n X ω=,若10,2n ω⎡⎤∈⎢⎥⎣⎦。
则易知(:()())()0P X Y P B ωωω≠==。
(:lim ()())n n X Y ωωω→∞==Ω;(:lim ()())n n X X B ωωω→∞==≠Ω,但1B =,故..a s n X X −−→。
定义1.3 (依分布收敛)设随机变量n X ,X 的分布函数分别为()n F x 及()F x 。
若对()n F x 的每个连续点x 有lim ()(),n n F x F x →∞=则称{n X }依分布函数收敛于X (()n F x 弱收敛到()F x )。
记为L n X X −−→,或者()()W n F x F x −−→。
例 1.3 n Z ,n Y 的记号同林德伯格-莱维(Lindeberg-Levy )定理,令Z ~2(0,1)N ,则L n Z Z −−→,即x R ∀∈,有lim ()()n n P Z x x →∞≤=Φ。
定义1.4 (依概率收敛)如果对于任意ε>0,lim (||)0n n P X X ε→∞-≥= 则称{X n }依概率收敛于X ,并记为P n X X −−→或lim n n p X X →∞=. 例 1.4 设{,1k Y k n ≤≤}独立同分布,且1Y ~[0,1]U ,令1/nn k k X Y n ==∑,则由大数定律可知1()2P n X n −−→→∞. 2 依概率收敛与依分布收敛的关系随机变量序列依概率收敛和依分布收敛是概率论中两种较重要的收敛形式,弄清楚它们之间的关系是本节要讨论的.本节约定所涉及定义1.3,定义1.4。
定理2.1 若随机变量序列{}n X 依概率收敛于某随机变量X ,则{}n X 依分布收敛于X .但定理2.1的逆不成立。
证明 设x x '<,则{n X x '≤}={n X x ≤,X x '≤}{n X x >,X x '≤}⊂{}{,}n n n X x X x X x '≤>≤从而 ()()(,)n n n F x F x P X x X x ''≤+>≤设P n X X −−→,则 (,)(||)0n n n P X x X x P X X x x ''>≤≤-≥-→因而有()lim ()n n n F x F x →∞'≤ 同理可证,对x x ''<,有lim ()()n n n F x F x →∞''≤ 所以对x x x '''<<,有()lim ()lim ()()n n n n n n F x F x F x F x →∞→∞'''≤≤≤ 如果x 是()F x 的连续点,则令x ',x ''趋于x ,得()lim ()n n F x F x →∞= 即L n X X −−→. 反之不然,例如,若样本空间12{,}ωωΩ=,12()()1/2P P ωω==,定义随机变量()X ω如下:12()1,()1X X ωω=-=,则()X ω的分布律为(())1/2P X k ω==,1k =-,1,如果对一切n ,令()()n X X ωω=-,则显然()()L n X X ωω−−→。