随机变量序列的几种收敛性及其关系000
- 格式:doc
- 大小:999.00 KB
- 文档页数:17
概率空间•几乎必然收敛(almost sure convergence)–随机变量序列收敛到,同时}{n X X {li – a.s. 1}{lim ==∞→X X P n n X X =lim XX −→−.s .a 表示为或者n n ∞→n →)}()(lim :{ςςςX X n n =∞→•依概率收敛(convergence in probability)–随机变量序列以及满足对任意}{n X X li ε–p. 0}||{lim=>-∞→εX X P n n X X =lim XX −→−.p 表示为p 或者n n ∞→n →也有可能的数值极大|X X n -|•均方收敛(mean square convergence)–随机变量序列以及满足,同时}{n X X li ∞<}{2nX E –m.s. 0}){(lim2=-∞→X X E n n X X =lim XX −→−m.s.表示为或者n n ∞→n →•均方收敛(mean square convergence)–随机变量序列以及满足,同时}{n X X li ∞<}{2nX E –m.s. 0}){(lim2=-∞→X X E n n X X =lim XX −→−m.s.表示为或者则n n ∞→n →m s •若,则X X n −→−m.s.∞<}{2X E 几乎必然收敛或依概率收敛都不能确保均方收敛•以概率分布收敛(convergence in distribution)–随机变量序列以及满足在任意连续的x}{n X X li )()(limx F x F X X n n =∞→–表示为 d. 或者X X n n =∞→lim XX n −→−d.•依据特征函数判断收敛–XX n −→−d.––)}({)}({X f E X f E n →)t ()t (XX nΦ→Φ.s .a ⇒XX −→−.p(Cauthy criteria)在不知道极限的情况下,判定随机变量序列收敛随机变量序列的收敛特性。
本科毕业论文题目:随机变量序列的几种收敛性及其关系学院:数学与计算机学院班级:数学与应用数学2008级八班姓名:***指导教师:丁平仁职称:副教授完成日期:2012 年5月10 日随机变量序列的几种收敛性及其关系摘要:本文主要对随机变量序列的四种收敛性:a.e.收敛、依概率收敛、依分布收敛、r—阶收敛的概念、性质进行阐述;并结合具体实例讨论了它们之间的关系,进一步对概率论中依分布收敛的等价条件和一些依概率收敛的弱大数定律进行了具体的研究.关键字:随机变量序列收敛分布函数目录1.引言 .................................................................... 1 2.a.e.收敛、依概率收敛、依分布收敛、r —阶收敛的概念、性质以及它们之间的关系. 2.1 a.e.收敛的概念及性质 ................................................................................................... 1 2.2 依概率收敛的概念及性质 .............................................................................................. 2 2.3依分布收敛的概念及性质 ............................................................................................... 3 2.4 r —阶收敛的概念及性质 .................................................................................................. 5 3.随机变量序列依分布收敛的等价条件. (6)4.随机变量∑=nk k n 11ξ依概率收敛的一些结果 (9)5.小结. .................................................................. 12 6.参考文献 (12)1.引言:在数学分析和实变函数中“收敛性”极为重要,特别在实变函数中对可测函数列收敛性的讨论。
科教论坛科技风2020年10月DOC10.19392/ki.1671-7341.202028033随机变量序列的几种收敛性注记杨元启三峡大学理学院湖北宜昌443002摘要:随机变量序列的收敛性理论主要源自测度论中可测函数序列的收敛性理论,但由于概率测度的特殊性,使得随机变量序列的敛散性有自己的特点。
这些理论既是概率论的重点,也是难点。
本文准备详细介绍随机变量序列的各种收敛性概念,讨论他们之间的联系,并以适当的例题来说明收敛的性质。
关键词:几乎必然收敛;依概率收敛;完全收敛;一致可积性本科教材中关于随机变量序列的收敛概念一般只有两种:依概率收敛和依分布收敛,分别关联大数定律和中心极限定理。
但根据序列收敛的强弱,有多种强弱不同的收敛概念,它们的侧重点不一样,相互之间也有联系,讨论如下。
设79,9,”=1,2,3}是概率空间(*,,p)上的随机变量序列,随机变量9的分布函数记作F(0=p(X<x+,x(R,X n 的分布函数记作F(0#以下是几种常用的收敛性:(1)若对F(0)的每个连续点0,有0)=F(0),则称随机变量序列{X”}依分布收敛于X,记作X”厶X;(2)若对任意&>0,li rn P(X…-X|'&)=0,则称随机变P量序列{X”}依概率收敛于随机变量X,记作X”一X;(3)设r>0,=X”存在,且”X”-X|'=0,则称随机变量序列{X”}r阶收敛于随机变量X,记作X”二X,这时易知=X>也存在;(4)若P(”im X…=X)=1,则称随机变量序列{X”}几乎必然收敛于随机变量X,记作X”上$X;(5)若对任意的&>0,都有lim-P(|X»-X|'&)=0称随”$"7=”c机变量序列{X”}完全收敛于随机变量X,记作X”一X#下面几个概念与随机变量序列的收敛性关系密切:(1)对任给的&>0,存在(使得对任一"(F,当P(")d 时,便有spf j X”|$p<&,则称随机变量列{X”}是一致绝对连续的;(2)若epJj X”|$P<",则称随机变量列{X”}积分一致 有界;(3)若sp|X”|$P=0,则称随机变量列{X”}是一致可积的;由测度论的理论,有下列结论:(1){X”}是一致可积的充要条件是{X”}是一致绝对连续的且积分一致有界;(2)X”上$X当且仅当对于任意的&>0,^{*”7X”-X丨'&}}=0以及X”上$x当且仅当对于任意的&>0,P(/*7X m-X|'&})=0;”=1>=”P(3)X…-$X当且仅当对{X”}的任一子序列{X”?,均存在子序列7X”》}0{X”?,使得X”7上$x;“、a・s.,、,P(4)X”一X时必有X”一X;r P(5)X”---------$X时必有X”----------$X;P<(6)X”---------$X时必有X”----------$X;C., a.s.(7)X”---------$X时必有X”----------$X;(8)”F"IX-XI=0的充要条件是{X”}是一致可积且PX”$X上述部分结论的证明可以从本文所列文献中找到,这里就不赘述了#我们只证(2)和(7)#先介绍一个引理#"8888弓【理如果-P("”)<8,则P(/U"”)=0,P(*/"”.)=1,即事件序列{"”}中有无穷多个"”发生的概率为0,或者说事件序列{"”}中至多有有限个"”发生的概率为1;如果P("”)=8,而{"”}是两两独立的事件序列,则P8888(/*"”)=1,P(*/"”.)=0,即事件序列{"”}中有无穷多个"”发生的概率为1,或者说事件序列{"”}中至多有有限个"”发生的概率为0#这是著名的波雷尔-康特立引理#(2)的证明:若X”上$X,即*中除了某个概率测度为零的集合8以外的所有点)对于任何&>0,当”>”0(&,)时就有t”_X I<&,也就是说,满足对任意的”,总存在>'”,使得X”-X的点)必属于零测度集8,亦即/*7X”-X'”一1>—”&}08,因此P(/*7|X>-X|'&})=0;”=1>=”所以说X”上$X当且仅当对于任意的&>0,P (/*7X m-X|'&})=0;”=1>=”66科技风2020年10月另外,根据概率的连续性,显然有P(/*i19-91>&!)=+=17=+0i U/P{U7丨9”-9|'&}=0,反之,若对于任意的&>0, >=+有U m:{U79”-9|'&}=0,则由于/U79”-9|'&8 +$">=++=1>=+"880U7X m-9|'&,有0!:(/U7X m-9|)!Um:>=++=1>=++$8 {U+7.|9>-9|}=0综上有:as889—」9%对于任意的&>0,P(/U7丨9”-9|)=0+=1>—+%对于任意的&>0,fm P{U7丨9”-9|}=0#+—8>—+C8(7)的证明:因为9―$9,即任意的&>0,Um-:+$87=+ (9,,-9'&)—0,因此Um:{U7丨9”-9|}<Um-:+$8>=++$8>=+ (9m-9|'&)=0,即|=9#以下通过几个例子进一步讨论随机变量序列的性质#例1设{9”}为相互独立的随机变量序列,若9…上$证明:设9…上$0,则对任意的&>0,有:(/U79-0)=0”=17=+即:(limyp7I9t1>&)=0,由{9…}相互独立及波雷尔-康特立引理,知-:(9>'&)<8,因此Um-:>=1”$8>=+ (9”|'&)=0,此即9 0注:(1)显然,此结论可改为:若{9…}相互独立,则9…上$0等价于9…亠0'或者,若{9…}相互独立,则9…上$0等价于2&>0,-:7(191>&)!<8#+=1(2)若{9}独立,{,”}为常数列,则9上$0等价于2&>0,-:7(19<8#”—1例2设{9”}为以概率1单调的随机变量序列,且9…: a.s.—9,则9”一9#:证明:不妨设2)(*,{9”}为单调递增,由于9…-$9,因此对{9”}的任一子序列{9”?,均存在子序列{9”?0 79…7!,使得9”7上$9,而{9”}为单调递增,故2)(*,9”$ 9,因此9”9#例3设随机变量序列{9+}依分布收敛于常数,,则9”:-----,#「1久',证明:常数,的分布函数;(0)=匸,{9”}依分布0x<<收敛于,,对任意的&>0,:(丨9”-|'&)=:(9”<,-&+:(9”'a+&)<;”(a-&)+—:(9”«+£&二;”(Q-&)+—;”(a+&:-0)=0+1-1二0,所以9”---a#例4设{9”}是独立同分布的随机变量序列,二阶矩有2”:界,则十*-@@―”(”+1)@12”证明:记=91=#,A91=*2,则*2<8,=(,2八-忑)—”(”1)@=1 )”乔17=( -9心A含9)=心-2”2”川-弘予,A(»-9)=4*2亍-==232”+11*2$0,(”$8)2=13”(”+1)2”由契贝雪夫不等式有2&>0,P(I十丁--=91I'&)”(”1)=12”<”(”&)@——$0,(+$»),亦即尸石-9厶=91# &”(”+1)=1例5设{9”}为独立同分布的随机变量序列,密度函数「2-0a)兀'a</(0=L,记B”=m/791,…9”!,则B”—a# 050<af1-2"(0"a)兀'a 证明:容易算得公共分布函数;(0)-,0050<a'a时,:(B”>0)=:(m/791,…9”!>0)=:(/{9=>0)=1=(1-F(0))”=2一0-)2&>0,P(I”-a l'&)=:(B”'a+&)+P(B”<a-&)=2兀+:(*79=<a-&!)=1=2^+-:(9=<a-&)=1—e-&+0$0,”$8:<所以B”$a,因此,B”$a#例6设{9”}为独立同分布的随机变量序列,P(9”=1)1”9»=:(9”=0)=*,B”=-出”=1,2,3,则B”的分布收敛于27=12[0,1]上的均匀分布#证明:9»的特征函数为/()=*(1+e")—as寺2“,;的特征函数为+()-寺(1+e")=cos2)71“,7=1,2,3,由于97独立同分布,7=1,2,3,故B”的特征函数为,”(-=3(cos7=1tsin命抽')=丁-----------eM-,由于”/0”(-=〒Cn寺=Sm2”+丄(2“-1),而[0,1]上的均匀分布的特征函数恰为丄*2“-1), It It由逆极限定理知B”的分布收敛于[0,1]上的均匀分布#参考文献:[1]王寿仁.概率论基础与随机过程[M&.北京:科学出版社,1997.[2]严家安.测度论讲义.北京:科学出版社,2000.[3]周民强.实变函数论.北京:北京大学出版社,2003.[4]严士健,王隽骧,刘秀芳.概率论基础.北京:科技出版社,$982.67。
均方收敛依概率收敛依分布收敛《均方收敛依概率收敛依分布收敛:概念与应用》一、引言均方收敛、概率收敛和分布收敛是概率论和数理统计中的重要概念,它们在各种领域都有着广泛的应用。
本文将分别介绍这三种收敛方式,并探讨它们的异同点及其在实际问题中的应用。
二、均方收敛的定义及性质1. 均方收敛的定义均方收敛是指在均方意义下的收敛,即对于随机变量序列{X_n}和X,当n趋于无穷大时,有E[(X_n - X)^2]趋于0,则称{X_n}在均方意义下收敛于X。
2. 均方收敛的性质(1)均方收敛蕴含概率收敛。
(2)均方有界序列有子列在概率意义下收敛。
三、概率收敛的定义及定理1. 概率收敛的定义概率收敛是指对于随机变量序列{X_n}和X,当n趋于无穷大时,有P(|X_n - X| > ε)收敛于0(其中ε为任意小的正数),则称{X_n}在概率意义下收敛于X。
2. 概率收敛的定理切比雪夫不等式、依概率收敛的夹逼定理等。
四、分布收敛的定义及特性1. 分布收敛的定义分布收敛是指对于随机变量序列{X_n}和X,当n趋于无穷大时,有F_n(x)收敛于F(x),则称{X_n}在分布意义下收敛于X。
2. 分布收敛的特性(1)随机变量序列的分布收敛与其对应的分布函数的收敛。
(2)分布收敛蕴含概率收敛,但一般不蕴含均方收敛。
五、均方收敛、概率收敛和分布收敛的关系1. 关系概述均方收敛比概率收敛更强,概率收敛比分布收敛更弱。
2. 举例说明以随机变量序列的不同收敛方式为例,比如正态分布的中心极限定理,可以辅助理解三种收敛方式之间的关系。
六、应用举例通过一些实际问题的案例,如大数定律、中心极限定理等,展示均方收敛、概率收敛和分布收敛在实际问题中的应用。
七、结语总结三种收敛方式的特点和应用场景,强调在实际问题中选择合适的收敛方式的重要性。
以上是本文对于均方收敛、概率收敛以及分布收敛的深入探讨,通过对三种收敛方式的逐一介绍以及它们的相互关系和应用举例,希望读者能对这一概念有一个更深入的理解,并能在实际问题中灵活运用。
论文摘要概率是对大量随机现象的考察中显现出来的,而对于大量的随机现象的描述就要采用极限的方法。
概率统计中的极限定理研究的是随机变量序列的某种收敛性,对随机变量收敛性不同定义将导致不同的极限定理,而随机变量的收敛性的确可以有各种不同的定义。
主要讨论了依概率收敛与依分布收敛,r阶收敛与几乎处处收敛,几乎处处收敛与依概率收敛之间的关系。
给出了由依概率收敛推出几乎处处收敛的条件和由依概率收敛推出r阶收敛的条件,从而比较完全地说明了随机变量序列的各种收敛性之间的关系。
本论文将对随机变量的几种收敛作出较为简单扼要的介绍和讨论.论文结构如下:一、随机变量的几种收敛的概念理论;二、随机变量的几种收敛之间的关系;从以上几个方面对随机变量的几种收敛理论简明扼要地分析,说明随机变量序列收敛理论在实际问题中的应用范围之广,在实际生活中的重要性。
关键词:r阶收敛;几乎处处收敛;依概率收敛;依分布收敛。
AbstractThe Probability is the study of a large number of random phenomena emerge, but for a large number of random phenomena should use extreme methods described. Probability and statistics in the limit theorem is asequence of random variables convergence, convergence of random variables with different definitions lead to different limit theorem, and indeed the convergence of random variables can have different definitions. Mainly discussed convergence in probability and convergence in distribution, convergence in order r and almost everywhere convergence, almost sure convergence and convergence in probability relationship. Convergence in probability is given by the launch of almost everywhere convergence of conditions and the convergence in probability by the introduction of r-order convergence conditions, which more completely describes the various random variables convergence relationship. This paper will make the convergence of several random variables is more brief presentations and discussions. Paper is structured as follows: 1. Convergence of random variables the concept of theory; 2. the convergence of several random variables between; From the above aspects of the theory of random variables of several brief analysis of convergence shows that the convergence theory of random variables in the actual problems in the wide range of applications, in real life importance.Keywords: convergence in order r ; almost everywhere or almost surely; convergence in probability; convergence in distribution.目录引言: 41 几种收敛性定义 42 依概率收敛与依分布收敛的关系 53 r阶收敛与几乎处处收敛的关系 114 依概率收敛与r阶收敛的关系 135 几乎处处收敛与依概率收敛和依分布收敛的关系 17总结 19四种收敛性 19四种收敛蕴涵关系 19致谢 21参考文献 22引言:概率论最早产生于17世纪,本来是保险事业的发展而产生的,但是来自于赌博者的请求,却是数学家们思考概率论中问题的源泉。
本科毕业论文题目:随机变量序列的几种收敛性及其关系学院:数学与计算机学院班级:数学与应用数学2008级八班姓名:***指导教师:丁平仁职称:副教授完成日期:2012 年5月10 日随机变量序列的几种收敛性及其关系摘要:本文主要对随机变量序列的四种收敛性:a.e.收敛、依概率收敛、依分布收敛、r—阶收敛的概念、性质进行阐述;并结合具体实例讨论了它们之间的关系,进一步对概率论中依分布收敛的等价条件和一些依概率收敛的弱大数定律进行了具体的研究.关键字:随机变量序列收敛分布函数目录1.引言 .................................................................... 1 2.a.e.收敛、依概率收敛、依分布收敛、r —阶收敛的概念、性质以及它们之间的关系. 2.1 a.e.收敛的概念及性质 ................................................................................................... 1 2.2 依概率收敛的概念及性质 .............................................................................................. 2 2.3依分布收敛的概念及性质 ............................................................................................... 3 2.4 r —阶收敛的概念及性质 .................................................................................................. 5 3.随机变量序列依分布收敛的等价条件. (6)4.随机变量∑=nk k n 11ξ依概率收敛的一些结果 (9)5.小结. .................................................................. 12 6.参考文献 (12)1.引言:在数学分析和实变函数中“收敛性”极为重要,特别在实变函数中对可测函数列收敛性的讨论。
实变函数主要是在集合论与测度论的基础上建立起了Lebesgue 积分以及它的一些性质,而Lebesgue 积分的讨论中,在测度空间)(P F ,,Ω中关于可测函数列的各种收敛性以及它们之间的关系的讨论在理论和应用上都是十分重要的.同样在现代概率论中,其中的许多概念也是借助于集合论和测度论中的概念来定义和研究的,比如概率论中事件间的关系及运算与集合论中—σ代数间的关系及运算是相类似的,而且在许多情况下,用集合论的表达方式更简练、更容易理解,不妨设Ω为满足某一性质的全体所成的集合,若F 为Ω的一个—σ代数,则称)(F ,Ω为可测空间;若μ为F 上的测度,则称)(μ,,F Ω为测度空间;若μ为F 上的测度,且1=Ω)(μ,则称μ为F 上的概率测度,称)(μ,,F Ω为概率测度空间;由此我们通过测度论知识就得到了概率测度空间,同时引出了概率公理化定义:概率是在—σ代数F 上的一个非负的、规范的、可列可加的集函数,其中Ω为某一试验中可能的结果的全体,称为样本空间;F 为随机事件全体,称为事件域(—σ代数);也就是说概率P 是概率测度空间F 上的一个测度集函数,同实变函数中的可测函数列收敛性一样,在概率论中我们有必要研究随机变量序列的收敛性,这对于概率论的学习是十分重要的.2.a.e.收敛、依概率收敛、依分布收敛、r —阶收敛的概念、性质以及它们之间的关系.在概率论中,概率空间),,(P F Ω上的随机变量就是样本空间Ω上关于F 的可测函数,对于一般的可测函数的序列我们在数学分析和实变函数中已有认识,其中“收敛性”理论是非常重要的,在概率论中也一样重要,随机变量序列有:几乎处处收敛,依概率收敛,依分布收敛,r —阶收敛.下面一一分别介绍:设ξ和)1(≥n n ξ是给定概率空间),,(P F Ω上的随机变量. 2.1 a.e.收敛的概念及性质 定义1 如果有1))()(lim :(==∞→ωξωξωn n P , (1.1)则称随机变量列}{n ξ几乎处处收敛到ξ,记作ξξ−→−..s a n . 注意:(1.1)式中括号里的-ω集是一事件,因而是有意义的,用集合论的语言实际上是F mn k n k m n n ∈<-⋂⋃⋂==∞=∞=∞=∞→)1|)()((|))()(lim (11ωξωξωξωξ. (1.2)定理1 ξξ−→−..s a n 的充要条件是0>∀ε 0))|(|(lim =≥-⋃∞=∞→εξξk nk n P . (1.3)证明:(必要性)如在定点ω上有)()(lim ωξωξ=∞→n n ,则0>∀εεωξωξ≥-|)()(|n 不能对无穷多n 成立.令))|)()((|:(εωξωξω≥-⋃=∞=n nk n A ,则1+⊃n n A A ,故由连续性定理及ξξ−→−..s a n 得 0))|(|())|(|(lim 1=≥-⋃⋂=≥-⋃∞=∞=∞=∞→εξξεξξk nk n k nk n P P .(充分性)由(1.2)式及上式第一等号得 0))1|(|(1=≥-⋃⋂∞=∞=mP k nk n ξξ. 注意:对可列多个概率为0的事件n A 的和n n A A ∞=⋃=1,有0)()(1=≤∑∞=n n A P A P ,即0)(=A P ,故0))1|(|(11=≥-⋃⋂⋃∞=∞=∞=m P k n k n m ξξ.由对偶原则,即得1))1|(|(11=≥-⋂⋃⋂∞=∞=∞=mP k n k n m ξξ.由此及(1.2)即得ξξ−→−..s a n . 2.2 依概率收敛的概念及性质定义2 如果0>∀ε,0)|)()((|lim =≥-∞→εωξωξn n P ,则称随机变量序列)}({ωξn 依概率收敛于随机变量)(ωξ,记作ξξ−→−Pn . 定理2 若ξξ−→−..s a n ,则ξξ−→−Pn . 证明:由于0>∀ε,有)|(|)|(|εξξεξξ≥-⋃⊂≥-∞=k nk k ,又ξξ−→−..s a n 及定理1 得0))|(|(lim =≥-⋃∞=∞→εξξk nk n P ,所以 0)|(|lim =≥-∞→εξξn n P 定理得证.但是定理2的逆命题不真,反例如下:例1 取]1,0(=Ω,F 为[0,1]中全体博雷尔子集所成σ代数,P 为勒贝格测度,令.]1,21(,1]21,0(,0)(;]1,21(,0]21,0(,1)(;1)(222111⎪⎩⎪⎨⎧∈∈=⎪⎩⎪⎨⎧∈∈==ωωωηωωωηωη一般地,将(0,1]分成k 个等长的区间,而令).2,1;,2,1(],,1(,0],,1(,1)( ==⎪⎩⎪⎨⎧-∉-∈=k k i k ik i k i k i ki ωωωη 定义,),()(),()(),()(),()(),()(325314223212111 ωηωξωηωξωηωξωηωξωηωξ===== 则)}({ωξn 是一列随机变量,对任意0>ε,由于,1)|)((|nP ni ≤≥εωη故)(,0)|)((|∞→→≥n P ni εωη,即0−→−P n ξ;然而对任意固定Ω∈ω,任一正整数k,恰有一i ,使1)(=ωηki ,而对其余的j 有0)(=ωηkj ,有此知)}({ωξn 中有无穷多个1及无穷多个0,于是)}({ωξn 对每个Ω∈ω都不收敛. 2.3依分布收敛的概念及性质定义3 设)1)((),(≥n x F x F n 均为实函数.如果有)()(lim x F x F n n =∞→,其中x 为)(x F 的连续点集,则称)}({x F n 弱收敛到)(x F ,记作)()(x F x F Wn −→−. 例2 任意取一常数列}{n c ,使,21 >>c c )(lim -∞>=∞→n c c n n .令)(一切ωωξωξc c n n ==)(,)(.显然,对每一ω有)()(lim ωξωξ=∞→n n .其次,)(ωξn 及)(ωξ的分布函数分别为⎩⎨⎧≥<=⎩⎨⎧≥<=c x c x x F c x c x x F n n n ,1,0)(;,1,0)(,)()(x F x F Wn −→−;但在)(x F 的不连续点c 上,1)(,0)(==c F c F n .故)()(lim c F c F n n ≠∞→.由此例可知定义3中称“弱收敛”是自然的,因为分布函数列的极限函数不一定是分布函数,为了避免这种情况,故引入如下的定义:定义 '3 设随机变量n ξ与ξ分别有分布函数)(x F n 与)(x F ,且)()(x F x F W n −→−,则称随机变量列}{n ξ依分布收敛到ξ,仍记作ξξ−→−Wn . 定理3 设ξξ−→−P n ,则ξξ−→−Wn . 证:对任意11,R x R x ∈∈,有),(),()(y x y x y n n ≤>⋃≤≤=≤ξξξξξ ),()(y x x n n ≤>⋃≤⊂ξξξ),()()(y x P x F y F n n ≤>+≤ξξ,由于ξξ−→−P n ,故对x y <得 )(,0)|(|),(∞→→-≥-≤≤>n y x P y x P n n ξξξξ因此)(lim )(x F y F n n ∞→≤;类似可证:对z x <,有)()(lim z F x F n n ≤∞→,于是对z x y <<,有)()(lim )(lim )(z F x F x F y F n n n n ≤≤≤∞→∞→.如果x 是)(x F 的连续点,令x z x y →→,,得)(lim )(x F x F n n ∞→=.但定理3逆命题不成立,反例如下:例3 抛掷一枚均匀的硬币,有两个可能结果:1ω={出现正面},2ω={出现反面},于是有21)()(21==ωωP P 令⎩⎨⎧=-==,,1,,1)(21ωωωωωη则)(ωη是一个随机变量,其分布函数为⎪⎩⎪⎨⎧-<<≤-≥=1,011,211,1)(x x x x F ,这时,若)()(ωηωξ-=,则显然)(ωξ与)(ωη有相同的分布函数)(x F .再令n n ηηη,-=的分布函数记作)(x F n ,故)()(x F x F n =,于是对任意的R x ∈,有)()(lim )(lim x F x F x F n n n ==+∞→+∞→,所以)()(x F x F W n −→−成立,而对任意的20<<ε,恒有 1)||2()|(|=>=>-εηεηηP P n 不趋于0,即不可能有ξξ−→−Pn . 在上述例子中,随机变量η与ξ在每次试验中取相反的两个数值,可是它们却有完全相同的分布函数.由此可知,一般说来并不能从分布函数列的弱收敛肯定相应的随机变量序列依概率收敛.但是在特殊情况下,它却是成立的,由下面定理说明.定理4 随机变量序列为常数)c c Pn (≡−→−ξξ的充要条件是)()(x F x F W n −→−. 这里)(x F 是c ≡ξ的分布函数,也就是退化分布:⎩⎨⎧<≥=c x cx x F ,0,1)(.证明:(必要性)已由定理3给出,下证(充分性): 对任意的0>ε,有)()()|(|εξεξεξ-≤++≥=≥-c P c P c P n n n∞→+-→-++-=-≤++>≤n c P c F c P c P n n n ,011)()2(1)()2(εεξξεξ定理得证.注:定理4将随机变量序列依概率收敛于常数的问题转化为讨论分布函数列弱收敛于退化分布的问题.这样两种收敛关系间的联系就清楚了.引理 1 (马尔科夫[Mapkob]不等式)设随机变量ξ有r 阶绝对矩,即)0(,||>∞<r E r ξ, 则对任意0>ε有rrE P εξεξ||)|(|≤≥. (1.4)取2=r ,并以ξξE -代替ξ,得2)|(|εξεξξD E P ≤≥-,称为切比雪夫不等式.2.4 r —阶收敛的概念及性质定义 4 设对随机变量n ξ及ξ有∞<r E ||ξ,其中r>0为常数,如果0||lim =-∞→r n n E ξξ,则称-r n }{ξ阶收敛于ξ,记为ξξ−→−rn . 定理 5 如果ξξ−→−r n ,则ξξ−→−Pn ;反之不真. 证明:由引理1,对0>ε,有rrn E E P εξξεξξ||)|(|-≤≥-,又0||lim =-∞→r n n E ξξ,所以0)|(|lim =≥-∞→εξξn n P ,即得ξξ−→−Pn . 例4 ),,(P F Ω如例1所取,令⎪⎪⎩⎪⎪⎨⎧∉∈=];10,0]10,)(1n n n rn ,(如,(如ωωωξ,0)(=ωξ(一切ω).显然,对一切ω,)(),()(+∞→→n n ωξωξ,故ξξ−→−..s a n ;ξξ−→−Pn . 然而11||=⋅=-nn E r n ξξ不趋于0. 由上面四种收敛性间的关系可得:几乎处处收敛⇒依概率收敛⇒依分布收敛.-r 阶收敛⇒依概率收敛⇒依分布收敛.3.随机变量序列依分布收敛的等价条件.因为随机变量取值的统计规律可由它的分布函数完全确定,所以自然会考虑利用分布函数的收敛性来定义随机变量的收敛性,又分布函数和特征函数一一对应,而判断一个分布函数的序列的收敛是否弱收敛有时是很麻烦的,但判断相应的特征函数序列的收敛性却往往比较容易,下面给出弱收敛的充要条件,首先做一些准备:定理 6 设)1)((),(≥n x F x F n 均为分布函数,则)()(x F x F W n −→−的充要条件是: 对于函数)(x F 的连续点集1R 的某个稠子集D 有 D x x F x F n n ∈∀=∞→),()(lim . (2.1)证明:由1R D ⊂立得必要性.下设(2.1)式成立.对任何1R x ∈,取z x y <<且D z y ∈,则有 )()()(z F x F y F n n n ≤≤.令∞→n ,用(2.1)式得)()(lim )(lim )(lim )(lim )(z F z F x F x F y F y F n n n n n n n n =≤≤≤=∞→∞→∞→∞→.再令x z x y →→及便得证)()(lim x F x F n n =+∞→,即)()(x F x F W n −→−,证毕. 引理 2 (海来Helly 第一定理)任一分布函数列)}({x F n 必定含弱收敛于某函数)(x F 的子列,而且)(x F 单调不减,右连续,1)(0≤≤x F .注:在引理2中不能断定海来第一定理中的)(x F 是分布函数.事实上,取)1(≥=n n n ξ,则对任应的分布函数0)(−→−Wn x F ,极限函数不是分布函数. 引理 3 (海来Helly 第二定理)设分布函数列)}({x F n 弱收敛于分布函数)(x F ,则对任何有界连续函数ϕ有⎰⎰→Rn Rdx x p x dx x p x )()()()(ϕϕ. (其中)(),(x p x p n 分别是)(),(x F x F n 的密度函数).定理 7 (连续性定理)分布函数列)}({x F n 弱收敛到分布函数)(x F 的充要条件是: 相应的特征函数列)}({t f n 逐点收敛到相应的特征函数)(t f . 证明:令)(),(x p x p n 分别是)(),(x F x F n 的密度函数.(必要性):设)()(x F x F Wn −→−,对有界连续函数tx tx cos sin 与分别用引理3便得,当∞→n 时对一切R t ∈有⎰⎰⎰+==RRn n n Ritx n dx x txp i dx x txp dx x p e t f )(sin )(cos )()(⎰⎰⎰⎰=+→+=RRRRn n t f x txdF i x txdF x txdF i x txdF )()(sin )(cos )(sin )(cos .(充分性)据引理2知,分布函数列)}({x F n 必存在子序列)}({x F k n ,使当∞→k n 时F x F Wn k −→−)(.其中极限函数F 是R 上非减右连续函数且有界:1)(,0)(≤+∞≥-∞F F .下证此二式均取等号,即F 为分布函数.如若不然,有1)()(<-∞-+∞=F F a . (2.2) 那么,一方面由1)0(=f 及)(t f 连续知,对满足a -<<10ε的任意ε,存在充分小的正数τ,使221|)(|21εετττ+>->⎰-a dt t f . 另一方面,既然F x F Wn k −→−)(,由(2.1)式知可选取ετ4>b ,使b -与b 皆为F 的连续点,且存在自然数K ,使当K k ≥时有4)()(ε+<--=a b F b F a k k n n k . (2.3)再由τττ2||≤⎰-dt e itx 及b x >||时有btx x dt e itx 2|sin 2|||≤=⎰-ττ,便可得到,24441|)(][|21|)(][|21|)(][|21|)(|21)|(|),(εεεεττττττττττττ+=++<+≤+≤+≤=⎰⎰⎰⎰⎰⎰⎰≥---+∞∞---a a a b a x dF dt e x dF e x dF dt e dt t f k k k b x n itx n b b itx n itxn k k k k 这与(2.3)式矛盾.至此得证)}({x F n 的子列)}({x F k n 弱收敛到分布函数F .对此运用已证的必要性,知F 所对应的特征函数为f .再由极限函数的唯一性定理可推出F F =.最后证明分布函数列)}({x F n 也弱收敛到)(x F .仍然用反证法.如若不然,必存在)(x F 的连续点0x ,使)0(x F n 不趋于)(0x F .于是有界数列)(0x F n 必含收敛子列)}({0x F k m .其极限值)()()(00*0x F x F x F k m ≠→.对分布函数序列)}({x F k m 运用引理2,又存在子列)}({1x F k m 使*)(1F x F W m k −→−.*F 与前述F 至少在0x 上不同.但是重复上述论证可知*F 也应当是与f 对应的分布函数,由唯一性定理知F F =*,这导出矛盾.定理证完.例5 若λξ是服从参数为λ的泊松分布的随机变量,证明:dt ex P xt ⎰∞--+∞→=≤-2221)(lim πλλξλλ. (2.4)证明:已知λξ的特征函数为)1()(-=iyee t λλϕ故λλξηλλ-=的特征函数为 ti etitie e t t g λλλλλλλϕ---==)1()()(对任意的t ,有+∞←+-+=λλλλλ),1(!212o t iteti于是+∞→-→⋅+-=--λλλλλλ,2)1(2)1(22t o t t i eti从而对任意的点列+∞→n λ,有22)(lim t et g n n -+∞→=λλ.但是22t e-是N (0,1)分布的特征函数,由定理7即知有dtex P xt ⎰∞--+∞→=≤-2221)(lim πλλξλλ成立,因为λξ是可以任意选取的,这就意味着(2.4)式成立(“泊松分布(当参数+∞→λ时)收敛于正态分布”).下面给出弱收敛的各种等价条件:如果存在一个函数)(t f ,使对每一R t ∈,有)()(lim t f t f n n =∞→,则称特征函数列)}({t f n 为广义均匀收敛到)(t f ,而且这收敛对每一有限区间],[d c 中的t 是均匀的(即对任意0<ε,任意有限区间],[d c ,存在正整数),,(d c N N ε=,使对一切],[d c t ∈,当N n ≥时 ,有ε<-|)()(|x f x f n ),这时也说)}({t f n 广义均匀(一致)收敛)(t f .注:由于)(t f n 连续,如)}({t f n 广义均匀收敛到)(t f ,则)(t f 必定是连续函数. 系1 设分布函数列)}({x F n 对应的特征函数列为)}({t f n ,则下列四条件等价:(1))}({x F n 弱收敛于某分布函数)(x F ,(2))}({t f n 收敛到某函数)(t f ,)(t f 在点0连续,(3))}({t f n 收敛到某连续函数)(t f , (4))}({t f n 广义均匀收敛到某函数)(t f . 当任一条件满足时,)(t f 是)(x F 的特征函数.下面说明系1中等价条件(2)中“)(t f 在0=t 的连续性”是不可缺少的条件.例6 设 ),2,1(,sin )( ==n ntntt f n .)}({t f n 是一列特征函数)1)0((=n f .实际上, ⎰⎰+∞∞--==dx x e dx e nnt nt n itxn n itx )(21sin ϕ, 其中⎪⎩⎪⎨⎧-∉-∈=],,[,0],,[,21)(n n x n n x n x n ϕ 是分布函数⎪⎩⎪⎨⎧≥<<-+-≤=n x n x n n n x n x x F n ,1,,2,,0)((2.5) 的密度函数.显然,对任意t ,)()(lim t f t f n n =∞→,这里⎩⎨⎧≠==.0,0,0,1)(t t t f ,)(t f 在0点不连续,也不是特征函数.另外对于(2.5)中)(x F n ,极限函数)(21)(lim )(1R x x F x F n n ∈==∞→一切不是一分布函数.至此我们可将随机变量序列的四种收敛性间的蕴含关系总结如下:几乎处处收敛⇒依概率收敛⇒分布函数的弱收敛⇑r 阶收敛 特征函数逐点收敛4.随机变量∑=nk k n 11ξ依概率收敛的一些结果在概率论,我们用“频率的稳定性”引出概率这个基本的概念.许多试验结果表明,虽然一次随机试验中某确定事件发生与否不能预言,但是如果在相同条件下大量重复这个试验,则此事件发生的频率会稳定在某个值的附近.这说明,在一定条件下各事件出现的可能性的大小是客观存在的,可以用上述频率的稳定值来度量,这就是事件的概率.频率的稳定性呈现在大量重复试验中,历史上把这个试验次数很大时出现的规律称作大数定律.后来我们引入了伯努利概型来刻画独立重复试验.将一成功(即A 发生)概率为p 的试验独立重复n 次,其中成功n μ次,则n μ是二项分布随机变量..)(,)(npq D np E n n ==μμ因此成功的频率n n μ也是随机变量.其期望为p 与n 无关,且方差npq 当∞→n 时趋于0.熟知,方差为0的随机变量恒等于它的期望,所以当∞→n 时频率n n μ应以概率p 为极限.另一方面,可以写∑==nk k n 1ξμ,其中n ξξξ,,,21 相互独立,具有相同的伯努利分布,至此,问题转化为研究∞→n 时ξ的平均值序列∑=nk k n 11ξ的极限行为.鉴于已在上面讨论过随机变量列的各种收敛性,因此我们可以给出大数定律的严格定义. 定义5 设}{n ξ为随机变量序列,它们都有有限的数学期望)(n E ξ.如果0)]([11−→−-∑=Pn k k k E n ξξ, (3.1) 则称}{n ξ满足大数定律. 定理8 (马尔科夫大数定律)设}{n ξ是方差有限的随机变量序列,如果有0)(112→∑-nk k D n ξ. (3.2)则}{n ξ满足大数定律.证明:由切比雪夫不等式及(3.2)式立得,对任意的0>ε有0)(1)|))((1(|1221→≤≥-∑∑==nk k n k k k D n E n P ξεεξξ, 即得证(3.1)式成立,定理得证.注:将0)(112→∑-nk k D n ξ称为马尔科夫条件,由定理8知它是大数定律成立的一个充分条件.定理9(切比雪夫大数定律)若序列}{n ξ两两不相关且方差有界:)1()(≥≤n C D n ξ,则}{n ξ满足大数定律.证明:在所给条件下,(3.2)式的左方0)(1)(11212→≤=∑∑==nCD n D n nk k nk k ξξ.即马儿科夫条件满足,从而大数定律成立. 定理 10 (伯努利大数定律)设n μ为n 重伯努利试验中事件A 出现的次数,又A 在每次试验中出现的概率为)10(<<p p ,则对任意的0<ε,有1)|(|lim =<-∞→εμp nP nn .证明:令⎩⎨⎧≤≤=)1,0,1n i A A i (不出现在第一次试验中出现在第一次试验中ξ则n ξξξ,,,21 是n 个相互独立的随机变量,且),,1(,1)1(,n i pq p p D p E i i =<=-==ξξ.满足切比雪夫大数定律条件,从而大数定律成立.注:此定理就是“频率以概率为其稳定值”的严格刻画.马尔科夫大数定律的重要性在于对}{n ξ已经没有任何同分布、独立性、不相关的假定.切比雪夫大数定律可以看成是马尔科夫大数定律的特例,伯努利大数定律是切比雪夫大数定律的特例,下面介绍一个随机变量序列独立同分布时的大数定律:定理 11(辛钦大数定律)设 ,,21ξξ是一列独立同分布的随机变量,且数学期望存在:,2,1,==i a E i ξ则对任意的0>ε,有1)|1(|lim 1=<-∑=+∞→εξni i n a n P 成立.证明:因为 ,,21ξξ有相同分布,所以也有相同的特征函数,记这个特征函数为)(t ϕ,又因为i E ξ存在,从而特征函数)(t ϕ有展开式:)(t ϕ=)(1)()0()0(/t o iat t o t ++=++ϕϕ再由独立性知∑=ni i n 11ξ的特征函数为n n nt o iat n t )](1[)]([++=ϕ 对任意取定的t,有iat n n n n e nto n t ia n t =++=+∞→+∞→)](1[lim )]([lim ϕ 而iat e 是退化分布的特征函数,相应的分布函数为⎩⎨⎧<≥=a x ax x F ,0,1)(由定理7连续性定理知∑=ni i n 11ξ的分布函数弱收敛于)(x F ,再由定理4即知有a n Pn i i −→−∑=11ξ,故辛钦大数定律成立.5.小结.本文主要对随机变量的四种收敛性的定义,性质进行了阐述,并结合具体的实例对四种收敛性间的关系进行了讨论给出了相应的定理,对于概率论中十分重要的依分布收敛给出了一些等价条件,和应用依概率收敛给出了随机变量∑=nk k n 11ξ的一些弱大数定理理论,揭示了“频率的稳定性”,这样使对极限理论后续内容的理解更加容易,学习更加简单.6.参考文献[1] 魏宗舒.概率论与数理统计教程[M].北京:高等教育出版社,1983:56-61. [2] 王梓坤.概率论基础及其应用[M].北京:北京师范大学出版社,1996:91-102. [3] 杨振明.概率论[M].北京:科学出版社,1999.69-74.[4] 钟镇权. 证明随机变量序列各种收敛性的关系[J].玉林师范学院学报,1999,3:17-23. [5] 邹辉文,丁跃武,朱忠华.依概率收敛与依分布收敛的关系[J].工科数学,2001,5:49-52. [6] 孟艳姣. 随机变量组(序)列的收敛性和精确渐近性[D].浙江:浙江大学,2010. [7] 钱能生,古伟清. 关于随机集序列的各种收敛性[J].工业工程,1995,8:12-29. [8] 李上桐.随机变量的四种收敛性[J].湖北民族学院学报(自然科学版),1987,0:13-15. [9] 周晓钟,尹秀实.由依概率收敛推出r 阶收敛的条件[J].高师理科学刊,1997,2:5-9. [10] E.Lukacs .Characteristic Function[M],1960.[11] Lin Zhengyan ,Su zhonggen. Probability Theory[M].zhejiang. Zhejiang University Press ,2005.[12] 峁诗松,程依明,濮晓龙. 概率论与数理统计教程[M]. 北京:高等教育出版社,2004:199-223.Some Convergences of Random SequencesAnd Their RelationshipAbstract:This paper focuses on the four convergences of random variable sequences. We mainly talk about the concepts and properties of almost sure convergence, convergence in probability, convergence in distribution, r-order convergence and discuss the relationship between them. Further, we do more specific research about convergence in distribution and convergence in probability.Key words:random variable sequences ; convergence; CDF.。