随机变量序列的两种收敛性

§4.2随机变量序列的两种收敛性在上一节中，我们从频率的稳定性出发，引入了n η=∑=n i i n 11ξ−→−p a （n ∞→） 即随机变量序列{}n η依概率收敛于常数a 这么一个概念。

我们自然可以把所讨论的问题推广到a 不是一个常数，而是一个随机变量这样的情形，于是需要引入下面的定义。

定义4.2 设有一列随机变量1η，2η，3η，…，n η，如果对任意的ε>0,都有 lim ∞→n P ()εηη<-n （4.6）则称随机变量序列{}n η依概率收敛于η，并记作lim ∞→n r η−→−p η 或n η−→−p η （n ∞→） 由此可知，前一节中讨论过的大数定律只是上述依概率收敛的一种特殊情况。

我们已经知道分布函数全面地描述了随机变量的统计规律，如果已知n η−→−p η（n ∞→），那么它们相应的分布函数n F （x ）与F （x ）之间的关系会有什么样的关系呢?一个猜测是,对所有的x ，都有n F （x ）→ F （x ）（n ∞→）成立，这个猜测对不对呢?让我们看一个很简单的例子。

例4.2 设η，n η都是服从退化分布的随机变量，且P （η=0）=1,P （n η=-n 1）=1，n=1,2,… 于是对任给的ε>0，当n>ε1时有 P （ηη-n ≥ε）=P （n η≥ε）=0所以n η−→−p η （n ∞→） 成立。

又设η，n η的分布函数分别为F （x ），n F （x ），则F （x ）=⎩⎨⎧≤>0,20,1x xF （x ）=⎪⎩⎪⎨⎧-≤->n x n x 1,21,1 显然,当x ≠0时，lim ∞→n n F （x ）= F （x ）成立，当x=0时，lim ∞→n n F （0）=lim ∞→n 1=1≠0= F （0） 这个简单的例子表明，一个随机变量序列依概率收敛于某一个随机变量，相应的分布函数列不一定是在每一点上都收敛于这个随机变量的分布函数的。

Dvoretzky’s 收敛定理一、概述Dvoretzky’s 收敛定理是概率论中的一个重要定理，它描述了随机变量序列的收敛性质，对于理解随机序列的极限行为具有重要意义。

本文将对Dvoretzky’s 收敛定理进行深入剖析，旨在帮助读者全面了解该定理的内容、证明过程和应用领域。

二、Dvoretzky’s 收敛定理的表述Dvoretzky’s 收敛定理描述了随机变量序列的收敛性质，在正式表述如下：对于一个随机变量序列X1, X2, …, Xn，在满足一定条件下，这个序列可以在概率意义下收敛于一个常数或者一个随机变量。

具体而言，若满足以下条件：1. 随机变量序列的方差有界：存在一个正数C，使得对于所有的n，有Var(Xn) <= C。

2. 随机变量序列的"距离"有限：对于任意的i≠j，有E|Xi - Xj| <=d(i,j)，其中d(i,j)是一个随机变量序列的"距离"函数。

那么，这个随机变量序列在概率意义下收敛于一个常数或者一个随机变量。

三、Dvoretzky’s 收敛定理的证明Dvoretzky’s 收敛定理的证明是通过利用概率论和数学分析的方法来完成的。

主要思路是采用刻画随机变量序列的距离函数，配合方差有界的条件，最终利用概率的收敛性质来推断序列的收敛性。

具体证明过程如下：1. 定义随机变量序列的距离函数d(i,j)，并使得该距离函数满足E|Xi - Xj| <= d(i,j)。

2. 利用方差有界的条件，推导出随机变量序列的均值序列收敛到一个常数。

3. 利用概率的性质，证明了随机变量序列在概率意义下的收敛性。

四、Dvoretzky’s 收敛定理的应用Dvoretzky’s 收敛定理在概率论和统计学中有着广泛的应用。

主要体现在以下几个方面：1. 随机变量序列的收敛性分析：Dvoretzky’s 收敛定理可以用来分析随机变量序列的收敛性，对于理解随机序列的极限行为具有重要意义。

论文摘要概率是对大量随机现象的考察中显现出来的，而对于大量的随机现象的描述就要采用极限的方法。

概率统计中的极限定理研究的是随机变量序列的某种收敛性，对随机变量收敛性不同定义将导致不同的极限定理，而随机变量的收敛性的确可以有各种不同的定义。

主要讨论了依概率收敛与依分布收敛，r阶收敛与几乎处处收敛，几乎处处收敛与依概率收敛之间的关系。

给出了由依概率收敛推出几乎处处收敛的条件和由依概率收敛推出r阶收敛的条件，从而比较完全地说明了随机变量序列的各种收敛性之间的关系。

本论文将对随机变量的几种收敛作出较为简单扼要的介绍和讨论.论文结构如下：一、随机变量的几种收敛的概念理论；二、随机变量的几种收敛之间的关系；从以上几个方面对随机变量的几种收敛理论简明扼要地分析，说明随机变量序列收敛理论在实际问题中的应用范围之广，在实际生活中的重要性。

关键词：r阶收敛；几乎处处收敛；依概率收敛；依分布收敛。

AbstractThe Probability is the study of a large number of random phenomena emerge, but for a large number of random phenomena should use extreme methods described. Probability and statistics in the limit theorem is asequence of random variables convergence, convergence of random variables with different definitions lead to different limit theorem, and indeed the convergence of random variables can have different definitions. Mainly discussed convergence in probability and convergence in distribution, convergence in order r and almost everywhere convergence, almost sure convergence and convergence in probability relationship. Convergence in probability is given by the launch of almost everywhere convergence of conditions and the convergence in probability by the introduction of r-order convergence conditions, which more completely describes the various random variables convergence relationship. This paper will make the convergence of several random variables is more brief presentations and discussions. Paper is structured as follows: 1. Convergence of random variables the concept of theory; 2. the convergence of several random variables between; From the above aspects of the theory of random variables of several brief analysis of convergence shows that the convergence theory of random variables in the actual problems in the wide range of applications, in real life importance.Keywords: convergence in order r ; almost everywhere or almost surely; convergence in probability; convergence in distribution.目录引言： 41 几种收敛性定义 42 依概率收敛与依分布收敛的关系 53 r阶收敛与几乎处处收敛的关系 114 依概率收敛与r阶收敛的关系 135 几乎处处收敛与依概率收敛和依分布收敛的关系 17总结 19四种收敛性 19四种收敛蕴涵关系 19致谢 21参考文献 22引言：概率论最早产生于17世纪，本来是保险事业的发展而产生的，但是来自于赌博者的请求，却是数学家们思考概率论中问题的源泉。

东北林业大学2023自命题科目考研复试大纲：概率论与数理统计及常微分方程东北林业大学2023自命题科目考研复试大纲：概率论与数理统计及常微分方程由考研大纲频道为大家提供，更多考研资讯请____网站的更新!东北林业大学2023自命题科目考研复试大纲：概率论与数理统计及常微分方程考试科目名称：概率论与数理统计及常微分方程(一、)概率论与数理统计局部考试内容与范围：一、事件与概率1、随机事件和样本空间;2、概率与频率;3、古典概率;4、概率的公理化定义及概率的性质;5、条件概率、全概率公式和贝叶斯公式;6、独立性;7、贝努利概型。

二、离散型随机变量1、一维随机变量及分布列;2、多维随机变量、结合分布列和边际分布列;3、随机变量函数的分布列;4、数学期望的定义及性质;5、方差的定义及性质、6、条件分布与条件数学期望。

三、连续型随机变量1、随机变量及分布函数;2、连续型随机变量;3、多维随机变量及其分布;4、随机变量函数的分布;5、随机变量的数字特征、切贝雪夫不等式;6、条件分布与条件期望;7、特征函数。

四、大数定律与中心极限定理1、大数定律;2、随机变量序列的两种收敛性;3、中心极限定理。

五、数理统计的根本概念1、母体与子样、经历分布函数;2、统计量及其分布。

六、点估计1、矩法估计;2、极大似然估计;3、估计的有效性。

参考资料：魏宗舒等编，《概率论与数理统计教程》，高等教育出版社(二、)常微分方程局部考试内容与范围：一，初等积分法1，纯熟掌握初等积分法中的变量可别离方程解法、常数变易法、全微分方程解法(含积分因子的解法)及参数法和降阶法。

2，掌握证明一阶线性微分方程解的性质的根本方法。

3，掌握把实际问题抽象为常微分方程的根本方法。

二，根本定理1，理解常微分方程解的几何解释，理解解的存在唯一性及延展定理的证明;2，掌握奇解的求法。

3，掌握利用解的存在唯一性及延展定理证明有关方程解的某些性质的方法。

三，一阶线性微分方程组1，理解线性微分方程组解的构造，通解根本定理，掌握常数变易法和刘维尔公式;2，纯熟掌握常系数线性微分方程组的解法。

依分布收敛与依概率收敛
依分布收敛与依概率收敛是概率论和统计学中的两个重要概念，常
用于描述随机变量序列的收敛性质。

下面分别介绍这两种收敛的定义
和特点。

依分布收敛：
所谓依分布收敛，是指随机变量序列逐渐趋向于某个分布的过程。

具
体而言，对于一组随机变量序列{Xi}和分布函数F(x)，如果对于任意
的x，当n趋向于无穷大时，有Fn(x)都趋向于F(x)，则称{Xi}依分布
收敛于分布函数F(x)，记作Xi~F(x)。

依分布收敛的特点是：
1. 收敛的结果是一个分布函数，可以通过累加分布函数来计算概率值。

2. 收敛的充分条件是连续的性质，具有普遍性。

3. 各种随机变量均可以进行依分布收敛。

依概率收敛：
依概率收敛是指随机变量序列以大概率趋近于某一常数的过程。

具体
而言，对于一组随机变量序列{Xi}和常数a，如果对于任意的小于等于ε（ε>0），有lim P(|Xi-a|>ε)=0，则称{Xi}依概率收敛于a，记作Xi→a （p）。

依概率收敛的特点是：
1. 收敛的结果是一个确定值，其概率趋向于1。

2. 收敛的充分条件是可测性的性质，具有更弱的条件限制。

3. 仅限于实数的随机变量序列（也可以进行有限维的推广）。

以上是依分布收敛与依概率收敛的定义和特点，两者之间存在差异，但都是表示随机变量序列逐渐趋向于某一结果的重要方法。

在实际应用中，需要根据具体问题和需求选择适合的方法进行处理。

论文摘要概率是对大量随机现象的考察中显现出来的，而对于大量的随机现象的描述就要采用极限的方法。

概率统计中的极限定理研究的是随机变量序列的某种收敛性，对随机变量收敛性不同定义将导致不同的极限定理，而随机变量的收敛性的确可以有各种不同的定义。

主要讨论了依概率收敛与依分布收敛，r阶收敛与几乎处处收敛，几乎处处收敛与依概率收敛之间的关系。

给出了由依概率收敛推出几乎处处收敛的条件和由依概率收敛推出r阶收敛的条件，从而比较完全地说明了随机变量序列的各种收敛性之间的关系。

本论文将对随机变量的几种收敛作出较为简单扼要的介绍和讨论.论文结构如下：一、随机变量的几种收敛的概念理论；二、随机变量的几种收敛之间的关系；从以上几个方面对随机变量的几种收敛理论简明扼要地分析，说明随机变量序列收敛理论在实际问题中的应用范围之广，在实际生活中的重要性。

关键词：r阶收敛；几乎处处收敛；依概率收敛；依分布收敛。

AbstractThe Probability is the study of a large number of random phenomena emerge, but for a large number of random phenomena should use extreme methods described. Probability and statistics in the limit theorem is a sequence of random variables convergence, convergence of random variables with different definitions lead to different limit theorem, and indeed the convergence of random variables can have different definitions. Mainly discussed convergence in probability and convergence in distribution, convergence in order r and almost everywhere convergence, almost sure convergence and convergence in probability relationship. Convergence in probability is given by the launch of almost everywhere convergence of conditions and the convergence in probability by the introduction of r-order convergence conditions, which more completely describes the various random variables convergence relationship.This paper will make the convergence of several random variables is more brief presentations and discussions. Paper is structured as follows:1. Convergence of random variables the concept of theory;2. the convergence of several random variables between;From the above aspects of the theory of random variables of several brief analysis of convergence shows that the convergence theory of random variables in the actual problems in the wide range of applications, in real life importance.Keywords: convergence in order r ; almost everywhere or almost surely; convergence in probability; convergence in distribution.目录引言： (4)1 几种收敛性定义 (4)2 依概率收敛与依分布收敛的关系 (5)3 r阶收敛与几乎处处收敛的关系 (11)4 依概率收敛与r阶收敛的关系 (13)5 几乎处处收敛与依概率收敛和依分布收敛的关系 (17)总结 (19)四种收敛性 (19)四种收敛蕴涵关系 (19)致谢 (21)参考文献 (22)引言：概率论最早产生于17世纪，本来是保险事业的发展而产生的，但是来自于赌博者的请求，却是数学家们思考概率论中问题的源泉。

概率论中几种收敛及其联系 西北师范大学数学与应用数学专业 甘肃兰州 730070摘要：概率极限理论是概率论的重要组成部分,内容十分丰富,本文仅介绍依概率收敛,平均收敛,依分布收敛,a.s.收敛，完全性收敛以及事件序列的无穷次发生之间的联系.关键词：示性函数 概率 随机变量 收敛 分布函数Abstract : The probability limit theory is an important part of the probability theory, is rich in content, this article describes only the convergence in probability, the averageconvergence, converge in distribution, as convergence, complete convergence, as well as the infinite sequence of events occurred betweenKey words : indicator function probability random variable convergence distribution function首先，为了研究这几种收敛性，我们需要估计概率。

所以首先需要建立必要的概率不等式。

我们以I(A)表示事件A 的示性函数，即有⎩⎨⎧∉∈=.,0;,1)(A A A I ωω那么，显然当B A ⊂时，有).()(B I A I ≤，并且有).()(A EI A P =定理 1 （Chebyshev 不等式）设)(x g 是定义在 [)∞,0 上的非降的非负值函数，如果对随机变量η，有∞<)(ηEg ，那么对任何使得0)(>a g 的0>a ，我们都有.)()()(a g Eg a P ηη≤≥证明：首先，由)(x g 的非降性知 ()()()().a g g a ≥⊂≥ηη 因此()()()()()()()()().a g g I a g g a g g I a I ≥≤≥≤≥ηηηη其中)(A I 是事件A 的示性函数;其中的第二个不等号是由于在事件()()()a g g ≥η上面有()()1≥a g g η由上述不等式立得()()()()()()()()()()()().a g Eg a g g I a g g E a g g EI a EI a P ηηηηηη≤⎭⎬⎫⎩⎨⎧≥≤≥≤≥=≥Chebyshev 不等式在以后的证明中有非常重要的作用,所以我们在这里先将其提出. 下面让我们先从较简单的依概率收敛谈起.定义 1 已知随机变量序列{n ξ,N n ∈}与随机变量ξ.如果对0>∀ε，都有.0)|(|lim =≥-∞→εξξn n P那么我们就称随机变量序列{N n n ∈,ξ}依概率收敛到随机变量ξ，记为ξξ−→−Pn其实,依概率收敛的本质是n ξ对ξ的绝对偏差不小于任一给定量的可能性将随着n 增大而减小.或者说,绝对偏差小于任一给定量的可能性将随着增大而接近1,即上式等价于1)(lim =<-∞→εξξn n P .特别当ξ为退化分布时,即()1==c P ξ,则称序列{}n ξ依概率收敛于c ,即c Pn −→−ξ.下面, 我们来引入随机变量序列的另外一种收敛:平均收敛.定义 2 如果{}0;,>n n ξξ是r L 中的随机变量, 其中,0>r {}∞<=rr E L ξξ,并且0→-ξξn E , ()∞→n .则称随机变量序列{}N n n ∈,ξ依r 阶平均收敛到随机变量,ξ记作ξξ−→−rLn 当1=r 时简称为依平均收敛，并记为.ξξ−→−Ln在依概率收敛和平均收敛之间存在如下关系:定理 2 r 阶平均收敛蕴含依概率收敛. 证明:因为0lim =-∞→rn n E ξξ,故对,,0N ∃>∀ε当N n >时,有εξξrrn a E <- .又由Chebyshev 不等式知对任何0>a ，有()rrn n aE a P ξξξξ-≤≥-，故()εξξ<≥-a P n ，因此()0lim =≥-∞→a P n n ξξ.但是,反之不真.反例如下:例1 设概率空间为区间上的几何型概率空间,即有 ()1,0=Ω , () 1.0B F = , L P =. 令()0=ωξ, ()1,0∈∀ω, 而易知,对任何0>ε,当∞→n 时,都有 ()()020→=>≤>-nP P n n ξεξξ,所以ξξ−→−Pn ;但是1≡=-n n E E ξξξ, 所以n ξ不依平均收敛到ξ.在概率极限理论中,研究随机变量序列收敛性的同时当然也要研究相应的分布函数序列的收敛性,下面就让我们来谈一谈依分布收敛.定义3 设{}N n x F n ∈),(是一列定义在R 上的有界非降的左连续函数，如果存在一个定义在上的有界非降的左连续函数).(x F 使得),(),()(lim F C x x F x F n n ∈∀=∞→则称{})(x F n 弱收敛到)(x F 记为),()(x F x F n −→−ω并称)(x F 是{})(x F n 的弱极限。

依概率收敛特征函数收敛依概率收敛和特征函数收敛是概率论中的两个重要概念，本文将对这两个概念进行详细介绍。

一、依概率收敛依概率收敛是指一个随机变量序列在概率意义下趋于另一个随机变量的过程。

具体来说，若随机变量序列$\{X_n\}_{n\geq1}$和随机变量$X$满足$\lim_{n\rightarrow\infty}P(|X_n-X|>\epsilon) = 0$，则称序列$\{X_n\}_{n\geq1}$依概率收敛于$X$。

其中$\epsilon$为一个正实数。

依概率收敛是指一种弱收敛，即收敛的速度比较缓慢，但是趋向于极限的概率比较大。

与之相对的是依分布收敛，即序列中的所有随机变量都具有相同的分布函数，这种收敛可以由特征函数收敛来推导。

二、特征函数收敛特征函数是概率论中常见的一个概念，一个随机变量的特征函数$\varphi_X(t)$定义为$\varphi_X(t) = E(e^{itX})$。

其中$E$表示期望，$i$为虚数单位，$t\in \mathbb{R}$。

如果随机变量序列$\{X_n\}_{n\geq1}$的特征函数$\varphi_{X_n}(t)$逐点收敛于另一个随机变量的特征函数$\varphi_X(t)$，即$\lim_{n\rightarrow\infty}\varphi_{X_n}(t)=\varphi_X(t)$，则序列$\{X_n\}_{n\geq1}$依分布收敛于$X$。

特征函数的收敛性质可以通过Fourier反演定理来推导。

具体来说，如果一个随机变量的特征函数可计算，那么它的概率密度函数可以通过$f_X(x) = \frac{1}{2\pi}\int_{-\infty}^{\infty} e^{-itx}\varphi_X(t)dt$来反演得到。

因此，特征函数收敛可以推导出依分布收敛。

三、依概率收敛和特征函数收敛的关系依概率收敛和特征函数收敛是概率论中两个不同的概念，它们之间的关系可以用以下定理来刻画。

第四章 大数定律与中心极限定理一、教学要求1. 深刻理解并掌握大数定律，能熟练应用大数定律证明题目；2.理解随机变量序列的两种收敛性，了解特征函数的连续性定理；3. 深刻理解与掌握中心极限定理，并要对之熟练应用。

二、重点与难点本章的重点是讲清大数定律与中心极限定理的条件、结论，难点是随机变量序列的两种收敛及大数定律和中心极限定理的应用。

§4.1 大数定律一、大数定律的意义 1.引入在第一章中引入事件与概率的概念时曾经指出，尽管随机事件A 在一次试验可能出现也可能不出现，但在大量的试验中则呈现出明显的统计规律性——频率的稳定性。

频率是概率的反映，随着观测次数n 的增加，频率将会逐渐稳定到概率。

这里说的“频率逐渐稳定于概率”实质上是频率依某种收敛意义趋于概率，这个稳定性就是“大数定律”研究的客观背景。

详细地说：设在一次观测中事件A 发生的概率()p A P =，如果观测了n 次（也就是一个n 重贝努利试验），A 发生了n μ次，则A 在n 次观测中发生的频率为nnμ，当n 充分大时，频率nnμ逐渐稳定到概率p 。

若用随机变量的语言表述，就是：设i X 表示第i 次观测中事件A 发生次数，即1,0,i i A X i A ⎧=⎨⎩第次试验中发生第次试验中不发生n i ,,2,1 =则12,,,n X X X 是n 个相互独立的随机变量，显然1nn i i X μ==∑,从而有11nni i X n n μ==∑.因此“nnμ稳定于p ”，又可表述为n 次观测结果的平均值稳定于p 。

现在的问题是：“稳定”的确切含义是什么？nnμ稳定于p 是否能写成p nnn =∞→μlim（1）亦即，是否对0>∀ε，εμ<->∃p nN n N n有时当,, ? （2）对n 重贝努里试验的所有样本点都成立？实际上，我们发现事实并非如此，比如在n 次观测中事件A 发生n 次还是有可能的，此时1,==nn nn μμ，从而对p -<<10ε，不论N 多么大，也不可能得到εμ<->p nN n n有时当,成立。