1 n 1 n lim P{ ∑Xk − ∑EXk < ε} = 1 n→∞ n k=1 n k=1
(*)
马尔可夫大数律: 是一列随机变 马尔可夫大数律:设 X1, X2, …, Xn, ...是一列随机变 是一列 它们的数学期望和方差都存在， 量，它们的数学期望和方差都存在，如果
n 1 则对任意的ε ， 式仍成立 式仍成立. D(∑Xk ) → 0,则对任意的ε >0，(*)式仍成立 2 n k =1
lim Fn ( x) = F( x)
证明： 左右进行逼近即可。 证明：对点x左右进行逼近即可。 左右进行逼近即可 定理1 第一定理)： 定理1(Helly第一定理 ：任一一致有界的非降函数 第一定理 任一一致有界的非降函数 列{Fn(x)}中必有一子序列弱收敛到一个有界的 }中必有一子序列弱收敛到一个有界的 非降函数。 非降函数。 证明：设Q={r1 , r2 ,…,rn ,…}是有理数全体。由对 证明： 是有理数全体。 是有理数全体 角线法可以找到{ 角线法可以找到{Fn(x)}的子序列{Fn,n(x)}，使 }的子序列{ } 存在。 得 lim Fn,n (r) = G(r) , r ∈Q存在。
n→∞
则称序列{X 服从大数定律 大数定律. 则称序列 n } 服从大数定律. 定义2 是一列独立的随机变量， 定义2: 若X1 , X2 ,…,Xn ,…是一列独立的随机变量， 是一列独立的随机变量 表示该序列的标准化和, 令Zn表示该序列的标准化和 即
Zn =
∑X
k =1
n
k
− ∑EXk
k =1 k
( p1 + ⋯+ pn ) lim P{ − < ε} = 1 n→∞ n n
µn
设每次试验中,事件 例1 设每次试验中 事件 A 发生的概率为 0.75, 车贝晓夫不等式估计 不等式估计, 多大时, 试用 车贝晓夫不等式估计 n 多大时 才 次独立重复试验中, 能在 n 次独立重复试验中 事件 A 出现的 频率在0.74 ~ 0.76 之间的概率大于 0.90? 频率在 解 设 X 表示 n 次独立重复试验中事件 A 发生 的次数 , 则 X ~ B(n,0.75)
0.1875n P(| X − 0.75n |< 0.01n) ≥1− (0.01n)2
令
0.1875n 1− ≥ 0.90 2 (0.01n)
解得 n ≥18750
大数定律的意义： 大数定律的意义： 由伯努利大数定律可以看出， 足够大时, 由伯努利大数定律可以看出，当n 足够大时,事 发生的频率近似于事件A在一次试验中发生的 件A发生的频率近似于事件 在一次试验中发生的 发生的频率近似于事件 概率p 频率“ 稳定于”概率. 概率 , 即频率“ 稳定于”概率.于是在实际中就可 以通过多次试验确定某事件发生的频率, 以通过多次试验确定某事件发生的频率,并用它近 似代替概率p. 似代替概率 .这提供了一种在实际中估计概率的 方法. 方法. 另外, 车贝晓夫大数定律可以看出具有相同数 另外,由车贝晓夫大数定律可以看出具有相同数 学期望和方差的独立随机变量序列, 学期望和方差的独立随机变量序列,它们的算术平 均值近似于它们的数学期望. 均值近似于它们的数学期望. 足够大时， 因此当 n 足够大时，算术平均值几乎就是一个 常数,于是就可以用算术平均值近似地代替数学期 常数, 这是参数估计中矩估计的基本思想. 望.这是参数估计中矩估计的基本思想.
§5.2 收敛性
一、分布函数弱收敛 },如果存在一个 定义1 对于分布函数列{ 定义1：对于分布函数列{Fn(x)},如果存在一个 }, 非降函数F(x)使 非降函数 使
lim Fn ( x) = F( x)
n→∞
注意： 注意：如果直接定义 lim Fn ( x) = F( x) 则一般不 ， n→∞ 能得到F(x)是左连续的，因而不能得到 是左连续的， 能得到 是左连续的 因而不能得到F(x)是 是 分布函数。 分布函数。
W W Fn ( x) →F( x) Fn ( x) →G( x) 命题： 命题：如果 ，
的每一个连续点上都成立， 在F(x)的每一个连续点上都成立，则称 n(x)弱 的每一个连续点上都成立 则称F 弱 W 收敛于F(x)，并记为 F ( x) →F( x) . 收敛于 ，
n
n→∞
n→∞
lim 序列{ 定义 F(x) = rk →x− G(rk )，则序列{Fn,n(x)}弱收敛 } 满足所要求的条件。 到F(x)，并且 ，并且F(x)满足所要求的条件。 满足所要求的条件
定理2 第二定理)： 上的连续函数 定理2(Helly第二定理 ：设f(x)是[a,b]上的连续函数， 第二定理 是 上的连续函数， 又{Fn(x)}是在 }是在[a,b]上弱收敛于 上弱收敛于F(x)的一致有界的 的 非降函数列， 的连续点， 非降函数列，且a 和b 是F(x) 的连续点，则
§5.1 伯努利试验场合的极限定理
定义1 是一列随机变量， 定义1:若X1 , X2 ,…,Xn ,…是一列随机变量，令 是一列随机变量
1 Yn = ( X1 +⋯+ Xn ) n
如果存在一个常数序列a 如果存在一个常数序列 1 , a2 ,…,an ,…., 对任意的
ε>0,总有 ε>0,总有
lim P{Yn − an < ε} = 1
lim P{
n→∞
µn
n
− p < ε} = 1
泊松大数律: 如果在一个独立试验序列中 事件A 试验序列中, 泊松大数律: 如果在一个独立试验序列中 事件 在第k次试验中出现的概率为 次试验中出现的概率为p 记前n次 在第 次试验中出现的概率为 k, 以µn记前 次 试验中事件A出 现的次数, 则对任意的ε >0, 都有 试验中事件 出 现的次数 则对任意的ε
下面我们来考虑中心极限定理. 下面我们来考虑中心极限定理.由前面伯努利 中心极限定理 大数定律，我们可以知道当n 足够大时， 大数定律，我们可以知道当 足够大时，有
P{
µn
n
− p ≥ ε} → 0,
下面的定理给出 的渐进分布的一个精确表达式. 下面的定理给出µn的渐进分布的一个精确表达式. 的定理给出 定理1 棣莫弗 拉普拉斯): 棣莫弗定理1(棣莫弗-拉普拉斯 :若µn是n次伯努利试验 次伯努利试验 中事件A出现的次数 出现的次数, 中事件 出现的次数 0<p<1, 则对任意有限区间 [a,b]有: 有
设每次试验中, 例2 设每次试验中,事件 A 发生的概率为 0.75,试 , 用棣莫弗-拉普拉斯定理进行计算, 用棣莫弗-拉普拉斯定理进行计算, (1) 在 108 次独立重复试验中,事件 A 出现的频率 次独立重复试验中, 之间的概率为多少? 在0.74 ~ 0.76之间的概率为多少 之间的概率为多少 (2) 问n 多大时, 才能在 n 次独立重复试验中,事 多大时, 次独立重复试验中, 出现的频率在0.74 ~ 0.76 之间的概率大 件 A 出现的频率在 于 0.90? (3) 在 144 次独立重复试验中,事件 A 出现的频率 次独立重复试验中, 之间的概率是0.95, 问ε应 在[0.75-ε, 0.75+ε]之间的概率是 之间的概率是 应 等于多少? 等于多少
都是分布函数 且F(x)和G(x)都是分布函数，则对一切 ,有 和 都是分布函数，则对一切x,
F( x) = G( x) .
下面，我们来建立分布函数列弱收敛到一个分布 下面，我们来建立分布函数列弱收敛到一个分布 函数的充分必要条件。 函数的充分必要条件。 引理1 引理1：设{Fn(x)}是实变量 的非降函数列，D是R1 }是实变量x 的非降函数列， 是 上的稠密集，若对于D 中的所有点，序列{Fn(x)} 上的稠密集，若对于 中的所有点，序列{ } 收敛于F(x)，则对 的一切连续点 收敛于 ，则对F(x)的一切连续点 有 的一切连续点x
k − np ≤ b 及n ∞时，一致地有 (i)当a ≤ xk = 当 时 npq 2 1 1 −1 xk P{µn = k} ÷ ( ⋅ e 2 ) →1, npq 2π
(i i)当及 当及n ∞时，一致地有 时 当及
P{a ≤
µn − np
npq
< / 2 e dx . 2π
第五章 极限定理
在这一章中，我们主要讲大数定律和中心极限定 这一章中， 理，通过大数定律我们就可以说明为什么能以某事 件发生的频率来近似该事件的概率. 件发生的频率来近似该事件的概率. 同样的， 同样的，通过中心极限定理我们就可以解释为什 么正态分布在实际中是最常见的一个分布. 么正态分布在实际中是最常见的一个分布.
lim Fn (−∞) = F(−∞) ,
n→∞
∞
lim Fn (+∞) = F(+∞) .
n→∞ ∞
则 lim ∫ ∞ f ( x)dFn (x) = ∫ ∞ f (x)dF( x) . − n→∞ − 证明： 分成三段， 证明：把(-∞,∞)分成三段，利用前一定理的结论 分成三段 即可。 即可。 二、连续性定理 定理4(正极限定理 ：设分布函数列{Fn(x)}弱收敛 正极限定理 函数列{ 定理4 正极限定理)：设分布函数列 } 于某一分布函数F(x), 则相应的特征函数列{fn(t)} 分布函数 则相应的特征函数列{ 特征函数列 于某一分布函数 } 收敛于特征 特征函数 收敛于特征函数 f(t),且在 的任一有限区间内收 ,且在t 敛是一致的。 敛是一致的。 定理5 逆极限定理)：设特征函数列 逆极限定理 函数列{ 定理5(逆极限定理 ：设特征函数列{fn(t)}收敛于某 } 连续，则相应的分布 分布函数 一函数f(t)， 在 一函数 ，且f(t)在t=0 连续，则相应的分布函数 分布函数 而且f(t)是 列{Fn(x)}弱收敛于某一分布函数 }弱收敛于某一分布函数F(x), 而且 是 F(x)的特征函数。 函数。 的特征函数
