第5章 大数定律和中心极限定理.ppt

01
中心极限定理
定义
中心极限定理：在大量独立同散布的 随机变量下，这些随机变量的平均值 的散布趋近于正态散布，即使这些随 机变量的散布本身并不一定是正态散 布。
中心极限定理是概率论和统计学中的 一个基本概念，它在许多领域都有广 泛的应用，如金融、生物、社会科学 等。
适用范围
中心极限定理适用于大量独立同散布的随机变量，这些随机变量的散布可以是任何散布，不一定是正 态散布。
实际应用案例
股票市场分析
总结词
股票市场分析
详细描述
大数定律和中心极限定理在股票市场分析中有着广泛的应用。股票价格的波动受到多种 因素的影响，包括市场情绪、公司事迹、宏观经济状况等。通过运用大数定律和中心极 限定理，投资者可以对股票价格进行概率分析和预测，从而做出更加理性的投资决策。
保险精算
总结词：保险精算
深化理论分析
虽然大数定律和中心极限定理已有较为完善的理论体系，但在某些特定场景下，其理论分析仍需进一步深化和完善。 例如，对于非独立同散布样本的情况，这两个定理的适用性和证明方法仍需进一步探讨和研究。
与其他理论的结合
大数定律和中心极限定理可以与其他概率论和统计学中的理论相结合，形成更为完善的理论体系。例如 ，可以与贝叶斯统计、马尔科夫链蒙特卡洛方法等理论相结合，用于解决更为复杂和实际的问题。
本课件采用了理论分析和实证研究相 结合的方法，对大数定律和中心极限 定理进行了深入探讨。通过分析大量 的实证数据，我们发现这两个定理在 许多实际场景中都得到了验证和应用 ，为相关领域的研究和实践提供了重 要的理论支持和实践指点。
未来研究方向
拓展应用领域
随着科技的发展和研究的深入，大数定律和中心极限定理的应用领域将不断拓展。例如，在人工智能和大数据领域， 这两个定理可以用于设计和优化算法，提高数据分析和预测的准确性和效率。

k 1
其中 X1, X2 ,, Xn是相互独立的、服从同一
均值为μ，方差为σ2>0的独立同分布的随机变量
n
X1,X2,…,Xn之和 X k 的标准化变量，当n充分
大时，有
k 1
n

k 1
Xk

nm
～近似N(0,1)
ns
n
这样可以用(标准)正态分布来对 X k 作
k 1
理论分析或实际计算，不必求分布函数
19/41
§5.2 中心极限定理
将上式改写为
即对任意的正数ε，当n充分

lim P n
1 n
n k 1
Xk
m

1.

大时，不等式 立的概率很大
|
X
m | 成
3/41
证 由随机变量X1,X2,…,Xn,…相互独立，且具有 相同的数学期望和方差，有
E

1 n
n k 1
Xk

lim
n
P

1 n
(X1

X2

Xn)
p




1,
即
lim
n
P

nA n

p





1.
伯努利大数定理表明，事件发生的频率nA/n依概率收敛
于事件的概率p，以严格的数学形式表达了频率的稳定性和概
率的合理性
近似：当n很大时，事件发生的频率nA/n与概率有较大偏差的 可能性很小，因此由实际推断原理，由于小概率事件几乎不
辛钦定 理
X P m

概率论与数理统计
§5.2 中心极限定理
2）中 心极限 定理表明，若 随 机 变 量 序 列
X 1 , X 2 , , X n 独立同分布，且它们的数学期
望及方差存在，则当n充分大时，其和的分布,
n
即 X k 都近似服从正态分布. (注意:不一定是 k 1
标准正态分布）
3）中心定理还表明：无论每一个随机变量 X k ,
概率论与数理统计
§5.1 大数定律
定理1（Chebyshev切比雪夫大数定律）
假设{ Xn}是两两不相关的随机
变量序列，EXn , DXn , n 1,2, 存在，
其方差一致有界，即 D(Xi) ≤L，
i=1,2, …， 则对任意的ε>0，
lim P{|
n
1 n
n i1
Xi
1 n
n i1
E(Xi ) | } 1.
概率论与数理统计
§5.2 中心极限定理
现在我们就来研究独立随机变量之和所 特有的规律性问题.
在概率论中，习惯于把和的分布 收敛于正态分布这一类定理都叫做中心 极限定理.
下面给出的独立同分布随机变量序 列的中心极限定理, 也称列维——林德 伯格（Levy－Lindberg）定理.
概率论与数理统计
§5.2 中心极限定理
大量的随机现象平均结果的稳定性
大量抛掷硬币 正面出现频率
生产过程中的 字母使用频率 废品率
概率论与数理统计
§5.1 大数定律
一、大数定律
阐明大量的随机现象平均结果的稳定性的一系
列定理统称为大数定律。
定义1 如果对于任意 0, 当n趋向无穷时，事件
" Xn X " 的概率收敛到1，即

VS
不同点
大数定律主要研究随机变量的算术平均值 在样本容量趋于无穷大时的性质，而中心 极限定理则研究随机变量的算术平均值在 样本容量趋于无穷大时的散布情况。
大数定律与中心极限定理的联系与区分
联系
大数定律和中心极限定理都是研究随机变量的性质和散布，它们都是概率论中的重要理论。
区分
大数定律主要研究随机变量的算术平均值在样本容量趋于无穷大时的性质，而中心极限定理则研究随机变量的算 术平均值在样本容量趋于无穷大时的散布情况。
总结词
金融风险管理中中心极限定理的应用
详细描述
中心极限定理在金融风险管理中有着广泛的 应用。通过将多个独立同散布的随机变量相 加，中心极限定理可以近似描述这些随机变 量的散布特征。在金融风险管理领域，可以 利用中心极限定理对投资组合进行优化，降
低投资组合的风险。
案例三
总结词
大数据分析中的大数定律与中心极限定理应用
社会科学等。
对未来学习的展望和建议
深入学习概率论和统计学
大数定律和中心极限定理是概率论和统计学中的基础知识，但它们的 应用范围非常广泛，需要进一步深入学习。
学习其他相关课程
除了概率论和统计学，还可以学习其他相关课程，如回归分析、时间 序列分析、多元统计分析等，以更全面地掌握数据分析的方法。
关注实际应用
详细描述
在大数据分析中，大数定律和中心极限定理可以共同发挥作用。通过收集大量数据，利 用大数定律计算出数据的统计特征，然后利用中心极限定理对数据进行近似描述。这种
方法可以应用于数据发掘、机器学习等领域，帮助我们更好地理解和分析大数据。
06
CATALOGUE
总结与展望
本课程的主要内容总结

n
X i n
i 1
n
3
近似服从标准正态分布
于是所求概率为

P
1 n
n i 1
Xi




P

n i1
Xi
n

n

n

P i1 X i n
3n


2
3n 1

n


3

(2)当n 36, 1/ 6时,所求概率为
（1）保险公司一年的利润不少于6万元的概率；
（2）保险公司亏本的概率。
解 设参加保险的一万人中一年内的死亡的人数为X ,
则X ~ b10000,0.006,其分布律为
PX

k
1k0000
0.006k

0.994 10000k
k 0,1,2,,10000
lim n
P
n np
np1 p

x
x
1
t2
e2
dt

Φ

x
2π
当n充分大时,对任意a b,有
Pa n b P
a np
np1 p

n np
np1 p
b np
np1 p
Φ
第五章 大数定律和中心极限定理
第一节 第二节
大数定律 中心极限定理
第一节 大数定律
定义1设Y1,Y2 ,,Yn ,是一个随机变量序列, a是一个常
数, 若对任何正数 , 有
limP Yn a 1
n
则称序列Y1,Y2 ,,Yn ,依概率收敛于a,记为Yn Pa 依概率收敛的序列有如下性质： 设X n Pa,Yn Pb,又设g(x, y)在点(a,b)连续,则

n
n
●伯努利大数定律说明了当重复独立试验次数 n 很大时，频率与其概率之差可为任意小， 即说明了其频率的稳定性。
从而在实际推断中，当试验次数较大时，可以 用事件发生的频率来近似代替概率。
若记
1, 第i次实验中事件A发生 Xi 0，第i次实验中事件A不发生
(i 1, 2
n)
n
P400 X 600 由切比谢夫不等式得
P400 500 X 500 600 500 P| X E(X ) | 100
1
D(X ) 100 2

1

250 100 2

0.975
(2)设需要做n次独立试验, 则X ～ B(n, 0.5), 求n使得
P
0.35

X n

0.65

0.95
P0.35

X n

0.65

P0.35
n
0.5
n

X

0.5 n

0.65n

0.5n
PX 0.5n 0.15n 0.95
成立,由切比谢夫不等式得
DX
0.25n
P X 0.5n 0.15n 1 (0.15n)2 1 (0.15n)2
D( Xi ) c(i 1, 2 ),则对任意 0,有
lim P(
n
1 n
n i 1
Xi

1 n
n i 1
E( Xi )
)
1
证明: 由期望与方差的性质知
E(1
n
n i 1
Xi)

定理3 （德莫佛—拉普拉斯定理）设随机
变量X服从二项分布B(n,p),则有
lim
P
X np
x
x
1
t2
e 2 dt ( x)
n np(1 p) 2
3
证 X可以看作n个相互独立,服从相同(0-1)分布
的随机变量 X1,X2,…,Xn 之和: X= X1+X2+…+Xn
其中 PXi 1 p, PXi 0 1 p q.
由于
EXi
p,
n
DXi
pqi
1,2,, n,
则定理1中的
X i n
i 1
化为
Yn np ，
n
npq
故由定理 1 可得上述结论。
定理3 表明,当n充分大时, 二项分布B(n,p)可 近似地用正态分布N(np, { np(1 p)}2)来代替.
因此, 当X~B(n, p), 且n充分大时, 有(其中q=1-p)
1 n
n i 1
Xi
1 n
n
E
i 1
Xi
1. （4）
定理 2 的证明可参照定理1完成。
定理 2 中要求方差 DXi 2 c（c为常数， i=1，2，… ），即 DX是i 一致有界的。因此，
当 n 无限增大时， DYn D 是n1 一in1 个Xi无
穷的小分量散。程即度当是n很充小分的大。时这，表Y明n ， 经n1 的i过n1分算X布术i 平均
定理1 (同分布的中心极限定理——列维-林德伯格
定理)设随机变量X1,X2, … Xn, …相互独立同分布且
具有有n限的数学期望 和方差 2 0 ,则随机变量
Xi n
Yn

3
n) 1, 2
n 1,2
证明:{X n}服从大数定律.
证明： k 1,2, E
Xk

1 3 2
k

1 (3 2
k ) 0,
2
DX k

E
X
2 k

k3.
由切比雪夫不等式可得
相互独立
P

1 n
n k 1


1 n
n
EXk
k 1



lim
n
Fn
(
y)

lim
n
P(Yn

y) ( y)
例1.一加法器同时收到100个噪声电压Vk (k 1, 2,, 100),设它们是相互独立的随机变量, 且都在区间
100
(0,10)上服从均匀布, 记V Vk , 求P{V 520}的近似值. k 1
解 :易知E(Vk ) 5，D(Vk ) 100/12(k 1, 2, ,100).
由独立同分布的中心极限定理知
P{V 520} P{ V -100 5 520 -100 5 } 100/12 100 100/12 100
1 { 520 -100 5 ) 100/12 100
1- (0.693) 0.245.
练习： 某种电子元件40个，其寿命服从 参数为0.1(小时-1)的指数分布，让他们依次 工作, 求总工作时间不足380小时的概率。

1
D( 1 n n k 1
2
Xk)
1
n2
k3
k 1
n2 2
1
2
2

应至少检查190只灯泡．
第十四页，本课件共有28页
5 计算机在进行数值计算时，遵从四舍五入的原则．
为简单计，现对小数点后面第一位进四舍五入运
算，则误差可以认为服从均匀分布U[-0.5，0.５]．
若在一项计算中进行了100次数值计算．求平均
误差落在区间
[ 3 , 3 ] 上的概率．
20 20
第十五页，本课件共有28页
12
1
2 0.77 1
0.56.
因 此 ， 日 销 售 额 在 5 5 1 0 5 2 1 0 4 ， 5 5 1 0 5 2 1 0 4 的 概 率 为 0 . 5 6
第二十三页，本课件共有28页
8 在一次空战中，双方分别出动50架轰炸机和
100架歼敌机．每架轰炸机受歼敌机攻击，这样 空战分离为50个一对二的小单元进行．在每个小 单元内，轰炸机被打下的概率为0.4，两架歼敌 机同时被打下的概率为0.2，恰有一架歼敌机被
第二十二页，本课件共有28页
续
．
P 55 105 20000 X 55 105 20000 =P 20000 X 55 105 20000
=P
2000 100 900
0
1
2
X １00
55 90
0
1
0
5
12
20000 100 900
12
2
100
20000 900
第五页，本课件共有28页
2 证明：随机变量的数字特征为
E X kln k1 2ln k1 20
，
D X k EX k 2 L n k 1 2 L ， n k 1 2 L n k
E Xn E1nkn1Xk0

7 8.75E-06 6.2863E-05 7.19381E-05 7.28862E-05 7.2992E-05
8 3.65E-07 7.3817E-06 8.93826E-06 9.1053E-06 9.124E-06
4 0.01116 0.01494171 0.015289955 0.015324478 0.01532831
5 0.001488 0.00289779 0.003048808 0.003063976 0.00306566
6 0.000138 0.00046345 0.0005061 0.000510458 0.00051094
ln n) + 1 ( 2
ln n) = 0
Dn
=
E
2 n
=
1 2
(ln n) +
1 2
(ln n)
=
ln n
→
但 1
n2
n
D( i ) =
i =1
1 n2
n i =1
Di
=
1 n2
n
ln i
i =1
1 n2
n
ln n =
i =1
ln n n
→0
满足马尔可夫条件，{
｝服从大数定律
n
注意: 辛钦大数定律只要求一阶矩存在,但是 随机变量序列是独立同分布的. 若所讨论的 随机变量序列是不服从同分布的要求或不独 立可应用切比雪夫大数定律 或者马尔可夫大 数定律 .
（2）设 n 为 n 次独立重复试验中 A 出现的次数， p 是事件 A 在每次试验中出现的概率， 0 ，
则
lim
n→
P{
n
n
−
p

有极其重要的地位？
4.大样本统计推断的理论基础
是什么？
大数定律中心极限定理
随机现象中平均结果的稳定性
大数定律的客观背景
大量抛掷硬币正面出现频率
字母使用频率
生产过程中的废品率
§5.1 大数定律
背景：1. 频率稳定性2. 大量测量结果算术平均值的稳定性
回顾
随机现象的主要研究方法
概率分布
01
证：_x001A__x001B__x001B_,_x001A__x001B__x001B_,⋯, _x001A__x001B__x001B_, ⋯相互独立同分布，则_x001A__x001B__x001B__x001B_,_x001A__x001B__x001B__x001B_, ⋯,_x001A__x001B__x001B__x001B_, ⋯也相互独立同分布,由辛钦大数定律得证.
第五章 大数定律及中心极限定理
§5.1 大数定律§5.2 中心极限定理
要点：用切比雪夫不等式估算概率独立同分布,用中心极限定理计算对于二项分布，当n很大时，计算
本章要解决的问题
1.为何能以某事件发生的频率
作为该事件的概率的估计？
2.为何能以样本均值作为总体
期望的估计？
3.为何正态分布在概率论中占
解：(1)设X表示一年内死亡的人数，则~(, )，其中=，=.%. 设Y表示保险公司一年的利润，=×−.需要求的是_x001A_<_x001B_.
由中心极限定理
_x001A_<_x001B_=_x001A_×−<_x001B_ =_x001A_>_x001B_=−_x001A_≤_x001B_
且，
由中心极限定理
解：设为第i个螺丝钉的重量， 相互独立同分布. 于是，一盒螺丝钉的重量为

12 June 2019
概率论与数理统计
理学院数学系
第五章 大数定律与中心极限定理
第12页
说明：
(1) 切比雪夫弱大数定律和辛钦弱大数定律的条件是不同的， 但它们都可以推导出伯努利大数定律.
切比雪夫弱大数定律里随机变量序列不要求是同分布的， 但是要求它们的方差有一致的上界。
辛钦弱大数定律里随机变量序列是同分布的，但不要求 它们的方差存在或有一致上界。
讨论 “概率是频率的稳定值” 的确切含义：
伯努利大数定律和博雷尔强大数定律
12 June 2019
概率论与数理统计
理学院数学系
第五章 大数定律与中心极限定理
第3页
从抛硬币说起
回顾第一章概率的统计定义，我们是用 事件的频率近似代替这个事件的概率。
试验者 德.摩 根 蒲丰
皮尔逊 皮尔逊
维尼
抛 掷 次 数n 出现正面的次数m 出现正面的频率m / n
第10页
切比雪夫弱大数定律
设X1, X2 , 为独立随机变量序列，具有共同
的数学期望，并且Var[Xi ] C, i 1, 2, , 则对任意 0有

lim
n
P

X1
X2 n

Xn






0.

注：这里的随机变量不要求是同分布的，
但是要求它们的方差有一致的上界。
第7页
伯努利大数定律可以说是最早发现，也是最基本的大数定律， 以它为基础人们又发展起来其它的大数定律。 大家很容易理解抛硬币出现正面的概率是二分之一，但是日常 生活中，很多问题里事件的概率不能直观感受到或者预先知道， 这时我们就利用伯努利大数定律，以频率来代替概率。

§1 大数定律
一、问题的引入
生产过程中的 字母使用频率 废品率 启示:从实践中人们发现大量测量值的算术平均值 有稳定性.
大量抛掷硬币 正面出现频率
§1 大数定律
一、问题的引入
大数定律的概念 概率论中用来阐明大量随机现象平均结果的 稳定性的一系列定理，称为大数定律（law of large number)
§2 中心极限定理
即考虑随机变量X k (k 1, n)的和 X k的标准化变量
k 1 n
Yn
X
k 1
n
k
E ( X k )
k 1 n
n
D ( X k )
2
说明每一个随机变量都有相同的数学期望。
§1 大数定律
检验是否具有相同的有限方差？

Xn P
2
( na ) 1 2 2n
2 n
2
0 1 1 2 n
2
( na ) 1 2 2n
2
1 2 a , E ( X ) 2( na ) 2 2n 2 ) [ E ( X n )]2 a 2 . D( X n ) E ( X n
使得当 x a y b 时,
g( x , y ) g(a , b)பைடு நூலகம் ,
§1 大数定律
于是 { g( X n , Yn ) g(a, b) }
{ X n a Yn b }
X n a Yn b , 2 2
§2 中心极限定理
自从高斯指出测量误差服从正态分布之后，人 们发现，正态分布在自然界中极为常见.
如果一个随机变量是由大量相互独立的随机因 素的综合影响所造成，而每一个别因素对这种综合 影响中所起的作用不大. 则这种随机变量一般都服 从或近似服从正态分布. 现在我们就来研究独立随机变量之和所特有 的规律性问题.

nA n
， 当n无 限
增 大 时 ， 几 乎 是 等 于 事件A发 生 的 概 率P( A) p
2、车比雪夫大数定律
定理1.2 设X1,X2,…相互独立，且具有相
同的期望和方差E(Xk)=，D(Xk)=2，
k=1,2,…，则X1,X2,…服从大数定律，即
对于任意正数>0，有
lim P{| X n | } 0
解: 将船舶每遭受一次海浪的冲击看作一次试 验, 并假定各次试验是独立的, 在90000次波浪 冲击中纵摇角大于3度的次数为X, 则X是一随 机变量, 且X~B(90000,1/3), 其分布律为
P{ X
k}
90k000
1 3
k
1 3
90000k
k 0,1,2,,90000
P{29500 X 30500}
则称{Xn}服从大数定律, 或称大数法成立。
大 数 定 律 的 意 义 在 于 指明 了 平 均 结 果
X
n
1 n
n k1
X
的
k
渐
近
稳
定
性
的
事
实
。
二、依概率收敛性
定义1.2 设Y1,Y2,…是随机变量序列, a是
一个常数, 若对于任意正数, 有
lim
n
P{
|
Yn
a)
|
}
1
则称序列{Yn}依概率收敛于a, 记为
定理2.2 设X1,X2,…相互独立，服从同一分 布，且有有限的期望和方差：
E( Xk ) ，D( Xk ) 2 0 k 1,2,
n
则随机变量Yn Xk近似服从正态分布
k1
N (n , n 2 )，即对任意的x，有