数理统计之大数定理

解: 设Xk为第k次炮击炮弹命中的颗数(k=1,2,…,100),
在100次炮击中炮弹命中的总颗数
100
X = ∑ Xk k =1
相互独立地服从同一分布，
E(Xk)=2, D(Xk)=1.52 (k=1,2,…,100)
随机变量
∑ 1
100 × 1.5
100 k =1
(
X
k
−
2)
=
1 15
(
X
−
200)
2. 伯努利定理 事件发生的频率依概率收敛于事件的概率
3. 辛钦定理 （随机变量序列独立同分布且数学期望存在）
n个随机变量的算术平均值以概率收敛于算术 平均值的数学期望。
给出了“频率稳定性”的严格数学解释. 提供了通过试验来确定事件概率的方法. 是数理统计中参数估计的重要理论依据之一.
§5.2 中心极限定理
望 E( Xk ) = µ (k = 1,2,"),则对于任意ε > 0,有
∑ lim
n→∞
P {|
1 n
n k =1
Xk
−
µ
|<
ε
}
=
1
说明
伯努利大数定理是辛钦定理的特殊情
况。n个随机变量的算术平均值以概率收敛于算
术平均值的数学期望。
三 小结
1、切比雪夫(Chebyshev)定理的特殊情况 算术平均值依概率收敛于数学期望
= 1 − P { V − 100 ≤ 0.387 } (10 12 ) 20
∫ 0.387
≈ 1−
1
e − t 2 dt
−∞ 2π
= 1 −Φ (0.387) = 0.348
所以 P{V > 105} ≈ 0.348

Xn ⎯ ⎯→ X 2. 依概率收敛与依分布收敛的关系
依概率收敛 ⇒ 依分布收敛
L
3. 定义：中心极限定理 设随机变量 X ~ N(0,1)，{Xi }，i = 1, 2, … 相互独 立，且数学期望和方差都存在, 若标准化随机变量序列
∑
n
i =1
Xi −
∑ E(X
i =1
n
i
)
∑
n
i =1
D(X i)
所以结论成立。 由此有，若X ~ B( n, p )，对于足够大的n，有 ⎧ m1 − np X − np m2 − np ⎫ ⎪ ⎪ < ≤ P{m1 < X ≤ m2 }= P ⎨ ⎬ np(1 − p) np(1 − p) ⎪ ⎪ np(1 − p) ⎩ ⎭
⎧ Yn − np ⎫ ⎪ ⎪ ≤ x ⎬ = Φ( x ) lim P ⎨ n →∞ ⎪ np(1 − p ) ⎪ ⎩ ⎭
证明：对于任意正整数n，随机变量Yn 可表示为 证明：对于任意正整数n Yn = X1＋ X2＋…＋ Xn X1, X2,…, Xn 相互独立，Xi ~ B( 1, p )，且有 E( Xi ) = p , D( Xi ) = p(1-p) 所以随机变量序列{ Xi }, i =1,2,…满足独立同分布 中心极限定理条件。即有
切比雪夫不等式的应用 1）估计随机变量落在某个区间内的概率 (P125例5.5.2) 2）估计ε的值, 使 P(│X - E(X)│<ε) ≥ a (0<a<1) 3）证明大数定律。
二. 大数定律 定义： 依概率收敛 设{Xn}是一个随机变量序列，X 是一个随机变量 或常数，若对于任意的ε＞ 0，有 lim P{| X n − X |≥ ε } = 0

概率论与数理统计第五章大数定律及中心极限定理课前导读概率论是研究大量试验后呈现出的统计规律性的一门理论。

数学中研究大量的工具是极限。

因此这一章学习概率论中的极限定理。

第一节大数定律随着试验次数的增大，事件的频率逐步稳定到事件的概率。

意味着随着试验次数的增多，在其中一种收敛意义下，频率的极限是概率。

大数定律解释了这一结论。

首先介绍切比雪夫不等式。

一、切比雪夫(Chebyshev)不等式随机变量X的取值总是围绕着其期望变动，若X的分布已知时，可以计算事件\{，X-E(X)，\geq \epsilon \}的概率。

切比雪夫不等式：对切比雪夫不等式的直观理解：方差越小，X在其期望附近取值的密集程度越高，原理期望的区域的概率上加越小。

进一步说明了方差的概率意义，方差时随机变量取值与其中心位置的偏离程度的一种度量指标。

当随机变量X的分布未知时，可由X的观测数据估计得到X的期望和方差，然后使用切比雪夫不等式估计X关于E(X)的偏离程度。

二、依概率收敛随机变量序列即由随机变量构成的一个序列。

不能用类似定义数列极限的方式定义随机变量序列的极限，因为序列中的每一个元素X_n是随机变量，取值不确定，不可能和一个常数c的距离任意小。

只能说一些事件A发生的频率f_n(A)收敛到A的概率P(A)。

依概率收敛的定义：定理2：三、大数定律三个大数定律：切比雪夫大数定律、辛钦大数定律和伯努利大数定律。

注意这三个大数定律的条件有何异同。

定理3 切比雪夫大数定律：若随机变量序列相互不相关，方差存在且一致有上界，当n充分大时，随机序列的前n项的算术平均值和自身的期望充分接近几乎总是发生的。

定理4 相互独立同分布的大数定律（辛钦大数定律）：辛钦大数定律为算术平均值法则提供了理论依据。

伯努利大数定律：伯努利大数定律是相互独立同分布大数定律的特例，限定分布为两点分布。

伯努利大数定律体现了：随着试验次数的增大，事件的频率逐步稳定到时间的概率，这里的稳定即为依概率收敛。

数理统计定理及公式数理统计是应用数学的一个分支，研究收集、整理、分析和解释数据的方法和技术。

在数理统计中，有一些重要的定理和公式，用于描述和计算概率、分布、样本统计量和假设检验。

1. 大数定理（Law of Large Numbers）：在重复多次独立实验的情况下，随着实验次数的增多，样本均值会趋近于总体均值。

大数定理是数理统计的基础之一，它是对样本均值的收敛性质的描述。

数学表达式为：其中，X1、X2、..、Xn是来自总体的独立同分布的随机变量，μ是总体的均值，n是样本大小。

2. 中心极限定理（Central Limit Theorem）：在若干相互独立的随机变量的和的情况下，随着随机变量数量的增大，和的分布趋向于服从正态分布。

中心极限定理是数理统计中非常重要的一个定理，它不仅在理论上解释了为什么正态分布在自然界中具有如此重要的地位，而且提供了许多统计学中方法的理论基础。

数学表达式为：其中，X1、X2、..、Xn是独立同分布的随机变量，μ是总体的均值，σ是总体的标准差，n是样本大小。

3. 伯努利分布（Bernoulli Distribution）：又称为两点分布，是最简单的概率分布之一、伯努利分布描述了只有两个可能结果的离散随机试验，如抛硬币的结果。

数学表达式为：其中，p表示事件出现的概率，1-p表示事件不出现的概率，X为随机变量。

4. 正态分布（Normal Distribution）：也称为高斯分布，是统计学中最常见的连续型概率分布之一、正态分布具有钟形曲线，均值和标准差决定了曲线的位置和形状。

它在自然界中广泛存在，并且许多现实世界中的随机变量都可以近似地服从正态分布。

数学表达式为：其中，μ是均值，σ是标准差，x是随机变量。

5. t分布（Student's t-distribution）：t分布是用于小样本情况下对总体均值进行假设检验的重要工具。

它形状类似于正态分布，但是更扁平，并且具有更重的尾部，以补偿小样本情况下对总体均值的估计不准确性。