概率论与数理统计大数定律与中心极限定理

概率论与数理统计第五章大数定律及中心极限定理课前导读概率论是研究大量试验后呈现出的统计规律性的一门理论。

数学中研究大量的工具是极限。

因此这一章学习概率论中的极限定理。

第一节大数定律随着试验次数的增大，事件的频率逐步稳定到事件的概率。

意味着随着试验次数的增多，在其中一种收敛意义下，频率的极限是概率。

大数定律解释了这一结论。

首先介绍切比雪夫不等式。

一、切比雪夫(Chebyshev)不等式随机变量X的取值总是围绕着其期望变动，若X的分布已知时，可以计算事件\{，X-E(X)，\geq \epsilon \}的概率。

切比雪夫不等式：对切比雪夫不等式的直观理解：方差越小，X在其期望附近取值的密集程度越高，原理期望的区域的概率上加越小。

进一步说明了方差的概率意义，方差时随机变量取值与其中心位置的偏离程度的一种度量指标。

当随机变量X的分布未知时，可由X的观测数据估计得到X的期望和方差，然后使用切比雪夫不等式估计X关于E(X)的偏离程度。

二、依概率收敛随机变量序列即由随机变量构成的一个序列。

不能用类似定义数列极限的方式定义随机变量序列的极限，因为序列中的每一个元素X_n是随机变量，取值不确定，不可能和一个常数c的距离任意小。

只能说一些事件A发生的频率f_n(A)收敛到A的概率P(A)。

依概率收敛的定义：定理2：三、大数定律三个大数定律：切比雪夫大数定律、辛钦大数定律和伯努利大数定律。

注意这三个大数定律的条件有何异同。

定理3 切比雪夫大数定律：若随机变量序列相互不相关，方差存在且一致有上界，当n充分大时，随机序列的前n项的算术平均值和自身的期望充分接近几乎总是发生的。

定理4 相互独立同分布的大数定律（辛钦大数定律）：辛钦大数定律为算术平均值法则提供了理论依据。

伯努利大数定律：伯努利大数定律是相互独立同分布大数定律的特例，限定分布为两点分布。

伯努利大数定律体现了：随着试验次数的增大，事件的频率逐步稳定到时间的概率，这里的稳定即为依概率收敛。

大数定律与中心极限定理总结大数定律与中心极限定理是概率论与数理统计中的两个重要定理，用于描述随机变量序列的性质。

下面我将分别对这两个定理进行总结，并给出相关的参考内容。

一、大数定律大数定律是概率论中的一个基本定理，描述了随机变量序列的极限性质。

大数定律可以分为弱大数定律和强大数定律两种。

1. 弱大数定律弱大数定律是指对于一个随机变量序列，如果序列的均值存在，并且均值收敛于某个常数，那么这个序列就满足弱大数定律。

弱大数定律的代表是辛钦大数定律。

具体来说，如果一个随机变量序列X1, X2, ..., Xn，其中Xi是相互独立、同样分布的随机变量序列，它们的均值为μ，方差为σ^2。

那么对于任意给定的正数ε，有：lim(n→∞)P( |X1+X2+...+Xn)/n - μ| ≤ ε ) = 1这意味着当样本数量趋向于无穷大时，样本均值的概率逼近于1，即样本均值趋近于总体均值μ。

2. 强大数定律强大数定律是指对于一个随机变量序列，如果序列的均值存在，并且均值以概率1收敛于某个常数，那么这个序列就满足强大数定律。

强大数定律的代表是伯努利大数定律和切比雪夫大数定律。

伯努利大数定律是对于一个独立随机变量序列X1, X2, ..., Xn，其中每个随机变量取值为0或1，概率为p或1-p，那么对于任意给定的正数ε，有：lim(n→∞)P( |X1+X2+...+Xn)/n - p| ≤ ε ) = 1切比雪夫大数定律是对于一个独立随机变量序列X1, X2, ..., Xn，其具有相同的均值μ和方差σ^2，那么对于任意给定的正数ε，有：lim(n→∞)P( |X1+X2+...+Xn)/n - μ| ≤ ε ) = 1以上的大数定律说明了随机变量序列的均值具有稳定的性质，当样本数量足够大时，样本均值可以准确地反映总体均值。

二、中心极限定理中心极限定理是概率论与数理统计中的一个基本定理，描述了独立随机变量和的分布的极限性质。