当前位置：文档之家 › 切比雪夫不等式及大数定律

切比雪夫不等式及大数定律

  • 格式：ppt
  • 大小：694.50 KB
  • 文档页数：34

下载文档原格式

  / 34

合集下载

34切比雪夫不等式与大数定律

34切比雪夫不等式与大数定律
i
如果X P E( X ), 则称{Xn }服从大数定律.
说明：
(1)X P E( X ), 即对 0, lim P{ X E( X ) } 1. n
或表为: 对 0,
lim P{
n
1 n
n i 1
Xi

1 n
n i 1
E(Xi )
}
P( X E( X ) 2) P( X 7 2) 2
( X可取1, 6)
P( X 1) P( X 6) 2 1 63
1时,
D( X ) 35 2
2
P( X E( X ) 1) 12 3
2时,
D( X ) 1 35 35 1
(1)
另一种形式
lim P{
n
Xn
a
}
0
(2) 对N ,n N时,
落在邻域U
(a
,

)外的X
个数有限,测度为0.
n
(3) 设X n P a, Yn P b, 则X n Yn P a b. X n .Yn P a.b, X n / Yn P a / b(b 0)
1 ( 700 )2 1 1 8
2100
99
即估计每毫升白细胞数在5200~9400间的概率不小于8/9 .
二、依概率收敛简介
1、数列极限的定义
lim
n
X
n

a

对

0,
N ,
n
N时,
Xn a
n N时, P{ Xn a } 1, 必然事件.
p( A)
核心: X1, X2 , ..., Xn满足什么条件时,

概率论与数理统计51切比雪夫不等式和大数定律课件

概率论与数理统计51切比雪夫不等式和大数定律课件
概率论与数理统计51切比雪夫不 等式和大数定律课件
目录
• 切比雪夫不等式 • 大数定律 • 切比雪夫不等式与大数定律的联系 • 案例分析 • 习题与解答
01
切比夫不等式
Chapter
切比雪夫不等式简介
01
切比雪夫不等式是概率论中的一个基本不等式，它提供了在一定条件下，一个随 机变量的概率分布的上界和下界。
注意事项
使用切比雪夫不等式时，应注意其适用条件，特 别是随机变量的方差必须存在。
大数定律
要点一
总结词
大数定律描述了当试验次数趋于无穷时，随机事件的相对 频率趋于其概率的规律。
要点二
详细描述
大数定律表明，当试验次数n趋于无穷时，随机事件的相 对频率将以概率收敛于该事件的概率。具体来说，对于任 意小的正数ε，有$lim_{n to infty} P(| frac{X_n}{n} - p| < varepsilon) = 1$，其中$X_n$是n次试验中事件A发生的 次数，p是事件A的概率。
切比雪夫不等式的限制
虽然切比雪夫不等式在许多情况下都 很有用，但它也有一些限制。例如， 当随机变量的分布不是对称的或者偏 斜度较大时，切比雪夫不等式的估计 可能会不准确。
VS
因此，在使用切比雪夫不等式时，需 要考虑到这些限制，并根据具体情况 进行适当的调整和修正。
02
大数定律
Chapter
大数定律的定义
大数定律
定义
大数定律是指在独立同分布随机变量 序列中，当样本量趋于无穷大时，样 本均值的概率分布趋近于真实均值。
应用
大数定律在统计学中有着重要的应用 ，例如在样本均值的分布、置信区间 估计和假设检验等领域。
切比雪夫不等式与大数定律的联系

切比雪夫不等式与大数定律ppt课件

切比雪夫不等式与大数定律ppt课件

的期望的偏差不小于 的概率的估计式 .
如取 = 3
P{| X E(X ) | 3} 2 0.111 9 2
可见，对任给的分布，只要期望和方差 2存在，
则 r.v X取值偏离E(X)超过 3 的概率小于0.111 .
大数定律的客观背景
大量随机试验中
事件发生的频率稳定于某一常数 测量值的算术平均值具有稳定性
依概率收敛比高等数学中的普通意义下的收敛 弱些，它具有某种不确定性.
定理2的另一种叙述形式
设随机变量X1，X 2 , , X n , 相互独立，且具
有相同的数学期望和方差：E( X k ) = m, D( X k ) = 2
(k = 1, 2,
)，则序列X
=
1 n
n k =1
X k依概率收敛于m，即
一个常数.若对于任意正数，有
lim
n
P{|
Yn
a
|
}
=
1
则称序列Y1,Y2, Yn , 依概率收敛于a.记为
Yn P a.
请注意 :
X n依概率收敛于a，意味着对任意给定的 0，
当n充分大时，事件 X n X 的概率很大，接近于1； 并不排除事件 X n X 的发生，而只是说他发生的
可能性很小.
n
P{|
1 n
n i =1
Xi
m
|
} = 1
E(Xk ) D(Xk )
=m =2
E( X ) = m lim
n
P{|
1 n
n i =1
Xi
m
|
}
=1
k
大数定律以严格的数学形式表达了随机现
象最根本的性质之一：

切比雪夫不等式及切比雪夫大数定律

切比雪夫不等式及切比雪夫大数定律
电子科技大学概率论与数理统计MOOC
第5 章
知识点名称：切比雪夫不等式及切比雪夫大数定律 主讲人：秦旭
切比雪夫大数定律
一、回顾
实验者
抛掷次数n
出现正面次数m
德·摩根 德·摩根 德·摩根 德·摩根 蒲丰 皮尔逊 皮尔逊 维尼
2048 2048 2048 2048 4040 12000 24000 30000
n
X
i 1
n
i
1 n
i 1
E( Xi
)
| ε}
1 n
1
D( n i1 ε2
Xi )
1
C nε2
1,
(as n ).
切比雪夫大数定律 五、切比雪夫(Chebyshev)不等式
设随机变量 X 的数学期望 E(X ) 和方差D(X )都存在, 则对于
任意的 > 0, 有
P{| X E(X ) | ε}
变量, 若对于任意的＞ 0, 有
lim
n
P {| X n
X
| ε }
0
或
lim P{| X n X | ε} 1
n
称随机变量序列{Xn}依概率收敛于X，记为
X n P X
或者
lim
n
Xn
X,
( P)
切比雪夫大数定律
注1 在定义中, 随机变量 X也可以是常数 a, 称随机变量序列 {Xn} 依概率收敛于常数 a .
注2 随机变量序列依概率收敛不同于微积分中数列或函数列的 收敛性.
结论 随机变量序列{Xn}依概率收敛于X，指当 n 足够大时, 有
足够大的概率保证Xn 任意接近于X , 但Xn仍然有可能与X相差很大.

切比雪夫不等式与大数定律

切比雪夫不等式与大数定律

切比雪夫不等式与大数定律切比雪夫不等式和大数定律是概率论中重要的两个理论。

它们在统计学、数学和物理学等领域具有广泛的应用。

本文将依次介绍切比雪夫不等式和大数定律的概念、原理及应用。

一、切比雪夫不等式切比雪夫不等式是描述随机变量离其均值的偏离程度的概率上界。

设随机变量X具有均值μ和方差σ^2，k为任意大于0的常数，则切比雪夫不等式可表示为：P(|X-μ|≥kσ) ≤ 1/k^2其中，P表示概率。

该不等式表明，当k取较大值时，随机变量X 与其均值之间的偏离概率将变得非常小。

也就是说，随机变量X与其均值之间的差异愈大，差异大于k倍标准差的概率将愈小。

切比雪夫不等式在统计推断和概率论中有许多应用。

例如，在对总体均值进行估计时，可以利用切比雪夫不等式给出一个近似的置信区间；在概率分布函数未知的情况下，切比雪夫不等式可用于确定随机变量落入某一区间的概率上界。

二、大数定律大数定律是概率论中指出在独立同分布的随机变量序列中，样本平均值近似等于总体均值的定律。

大数定律有多种形式，其中最著名的是弱大数定律和强大数定律。

1. 弱大数定律：对于独立同分布的随机变量序列X1, X2, ..., Xn，假设它们具有相同的均值μ和方差σ^2。

则对于任意ε>0，有：lim(n→∞) P(|(X1+X2+...+Xn)/n-μ|>ε) = 0这意味着当样本容量n趋于无穷大时，样本均值与总体均值之间的偏离程度将趋于零。

2. 强大数定律：对于独立同分布的随机变量序列X1, X2, ..., Xn，假设它们具有相同的均值μ和方差σ^2。

则几乎处处有：(X1+X2+...+Xn)/n → μ (当n→∞)这意味着当样本容量趋于无穷大时，样本均值将收敛于总体均值。

大数定律为我们提供了一种判断样本均值近似等于总体均值的准则。

它广泛地应用于概率论、统计学、经济学等领域。

例如，在随机过程和随机演化等问题中，大数定律提供了重要的理论基础。

切比雪夫不等式与大数定律

切比雪夫不等式与大数定律

第六讲切比雪夫不等式与大数定律主讲教师叶宏副教授概率论与数理统计的研究内容是随机现象的统计规律性，而随机现象的规律性是通过大量的重复试验才呈现出来的.研究大量的随机现象，常常采用极限方法，利用极限定理进行研究. 极限定理的内容很广泛，其中最重要的有两种:大数定律与中心极限定理.设随机变量X 的期望E (X )与方差D (X )存在，则对于任意实数ε> 0,2)()|)((|εεX D X E X P ≤≥-切比雪夫不等式或2)(1)|)((|εεX D X E X P -≥<-理论价值证明大数定律等等实用价值估计概率例已知正常男性成人血液中，每一毫升白细胞数平均是7300，均方差是700 . 利用切比雪夫不等式估计每毫升白细胞数在5200~9400之间的概率.解：设每毫升白细胞数为X ，则EX =7300, DX =7002≤P (5200 X 9400)≤= P (-2100 X -E (X ) 2100)≤≤= P ( |X -E (X )| 2100)≤≤=P (5200-7300 X -7300 9400-7300)≤2)2100()(1X D -≥98911=-=估计每毫升白细胞数在5200~9400之间的概率不小于8/92)(1)|)((|εεX D X E X P -≥<-2)()|)((|εεX D X E X P ≤≥-22140.5{6}_____X Y P X Y +≥≤例设随机变量和的数学期望分别为－和，方差分别为和，而相关系数为－，则{6}{()()6}P X Y P X Y E X Y +≥=+-+≥由切比雪夫不等式()()()220,E X Y E X E Y +=+=-+=解: ()()()2cov(,)D X Y D X D Y X Y +=++()()2()()3XY D X D Y D X D Y ρ=++=2()1612D X Y +≤=大数定律大量的随机现象中平均结果的稳定性大数定律的客观背景：大量抛掷硬币正面出现频率伯努利大数定律设n A 是n 次独立重复试验中事件A 发生的次数, p 是每次试验中A 发生的概率,则0>∀ε有0lim =⎪⎭⎫ ⎝⎛≥-∞→εp n n P A n 或1lim =⎪⎭⎫ ⎝⎛<-∞→εp n n P A n 依概率收敛频率p伯努利大数定律的意义理论价值给概率的统计定义提供了理论依据在概率的统计定义中, 事件A发生的频率“稳定于”事件A在一次试验中发生的概率实用价值如命中率等在n足够大时, 可以用频率近似代替p. 这种稳定称为依概率稳定.切比雪夫大数定律且具有相同的数学期望和方差,2,1,)(,)(2===k X D X E k k σμ则0>∀ε有01lim 1=⎪⎭⎫ ⎝⎛≥-∑=∞→εμn k k n X n P 或11lim 1=⎪⎭⎫ ⎝⎛<-∑=∞→εμn k kn X n P ,,,,21n X X X 相互独立，设随机变量序列辛钦大数定律且具有数学期望(),1,2,k E X k μ==,,,,21n X X X 相互独立同分布，设随机变量序列当n 足够大时, 算术平均值几乎是一常数.具有相同数学期望和方差的独立随机变量序列的算术平均值依概率收敛于数学期望.算术均值数学期望近似代替可被定理的意义平均数法则12~(2),(,,),,1_______n n i X E X X n Y X n→∞=∑ 例设总体为其简单随机样本则时依概率收敛于12,,,n X X X 因为独立同分布，22212,,,n X X X 所以也独立同分布，22()i i i E X DX EX =+（）2111=()422+=因此根据大数定律有∑==n i i n X n Y 121依概率收敛于21.2i EX =。

5-1切比雪夫不等式与大数定律


说明： 说明：
与(切)大数定律区别: 不要求 X1 , X2 ,..., Xn方差存在,但要求分布相同.
ቤተ መጻሕፍቲ ባይዱ
1、切比雪夫大数定律 、
设 随 机 变 量 X 1 , X 2 , ..., X n 相 互 独 立 , 各 有 数 学 期 望 E ξ i和 方 差 D ξ i . 同 时 存 在 常 数 C , 使 得 D ξ i ≤ C,i=1,2...n。 则 对 于 任 意 ε > 0 i=1,2...n 。 1 n 1 n lim P ∑ X i − ∑ EX i < ε = 1 n→ ∞ n i =1 n i =1 1 n 1 n 或 ∑ X i − ∑ EX i P → 0 ( n → ∞ ) n i =1 n i =1
证 明 : n A 代 表 n重 伯 努 利 试 验 中 A发 生 的 次 数 , n A ∼ b( n, p )
i A 生 第次 发 1 (i=1,2,...,n) X 令 i = i A 发 0 第 次 没 生
则
n A = X 1 + X 2 + ... + X n
X i ∼ b(1, p ), ⇒ E ( X i ) = p, D( X i ) = p(1 − p) (i=1,2,...,)
推论2、 推论 、伯努利大数定律
设 n A 为 n 次 独 立 重 复 试 验 中 随 机 事 件 A 发 生 的 次 数 , p是 事 件 A 在 每 次 试 验 中 发 生 的 概 率 , 则 对 任 意 ε > 0, 成 立 nA lim P { − p < ε } = 1, 即 n→ ∞ n nA P → p( A ) n
nA 1 n , 又 X = ∑ Xi = n i =1 n 1 n E( X ) = E( ∑ Xi ) = p n i =1

概率论与数理统计 五大数定理


[注]： X n P → a 注： 推论(辛钦大数定律) 推论(辛钦大数定律)
X n − a P → 0
设独立随机变量 X 1 , X 2 ,⋅ ⋅ ⋅, X n 服从同一分布 并且有数学 服从同一分布, 期望 µ 及方差 σ 2， X 1 , X 2 ,⋅ ⋅ ⋅, X n 的算术平均值当 n → ∞ 则 时，按概率收敛于µ， 即对于任何正数 ε，恒有 按概率收敛于 ，
第五章 大数定理与中心极限定理
“大数定律”: 用来阐明大量随机现象平均结果稳定性的定理 大数定律” 用来阐明大量随机现象平均结果稳定性的定理. 大数定律
一、切比雪夫不等式
切比雪夫不等式: 切比雪夫不等式: 设随机变量 X 有数学期望 EX 及方差 DX， ， 下列不等式成立： 则对于任何正数 则对于任何正数 ε，下列不等式成立：
2 i
n
则：E(Yn ) =
2 µi , D(Yn ) = ∑σi2 = sn . ∑
n i =1
n
i =1
i =1
∴ Z n = Yn
1 = sn
∗
n Y n − EY n 1 n = = ∑ X i − ∑ µ i sn i =1 DY n i =1
∑ (X
i =1
n
i
− µ i ), 则有：E ( Z n ) = 0 , D ( Z n ) = 1 . 则有：
概率论中有关论证随机变量的和的极限分布是正态分布的定 概率论中有关论证随机变量的和的极限分布是正态分布的定 随机变量的和的极限分布是正态分布 是独立随机变量， 设 X 1 , X 2 ,⋅ ⋅ ⋅ , X n ,⋅ ⋅ ⋅ 是独立随机变量，并各有
EX i = µ i , DXi = σ , i = 1,2,⋅ ⋅ ⋅, n,⋅ ⋅ ⋅. 设 n = ∑Xi , Y

3-5切比雪夫不等式与大数定律

第五节
切比雪夫不等式与大数定律
主要内容（2学时）
一、切比雪夫不等式
二、依概率收敛简介
三、大数定律（难点） 1、切比雪夫大数定律
2、伯努利大数定律
3、辛钦大数定律
一、切比雪夫不等式
1、马尔科夫不等式
设X 是只取非负值的随机变量,且具有数学期望E ( X ), 则 对于任意正数 , 有 P{ X } E( X )
证 : nA代表n重伯努利试验中A发生的次数, nA
第i次试验中A发生 1 令X i 0 第i次试验中A没发生 (i 1, 2, ..., n)
B(n, p)
则
nA X1 X 2 ... X n
Xi
B(1, p) E( X i ) p, D( X i ) p(1 p) nA 1 n 1 n 又 X Xi = , E( X ) E( X i ) p n i 1 n n i 1

（证明见下页）
说明：
重要性在于: 不知道X的分布( f ( x ), pk )情况下,通过 E ( X )估计事件{ X }的概率下限.
证 : 以连续型X 证明, 设X的概率密度为f ( x ). X 只取非负值, 故x 0时, f ( x ) 0
E( X )

0
xf ( x )dx x f ( x )dx
P(0.01n X 0.75n 0.01n) P( X E ( X ) 0.01n)
D( X ) 0.1875n 1875 1 1 2 1 2 (0.01n) 0.0001n n
依题意，取 1
1875 0.9 n 1875 解得 : n 18750 1 0.9

切比雪夫不等式及大数定律


随机变量的数字特征
切比雪夫不等式及大数定律
1.1 切比雪夫不等式
在随机变量 X 分布未知的情况下，可以利用切比雪夫不等式对随机事件 {| X E(X ) | } 的概率进行估计．例如，当 3 D( X ) 时，有
P{| X E(X ) | 3 D(X )} 8 0.888 9． 9
也就是说，随机变量 X 落在以 E(X ) 为中心，以 3 D( X ) 为半径的邻域内的概率很大，而 落在该邻域之外的概率很小．当 D( X ) 较小时，随机变量 X 的取值就越集中在 E(X ) 附 近，而这正是方差这个数字特征的意义所在．
概率论与数理统计
随机变量的数字特征
切比雪夫不等式及大数定律
随机事件在某次试验中可能发生也可能不发生， 但在大量的重复试验中随机事件的发生呈现出明显 的规律性．实际上，大量随机现象的结果均具有稳 定性，大数定律以严格的数学形式阐述了这种稳定 性，揭示了随机现象的偶然性与必然性之间的内在 联系．下面，我们先来介绍证明大数定律的重要工 具—切比雪夫（Chebyshev）不等式．
1， 在第k次试验中事件A发生， X k 0 ， 在第k次试验中事件A不发生，
其中， k 1，2， ，则
Xk
~
n
B(1，p) ，
k 1
Xk
nA
，1 n
n
Xk
k 1
nA n
，1 n
n
E(Xk )
k 1
p，
并且 X1 ，X2 ， ，Xn ， 满足切比雪夫大数定律的条件，于是由切比雪夫大数定律可证明伯努利大数 定律．
1，2 ，
)
，
由辛钦大数定律得
Yn
1 n
n k 1
  1. 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
  2. 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
  3. 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
即在进行精密测量时，为减少测量误差，可以重复 测量多次，然后用测量值的平均值来代替实际的真值. 当测量次数充分大时，这一平均值与其真值差的绝对 值大于任一小的正数几乎是不可能的,这样就保证了测 量的精度.
i 1
Xi)
n2
i 1
D( Xi )
n2
C
i 1
C. n
由切比雪夫不等式 ，对任意
0,
有：
从而： 推论：
0
P{|
1 n
n i 1
Xi
1 n
n i 1
E( Xi ) |
}
1 1 n
C
2
D( n
i 1
Xi)
n 2
.
1 n
1n
lim
n
P{|
n
i 1
Xi
n
i 1
E(Xi
)
|
0}
0
证毕 .
从而
E
Yn n
p,
D
Yn n
p(1 n
p) ,
所以由切比雪夫不等式，
对任意的
0 有下式成立
0
P
Yn n
p
1
2
D
Yn n
1
2
p(1 n
p)
让n 两边取极限，得
lim
n
P
Yn n
p
0
切比雪夫大数定理
定理3：
设相互独立的随机变量 X1, X2L , Xn,L
分别具有 有限的数学期望 E( X1 ), E( X2 )L , E( Xn ),L ，
第五章
第一节
切比雪夫不等式 与大数定律(13)
一、切比雪夫不等式 二、大数定律
引言: 问题 1 频率稳定性的问题
在相同条件下进行 n 次重复试验，
总是在 [0,1] 上的一个确定的常数 p 附近摆动，
fn
nA n
事件 A 发生的频率
并且随着
试验次数 n 的增大， 如何从理论上说明这一现象？
越来越稳定地趋于 p 。
及方差 D( X1 ), D( X2 )L , D( Xn ),L ，
若存在常数C使 D( Xi ) C, i 1, 2,L
则对任意>0，有
lim
n
P
1 n
n i 1
Xi
1 n
n i 1
E
Xi
0
证：
1 n
1n
E( ( n i1
Xi )
n
i 1
E( Xi )
1 n
1n
1n
D( n
也不可能保证 对一切的n N , 有
请看下面的图示:
fn p 成立。
fn
p
p
p
n
N
因此，只能求其次，去求证下面两式成立：
（2）
P| fn p | 0 或
（3）
lim P
n
|
fn
p |
0
或
为此 , 先来证明概率论中一个重要的不等式——
P| fn p | 1
lim
n
P|
fn
p
则有
P X
P
X
|x|
f
( x)dx
|x|
(
x
2
)2
f ( x)dx
1
2
(x
)2
f
( x)dx
2 2
.
证毕.
例1 已知随机变量 X 的数学期望为
E( X ) 100 ,
方差为
D( x) 10 ,2 试估计 X 落在( 80 , 120 )内的概率.
解:
由切比雪夫不等式有:
|
1
切比雪夫不等式.
一 . 切比雪夫不等式
定理1
（切比雪夫定理）
设随机变量
X
的数学期望
方差
E(X )
D( X ) 2 存在，则对任意的
0, 有： P
即有 P X
证:
仅就连续型随机变量的
X
2
2 1 2
2
（5）
（4）
f (x)
情形进行证明.
设 X 的概率密度函数为
f (x)
设相互独立的随机变量 X1, X2L , Xn,L 服从相同
的分布，且 E( Xi ) , D( Xi ) 2, i 1, 2L ,
则对任意>0， 有
lim
n
P
1 n
n i 1
Xi
0
推论说明，若对同一随机现象进行反复观测，则其平 均值与它的期望值之差的绝对值大于任意指定的小数 的概率可任意地小.这一理论正好回答了问题2.
解： 设X表示事件A在1000次独立试验中发生的次数,
则：
X ~ B(1000,0.5), E( X ) nP 1000 0.5 500 D( X ) nP(1 P) 1000 0.5 (1 0.5) 250 2.
由切比雪夫不等式有：
P{450 X 550} P{450 500 X 500 550 500}
问题 2 在精密测量时要反复测量然后再取平均值？
这样作的理论依据是什么？
对于问题1， 极限概念.
要说明频率 如果能证明
问题1 就能得以解决.
f 趋于常数 p ， n
lim
n
fn
p
自然会想到 （1）
即对任意的
0, 存在正整数N，对于
n N,有
fn p
由于
f 是随机变量，,其随机性使不论 N 取多大的值, n
P{80 X 120}
P{80 100 X 100 120 100}
P{20 X 100 20} P{| X 100 | 20} 10
1 202 0.975
例2
在每次试验中事件A发生的概率为0.5 .试用切比
雪夫不等式估计在1000次独立的试验中,事件A发生的 的次数在450至550次之间的概率.
试验，
当 n 较大时，
事件 A 发生的频率
次试验中发生的概率 p 之差的绝对值大于任意指定正数
fn
nA n
做n 次 与在每
的概率可任意地小（接近于0）.
因此，在实践中可以通
过反复试验，
用事件发生的频率的来近似地估计它的概率.
证: Q Yn ~ B(n, p), E Yn np, D(Yn ) np(1 p),
P{50 X 500 50} P{| x 500 | 50}
1
250 502
0.9
二 . 大数定律
贝努里大数定律
定理2
设Yn是n重Bernoulli试验中事件A发生的次数，
p是事件A在每次试验中发生的概率，则对任意的 0有
贝努里大数定律说明，
lim
n
P
Yn n
p
Байду номын сангаас
0
在相同条件下独立地重复