概率论与数理统计第六章
一、估计及其性质
“估计”在中文里既可以作名词，也可以作动词。用英文的话，可以表示成不同的单词：
estimate：所谓的“估计”（动词）就是根据样本预测总体分布中的未知参数。例如，已知总体服从正态分布 [公式] ，但总体均值 [公式] 未知，我们通过某个函数“估计”总体均值， [公式] 。
estimator：“估计量”（名词） [公式] 实际上是一个统计量，它是通过一个不含未知参数的样本函数计算出来的结果。一般使用 [公式]
表示总体的参数，[公式] 表示参数的估计量。
estimation：“估计法”（名词）表示寻找函数 [公式] 的过程，可以理解为一种估计方法。例如：Maximum Likelihood Estimation，最大似然估计法。
随着样本不同，同一估计法得到的结果可能是不一样的，因此“估计量”也是一个随机变量。对于同一个参数，有不同的估计方法，而且看起来都是合理的。如何比较它们的优劣呢？
（1）均方误差 MSE Mean Square Error
评价一个估计量的好坏，很自然地会想到：衡量“估计量”与“真实值”之间的距离，距离越小表示估计量的性能越好。也就是所谓的“均方误差”函数：
[公式] 也就是距离平方的期望值，如果将其进一步展开：
[公式]
注意： [公式] 和 [公式] 均为数值， [公式] 表示参数的真实值，
[公式] 表示估计量的数学期望。
由此看见，均方误差由两部分组成：一是估计量的方差（Variances） ，即 [公式] ；二是估计量的系统偏差（Bias）的平方，即 [公式] 。
从“马同学”处借来此图，它可以帮助理解“方差”与“偏差”：
备注：靶心表示“真实值”，红叉表示“估计值”
“方差”衡量估计值的分散程度，“偏差”衡量估计值的期望与真实
值的距离。
左上图：估计值落在靶心四周，此时“方差”较大但“偏差”较小；
右上图：估计值落在靶心邻近，此时“方差”、“偏差”均较小；
1 第四章 大数定律和中心极限定理
一. 填空题
1. 设Yn是n次伯努利试验中事件A出现的次数, p为A在每次试验中出现的概率, 则对任意 > 0, 有||limpnYPnn__________.
解. ||limpnYPnn1－011||limpnYPnn
2. 设随机变量X和Y的数学期望是2, 方差分别为1和4, 而相关系数为0.5, 则根据切比雪夫不等式P(|X－Y| 6) _______.
解. E(X－Y) = E(X)－E(Y) = 2－2 = 0
D(X－Y) = D(X) + D(Y)－)()(2YDXDXY= 1 + 4－2×0.5×1×2 = 3
所以 1213636)()6|(|2YXDYXP
二. 选择题
1. 设随机变量nXXX,,,21相互独立, nnXXXS21, 则根据列维－林德伯格(Levy-Lindberg)中心极限定理, nS近似服从正态分布, 只要nXXX,,,21
( A ) 有相同的数学期望 ( B ) 有相同的方差
( C ) 服从同一指数分布 ( D ) 服从同一离散型分布
解. 列维－林德伯格(Levy-Lindberg)中心极限定理要求nXXX,,,21既有相同的数学期望,
又有相同的方差, 因此( A ) 、( B )、 ( D )都不是答案, ( C )为答案.
三. 计算题
1. 某厂有400台同型机器, 各台机器发生故障的概率均为0,02, 假如各台机器相互独立工作,
试求机器出现故障的台数不少于2台的概率.
解. 假设X表示400台机器中发生故障的台数, 所以X～B(400, 0.02)
由棣莫佛－拉普拉斯定理:
)(2198.002.040002.0400lim22xdtexXPxtn
第四章 大数定律与中心极限定理
第一节 大数定律
一、历史简介
概率论历史上第一个极限定理属于贝努里,后人称之为“大数定律”.1733年,德莫佛——拉普拉斯在分布的极限定理方面走出了根本性的一步,证明了时二项分布的极限分布是正态分布.拉普拉斯改进了他的证明并把二项分布推广为更一般的分布.1900年,李雅普诺夫进一步推广了他们的结论,并创立了特征函数法.这类分布极限问题是当时概率论研究的中心问题,卜里耶为之命名“中心极限定理”.20世纪初,主要探讨使中心极限定理成立的最广泛的条件,二三十年代的林德贝尔格条件和费勒条件是独立随机变量序列情形下的显著进展.在第一章已经指出,随机事件在大量重复试验中呈现明显的统计规律性,即一个事件在大量重复试验中出现的频率具有稳定性.这种稳定性的提法应该说是什么形式? 贝努里是第一个研究这一问题的数学家.他于是1713年首先提出后人称之为“大数定律”的极限定理.
二、大数定律
定理1(贝努里大数定律) 设是重贝努里试验中事件出现的次数,是事件在每次试验中出现的概率,则对任意的,有
证明:令表示在第次试验中出现的次数.若第次试验中出现,则令;若若第次试验中不出现,则令.由贝努里试验定义,是个相互独立的随机变量,且
而
于是
由契比晓夫不等式有
又由独立性知道有
从而有
这就证明了定理1.
若是随机变量序列,如果存在常数列,使得对任意的,有
成立,则称随机变量序列服从大数定律.
定理2(契比晓夫大数定律) 设是一列两两不相关的随机变量,又设它们的方差有界,即存在常数,使有
则对于任意的,有
证明:利用契比晓夫不等式,有
因为是一列两两不相关的随机变量,它们的方差有界,即可得到
从而有
从而定理2得证.
[例1] 设为独立同分布的随机变量,均服从参数为的普哇松分布.由以往的讨论知道,,因而满足定理2的要求,则由定理2 的结论可知
大学数学云课堂 1．[一] 据以往经验某种电器元件的寿命服从均值为100小时的指数分布，现在随机
的抽取16只，设它们的寿命是相互独立的，求这16只元件寿命总和大于1920小时的概率。
解：设第i只寿命为Xi，（1≤i≤16），故E (Xi )=100，D (Xi )=1002(l=1,2,…,16).依
本章定理1知
÷÷÷÷÷
øö
ççççç
èæ
£-
=
÷÷÷÷÷
øö
ççççç
èæ
´-
£
´-
=£åå
å==
=8.0
4001600
1001616001920
100161600
)1920(16
016
016
1ii
ii
iiX
PX
PXP
.7881.0)8.0(=F=
从而.2119.07881.01)1920(1)1920(16
116
1=-=£-=>åå
==ii
iiXPXP
3．[三] 计算机在进行加法时，对每个加数取整（取为最接近它的整数），设所有的取
整误差是相互独立的，且它们都在（－0.5，0.5）上服从均匀分布，
（1）若将1500个数相加，问误差总和的绝对值超过15的概率是多少？
（2）几个数相加在一起使得误差总和的绝对值小于10的概率不小于0.90
解：
（1）设取整误差为Xi（L,2,1=i，1500），它们都在（－0.5, 0.5）上服从均匀分
布。 于是： 0
25.05.0
)(=+-
==pXE
i
121
12)]5.0(5.0[
)(2
=--
=
iXD 18.11125
121
1500)(,0)(==´==
iiXnDXnE
þýü
îíì
££--=ïþï
ýü
ïîï
íì
£-=
ïþï
ýü
ïîï
íì
>
ååå
===
1515115115
1500
11500
11500
0
iiii
ii
XPXPXP
ïï
þïï
ýü
ïï
îïï
íì
££-
-=å
=
18.1115
18.1118.1115
11500
1iiX
P 大学数学云课堂
1802.0]9099.01[2)]34.1(1[2)]34.1()34.1([1
=-´=F-=-F-F-=
