当前位置：文档之家 › 7.2(估计量的评价标准)

7.2(估计量的评价标准)

  • 格式：ppt
  • 大小：362.50 KB
  • 文档页数：13

下载文档原格式

  / 13

合集下载

7.2估计量评价标准

7.2估计量评价标准

设 θ = θ (X 1 , ,X n )是 未知参数 θ 的估计量， P→ θ， 即 若θ P(| θ - θ |≥ ε ) = 0
lim
n→ ∞
则称 θ 是 θ 的一致性估计量。
已知0<p<1,求p的 例4.设 X 1， ， X n ~ B ( m , p ),已知 设 求 的 极大似然估计，并讨论所求估计量的一致性。 极大似然估计，并讨论所求估计量的一致性。
设 θ ( X1,, Xn)是未知参数 θ 的估计量，若 的估计量，
E(θ ) = θ
则称 θ 为 θ 的无偏估计 .
无偏性是对估计量的一个常见而重要的要求 . 无偏性的实际意义是指没有系统性的偏差 . 例如， 例如 ， 用样本均值作为总体均值的估计 虽无法说明一次估计所产生的偏差， 时，虽无法说明一次估计所产生的偏差，但 这种偏差随机地在0的周围波动 的周围波动， 这种偏差随机地在 的周围波动 ， 对同一统 计问题大量重复使用不会产生系统偏差 .
常用的几条标准是： 常用的几条标准是： 1．无偏性 ． 2．有效性 ． 3．一致性 ．
1．无偏性 ． 估计量是随机变量， 估计量是随机变量，对于不同的样本值 会得到不同的估计值 . 我们希望估计值在未 知参数真值附近摆动， 知参数真值附近摆动，而它的期望值等于未 知参数的真值. 知参数的真值 这就导致无偏性这个标准 .
例3、设总体X ~ N (1, σ ), 其中参数σ 未知，σ > 0, ( X 1 ,......, X n )为来自总体X的样本(n > 1)。考虑σ 的 两个估计量：) σ 1 (1 (2) σ 2
^ 2 ^ 2 ___ 2 1 n =S = ∑(Xi X ) n 1 i =1 2 2
2

7.2 估计量的优良性准则

7.2 估计量的优良性准则
n
电子科技大学
#
估计量的优良性准则
Dec-10
证明 S2 是σ2 的无偏估计量 例7.2.2 设总体的方差 D(X)=σ2 >0，则样本 ， 方差S 的无偏估计. 方差 2 是σ2的无偏估计 证
(n −1)S = ∑( Xi − X) = ∑ Xi − nX 2
2 2 2 i =1 i =1
n 2 2
证明无偏性判断有效性(1) 证明无偏性判断有效性 证明无偏性判断有效性(2) 证明无偏性判断有效性 和S2 分别是μ和σ2 的最小方差无偏估计 X
电子科技大学
估计量的优良性准则
Dec-10
3. 相合性 无偏性： 无偏性：反映估计量相对待估参数有无系 统偏差. 统偏差 有效性： 有效性：在无偏类中反映估计量相对待估 参数的偏离程度. 参数的偏离程度. 例7.2.5 问题： 问题：在“偏差性”和“离散性”两者 偏差性” 离散性” 兼顾的原则下建立估计量为“最优”准则 兼顾的原则下建立估计量为“最优”准则.
电子科技大学
估计量的优良性准则
Dec-10
的相合估计量; X 是μ的相合估计量; S2 和M2 都是 2的相合估计量 都是σ 的相合估计量.
部分证明
电子科技大学
估计量的优良性准则
Dec-10
例7.2.1 设总体的方差 D(X)=σ2 >0，有 ，
1 E( X) = E( ∑Xi ) = E( X) = µ n i=1 1 2 2 2 2 2 E( X ) = D( X) +[E( X)] = σ + µ ≠ µ n
2
θ2
ˆ ˆ . θ2比θ1更有效
2 ˆ) D(θ2 3n 而且 lim = = 0. 2 n→∞ D θ ) (n + 1) (n + 2) (ˆ 1

第二节 估计量的优良性准则

第二节 估计量的优良性准则

E
(
X
2 i
)
nE( X
2 )
n
1
1
n(
2
2)
n
2
n
2
2.
前面两节中，我们曾用矩法和极大似然法
分别求得了正态总体 N(μ, σ2) 中参数σ2 的估计,
均为
ˆ 2
1 n
n
(Xi
i1
X
)2.
很显然，它不是σ2 的无偏估计。这正是我们为 什么要将其分母修正为 n-1，获得样本方差 S2 来估计 σ2 的理由。
X1,X2,…,Xn为来自总体X 的随机样本，记 X与 S 2分别为样本均值与样本方差，即
X
1 n
n
i1
X
i
,
S2
n
1
1
n
i1
(
X
i
X
)2.
则 E(X) , E(S2) 2.
即样本均值和样本方差分别是 总体均值 和总体方差的无偏估计。
证明：因为X1, X2, …, Xn 独立同分布，且 E(Xi )=μ , 所以
证 先计算方差
Var[ X1 (1 )X2]
2Var( X1) (1 )2Var( X2 )
(2 2 2 1) 2
由于
f ( ) 2( 1 )2 1
22
对任意实数, 1，f ( ) 1 ,
2
2
当 1 时, f ( )取最小值 1，
2
2
即样本均值 X 比样本的其他所有线性函数
虑 的如下两个估计的优劣：
ˆ X ,
ˆ i
1 n 1
n j 1
X
j.
ji
解 显然两个估计都是 的无偏估计.但是

概率论与数理统计应用_参数估计_

概率论与数理统计应用_参数估计_
概率论与数理统计应用
第7章 参数估计
7.2 估计量的评选标准
授课教师：李林杉 副教授
估计量的评选标准
由前面的学习知道， 对于同一个参数，用不同的估计方法求出的估计量可能不相同，对 不同的样本值也会得到不同的估计值，原则上任何统计量都可以作为未知参数的估计量.
问题 (1)对于同一个参数究竟采用哪一个估计量好? (2)评价估计量的标准是什么?
D(1 6
X1
5 6
X
3)
1 36
D
X1
25 36
D
X
2
13 ቤተ መጻሕፍቲ ባይዱ8
因为 13 18
5 ，所以估计量 9
ˆ1
2 3
X1
1 3
X 2 更有效.
估计量的评选标准
三、相合性
我们不仅希望一个估计量是无偏的，并且具有较小的方差，还希望当样本容量n 增大时,估计量能充分地接近于未知参数的真值, 因此就引出相合性（一致性）的 评价标准.
解
的矩估计量和极大似然估计量都是 X
1 n
n i 1
Xi
.
的估计值都是 ˆ x 1200
估计值与真值的误差？（精度） 点估计可信程度有多大？（可信度）
区间估计
二、置信区间
定义 设总体X 的分布函数F(x,θ)含有一个未知参数θ. X1, X 2, , X n 为总体的样本， 对于给定值α( 0<α<1), 若能确定两个统计量
( X1, X 2, , X n ), ( X1, X 2, , X n ) 满足： P{ } 1
则称随机区间 , 是θ 的置信度为1 的置信区间,
——置信下限, ——置信上限, 置信度1 ——称为置信水平.

电子科大概率论C7_2 估计量的优良性准则

电子科大概率论C7_2 估计量的优良性准则
1. X 2. X 1 3. X 1 X 2 4. 0.1 X 1 0.2 X 2 0.7 X 3
电子科技大学
估计量的优良性准则
19.2.10
可见，一个参数的无偏估计可以有很多.
无偏估计只能保证估计无系统误差：
ˆ ) 0 E (
θ
ˆ 的取值在θ及其附近越密集越好， 希望 θ
其方差应尽量小.
2)
3 2 D(Y ) E (Y ) E (Y ) , 80 3 2 2 2 D( Z ) E ( Z ) E ( Z ) , 80 4 D( Y ) D(4 Z ) 3
2 2
4 即 max X i 比 2 4 min X i 的方差小 . 3 1 i 3 1 i 3
19.2.10
证明 S2 是σ2 的无偏估计量
例1 设总体的方差 D(X)=σ2 >0，则样本方差S2
是σ2的无偏估计. 证
( n 1) S ( X i X ) X i nX 2
2 2 2 i 1 i 1 n n
( n 1) E ( S 2 ) E ( X i 2 ) nE ( X 2 )
估计量的优良性准则
19.2.10
§7.2 估计量的优良性准则 对于总体的一个参数，可用各种不同的方法去 估计它，因此一个参数的估计量不唯一. 如 X~U(0,θ) ,θ的矩法估计量为 2 X ， 极大似然估计量为 max{ X i }
1 i n
在众多的估计量中选哪一个更好？
选取的标准是什么？ 三个常用准则：无偏性、有效性、相合性.
1 n 2 D X i n 1 n 2 P X i 2 i 1 2 n i 1

§7.2 点估计的评价标准

§7.2 点估计的评价标准

§7.2 点估计的评价标准同一参数可以有几种不同的估计，这时就需要判断采用哪一种估计为好的问题。

另一方面，对于同一个参数，用矩法和极大似然法即使得到的是同一个估计, 也存在衡量这个估计优劣的问题。

估计量的评选标准就是：评价一个估计量“好”与“坏”的标准。

评价一个估计量的好坏, 不能仅仅依据一次试验的结果, 而必须由多次试验结果来衡量. 因为估计量是样本的函数, 是随机变量. 故由不同的观测结果, 就会求得不同的参数估计值. 因此一个好的估计, 应在多次重复试验中体现出其优良性.估计量的评价一般有三条标准:1. 无偏性;2. 有效性;3. 相合性（一致性）一.无偏性估计量是随机变量, 对于不同的样本值会得到不同的估计值. 一个自然的要求是希望估计值在未知参数真值的附近, 不要偏高也不要偏低. 由此引入无偏性标准.定义1 设),,(ˆ1nX X θ是未知参数θ的估计量, 若,)ˆ(θθ=E 则称θˆ为θ的无偏估计量. 若ˆ()E θθ≠称ˆθ为有偏估计量，ˆ()E θθ-并称为估计量 ˆθ的偏差.如果ˆθ是有偏估计量,ˆˆlim (),n E θθθθ→∞=但，则称是的渐近无偏估计量 注: 无偏性是对估计量的一个常见而重要的要求, 其实际意义是指估计量没有系统偏差，只有随机偏差. 在科学技术中, 称θθ-)ˆ(E 为用θˆ估计θ而产生的系统误差.定理1 设12,,n X X X 为取自总体X 的样本,总体X 的均值为μ, 方差为2σ.则(1) 样本均值X 是μ的无偏估计量;(2) 样本方差2S 是2σ的无偏估计量;(3) 样本二阶中心矩2211()ni i B X X n ==-∑是2σ的不是无偏估计量.,是渐近无偏估计量证明：(1)因为 12,,n X X X 独立同分布，且()i E X μ=所以11111()()n n i i i i E X E X E X n n n n μμ==⎡⎤===⋅=∑∑⎢⎥⎣⎦ 故X 是μ的无偏估计量;(2)因2222221111111()2()111n n n n i i i i i i i i S X X X X X nX X nX n n n ====⎡⎤⎛⎫=-=-+=-∑∑ ⎪⎢⎥---⎣⎦⎝⎭∑∑ 注意到22222222()()[()],()()[()],i i i E X D X E X n E X D X E X σμσμ=+=+=+=+于是，有22222222111()()()().11n i i E S E X nE X n n n n n σσμμσ=⎡⎤⎛⎫⎡⎤=-=+-+=∑⎢⎥ ⎪⎢⎥⎣⎦--⎝⎭⎣⎦故样本方差2S 是2σ的无偏估计量; (3)222111()n i i n B X X S n n=-=-=∑ 222211()()n n E B E S n nσσ--==≠ 故2B 是2σ的有偏估计量.2221lim ()lim n n n E B nσσ→∞→∞-== 故2B 是2σ的渐近无偏估计量.二.有效性一个参数θ常有多个无偏估计量,在这些估计量中,自然应选用对θ的偏离程度较小的为好,即一个较好的估计量的方差应该较小.由此引入评选估计量的另一标准—有效性.定义2 设),,(ˆˆ111n X X θθ=和),,(ˆˆ122nX X θθ=都是参数θ的无偏估计量, 若)ˆ()ˆ(21θθD D <,则称1ˆθ较2ˆθ有效. 例1:设123,,X X X 是总体X 的样本,证明11231ˆ (),3X X X μ=++21231ˆ ()2X X X μ=-+33121ˆ ()42X X X μ=++ 都是总体均值()E X 的无偏估计量,并比较哪个更有效.解: 112311ˆE( )[()()()][()()()]()33E X E X E X E X E X E X E X μ=++=++= 212311ˆE( )()()()()22E X E X E X E X μ=-+= 3123111ˆE( )()()()()442E X E X E X E X μ=++= 故1ˆ μ,2ˆ ,μ3ˆ μ都是总体均值()E X 的无偏估计量 112311ˆD( )[()()()]()93D X D X D X D X μ=++= 212313ˆD( )[()()]()()42D X D X D X D X μ=++= 3123113ˆD( )[()()]()()1648D X D X D X D X μ=++= 则132ˆˆˆD( )D( )D( )μμμ<<,故1ˆ μ较2ˆ ,μ3ˆ μ更有效 三.一致性 (相合性)我们不仅希望一个估计量是无偏的, 并且具有较小的方差, 还希望当样本容量无限增大时, 估计量能在某种意义下任意接近未知参数的真值, 由此引入相合性(一致性)的评价标准.定义 3 设),,(ˆˆ1nX X θθ=为未知参数θ的估计量, 若当n →∞时,θˆ依概率收敛于θ, 即对任意0>ε, 有,1}|ˆ{|lim =<-∞→εθθP n 或,0}|ˆ{|lim =≥-∞→εθθP n则称θˆ为θ的一致估计量.例2:证明样本k 阶原点矩11n k k i i A X n ==∑是总体k 阶原点矩)(k X E 的一致估计量. 证明: 样本k 阶原点矩11n k k i i A X n ==∑依概率收敛于总体k 阶原点矩)(k X E 即对任意的0ε>,有111111lim |()lim |()1,n n n k k k k i i i n n i i i P X E X P X E X n n n εε→∞→∞===⎧⎫⎧⎫-<=-<=⎨⎬⎨⎬⎩⎭⎩⎭∑∑∑ 所以k A 是总体)(k X E 的一致估计量.注:1样本方差2S 是总体方差2σ的一致估计量．由于样本k 阶原点矩与样本方差分别作为总体k 阶原点矩与总体方差的估计是无偏的、一致的，因此是较好的估计，2.若12(,,)l g t t t 是连续函数，),,,(ˆ21n X X X θ是ˆ(1,2,)i i l θ=的一致估计量，则12ˆˆˆ(,,)lg θθθ是12(,,)l g θθθ的一致估计量，所以用矩估计法确定的统计量一般是一致估计量．人们还证明了在相当广泛的情况下，极大似然估计量也是一致估计量．。

第四版统计学课后习题答案

第四版统计学课后习题答案《统计学》第四版统计课后思考题答案第一章思考题1.1什么是统计学统计学是关于数据的一门学科，它收集，处理，分析，解释来自各个领域的数据并从中得出结论。

1.2解释描述统计和推断统计描述统计；它研究的是数据收集，处理，汇总，图表描述，概括与分析等统计方法。

推断统计；它是研究如何利用样本数据来推断总体特征的统计方法。

1.3统计学的类型和不同类型的特点统计数据；按所采用的计量尺度不同分；（定性数据）分类数据：只能归于某一类别的非数字型数据，它是对事物进行分类的结果，数据表现为类别，用文字来表述；（定性数据）顺序数据：只能归于某一有序类别的非数字型数据。

它也是有类别的，但这些类别是有序的。

（定量数据）数值型数据：按数字尺度测量的观察值，其结果表现为具体的数值。

统计数据；按统计数据都收集方法分；观测数据：是通过调查或观测而收集到的数据，这类数据是在没有对事物人为控制的条件下得到的。

实验数据：在实验中控制实验对象而收集到的数据。

统计数据；按被描述的现象与实践的关系分；截面数据：在相同或相似的时间点收集到的数据，也叫静态数据。

时间序列数据：按时间顺序收集到的，用于描述现象随时间变化的情况，也叫动态数据。

1.4解释分类数据，顺序数据和数值型数据答案同1.31.5举例说明总体，样本，参数，统计量，变量这几个概念对一千灯泡进行寿命测试，那么这千个灯泡就是总体，从中抽取一百个进行检测，这一百个灯泡的集合就是样本，这一千个灯泡的寿命的平均值和标准差还有合格率等描述特征的数值就是参数，这一百个灯泡的寿命的平均值和标准差还有合格率等描述特征的数值就是统计量，变量就是说明现象某种特征的概念，比如说灯泡的寿命。

1.6变量的分类变量可以分为分类变量，顺序变量，数值型变量。

变量也可以分为随机变量和非随机变量。

经验变量和理论变量。

1.7举例说明离散型变量和连续性变量离散型变量，只能取有限个值，取值以整数位断开，比如“企业数”连续型变量，取之连续不断，不能一一列举，比如“温度”。

估计量的评选标准

估计量的评选标准估计量是指在缺乏准确数据的情况下，根据一定的方法和经验，对某一现象或数值进行估算的过程。

在实际生活和工作中，我们经常需要对各种各样的数据进行估计，比如市场需求量、产品销售额、人口数量等等。

而估计量的准确性和可靠性对于决策和规划具有重要意义。

因此，对估计量的评选标准也显得尤为重要。

首先，估计量的评选标准应当包括准确性。

准确性是估计量的基本要求，也是最为重要的一个方面。

一个准确的估计量应当尽可能接近真实数值，能够反映出实际情况。

在评选估计量时，需要对比不同估计量的准确度，选择最为接近真实情况的估计量作为最终结果。

其次，估计量的评选标准还应当考虑到可靠性。

可靠性是指估计量的稳定性和一致性，即在不同条件下得到的估计量应当是相近的。

一个可靠的估计量应当具有较小的误差范围，能够在不同情况下保持一致性。

在评选估计量时，需要对其可靠性进行充分的考量，选择稳定性和一致性较高的估计量作为最终结果。

此外，估计量的评选标准还应当考虑到数据来源和方法的科学性和合理性。

一个科学合理的估计量应当基于充分的数据支撑和合理的估算方法，能够经得起推敲和验证。

在评选估计量时，需要对其数据来源和估算方法进行审查，选择数据充分、方法科学的估计量作为最终结果。

最后，估计量的评选标准还应当考虑到应用的实际性和适用性。

一个优秀的估计量应当能够满足实际应用的需求，能够为决策和规划提供有力支持。

在评选估计量时，需要对其实际应用价值进行评估，选择能够最大程度满足实际需求的估计量作为最终结果。

综上所述，估计量的评选标准应当包括准确性、可靠性、数据来源和方法的科学性和合理性，以及应用的实际性和适用性。

只有在综合考量这些方面的因素之后，我们才能够选择出最为合适的估计量，为决策和规划提供可靠的支持。

因此，在进行估计量的评选时，需要全面考量各方面因素，以确保选择出最为优秀的估计量。

概率论与数理统计--- 估计量的评选标准



15
例3 设总体 X 的均值和方差均存在 ,nX1, „, Xn 是总体 X 的样本, C1 , C2 ,„ ,Cn 为不全相同且满足 C i 1 的任一组常数,
证明: (1) 样本的线性函数 Ci X i 是总体均值 的无偏估计量 ; i 1 n n 1 X 较 C X 有效. (2) 总体均值的无偏估计量 X n i i i i 1 i 1 n n n 证(1) E ( C i X i ) C i EX i C i
24
譬如，在估计湖中鱼数的问题中, 若我们根据一个 实际样本得到鱼数 N 的极大似然估计为 1000 条.
但实际上, N 的真值可能大于 1000 条, 也可能小于1000条. 若我们能给出一个区间, 在此区间内我们合 理地相信 N 的真值位于其中, 这样对鱼数的估计就有 把握多了.
也就是说, 我们希望确定一个尽可能小的区间, 使我们能以 • 比较高的可靠程度相信它包含真参数值.
i 1 j 1
n
m
解:(1) E(T)=an+bm =(na+mb) 当na+mb=1时, E(T)=
此时,T是的无偏估计
(2) D(T)=a2n+b24m
1 na 2 na 4m( ) m 2 4(1 na ) 2 na m 8n(1 na ) dD 0 0 2na 令 m da 4 (4n+m)a=4 a 4n m D(a)>0 此时D(T)最小,即T最有效 4 1 a , b 4n m 4n m
定义:设ˆ (X1,X2,…,Xn)为的估计量,若E(ˆ) 存在,且有 ˆ E ( ) , 则称ˆ 为的无偏估计量

7.2 估计量的优劣评价标准

n
ˆ Dθ n
ˆ 故 θ n+1
σ2 σ2 1 n 1 ˆ = 2 ∑ DX k = 2 ⋅ n ⋅ σ 2 = > = Dθ n+1 , n k =1 n n n +1 ˆ 有效, 较 θ 有效, n ∈ N .
n
此例说明：样本容量越大，样本均值作为总体均值的 此例说明：样本容量越大，样本均值作为总体均值的估 说明 容量越大 作为总体均值 计量就 有效。 计量就越有效。
信息系 刘康泽
第 7- 2节 估计量优劣的评价标准
信息系 刘康泽
第 7-2 节
一、无偏性
估计量优劣的评价标准 估计量优劣的评价标准 优劣
1、无偏估计量： 无偏估计量：
ˆ ˆ 设 的估计量， 【定义】 θ 为 θ 的估计量， E (θ ) = θ ,则称 θ 为θ 的 定义】 ˆ 若 无偏估计量。 无偏估计量。 估计量
证明 因为
1 n n 1 n S2 = ( X k − X )2 = i ∑ ( X k − X )2 ∑ n − 1 k =1 n − 1 n k =1 n 2 2 于是： Sn 于是： S = n −1 n n n −1 2 2 2 E(S ) = E ( Sn ) = i σ =σ2 。 n −1 n −1 n 2 2 的无偏估计量。 所以 S 为 σ 的无偏估计量。
n →∞
ˆ lim P θ n − θ ≥ ε = 0
{
}
ˆ P θ ， 则称 θ 为 θ 的 一致 估计量 。 ˆ 一致估计量 估计量。 即 θ n → n
1 n ˆ ˆ 一致估计 例 1 设 EX = µ , θ n = ∑ X k ,则 θ n 为 θ 的 一致 估计 n k =1
量。. 根据辛钦大数定理得证。 证明 根据辛钦大数定理得证 。
  1. 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
  2. 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
  3. 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
P{ X = k } =
λk
k!
e −λ , k = 0,1, 2, L
分别是E(X) =λ和D(X)=λ 的矩估计量， 的矩估计量， 由于 X 和B2分别是 ˆ ˆ 于是得到λ 的两个不同的矩估计量 λ1 = X 和 λ2 = B2
7.2
估计量的评价标准
既然估计量不是唯一的， 那么， 究竟孰优孰劣就 既然估计量不是唯一的 ， 那么 ， 要有一个评价标准． 要有一个评价标准 ． 评价估计量的好坏一般从以下 三个方面考虑： 有无系统偏差； 波动性的大小； 三个方面考虑 ： 有无系统偏差 ； 波动性的大小 ； 当 样本容量增大时是否越来越精确． 样本容量增大时是否越来越精确 ． 这些就是估计量 的无偏性，有效性和相合性． 的无偏性，有效性和相合性．
7.2 估计量的评价标准 从上面的内容我们已经看到， 从上面的内容我们已经看到，同一参数的估计量 不是唯一的， 不是唯一的，不同的估计方法求出的估计量可能不 一样． 一样．有时甚至用同一方法也可能得到不同的估计 量． 例如，设总体X服从参数为 的泊松分布， 例如，设总体 服从参数为λ 的泊松分布， 即
的一致估计。 故样本方差 S 2 是总体 σ 2 的一致估计。
7.2
估计量的评价标准
由大数定律可知，样本矩依概率收敛于总体对 由大数定律可知， 应的矩，因而矩估计量均为相合估计量． 应的矩，因而矩估计量均为相合估计量． 相合性只有在样本容量相当大时， 相合性只有在样本容量相当大时，才能显示其 优越性，而在实际应用中，往往很难达到， 优越性，而在实际应用中，往往很难达到，因此实 际应用中，关于估计量的选择问题， 际应用中，关于估计量的选择问题，要视具体问题 综合考虑各种评价而确定 ．
1 , 易知 X , （X 1 + X n） X1 均为µ 的无偏估计, 的无偏估计 2
又有
1 σ D( X ) = , D （X 1 + X n = , D( X 1 ) = σ 2 ） n 2 2
2
σ2
1 所以,当 最有效， 有效． 所以 当n>2时，X 最有效， （X 1 + X n）较X1有效． 时 2
E (S ) ≤ σ
故一般来说， 不是 的无偏估计． 故一般来说，S不是σ 的无偏估计．
【例】总体X服从参数为
λ
的泊松分布，
是来自总体X的样本 的样本。 （X1,X2,X3）是来自总体 的样本。 证明： 证明：下面三个估计量都是 λ 的无偏估计
ˆ =1X +1X +1X , λ1 1 2 3 3 3 3 ˆ =1X +1X +1X , λ2 1 2 3 3 6 2 ˆ = X +1X −1X . λ3 1 2 3 2 2
2
修正． 修正． 由于它具有无偏性，在实际应用中常被采用． 由于它具有无偏性，在实际应用中常被采用． 另一方面， 另一方面，由于 E ( B2 ) =
n−1 D( X ) → D( X )( n → ∞ ). n
因此，又称 的渐近无偏估计． 因此，又称B2是D(X)的渐近无偏估计． 的渐近无偏估计
7.2
n−1 n−1 2 E ( B2 ) = E(S ) = D( X ) ≠ D( X ). n n
7.2
估计量的评价标准
所以，B2不是总体方差D(X)的无偏估计，尽管B2是 所以， 不是总体方差 的无偏估计，尽管 的无偏估计 D(X)的矩估计量． 的矩估计量． 的矩估计量
1 n n 2 看作对B 我们可以把 S = ∑ ( X i − X ) = n − 1 B2 看作对 2的 n − 1 i =1
没有系统误差． 当 E (θˆ) − θ = 0 时，没有系统误差．
7.2
估计量的评价标准
定义7.2 设 θˆ = θˆ ( X 1 , X 2 ,L , X n 是参数θ的一个估计量， 定义 是参数 的一个估计量， 的一个估计量 ) ˆ =θ θˆ 的无偏估计量． 若 的无偏估计量 E (θ ) ，则称 是θ的无偏估计量． 的取值在真值θ周围摆动 周围摆动， 无偏性反映了估计量 θˆ 的取值在真值 周围摆动， 其平均值是真值θ． 显然， 其平均值是真值 ． 显然 ， 我们希望一个估计量要 具有无偏性． 具有无偏性．
1. 无偏性
) 的一个估计量 一般地， 的一个估计量， 设 θˆ = θˆ ( X 1 , X 2 , L , X n 是θ的一个估计量，一般地，将 ˆ 估计θ的系统误差 显然， 的系统误差． 称为用) − θ估计 的系统误差．显然，系统误差较小的 | E (θ | θˆ 估计量应该是较理想的． 估计量应该是较理想的．
7.2
估计量的评价标准
3. 相合性
ˆ Xn) 总体参数θ的估计量 是样本的函数， 总体参数 的估计量 θ ( X 1 , X 2 , L , 是样本的函数， 随着样本容量的增加， 其值应该越来越接近真值θ,于 随着样本容量的增加 ， 其值应该越来越接近真值 于 是有： 是有： ˆ ˆ 定义7.4 设 θ = θ ( X 1 , X 2 , L , X n ) 是参数 的一个估计 是参数θ的一个估计 定义 依概率收敛于θ，即对任意的ε 量，若 依概率收敛于 ，即对任意的 > 0，有 ， θˆ
证明： 证明：因为 E ( X ) = λ , 于是 又
E ( X i ) = λ (i = 1, 2,3),
ˆ ) = 1 E( X ) + 1 E( X ) + 1 E( X ) = 1 λ + 1 λ + 1 λ = λ, E (λ1 1 2 3 3 3 3 3 3 3
ˆ ) = 1 λ + 1 λ + 1 λ = λ, E (λ2 3 6 2 ˆ ) = λ + 1 λ − 1 λ = λ, E (λ3 2 2 ˆ ˆ ˆ 的无偏估计。 故 λ 1 , λ 2 , λ 3 都是 λ 的无偏估计。
(n − 1) S 2
σ
2
~ χ 2 (n − 1)
可得
E (S ) = σ ,
2 2
2σ 4 2 D( S ) = n −1
由切比雪夫不等式， 由切比雪夫不等式，当 n → ∞，对任意 ε > 0,
P{| S 2 − σ 2 |< ε } ≥ 1 − D( S 2 )
ε2
2σ 4 = 1− →1 2 (n − 1)ε
估计量的评价标准
【例】求证：样本标准差S不是总体标准差σ 的无 求证：样本标准差 不是总体标准差σ 不是总体标准差 偏估计． 偏估计． 证：因为 E ( S 2 ) = σ 2，即 D( S ) + [E ( S )]2= σ 2 ． 又因D( S ) ≥ 0 ，所以 [E ( S )]2= σ 2 − D( S ) ≤ σ 2 即
ˆ ˆ ˆ ˆ D (θ ) = E {[θ − E (θ )]2 } = E[(θ − θ ) 2 ]
反映了这种摆动的范围． 反映了这种摆动的范围． 因此， 同一个参数的多个无偏估计量中方差小者较 因此 ， 于是有下面定义： 好．于是有下面定义：
7.2
估计量的评价标准
定义7.3 设 θˆ1 = θˆ1 ( X 1 , X 1 ,..., X n ), θˆ2 = θˆ2 ( X 1 , X 1 ,..., X n ) 定义 都是参数θ的无偏估计，若 D(θˆ1 ) < D(θˆ2 ) 都是参数 的无偏估计， 的无偏估计 有效． 则称 θˆ1 比 θˆ2 有效． 例如，设总体 的方差存在 的方差存在， 例如，设总体X的方差存在，X1, X2,…,Xn(n>2) 为总体X的一个样本 的一个样本， 为总体 的一个样本，
7.2
估计量的评价标准
ቤተ መጻሕፍቲ ባይዱ
2. 有效性 同一个参数的无偏估计可以有很多， 同一个参数的无偏估计可以有很多 ， 那一个较好 一些呢？ 一些呢？ 是参数θ的无偏估计量 的无偏估计量， 设 θˆ 是参数 的无偏估计量，无偏性说明估计量 θˆ 的 取值在参数θ的真值周围摆动 显然，这种摆动 的真值周围摆动， 摆动范围 取值在参数 的真值周围摆动，显然，这种摆动范围 越小越好， 越小越好，而 θˆ 的方差
1 n 根据定理6.1，对任意总体X， 根据定理 ，对任意总体 ， = ∑ X i 和 X n i =1 1 n 2 2 S = ∑ ( X i − X ) 分别是总体 的均值 分别是总体X的均值 的均值E(X)和方差 和方差 n − 1 i =1 1 n n−1 2 2 D(X)的无偏估计．而由于 B = 的无偏估计． 的无偏估计 ∑(Xi − X ) = n S 2 n i =1
ˆ lim P {| θ − θ |< ε } = 1
n→ ∞
ˆ 是参数θ的相合估计量 或者一致估计量． 的相合估计量， 则称 θ 是参数 的相合估计量，或者一致估计量．
X ~ N ( µ , σ 2 ), X 1 , X 2 ,L , X n 是来自总体 的一个 是来自总体X的一个 【例】设
样本。 样本。 证明：样本方差 S 2 是总体 σ 2 的一致估计。 证明： 的一致估计。 证明： 证明： 由