应用数理统计2.2 估计量的评判准则
- 格式：ppt
- 大小：475.50 KB
- 文档页数：16
文档推荐
-
应用数理统计基础课后习题答案(全) 庄楚强页数:68
-
应用数理统计_施雨_课后答案_页数:47
-
应用数理统计课后答案页数:62
-
应用数理统计课后习题参考答案页数:19
下载文档原格式
合集下载
2[1].2估计量的评选标准
![2[1].2估计量的评选标准](https://img.taocdn.com/s1/m/0d59a1da7f1922791688e843.png)
§2 估计量的评选标准问题：用不同的方法求出的同一参数的估计量可能不同，哪个估计量更好？怎样衡量？2.1 无偏估计引例：有一大批产品，废品率为)10(<<p p 未知，现任取n 件产品进行检验，获取子样观测值，构造统计量来估计未知参数p .如果pp >∧，则不利于产品卖方；如果pp <∧，则不利于产品买方。
事实上，∧p的值随每次抽样结果而变，因此自然希望抽样检验长期进行的话，在平均意义下能有一个不偏不倚的结果，即pp E =∧)(.——这就是估计量的无偏性要求。
定义：设∧θ是未知参数θ的估计量， ①若θθ=∧)(E ，则称∧θ是θ的无偏估计(unbiased estimator)，简记为UE ； ②若θθ≠∧)(E ，则称∧θ是θ的有偏估计(biased estimator)；③若θθ=∧∞→)(lim E n ，则称∧θ是θ的渐近无偏估计(asymptotic unbiased estimator).例 2.2.1 n X X X ,,,21 是来自母体X的一个子样，证明：X 是)(X E 的无偏估计，但子样方差∑=-=ni i n X X nS 122)(1不是)(X D 的无偏估计。
证明：)()(1)1()(11X E X E nX nE X E ni ini i ===∑∑==，故X是)(X E =μ的无偏估计；)1()(1222∑=-=ni inX XnE S E)()()(122122X E EXX E X E nni i-=-=∑=)]()([)]()([22X E X D X E X D +-+=)()(1)()(22X E X D nX E X D --+=)()(1X D X D nn ≠-=故∑=-=ni i n X X nS 122)(1不是)(2X D =σ的无偏估计，但由于)()](1[lim )(lim 2X D X D nn S E n nn =-=∞→∞→故∑=-=ni i n X X nS 122)(1是)(2X D =σ的渐近无偏估计.为得)(X D 的无偏估计，对2nS 进行修正（称为纠偏），令：∑=--=-=ni i n n X X n S n n S 1222*)(111则22*)(σ=n S E . 即2*nS 是)(X D 的无偏估计，此即修正样本方差.例 2.2.2 设母体),(~2σμN X，则Rd n1=∧σ是σ的无偏估计.例 2.2.3 nX X X ,,,21是来自母体)(~λP X 的一个子样，证明：2*)1(nS X ααλ-+=∧是λ的无偏估计。
2.2估计量的好坏标准
ˆ 若：E(θ ) = θ
ˆ 则称 θ 为 θ 的无偏估计 .
ˆ ˆ 注: 若 Eθ ≠ θ , 其偏差为 Eθ − θ
ˆ ˆ 当 lim Eθ = θ 时, 称θ 是θ的渐近无偏估计量.
n →+∞
例1 设 X 1 , X 2 , L X n是 总 体 X 的 样 本 ， 则
1 n (1)X = ∑ X i 是总体均值µ的无偏估计量; n i =1 (2)S
1 2
ˆ ˆ 则称θ1 较θ 2更有效 .
２）最小方差无偏估计
ˆ ˆ 在θ的所有无偏估计量中, 若∃θ0使得对于任意无偏估计量θ 有 ˆ ˆ Dθ ≤ Dθ
0
ˆ 则称θ0是θ的最小方差无偏估计量.
３）优效估计量
(给 罗 − 克拉美不等式 (给出了无偏估计量方差的下界) 记为 1 ˆ≥ 连续型: Dθ = IR +∞ ∂ ln f ( x,θ ) n∫ ( )2 f ( x,θ )dx −∞ ∂θ 1 ˆ≥ 离散型: Dθ ∂ ln P( x,θ ) 2 n∑( ) P ( x, θ ) ∂θ x
§2 估计量的好坏标准
评价一个估计量的好坏， 评价一个估计量的好坏，不能仅仅依据一次试验 的结果，而必须由多次试验结果来衡量 . 的结果， 这是因为估计量是样本的函数,是随机变量 这是因为估计量是样本的函数 是随机变量. 由不同 是随机变量 的观测结果,就会求得不同的参数估计值 就会求得不同的参数估计值. 的观测结果 就会求得不同的参数估计值 因此一个 好的估计,应在多次试验中体现出优良性 好的估计 应在多次试验中体现出优良性 . 2.1．无偏性 ． ˆ 设 θ ( X1 , X2 ,L, Xn ) 是未知参数θ 的估计量， 的估计量，
(1)指出T1 , T2 , T3中哪些是θ的无偏估计量。 (2)在上述θ的无偏估计量中指出哪一个更有效。
估计量的评价标准
估计量的评价标准估计量是统计学中一个非常重要的概念，它在实际应用中有着广泛的用途。
在统计分析中，我们经常需要根据样本数据来估计总体参数，比如平均值、方差、比例等。
而估计量的好坏直接影响到我们对总体参数的准确性和可靠性。
因此，对估计量的评价标准至关重要。
首先，我们来看估计量的无偏性。
一个估计量如果是无偏的，意味着在重复抽样的情况下，估计量的期望值等于总体参数的真值。
这是一个非常重要的性质，因为它保证了估计量在平均意义下是准确的。
如果一个估计量是有偏的，那么在多次抽样的情况下，估计量的平均值会偏离总体参数的真值，这会导致我们对总体参数的估计产生偏差。
其次，我们需要考虑估计量的一致性。
一个一致的估计量是指当样本容量逐渐增大时，估计量趋向于总体参数的真值。
这意味着随着样本容量的增加，估计量的波动会逐渐减小，最终收敛到总体参数的真值附近。
一致性是估计量的重要性质之一，它保证了在大样本情况下，我们可以获得准确的估计。
此外，我们还需要关注估计量的有效性。
一个有效的估计量是指在所有可能的样本中，估计量的方差最小。
换句话说，有效的估计量能够提供最精确的估计，它的估计误差最小。
有效性是评价估计量优劣的重要标准之一，它直接影响到我们对总体参数的精确度。
最后，我们要考虑估计量的置信区间。
一个好的估计量应该能够提供一个置信区间，该区间能够包含总体参数的真值，并且置信水平越高越好。
置信区间是对估计量精确度的一种度量，它告诉我们关于总体参数的估计有多可靠。
总之，对于估计量的评价标准，我们需要考虑其无偏性、一致性、有效性和置信区间的性质。
一个好的估计量应该在这些方面表现出色，从而能够提供准确可靠的总体参数估计。
在实际应用中，我们需要根据具体问题和数据特点来选择合适的估计量，并且对其进行充分的评价和检验，以确保我们得到的估计是准确可靠的。
数理统计2_2
由大数定律证明
用切贝雪夫不 等式证明
矩法得到的估计量一般为相合估计量 在一定条件下, 极大似然估计具有相合性
三、有效性
ˆ ˆ 定义 设 θ1 , θ 2 都是θ 的无偏估计量, 若
ˆ ˆ D(θ1 ) < D(θ 2 )
则称 θˆ1 比 θˆ2 有效。 若θ 的所有二阶矩存在的无偏估计量中存 ˆ ˆ 在估计量 θ0 , 使对任意无偏估计量 θ 有 ˆ ˆ Dθ0 ≤ Dθ ˆ 则称 θ0 是θ 的最小方差无偏估计量
i =1 n
ˆ 证 (1) E ( μ1 ) = ∑ ci E ( X i ) = ∑ ci μ = μ
i =1 i =1
n
n
(2)
而
ˆ1 ) = ∑ ci2 D( X i ) = σ 2 ∑ ci2 D( μ
i =1 i =1
n ⎛ ⎞ 2 1 = ⎜ ∑ ci ⎟ = ∑ ci + 2 ∑ ci c j i =1 1≤ i < j ≤ n ⎝ i =1 ⎠ n 2
⎛ ( x − μ) 1 ⎞ − 2⎟ ⎜ 4−
( x−μ )2 2σ 2
dx
(
)
2
1 2π
e
−
y2 2
dy =
1 2σ 4
2σ 4 2 得 σ 的罗-克拉美下界 IR = n 2σ 4 ∗2 2 DS ∗2 = > IR ES = σ ,
n−1
所以 S ∗2 不是 σ 2 的优效估计。 注: S 是 σ 的最小方差无偏估计。
x
2
2
⎛ ∂ ln f ( X , θ ) ⎞ ⎛ 1 X⎞ E⎜ ⎟ = E⎜−θ +θ2 ⎟ ∂θ ⎝ ⎠ ⎝ ⎠ 1 1 DX 2 = 4 E( X − θ ) = 4 = 2
用切贝雪夫不 等式证明
矩法得到的估计量一般为相合估计量 在一定条件下, 极大似然估计具有相合性
三、有效性
ˆ ˆ 定义 设 θ1 , θ 2 都是θ 的无偏估计量, 若
ˆ ˆ D(θ1 ) < D(θ 2 )
则称 θˆ1 比 θˆ2 有效。 若θ 的所有二阶矩存在的无偏估计量中存 ˆ ˆ 在估计量 θ0 , 使对任意无偏估计量 θ 有 ˆ ˆ Dθ0 ≤ Dθ ˆ 则称 θ0 是θ 的最小方差无偏估计量
i =1 n
ˆ 证 (1) E ( μ1 ) = ∑ ci E ( X i ) = ∑ ci μ = μ
i =1 i =1
n
n
(2)
而
ˆ1 ) = ∑ ci2 D( X i ) = σ 2 ∑ ci2 D( μ
i =1 i =1
n ⎛ ⎞ 2 1 = ⎜ ∑ ci ⎟ = ∑ ci + 2 ∑ ci c j i =1 1≤ i < j ≤ n ⎝ i =1 ⎠ n 2
⎛ ( x − μ) 1 ⎞ − 2⎟ ⎜ 4−
( x−μ )2 2σ 2
dx
(
)
2
1 2π
e
−
y2 2
dy =
1 2σ 4
2σ 4 2 得 σ 的罗-克拉美下界 IR = n 2σ 4 ∗2 2 DS ∗2 = > IR ES = σ ,
n−1
所以 S ∗2 不是 σ 2 的优效估计。 注: S 是 σ 的最小方差无偏估计。
x
2
2
⎛ ∂ ln f ( X , θ ) ⎞ ⎛ 1 X⎞ E⎜ ⎟ = E⎜−θ +θ2 ⎟ ∂θ ⎝ ⎠ ⎝ ⎠ 1 1 DX 2 = 4 E( X − θ ) = 4 = 2
估计量的评选标准
估计量的评选标准估计量是指在缺乏准确数据的情况下，根据一定的方法和经验，对某一现象或数值进行估算的过程。
在实际生活和工作中，我们经常需要对各种各样的数据进行估计，比如市场需求量、产品销售额、人口数量等等。
而估计量的准确性和可靠性对于决策和规划具有重要意义。
因此，对估计量的评选标准也显得尤为重要。
首先，估计量的评选标准应当包括准确性。
准确性是估计量的基本要求，也是最为重要的一个方面。
一个准确的估计量应当尽可能接近真实数值，能够反映出实际情况。
在评选估计量时，需要对比不同估计量的准确度，选择最为接近真实情况的估计量作为最终结果。
其次，估计量的评选标准还应当考虑到可靠性。
可靠性是指估计量的稳定性和一致性，即在不同条件下得到的估计量应当是相近的。
一个可靠的估计量应当具有较小的误差范围，能够在不同情况下保持一致性。
在评选估计量时，需要对其可靠性进行充分的考量，选择稳定性和一致性较高的估计量作为最终结果。
此外，估计量的评选标准还应当考虑到数据来源和方法的科学性和合理性。
一个科学合理的估计量应当基于充分的数据支撑和合理的估算方法，能够经得起推敲和验证。
在评选估计量时，需要对其数据来源和估算方法进行审查，选择数据充分、方法科学的估计量作为最终结果。
最后，估计量的评选标准还应当考虑到应用的实际性和适用性。
一个优秀的估计量应当能够满足实际应用的需求，能够为决策和规划提供有力支持。
在评选估计量时，需要对其实际应用价值进行评估，选择能够最大程度满足实际需求的估计量作为最终结果。
综上所述，估计量的评选标准应当包括准确性、可靠性、数据来源和方法的科学性和合理性，以及应用的实际性和适用性。
只有在综合考量这些方面的因素之后，我们才能够选择出最为合适的估计量，为决策和规划提供可靠的支持。
因此，在进行估计量的评选时，需要全面考量各方面因素，以确保选择出最为优秀的估计量。
2.2 点估计的评价标准
例1 设总体X 的 k 阶矩 k E ( X ) 存在 ( X 1 , X 2 , , X n ) 是总体X 的样本,
k
证明: 不论 X 服从什么分布(但期望存在), 1 n 则 Ak X ik 是 k 的无偏估计量. n i 1 证 由于 E ( X ik ) k i 1,2, , n 因而
智商
组别
人数
智商平均数
样本标准差
甲 组 乙 组
n 6
46
x 78
99
s
19 16
由此结果推断母亲嗜酒是否影响下一 代的智力？若有影响，推断其影响程度有 多大? 提示 前一问题属假设检验问题 后一问题属区间估计问题
解 智商一般受诸多因素的影响.从而可以
假定两组儿童的智商服从正态分布.
N (u1 , )和N (u 2 , )
n
2
因而
n n 1 1 2 2 2 E ( X i X ) E ( X i ) E ( X ) n i 1 n i 1 2 2 2 2 ( ) ( ) n n 1 2 2 n 1 n 2 2 (Xi X ) 故 E 证毕. n 1 i 1
2
估计量
例2 设总体 X 的期望 与方差存在, X 的 样本为 ( X 1 , X 2 , , X n ) (n > 1) . 证明
n 1 2 2 (1) S n ( X i X ) 不是 D( X )的无偏估 n i 1
量; 1 2 (2) S
n 1 i 1
2 ( X X ) i
1 2 故 (n n) p X i X m i 1
2 2
m
[教育]应用统计方法第二章参数估计
要正确理解区间估计的概念，学会求单个正态总体的均值和 方差的置信区间以及两个正态总体的均值差和方差比的置信 区间。了解贝叶斯估计法。
统计方法
统计方法
统计方法
统计方法 •2.3.3 Bayes估计
统计方法
统计方法
统计方法
•注：假如不用先验信息，只用样本和总体信息，那么事件A 发生的概率的最大似然估计为：
•例如：在产品抽检中，只区分合格品与不合格品，对质 量好的一批产品，抽检的产品常为合格品． • 但“抽检３个全为合格品” • “抽检的１０个全为合格品”（更信得过）
本章中介绍了参数估计的基本方法。
参数的估计有点估计、贝叶斯估计和区间估计。矩估计法和 极大似然估计法是求参数的点估计量的两种最基本的方法， 务必牢固掌握。衡量估计量好坏的标准有无偏性，最小方差 无偏估计，有效性和相合性（一致性）等，要学会验证一个 估计量是符合哪种标准的估计量，这对了解估计量的特性是 非常重要的。
•(3)先验信息:抽样或试验之前有关统计问题的一些信息.一般说来,
•先验信息来自经验或历史资料.先验信息在日常生活和工作中是很 重要的
统计方法
•Bayes统计学:基于三种信息所进行的统计推断的统计学
•Bayes统计重视总体信息和样本信息的同时,还注意先验 信息的收集,挖掘和加工,使它数量化,形成先验分布,参加到 统计推断中来.以提高统计推断的质量,忽略先验信息的利 用,有时是一种浪费,有时还会导出不合理的结论. •Bayes学派的基本观点:任一未知参数都可以看成随机变量, 可用一个概率分布去描述,这个分布称为先验分布.在获得样 本之后,总体分布,样本,和先验分布通过Bayes公式结合起来 得到关于未知参数的新的分布…..后验分布
当样本符合或接近统计模型的假设时， 该估计应有好的或较好的估计效果；当 样本偏离偏离模型的假设时，即受到干 扰时，该估计量应具有一定的抗干扰能 力而不至于使估计效果变得太坏。
统计方法
统计方法
统计方法
统计方法 •2.3.3 Bayes估计
统计方法
统计方法
统计方法
•注：假如不用先验信息，只用样本和总体信息，那么事件A 发生的概率的最大似然估计为：
•例如：在产品抽检中，只区分合格品与不合格品，对质 量好的一批产品，抽检的产品常为合格品． • 但“抽检３个全为合格品” • “抽检的１０个全为合格品”（更信得过）
本章中介绍了参数估计的基本方法。
参数的估计有点估计、贝叶斯估计和区间估计。矩估计法和 极大似然估计法是求参数的点估计量的两种最基本的方法， 务必牢固掌握。衡量估计量好坏的标准有无偏性，最小方差 无偏估计，有效性和相合性（一致性）等，要学会验证一个 估计量是符合哪种标准的估计量，这对了解估计量的特性是 非常重要的。
•(3)先验信息:抽样或试验之前有关统计问题的一些信息.一般说来,
•先验信息来自经验或历史资料.先验信息在日常生活和工作中是很 重要的
统计方法
•Bayes统计学:基于三种信息所进行的统计推断的统计学
•Bayes统计重视总体信息和样本信息的同时,还注意先验 信息的收集,挖掘和加工,使它数量化,形成先验分布,参加到 统计推断中来.以提高统计推断的质量,忽略先验信息的利 用,有时是一种浪费,有时还会导出不合理的结论. •Bayes学派的基本观点:任一未知参数都可以看成随机变量, 可用一个概率分布去描述,这个分布称为先验分布.在获得样 本之后,总体分布,样本,和先验分布通过Bayes公式结合起来 得到关于未知参数的新的分布…..后验分布
当样本符合或接近统计模型的假设时， 该估计应有好的或较好的估计效果；当 样本偏离偏离模型的假设时，即受到干 扰时，该估计量应具有一定的抗干扰能 力而不至于使估计效果变得太坏。
估计量的评选标准
估计量的评选标准估计量是指在实际测量中，通过一些已知的信息对未知的量进行估计。
在各个领域，估计量都扮演着非常重要的角色，它可以帮助我们在没有准确数据的情况下做出合理的决策。
因此，对估计量的评选标准就显得尤为重要。
在选择估计量时，我们需要考虑一些关键的标准，以确保我们得到的估计量是准确可靠的。
首先，准确性是评选估计量的首要标准。
一个好的估计量应该尽可能地接近真实值。
在实际测量中，我们所得到的数据往往是有误差的，因此我们需要通过一些方法来减小这些误差，以得到更加准确的估计量。
在评选估计量时，我们需要对其准确性进行充分的考量，选择那些能够在误差范围内尽可能接近真实值的估计量。
其次，稳定性也是评选估计量的重要标准之一。
一个好的估计量应该在不同的情况下都能够保持一定的稳定性。
也就是说，当我们在不同的实验条件下进行估计时，我们得到的估计量应该是相对稳定的，而不是受到实验条件的影响而波动较大。
稳定性可以帮助我们更好地预测未知量，并且在实际应用中更加可靠。
此外，精确度也是评选估计量的重要考量因素。
一个好的估计量应该是精确的，能够给出具体的数值范围或者误差范围。
在实际应用中，我们通常需要对未知量进行一定的精确度要求，因此选择精确度较高的估计量对我们做出正确决策是非常重要的。
最后，可信度也是评选估计量的重要标准之一。
一个好的估计量应该是可信的，能够给人以信任感。
在实际应用中，我们往往需要对估计量进行一定的验证和确认，以确保其可信度。
因此，在评选估计量时，我们需要考虑其来源、方法和验证过程，选择那些可信度较高的估计量。
综上所述，评选估计量的标准包括准确性、稳定性、精确度和可信度。
在选择估计量时，我们需要综合考虑这些标准，以确保我们得到的估计量是准确可靠的。
只有在评选标准上都达到了一定的要求，我们才能够更好地利用估计量做出正确的决策和预测。
估计量的评价标准
计量是有偏的，称 E ˆ 为估计量ˆ的偏差 .
例1 设总体X的一阶和二阶矩存在，分布是任
意的，记E X ，D( X ) 2.
证明：样本均值X 是的无偏估计.
样本方差Sn2是 2的渐近无偏估计.
修正样本方差Sn2是 2的无偏估计.
证
E X ,
E
Sn2
n 1 2,
n
E Sn2 2
定义6.4 设ˆ1和ˆ2均为的无偏估计量,若对任意
样本容量n有D ˆ1 D ˆ2 ,则称ˆ1比ˆ2有效.
如果存在 一个无偏估计量 ˆ0 ,使对 的任意无偏 估计量 ˆ ,都有
Dˆ0 Dˆ
则称ˆ0 是 的最小方差无偏估计(量).
缩写为MVUE. 最小方差无偏估计是一种最优估计.
例3 设总体 X 服从区间 0， 上的均匀分布,
1
2
E[
ˆn Eˆn
2
2
ˆn Eˆn
Eˆn
Eˆn
2
]
1
2
[
Dˆn
Eˆn
2
]
令 n , 由定理的假设得
lim
n
P{ ˆn
}0
即 ˆn 是 的相合估计．
例9 若总体 X 的 EX和 DX都存在 , 证明 X 是总体
均值 EX 的相合估计.
证 因为 EX EX
DX DX 0 n
n
定理6.2设ຫໍສະໝຸດ ˆn是的一个估计量,
若 lim
n
E
ˆn
,
且
lim
n
D(ˆn
)
0,
则
ˆn 是
的相合估计(或一致估计).
证明 由于
0 P{ˆn }
估计量的评选标准
估计量的评选标准估计量是指在没有全部数据的情况下，根据部分数据对总体数据进行估计的方法。
在实际生活和工作中，我们经常需要对某些数据进行估计，比如市场调研中的销售额、人口普查中的人口数量等。
而对于估计量的评选标准，我们需要考虑以下几个方面：首先，估计量的准确性是评选标准的重要因素之一。
一个好的估计量应该能够尽可能接近真实数值，即使在缺乏全部数据的情况下，也能够给出一个较为准确的估计值。
为了评估估计量的准确性，我们可以采用均方误差、标准误差等统计指标进行评估。
其次，估计量的稳定性也是评选标准的重要考量。
一个好的估计量应该在不同样本下能够保持一定的稳定性，即不会因为样本的变化而导致估计值的大幅波动。
为了评估估计量的稳定性，我们可以采用置信区间、方差分析等方法进行评估。
另外，估计量的偏差也是评选标准的重要指标之一。
一个好的估计量应该能够尽可能减小估计值与真实值之间的偏差，即使在样本数据存在一定的误差情况下，也能够给出一个较为接近真实值的估计结果。
为了评估估计量的偏差，我们可以采用偏差率、相对误差等指标进行评估。
此外，估计量的置信度也是评选标准的重要考量。
一个好的估计量应该能够给出一个较高的置信度，即在一定置信水平下，能够给出一个较为可靠的估计结果。
为了评估估计量的置信度，我们可以采用置信水平、置信区间等统计方法进行评估。
最后，估计量的应用范围也是评选标准的重要因素之一。
一个好的估计量应该能够适用于不同的场景和数据类型，即不会因为数据的特殊性而导致估计结果的失真。
为了评估估计量的应用范围，我们可以采用模型适用性分析、数据类型适用性分析等方法进行评估。
综上所述，估计量的评选标准包括准确性、稳定性、偏差、置信度和应用范围等多个方面。
在实际应用中，我们需要综合考量这些因素，选择一个合适的估计量进行数据估计，以确保我们能够得到一个较为可靠和准确的估计结果。
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
ˆ 2 ci X i
i 1 n
,其中 ci 1, ci 0, i 1,2, , n
i 1
n
也是 的无偏估计量;
评述：
• 无偏的概率意义，即反复使用，整体平均下，估 计准确。 • 其局限性，若仅有一次或导弹命中精度或系统误 差等情形，就不能说明问题了。
3
2.2.2 最小方差性和有效性 用 ˆ 估计θ时，仅具有无偏性是不够的．我们
2
当T ( X 1 , X 2 , , X n )的 方 差 趋 于 0时 ，T是 相 合 的 。 2、 若T是 有 效 的 ， 则 T必 然 是 相 合 的 。
15
例2.15’ 设总体X 的数学期望μ与方差σ2存在，X1 , X 2 , , X n
n 1 是X的样本，证明用 ˆ n X n X i 估计μ时，μn 是 n i 1
n
的效率 (显 然 由 C R不 等 式 ， en 1).又 当T的 效 率 等 于 1时 ，
例2.15 设总体X~N(,2),,2均未知，又设X1, X2,...,Xn 为总体X 的样本, 则的无偏估计 X是有效的,2 的无偏 估计 S*2 是渐近有效的。
例2.16 若总体X~ (), 考虑未知参数 的矩估计量为 ˆ X的有效性。
n n 1 2 2 2 ˆ S (Xi X ) n1 n 1 i 1
18
（三）稳健性准则
• 去掉一些明显不合理的信息（样本）。 • 总之，具体问题具体分析，选择适合问题特 点的标准。 例2.18 （1）欲侧某一量μ ，其测量值服从 N ( ,0.22 ) 分布，今测得如下数据6.8，6.7，7.1，8.6，试估计 值。 （2）设有n个裁判为运动员的表演评分，如果其 中有些运动员分别与个别裁判有某种关系，试问采用 什么方法来确定运动员的表演为妥？
§2．2 估计量的评价准则
由例2.3和例2.10的结果看出，对均匀分布 总体参数的估计不一样，哪个好？
3 ˆX a n ˆX b 3 n
(X X )
i 1 n
n
2
,
ˆ max X ˆ min X i , b a i
1i n 1i n
(X X )
i 1
2
4
例2.14’ 设总体X的数学期望,方差2存在，X1,X2是X的样本 ， 证明估计 时, 1 1 3 1 ˆ X X 有效. ˆ X X 较 4 4 2 2 ˆ1 , ˆ 2 均为 的无偏估计， 又因为 证明 因为
1 1 2
2
ห้องสมุดไป่ตู้
1
2
1 1 1 1 1 2 ˆ 1 ) D( X ) D( X 1 X 2 ) D( X 1 ) D( X 2 ) D( 2 2 4 4 2
13
2.2.3
其它几个准则
• （一）最小均方误差准则 前述的最小方差性（有效性）只对无偏估计 而言，对有偏估计量无意义。 为使ˆ 与 尽量接近，考虑 ˆ) E( ˆ ) 2 ——称均方误差 Mse( • 由
ˆ) min Mse ( ˆ
得到的估计量称作最小均方误差估计量。 对于无偏估计，均方误差最小和方差最小是 一致的。
17
2 n 1 2(n 1) 2 2 2 2 4 E[ S ] [ 1] n n2
要使上式最小，利用一元二次式知识可知：
b 2(n 1) n2 1 n ( ) / 2( 2 ) 2a n n 1 n
即在形如αS2 (α>0)的统计量中σ2的最小均方误差估计是：
可以验证 X是总体均值的无偏估计[例2.13]；
2 S 但 不是总体方差的无偏估计，是渐进无偏
的。
n 1 n 2 2 S ( X X ) 而 S 是无偏的[例2.14]。 i n 1 n 1 i 1
2 *
2
例2.13’ 设总体X的数学期望 与方差2存在, X1, X2,...,Xn为总体X 的样本, 证明：
希望 ˆ 的取值能集中于θ附近,而且密集的程度 越高越好．方差是描述随机变量取值的集中程 度的，所以无偏估计以方差小者为好, 这就引进了有 效性这一标准.
g ( ) 的无偏估 • 定义2.2 如果 T T ( X 1 , X 2 ,..., X n ) 是 T ，均有， 计量，且对于其任意无偏估计量 D(T ) D(T ) 对一切 （参数空间），则称T为最小方差 的无偏估计量（或最优无偏估计量）。
2 l n f ( X 1 , ) 令I ( ) E ( ) 2
[ g ' ( )]2 定 义2.3 称en 为g( )的 无 偏 估 计 量 T D (T ( X ))nI ( ) 称T是 有 效 的 ； 若 l i men 1, 则 称T是 渐 近 有 效 的 。
注:
1.满足正则条件的估计量称为正规估计.
2. Rao Cramer不等式的下界仅是正规 无偏估计 类的方差下界
2 [ g ' ( )] D
nI ( )
3. Fisher信息量 I ( ) E ( l n f ( X 1 , ) ) 2
为了计算信息量 I ( )方便，我们可以证明
实际应用中，要求样本信息量（即n）较大， 但给出了一种保证，即只要能够获取足够的信息， 就一定能得到足够精确的估计。
1、 对 于 无 偏 估 计 ， 由 贝 切雪 夫 不 等 式 P{| T ( X 1 , X 2 , , X n ) g ( ) | } D (T ( X 1 , X 2 , , X n ))
19
在实际应用中，找出最小方差的估计量不容易， 若在一类分布和估计中找出所有无偏估计中方差 的一个下界，则当某一估计量达到或接近即认为 可行了。
下面我们就来讨论建立 一个方差下界的 克拉美 劳不等式
6
克拉美—劳不等式
p 41-42
设X 1 , X 2 ,, X n为取自具有概率函数 f ( x; ), { : a b}的母体的一个子样 , 其中a, b为已知常数 ,
14
（二）相合性（相合估计量） g ( ) 定义2.4 设T T ( X 1 , X 2 ,..., X n ) 是
n
的估计量，
0, lim P{| T ( X 1 , X 2 ,..., X n ) g ( ) | } 0
（即依概率收敛于）， 则称T是相合统计量。
且可设 a , b . 又T T ( X1 , X 2 ,, X n )是g( )的一
个无偏估计 , 且满足正则条件
(1)集合{ x : f ( x; ) 0}与无关;
f ( x; ) ( 2) g( )与 存在, 且对一切 , f ( x; ) f ( x; )dx dx
E[ S ]＝
n n2 2 E[ S 2 2 ]2 2 E[ S 2 ]
, D[ S ]＝
2
2 n 1 n 1 2 E[ S 2 2 2 ]2 n n 1 4 2 2 2 n 1 D[ S ] ( ] n 2 n 1 2( n 1) 2 4 [ 1] n n2
一致估计量．
证明 由大数定理可知，对于任意的
n
0
，有
lim P{ X n E ( X i ) } 1
所以
ˆn } 1 lim P{
n
由极大似然法得到的估计量，在一定条件下也具有一致性, 这里就不再讨论了． 16
例2.17(P46) 设正态总体X 的数学期望 μ与方差 2存在， ( X 1 , X 2 , , X n )是X 的样本，试在形如αS2 (α>0)的统计量中确定 σ 2的最小均方误差估计. 解: n－1 2 2(n－1) 4 2 2
1 3 1 9 5 2 ˆ 2 ) D( X 1 X 2 ) D( X 1 ) D( X 2 ) D( 4 4 16 16 8
所以 D( ˆ1 ) D( ˆ2)
由定义知
ˆ1 较 ˆ 2 有效．
5
我们自然希望无偏估计量的方差越小越好， 那么能够小到什么程度 ?即有无下界 ? 什么条件 下方差下界存在？
例2.12 若总体X~ (), 则未知参数 的矩估计量为
ˆ X,
或
1 ˆ n
i 1
n
( X i X )2
1
即使用同一方法得出的估计量也不同。
2.2.1．无偏性
定义2.1： ˆ) ，则称估计量为无偏估计量； • 如果E( ˆ( X , X ,..., X ) | 0 | E ( 1 2 n • 如果 lim n b( ) 0 记作 lim ，则称估计量为渐进无 n 偏估计量。其中 b( ) 称作偏差。
l n f ( X 1 , ) 2 令I ( ) E ( ) Fisher信息量
由数学期望的定义:
[ g( )]2 克拉美 劳下界 则有 : D (T ( X )) nI ( ) 1 特殊地，当g ( ) 时, 即为: D (T ( X )) nI ( )
g( ) E (T ( X )) T ( X 1 ,, X n ) f ( X 1 ; ) f ( X n ; )dX1 dXn
联合概率密度
g' ( ) T ( X 1 , X 2 , , X n ) f ( X 1 ; ) f ( X n ; )dX1 dX n T ( X 1 , X 2 , , X n ) [ f ( X i ; )]dX1 dX n i 1
i 1 n
,其中 ci 1, ci 0, i 1,2, , n
i 1
n
也是 的无偏估计量;
评述：
• 无偏的概率意义，即反复使用，整体平均下，估 计准确。 • 其局限性，若仅有一次或导弹命中精度或系统误 差等情形，就不能说明问题了。
3
2.2.2 最小方差性和有效性 用 ˆ 估计θ时，仅具有无偏性是不够的．我们
2
当T ( X 1 , X 2 , , X n )的 方 差 趋 于 0时 ，T是 相 合 的 。 2、 若T是 有 效 的 ， 则 T必 然 是 相 合 的 。
15
例2.15’ 设总体X 的数学期望μ与方差σ2存在，X1 , X 2 , , X n
n 1 是X的样本，证明用 ˆ n X n X i 估计μ时，μn 是 n i 1
n
的效率 (显 然 由 C R不 等 式 ， en 1).又 当T的 效 率 等 于 1时 ，
例2.15 设总体X~N(,2),,2均未知，又设X1, X2,...,Xn 为总体X 的样本, 则的无偏估计 X是有效的,2 的无偏 估计 S*2 是渐近有效的。
例2.16 若总体X~ (), 考虑未知参数 的矩估计量为 ˆ X的有效性。
n n 1 2 2 2 ˆ S (Xi X ) n1 n 1 i 1
18
（三）稳健性准则
• 去掉一些明显不合理的信息（样本）。 • 总之，具体问题具体分析，选择适合问题特 点的标准。 例2.18 （1）欲侧某一量μ ，其测量值服从 N ( ,0.22 ) 分布，今测得如下数据6.8，6.7，7.1，8.6，试估计 值。 （2）设有n个裁判为运动员的表演评分，如果其 中有些运动员分别与个别裁判有某种关系，试问采用 什么方法来确定运动员的表演为妥？
§2．2 估计量的评价准则
由例2.3和例2.10的结果看出，对均匀分布 总体参数的估计不一样，哪个好？
3 ˆX a n ˆX b 3 n
(X X )
i 1 n
n
2
,
ˆ max X ˆ min X i , b a i
1i n 1i n
(X X )
i 1
2
4
例2.14’ 设总体X的数学期望,方差2存在，X1,X2是X的样本 ， 证明估计 时, 1 1 3 1 ˆ X X 有效. ˆ X X 较 4 4 2 2 ˆ1 , ˆ 2 均为 的无偏估计， 又因为 证明 因为
1 1 2
2
ห้องสมุดไป่ตู้
1
2
1 1 1 1 1 2 ˆ 1 ) D( X ) D( X 1 X 2 ) D( X 1 ) D( X 2 ) D( 2 2 4 4 2
13
2.2.3
其它几个准则
• （一）最小均方误差准则 前述的最小方差性（有效性）只对无偏估计 而言，对有偏估计量无意义。 为使ˆ 与 尽量接近，考虑 ˆ) E( ˆ ) 2 ——称均方误差 Mse( • 由
ˆ) min Mse ( ˆ
得到的估计量称作最小均方误差估计量。 对于无偏估计，均方误差最小和方差最小是 一致的。
17
2 n 1 2(n 1) 2 2 2 2 4 E[ S ] [ 1] n n2
要使上式最小，利用一元二次式知识可知：
b 2(n 1) n2 1 n ( ) / 2( 2 ) 2a n n 1 n
即在形如αS2 (α>0)的统计量中σ2的最小均方误差估计是：
可以验证 X是总体均值的无偏估计[例2.13]；
2 S 但 不是总体方差的无偏估计，是渐进无偏
的。
n 1 n 2 2 S ( X X ) 而 S 是无偏的[例2.14]。 i n 1 n 1 i 1
2 *
2
例2.13’ 设总体X的数学期望 与方差2存在, X1, X2,...,Xn为总体X 的样本, 证明：
希望 ˆ 的取值能集中于θ附近,而且密集的程度 越高越好．方差是描述随机变量取值的集中程 度的，所以无偏估计以方差小者为好, 这就引进了有 效性这一标准.
g ( ) 的无偏估 • 定义2.2 如果 T T ( X 1 , X 2 ,..., X n ) 是 T ，均有， 计量，且对于其任意无偏估计量 D(T ) D(T ) 对一切 （参数空间），则称T为最小方差 的无偏估计量（或最优无偏估计量）。
2 l n f ( X 1 , ) 令I ( ) E ( ) 2
[ g ' ( )]2 定 义2.3 称en 为g( )的 无 偏 估 计 量 T D (T ( X ))nI ( ) 称T是 有 效 的 ； 若 l i men 1, 则 称T是 渐 近 有 效 的 。
注:
1.满足正则条件的估计量称为正规估计.
2. Rao Cramer不等式的下界仅是正规 无偏估计 类的方差下界
2 [ g ' ( )] D
nI ( )
3. Fisher信息量 I ( ) E ( l n f ( X 1 , ) ) 2
为了计算信息量 I ( )方便，我们可以证明
实际应用中，要求样本信息量（即n）较大， 但给出了一种保证，即只要能够获取足够的信息， 就一定能得到足够精确的估计。
1、 对 于 无 偏 估 计 ， 由 贝 切雪 夫 不 等 式 P{| T ( X 1 , X 2 , , X n ) g ( ) | } D (T ( X 1 , X 2 , , X n ))
19
在实际应用中，找出最小方差的估计量不容易， 若在一类分布和估计中找出所有无偏估计中方差 的一个下界，则当某一估计量达到或接近即认为 可行了。
下面我们就来讨论建立 一个方差下界的 克拉美 劳不等式
6
克拉美—劳不等式
p 41-42
设X 1 , X 2 ,, X n为取自具有概率函数 f ( x; ), { : a b}的母体的一个子样 , 其中a, b为已知常数 ,
14
（二）相合性（相合估计量） g ( ) 定义2.4 设T T ( X 1 , X 2 ,..., X n ) 是
n
的估计量，
0, lim P{| T ( X 1 , X 2 ,..., X n ) g ( ) | } 0
（即依概率收敛于）， 则称T是相合统计量。
且可设 a , b . 又T T ( X1 , X 2 ,, X n )是g( )的一
个无偏估计 , 且满足正则条件
(1)集合{ x : f ( x; ) 0}与无关;
f ( x; ) ( 2) g( )与 存在, 且对一切 , f ( x; ) f ( x; )dx dx
E[ S ]＝
n n2 2 E[ S 2 2 ]2 2 E[ S 2 ]
, D[ S ]＝
2
2 n 1 n 1 2 E[ S 2 2 2 ]2 n n 1 4 2 2 2 n 1 D[ S ] ( ] n 2 n 1 2( n 1) 2 4 [ 1] n n2
一致估计量．
证明 由大数定理可知，对于任意的
n
0
，有
lim P{ X n E ( X i ) } 1
所以
ˆn } 1 lim P{
n
由极大似然法得到的估计量，在一定条件下也具有一致性, 这里就不再讨论了． 16
例2.17(P46) 设正态总体X 的数学期望 μ与方差 2存在， ( X 1 , X 2 , , X n )是X 的样本，试在形如αS2 (α>0)的统计量中确定 σ 2的最小均方误差估计. 解: n－1 2 2(n－1) 4 2 2
1 3 1 9 5 2 ˆ 2 ) D( X 1 X 2 ) D( X 1 ) D( X 2 ) D( 4 4 16 16 8
所以 D( ˆ1 ) D( ˆ2)
由定义知
ˆ1 较 ˆ 2 有效．
5
我们自然希望无偏估计量的方差越小越好， 那么能够小到什么程度 ?即有无下界 ? 什么条件 下方差下界存在？
例2.12 若总体X~ (), 则未知参数 的矩估计量为
ˆ X,
或
1 ˆ n
i 1
n
( X i X )2
1
即使用同一方法得出的估计量也不同。
2.2.1．无偏性
定义2.1： ˆ) ，则称估计量为无偏估计量； • 如果E( ˆ( X , X ,..., X ) | 0 | E ( 1 2 n • 如果 lim n b( ) 0 记作 lim ，则称估计量为渐进无 n 偏估计量。其中 b( ) 称作偏差。
l n f ( X 1 , ) 2 令I ( ) E ( ) Fisher信息量
由数学期望的定义:
[ g( )]2 克拉美 劳下界 则有 : D (T ( X )) nI ( ) 1 特殊地，当g ( ) 时, 即为: D (T ( X )) nI ( )
g( ) E (T ( X )) T ( X 1 ,, X n ) f ( X 1 ; ) f ( X n ; )dX1 dXn
联合概率密度
g' ( ) T ( X 1 , X 2 , , X n ) f ( X 1 ; ) f ( X n ; )dX1 dX n T ( X 1 , X 2 , , X n ) [ f ( X i ; )]dX1 dX n i 1