数理统计8：点估计的有效性、⼀致最⼩⽅差⽆偏估计（UMVUE）、零⽆偏估计法在之前的学习中，主要基于充分统计量给出点估计，并且注重于点估计的⽆偏性与相合性。
然⽽，仅有这两个性质是不⾜的，⽆偏性只能保证统计量的均值与待估参数⼀致，却⽆法控制统计量可能偏离待估参数的程度；相合性只能在⼤样本下保证统计量到均值的收敛性，但却对⼩样本情形束⼿⽆策。
今天我们将注重于统计量的有效性，即⽆偏统计量的抽样分布的⽅差。
由于本系列为我独⾃完成的，缺少审阅，如果有任何错误，欢迎在评论区中指出，谢谢！⽬录Part 1：⼀致最⼩⽅差⽆偏估计⾸先考虑这样的问题：如何刻画⼀个统计量的有效程度？注意到，⼀个统计量的取值既可能⾼于待估参数，亦可能低于待估参数，要综合考虑统计量对待估参数误差，需要⽤平⽅均衡这种双向偏差，因此，提出均⽅误差的概念：若\hat g(\boldsymbol{X})是g(\theta)的估计量，则\hat g(\boldsymbol{X})的均⽅误差定义为\mathrm{MSE}(\hat g(\boldsymbol{X}))= \mathbb{E}[\hat g(\boldsymbol{X})-g(\theta)]^2.对于确定的统计量\hat g(\boldsymbol{X})⽽⾔，\mathrm{MSE}(\hat g(\boldsymbol{X}))是\theta的函数。
显然，⼀个统计量的均⽅误差越⼩，它就越在待估参数真值附近环绕，由此，⽤统计量的⼀次观测值作为待估参数的估计就有着越⼤的把握。
如果对于g(\theta)的两个估计量\hat g_1(\boldsymbol{X})和\hat g_2(\boldsymbol{X})，恒有\mathrm{MSE}(\hat g_1(\boldsymbol{X}))\le \mathrm{MSE}(\hatg_2(\boldsymbol{X}))，且严格不等号⾄少在某个\theta处成⽴，就称\hat g_1(\boldsymbol{X})在均⽅误差准则下优于\hat g_2(\boldsymbol{X})。
一致最小方差无偏估计设)(θg 为可估参数，我们把)(θg 的所有无偏估计组成的类记为g U . 定义：设)(θg 是可估参数，如果)(X T 是)(θg 的无偏估计，且对g U 中的任一估计量）（X ϕ，有Θθϕθθ∈∀≤)),((V ))((V X ar X T ar则称)(X T 是)(θg 的一致最小方差无偏估计（Uniformly Minimum Variance Unbiased Estimate ），简记为UMVUE 。
引理：设)(X S 是分布族{}Θθθ∈,p 的充分统计量，）（X ϕ是)(X T 的无偏估计，令）（)(|)(E )(X S X X T ϕ=，则)(X T 也是)(θg 的无偏估计，且))((V ))((V X ar X T ar ϕ≤.证明：因为)(X S 是充分统计量，故）（)(|)(E )(X S X X T ϕ=与θ无关，)(X T 是统计量.易见[])(E )(|E E )(E θϕϕg X X S X X T ===））（（）（（）（而[]))((Var ))()((E ))((E ))()()((E ))()((E E )(E (X))Var(22222X T g X T X T X g X T X T X g X X X ≥-+-=-+-=-=-=θϕθϕθϕϕϕϕ）（）（））（（其中交叉项的乘积[][]{}[]{}0)(|))()((E ))()((E )(|))()())(()((E E ))()())(()((E =--=--=--X S X T X g X T X S g X T X T X g X T X T X ϕθθϕθϕ 证毕由证明可以看出，只要))((V ))((V ,))((V X ar X T ar X ar ϕϕθθθ=∞<则的充分必要条件是)()(X X T ϕ=，由此可见，恰当的使用充分统计量可以降低无偏估计的方差.问题是，什么样的充分统计量可以最大程度的降低方差，另外，这样得到的无偏估计是否是UMVUE 呢？下面的定理回答了这两个问题.定理：设)(X S 是{}Θθθ∈,p 的完备充分统计量，)(θg 为可估参数，则)(θg 的UMVUE 存在，它是)(X S 的函数且几乎处处意义下是唯一的. 证明：因为)(θg 是可估参数，故g U 非空，在g U 中取定）（X ϕ，令）（)(|)(E )(X S X X T ϕ=，则)(X T 是)(X S 的函数，由引理知，g U X T ∈)(，且))((V ))((V X ar X T ar ϕθθ≤.任取g U g ∈)(^θ，令，则）（)(|)(E )(^*X S X g X T =，则Θθ∈∀=-,0))()((E *X T X T而)(X T ，)(*X T 均是)(X S 的函数，由)(X S 的完备性知)()(*X T X T =.此即Θθ∈∀≤，))((V ))((V ^X g ar X T ar由此，从g U 中任一估计出发均可得到一个相同的)(X T ，该)(X T 是)(X S 的函数，它是)(θg 的唯一的UMVUE.证毕.例题由上述讨论，只要完备统计量存在，可估参数的UMVUE 一定存在.上述定理及其证明提供了两种求UMVUE 得方法.方法1：寻找完备充分统计量的函数使之成为)(θg 的无偏估计；方法2：任取)(θg 的一个无偏估计并将之对完备充分统计量求条件期望.例1 设n X X ，，⋯⋯1是来自10),,1(<<θθb ，的一个样本，由指数型分布族的性质知，∑=i X X S )(是完备充分统计量.（1）对θ，因为,))((E θn X S =因而，n X S X /)(=-是θ的无偏估计，从而也是θ的UMVUE.（2）对）为整数，（n k k g k n k ≤≤-+=-0)1()(θθθ.要直接找一个)(X S 的函数))((X S h 使之成为)(θg 的无偏估计是很困难的，但我们可以方便的找到)(θg 的一个无偏估计.令⎪⎭⎪⎬⎫⎪⎩⎪⎨⎧==⎪⎭⎪⎬⎫⎪⎩⎪⎨⎧==∑∑+==其它其它）（,00,1)(,0,11211nk i i ki i X X k X X ϕϕ令)()()(21X X X ϕϕϕ+=， 则kn k j i nk i i ki i i n k j X P k i X P X P k X P X -+==-+=⋯⋯+==+⋯⋯====+==∑∑)1(),1,0(),1,1()0()())((E 1θθϕ，， 可见）（X ϕ是)(θg 的一个无偏估计，由定理知))(|)((E X S X ϕ是)(θg 的UMVUE.余下只要就算出）（)(|)(E )(X S X X T ϕ=即可.记)(X S 取值为s ，当s k ≤时，⎪⎪⎭⎫⎝⎛⎪⎪⎭⎫ ⎝⎛--=-⎪⎪⎭⎫ ⎝⎛-⎪⎪⎭⎫⎝⎛--⋅==-=======---=+=∑∑s n k s k n s n k s k n s X S P k s X k X P s X S X P s X S X s n s sn k s k ki nk i i i )1()1())((),())(|1)(())(|)((E 1111θθθθθϕϕ当s k >时，0))(|)((E 1==s X S X ϕ，同理s k ≥时，⎪⎪⎭⎫⎝⎛⎪⎪⎭⎫ ⎝⎛=s n s k X S X ）（)(|)(E 2ϕ而s k <时，0))(|)((E 2==s X S X ϕ.因此，)(θg 的UMVUE 为⎪⎪⎪⎪⎪⎪⎪⎪⎩⎪⎪⎪⎪⎪⎪⎪⎪⎨⎧=⎪⎪⎭⎫ ⎝⎛>⎪⎪⎭⎫ ⎝⎛⎪⎪⎭⎫⎝⎛<⎪⎪⎭⎫ ⎝⎛⎪⎪⎭⎫ ⎝⎛--=sk s n sk s n s k sk s n k s k n X T ,2,,)(例2：某工厂的产品其废品率为θ，现将该产品包装成盒。
如何选择有效估计和一致最小方差无偏估计在统计学中，估计是一项常见的任务。
估计是用样本数据来推断
一个或多个总体参数的过程。
通常需要比较不同的估计方法，以选择
最好的估计方法。
本文将介绍有效估计和一致最小方差无偏估计的定义、特点和使用方法。
1. 有效估计
有效估计是指一个估计方法产生的估计值的方差最小。
方差是估
计误差的度量，估计误差是真实参数值与估计值之差的绝对值。
因此，方差越小，估计误差越小。
有效估计被广泛用于无偏估计和最小方差
无偏估计的选择。
2. 一致最小方差无偏估计
一致最小方差无偏估计是指估计值与参数真值的差别尽可能小，
而方差也保持尽可能小。
一般而言，一致最小方差无偏估计需要满足
以下条件：
① 无偏性：估计值的期望值等于真实参数值；
② 一致性：随着样本量增加，估计值接近于真实参数值；
③ 最小方差性：估计值方差最小。
3. 如何选择估计方法
当我们需要选择估计方法时，我们需要考虑估计方法的特点和适用场景。
任何估计方法没有绝对优劣，它们的优缺点和适用条件都需要考虑。
对于无偏估计和最小方差无偏估计，我们应该选择有效估计和一致最小方差无偏估计。
如果数据分布不确定，我们可以使用参数估计法进行估计。
4. 总结
在统计学中，估计是一项重要的任务，我们可以利用不同的估计方法进行不同的推断。
有效估计和一致最小方差无偏估计是常见的估计方法，在选择估计方法时，我们需要考虑估计方法的特点和适用场景。
