[1,N]离散均匀分布N的点估计

数理统计6：泊松分布，泊松分布与指数分布的联系，离散分布参数估计前两天对两⼤连续型分布：均匀分布和指数分布的点估计进⾏了讨论，导出了我们以后会⽤到的两⼤分布：β分布和Γ分布。

今天，我们将讨论离散分布中的泊松分布。

其实，最简单的离散分布应该是两点分布，但由于在上⼀篇⽂章的最后，提到了Γ分布和泊松分布的联系，因此本⽂从泊松分布出发。

由于本系列为我独⾃完成的，缺少审阅，如果有任何错误，欢迎在评论区中指出，谢谢！⽬录Part 1：泊松分布简介泊松分布是⼀种离散分布，先给出其概率分布列。

若X∼P(λ)，则P(X=k)=λkk!e−λ,k=0,1,⋯它的取值是⽆限可列的。

为什么泊松分布会与指数分布、Γ分布有联系呢？这是因为，它们三个都是随机事件发⽣的⼀种描述。

实际上，指数分布的参数λ是⼀种速率的体现，它刻画了随机事件发⽣的速率。

⽽指数分布随机变量的取值，就代表某⼀事件在⼀定的速率下发⽣的时刻距离计时原点的长度。

Y∼E(λ)，就代表Y对应的事件事件的发⽣速率是λ，所以平均发⽣时间就在在1/λ处。

这也可以作为E(Y)=1/λ的⼀种解释。

指数分布具有⽆记忆性，这与随机事件的发⽣相似，即已经发⽣历史事件对未来不产⽣影响，⽤数学语⾔说就是P(Y>s+t|Y>s)=P(Y>t)。

这指的是，如果⼀个事件平均会在s时间后发⽣，但是⽬前经过了t时间还没有发⽣，则事件的平均发⽣时间就移动到t+s时间后。

它不会因为你已经等了t时间，就会更快地发⽣。

⽽如果把n个独⽴同分布于E(λ)指数分布随机变量相加，得到的⾃然就是恰好发⽣k个事件的平均时间，这个时间Z∼Γ(n,λ)，本质还是⼀种时间的度量。

但Z就不具有⽆记忆性了，这是因为，经过t时间后可能已经发⽣了n−1个事件就差最后⼀个没有发⽣，也可能⼀个事件都没发⽣还需要n个才能凑齐。

泊松分布则刚好相反，指数分布和Γ分布都是限定了发⽣次数，对发⽣时间作度量；泊松分布则是限定了时间1，求随机事件在这⼀段时间内发⽣的次数服从的概率分布。

23
引例
设总体 X 服从参数为 的指数分布， 未知，
X1 , X 2 , , X n 是来自X的样本, x1 , x2 , , xn 是
相应的样本值，求 的矩估计量和矩估计值.
解 因为 E( X ) 所以 用样本矩替换总体矩, 得 的矩估计量
ˆ

1 n
n i 1
Xi

X
(
x)

1

e

x

,
x0
0,
其他.
但参数 未知。已知参数的取值范围,记为 。
给出样本的一组观察值，如何推断总体的分布?
【思路】给出 的估计，则得到对总体分布的推断。
【方法】根据一定的原则，从 中找到一个值(点) 作为的 估计。
点估计
2
点估计定义
设总体 X 的分布函数 F ( x; ) 的形式为已知,
的估计量.
4
二、估计量的评选标准 1. 无偏性
定义 若 X1, X 2 ,, X n 为总体 X 的一个样本，
是包含在总体 X 的分布中的待估参数, 若估计量ˆ ˆ( X1 , X 2 ,, X n )的数学期望 E(ˆ) 存在, 且对于任意 有
E(ˆ) 则称ˆ 是 的无偏估计量,否则称为有偏的.
(2) lim S 2 2 a.s. (强大数定律) n
即样本方差是总体方差2的强相合估计， 也是相合估计.
12
C. 样本标准差
其观察值:
S
S2
1 n1
n i 1
Xi

X
2
;
s
1 n1
n i 1
( xi

充分利用分布函数F (x,θ )中所提供的关于参数的信息,
其次知估计法的前提要求用到的各阶知存在且有限， 但有的分布，如柯西分布，任何阶都不存在，那就不 能用知估计法了。
7.1.2 极大似然估计法
从理论上来说，极大似然估计法是最重要的点估计方 法，它利用样本的联合分布密度(或联合分布律)中提 供的样本取值与分布中参数的关系，去求参数的点估 计，从而使估计量具有许多优良性。
(1) 待估参数为总体原点矩 α1,α2 ,Lαl 。则令
∑ αk
=
Ak
=
1 n
n
ξik ,
i=1
k
= 1, 2,L,l
(2) 待估参数为分布中θ1,θ2 ,L,θk ，先用总体ξ 前k阶
原点矩α1,α2 ,L,αk 把未知参数 θ1,θ2 ,L,θk 表示出来，
不妨记成
⎧ ⎪ ⎨
θ1 = g1(α1,L,αk )
之为参数 θ1,θ2 ,L,θk 的估计量，记成
θˆi = Ti (ξ1,ξ2 ,L,ξn ), i = 1, 2,L, k
估计值：设样本的观察值为 x1, x2 ,L xn ，将它们代入 估计量Ti 就得到k个数Ti (x1, x2 ,L, xn ) = ti , i = 1, 2,L, k 称 t1,t2 ,Ltk 为估计量的值（或称估计值） 以后把估计量和估计值统称为估计
离散情形的一般描述 若总体为离散型随机变量，分布律为
P{ξ = x) = P{x;θ1,Lθk ) 其中θ1,Lθk为未知参数，设样本 ξ1,ξ2,Lξn 的观察值
为 x1, x2,L, xn ，样本的联合分布律为
n
L(θ1,θ2,Lθk ) = P{ξ1 = x1,L,ξn = xn} = ∏ P{ξi = xi ;θ1,L,θk }

点估计中两种常用方法的比较与分析楚尚坤河南理工大学数学与信息科学学院信息与计算科学专业2005级3班摘要：本文首先介绍矩估计法和极大似然估计法，然后对于同一分布和同一参数，用这两种不同的方法求出矩估计量和极大似然估计量，利用估计量的三条评选标准：无偏性、有效性和一致性来判断哪个估计量在这种情况下与该参数的真实值更相近，从而选择相应的点估计法。

关键词：矩估计极大似然估计无偏性有效性一致性§ 1引言当我们碰到这样的问题：假设总体分布函数的形式已知（它可由理论分析和过去经验得到，或者从抽样数据的直方图和概率纸描点初步估计出），但它的一个或多个参数未知，借助于总体的一个样本值，构造适当的样本函数来估计总体未知参数的问题，我们称之为点估计问题。

点估计是数理统计学中内容很丰富的一个分支，其中两种最常用的构造的估计量的方法是矩估计法和极大似然估计法。

当对于同一分布和同一参数时，先用矩估计法和极大似然估计法分别求得矩估计量和极大似然估计量，然后用无偏性、有效性和一致性对这两个估计量进行衡量，当样本容量足够大时，从而选出一个估计量使得这个估计量既在未知参数的真实值附近，又与未知参数真实值的偏离程度很小，而且随着样本容量n的增大估计量与被估计参数的偏差越来越小，进而选择相应的点估计法。

§ 2相关概念2.1参数估计所谓参数估计，是指从样本（X l,X2，…，X n）中提取有关总体X的信息，即构造样本的函数一一统计量g（X l,X2，…，X n），然后用样本值代入，求出统计量的观测值g（X l, X2」I （ , X n），用该值来作为相应待估参数的值。

此时，把统计量g（X1,X2，…，XQ称为参数的估计量，把9（人也凡）称为参数的估计值。

2.2参数估计的类型参数估计问题常有两类：点估计和区间估计。

（1）点估计：指对总体分布中的参数r ,根据样本（X「X2，…,X n）及样本值（X1，X2，…,X n），构造一统计量g（X i,X2，…,X n），将9（旨公2,…儿）作为二的估计值，则称g （X「X2，…，X n）为二的点估计量，简称点估计，记为A"g（X1,X2, ,X n）。