- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
0
1
令E X X
X 1
2
ˆ X
1 X
二、 极大似然估计法 极大似然估计法是在总体的分布类型已知的
条件下所使用的一种参数估计方法. 它首先是由德国数学家
高斯在1821年提出的 . 然而，这个方法常归功于
英国统计学法，
并首先研究了这种方法的一些性质 .
再求样本矩：
A1
1 n
n i 1
Xi
X,
A2
1 n
n i 1
X
2 i
令
12
A1 A2
ˆ X
ˆ 2
1 n
n i 1
(Xi
X )2
例2：设总体X的密度为：
f
x
x 1
0
0 x 1 0为未知参数，
其他
X1,
X
，
2
,
X n 为取自X的样本，求的矩估计。
解：E X xf x dx 1 x dx
k 1,2, ,k Ak
解此方程即得1,2, ,k 的一个矩估计量 1, 2, ,ˆk
, Xn,
例1：设总体X的均值和方差 2都存在，且 2 0，, 2均未知，
X1, X 2, , X n 是取自X的一个样本，试求, 2的矩估计。
解：先求总体矩：
1 E X , 2 E X 2 D X E2 X 2 2
解方程 dL( ) 0, d
得到ˆ ˆ( X1, X2 ,, Xn )
回忆：
(1) f ( x) 0, ln[ f ( x)]单调性相同，从而最大值 点相同.
n
(2) L( ) p( xi; ) n项连乘, 求导麻烦
i1
ln[L( )] n项相加，求导简单 对数似然函数
从而，
求的 L( ) 最大值点就转为求ln[ L( )]的最大值点
f ( x1, x2 ,, xn ) f X1 ( x1 ) f X2 ( x2 ) f Xn ( xn )
n
f ( x1, ) f ( x2, ) f ( xn , ) f ( xi , ) i 1
于是，样本 ( X1, X2 ,, Xn ) 落入点( x1, x2 ,, xn )
n
邻域内的概率为 f ( xi , )xi ，由极大似然原
i1
是参数 的函数，称为似然函数，记做 L( ).
n
即 L( ) p( xi; ) i 1
结构：n 项连乘，总体分布 p(x, ) 改 p( xi , )
i 1,2,, n
P( A) L( ), 随变而变, A已经发生，由极大
似然原理， L( ) 达到最大，所以 的最合理 估计值ˆ 应满足：L(ˆ)为最大值
估计的未知参数，假定总体X的k阶原点矩E X k 存在，
则有：E X v v 1,2, ,k v 1, 2, , k, 对于样本X X1, X 2,
其v阶样本矩是：Av
1 n
n i 1
X
v i
v 1, 2,
,k
1 1,2, ,k A1
用样本矩作为总体矩的估计，即令： 2 1,2, ,k A2
Fisher
极大似然原理：一个随机试验有若干个可能结
果A,B,C,…。若在一次试验中，结果A发生，
则一般认为试验条件对A最有利，即A发生的
概率 P( A / )最大
条件
如, 甲199
红 黑,
乙199
红 黑
,
任 取1箱 从 中 任 取1球,
已知取到红球, 问最有可能从何箱取?
P(红球/甲) 0.99 P(红球/乙) 0.01
方法二：
解方程
d
ln[L(
)]
0,
得 到ˆ
d
（2）连续型总体似然函数的求法
设X为连续型总体，其概率密度为：
f ( x; ) 其中 未知
对来自总体的样本 ( X1, X2 ,, Xn ) ， 其观测值
为 ( x1, x2 ,, xn ) ，作为与总体X同分布且相互
独立的n维随机变量，样本的联合概率密度为:
独立
P( X1 x1 )P( X2 x2 )P( Xn xn )
Xi与X 同分布
P( X x1 )P( X x2 )P( X xn )
p( x1, ) p( x2, ) p( xn, )
n
p( xi , )
i1
n
对给定的样本值( x1 , x2 ,..., xn ), p( xi , )
2 但参数, 2的值未知，要求估计, 2，有时还希望以一定的可靠性来 估计值是在某个范围内或者不低于某个数。
参数估计问题就是要求通过样本估计总体分布所包含的未知参数的值。
参数估计的两种方法：点估计法和区间估计法
§1 参数的点估计
点估计的问题就是根据样本 X1, X 2, , X n ， 对每一个未知参数i i 1, 2, , k ，构造出一 个统计量ˆi i X1, X 2 , , X n ，作为参数i的估计，
第七章 参数估计
﹜点估计 关键词： 矩估计法 极大似然估计法 ﹜区间估计 置信区间 置信度
问题的提出：
参数估计是统计推断的基本问题之一，实际工作中碰到的总体X , 它的分布类型往往是知道的，只是不知道其中的某些参数， 例如：产品的质量指标X 服从正态分布，其概率密度为：
x 2
f x; , 2 1 e 2 2 x
称为 的估计量。
i
点估计有两种方法：矩估计法和极大似然估计法
一. 矩估计法
矩思想: 利用样本矩作为相应总体矩的估计量
1 n
n i 1
X
k i
估计
E X k (n )
矩估计法: 总体X ~ f ( x;1,,k ), 1,,k未知,
一 矩估计法：
设总体X的分布函数为F x;1,2, ,k , 1,2, ,k 是待
自然，认为从甲箱取更合理
又如，兔龟赛跑，得第一名的最有可能是谁？
极大似然估计法：
（1）X---离散型，已知 X的分布
P( X x) p( x, ), 未知
样本 ( X1, X2,, Xn ) 取到观测值( x1, x2,, xn ) 事件A
P( A) P( X1 x1, X2 x2 ,, Xn xn )
定义 对给定的样本值 x1, x2 ,, xn ，若
ˆ( x1, x2,, xn)满足
L(ˆ) max L( )
称 : ˆ( x1, x2,, xn )为的极大似然估计值 ˆ( X1, X2,, Xn )为的极大似然估计量
如何求 ˆ ？即求 L( ) 的最大值点问题
方法一: 若 L( )为可导函数
