- 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
点估计问题描述:
总体 X 的分布函数 F(x;θ) 的形式已知, θ未知;
构造统计量 (X1, ,Xn) ; —— 估计量 估计
用 (x1, , xn)作为θ的近似值 . —— 估计值
注: 1. 如何评价估计量好坏? 估计量评选标准
2. 常用的点估计方法:矩估计法、最大似然估计法
第一章
2
二、估计量的评选标准
参数 p 的最大似然估计量.
解: 设 x1, x2, …, xn 为一个样本值,xi 0,1.
则
L(p)
n i1P(Xi xi)
n pxi(1p)1xi
i1
n
pi
1
x
i
(1p )n
, x n
i1 i
xi 0,1.
l n L ( p ) n i 1 x il n p ( n n i 1 x i) l n ( 1 p )
例2. 设 X1, X2, …, Xn 是取自总体 X 的一个样本,且
E (X ), D (X )2.
则 C 不是 的无偏估计. 无偏估计 A 更有效.
A) X
C) X1X2
B ) 0 .2 X 1 0 .5 X 2 0 .3 X n D) X1X2X3
第一章
4
三、矩估计法
定理(矩估计法原理) 设 X1, X2, …, Xn 是总体 X 的样本,则
令
d dp
ln
L(
p)
0,
得
x n
i1 i
p
n1nip1xi
ห้องสมุดไป่ตู้
0,
同矩法!
解得最大似然估计值 /估计量:
pˆ
1 n
n i 1
xi
x,
pˆ X .
第一章
13
(p例1544例-25. )设总体 X ~ N( , 2 ), , 2 为未知参数. 设 x1, x2, …,
n i1
f
(xi;),
称 L(x1,x2, ,xn;)为样本的似然函数,简记为L ( ) .
称使 L ( ) 取值最大的 (x1, ,xn)为 的最大似然估计值,
(X1, , Xn) 为 的最大似然估计量.
注: 1. 最大似然估计法的基本思想:打猎问题
选取使样本值 x1,…,xn出现可能性最大的 值作为其估计值.
i1
l n L () n l n ( 1 ) n i 1 l n x i,0 x 1 ,,x n 1 .
令
d
d
lnL()
0,
得 n1 n i1lnxi 0, 矩估计量:
解得最大似然估计值:n n i1lnxi 1, 最大斯然估计量:n n i1lnXi 1.
查表得: A
1.65.
即 A1.65.
又 , 2 的最大似然估计量为:
最大似然
估计的不变性
ˆ X ,
2 B2 n 1in1(Xi X)2.
∴ A 的最大似然估计量为:
Aˆ ˆ1.65ˆ
X1.65
1n ni1(Xi
X)2.
第一章
17
本章总结:
定义 设 X1, X2, …, Xn 是总体 X的一个样本, 是总体待估参数.
1.(无偏性) 若估计量 满足 E( ) , 则称 是 无偏估计量.
2.(有效性) 若估计量 1 , 2无偏且 D(1)D(2), 则称 1 比 2 有效.
3.(相合性) 若估计量 满足 nP , 则称 是 相合估计量.
第七章 参数估计(点估计)
估计问题 统计推断:
点估计 (§7.1-§7.3 ) 参数估计 区间估计 非参数估计
假设检验问题
一、点估计的基本概念 二、估计量的评选标准 三、矩估计法 四、最大似然估计法
第一章
1
一、点估计的基本概念
设总体 X 分布函数形式已知, 但参数(一个/多个)未知, 借助样本来估计总体未知参数的值的问题称为参数的点估计.
xn 是取自 X 的一个样本值, 求 , 2 的最大似然估计量.
解:
n
n
L(,) f(xi;,)
i1
i1
21 exp{(xi)2 22}
(2) n 2 n e x p { n i 1 (x i)222 }
取对数得:lnLn2ln(2) nln 212 ni1(xi )2
注: 1. 无偏: 的值在 真值附近摆动;
2. 有效: 的值在 真值附近的摆动尽可能小; 3. 相合: 当样本容量增大时, 的值稳定于 的真值.
第一章
3
例1. 判断下列命题是否正确:
(1) X 是 E(X) 的无偏估计; √ (2) S 2 是 D(X) 的无偏估计; √ (3) X 是 E(X) 的相合估计. √
解得:
1, 2 2
12
.
以样本矩代替总体矩得:
A1
2
A
2
X, A1
2
1 n
n i1
Xi 2
2
X
本题结论不依赖具体分布!
1 n
n
(Xi
i1
X)2
B2.
第一章
8
例5-1. 设总体 X 的概率密度为 fx 1x,
1
n
X n k
i1 i
Ak
P
n
k E(Xk).
证: ∵ X1,X2, ,Xn 独立且与 X 同分布,
∴ X1k,X2k, ,Xnk独立且与 Xk 同分布,且 E(Xik)k.
根据辛钦大数定律可知,
1 n
X n k
i1 i
Ak
P
n
k.
注: 1. 意义: Ak (样本 k 阶矩) 是 k (总体 k 阶矩)的相合估计;
2X 1 1 X
第一章
15
(p155例6)
例6-2. 设总体 X ~ U[a, b],其中 a, b 未知. X1, X2, …, Xn 是
一个样本, 求 a, b 的最大似然估计量.
解: 设 x1, x2, …, xn 为一个样本值,ax1,x2, ,xnb.
则
n
L(a,b)
i1
12
4
解得:ab ba
21, 12(2
12).
即:a 1 b 1
3(2 12), 3(2 12).
以样本矩代替总体矩得:
a
A1
b A1
3(A2 A12) X 3( 3(A2 A12) X 3(
2. 最大似然估计是相合估计,且常优于矩估计.
第一章
11
设总体X的分布函数 F ( x, ) 形式已知, 为待估参数.
最大似然估计的解题步骤:
1. 构造似然函数
L( )
n i1
p(
xi
;
),
n i1
f
( xi ; ),
2. 构造似然方程 或 对数似然方程
d
∴ 为使 L(a, b) 取到最大,需 a 取到最大、b 取到最小:
a ˆm inX i, b ˆm a xX i.
第一章
16
例8. 设总体 X ~ N( , 2 ), , 2 为未知参数. 求 A 的最大似
然估计量,其中 A 满足:P{ X > A} = 0.05 .
解: ∵ 0.05P{XA}1P{XA} 1( A),
i
,得:
1
g1 ( A1 , A2 ,
k gk ( A1 , A2 ,
, Ak ), -- 矩估计量
, Ak ).
第一章
6
(p149例1)
例3. 设某炸药厂一天中发生着火现象的次数 X 服从参数为
λ> 0的泊松分布, 其中λ未知. 试由以下样本值估计参数λ :
着火 k 的 0 次 123 数 456
i Xi2
2
nX),
i Xi2
2
nX).
第一章
10
四、最大似然估计法
定义 若 X ~ P(Xx)p(x;)(离散型) 或 X ~ f ( x; ) (连续型),
令
L(x1,x2, ,xn;)P (X 1x1, ,X nxn)
n i1
p(xi;),
或
L(x1,x2, ,xn;)f(x1, , xn)
2. 推广: 若 g 连续, 则 g (A k 1 ,A k 2 , ,A k s) n P g (k 1 ,k 2 , ,k s) ;
3. 矩法的基本思想: 用样本矩(的函数)估计总体矩(的函数).
第一章
5
设总体X的分布函数 F(x,1,2, ,k)形式已知, i 为待估参数.
0,
0x1, 其 他 .
其中 0 为未知参数,试求参数 的矩估计量.
解: ∵ 1 E(X)
xf (x)dx
01x1xdx
1 2
.
∴
21 1 . 1 1
以样本矩代替总体矩得: 2 A1 1
1 A1
2X 1. 1 X
第一章
7
(p例1514例-13. )设总体 X 的均值 、方差 2 都存在, 且 2 0 , 其中
, 2 未知. 设 X1, X2, …, Xn 是一个样本, 求 , 2 的矩估计量.