第二章1_矩估计和极大似然估计(课堂PPT)

二阶原点矩
EX 2 x2
1
x
e dx
1
x
2e
x
dx
2(3)
2
2
2
0
2020/4/26
15
EX 用 A2
1 n
n i 1
X i2替换
2即
得的矩估计量为
A2
1 n
n i 1
X
2 i
2 2
ˆ
11 2n
n i 1
X
2 i
A2 / 2 ,
0
解法二
E
X
x
1
x
e dx
1
x
一个或多个未知参数：1,2, ,k
设 X1, X2,…, Xn为总体的一个样本 构造 k 个统计量：
1( X1, X 2 , , X n ) 2 ( X1, X 2 , , X n )
随机变量
2020/4/26
k ( X1, X 2 , , X n )
5
当测得一组样本值(x1, x2,…, xn)时，代入上述 统计量，即可得到 k 个数：
1
n 1
n i 1
(Xi
X )2
S2
是无偏矩估计
注: 矩估计不唯一
2020/4/26
8
事实上，按矩法原理，令
X
1 n
n i 1
Xi
ˆ
A2
1 n
n i 1
Xi2是E(X2 )的估计
ˆ X
ˆ 2 E( X 2 ) E 2 ( X ) A2 ˆ 2
1 n
n i1
X
2 i
X
2
1 n
n i 1
1. 矩方法
方法
用样本的 k 阶矩作为总体的 k 阶矩的 估计量, 建立含待估计参数的方程， 从而可解出待估计参数
2020/4/26
7
一般地，不论总体服从什么分布，总体期望 与方差 2 存在，则根据矩估计法它们的
矩估计量分别为
ˆ
1 n
n i1
Xi
X
ˆ 2
1 n
n i 1
(Xi
X )2
Sn2
(Xi
X
)2
Sn2
2020/4/26
9
设待估计的参数为1,2 , ,k
设总体的 r 阶矩存在，记为
E( X r ) r (1, 2 , , k )
设 X1, X2,…, Xn为一样本，样本的 r 阶矩为
令
Br
1 n
n i 1
X
r i
r (1,2 ,
, k
)
1 n
n i1
X
r i
r 1,2, , k
2020/4/26
18
2、极大似然函数法
先看一个简单的例子: 某位同学与一位猎人一起外出打猎,一只
野兔从前方窜过.只听到一声枪响,野兔应声 倒下.如果要你推测,是谁打中的呢？你会如 何想呢？
你就会想,只发一枪便打中,猎人命中的 概率一般大于这位同学命中的概率.看来这 一枪是猎人射中的.
ˆ1(x1, x2 , , xn )
ˆ2 (x1, x2 , , xn )
数值
ˆk (x1, x2 , , xn )
称数ˆ1,ˆ2 , ,ˆk 为未知参数1,2 , ,k 的估计值
对应的统计量为未知参数1,2 , ,k 的估计量
问题 如何构造统计量？
2020/4/26
6
二.点估计的方法
1、矩方法；（矩估计） 2、极大似然函数法（极大似然估计）.
第二章 参数估计
2020/4/26
1
统计 推断 的 基本 问题
参数估 计问题
点估计 区间估 计
假设检 验问题
2020/4/26
2
什么是参数估计？
参数是刻画总体某方面的概率特性的数量.
当这个数量是未知的时候，从总体抽出一个 样本，用某种方法对这个未知参数进行估计 就是参数估计.
例如，X ~N ( , 2),
1 n
n i 1
Xi
X
ˆ X 为的矩估计量,
1 X
ˆ x
1 x
为的矩估计值.
2020/4/26
14
例3 设总体X的概率密度为
f (x, )
1
x
e ,
2
求的矩估计量 ˆ
x ,
0
解法一 虽然 f (x中, )仅含有一个参数，但
因
EX
x
1
x
e dx 0
2
不含,不能由此解出,需继续求总体的
x e dx (2)
2
0
即 E|X|
1 n
用 n i1 X i
替换
EX
即得的另一矩估计量为
ˆ 1
n
n i 1
Xi
2020/4/26
16
• 矩估计的优点 – 不依赖总体的分布，简便易行 – 只要n充分大，精确度也很高。
• 矩估计的缺点 – 矩估计的精度较差； – 要求总体的某个k阶矩存在； – 要求未知参数能写为总体的原点矩的函数形 式
ˆ2 ˆ2 (x1, x2 , , xn )
——未知参数1,2, ,k
的矩估计值
ˆ 2020/4/2k6 ˆk ( x1, x2 , , xn )
11
例1 有一批零件，其长度X~N(,2)，现从 中任取4件，测的长度(单位：mm)为 12.6,13.4,12.8,13.2。试估计和2的值。
解： 由
f
( x;
)Leabharlann x 1 ,0,0 x 1 其它
X1,X2,,Xn为来自于总体X的样本,x1,x2, ,xn 为样本值,求参数的矩估计。
解： 先求总体矩
1
1
E( X ) x x 1dx x dx
x 1 1
0
0
1 0 1
解之： E( X )
1 E(X )
2020/4/26
13
令
A1
2020/4/26
17
注意：
1. 总体不一定存在适当阶的矩。
例 考虑Cauchy分布，其密度函数为
f ( x, )
1
, x ,
(1 ( x )2 )
其各阶矩均不存在。
2. 对相同的参数 q( )，存在多个矩估计。
例如，考虑总体是参数为 的Poisson分布，
既是总体的均值，又是总体的方差。
x 1 (12.6 13.4 12.8 13.2) 13 4
s2 1 [(12.6 13)2 (13.4 13)2 (12.8 13)2 4 1 (13.2 13)2 ] 0.133
得和2的估计值分别为13(mm)和 0.133(mm)2
2020/4/26
12
例2 设总体X的概率密度为
—— 含未知参数 1,2, ,k 的方程组
2020/4/26
10
解方程组，得 k 个统计量：
ˆ1( X1, X 2 , , X n )
ˆ2 ( X1, X 2 , , X n )
——未知参数1,2, ,k
的矩估计量
ˆk ( X1, X 2 , , X n )
代入一组样本值得k个数:
ˆ1 ˆ1(x1, x2 , , xn )
若, 2未知，通过构造样本的函数, 给出它
们的估计值或取值范围就是参数估计的内容.
点估计 区间估计
2020/4/26
3
参数估计的类型
点估计 —— 估计未知参数的值
区间估计—— 估计未知参数的取值范围， 使得这个范围包含未知参数 真值的概率为给定的值.
2020/4/26
4
第一节 参数的点估计
一、点估计的思想方法 设总体X 的分布函数的形式已知，但它含有