- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
四. 点估计的思想方法
设总体X 的分布函数的形式已知，但它含有 一个或多个未知参数：1,2, ,k 设 X1, X2,…, Xn为总体的一个样本 构造 k 个统计量： 1 ( X1 , X 2 , , X n )
2 ( X 1 , X 2 , , X n )
随机变量
n
n 1 样 特别地，A 1 X X i (样本均值 ) n i 1 n k 1 ( 4 ) 样本的 k 阶中心矩：B k X i X 本 n i 1 n 2 n 1 2 1 2 特别地，B 2 S X i X Sn n n
x1 , , x n
来求得总体的分
布参数,使得 X 1 , , X n 取值为 x1 , , x n
的概率最大，这就是最大似然估计法。
最大似然估计原理：
设 为连续型随机变量，分布函数为F(x, ), 概率密度为(x, )，其中 是未知参数,可以 是一个数值或向量。由样本的独立性知, 样本 X , , X n 的联合概率密度为
统 计 推 断
参数估 计问题
点估计
区间估 计 参数检验 非参数检验
假设检 验问题
二. 参数估计
参数估计问题是利用从总体抽样得到的信息 来估计总体的某些参数或者参数的某些函数.
估计新生儿的体重
估计废品率
估计湖中鱼数
估计降雨量
参数是刻画总体某方面的概率特性的数量. 当这个数量是未知的时候，从总体抽出一个 样本，用某种方法对这个未知参数进行估计 就是参数估计.
3. 点估计的最大似然估计法 (maximum likelihood estimation——MLE)
它是在总体类型已知条件下使用的一种参数估计方法 .
它首先是由德国数学家高斯在 1821年提出的 . 然而,这个方法常
归功于英国统计学家费歇 .
Gauss
费歇在1922年重新发现了这 一方法，并首先研究了这种方法 的一些性质 .
从而可解出待估计参数.
矩法的具体做法如下
设总体的分布函数中含有k个未知参数 θ1 , θ2 , , θk, 那么总体的前k阶矩 μ1 , μ2 , , μk 一般都是 k 个参数 的函数,记为：μi μi (θ1 , θ2 , , θk ), i=1,2, … ,k 从这 k 个方程中解出 然后用诸 μi 的样本估计量 Ai 分别代替上式中的诸 μi , 即可得诸 θ j 的矩估计量 ： ˆ θ ( A , A , , A ) θ j j 1 2 k 矩估计量的观察值称为矩估计值 .
五. 常用的点估计方法
1. 频率替换法 (Frequency substitution) nA 利用事件A 在 n 次试验中发生频率 n 作为事件A 发生的概率 p 的估计量
nA p p n
例1 设总体X ~ N ( , 2 ), 在对其作28 次独立
观察中, 事件 “X < 4”出现了21 次, 试用频率替
在参数估计问题中，一般假定总体分布形 式已知，未知的仅仅是一个或几个参数. 例如，已知X ~N ( , 2), 若, 2未知，通过构造样本的函数, 给出它 们的估计值或取值范围就是参数估计的内容. 点估计 区间估计
三. 参数估计的类型
点估计(point Estimation) —— 估计未知参数的值 区间估计(interval Estimation)—— 估计未知参数 的取值范围，使得这个范围包含未知参数真 值的概率为给定的值.
第六章 参数估计
一.引言
第五章，我们介绍了总体、样本、 简单随机样本、统计量和抽样分布的概 念，介绍了统计中常用的三大分布 2 ( 分布，t分布，F 分布) 并给出了几个重要的抽样分布定理 . 它们是进一步学习统计推断的基础 .
统计步骤： 随机抽样
总体
样 本 描述 统计量
作出统计推断
研究统计量的性质和评价一个统计推断的 优良性，完全取决于其抽样分布的性质.
n 2 i
证明： Xi X
i 1
n
X
i 1 n i 1 n
2 X X i nX
i 1 2
n
2
X 2 X nX nX
2 i
X nX
i 1 2 i
2
矩法原理： 用样本的 k 阶矩作为总体的 k 阶矩的
估计量, 建立含有待估计参数的方程,
例2 已知 1 e ~ ( x , ) 0
i 1
未修正的样本方差
样本方差的简化计算公式
n 1 2 S Xi X n 1 i 1 n 1 2 Sn XΒιβλιοθήκη X n i 1
2
2 1 n 2 Xi nX n 1 i 1
2
2
2 2 1 n 2 1 n 2 Xi nX Xi X n i 1 n i 1
总结：对任一个随机变量X，期望EX的
2 矩估计量为X , 方差DX的矩估计量为Sn
例3、设从某灯泡厂某天生产的灯泡中随机抽取 10只灯泡，测得其寿命(单位:小时)为 1050, 1100, 1080, 1120, 1200 1250, 1040, 1130, 1300, 1200 试用矩法估计该厂这天生产的灯泡的平均寿命 及寿命分布的方差. 解：灯泡的平均寿命的矩估计值为 E ( X ) X xi (h) i 灯泡寿命分布的方差的矩估计值为 10 1 2 2 2 2 D( X ) Sn xi x 6821 ( h ). 10 i 1
k ( X 1 , X 2 , , X n )
当测得一组样本值(x1, x2,…, xn)时，代入上述 统计量，即可得到 k 个数： ˆ1 ( x1 , x2 ,, xn ) ˆ2 ( x1 , x2 ,, xn ) 数值 ˆk ( x1 , x2 ,, xn ) 称数ˆ1 ,ˆ2 ,,ˆk 为未知参数1 , 2 ,, k 的估计值 对应的统计量为未知参数 1 , 2 ,, k 的估计量 如何构造统计量？
Fisher
先看一个简单例子： 某位同学与一位猎人一起外 出打猎 . 一只野兔从前方窜过 . 只听一声枪响，野兔应声倒下 . 如果要你推测， 是谁打中的呢？ 你会如何想呢?
自然地，人们会想，只发一枪便打中, 猎人命 中的概率一般大于这位同学命中的概率 . 看来这一 枪是猎人射中的 .
这个例子所作的推断已经体现了最大似然估 计法的基本思想 .
矩(估计)法是英国统计学家 K.皮尔逊最早提出来的 .
(1) 总体的 k 阶原点矩： k E ( X )
k
特别地， k 1 时为总体期望 EX 总体 k ( 2 ) 总体的 k 阶中心矩： E X EX 特别地， k 2时为总体方差 DX
1 k ( 3) 样本的 k 阶原点矩：A k X i n i 1
矩法的优缺点
矩法的优点是简单易行, 并不需要事先知道 总体是什么分布. 缺点是，当总体类型已知时，没有充分利用分 布提供的信息 . 一般场合下, 矩估计量不具有唯一性 . 其主要原因在于建立矩法方程时，选取哪些总体 矩用相应样本矩代替具有一定的随意性 . 所以矩法比较适用于总体分布形式未知的场合。
L (x ,, xn , ) ( xi , ) ( x, ) ( xn , )
i
n
当给定样本X1,, Xn时，定义似然函数为
L ( ) ( x, ) ( xn , )
其中x1,, xn为X1,, X n的样本值，是常数。
注：似然函数L( )为未知参数的函数。它 可以度量 将以多大可能产生样本值x1 ,, xn
θ j θ j ( μ1 , μ2 , , μk ), j=1,2,…,k
j=1,2,…,k
例1、设总体 X P ( )， X1 ,, Xn 为总体 X 的样本，求 的矩估计量. 解： X P( ), 因此 EX DX (1) 可用样本的一阶原点矩 A1 X 代替 EX 得
d ln L( ) 0 d
若 是向量，上述方程必须用方程组代替 . 2、用上述求导方法求参数的MLE有时行不通， 这时要用最大似然原则来求 .
求最大似然估计(MLE)的一般步骤是：
(1) 由总体分布导出样本的联合密度 (或联合分布律); (2) 把样本联合密度 ( 或联合分布律 ) 中自变量看成 已知常数,而把参数 θ 看作自变量,得到似然函数L( θ); (3) 求似然函数L( θ ) 的最大值点(常常转化为求 ln L( θ )的最大值点) ，即 θ 的MLE; (4) 在最大值点的表达式中, 用样本值代入即得 参数的最大似然估计值 .
2
μ ,σ
的矩估计量 .
解： μ1 E X
μ
2
μ2 E X
2
D( X ) [ E ( X )]
2
σ μ
2
解得
μ μ1
σ μ2 μ
2
2
总体矩
2 1
于是 μ , σ 的矩估计量为
n
μ A1 X
1 2 2 2 2 σ A2 A1 X i X n i 1 n 1 2 2 样本矩 ( X i X ) S n n i 1
换法求参数 的估计值.
X 4 解：X N ( , 2), P ( X 4) P ( ) 2 2 4 21 ( ) 0.75 28 2 4 0.675 查表得 2
ˆ 3.045 于是 的估计值为：
2. 矩法( Method of moment)
ˆ去估计 . 最大似然法就是用使 L( )达到最大值的
ˆ处达 定义: 如果似然函数L( x1 , x2 ,, xn ; )在 ˆ是的最大似然估计值,相应的 到最大值, 则称 ˆ ( X ,, X )称为的最大似然估计量. 统计量 1 n
