应用统计学-第四章

µ l (θ1 , θ 2 , L , θ k ),
l = 1,2, L , k 。样本的 l 阶原点矩
Al =
设
1 n l ∑ Xi n i =1
µ1 = µ1 (θ 1 , θ 2 , L , θ k ) µ = µ (θ , θ , L , θ ) 2 2 1 2 k M µ k = µ k (θ1 , θ 2 , L , θ k )
若总体 X 属连续型， 其概率密度 f ( x;θ ),θ ∈ Θ 的形式已知， θ 为待估参数，Θ 是
PDF created with pdfFactory Pro trial version
θ 可能取值的范围。设 X 1 , X 2 ,L, X n 是来自 X 的样本，则 X 1 , X 2 ,L, X n 的联合密
PDF created with pdfFactory Pro trial version
我们通过矩估计量的求解过程直接得到的是参数的 矩估计量而非参数的矩估计 值，要求参数的矩估计值只要将矩估计量中的样本用其观测值代替即可。 （二）最大似然估计法 由 R. A. Fisher 引进的最大似然估计法，无论从理论上还是从应用上，至今仍然是 一种重要且普遍适用的方法。 最大似然估计法的基本思想和方法：若总体 X 属离散型，其分布律
ˆ = θˆ( X , X , L , X ) 的数学期望 E (θˆ) 存在，且对于任意θ ∈ Θ 有 若估计量θ 1 2 n
PDF created with pdfFactory Pro trial version
E (θˆ) = θ ˆ 是 θ 的无偏估计量。 则称θ
P{ X = x} = p ( x;θ ),θ ∈ Θ 的 形 式 为 已 知 ， Θ 是 θ 可 能 取 值 的 范 围 。 设 X 1 , X 2 , L, X n 是来自 X 的样本，则 X 1 , X 2 , L, X n 的联合分布律为 ∏ p( x i ; θ ) 。
i =1 n
又 设 x1 , x 2 , L , x n 是 相 应 于 样 本 X 1 , X 2 , L, X n 的 一 个 样 本 值 。 易 知 样 本
ˆ ，作为参数θ 的估计值，即取θ ˆ使 达到最大的参数值θ L( x1 , x 2 , L , x n ;θˆ) = max L( x1 , x 2 , L, x n ;θ )
θ ∈Θ
（4.1.2）
ˆ 与样本值 x , x ,L , x 有关，常记为θ ˆ( x , x ,L , x ) ，称为参数 θ 这样得到的θ 1 2 n 1 2 n ˆ( X , X , L , X ) 称为参数的最大似然估计量。 的最大似然估计值，而相应的统计量θ 1 2 n
以 Ai 分别代替上式中的 µ i ， i = 1,2, L , k ，则我们就以
ˆ = θ ( A , A , K , A ) ， i = 1,2,L , k θ i i 1 2 k
分别作为 θ i ， i = 1,2, L , k 的估计量，这种估计量称为矩估计量。矩估计量的观测值 称为矩估计值。
∏ f ( xi ,θ )dxi
i =1
n
（4.1.3）
ˆ 使概率式 其值随θ 的取值而变化。与离散型的情况类似，我们取θ 的估计值 θ
（4.1.3）取到最大值，由于因子
∏ dx 不随 θ 而变，故只需考虑函数
i i =1
n
L(θ ) = L( x1 , x 2 , L, x n ;θ ) = ∏ f ( xi;θ )
度为
∏ f ( xi ,θ ) 。 设 x1 , x2 ,L, xn 是相应于样本 X 1 , X 2 ,L, X n 的一个样本值，则
i =1
n
随机点 （ X 1 , X 2 , L, X n ） 落在点 （ x1 , x 2 , L , x n ） 的邻域 （边长分别为 dx1 , dx 2 , L, dx n 的 n 维立方体）内的概率近似为
∞
µ l = E ( X l ) = ∫−∞ x l f ( x;θ1 , θ 2 ,K , θ k )dx
或
（ X 连续型）
µ l = E( X l ) =
x∈R X
∑ x l p( x 1, 2, L, k 。
存在(其中 R X 是 X 可能取值的范围)。一般来说，它们是 θ1 ,θ 2 , L ,θ k 的函数，即总 体的原点矩形如
总体矩的估计，以样本矩的函数作为相应的总体矩的同一函数的估计。矩估计法的具 体做法如下： 其概率密度为 f ( x;θ1,θ 2 , L, θ k ) ， 或 X 为离散型随机变 设 X 为连续型随机变量， 量，其分布律为 P{X = x} = p( x;θ1 ,θ 2 , L, θ k ) 其中 θ1 ,θ 2 , L,θ k 为待估参数，X 1 , X 2 , L, X n 是来自 X 的样本。 假设总体 X 的前 k 阶 原点矩
南京航空航天大学教案
课程名称 应用统计学 授课对象 本科 课时 4 应用统计学（高 等教育出版社）
授课内容 教学目的与 要求
统计推断
授课方式
讲课
教材名称及版本
通过本章的学习，使学生了解参数点估计的方法；掌握参数区间估计的方法；掌 握参数假设检验的方法；能运用常用的非参数检验方法；理解区间估计与假设检验的 关系。 1．参数估：点估计；估计量的评选标准；区间估计；大样本下总体均值、比率的区间 估计。 2．假设检验：参数假设检验；非参数假设检验。 3．假设检验中的两个问题：置信区间与假设检验的关系；假设检验中的 P 值。
教学重点
教学难点
点估计；区间估计；大样本下总体均值、比率的区间估计； 参数假设检验；非参数假设检验。 第一节 参数估计 实际工作中遇到的总体 X ，其分布类型往往知道，只是不知分布中的某些参数。 如我们知道产品的质量指标 X ~ N ( µ , σ 2 ) ，但参数 µ , σ 2 的值未知。 借助于总体 X 的一个样本来估计总体分布中的未知参数问题属于参数估计问题，参数估计又可以分 为参数的点估计和参数的区间估计。 一、 点估计 设总体 X 的分布函数的形式已知，但它的一个或多个参数未知，借助于总体 X 的 一个样本来估计总体未知参数的值的问题称为参数的点估计问题。 参数点估计问题的一般提法是： 设总体 X 的分布函数 F ( x；θ ) 的形式已知， θ是 待估参数。 X 1 , X 2 , L, X n 是 X 的一个样本， x1 , x 2 , L , x n 是相应的一个样本值。点
d ln L(θ ) = 0 dθ
（4.1.6）
求得，而从后一方程求解往往比较方便。式（4.1.6）称为对数似然方程。 我们通过最大似然估计法的求解过程直接得到的是参数的最大似然估计值而非参数的 最大似然估计量，要求参数的最大似然估计量只要将参数的最大似然估计值的样本观 测值用对应的样本代替即可。这一点与参数的矩估计过程所得结果的表达形式不同。 二、估计量的评选标准 (一) 无偏性
X 1 , X 2 , L, X n 取 到 观 测 值 x1 , x 2 ,L , x n 的 概 率 ， 亦 即 事 件
{X 1 = x1 , X 2 = x2 ,L , X n
= x n } 发生的概率为
n
L(θ ) = L( x1 , x 2 , L, x n ;θ ) = ∏ p ( xi;θ ),θ ∈ Θ
授课基本内 容
ˆ ( X , X ,L , X ) ， 用 它 的 观 测 值 估计问题就是要构造一个适当的统计量 θ 1 2 n ˆ ( x , x ,L , x ) 作为未知参数 θ 的近似值，我们称 θ ˆ ( X , X ,L , X ) 为 θ 的估计 θ 1 2 n 1 2 n ˆ ( x , x ,L , x ) 为 θ 的估计值。在不致混淆的情况下，统称估计量和估计值为 量，称 θ 1 2 n ˆ 。由于估计量是样本的函数，因此对于不同的样本值，θ 的估计 估计，并都简记为θ
(二) 有效性
（4.1.7）
ˆ =θ ˆ ( X , X , L, X ) 与 θ ˆ =θ ˆ ( X , X , L, X ) 都是 θ 的无偏估计量， 设θ 1 1 1 2 n 2 2 1 2 n
若对于任意θ ∈ Θ ，有
ˆ ) ≤ D(θ ˆ) D (θ 1 2
（4.1.8）
ˆ 较θ ˆ 有效。 且至少对于某一个 θ ∈ Θ 上式中的不等号成立，则称θ 1 2
i =1
n
（4.1.4）
的最大值，这里 L(θ ) 称为样本的似然函数。若
L( x1 , x 2 , L , x n ;θˆ) = max L( x1 , x 2 , L, x n ;θ )
θ ∈Θ
ˆ( x , x ,L , x ) 为 θ 的最大似然估计值，称θ ˆ( X , X ,L , X ) 为 θ 的最大似然 则称 θ 1 2 n 1 2 n
(三) 相合性
ˆ( X , X , L , X ) 为 参数 θ 的估计量，若 对 于 任意 θ ∈ Θ ， 当 n → ∞ 时， 设θ 1 2 n ˆ( X , X ,L , X ) 依概率收敛于 θ ，则称 θ ˆ 为 θ 的相合估计量。 θ 1 2 n
即，若对于任意θ ∈ Θ 都满足：对于任意 ε＞ 0 ，有
估计量。 这样，确定最大似然估计量的问题就归结为微分学中的求最大值的问题了。
ˆ 常可从方程 在很多情形下， p( x, θ ) 和 f ( x, θ ) 关于 θ 可微，这时 θ d L(θ ) = 0 dθ
（4.1.5）
解得。又因 L(θ ) 与 ln L(θ ) 在同一 θ 处取到极值，因此， θ 的最大似然估计 θ 也可以 从方程
n →∞
lim P θˆ − θ ＜ε = 1
{
}
（4.1.9）