三章参数估计ParametricEstimation

格式：ppt
大小：835.01 KB
文档页数：69

下载文档原格式

三章参数估计ParametricEstimation

会有多项分布,
p( x1,..., xm | p1,..., pm )
n!
m
m
p
xi i
xi ! i1
i 1
m
m
l ( p1,..., pm ) log( n!) log xi! xi log pi
i 1
i 1
m
pi 1
i 1
m
m
m
l( p1,...,pm,) log(n!) logxi! xi logpi ( pi 1)
1.点估计的基本概念(Point Estimator)
点估计: 就是由样本x1,x2,…xn确定一个统计量
gx1,x2,,xn
用它估计总体的未知参数，称为总体参数的估计量。当具体的样本抽出后，可求得出样本统计量的值。用它作为总体参数的估计值，称作总体参数的点估计值。
2.两种基本的点估计方法
• （1）总体的方差越大，需要的样本量越大。 • （2）样本量n和置信区间长度的平方成反比。 • （3）置信度越高，样本量越大。
样本量的确定
需要考虑问题：
➢ (1)要求什么样的精度？即我们想构造多宽的区间？ ➢ (2)对于构造的置信区间来说，想要多大的置信度？即我
k
阶中心矩。
矩法估计： V ^ k Ak, U ^ k Bk
这是k包个含未知 1，参， k 数的联立方
A1 11 ，2 ，，k
A2
21 ，2 ，，k
Ak k 1 ，2 ，，k
从中解出方,记程为组 ˆ1，的，ˆ解 k,即
ˆˆ21
ˆ1 ˆ2
X1 ，X2 X1 ，X2
置信区间的含义
样本分布 /2

第三章参数估计

第三章参数估计参数估计是推断统计研究的内容之一。

所谓参数估计就是根据样本统计量的数值对总体参数进行估计的过程。

在参数估计中，要涉及概率分布、样本统计值、总体参数以及抽样分布等有关概念，这些概念及理论构成了推断统计的基础。

第一节参数估计的原理一、点估计与区间估计的概念在进行参数估计时，通常有两种方法：一种是点估计，一种是区间估计。

所谓点估计就是用样本统计量的某一具体数值直接推断未知的总体参数。

例如，在进行有关小学生身高的研究中，随机抽取1000名小学生并计算出他们的平均身高为1.45m 。

如果直接用这个1.45m 代表所有小学生的平均身高，那么这种估计方法就是点估计。

所谓区间估计，就是在推断总体参数时，还要根据统计量的抽样分布的特征，估计出总体参数的一个区间，而不是一个数值，并同时给出总体参数落在这一区间的可能性的大小——概率的保证。

在上例中，如果是按区间估计的方法推断小学生的平均身高，则会给出以下的表达：根据样本数据，估计小学生的平均身高在1.4～1.5m 之间，可靠程度为95%，这种估计就属于一个区间估计。

对总体参数进行点估计有一个不足之处，即这种估计方法不能提供参数的估计误差的大小。

对于一个总体来说，它的总体参数是一个常数值，而它的样本统计量却是一个随机变量。

当用一个随机变量去估计一个常数值时，误差是不可避免的，只用一个样本数值去估计总体参数是要冒很大风险的，因为这种误差风险的存在，并且风险的大小还未知，所以，点估计主要为许多定性研究提供一定的参考数据，或是对总体参数要求不精确时使用，而在需要精确总体参数的数据进行决策时则很少使用。

二、点估计—最小二乘法原理对总体参数进行点估计常用的方法有三种：矩估计法、最小二乘法和最大似然估计法。

这里主要介绍最小二乘法原理。

最小二乘法是参数估计常用的方法之一。

其基本思想是保证由新估参数得到的理论值与观测值间离差的平方和值为最小。

要想使离差平方和Q 为最小，可通过求Q 对待估参数的偏导数，并令其等于0，以求得参数估计值。

第3章参数估计理论讲解

第3章参数估计理论参数估计的基本方法：点估计，区间估计点估计：以样本的某一函数值作为总体中未知参数的估计值。

区间估计：把总体中的参数确定在某一区间内。

第1节点估计点估计就是以样本的某一函数值作为总体中未知参数的估计值。

设θ是总体X 的待估参数，用样本12,,,n X X X 构造一个合适的统计量12(,,,)n T X X X 来估计参数θ，通常记为ˆθ，即12ˆ=(,,,)n T X X X θ，称为参数θ的估计量。

对样本的一组观测值12(,,,)n x x x ，统计量T 的值12ˆ=(,,,)n T x x x θ称为参数θ的估计值。

点估计的问题就是要找一个作为待估参数θ的估计量12(,,,)n T X X X 的问题。

点估计的方法：数字特征法（矩估计法）、极大似然估计法、Bayes 估计法、最小二乘法等等。

第2节矩估计法矩估计法由英国统计学家K.Person 在20世纪初提出，基本思想就是用样本矩去估计相应的总体矩。

理论依据是大数定律。

例1 设总体X 服从参数为θ的指数分布，即11,0(,)0,0x e x f x x θθθ-⎧>⎪=⎨⎪≤⎩12,,,n X X X 为取自总体X 的样本，求参数θ的矩估计量。

例2 设总体2~(,)X N μσ，12,,,n X X X 为取自总体X 的样本，求参数2,μσ的矩估计量。

例3 设总体2~(0,)X N σ，12,,,n X X X 为取自总体X 的样本，求参数2σ的矩估计量。

例4 设总体~(,)X U a b ，12,,,n X X X 为取自总体X 的样本，求参数,a b 的矩估计量。

ˆˆ=a X b X =+ 例5 设总体~()X P λ，12,,,n X X X 为取自总体X 的样本，求参数λ的矩估计量。

第3节极大似然估计法极大似然估计法最初由德国数学家C.F.Gauss 于1821年提出，英国统计学家R.A.Fisher 于1922年再次提出极大似然的思想，并探讨了它的性质。

统计学第3章(参数估计)

四、常用的置信度
在构造置信区间时，我们可以用所希望的值作为置信水平。比较常用的置信水平及临界值如下表：置信水平
1
显著性水平

Z
2
90% 95% 99%
0.10 0.05 0.01
1.645 1.96 2.58
但要特别注意：查“标准正态分布表” 时，由于 Z Z 1
2 2
通常不直接查
六、理解置信区间必须注意的问题
◆若在所有区间中，有95%的区间包含总体参数的真值，有5%的区间不包含，则这个区间就称为置信水平为95%的置信区间。
这样表述置信区间的理由是：总体参数真值是固定的、未知的，而用样本构造的区间随样本不同而不同，因此置信区间是一个随机区间，它不仅因样本的不同而不同，且不是所有的区间都包含总体参数的真值。
若D( x ) D(M e )，则说明均值比中位数更有效若D( x ) D(M e )，则说明中位数比均值更有效
三、一致性
一致性——又称为相合性，它说明当样本容量n趋近于无穷大∞时，样本估计量依概率收敛于总体参数的真实值θ。即随着样本容量的增大，点估计量的值越来越接近被估计总体参数的真值。换言之，一个大样本给出的估计量要比一个小样本给出的估计量更接近总体参数的真实值。
3.2
点估计的评价标准
从上面的介绍可以看出，对于同一个总体参数，采用不同的估计方法，可能会得到不同的估计量。
那么，究竟用样本的哪种估计量作为总体参数的估计最好？什么样的估计量才算是一个好的估计量？这就需要有一定的评价标准。而且对同一估计量使用不同的评价标准可能得到不同的结论，因此评价某个估计量的好坏一定要说明是在哪一个标准之下。常用的评价标准有三个：无偏性、有效性、一致性。

第三章概率密度函数的估计

当 0 ≤ x ≤ θ 时， p (x | θ ) = 的最大似然估计是
解：定义似然函数 l (θ ) =
k
1
θ
，否则为0。证明θ
max x k 。
∏ p (x
k =1
N
k
|θ )
1 dH = 0，即 − N ⋅ = 0 H (θ ) = ln l (θ ) = − N ln θ ，令 dθ θ 方程的解 θ ＝ ∝ ，但实际问题中，θ ≠∝ 。 1 已知有N个随机样本，且 0 ≤ x ≤ θ 时， p (x | θ ) =

参数估计中的基本概念统计量参数空间点估计、估计量和估计值区间估计参数估计判断标准无偏性有效性一致性

3.2最大似然估计
（1）前提假设

参数θ（待估计）是确定（非随机）而未知的量样本集分成c类，为A1，A2，…，Ac，Aj的样本是从概率密度为 p x | ω j 的总体中独立抽取出来的。
i =1 i =1 i =1 i =1
N
(
)
N
N

例3.2：设x服从正态分N(μ,σ2)，其中参数μ、 σ2未知，求它们的最大似然估计量。
N
解：设样本集 A = {x1 , x2 ,..., xN }，定义似然函数 l (θ ) = ∏ p(xi | θ )
i =1 2 ⎧ ⎡ ( xi − μ ) ⎤ ⎫ ⎪ ⎪ 1 exp⎢− H (θ ) = ln l (θ ) = ∑ ln p (xi | θ ) = ∑ ln ⎨ ⎥⎬ 2 2σ ⎪ i =1 i =1 ⎣ ⎦⎪ ⎭ ⎩ 2π σ 2 N ⎧ ⎫ ( ) x − 1 1 μ 2 i = ∑ ⎨− ln 2π − ln σ − ⎬ 2 2 2σ i =1 ⎩ 2 ⎭ N N 2

3参数估计

解释：
3.2.2总体均值的区间估计(2未知)

假定条件
(1) 总体方差(２)未知 (2)总体必须服从正态分布

使用 t 分布统计量

总体均值在1-a置信水平下的置信区间为
P( X ta / 2( df )
S S X ta / 2( df ) ) 1a n 1 n 1
z

15
1

从总体中，抽样n=9，样本均值大于等于115的概率。那么，分布的标准差应该是多少？
因此应该用样本分布的标准差，即标准误
3.2 总体平均数的区间估计

总体方差已知，使用正态分布统计量总体方差未知，使用 t 分布统计量

3.2.1总体均值的区间估计(2已知)

假定条件
(1)总体服从正态分布,且总体方差(２)已知 (2)如果不是正态分布，可以由正态分布来近似 (n 30)
1 1 N1 N 2
3.3.3 练习题

某省在高考后分析男女生在物理学习上的差异。随机抽取各10名男女考生，其均值分别为59.7、 45.7，标准差分别为10.7、16.9。请计算男女考生物理成绩差异的99%的置信区间。如果抽取的男女生分别为100名，其它统计参数不变，其置信区间为多少？比较两个置信区间，你有什么发现？是否可根据置信区间判断男女成绩有无差异？
混和标准差
请自己写出来

两独立总体均值差异1- 2在1-a置信水平下的置信区间：
( X 1 X 2 ) ( 1 2 ) N 1 N 2 ta 2 ( N1 N 2 2)} 1 a Sp N1 N 2
P{ta 2 ( N1 N 2 2)

《统计学》第3章参数估计

【例3.5】假定在一个箱子里放着黑、白两种球共4只，且知道这两种球的数目之比为 1∶3，但不知道究竟哪一种颜色的球多。
设黑球所占的比例为P，由上述假定推知P仅可能取1/4和3/4这两个值，现在采用有放回抽样的方法，从箱子中随机地抽取三个球，观察到球的颜色为黑、白、黑，你会对箱子中的黑球数作出什么推断呢？即你认为P的值是1/4，还是3/4？
或为似然方程组。
ln L(1 , 2 ,, n ) 0 j
解得。上面方程组称
[注意] 上面的讨论中，我们没有提到似函数 L( ) 取极大值的充分条件，对于具体的函数可作验证。
【例3.6】设总体X服从参数为的泊松分布，求参数的极大似然估计量。
解设 X1，X2，X3，……，Xn 是来自 X 的样本，
【例5.2】设X1，X2，……，Xn是取自总体X的样本，已知X的概率密度为：
X 1 , 0 X 1 f ( X , ) 其他 0,
( 1)
试用矩估计法估计总体参数。解: 由于 E ( X ) xf ( X , )dx 1 样本均值为 X ，令E（X）= X ，得: X ,
又 ∵
1 1 n n ，即 ( 2 1 ) ( x( n) x(1) )
L(1,2 ) L( x(1) , x(n) )
∴ 1 , 2 的极大似然估计量分别为 x(1) , x(n) 。
三、估计量的优良标准
在对总体参数做出估计时并非所有的估计量都是优良的，从而产生了评价估计量是否优良的标准。对于点估计量来说，一个好的估计量有如下三个标准：
(x
i 1 n
n
i
) 0 )

第三章多元线性回归模型的参数估计

第三章多元线性回归模型的参数估计多元线性回归模型的参数估计是指通过给定的数据样本，使用其中一种方法来计算出回归模型的参数值。

在多元线性回归模型中，我们有多个自变量与一个因变量之间的关系，因此需要估计出每个自变量的系数。

参数估计是回归模型的核心内容之一，它能够通过对样本数据的分析和处理，得到模型中的参数值，从而建立起模型与实际数据之间的映射关系。

常用的多元线性回归模型的参数估计方法有最小二乘法和最大似然估计法。

最小二乘法是一种最常用的参数估计方法。

它的基本思想是通过最小化因变量的观测值与模型预测值之间的平方误差，来确定模型参数的最佳估计值。

最小二乘法的优点是数学上简单且易于计算，但对于异常值的敏感性较强。

最大似然估计法是另一种常用的参数估计方法。

它的基本思想是找到最能使观测数据发生的概率最大的模型参数，从而得到最优的参数估计值。

最大似然估计法具有较好的统计性质，但它的计算复杂度较高，需要对似然函数进行极大化求解。

在实际应用中，我们需要根据实际情况选择合适的参数估计方法。

通常情况下，最小二乘法是首选的方法，因为它具有简单和直观的优点，适用于大多数情况。

但当样本数据存在异常值或者数据分布不符合正态分布假设时，最大似然估计法可能是更好的选择。

无论是最小二乘法还是最大似然估计法，其核心问题都是通过最优化方法找到使得模型和观测数据之间的误差最小的参数值。

这一过程需要使用数学工具和计算方法进行求解，可以使用迭代算法，如牛顿法或梯度下降法，来逐步逼近最优解。

参数估计的结果可以告诉我们每个自变量对因变量的贡献程度。

因此，一个良好的参数估计能够帮助我们更好地理解数据，预测因变量，以及识别自变量之间是否存在相互影响。

总而言之，多元线性回归模型的参数估计是通过最小化模型与观测数据之间的误差，找到最佳的模型参数值的过程。

合理选择参数估计方法，并进行有效的数学计算，能够为我们提供有关数据和模型之间的重要信息，并为进一步的分析和应用提供基础。

生物统计学名词解释

1. 总体（population）：研究对象的全体，由具有共同性质的个体所组成。

2. 样本（sample）：从总体中抽取一部分个体所组成的集团。

3. 参数（parameter）：由总体全部观察值计算得到的用来描述总体特征的数。

4. 统计数（statistic）：由样本全部观察值计算得到的用来描述样本特征和估计总体特征的数5. 平均数（average）：根据统计方法求得的一种常用特征数，作为一个资料集中性的代表值，反映资料中各观察值集中较多的中心位置。

6. 变异数（variant）：反映资料的变异性的代表值，常用的变异数有极差、方差、标准差、标准误和变异系数。

7. 概率的古典定义：在随机试验中，如果基本事件的总数n为有限多个，且每个基本事件的发生是等可能的，时间A 由其中m个基本事件所组成，则事件A的概率为(P)=A中包含的基本事件数/基本事件数=m/n8. 概率的统计定义:在相同条件下，重复某一试验n次，事件A发生的频率随着n的不断增大而在某个常数值p附近摆动，则称频率的稳定值p为事件A发生的频率，记为P(A) =p≈m/n9. 随机变量（random variant）：设E为一随机试验，Ω为样本空间。

如果对于Ω中的每个样本点ш，都有一个确定的实数X（ш）与之对应，则称X（ш）为随机变量，简称为X10. 伯努利试验（Bernoulli trials）：随机变量X只有两个可能结果的实验11. 统计推断（statistical inference）：利用研究获得的样本信息和假定的模型对总体特征做出概率性的推断。

12. 假设检验（test of hypothesis）：根据样本信息判断总体是否具有制定的特征13. 参数估计（parametric estimation）：用样本统计数估计总体参数。

14. 抽样分布（sampling distribution）：统计量g（X1,X2,…,Xn）作为随机变量，也有自己的概率分布，则统计量的概率分布则称为抽样分布15. 零假设（null hypothesis）和备择假设（alternative hypothesis）零假设：指进行统计检验时预先建立的假设。

第三章参数估计《统计学》PPT课件

解：因为1 E X p ，令 p x 可得 p 的矩估计 pˆ x 。
注意到这里的样本均值 x 就是样本比例，而 p 是总体比例，所以总体比例的矩估计是样本比例。
几个例子
【例 3.3】设总体服从参数为的指数分布 E() ，
即 X p(x;) ex, x 0 ； (x1, , xn ) 是来自总体的样本，
解：因为 X 的概率密度为
f (x; ) 1 , 0 x 0, x [0, ]
所以，样本 (x1, , xn ) 的联合概率密度为
n
f
(xi ;
)
1
n
,
i 1
0 ,
0 x1, ,xn x j [0, ] , 1 j n
于是的似然函数为
L(
)
1
n
,
0 ,
mx1a x (xn , , ) max(x1, ,xn )
x 2 sn2 可得 (, 2) 的矩估计为 ˆ x ,ˆ 2 sn2 。
注意
矩估计法可能不惟一，比如例3.3中参数λ 的矩估计；
矩估计法得到的估计在有些情况下可能不符合逻辑，比如例3.1中当样本的最大值大于两倍样本均值，那么采用两倍样本均值作为区间上限的估计显然不是一个合理的估计，因为区间上限θ至少与x(n)一样大。
3.2 点估计的评价标准
对于总体参数，采用不同的估计方法可能得到不同的估计量，一个自然而然的问题就是：
同一个参数的多个不同估计量哪一个最好？三种常用的评价标准：无偏性，一致性和
有效性。
3.2.1 无偏性
定义 3.1 设ˆ 是的一个估计量，的参数空间为，如果对任意，有
E(ˆ)
Var(*) Var(ˆ) 则称ˆ 是的一致最小方差无偏估计量(uniformly minimum

参数估计的基本理论

第3章参数估计的基本理论信号检测：通过准则来判断信号有无；参数估计：由观测量来估计出信号的参数；解决1）用什么方法求取参数，2）如何评价估计质量或者效果严格来讲，这一章研究的是参数的统计估计方法，它是数理统计的一个分支。

推荐两本参考书高等教育出版社《数理统计导论》，《Nonlinear Parameter Estimation 》。

我们首先从一个估计问题入手，来了解参数估计的基本概念。

3.1 估计的基本概念3.1.1 估计问题对于观察值x 是信号s 和噪声n 叠加的情况：()x s n θ=+其中θ是信号s 的参数，或θ就是信号本身。

若能找到一个函数()f x ，利用()12,,N f x x x 可以得到参数θ的估计值 θ，相对估计值 θ，θ称为参数的真值。

则称()12,,N f x x x 为参数θ的一个估计量。

记作 ()12,,Nf x x x θ= 。

在上面的方程中，去掉n 实际上是一个多元方程求解问题。

这时，如果把n 看作是一种干扰或摄动，那么就可以用解确定性方程的方法来得出()f x 。

但是我们要研究的是参数的统计估计方法，所以上面的描述并不适合我们的讨论。

下面给出估计的统计问题描述。

（点估计）设随机变量x 具有某一已知函数形式的概率密度函数，但是该函数依赖于未知参数θ，Ω∈θ ，Ω称为参数空间。

因此可以把x 的概率密度函数表示为一个函数族);(θx p 。

N x x x ,,,21 表示随机样本，其分布取自函数族);(θx p 的某一成员，问题是求统计量 ()12,,Nf x x x θ= ，作为参数θ的一个估计量。

以上就是用统计的语言给出的参数估计问题的描述。

数。

统计量的两个特征：1，随机变量的函数，因此也是随机变量；2，不依赖于未知参数，因此当我们得到随机变量的一组抽样，就可以计算得到统计量的值。

例3-1：考虑由(1,2,,)i ix s n i N =+= ，给定的观测样本。

概率密度函数估计.

ˆ d ( x , x ,, x ) d (X )。称作最大似然估计量。样本集的函数，记作 1 2 N
为了便于分析，还可以定义对数似然函数 H ( ) ln l ( )。
3.2
最大似然估计(Maximum
Likelihood Estimation)
求解：若似然函数满足连续、可微的条件，则最大似然估计量就是方程
i
P(Xi/θi)
利用上式求出的估值，即为＝
i

上图有5个解,只有一个解最大即.
3.2
最大似然估计(Maximum
Likelihood Estimation)
正态分布下的最大似然估计示例以单变量正态分布为例
[1， , 2 ]T
p( x | ) 1
1，
2 2
1 x 2 exp 2 2
样本集
X x1 , x2 ,, x N
l ( x ) p ( X | ) p ( xk | )
k 1 N
似然函数
3.2
最大似然估计(Maximum
dl( ) / d 0 或 dH ( ) / d 0
的解（必要条件）。若未知参数不止一个，即 [1 , 2 ,, s ]T ，记梯度算子
, , , s 1 2
T
则最大似然估计量的必要条件由S个方程组成：
似然函数（likelihood function）
l ( ) p( X | ) p( x1 , x2 ,, x N | ) p( xi | )
i 1 N
—— 在参数下观测到样本集 X 的概率（联合分布）密度

统计学：3-参数估计

8. 置信水平只是告诉我们在多次估计得到的区间中大概有多少个区间包含了参数的真值，而不是针对所抽取的这个样本所构建的区间而言的
5 - 14
2008年8月
3.统1 计参学数估计的基本原理
三ST、(A第T三I区S版TI间C) S估计——置信区间的表述 (confidence interval)
点估计值
10. 实际应用中，过宽的区间往往没有实际意义
比如，天气预报说“在一年内会下一场雨”，虽然这很有把握，但有什么意义呢？另一方面，要求过于准确(过窄)的区间同样不一定有意义，因为过窄的区间虽然看上去很准确，但把握性就会降低，除非无限制增加样本量，而现实中样本量总是有限的
5 - 16
2008年8月
总体分布样本量
2已知 2未知
正态分布大样本 n≧30
正态分布小样本
n˂30 非正态分布大样本
n≧30
x Z
2
n
x Z
2
n
x Z
2
n
x Z
2
s n
x t (n 1)
2
s n
x Z
2
s n
5 - 19
2008年8月
3.统2 计一学个总体参数的区间估计
STATISTICS (第三版)
3.2 一个总体参数的区间估计
一、总体均值的区间估计二、总体比例的区间估计三、总体方差的区间估计
3.统2 计一学个总体参数的区间估计
STATISTICS (第三版)
总体参数均值比例方差
5 - 18
符号表示
2
样本统计量
x p s2
2008年8月
统计学一个总体均值的区间估计

estimate 短语

estimate 短语估计是我们日常生活中不可或缺的一部分。

我们需要估计时间、成本、风险等等。

在商业领域中，估计也是一个非常重要的概念。

估计可以帮助我们预测未来的成本、收益和风险。

它可以帮助我们做出更好的决策，并规划我们的业务战略。

在这篇文章中，我们将探讨估计的一些常用短语和应用方法。

一、估计的定义估计是指根据已有的信息和经验，猜测未来的情况或结果。

它是一种预测方法，可以用来预测未来的成本、收益和风险等。

估计的目的是为了帮助我们做出更好的决策，并规划我们的业务战略。

二、估计的常用短语1. Rough estimateRough estimate是指一种粗略估计。

它通常是在缺乏足够信息或时间的情况下进行的估计。

这种估计可能会有一定的误差，但它可以帮助我们快速了解项目的大致成本和时间。

2. Ballpark estimateBallpark estimate是指一种大致估计。

这种估计是在有一些信息的情况下进行的，但仍然缺乏足够的精确度。

这种估计通常用来帮助我们了解项目的大致成本和时间，并制定初步的计划。

3. Detailed estimateDetailed estimate是指一种详细估计。

这种估计是在有足够的信息和时间的情况下进行的。

这种估计通常比较精确，可以帮助我们制定更具体的计划和预算。

4. Order-of-magnitude estimateOrder-of-magnitude estimate是指一种数量级估计。

这种估计是在缺乏具体信息的情况下进行的。

它通常是一个粗略的估计，用来确定项目的总体规模和成本。

5. Parametric estimateParametric estimate是指一种参数估计。

这种估计是基于历史数据和统计模型进行的。

它通常比较精确，可以帮助我们预测项目的成本和时间。

三、估计的应用方法1. Expert judgmentExpert judgment是指专家判断。

第三章参数估计

其一是如何给出估计，即估计的方法问题；其二是如何对不同的估计进行评价，即估计的好坏判断标准。
3.1.1 矩估计法
矩估计的思路：样本��阶原点矩�� 作为总体��阶原点矩�� 的估计量，而以样本矩的连续函数作为相应的总体矩的连续函数的估计量。矩估计的依据：样本��阶原点矩�� 依概率收敛于相应的总体��阶原点矩�� 。样本矩的连续函数依概率收敛于相应的总体矩的连续函数。
3.1.2 最大似然估计法
例3.6 考察以下例子：
假设在一个罐中放着许多白球和黑球，并假定已经知道两种球的数目之比是1：3，但不知道哪种颜色的球多。如果用返回抽样方法从罐中任取3个球，则其中黑色的个数为�� 的概率为：
3 �� , �� = ��
3.1.2 最大似然估计法
从上表看到：
�� = 0, �� 0,
1 4 27 64 3 4 1 , 取�� 64 1 4
=
> �� 0,
=
= 更合理；
�� = 1类似；
�� = 2, �� 2,
1 4
=
9 64
< �� 2,
3 4
=
27 , 64
有：
�� + �� = 2��1 , �� − �� = 12(��2 − ��1 2 )
解方程组，得到：
3.1.1 矩估计法

医药数理统计第3章：参数估计

1 n2
n i 1
D(
xi
)
2
n
样本均值 x 标准化后,定理
的结果可转化为:
Z
x / n
~
N (0, 1)
例如: x1,x2,...x10是来自N 5,1简单样本,x是
容量为10的样本均值,则x服从什么分布?并求:
(1)E(x );(2)D(x );(3)P(x 5)
答 : x服从N (5, 1 )的分布 10
临界值
2
(n)
2 0.025
(8)
17.535,
附表4-1
2 0.975
(10)
3.247,
附表4-2
2 0.1
(25)
34.382.
附表4-3
附表5只详列到 n=45 为止.
定理3.3
设x1, x2 ,...,xn是来自正态总体N (, 2 )的样本,
则对于其样本方差s2 , 有
(n 1)s2
的
样
本,
试
求P( s
2 2
1.666)的概率.
解
:
由定理3.3可知
:
(
n
1)s
2
2
~
2 (n 1)
所以P
(
s
2 2
1.666)
15s2
P( 2
151.666)
15s2
P( 2
24.99)
由定理3.3知 : 2
15s2
2
~
2(15)
又由上侧分位数的意义得知,当2 (15) 24.99时, 查表得 0.05
2 (n)分布的概率密度为
p(
x)
n

参数估计的基本方法

E(ˆ) ,即满足无偏性。即方差越小
２．有效性
的估计量就
以抽样指标估计总体指标要求作为越优有良效估计量的
方差应比其它估计量的方差小。
若ˆ1和ˆ2都是的无偏估计量，而
2 ˆ1
2 ˆ2
,则称ˆ1更有效。
一般情况下均可满足
３．一致性作为优良估计量的样本容量充分
大时，抽样指标也应充分地靠近总体指标。
x 148.5 149.5 150.5 151.5 ——
xf 1485 2990 7525 3030 15030
(x x)2 f
32.4 12.8
2 28.8 76
（三）总体比例的区间估计
• 在大样本条件下，若 np 5, nq 5，则样本比例趋近于正态分布。 • 对于给定置信度，有
P { p z / 2
该城市下岗职工
中女性比例的置信区间
解：已知 n=100，p＝65% , 1-= 95%，
z/2=1.96
p z 2
p(1 p) n
65% 1.96 65%(1 65%) 100
65% 9.35%
55.65%,74.35%
该城市下岗职工中女性比例的置信区间为55.65%~74.35%
x
n
•
•x
z / 2 x
=1.96×1=1.96（千克）
• 置信下限为58-1.96=57.04，
• 置信上限为58+1.96=59.96
• 故所求置信区间为（57.04，59.96）千克。
（2）总体方差σ2未知时
用s2代替σ2 ，对于给定的置信度1-α，总体均值的置
信区间为
(x z / 2
lim P(ˆ ) 1 (为任意小的正数)

1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。

• 矩估计(Moment Estimator) • 极大似然估计
(Maximum Likelihood estimator)
• 多项分布的极大似然估计 • 极大似然估计的渐进分布 • 极大似然估计的置信区间解法
2 点估计的常用方法
1）矩估计法
设X 是一随机变量， X1,X2,......Xn是它的一个样本。
若 E X k 存在，则称之为 X 的 k 阶原点矩。记作 V k
若E
XEX
k 存在，则称之为
X
的
k
阶中心矩。记作 U
k
称
Ak

1 n
n i 1
X
k i
为样本的
k
阶原点矩。
称
Bk
1 n
n i1
kXiLeabharlann X 为样本的 k阶中心矩。
矩法估计： V ^ k Ak, U ^ k Bk
P { U 0 .2 5 U 1 0 .7 } 5 1
影响到区间精度的量
1. 数据的分布离散程度
Measured by
2. 样本容量
X = / n
3. 置信水平 (1 - )
Affects Z
X - ZX toX + ZX
© 1984-1994 T/Maker Co.
参数的为泊松分未布知，，现2抽 5本 0查
新出版不同,得的到的以图下书 ,试样估本计
参数（用矩估计法）。
错字 k 数 0 为 12 3456
错字 k 的数书 n k 7 为本 5 90 5数 4 22 621 25
解： 1EX ,
ˆ 0.4247
极大似然估计的理论结果
n(I)(ˆml e) n N(0,1) I()Elog p(x(,))2E2log p2(x(,))
极大似然估计的分布有渐进的正态分布
3.置信区间估计的基本概念
(Confidential Interval)
这个函数为枢轴量定，两选个常c和数d，在
给定的置信水，平有P{cG(,ˆ) d}1 利用以上不等式ˆL解出ˆU
单一总体参数的区间估计
一.总体均值的区间估计
总体服从正态分布,σ2已知时,当
X 1, ,X ni.i.d.~N (,2)时，X~N(,2/n)
n!
m
m
p
xi i
xi ! i1
i 1
m
m
l ( p1,..., pm ) log( n!) log xi! xi log pi
i 1
i 1
m
pi 1
i 1
m
m
m
l( p1,...,pm,) log(n!) logxi! xi logpi ( pi 1)
i1
i1
i1
l( p1,...,pm,)
pi

xi pi
0 pi
xi

,i 1,...,m
m
i1
pi
m
1
i1
xi

1 n
pˆi

xi n
例7:Hardy-Weinberg平衡定律
假定基因的频率在自然界是固定的,基因类型三类:AA,Aa,aa,它们出现的可能性为 (1)2,2(1),2 其中是父代为A的可能性, 1 是父代为a的可能性
3
log(n!) logxi!(2x1 x2)log(1) x2 log2(x2 2x3)log i1
l() 2 X 1 X 2 2 X 3 X 2 0 2 X 3 X 2
1
2 ( X 1 X 2 X 3 )
2 点估计的常用方法
1）矩估计法
设X 是一随机变量， X1,X2,......Xn是它的一个样本。
若 E X k 存在，则称之为 X 的 k 阶原点矩。记作 V k
若E
XEX
k 存在，则称之为
X
的
k
阶中心矩。记作 U
k
称
Ak

1 n
n i 1
X
k i
为样本的

[XZ 2
n,XZ2
] n
注意:有很多满足置信度的置信区间
P { U 0 .5 U 1 0 .5 } x1 _
-2.58x -1.65x
X +1.65x +2.58x
-1P .9{ 6U 0 x.7 5 U 1 0 .2 + 1} 5 .9 61 x
k
阶原点矩。
称
Bk
1 n
n i1
k
Xi X 为样本的 k
阶中心矩。
矩法估计： V ^ k Ak, U ^ k Bk
这是k包个含未知 1，参， k 数的联立方
A1 11 ，2 ，，k
A2
21 ，2 ，，k
b ˆA 1 3(A2A 1 2)X
3n ni1(Xi
X)2
A2

A12
1 n
n i1
Xi2
X21( n n i1
Xi2
nX2)

1 n
n i1
(Xi
X)2
2 点估计的常用方法
2）．极大似然估计法
设总体X的概率分布为Px;或概率密度为 px;
本章大纲
• 点估计的基本概念 • 两种基本的点估计方法
• 矩估计 • 极大似然估计
• 多项分布的极大似然估计 • 极大似然估计的渐进分布
• 置信区间估计的基本概念 • 枢轴量的概念 • 小样本置信区间求法
• 极大似然估计的置信区间解法
• 有效估计和C-R下界 • 充分统计量
• 因子分解定理 • Rao-Blackwell定理
• 枢轴量的概念 • 小样本置信区间求法 • 拔靴法置信区间求法
3. 置信区间估计
置信区间估计的概念
p(x,)
x1,x样2,本,xn
置信度1-α
ˆ1(x1,x2,,xn) ˆ2(x1,x2,,xn)
使得
P { ˆ 1 ( x 1 ,x 2 , ,x n ) ˆ 2 ( x 1 ,x 2 , ,x n ) } 1
（1） n≥30时，只需将σ2由S2代替即可.
( 2 ) n<30时，由 t X ~t(n1)
Sn
所以
P{t t/2}1
即
P{t/2Xt/2}1
Sn
单个总体参数的区间估计举例
[例9]某大学从该校学生中随机抽取30人，调查到他们平均每人每天完成作业时间为120分钟，样本标准差为30分钟，试以95％的置信水平估计该大学全体学生平均每天完成作业时间。
令 X,
A1
1 n n i1
Xi
X
则ˆ x 1(0 7 5 1 9 0 6 1 )1 .22
250
所以估ˆ计 1值 .2。 2
例2 设总 X~U 体 [a,b]a ,,b未,X 知 1, ,Xn是一,个求：a, b的矩估计量。
解：1
2
EXab, 2
1.点估计的基本概念(Point Estimator)
点估计: 就是由样本x1,x2,…xn确定一个统计量

gx1,x2,,xn
用它估计总体的未知参数，称为总体参数的估计量。当具体的样本抽出后，可求得出样本统计量的值。用它作为总体参数的估计值，称作总体参数的点估计值。
2.两种基本的点估计方法
置信区间的含义
样本分布 /2
区间（X ZX ，X + ZX ）
1 -

_
x
/2
_
x =
X
该随机区间以(1 - ) % 包含,以
% 不包含.
构造置信区间的一般方法 (pilot function)
枢 • 1轴 . 量定义：的从一个点估计出发造，构 G(,ˆ),它的分布不依赖于计待参估数，称
单个总体参数的区间估计
[例8]
已知某零件的直径服从正态分布，从该批产品中随机抽取10件，测得平均直径为 202.5mm，已知总体标准差σ=2.5mm，试建立该种零件平均直径的置信区间，给定置信度为0.95。
解：已知 X~N(,2)
X =202.5, n=10, 1－α=0.95

[XZ 2
n,XZ2
] n
单个总体参数的区间估计
20 .5 2 1 .9 62 1 .5,0 20 .5 2 1 .9 62 1 .5 0
即
计算结果为： [200.95,204.05]
单个总体参数的区间估计
σ2未知时

XZ

2
n,XZ2

n
中的σ用
S近似
解：1-α=0.95 tα/2=2.04
X 120S30 30 在95％的置信度下，μ的置信区间为
Xt/2
Sn,Xt/2
S n
单个总体参数的区间估计
二.总体方差的区间估计
由于 (n1)s2 ~2(n1) 2
p 1(n 12)S2
AA Aa aa 合计 342 500 187 1029
需要给出父代的MLE.
解: 对数似然函数为
3
3
l() log(n!) logxi! xi logpi ()
i1

三章参数估计ParametricEstimation

合集下载