参数的矩估计及评价标准
- 格式:pptx
- 大小:437.26 KB
- 文档页数:25
一、参数估计(一)参数估计内涵参数估计(parameter estimation )是根据从总体中抽取的样本估计总体分布中包含的未知参数的方法。
它是统计推断的一种基本形式,是数理统计学的一个重要分支,分为点估计和区间估计两部分。
(二)估计量的评价准则对于同一参数,用不同方法来估计,结果是不一样的。
例1 设总体X 服从参数为λ的泊松分布,即,2,1,0,!}{===-k k ek X P kλλ则易知λλ==)(,)(X D X E ,分别用样本均值和样本方差取代)(X E 和)(X D ,于是得到λ的两个矩估计量21ˆ,ˆS X ==λλ. 既然估计的结果往往不是唯一的,那么究竟孰优孰劣?这里首先就有一个标准的问题。
1、 无偏性(Unbiased)定义1 设),,,(ˆˆ21nX X X θθ=是θ的一个估计量,若对任意的Θ∈θ,都有θθθ=)ˆ(E ,则称θˆ是θ的无偏估计量(Unbiased estimator),如果 0)(lim )),,,((lim 21=∆-∞→∧∞→θθθδn n n n b X X X E则称θˆ是θ的渐近无偏估计量(Approximation unbiased estimator),其中)(θn b 称为是θˆ的偏差(affect)。
无偏性反映了估计量的取值在真值θ周围摆动,显然,我们希望一个量具有无偏性。
例2 X 是总体期望值μ=)(X E 的无偏估计,因为μμ===⎪⎭⎫ ⎝⎛=∑∑==n n X E n X n E X E ni i n i i 1)(11)(112、 最小方差性和有效性(Minimum Variance and efficiency) 前面已经说过,无偏估计量只说明估计量的取值在真值周围摆动,但这个“周围”究竟有多大?我们自然希望摆动范围越小越好,即估计量的取值的集中程度要尽可能的高,这在统计上就引出最小方差无偏估计的概念。
定义2 对于固定的样本容量n ,设),,,(21n X X X T T =是参数函数)(θg 的无偏估计量,若对)(θg 的任一个无偏估计量),,,(21n X X X T T '='有Θ∈≤θθθ对一切),'()(T D T D则称),,,(21n X X X T 为)(θg 的(一致)最小方差无偏估计量,简记为UMVUE(Uniformly Minimum Variance Unbiased Estimation)或者称为最优无偏估计量。
矩估计法的公式摘要:一、矩估计法简介1.矩估计法的概念2.矩估计法在统计学中的应用二、矩估计法公式1.矩的定义2.矩估计法的推导过程3.常见矩估计量及其公式三、矩估计法的性质与特点1.矩估计量的性质2.矩估计法的优点与局限性四、矩估计法在实际问题中的应用1.参数估计问题2.假设检验问题正文:一、矩估计法简介矩估计法是一种常用的参数估计方法,它基于样本数据对未知参数进行估计。
矩估计法的核心思想是通过样本数据的矩(如均值、方差等)来估计总体的矩,从而得到参数的估计值。
矩估计法在统计学中有着广泛的应用,例如在区间估计、假设检验等问题中都有涉及。
二、矩估计法公式1.矩的定义矩是描述数据分布特征的一个量,它反映了数据围绕均值分布的情况。
对于连续型随机变量,其矩的定义如下:μk = E(X^k) = ∫x^kf(x)dx,k∈N其中,E(X^k) 表示随机变量X 的k 阶矩,f(x) 表示X 的概率密度函数,∫表示积分。
2.矩估计法的推导过程设总体分布为F(x),参数为θ,根据矩的定义,我们有:E(X) = ∫xf(x;θ)dx = μθ其中,μθ表示总体均值,μ表示样本均值,θ表示参数。
根据样本数据,我们可以得到n 个样本观测值x1, x2, ..., xn,对应的样本矩为:S_n = (x1^2 + x2^2 + ...+ xn^2) / n对S_n 求导,可得:dS_n/dθ = 2(x1 + x2 + ...+ xn) / n令dS_n/dθ = 0,解得:θ= μ = (x1 + x2 + ...+ xn) / n因此,我们可以用样本均值μ作为参数θ的估计值。
3.常见矩估计量及其公式除了均值,还有其他一些常见的矩估计量,如方差、协方差等。
这里列举一些常见的矩估计量及其公式:- 样本均值:μ = (x1 + x2 + ...+ xn) / n- 样本方差:s^2 = (Σ(xi - μ)^2) / (n - 1)- 样本标准差:s = √s^2- 样本相关系数:r = Σ(xi - μ)(yi - μ) / (s * s")三、矩估计法的性质与特点1.矩估计量的性质矩估计量具有良好的性质,如无偏性、有效性、一致性等。
第二章 参数估计【学习目标】1、掌握矩估计的替代原则;会求已知分布中未知参数的矩估计(值)2、熟练掌握极大似然估计的思想及求法3、估计量的评价标准:无偏性、有效性、相合性的定义4、统计量的无偏性的判断;两个无偏估计的有效性判断;会用Fisher 信息量及c-R 下界进行统计量的UMVUE 充分性判断5、掌握区间估计的定义6、单个正态总体均值的区间估计(包括方差已知、方差未知);单个正态总体方差的区间估计(包括均值已知、均值未知)7、两个正态总体均值差的区间估计(方差未知);两个正态总体方差比的区间估计 8、单侧置信区间的求法 【典型例题讲解】例1、设1,,n X X 是来自均匀分布(,1)U θθ+的总体的容量为n 的样本,其中θ-∞<<+∞为未知参数,试证:θ的极大似然估计量不止一个,例如1(1)ˆXθ=,2()ˆ1n X θ=-,3(1)()11ˆ()22n XXθ=+-都是θ的极大似然估计。
解:(,1)U θθ+分布的密度函数为11()0x f x θθ≤≤+⎧=⎨⎩其他似然函数(1)()11()0n x x L θθθ≤≤≤+⎧=⎨⎩其他由于在(1)()1n x x θθ≤≤≤+上()L θ为常数,所以凡是满足:(1)()ˆˆ1n x x θθ≤≤≤+的ˆθ均为θ的极大似然估计。
从而(1)1(1)ˆX θ=满足此条件,故1(1)ˆX θ=是θ的极大似然估计;(2)由于()(1)1n X X -≤,故2()(1)()2ˆˆ11n n X X X θθ=-≤≤=+,所以2()ˆ1n Xθ=-为θ的极大似然估计;(3)由于()(1)1n X X -≤,故(1)()(1)12n X X X +-≤,(1)()()12n n X X X ++≥,从而有3(1)()(1)()(1)()31111ˆˆ()()12222n n n XXXXXXθθ=+-≤≤≤++=+,故3ˆθ也为θ的极大似然估计。
第七章: 参数估计
7.1 矩估计
7.2 极大似然估计
7.3 估计量的优良性准则
7.4 正态总体的区间估计(一) *7.5 正态总体的区间估计(二) *7.6 非正态总体的区间估计
第七章: 参数估计
数理统计的任务:
●总体分布类型的判断;
● 总体分布中未知参数的推断(参数估计与
假设检验)。
参数估计问题的一般提法
设总体 X 的分布函数为 F ( x , θ ),其中θ 为未知参数或参数向量,现从该总体中抽样,得到样本
X 1, X 2 , … , X n .
依样本对参数θ 做出估计,或估计参数 θ 的某个已知函数 g (θ ) 。
这类问题称为参数估计。
参数估计包括:点估计和区间估计。
称该计算值为θ的一个点估计。
为估计参数θ,需要构造适当的统计量 T ( X 1, X 2 , … , X n ),
一旦当有了样本值,就将样本值代入到该统计量中,算出一个值作为θ的估计,点估计:
θ
θˆ的点估计常用符号为
寻求估计量的方法
1. 矩估计法
2. 极大似然法
3. 最小二乘法
4. 贝叶斯方法…
我们仅介绍前面的两种参数估计法。
提出。
矩估计的优点是:简单易行, 不需要事先知道总体是什么分布。
缺点是:当总体的分布类型已知时,未充分利用分布所提供的信息;此外,一般情形下,矩估计不具有唯一性 。