当前位置：文档之家 › 上海海事大学概率论第七章参数估计精品教育文档

上海海事大学概率论第七章参数估计精品教育文档

  • 格式：ppt
  • 大小：686.51 KB
  • 文档页数：48

下载文档原格式

  / 48

合集下载

《概率论与数理统计》参数估计

《概率论与数理统计》参数估计

第七章 参数估计
§1 点估计
§2 估计量的评选标准 §3 区间估计
目 录
前一页
后一页
退 出
第七章 参数估计
§1 点估计 •点估计 •矩法 •极大似然法
目 录
前一页
后一页
退 出
第七章 参数估计
一、点估计问题
§1 点估计
设总体X的分布函数F ( x; )的形式为已知， 是待 估参数。X 1 , , X n 是X的 一 个 样 本 ， x1 , , x n 是 相 应的样本值。
l
设 EX l 存在 , l 1,2,, k
则 l l (1 ,, k ), l 1,2,, k .
令 Al l ,
1 n l l 1,, k , 其 中 Al X i n i 1
目 录 前一页 后一页 退 出
第七章 参数估计
§1 点估计
解：
ab 1 EX , 2 2 2 2 ( b a ) ( a b ) 2 EX DX ( EX ) 2
ab A1 2
12
4
令
即 a b 2 A1 ,
b a 12( A2 A12 )
目 录 前一页 后一页 退 出
(b a ) 2 (a b) 2 A2 12 4
1 x x e dx 解：EX xf x dx x 0

1 1 ( 1) 1 x x e dx 0 1 1
目 录
前一页
后一页
退 出
第七章 参数估计
二、 矩估计法 设X为连续型随机变量，其 概率密度为

概率论与数理统计--第七章 参数估计(7.5和7.7)_OK

概率论与数理统计--第七章 参数估计(7.5和7.7)_OK
这个误差的可信度为95%.
2021/8/23
9
例3 (续例1)如果只假设糖包的重量服从正态分布
N(, 2), 试求糖包重量 的 95%的置信区间. 解 此时未知, n 12,
0.05, x 502.92, s 12.35,
附表3-2
查 t(n 1) 分布表可知: t0.025(11) 2.201,
2021/8/23
26
F / 2(n1 1, n2 1) F0.05(17, 12) 2.59,
F1
/ 2(17,
12)
F0.95(17,
12)
1 F0.05 (12,
17)
1, 2.38
于是得
2 1
2 2
的一个置信度为
0.90
的置信区间
0.34 0.29
1 2.59
,
0.34 0.29
514 505 493 496 506 502 509 496
设袋装糖果的重量服从正态分布, 试求总体均值
的置信度为0.95的置信区间.
解 0.05, n 1 15,
附表3-1
查 t(n 1) 分布表可知: t0.025(15) 2.1315,
计算得 x 503.75, s 6.2022,
解 10, n 12,
计算得 x 502.92,
(1) 当 0.10时, 1 0.95,
2 查表得 z / 2 z0.05 1.645,
附表2-1
2021/8/23
3
x
n
z
/
2
502.92
10 1.645 498.17, 12
x
n
z
/2
502.92

最新课件-概率论第七章参数估计 推荐

最新课件-概率论第七章参数估计 推荐

Xi
ˆ 2 n 1 S 2
n
机动 目录 上页 下页 返回 结束
⑵ 若X为离散型随机变量，设其分布律为
pi P{X xi} p(x,1,
,s ) , 1,
,
未知
s
A1 1
令
A2
2
As s
求i ，其中 X1,
,
X
为样本，
n
x1,
, xn 为样本值，
Ak
1 n
n i1
X
k i
n
k E( X k ) xik p(xi ,1, s )
解 ：令
A1 A2
1 2
其中
1 E(X )
2 E(X 2) D(X ) E2(X ) 2 2
则
1 n
n i1
Xi
2
2
1 n
n i1
X
2 i
机动 目录 上页 下页 返回 结束
解得数学期望 和方差 2的矩估计量分别为
ˆ
1 n
n i1
Xi
ˆ 2
1 n
n i1
(Xi
X )2
x!
⑴ X 为离散型
分布律为 pi p(xi , ) ，其中θ未知。 X1, X 2, , X n
为X 的样本， x1, x2, , xn 为X 的样本值，
记为
—— 样本的似然函数
满足条件:
ˆ(x1, , xn ) 为θ的最大似然估计值；
ˆ( X1, , X n )为θ的最大似然估计量；
具体算法：
为X 的一个样本，求 a,b的矩估计量。
解 1 E(X ) (a b) / 2
2
E(X
2)
D( X

概率论第七章参数估计

概率论第七章参数估计

们就将使得L取到最大值的参数值 ˆ1,ˆ2 , ,ˆk
称为1,2 ,
,
的极大似然估计值。
k
共三十七页
定义 : 如果似然函数 L(1,2 , ,k )在ˆi (x1, x 2 , , xn ) 处取最大值, 则称ˆi为i的极大似然估计值，而相 应的统计量 ˆi ( X1, X 2 , , X n ) (i 1, 2, , k)称为参 数i的极大似然估计量。
其中
f
(x,
2)
x
2
e
x2
2 2
,
x
0
0 , x 0
求 2的矩估计。
例4.设总体X ~ f (x, ) 1 e|x|， x 2
( X1, X 2 , , X n )是来自总体X的样本，
求的矩估计。
共三十七页
三、极大(jí dà)似然估计方法:
定义：总体X ~ f (x;1, 2 ,k ), 其中1, 2 ,k 是
例9.设总体X服从[θ,θ+1]区间上的均匀分布, 求的极大(jí dà)似然估计。
共三十七页
极大(jídà)似然估计的性质:
设的函数u u( ), 具有单值反函数 (u), u ,ˆ是参数的极大似然估计, 则uˆ u(ˆ)是u( )的极大似然估计。
例如，例8中参数θ的方差DX的极大似然估计
S n
t
2
,
X
S
n
t
2
n 1
(Xi
)2
2
(n)
,
2
n 1
(Xi
)2
2 1
(n)
2
(n
2
2
1)S 2 (n 1)
,
(n 1)S

概率论第七章_课件1_

概率论第七章_课件1_
E(X1r)=E(X2r)==E(Xnr)= E(Xr)= r .
根据大数定律, 样本原点矩Ar作为 X1r,X2r, ,Xnr的算术平均值依概率收敛到均
值 r=E(Xr)， 即:
1
n
n i 1
X
r i
P
E(X
r)

r
7-13
例3 设总体 X ~ N ( , 2 ), X1, X2,…, Xn为总体的
P(X x) p(x, ), x u1, u2, ,
X1, X2,…, Xn为总体 X 的样本, x1, x2,…, xn为总体 X 的样本值,
则X1, X2,…, Xn的联合概率分布为：
P( X1 x1, X2 x2 , , Xn xn )
p( x1, ) p( x2 , ) p( xn , )
7-1
第七章
统计 推断
DE 基本 问题
参数估 计问题
7-2
点估计 区间估 计
假设检 验问题
什么是参数估计？
参数是刻画总体某方面的概率特性的数量.
当这个数量是未知的时候，从总体抽出一个 样本，用某种方法对这个未知参数进行估计 就是参数估计.
例如，X ~N ( , 2), 若, 2未知，通过构造样本的函数, 给出它
ˆ1 ˆ1(x1, x2 , , xn )
ˆ2 ˆ2 (x1, x2 , , xn )

——未知参数1,2, ,k
的矩估计值
ˆk ˆk (x1, x2 , , xn )
矩方法的原理解释
∵ X1, X2 , , Xn 是独立同分布的. ∴ X1r,X2r, ,Xnr也是独立同分布的. 于是有:

上海海事大学概率论第七章参数估计

上海海事大学概率论第七章参数估计


X
)2

1 n
n i1
X
2 i
(
X
)2
例7
X～
f
(
x
)

1

e(
x
)

,
x
,为未知参数
0 ,
其它
其中 >0,求 , 的极大似然估计。
n
解：L( , ) f ( xi ; , )
i1

n 1

i
1

e(
xi
)
，
xi


... ...

k hk 1,...,k
3. 得

ˆ1

h1
ˆ1,...,ˆk

... ...
ˆk hk ˆ1,...,ˆk
其中
ˆk

1 n
n i 1
X
k i
最常用的是： !!!!p151
用
A1

1 n
n i1
Xi

X
估计 1 E( X )
似然函数
称满足
L(ˆ , x1 , x2 ,…, xn
)
max
L(

,
x1
,
x2
,…,
xn
)
的 ˆ( x1 , x2 ,…, xn ) 为 的极大似然估计值。
称 ˆ( X1 , X2 ,…, Xn )为 的极大似然估计
量（MLE）.
例4 设总体 X ~ b ( 1, p ),X1,…,Xn是一个样 本，求参数 p 的极大似然估计.
解:
1 E( X )

概率论与数理统计第七章参数估计演示文档

概率论与数理统计第七章参数估计演示文档

概率论与数理统计第七章参数估计演示文档参数估计是概率论与数理统计中的重要内容之一，是通过样本数据来推断总体参数的方法。

在实际应用中，参数估计广泛应用于市场调查、医学研究、经济预测等领域。

本文将以一些常用的参数估计方法为例，进行演示说明。

首先，我们介绍最常见的点估计方法，矩估计。

矩估计是通过样本矩来估计总体矩。

以正态分布的均值和方差为例，假设我们有一个样本数据集，通过计算样本均值和样本方差，可以分别得到正态分布的均值和方差的矩估计值。

接下来我们介绍第二种常见的点估计方法，最大似然估计。

最大似然估计是通过找到使得观察到的样本数据出现的概率最大的参数值。

以二项分布的成功概率为例，假设我们有一组二项分布的观察数据，通过计算二项分布的似然函数，并求导得到其极大值点，可以得到二项分布的成功概率的最大似然估计值。

此外，假设检验是参数估计的重要应用。

在进行参数估计时，我们常常需要进行假设检验来判断参数估计是否具有统计意义。

以均值的假设检验为例，假设我们有两组样本数据，通过计算样本均值和样本方差，可以得到均值的矩估计值。

然后，我们可以利用假设检验的方法，比较这两个样本的均值，从而判断两个样本是否具有统计意义上的差异。

最后，我们介绍一种常用的参数区间估计方法，置信区间估计。

置信区间估计是通过样本数据得到一个区间，该区间内的参数值有一定的置信度。

以总体均值的置信区间估计为例，假设我们有一组样本数据，通过计算样本均值和样本标准差，可以得到总体均值的点估计值。

然后，我们可以利用参数估计的理论知识，计算得到总体均值的置信区间，从而对总体均值进行估计。

综上所述，参数估计是概率论与数理统计中的重要内容，应用广泛。

通过点估计方法可以从样本数据中推断总体参数的值，通过假设检验可以判断参数估计的统计意义，通过置信区间估计可以得到参数值的置信区间。

这些参数估计方法为我们提供了在实际问题中进行估计和推断的依据，使我们能够更好地理解和分析数据。

第7章 参数估计概率论课件

第7章 参数估计概率论课件
ˆ ˆ ˆ (3) 解出其中1,2 ,,k , 用1,2 ,,k 表示.
ˆ ˆ ˆ (4) 用方程组的解 1,2 ,,k 分别作为 1 ,2 ,,k
的估计量，这种估计量称为矩估计量. 矩估计量
的观察值称为矩估计值.
设 总 体X 在 [a , b] 上 服 从 均 匀 分 布 中a , ,其 例2 b 未 知, ( X 1 , X 2 ,, X n ) 是 来 自 总 体 的 样 本 求a , X , b 的矩估计量 .
解
a b 2 E ( X ) D( X ) [ E ( X )]
2
2
ab , 1 E(X ) 2
n
2
ab 1 令 A1 X i , 2 n i 1
12
a b
4
2
,
1 n (a b)2 (a b)2 2 A2 X i , n i 1 12 4
形式已知,θ为待估参数,
n
( X1 , X 2 ,, X n )
是总体X的一个样本，则样本 X1 , X 2 ,, X n 的 分布律为 p( xi ; ) , 当给定样本值 ( x1, x2 ,, xn )
i 1
后, 则样本 X1 , X 2 ,, X n 取到观察值 x1 , x2 ,, xn 的概率为 L( ) p( xi ; ) ,
2 i 1
n
1 e 2π
( xi )2 2 2
,
n n 1 n 2 2 2 ln L( , ) ln( 2 π) ln ( xi ) , 2 2 2 2 i 1
ln L( , 2 ) 0 令 ln L( , 2 ) 0 2

《概率论与数理统计》课件第七章 参数估计

《概率论与数理统计》课件第七章 参数估计
添加标题
03
若存在, 是否惟一?
添加标题
1
2
3
4
5
6
对于同一个未知参数,不同的方法得到的估计量可能不同,于是提出问题
应该选用哪一种估计量? 用何标准来评价一个估计量的好坏?
常用标准
(1)无偏性
(3)一致性
(2)有效性
7.2 估计量的评选标准
无偏性
一致性
有效性
一 、无偏性
定义1 设 是未知参数θ的估计量
09
则称 有效.
10
比
11
例4 设 X1, X2, …, Xn 是X 的一个样本,
添加标题
问那个估计量最有效?
添加标题
解 ⑴
添加标题
由于
添加标题
验证
添加标题
都是
添加标题
的无偏估计.
都是总体均值
的无偏估计量.
故
D
C
A
B
因为
所以
更有效.
例5 设总体 X 的概率密度为
关于一致性的两个常用结论
1. 样本 k 阶矩是总体 k 阶矩的一致性估计量.
是 的一致估计量.
由大数定律证明
用切比雪夫不 等式证明
似然函数为
其中
解得参数θ和μ的矩估计量为
2
时
3
令
1
当
6
，故
5
，表明L是μ的严格递增函数，又
4
第二个似然方程求不出θ的估计值，观察
添加标题
所以当
01
添加标题
从而参数θ和μ的最大似然估计值分别为
03
添加标题
时L 取到最大值
02
添加标题

第七章 参数估计ppt课件

第七章 参数估计ppt课件

ˆ lim P ( ) 1
n
0 ，则称 ˆ 为θ的一致估计量
31
随着样本容量增大，估计量会越来越接近 被估计的参数。即对任意的>0，有
n
ˆ l i m{ P | | } 1
则称 ˆ 是参数θ的一致估计量。 一致估计量是大样本所呈现的性质。若某
是总体X 的一个容量
1 ˆ X X X ) 1 ( 1 2 3 3
1 ˆ 2 X 3 X X ) 2 ( 1 2 3 6
是总体均值 的估计量，它们是无偏估计 量吗？若是，哪一个更有效。
30
三、一致性
设 ˆ 为未知参数θ的估计量，当 n 时， ˆ按 概率收敛于θ。即
n
2 ( x ) i 2 2


1n X X , ˆ 解方程组，得 i i 1 n
1n 2 2 X X ˆ i i 1 n 20
2
21
7.1.4 评价估计优良的准则
无偏性 有效性 一致性
22
一、无偏性
设 ˆ 为未知参数θ的估计量，若
离 散 型 (, ) x ( X x ) j 1 , k i p i
j i 1
j
n
8
例如0-1分布的数学期望（一阶原点矩）为p， x , x , , x ) 在总体中抽出随机样本 ( , 则样本平均数 1 2 n （样本的一阶原 点矩）
为
1n p xi n i1
26
, 2 , ,X 设 XX 1 n 是总体X的样本
ˆ X 1 1
1 ˆ 2 xi n
ห้องสมุดไป่ตู้ ,ˆ

上海海事大学 概率论 第七章 参数估计(5-7)

上海海事大学 概率论 第七章 参数估计(5-7)

或： X ±
tα 2 ( n − 1)
(续例 (2)若σ未知 求总体 的90％置信区间 续例1) 若 未知,求总体 求总体µ的 ％置信区间. 续例 未知时,µ的置信度为1−α −α的置信区间为 解: σ未知时 µ的置信度为 −α的置信区间为
这里
S S [X − tα /2 (n −1), X + tα /2 (n −1) ]。 n n
对给定的置信度确定分位数的置信度为1的置信区间为这里0975156262的置信度为95的置信区间为150002915000292748862620012700265两个总体的情况两个总体均值差的置信区间为提高某一化学生产过程的得率试图采用一种新的催化剂
§5 正态总体均值与方差的区间估计
σ 2已知 2 µ的置信区间 单个总体N ( µ ,σ ) σ 2未知 2 σ 的置信区间:µ未知
引入单侧置信区间和置信限的定义： 引入单侧置信区间和置信限的定义： 一个待估参数， 设 θ 是 一个待估参数，给定 α > 0, 若由样本 X1,X2,…Xn 确定的统计量
解： 置信区间为： 置信区间为： − Y ± tα ( n1 + n2 − 2 )S w X
2
1 1 + n1 n2
现在
2 2 ( n1 − 1 )s1 + ( n2 − 1 )s2 2 sw = = 3.96 n1 + n2 − 2
故所求的置信区间为：
1 1 02 2. 13） 13 + x1 − x2 ± t0.025 ( 14 )sw = －2. ± 2. ）， （ 8 8
2 2 两个总体N ( µ1 ,σ 1 ), N ( µ 2 ,σ 2 )

概率论7-1

概率论7-1

问: 所取的球来自哪一箱？ 答: 很可能第一箱.
例 设总体 X 服从0-1分布,且P{X=1}=p,用极大似 然法求p的估计值.
解 总体 X 的概率分布为
P{X x} p x (1 p)1x , x 0,1
设 x1, x2,…, xn为总体样本X1, X2,…, Xn的样
解
由于
1
E(
X
)
2
,
21
又样本的一阶矩为
A1
1 n
n i 1
Xi
X,
由矩法估计，令A1代替θ1 ，可得 θ的矩估计量为
^
2X
参数的极大似然估计法
思想方法：一次试验就出现的 事件有较大的概率
例如: 有两外形相同的箱子,各装100个球
一箱 99个白球
1 个红球
一箱 1 个白球 99个红球
现从两箱中任取一箱, 并从箱中任取一球, 结果所取得的球是白球.
P
Ak
1 n
n i 1
Xik
结论： Ak k (n ), k 1, 2,
原因：辛钦大数定律
作用： 矩估计法的理论依据
参数的矩法估计
矩法估计：用样本的矩作为总体矩的估计量，具体
做法如下
1 1(1, k )
2
2 (1,
k )
k k (1, k )
这里总体X的分布函数中含有k个参数。从上式中解出这 k个参数可得
参数的矩法估计
从上式中解出这k个参数可得
1 1(1, k )
2
2 (1,
k )
k k (1,
用Ai分别代替上式中的μi
^
1
1
(
A1,
Ak )
k )
  1. 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
  2. 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
  3. 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
参数估计
点估计
参数估计 区间估计
§1 点估计
例1 已知某地区大学生的身高 X~ N( , 2 ), , 2未知,
随机抽查100个大学生得100个 身高数据。
据此,我们应如何估计 和 呢?
为估计 ,我们需要构造出适当的
一般地,设总体Xf(x;θ), 其中 1,,...,k
求参数θ 的矩估计的一般步骤为:
1. 令
2.解:

1

E
X

...
g1 ...
1,...,k

k E Xk gk 1,...,k


1


h1 1,...,
... ...
n i1
n
Xi22X
i1
Xi nX2)

1 n
n i1
Xi2

X2
ˆ
1 n
n i1
(
Xi
X
)2
ˆ X
1n ni1(Xi
X)2
EX:例1
矩法的优点是简单易行,并不需要 事先知道总体是什么分布 。
缺点是，当总体类型已知时，没有 充分利用分布提供的信息 . 一般场合下, 矩估计量不具有唯一性 。
个数常称为 的估计值 。
问题是: 使用什么样的统计量去估计？
寻求估计量的方法：
1. 矩估计法 2. 极大似然法
3. 最小二乘法 4. 贝叶斯方法
……
1. 矩估计法
矩估计法是英国统计学家K.皮尔逊 最早提出的基于一种简单的“替换”思 想建立起来的一种估计方法 .
其基本思想是用样本矩估计总体矩 。
n i1
Xi
ˆ
1n
ni1Xi
n 1i n1Xi2(n 1i n1Xi )2
其 中 ：ˆ n 1i n1Xi2(n 1i n1Xi )2
？

1 n
n i1
(
Xi

X
)2
n1in1(Xi2 2XXi X2 )

1n (
即，已发生的事件具有最大概 率。
先看一个简单例子： 在军训时，某位同学与一位教官同
时射击，而在靶纸上只留下一个弹孔。
22E(X) 2 2 ( ) ( )2 2
令 ：
A1
1 n
n i1
xi

1


A 2

1 n
n i1
x
2 i

2
(
)2 2
解 得 ：ˆ n 1i n1Xi2(n 1i n1Xi )2
ˆ

1 n
代入该函数中算出一个值，用来作为 的
估计值 .
T( X1 , X2 , …Xn ) 称为参数 的点估计量，
把样本值代入T( X1 , X2 , …Xn ) 中，
得到 的一个点估计值 。
请注意，被估计的参数 是一个
未知常数，而估计量 T(X1,X2,…Xn) 是一个随机变量，是样本的函数,当 样本取定后，它是个已知的数值,这
用
A2

1 n
n i1
Xi2
估计2E(X2)
用B2 n1in1(Xi X)2
n1in1Xi2(n1in1Xi )2
估 计 2D(X)
E(X2)(E(X))2
2 12
例2 设总体X的概率密度为
f(x)(1)x,
0,
0x1 其它
其中 1
是未知参数,
X1,X2,…,Xn是取自X的样本,求参数 的矩估计.
解: 1E (X)0 1x(1)xdx
(1)01 x1dx 2 1
从 中解得
21 1 1 1
由矩法, 令A1X1
得：
ˆ 2 X 1 ,
1 X
即为 的矩估计.
21 1 1 1
例3 设X1,X2,…Xn是取自总体X的一个样本
X~f(x) 1e(x), x ,为 未 知 参 数
0,
其 它
其中 >0,求 , 的矩估计.
解:
1 E (X ) x f(x )d x x 1 e (x )/d x xde(x)/
第七章 参数估计
在参数估计问题中，假定总体分 布形式已知，未知的仅仅是一个或几 个参数。
例如：
估计大学生的平均身高
参数估计问题的一般提法
设有一个统计总体，总体的分布函数
为 F(x, )，其中为未知参数 (可以是
向量) . 现从该总体抽样，得样本
（ X1, X2 , … , Xn ）
要依据该样本对参数 作出估计，或估计 的某个已知函数 g ( ) 。这类问题称为：
记总体k阶矩为 k E(Xk)
样本k阶矩为 Ak

1 n
i
n 1
X
k i
记总体k阶中心矩为 kE[XE(X)k]
样本k阶中心矩为
Bk

1n (
ni1
Xi

X
)k
Ak P k B k P k
理论依据: 大数定律
用相应的样本矩去估计总体矩 的估计方法就称为矩估计法。

xe(x)/ e(x)/dx
2 E (X 2) x 2 f(x ) d x x 21 e (x )/d x
x2de(x)/
x 2 e (x )/ 2 x e (x )/d x
例如:总体X~ ( ) ,A1,B2 都是 的矩估计。
2. 极大似然法
在总体类型已知条件下使用的一种 参数估计方法 。
它首先是由德国数学家Gauss在 1821年提出的 ,Fisher在1922年重新发现 了这一方法，并首先研究了这 种方法的 一些性质 。
极大似然法的基本思想：
极大似然原理
k

k hk 1,..., k
3. 得

ˆ1

h1 ˆ1 , ..., ˆ k

... ...
ˆk hk ˆ1 , ..., ˆ k
其中
ˆ k

1 n
n i 1
X
k i
最常用的是： !!!!p151
用A1 n1in1Xi X 估 计1E(X)