当前位置：文档之家 › 应用多元统计分析 第二章正态分布的参数估计答案

应用多元统计分析 第二章正态分布的参数估计答案

  • 格式：doc
  • 大小：310.00 KB
  • 文档页数：7

练习二 多元正态分布的参数估计2.1.试叙述多元联合分布和边际分布之间的关系。

解：多元联合分布讨论多个随机变量联合到一起的概率分布状况，12(,,)p X X X X '=的联合分布密度函数是一个p 维的函数，而边际分布讨论是12(,,)p X X X X '=的子向量的概率分布，其概率密度函数的维数小于p 。

2.2设二维随机向量12()X X '服从二元正态分布，写出其联合分布。

解：设12()X X '的均值向量为()12μμ'=μ，协方差矩阵为21122212σσσσ⎛⎫ ⎪⎝⎭，则其联合分布密度函数为1/21222112112222122121()exp ()()2f σσσσσσσσ--⎧⎫⎛⎫⎛⎫⎪⎪'=---⎨⎬ ⎪⎪⎝⎭⎝⎭⎪⎪⎩⎭x x μx μ。

2.3已知随机向量12()X X '的联合密度函数为121212222[()()()()2()()](,)()()d c x a b a x c x a x c f x x b a d c --+-----=-- 其中1a x b ≤≤，2c x d ≤≤。

求（1）随机变量1X 和2X 的边缘密度函数、均值和方差； （2）随机变量1X 和2X 的协方差和相关系数； （3）判断1X 和2X 是否相互独立。

（1）解：随机变量1X 和2X 的边缘密度函数、均值和方差；112121222[()()()()2()()]()()()d x cd c x a b a x c x a x c f x dx b a d c --+-----=--⎰12212222222()()2[()()2()()]()()()()dd c c d c x a x b a x c x a x c dx b a d c b a d c -------=+----⎰ 121222202()()2[()2()]()()()()dd c c d c x a x b a t x a t dt b a d c b a d c ------=+----⎰ 2212122222()()[()2()]1()()()()d cdc d c x a x b a t x a t b a d c b a d c b a------=+=----- 所以由于1X 服从均匀分布，则均值为2b a+，方差为()212b a -。

同理，由于2X 服从均匀分布[]2121,()0x x c d f x d c⎧∈⎪=-⎨⎪⎩其它，则均值为2d c+，方差为()212d c -。

（2）解：随机变量1X 和2X 的协方差和相关系数；12cov(,)x x12121212222[()()()()2()()]22()()dbca d c x ab a xc x a x c a bd c x x dx dx b a d c --+-----++⎛⎫⎛⎫=-- ⎪⎪--⎝⎭⎝⎭⎰⎰ ()()36c d b a --=1212cov(,)13x xx x ρσσ==（3）解：判断1X 和2X 是否相互独立。

1X 和2X 由于121212(,)()()x x f x x f x f x ≠，所以不独立。

2.4设12(,,)p X X X X '=服从正态分布，已知其协方差矩阵∑为对角阵，证明其分量是相互独立的随机变量。

解： 因为12(,,)p X X X X '=的密度函数为1/2111(,...,)exp ()()2pp f x x --⎧⎫'=---⎨⎬⎩⎭Σx μΣx μ 又由于21222p σσσ⎛⎫⎪ ⎪= ⎪ ⎪ ⎪⎝⎭Σ 22212pσσσ=Σ 212122111p σσσ-⎛⎫ ⎪ ⎪ ⎪ ⎪=⎪ ⎪ ⎪ ⎪ ⎪⎝⎭Σ 则1(,...,)p f x x211/2222212122111exp ()()21pp p σσσσσσ--⎧⎫⎛⎫⎪⎪ ⎪⎪⎪ ⎪⎪⎪ ⎪⎪⎪ ⎪'==--=-⎨⎬⎪⎪⎪ ⎪⎪⎪ ⎪⎪⎪ ⎪⎪⎪⎪⎝⎭⎩⎭Σx μΣxμ ()222123111222212()()()111exp ...222pp p p p x x x μμμσσσσσσ-⎧⎫---⎪⎪=----⎨⎬⎪⎪⎩⎭2121()()...()2pi i p i i x f x f x μσ=⎧⎫-=-=⎨⎬⎩⎭则其分量是相互独立。

2.5由于多元正态分布的数学期望向量和均方差矩阵的极大似然分别为1ˆni i n ===∑μX X 1ˆ()()n i ii n ='=--∑ΣX X X X 35650.0012.33ˆ17325.00152.50⎛⎫⎪ ⎪== ⎪ ⎪ ⎪⎝⎭μX 201588000.0038900.0083722500.00-736800.0038900.0013.06716710.00-35.80ˆ83722500.0016710.0036573750.00-199875.00-736800.00-35.800-199875.0016695.10⎛⎫⎪⎪= ⎪ ⎪⎪⎝⎭Σ2.6 渐近无偏性、有效性和一致性；2.7 设总体服从正态分布，~(,)p N X μΣ，有样本12,,...,n X X X 。

由于X 是相互独立的正态分布随机向量之和，所以X 也服从正态分布。

又()111()n nni i i i i E E n E n n ===⎛⎫==== ⎪⎝⎭∑∑∑X X X μμ()2211111()n nn i i i i i D D n D n n n ===⎛⎫==== ⎪⎝⎭∑∑∑ΣX X X Σ所以~(,)p N X μΣ。

2.8 方法1： 11ˆ()()1ni i i n ='=---∑ΣX X X X 111ni i i n n =''=--∑X X XX 11ˆ()()1ni i i E E n n =''=--∑ΣX X XX()()111n i i i E nE n =⎡⎤''=-⎢⎥-⎣⎦∑X X XX 111(1)11n i n n n n n =⎡⎤=-=-=⎢⎥--⎣⎦∑ΣΣΣΣ。

方法2：1()ni i i ='=∑S X -X)(X -X1((ni i i ='⎡⎤⎡⎤=----⎣⎦⎣⎦∑X -μX μ)X -μX μ)11()()2()()()nni i i i i n =='''=-+--∑∑X -μX -μX -μX -μX μ)(X μX μ1()()2()()ni i i n n ='''=---+--∑X -μX -μX μ)(X μX μ)(X μ1()()()ni i i n =''=---∑X -μX -μX μ)(X μ11()()()()11n i i i E E n n n =⎛⎫''=--- ⎪--⎝⎭∑S X -μX -μX μ)(X μ 11()()()1n i i i E nE n =⎛⎫''=---= ⎪-⎝⎭∑X -μX -μX μ)(X μΣ。

故1n -S为Σ的无偏估计。

9.设(1)(2)()n X ,X ,...,X 是从多元正态分布~(,)p N X μΣ抽出的一个简单随机样本，试求S 的分布。

证明： 设()12******ij n n nγγγγ⨯⎡⎤'⎡⎤⎢⎥⎢⎥⎢⎥'⎢⎥===⎢⎥⎢⎥⎢⎥⎢⎥⎥'⎣⎦⎥⎦Γ为一正交矩阵。

令()''12n 12n Ζ=(ΖΖΖ)=X X X Γ，(1,2,3,4,),i n =i X Γ由于独立同正态分布且为正交矩阵所以12()n 'Z =Z Z Z 独立同正态分布。

且有1nn i i ==ΖΧ，1()()n n i i E E ===ΖΧ，1()Var n =nZ Σ。

1()()(1,2,3,,1)na aj j j E E r a n ===-∑ΖΧ1najj ==r10najnj i r r ='==∑ 0(,)i j i j Cov i j≠⎧=⎨=⎩ΖΖΣ又因为1()()nj j ='=--∑i S X X X X1nj j n =''=-∑i X X XX1nj j n n =''=-∑i X X ΖΖ'''=n n ΖΓΓΖ-ΖΖ=1122...n n ''''=+++n n Z Z Z Z Z Z -ΖΖ故11n j j j -='=Z Z ∑S ，由于121,,,n Z Z Z -独立同正态分布(0,)p N Σ，所以11~(1,)n j j p j W n -='=Z Z -∑∑S10.设()i i X n p ⨯是来自(,)p i i N μΣ的简单随机样本，1,2,3,,i k =， （1）已知2...k ====1μμμμ且2...k ====1ΣΣΣΣ，求μ和Σ的估计。

（2）已知2...k ====1ΣΣΣΣ求2,,...,,k 1μμμ和Σ的估计。

解：（1）11121ˆ...an k a ia i kn n n ====+++∑∑μx x，()()1112ˆ...an k aa ii a i kn n n =='--=+++∑∑xx x x Σ(2) 1ln (,,,)k L μμΣ111ln ()exp[]2a n k n paa i a i a a i 2π-=='⎡⎤=-⎣⎦∑∑-1Σ(x -μ)Σ(x -μ)ln ()L ∂⎧=⎪∂⎨⎪⎩μ,ΣΣ1111ln()ln 222a n k a a i a i a a i n pn 2π=='=--+-∑∑-1Σ(x -μ)Σ(x -μ) ()21111ln (,)1()()022an k a a i a i a a i L n --==∂'=-+--=∂∑∑μΣΣX μX μΣΣ 11ln (,)()0(1,2,...,)jn j ij j i jL j k -=∂=-==∂∑μΣΣX μμ解之，得11ˆjn j j iji jn ===∑μx x，()()1112ˆ...jn kj jj i kn n n =='--=+++∑∑ij ij xx x x Σ。

合集下载

应用多元统计分析课后习题答案高惠璇

应用多元统计分析课后习题答案高惠璇

29
第三章 多元正态总体参数的检验
3-2 设X～Nn(μ,σ2In), A，B为n阶对称阵.
若AB ＝0 ,证明X′AX与X′BX相互独立.
证明的思路：记rk(A)=r. 因A为n阶对称阵,存在正交阵Γ,使得
Γ ′AΓ=diag(λ1,…,λr 0,..,0) 令Y＝Γ′X，则Y～Nn(Γ′μ,σ2In),
(2x12
x22
2x1x2
22x1
14x2
65)
1 2 1 2
1
2
exp
1
212
2 2
(1
2
)
[
2 2
(
x1
1 ) 2
21 2(x1
1)(x2
2
)
2 1
(
x2
2
)
2
]
比较上下式相应的系数,可得:
1 2
2 2
1 2
2
1
2 1
1
1 2 1
2 1
1
2
1/
21
2 2
2
2
2 1
21 22 21 21
f (x; , ) a
a0 (2 ) p/ 2 |
(x )1
|1/ 2 ,当0 a
(x )
1
ba02
时,
其中 b2 2 ln[a(2 ) p/2 | |1/ 2 ] 2 ln[aa0 ] 0, 20
第二章 多元正态分布及参数的估计
因 0,的特征值记为1 2 p 0, i对应
3-1 设X～Nn(μ,σ2In), A为对称幂等 阵,且rk(A)=r(r≤n),证明
证明 因A为对称幂等阵，而对称幂等阵的
多元统计分析：第二章 多元正态分布及

多元统计分析：第二章 多元正态分布及

17
1 2 exp( it ) exp( s j ) 2 j 1
) E(e
isqU q
)
第二章 多元正态分布及参数的估计
§2.2
记Σ=AA′，则有以下定义。 定义2.2.2 若p维随机向量X的特征函数 t ' t 为:
X (t ) exp[ it '
，d为s×1常向量，令Z=BX+d,则
Z～Ns(Bμ+d , BΣB ).
该性质指出正态随机向量的任 意线性组合仍为正态分布.
19
第二章 多元正态分布及参数的估计
§2.2 多元正态分布的性质2
证明 因Σ ≥0, Σ可分解为Σ=AA ,其中A 为p×q 矩阵.已知X～Np(μ,Σ),由定义 2.2.1可知 X = AU+μ
是对称非负定阵. 即 =´ , ´ ≥0 (为任给的p维常量).
7
第二章 多元正态分布及参数的估计
§2.1 随机向量—
(4) Σ=L2 ,其中L为非负定阵.
由于Σ≥0(非负定),利用线性代数中实对称阵的对角化定理，存 在正交阵Γ,使
1 0 LL

1 0 ' 0 p
并设：
i 0(i 1,, q), q1 0,, p 0.
10
第二章 多元正态分布及参数的估计
§2.2
在一元统计中，若U～N(0,1),则U的任意 线性变换X=σU+μ～N(μ,σ2)。利用这一性质， 可以从标准正态分布来定义一般正态分布：
若U～N(0,1),则称X =σU+μ的分布为 一般正态分布,记为X ～N(μ, σ2 )。
如例2.1.1,证明了X1,X2均为一元正态 分布,但由(X1,X2) 联合密度函数的形式易见 它不是二元正态.
厦门大学《应用多元统计分析》习题第02章 多元正态分布的参数估计

厦门大学《应用多元统计分析》习题第02章 多元正态分布的参数估计

思考与练习2.1 试述多元联合分布和边缘分布之间的关系。

2.2 设随机向量12(,)X X ′=X 服从二元正态分布，写出其联合分布密度函数和1X 、2X 各自的边缘密度函数。

2.3 已知随机向量12(,)X X ′=X 的联合分布密度函数为：()()()()()()()()()121122222,d c x a b a x c x a x c f x x b a d c −−+−−−−−2⎡⎤⎣⎦=−−其中，。

求：12,a x b c x d ≤≤≤≤⑴ 随机变量1X 和2X 各自的边缘密度函数、均值与方差。

⑵ 随机变量1X 和2X 的协方差和相关系数。

⑶ 判断1X 和2X 是否相互独立。

2.4 设随机向量12(,,,)p X X X ′=X L 服从正态分布，已知其协差阵为对角阵，证明ΣX 的分量是相互独立的随机变量。

2.5 从某企业全部职工中随机抽取一个容量为6的样本，该样本中各职工的目前工资、受教育年限、初始工资和工作经验资料如下表所示： 职工编号目前工资 （美元）受教育年限（年）初始工资 （美元）工作经验（月）11 2 3 4 5 6 57,000 40,200 21,450 21,900 45,000 28,350 15 16 12 8 15 8 27,000 18,750 12,000 13,200 21,000 12,000 144 36 381 190 138 26设职工总体的以上变量服从多元正态分布，根据样本资料求出均值向量和协差阵的最大似然估计。

2.6 均值向量和协差阵的最大似然估计量具有哪些优良性质？ 2.7 试证多元正态总体的样本均值向量(,)p N μΣ1~(,p N nX μΣ)。

2.8 试证多元正态总体的样本协差阵S 为(,)p N μΣΣ的无偏估计。

2.9 设()1x 、()2x 、…、()n x 是从多元正态总体中独立抽取的一个随机样本，试求样本协差阵的分布。

第2章多元正态分布的参数估计

第2章多元正态分布的参数估计

第2章多元正态分布的参数估计多元正态分布是统计学中常用的一种概率分布模型，在实际应用中经常被用来描述多个变量之间的关系。

在参数估计的过程中，我们通常需要估计多元正态分布的均值向量和协方差矩阵。

本章将介绍多元正态分布的参数估计方法。

多元正态分布的均值向量和协方差矩阵分别用μ和Σ表示。

在参数估计的过程中，我们可以使用样本的均值向量和协方差矩阵来估计总体的均值向量和协方差矩阵。

首先，我们需要收集一个包含n个样本的数据集，其中每个样本有d 个变量。

我们将这个数据集表示为X=[x1, x2, ..., xn]，其中xi是一个d维向量。

均值向量的估计可以通过计算样本向量的平均值来得到。

均值向量的估计公式为：μ̂ = (1/n) * Σxi其中，μ̂是均值向量的估计值。

协方差矩阵的估计可以通过计算样本向量之间的协方差来得到。

协方差矩阵的估计公式为：Σ̂ = (1/n) * Σ(xi - μ̂)(xi - μ̂)T其中，Σ̂是协方差矩阵的估计值。

这里需要注意的是，协方差矩阵是一个对称正定矩阵，因此需要对估计值进行修正，以保证估计出的协方差矩阵是对称正定的。

修正的常用方法有Ledoit-Wolf修正和修正。

在进行参数估计之后，我们还可以计算估计值的标准误差（standard error），以衡量估计值的可靠性。

在多元正态分布的参数估计中，均值向量估计值的标准误差为：SE(μ̂) = (√((2/n)(d(d+1)/2))) * (√(Σi î))协方差矩阵估计值的标准误差为：SE(Σ̂) = (√((1/n)(d(d+1)/2))) * (√(Σi î(Σj ĵ -Σi ĵ^2)))其中，Σi î表示协方差矩阵估计值的第i个对角元素，Σi ĵ表示协方差矩阵估计值的第i行第j列元素。

参数估计的过程中，还需要考虑到样本量的大小。

当样本量较大时，参数估计的精度会提高；而当样本量较小时，参数估计的精度会降低。