多元统计分析-第三章 多元正态分布
- 格式:doc
- 大小:1.37 MB
- 文档页数:25
多元统计分析-第三章多元正态分布第三章多元正态分布多元正态分布是⼀元正态分布在多元情形下的直接推⼴,⼀元正态分布在统计学理论和应⽤⽅⾯有着⼗分重要的地位,同样,多元正态分布在多元统计学中也占有相当重要的地位。
多元分析中的许多理论都是建⽴在多元正态分布基础上的,要学好多元统计分析,⾸先要熟悉多元正态分布及其性质。
第⼀节⼀元统计分析中的有关概念多元统计分析涉及到的都是随机向量或多个随机向量放在⼀起组成的随机矩阵,学习多元统计分析,⾸先要对随机向量和随机矩阵有所把握,为了学习的⽅便,先对⼀元统计分析中的有关概念和性质加以复习,并在此基础上推⼴给出多元统计分析中相应的概念和性质。
⼀、随机变量及概率分布函数(⼀)随机变量随机变量是随机事件的数量表现,可⽤X 、Y 等表⽰。
随机变量X 有两个特点:⼀是取值的随机性,即事先不能够确定X 取哪个数值;⼆是取值的统计规律性,即完全可以确定X 取某个值或X 在某个区间取值的概率。
(⼆)随机变量的概率分布函数随机变量X 的概率分布函数,简称为分布函数,其定义为:)()(x X P x F ≤=随机变量有离散型随机变量和连续型随机变量,相对应的概率分布就有离散型概率分布和连续型概率分布。
1、离散型随机变量的概率分布若随机变量X 在有限个或可列个值上取值,则称X 为离散型随机变量。
设X 为离散型随机变量,可能取值为1x ,2x ,…,取这些值的概率分别为1p ,2p ,…,记为k k p x X P ==)(( ,2,1=k )称k k p x XP ==)(( ,2,1=k )为离散型随机变量X 的概率分布。
离散型随机变量的概率分布具有两个性质:(1)0≥k p , ,2,1=k(2)11=∑∞=k kp2、连续型随机变量的概率分布若随机变量X 的分布函数可以表⽰为dt t f x F x∞-=)()(对⼀切R x ∈都成⽴,则称X 为连续型随机变量,称)(x f 为X 的概率分布密度函数,简称为概率密度或密度函数。
多元统计分析第三章假设检验与⽅差分析第3章多元正态总体的假设检验与⽅差分析从本章开始,我们开始转⼊多元统计⽅法和统计模型的学习。
统计学分析处理的对象是带有随机性的数据。
按照随机排列、重复、局部控制、正交等原则设计⼀个试验,通过试验结果形成样本信息(通常以数据的形式),再根据样本进⾏统计推断,是⾃然科学和⼯程技术领域常⽤的⼀种研究⽅法。
由于试验指标常为多个数量指标,故常设试验结果所形成的总体为多元正态总体,这是本章理论⽅法研究的出发点。
所谓统计推断就是根据从总体中观测到的部分数据对总体中我们感兴趣的未知部分作出推测,这种推测必然伴有某种程度的不确定性,需要⽤概率来表明其可靠程度。
统计推断的任务是“观察现象,提取信息,建⽴模型,作出推断”。
统计推断有参数估计和假设检验两⼤类问题,其统计推断⽬的不同。
参数估计问题回答诸如“未知参数θ的值有多⼤?”之类的问题,⽽假设检验回答诸如“未知参数θ的值是0θ吗?”之类的问题。
本章主要讨论多元正态总体的假设检验⽅法及其实际应⽤,我们将对⼀元正态总体情形作⼀简单回顾,然后将介绍单个总体均值的推断,两个总体均值的⽐较推断,多个总体均值的⽐较检验和协⽅差阵的推断等。
3.1⼀元正态总体情形的回顾⼀、假设检验在假设检验问题中通常有两个统计假设(简称假设),⼀个作为原假设(或称零假设),另⼀个作为备择假设(或称对⽴假设),分别记为0H 和1H 。
1、显著性检验为便于表述,假定考虑假设检验问题:设1X ,2X ,…,n X 来⾃总体),(2σµN 的样本,我们要检验假设100:,:µµµµ≠=H H (3.1)原假设0H 与备择假设1H 应相互排斥,两者有且只有⼀个正确。
备择假设的意思是,⼀旦否定原假设0H ,我们就选择已准备的假设1H 。
当2σ已知时,⽤统计量nX z σµ-=在原假设0H 成⽴下,统计量z 服从正态分布z )1,0(~N ,通过查表,查得)1,0(N 的上分位点2αz 。
多元正态分布正态分布,又称为高斯分布,是概率论与统计学中最为重要的概率分布之一。
正态分布的特点是其概率密度函数呈现出钟形曲线的形状,可以描述大多数自然现象中的分布情况。
本文的主要目的是介绍正态分布的定义、性质和应用,并对其多元形式进行讨论。
一、正态分布的定义和性质正态分布的定义如下:设X是一个连续型随机变量,如果它的概率密度函数为f(x) = (1/√(2πσ^2)) * exp(-(x-μ)^2/(2σ^2))其中μ为均值,σ^2为方差,exp为自然指数函数,那么称X服从参数为(μ,σ^2)的正态分布,记作X~N(μ,σ^2)。
正态分布的性质如下:1. 正态分布是一个对称分布,其均值、中位数和众数都重合,位于分布的中心。
2. 正态分布的曲线在均值两侧呈现对称性,标准差决定了曲线的宽度,标准差越小,曲线越陡峭,反之越平缓。
3. 正态分布的累积分布函数可用标准正态分布的累积分布函数来计算。
4. 正态分布的随机变量相加仍然服从正态分布。
二、正态分布的应用正态分布在各个领域中都有广泛的应用,以下列举几个常见的应用场景。
1. 自然科学:正态分布常被用来描述测量误差、物理实验结果和自然现象。
例如,在物理实验中测量的误差往往服从正态分布。
2. 金融领域:正态分布被广泛应用于金融领域的风险管理和股票价格预测中。
基于正态分布的投资组合理论和资产定价模型是金融领域中的重要工具之一。
3. 质量控制:正态分布被应用于质量控制中,用于确定产品的标准差、设定合适的控制上限和下限,从而判断产品是否合格。
4. 社会科学:正态分布在社会科学领域的人口统计、心理学实验和经济学研究中得到广泛应用。
例如,身高、体重等指标的分布往往服从正态分布。
三、多元正态分布多元正态分布是正态分布的一种拓展形式,用于描述多个随机变量之间的相关性。
多元正态分布的定义如下:设X = (X1,X2,...,Xn)是一个n维随机向量,如果它的概率密度函数为f(x) = (1/√((2π)^n|Σ|)) * exp(-1/2(x-μ)Σ^(-1)(x-μ)^T)其中x = (x1,x2,...,xn),μ = (μ1,μ2,...,μn)为均值向量,Σ为协方差矩阵,|Σ|为协方差矩阵的行列式,exp为自然指数函数,Σ^(-1)表示Σ的逆矩阵,那么称X服从参数为(μ,Σ)的多元正态分布,记作X~N(μ,Σ)。
第三章 多元正态分布多元正态分布是一元正态分布在多元情形下的直接推广,一元正态分布在统计学理论和应用方面有着十分重要的地位,同样,多元正态分布在多元统计学中也占有相当重要的地位。
多元分析中的许多理论都是建立在多元正态分布基础上的,要学好多元统计分析,首先要熟悉多元正态分布及其性质。
第一节 一元统计分析中的有关概念多元统计分析涉及到的都是随机向量或多个随机向量放在一起组成的随机矩阵,学习多元统计分析,首先要对随机向量和随机矩阵有所把握,为了学习的方便,先对一元统计分析中的有关概念和性质加以复习,并在此基础上推广给出多元统计分析中相应的概念和性质。
一、随机变量及概率分布函数 (一)随机变量随机变量是随机事件的数量表现,可用X 、Y 等表示。
随机变量X 有两个特点:一是取值的随机性,即事先不能够确定X 取哪个数值;二是取值的统计规律性,即完全可以确定X 取某个值或X 在某个区间取值的概率。
(二)随机变量的概率分布函数随机变量X 的概率分布函数,简称为分布函数,其定义为:)()(x X P x F ≤=随机变量有离散型随机变量和连续型随机变量,相对应的概率分布就有离散型概率分布和连续型概率分布。
1、离散型随机变量的概率分布若随机变量X 在有限个或可列个值上取值,则称X 为离散型随机变量。
设X 为离散型随机变量,可能取值为1x ,2x ,…,取这些值的概率分别为1p ,2p ,…,记为k k p x X P ==)(( ,2,1=k )称k k p x XP ==)(( ,2,1=k )为离散型随机变量X 的概率分布。
离散型随机变量的概率分布具有两个性质: (1)0≥k p , ,2,1=k(2)11=∑∞=k k p2、连续型随机变量的概率分布若随机变量X 的分布函数可以表示为dt t f x F x⎰∞-=)()(对一切R x ∈都成立,则称X 为连续型随机变量,称)(x f 为X 的概率分布密度函数,简称为概率密度或密度函数。
连续型随机变量的概率密度函数具有两个性质:(1)0)(≥x f(2)1)(=⎰∞∞-dx x f二、随机变量的数字特征(一)离散型随机变量的数字特征若X 为离散型随机变量,其概率分布为),2,1()( ===k p x X P k k ,则X 的数学期望(或称均值)和方差分别定义为:∑∞===1)(k k k p x X E μ[]()∑∞=-=-===1222)()()(k k k p x X E X E X Var X D μσ(二)连续型随机变量的数字特征 若X 为连续型随机变量,其密度函数为)(x f ,则X 的数学期望和方差分别定义为:⎰∞∞-==)()()(x d x xf X E μ()dx x f x X Var X D )()()(22⎰∞∞--===μσ方差的一个简便计算公式为222)]([)(X E X E -=σ(三)数学期望的数学性质1、设c 是常数,则c c E =)(2、设X 是随机变量,c 是常数,则)()(X cE cX E =3、设X 、Y 是任意两个随机变量,则)()()(Y E X E Y XE +=+4、设X 、Y 是任意两个相互独立的随机变量,则)()()(Y E X E XY E =(四)方差的数学性质 1、设c 是常数,则0)(=c D2、设X 是随机变量,c 是常数,则)()(2X D ccX D =3、设X 、Y 是任意两个相互独立的随机变量,则)()()(Y D X D Y X D +=+三、一些重要的一元分布 1、二项分布重复进行n 次相互独立的试验,若每次实验仅有两个可能结果,每次实验成功的概率均为p ,设X 为n 次独立实验中成功出现的次数,则离散型随机变量X 的分布律为:kn k p p k n k X P --⎪⎪⎭⎫ ⎝⎛==)1()(, n k ;,2,1,0 = 其中,p q p -=<<1,10,n 为自然数,称X 服从二项分布。
二项分布中np X E =)(,方差为)1()(2p np X Var -==σ。
2、超几何分布若N 个产品中有M 个不合格品,从N 中随机不放回地抽取n 个进行调查,X 为出现的不合格品数,则离散型随机变量X 的分布律为:⎪⎪⎭⎫ ⎝⎛⎪⎪⎭⎫ ⎝⎛--⎪⎪⎭⎫ ⎝⎛==n N k n M N k M k X P )(,),min(,,2,1,0M n k =则称X 服从超几何分布。
当N 很大,n 相对较少时,超几何分布近似于二项分布。
3、泊松分布若离散型随机变量X 的分布律为:!)(k e k X P k λλ-==, ,2,1,0=k其中0>λ,则称X 服从泊松分布。
泊松分布中λ=)(X E ,λσ==)(2X Var 。
在np =λ恒定的条件下,当n 趋于无穷,p 趋于零时,二项分布趋向于泊松分布。
4、正态分布若连续型随机变量X 的概率密度函数为:⎭⎬⎫⎩⎨⎧--=222)(exp 21)(σμσπx x f ,∞><∞-x 则称X 服从正态分布,记作),(~2σμN X ,其中参数μ、2σ分别是随机变量X 的数学期望和方差。
当0=μ,12=σ时,随机变量X 的分布为标准正态分布。
当n 很大,p 和q 都不太大时,二项分布可用正态分布近似计算。
5、卡方分布设随机变量n X X X ,,,21 皆服从)1,0(N ,且相互独立,则其平方和∑=ni i X 12所服从的分布称为卡方分布,记为:)(~2n X χ,n 为自由度,表示平方和∑=ni i X 12中独立随机变量的个数。
6、t 分布设随机变量)1,0(~N X,)(~2n Y χ,且X 与Y 相互独立,则随机变量nY X t =的分布称为t 分布。
记为)(~n t t ,n 为自由度。
随着自由度n 趋向于无穷大,t 分布以标准正态分布为极限。
7、F 分布 设随机变量)(~2n Xχ,)(~2m Y χ,且X 与Y 相互独立,则随机变量mY n X F =服从第一自由度为n 、第二自由度为m 的F 分布,记为),(~m n F F 。
第二节 多元统计分析中的基本概念在社会、经济及自然科学等许多领域,常常需要同时研究多个指标,例如,要研究上市公司的盈利状况,就涉及到公司的主营业务利润、营业利润、利润总额和净利润等总量指标,主营业务利润率、经营净利率、资产利润率、资产净利率、净资产收益率、总资产报酬率等相对指标,每股收益、加权每股收益等平均指标。
这些变量都是随机变量,随机变量之间往往存在一定的联系,因而需要把这些随机变量作为一个整体来研究。
一、随机向量及概率分布 (一)随机向量设有p 个随机变量p X X X ,,,21 ,且它们之间有一定的联系,这些随机变量组成的整体就是随机向量,记为()'=p X X X X ,,,21 。
在多元统计分析中,仍将所研究对象的全体称为总体,它是由许多个体构成的集合,如果构成总体中的个体是有p 个观测指标的个体,称这样的总体为p 维总体,或p 元总体。
由于从p 维总体中随机抽到一个个体,其p 个指标观测值不能事先精确知道,它依赖于被抽到的个体,因此,p 维总体可用p 维随机向量来表示,这里的维或元表示共有几个分量。
(二)随机向量的概率分布 设()'=pX X X X ,,,21 是p 维随机向量,它的多元概率分布函数定义为:),,,(),,,()(221121p p p x X x X x X P x x x F x F ≤≤≤== ,记为)(~x F X ,其中:()p p R x x x x∈=,,,21 ,p R 表示p 维空间。
1、离散型随机向量的概率分布 定义3.1:若()'=p X X X X ,,,21 是p 维随机向量,若存在有限个或可列个p 维数向量,,,21 x x 记k k p x X P ==)(( ,2,1=k ),且满足121=++ p p ,则称X 为离散型随机向量,并称k k p x XP ==)(( ,2,1=k )为离散型随机向量X 的概率分布。
2、连续型随机向量的概率分布 定义3.2:设()p x x x F x F X ,,,)(~21 =,若存在一个非负函数()p x x x f ,,,21 ,使得()()p xxp p dt dt dt t t t f x x x F x F p2121211,,,,,,)(⎰⎰∞-∞-==对一切()p p R x x x x∈= ,,21都成立,则称X 为连续型随机向量,称()p x x x f ,,,21 为分布密度函数。
一个p 维变量的函数()p x x x f ,,,21 能作为p R 中某个随机向量的分布密度函数,当且仅当(1)0),,(21≥p x x x f ,()p p R x x x ∈'∀,,,21(2)()⎰⎰∞∞-∞∞-=1,,,2121p p dx dx dx x x x f例3.1:试证函数⎩⎨⎧=+-0),()(2121x x e x x f , 其它,0021≥≥x x为随机向量()'=21,X X X的密度函数。
证:只要验证函数满足密度函数的两个条件即可。
(1) 显然,0),(21≥x x f(2)()⎰⎰⎰⎰∞∞+-∞∞-∞∞-=0021)(212121,dx dx e dx dx x x f x x⎰⎰∞∞+-=0201)(][21dx dx e x x⎰∞-=022dx e x∞--=02x e =1二、边际分布 设()'=pX X X X ,,,21 是p 维随机向量,由它的)(p q <个分量组成的子向量),,,(21)('=q i i i i X X X X 的分布为X 的边际(或边缘)分布,相对的把X 的分布称为联合分布。
通过变换X 中各分量的次序,总可假定)1(X正好是X 的前q 个分量,其余qp -个分量为)2(X,即⎥⎦⎤⎢⎣⎡=)2()1(X X X ,相应的取值也可以分为两部分,即⎥⎦⎤⎢⎣⎡=)2()1(x x x ,当X 的分布函数是),,,()(21p x x x F x F =时,)1(X 的分布函数即边际函数为:),,,()(21)1(q x x x F x F =),,,(2211q q x X x X x X P ≤≤≤=),,,,,,(12211∞≤∞≤≤≤≤=+p q q q X X x X x X x X P ),,,,,,(21∞∞= q x x x Fp p x x dx dx x x f q11),(1⎰⎰⎰⎰∞-∞-∞∞-∞∞-=q x x p q p dx dx dx dx x x f q 1111),(⎰⎰⎰⎰∞-∞-+∞∞-∞∞-⎥⎦⎤⎢⎣⎡=所以)1(X的边际密度为p q p q dx dx x x f x x x f 1121)1(),(),,,(+∞∞-∞∞-⎰⎰=例3.2:对例1中的()'=21,X X X 求边际密度函数。