线性回归模型检验方法拓展-三大检验

第四章 GLS 和MLE 一、广义最小二乘法（GLS ） 1、回归模型的矩阵表示总体回归方程可表示为：=+y X βε也可以写成：[|] =E y X X β。

当(|)E y X 取不同的形式时，也就构成了不同的模型，包括：线性、非线性和非参数等。

我们这里主要讨论的是线性模型(一元或多元)：其中：12(1)N N y y y ⨯⎛⎫⎪⎪= ⎪⎪⎝⎭y ，111112122111()111j k j k N NjN k N k x x x x x x x x x ---⨯⎛⎫ ⎪ ⎪= ⎪ ⎪ ⎪⎝⎭X ，011(1)k k βββ-⨯⎛⎫⎪ ⎪= ⎪ ⎪ ⎪⎝⎭β T 表示样本数量，k 表示解释变量个数（包含了常数项），当2k =时就是一元线性回归模型。

而()12(1)TN N εεε⨯=ε表示的是随机扰动项，包含了除了解释变量以外的其他影响因素。

若遗漏变量，则这个变量也将被扰动项所包含。

2、经典假设满足时的残差项的方差协方差矩阵在无异方差和无自相关的假定下，残差项的方差协方差矩阵是一个对角阵，并且主对角线的元素都相同。

即有：（22200σσσ⎛⎫⎪'= ⎪⎝⎭E(εε|X)=I 此时OLS 估计量是最优线性无偏估计BLUE ）问题的提出：若扰动项违背球形假定，结果怎样？Ω='=+=2][,0][,σεεεεβE E X y （1）其中Ω是一般的正定矩阵，而不是在古典假设的情况下的单位矩阵。

（1）异方差时2122222000000n σσσσσ⎡⎤⎢⎥'Ω==⎢⎥⎢⎥⎣⎦E(εε|X)=Ω 存在异方差时的后果：OLS 估计量是线性无偏估计，但不是最有效的。

处理方法：第一条思路：找到最优线性无偏估计。

具体方法加权最小二乘法（WLS ），也就是模型变换法；第二条思路：存在异方差时OLS 估计量是线性无偏，但是原OLS 方法得到的方差计算公式有误。

对于系数估计仍采用OLS 估计，对于系数的方差估计进行修正。

对多元线性回归模型的各种检验方法对于形如u X X X Y k k +++++=ββββ 22110 （1）的回归模型，我们可能需要对其实施如下的检验中的一种或几种检验：一、 对单个总体参数的假设检验：t 检验在这种检验中，我们需要对模型中的某个（总体）参数是否满足虚拟假设0H ：j j a =β，做出具有统计意义（即带有一定的置信度）的检验，其中j a 为某个给定的已知数。

特别是，当j a =0时，称为参数的（狭义意义上的）显著性检验。

如果拒绝0H ，说明解释变量j X 对被解释变量Y 具有显著的线性影响，估计值j βˆ才敢使用；反之，说明解释变量j X 对被解释变量Y 不具有显著的线性影响，估计值j βˆ对我们就没有意义。

具体检验方法如下：（1） 给定虚拟假设 0H ：j j a =β；（2） 计算统计量 )ˆ(ˆ)ˆ()(ˆjj j j j j Se a Se E t βββββ-=-= 的数值； 11ˆ)ˆ(++-==j j jj jj j C C Se 1T X)(X ，其中σβ（3） 在给定的显著水平α下（α不能大于1.0即10%，也即我们不能在置信度小于90%以下的前提下做结论），查出双尾t （1--k n ）分布的临界值2/αt ；（4） 如果出现 2/αt t >的情况，检验结论为拒绝0H ；反之，无法拒绝0H 。

t 检验方法的关键是统计量 )ˆ(ˆj jj Se t βββ-=必须服从已知的t 分布函数。

什么情况或条件下才会这样呢？这需要我们建立的模型满足如下的条件（或假定）：（1） 随机抽样性。

我们有一个含n 次观测的随机样(){}n i Y X X X i ik i i ,,2,1:,,,,21 =。

这保证了误差u 自身的随机性，即无自相关性，0))())(((=--j j i i u E u u E u Cov 。

（2） 条件期望值为0。

给定解释变量的任何值，误差u 的期望值为零。

对多元线性回归模型的各种检验方法对于形如u X X X Y k k +++++=ββββΛΛ22110 （1）的回归模型，我们可能需要对其实施如下的检验中的一种或几种检验：一、 对单个总体参数的假设检验：t 检验在这种检验中，我们需要对模型中的某个（总体）参数是否满足虚拟假设0H ：j j a =β，做出具有统计意义（即带有一定的置信度）的检验，其中j a 为某个给定的已知数。

特别是，当j a =0时，称为参数的（狭义意义上的）显著性检验。

如果拒绝0H ，说明解释变量j X 对被解释变量Y 具有显著的线性影响，估计值j βˆ才敢使用；反之，说明解释变量j X 对被解释变量Y 不具有显著的线性影响，估计值j βˆ对我们就没有意义。

具体检验方法如下：（1） 给定虚拟假设 0H ：j j a =β；（2） 计算统计量 )ˆ(ˆ)ˆ()(ˆjj j j j j Se a Se E t βββββ-=-= 的数值； 11ˆ)ˆ(++-==j j jj jj j C C Se 1T X)(X ，其中σβ（3） 在给定的显著水平α下（α不能大于1.0即10%，也即我们不能在置信度小于90%以下的前提下做结论），查出双尾t （1--k n ）分布的临界值2/αt ；（4） 如果出现 2/αt t >的情况，检验结论为拒绝0H ；反之，无法拒绝0H 。

t 检验方法的关键是统计量 )ˆ(ˆj jj Se t βββ-=必须服从已知的t 分布函数。

什么情况或条件下才会这样呢？这需要我们建立的模型满足如下的条件（或假定）：（1） 随机抽样性。

我们有一个含n 次观测的随机样(){}n i Y X X X i ik i i ,,2,1:,,,,21ΛΛ=。

这保证了误差u 自身的随机性，即无自相关性，0))())(((=--j j i i u E u u E u Cov 。

（2） 条件期望值为0。

给定解释变量的任何值，误差u 的期望值为零。

多元线性回归模型的各种检验方法多元线性回归模型是常用于数据分析和预测的方法，它可以用于研究多个自变量与因变量之间的关系。

然而，仅仅使用多元线性回归模型进行参数估计是不够的，我们还需要对模型进行各种检验以确保模型的可靠性和有效性。

下面将介绍一些常用的多元线性回归模型的检验方法。

首先是模型的整体显著性检验。

在多元线性回归模型中，我们希望知道所构建的模型是否能够显著解释因变量的变异。

常见的整体显著性检验方法有F检验和显著性检查表。

F检验是通过比较回归模型的回归平方和和残差平方和的比值来对模型的整体显著性进行检验。

若F值大于一定的临界值，则可以拒绝原假设，即模型具有整体显著性。

通常，临界值是根据置信水平和自由度来确定的。

显著性检查表是一种常用的汇总表格，它可以提供关于回归模型的显著性水平、标准误差、置信区间和显著性因素的信息。

通过查找显著性检查表，我们可以评估模型的显著性。

其次是模型的参数估计检验。

在多元线性回归模型中，我们希望知道每个自变量对因变量的影响是否显著。

通常使用t检验来对模型的参数估计进行检验。

t检验是通过对模型的回归系数进行检验来评估自变量的影响是否显著。

与F检验类似，t检验也是基于假设检验原理，通过比较t值和临界值来决定是否拒绝原假设。

通常，临界值可以通过t分布表或计算机软件来获取。

另外，我们还可以使用相关系数来评估模型的拟合程度。

相关系数可以用来衡量自变量与因变量之间的线性关系强度，常见的相关系数包括Pearson相关系数和Spearman相关系数。

Pearson相关系数适用于自变量和因变量都是连续变量的情况，它衡量的是两个变量之间的线性关系强度。

取值范围为-1到1，绝对值越接近1表示关系越强。

Spearman相关系数适用于自变量和因变量至少有一个是有序变量或者都是有序变量的情况，它衡量的是两个变量之间的单调关系强度。

取值范围也是-1到1，绝对值越接近1表示关系越强。

最后，我们还可以使用残差分析来评估模型的拟合程度和误差分布。

第二章 线性回归模型回顾与拓展 （12-15学时）第四节 三大检验（LR Wald LM ） 一、极大似然估计法（ML ）（一）极大似然原理假设对于给定样本{},Y X ,其联合概率分布存在，(),;f Y X ξ。

将该联合概率密度函数视为未知参数ξ的函数，则(),;f Y X ξ称为似然函数（Likelihood Function ）。

极大似然原理就是寻找未知参数ξ的估计ˆξ，使得似然函数达到最大，或者说寻找使得样本{},Y X 出现的概率最大ˆξ。

（二）条件似然函数VS 无条件似然函数()()(),;;;f Y X f Y X f X ξθϕ=若θ与ϕ没有关系，则最大化无条件似然函数(),;f Y X ξ等价于分别最大化条件似然函数();f Y X θ和边际似然函数();f X ϕ，从而θ的最大似然估计就是最大化条件似然函数();f Y X θ。

（三）线性回归模型最大似然估计Y X u β=+，2(0,)u N I σ→2222()()(,;,)(2)exp{}2nY X Y X L Y X βββσπσσ-'--=-对数似然函数：22()()2222n n Y X Y X l LnL Ln Ln ββπσσ'--==---于是 22241ˆ(22)0ˆˆ21ˆˆ()()0ˆˆˆ22l X Y X X l n Y X Y X βσβββσσσ∂⎧''=--+=⎪⎪∂⎨∂⎪'=-+--=⎪∂⎩得到 12ˆ()1ˆMLML X X X Y e e n βσ-⎧''=⎪⎨'=⎪⎩（三）得分（Score ）和信息矩阵（Information Matrix ）(;,)lf Y X θθ∂=∂称为得分； 12...k l l l l θθθθ∂⎡⎤⎢⎥∂⎢⎥∂⎢⎥⎢⎥∂⎢⎥∂⎢⎥=∂⎢⎥⎢⎥⎢⎥⎢⎥∂⎢⎥⎢⎥∂⎣⎦得分向量；（Gradient ） 海瑟矩阵（Hessian Matrix ）:2l H θθ∂='∂∂信息矩阵：三*、带约束条件的最小二乘估计（拉格朗日估计）在计量经济分析中，通常是通过样本信息对未知参数进行估计。

对多元线性回归模型的各种检验方法对于形如u X X X Y k k +++++=ββββ 22110 （1） 的回归模型，我们可能需要对其实施如下的检验中的一种或几种检验：一、 对单个总体参数的假设检验：t 检验在这种检验中，我们需要对模型中的某个（总体）参数是否满足虚拟假设0H ：j j a =β，做出具有统计意义（即带有一定的置信度）的检验，其中j a 为某个给定的已知数。

特别是，当j a =0时，称为参数的（狭义意义上的）显著性检验。

如果拒绝0H ，说明解释变量j X 对被解释变量Y 具有显著的线性影响，估计值j βˆ才敢使用；反之，说明解释变量j X 对被解释变量Y 不具有显著的线性影响，估计值j βˆ对我们就没有意义。

具体检验方法如下：（1） 给定虚拟假设 0H ：j j a =β；（2） 计算统计量 )ˆ(ˆ)ˆ()(ˆjj j j j j Se a Se E t βββββ-=-= 的数值； 11ˆ)ˆ(++-==j j jj jj j C C Se 1T X)(X ，其中σβ（3） 在给定的显著水平α下（α不能大于1.0即 10%，也即我们不能在置信度小于90%以下的前提下做结论），查出双尾t （1--k n ）分布的临界值2/αt ；（4） 如果出现 2/αt t >的情况，检验结论为拒绝0H ；反之，无法拒绝0H 。

t 检验方法的关键是统计量 )ˆ(ˆj jj Se t βββ-=必须服从已知的t 分布函数。

什么情况或条件下才会这样呢？这需要我们建立的模型满足如下的条件（或假定）：（1） 随机抽样性。

我们有一个含n 次观测的随机样(){}n i Y X X X i ik i i ,,2,1:,,,,21 =。

这保证了误差u 自身的随机性，即无自相关性，0))())(((=--j j i i u E u u E u Cov 。

（2） 条件期望值为0。

给定解释变量的任何值，误差u 的期望值为零。

第四章线性回归模型检验方法拓展——三大检验作为统计推断得核心内容,除了估计未知参数以外,对参数得假设检验就是实证分析中得一个重要方面。

对模型进行各种检验得目得就是,改善模型得设定以确保基本假设与估计方法比较适合于数据,同时也就是对有关理论有效性得验证。

一、假设检验得基本理论及准则假设检验得理论依据就是“小概率事件原理”,它得一般步骤就是(1)建立两个相对(互相排斥)得假设(零假设与备择假设)。

(2)在零假设条件下,寻求用于检验得统计量及其分布。

(3)得出拒绝或接受零假设得判别规则。

另一方面,对于任何得检验过程,都有可能犯错误,即所谓得第一类错误P(拒绝H|H0为真)=α与第二类错误P(接受H|H0不真)=β在下图,粉红色部分表示P(拒绝H0|H0为真)=α。

黄色部分表示P(接受H0|H0不Array真)=β。

而犯这两类错误得概率就是一种此消彼长得情况,于就是如何控制这两个概率,使它们尽可能得都小,就成了寻找优良得检验方法得关键。

下面简要介绍假设检验得有关基本理论。

参数显著性检验得思路就是,已知总体得分布(,)F X θ,其中θ就是未知参数。

总体真实分布完全由未知参数θ得取值所决定。

对θ提出某种假设001000:(:,)H H θθθθθθθθ=≠><或,从总体中抽取一个容量为n 得样本,确定一个统计量及其分布,决定一个拒绝域W ,使得0()P W θα=,或者对样本观测数据X ,0()P X W θα∈≤。

α就是显著性水平,即犯第一类错误得概率。

既然犯两类错误得概率不能同时被控制,所以通常得做法就是,限制犯第一类错误得概率,使犯第二类错误得概率尽可能得小,即在0()P X W θα∈≤ 0θ∈Θ得条件下,使得()P X W θ∈,0θ∈Θ-Θ达到最大,或1()P X W θ-∈,0θ∈Θ-Θ达到最小。

其中()P X W θ∈表示总体分布为(,)F X θ时,事件W ∈{X }得概率,0Θ为零假设集合(0Θ只含一个点时成为简单原假设,否则称为复杂原假设)。

对多元线性回归模型的各种检验方法对于形如LL uYXXX??????????k11k220）（1的回归模型，我们可能需要对其实施如下的检验中的一种或几种检验：一、对单个总体参数的假设检验：t检验在这种检验中，我们需要对模型中的某个（总体）?a?：，做出具有统计意参数是否满足虚拟假设H jj0a义（即带有一定的置信度）的检验，其中为某个给ja=0定的已知数。

特别是，当时，称为参数的（狭义j意义上的）显著性检验。

如果拒绝，说明解释变量H0Y?X具有显著的线性影响，估计值对被解释变量才?j jX Y不具对被解释变量敢使用；反之，说明解释变量j??对我们就没有意义。

具有显著的线性影响，估计值j体检验方法如下：a?；：）给定虚拟假设1（H?jj01．??a??E()???j j jj?t???的数值；计算统计量）（2(Se)Se)(??j j??1T?中，其X)?(XSe()?CC??1j?1jj jj j?j??0.1即（3）在给定的显著水平下（不能大于以下的前提下做90%，也即我们不能在置信度小于10%t；）t（分布的临界值双结论），查出尾1k?n??2/t?t的情况，检验结论为拒绝4）如果出现（?2/H H。

；反之，无法拒绝00????jj?t必须服从已检验方法的关键是统计量t?(Se)?j t分布函数。

什么情况或条件下才会这样呢？这需知的：要我们建立的模型满足如下的条件（或假定）n次观测的随机）随机抽样性。

我们有一个含（1????LL,X,X,nX,:1,2,,Yi?样。

这保证了误i1i i2iku差2．自身的随机性，即无自相关性，Cov(u?E(u))(u?E(u))?0。

jiji （2）条件期望值为0。

给定解释变量的任何值，误差u的期望值为零。

即有L,X)?,X,0E(uX k21L,,XX,X这也保证了误差独立于解释变量，即21uE(u)?0模型中的解释变量是外生性的，也使得。

(3）不存在完全共线性。

对多元线性回归模型的各种检验方法对于形如u X X X Y k k +++++=ββββ 22110 （1） 的回归模型，我们可能需要对其实施如下的检验中的一种或几种检验：一、 对单个总体参数的假设检验：t 检验在这种检验中，我们需要对模型中的某个（总体）参数是否满足虚拟假设0H ：j j a =β，做出具有统计意义（即带有一定的置信度）的检验，其中j a 为某个给定的已知数。

特别是，当j a =0时，称为参数的（狭义意义上的）显著性检验。

如果拒绝0H ，说明解释变量j X 对被解释变量Y 具有显著的线性影响，估计值j βˆ才敢使用；反之，说明解释变量j X 对被解释变量Y 不具有显著的线性影响，估计值j βˆ对我们就没有意义。

具体检验方法如下：（1） 给定虚拟假设 0H ：j j a =β；（2） 计算统计量 )ˆ(ˆ)ˆ()(ˆjj j j j j Se a Se E t βββββ-=-= 的数值； 11ˆ)ˆ(++-==j j jj jj j C C Se 1T X)(X ，其中σβ（3） 在给定的显著水平α下（α不能大于1.0即 10%，也即我们不能在置信度小于90%以下的前提下做结论），查出双尾t （1--k n ）分布的临界值2/αt ；（4） 如果出现 2/αt t >的情况，检验结论为拒绝0H ；反之，无法拒绝0H 。

t 检验方法的关键是统计量 )ˆ(ˆj jj Se t βββ-=必须服从已知的t 分布函数。

什么情况或条件下才会这样呢？这需要我们建立的模型满足如下的条件（或假定）：（1） 随机抽样性。

我们有一个含n 次观测的随机样(){}n i Y X X X i ik i i ,,2,1:,,,,21 =。

这保证了误差u 自身的随机性，即无自相关性，0))())(((=--j j i i u E u u E u Cov 。

（2） 条件期望值为0。

给定解释变量的任何值，误差u 的期望值为零。

第二章 线性回归模型回顾与拓展 （12-15学时）第四节 三大检验（LR Wald LM ） 一、极大似然估计法（ML ）（一）极大似然原理假设对于给定样本{},Y X ,其联合概率分布存在，(),;f Y X ξ。

将该联合概率密度函数视为未知参数ξ的函数，则(),;f Y X ξ称为似然函数（Likelihood Function ）。

极大似然原理就是寻找未知参数ξ的估计ˆξ，使得似然函数达到最大，或者说寻找使得样本{},Y X 出现的概率最大ˆξ。

（二）条件似然函数VS 无条件似然函数()()(),;;;f Y X f Y X f X ξθϕ=若θ与ϕ没有关系，则最大化无条件似然函数(),;f Y X ξ等价于分别最大化条件似然函数();f Y X θ和边际似然函数();f X ϕ，从而θ的最大似然估计就是最大化条件似然函数();f Y X θ。

（三）线性回归模型最大似然估计Y X u β=+，2(0,)u N I σ→2222()()(,;,)(2)exp{}2nY X Y X L Y X βββσπσσ-'--=-对数似然函数：22()()2222n n Y X Y X l LnL Ln Ln ββπσσ'--==---于是 22241ˆ(22)0ˆˆ21ˆˆ()()0ˆˆˆ22l X Y X X l n Y X Y X βσβββσσσ∂⎧''=--+=⎪⎪∂⎨∂⎪'=-+--=⎪∂⎩得到 12ˆ()1ˆMLML X X X Y e e n βσ-⎧''=⎪⎨'=⎪⎩（三）得分（Score ）和信息矩阵（Information Matrix ）(;,)lf Y X θθ∂=∂称为得分； 12...k l l l l θθθθ∂⎡⎤⎢⎥∂⎢⎥∂⎢⎥⎢⎥∂⎢⎥∂⎢⎥=∂⎢⎥⎢⎥⎢⎥⎢⎥∂⎢⎥⎢⎥∂⎣⎦得分向量；（Gradient ） 海瑟矩阵（Hessian Matrix ）:2l H θθ∂='∂∂信息矩阵：三*、带约束条件的最小二乘估计（拉格朗日估计）在计量经济分析中，通常是通过样本信息对未知参数进行估计。