07-多重共线性

解决方法
解决方法
（1）排除引起共线性的变量 找出引起多重共线性的解释变量，将它排除出去，以逐步回归法得到最广泛的应用。 （2）差分法 时间序列数据、线性模型：将原模型变换为差分模型。 （3）减小参数估计量的方差：岭回归法（Ridge Regression）。 （4）简单相关系数检验法
谢谢观看
简介
简介
对线性回归模型 基本假设之一是自变量，之间不存在严格的线性关系。如不然，则会对回归参数估计带来严重影响。为了说 明这一点，首先来计算线性回归模型参数的 LS估计的均方误差。为此。重写线性回归模型的矩阵形式为 其中服从多元正态分布，设计矩阵 X是的，且秩为 p。这时，参数的 LS估计为，而回归系数的 LS估计为。 注意到由此获得的 LS估计是无偏的，于是估计的均方误差为 其中是的特征根。显然，如果至少有一个特征根非常接近于零，则就很大，也就不再是的一个好的估计。由 线性代数的理论知道，若矩阵的某个特质根接近零，就意味着矩阵 X的列向量之间存在近似线性关系。 如果存在一组不全为零的数，使得 则称线性回归模型存在完全共线性；如果还存在随机误差 v，满足，使得 则称线性回归模型存在非完全共线性。 如果线性回归模型存在完全共线性，则回归系数的 LS估计不存在，因此，在线性回归分析中所谈的共线性 主要是非完全共线性，也称为复共线性。判断复共线性及其严重程度的方法主要有特征分析法(analysis of eigenvalue)，条件数法 (conditional numbers)和方差扩大因子法(variance inflation factor)。
产生原因
产生原因
主要有3个方面： （1）经济变量相关的共同趋势 （2）滞后变量的引入 （3）样本资料的限制
影响
影响

协方差同理。
方差膨胀因子(variance-inflating factor, VIF)
1 VIF 1 r223
所以 var b2
2
x22i VIF
2-21
8.5 多重共线性的诊断
在任一给定的情况下，特别是在涉及多于两 个解释变量的模型中，我们怎么知道有没有 共线性？
2-22
1.多重共线性是一个程度问题而不是有无问 题。有意义的区分不在于有无之间，而在于 程度大小。
因为 数。
b2 b3 是一个方程，却有两个未知
对给定的alpha和lamda值，有无穷多个解。
2-15
出现“高度”但“不完全”多重共线性 时的估计问题
仍以上述三变量回归模型为例。 假定 X3i X 2i vi ，其中 vi x2i 0
回归系数估计：
b2
yi x2i 2 x22i vi2
yi x2i
第8章 多重共线性：解释变量
相关会有什么后果？
McGraw-Hill/Irwin
Copyright © 2006 The McGraw-Hill Companies, Inc. All rights reserved.
问题
多重共线性的性质是什么？ 多重共线性是否是一个严重的问题？ 多重共线性的理论后果是什么？ 多重共线性的实际后果是什么？ 实践中如何诊断多重共线性？ 消除多重共线性的补救措施有哪些？
但在应用计量经济学中，我们的宗旨就是区 分每个变量的单独影响。
2-13
把 X3i yi
X 2i 代入回归方程： b2 x2i b3 x2i ei b2 b3 x2i ei
x2i ei
利用OLS公式得：
b2 b3
x2i yi x22i

R-squared
0.989654
Adjusted R-squared 0.986955 S.E. of regression 1437.448 Sum squared resid 47523916 Log likelihood -256.7013 Durbin-Watson stat 1.654140
4
（二）不完全的多重共线性
实际中，常见的情形是解释变量之间存在不 完全的多重共线性。
对于解释变量 X 2 , X 3, X k，存在不全为0的数
1
,

2
,
，使得
k
1 2X2 3X3 ...k Xk u 0
5
（三）解释变量的关系小节
可能表现为三种情形： r为相关系数 (1) rxixj 0 ，解释变量间毫无线性关系。这时多元
Var(ˆ2 )
9
二、不完全多重共线性产生的后果
1、参数估计值的方差增大
Var( βˆ 2 ) = σ 2
1 x22i (1-
r223 )
=
σ2
1
x22i (1 - r223 )
当 r23增大时,
^
Var( 2)
也增大
10
方差膨胀因子 (Variance Inflation Factor)
17 17
2、交叉相关系数（Cross correlation）
相关系数计算的是两组样本的同期相关程 度，交叉相关则可以表示不同期之间的相关 程度。
Eviews操作： Group窗口的view/cross correlation/输入 滞后期设定/ 输出结果阅读：看是否超出2倍标准差线
18
2倍 标准 差线
1、参数估计值有很大的偶然性。 2、参数显著性检验未通过。 3、经济意义检验未通过。 4、相关系数大。

式中：Rj•2为第j个解释变量对其他解释变量的回 归方程的决议系数，
假设存在较强的共线性，那么Rj•2较大且 接近于1，这时〔1- Rj•2 〕较小，从而Fj的值较 大。
因此，给定显著性程度，计算F值，并
与另相一应等的价临的界值检比验较是，: 来断定能否存在相关性。
在模型中排除某一个解释变量Xj， 估计模型；
2
x12i
1
1 r
2
(
x1i x 2i ) 2
x12i
x
2 2i
恰为X1与X2的线性相关系数的平方r2
由于 r2 1，故 1/(1- r2 )1
当完全不共线时, r2 =0 当近似共线时, 0< r2 <1
vaˆ1r) (2/ x1 2 i
vaˆr1)(
2
x12i
1 1r2
2
x12i
• 3、解释变量之间相关=>多重共线 • 4、随机扰动项相关=>序列自相关 • 时间序列数据经常出现序列相关 • 5、随机扰动项方差不等于常数=>异方差 • 截面数据时，经常出现异方差
处理问题的思绪
• 1、定义违反各个根本假定的根本概念 • 2、违反根本假定的缘由、背景 • 3、诊断根本假定的违反 • 4、违反根本假定的补救措施〔修正〕
截面数据样本：问题不那么严重，但 多重共线性依然是存在的。
三、多重共线性的后果
1. 完全共线性下参数估计量不存在
Y X β μ
的OLS估计量为： β ˆ(XX)1XY
假设存在完全共线性，那么(X’X)-1不存在，无法 得到参数的估计量。
例：对离差方式的二元回归模型
y1x 12x2
假设两个解释变量完全相关，如x2= x1，那