多重共线性修正

2
( x2 i x3 i ) 2 x [1 2 x3 i
2 2i

2
2 2 x2 i (1 r23 )
ˆ Var( 3 ) 同样可得
2
2 2 x3 i (1 r23 )
ˆ ˆ Cov( 2 , 3 )
r23 2
2 2 2 (1 r23 ) x2 i x3 i
1 X X 21 X 31
1 X 22 X 32
1 X 2n X 3n
nX 3 X 2 i X 3 i 2 X 3 i
X 2 i
2 X 2 i X 2 i X 3 i
X 3 i n nX 2 2 X 2 i X 3 i nX 2 X 2 i 2 X 3 i nX 3 X 2 i X 3 i
其中vi为随机变量，则称解释变量X2、X3、 …、 Xk 之间存在着不完全的多重共线性。 注意：解释变量之间不存在线性关系，并非不存在 非线性关系，当解释变量之间存在非线性关 系时，并不违反古典假定。
5
二、产生多重共线性的背景
多重共线性产生的经济背景主要有几种情形：
1.经济变量之间具有相同的变化趋势。
10
n X X nX 2 nX 3 n 0
nX 2 X
2 2i
nX 3 X 2 i X 3 i
2 X 3 i
X 2 i X 3 i nX 2
2 2 X 2 i nX 2
X 2 i x2 i X 2 X 3 i x3 i X 3
nX 3
X 2 i X 3 i nX 2 X 3
这里r23是X2，X3的相关系数。
16

2 2
因此，存在完全共线性时，不能利用OLS估计参数，参数的 方差变为无限大。
计量经济学
2.不完全多重共线性
假定X1，X2 间存在不完全多重共线性， 以离差形式表示为： 其中vi 为随机项。则
x1 x2 vi
ˆ 1
[ yi ( xi 2 vi )]( x i22 ) ( yi xi 2 )[ ( xi 2 vi ) xi 2 ] [ ( xi 2 vi ) 2 ]( x i22 ) [ ( xi 2 vi ) xi 2 ]2
计量经济学
6、无多重共线。设（ X i1，X i 2， ，X iP）为 （X 1，X 2， ，X P）的第i个观测值， 1 1 记： X 1 X 11 X 21 X n1 X 12 X 22 X n2 X 1P X 2P X nP
4、OLS估计量对观测值的轻微变化相当敏感。
计量经济学
三、多重共线的检验
1、利用解释变量之间的拟合优度（判定系数）检验法 ①每次以一个解释变量对余下的P-1个解释变量做回归， 即建立P个回归方程： 2 X1 g （ X ， X ， ， X ） R 1 2 3 P 1
X2 g （ ，X 3， ，X P） 2 X1 X P g（ ，X 2， ，X P 1） p X1
计量经济学
2、利用先验信息 假定对回归模型：
Yi 0 1 X i1 2 X i 2 ui
已知X1和X2 之间高度共线。根据先验信息，确定β2=2β1， 带入模型后可得：
Yi 0 1 X i1 2 1 X i 2 ui 0 1 ( X i1 2 X i 2 ) ui 设变量Z i ( X i1 2 X i 2 ), 估计方程 Yi 0 1Z i ui ˆ 和 ˆ 2 ˆ。 可得到

第四节 多重共线性的补救措施
• 如果模型出现了严重的多重共线性，就应采取 必要的措施进行补救。然而，由于经济系统的 复杂性，要将多重共线性消除干净几乎是不可 能的，只能选择合适的方法减弱多重共线性对 模型的影响。目前，常用的方法有以下几种： • 一、增加样本容量
• 在计量经济模型中，如果变量样本数据太少，很 容易产生多重共线性。在这种情况下，增加样本容量， 将有助于减弱，甚至消除多重共线性。
• 本章实例参见教材P85~P88.
8
3
三、逐步回归法
• 1．目的：寻找最优回归方程——使R2较 大，F显著；每个回归系数显著 • 2．种类 • （1）逐个剔除法 • （2）逐个引入法 • （3）有进有出法 • 3．准则：一次只能引入或剔除一个自变 量，直至模型中所有自变量均显著 4
• 4、基本做法：
将应变量 Y 的每一个解释变量Xi （i=1,2, …,k）分别进行回归，对每一个回归方程根据 经济理论和统计检验进行综合分析判断，从中挑出一 个最优的基本回归方程，在此基础上，再逐一引入其 它解释变量，重新作回归，逐步扩大模型的规模，直 至从综合情况看，出现最好的模型估计形式。 5、变量取舍标准：在引进新解释变量的回归方程中： （1）如果新解释变量在符合经济意义的前提下，能使 拟合优度R2有所提高，并且，每个参数统计检验显著， 则采纳改变量。 （2）如果新解释变量不能改善拟合优度，同时，对 其它参数无明显影响，则可舍弃该变量。 （3）如果新解释变量能使拟合优度有所改善， R2 有所提高，但对其它参数的符号和数值有明显影响， 统计检验也不显著，则可以断定新解两个变量中，舍去 对应变量影响较小，经济意义相对次要的一个，保留 影响较大，经济意义相对重要的一个。 5
五、将时间序列数据与界面数据相结合

( X ' X kI ) X ' Y
1
^
Y 0 1 X1 2 X 2 3 X 3 4 X 4 5 X 5 6 X 6
共线性
Ridge Regression Syntax
岭回归程序路径
INCLUDE 'C:\Users\Administrator\Desktop\Ridge regression.sps'. ridgereg enter=x1 x2 x3 x4 x5 解释变量 被解释变量 /dep=y /inc=0.01.
统计方法
Y 0 1Z1 2 Z2
因子分析
岭回归
岭回归是一种专门用于共线性数据分析的有偏估计 回归方法，它实际上是一种改良的最小二乘法，以放
弃最小二乘的无偏性，损失部分信息，放弃部分精确
度为代价来寻求效果稍差但更符合实际的回归方程。
^
( X ' X ) X 'Y
1
事实上，并没有度量多重共线性的单一方法，这是因为对 于非实验数据，无法确定共线性的性质和程度。
判断存在多重共线性的经验法则：
典型特征
1.R2较高但解释变量t值统计显著的不多；
2.解释变量两两高度相关；
3.检查偏相关系数； 4.方差膨胀因子； 5.条件指数； 6.从属回归或辅助回归。
超过0.8
多解释变量
产生影响。同样地，被解释变量当前的变化也可能受其 自身过去水平的影响，这种被解释变量受到自身或另一 种解释变量的前几期值影响的现象称为滞后效应。
（2）滞后变量模型 以滞后变量作为解释变量的模型即为滞后变量模型。
Yt 0 1Yt 1 2Yt 2 qYt q 0 X t 1 X t 1 s X t s t