第三讲线性回归的常见问题

第三讲 线性回归的常见问题
一、多重共线性
1、含义与影响
多重共线性是在变量间存在严格的或近似的线性关系。

也就是说，这些变量 被用来解释因变量时导致所提供的信息出现了“重叠”。

多重共线性的直接后果是回归系数参数估计的标准误变大，置信区间变宽，估计值的稳定性下降。

2、诊断方法
Eviews 软件的各个版本都没有直接的操作考虑共线性诊断的问题，只能通过自己计算分析或在软件中编程计算。

3、多重共线性的处理方法
（1）剔除法。

设法找到引起共线性的变量并予以剔除。

（2）差分法。

操作时的命令是：
ls ()d y 1()d x 2()d x ()p d x 或ls (1)y y -- 11(1)x x --(1)p p x x -- （3）重新定义方程
（4）有偏估计。

如主成分分析、岭回归等。

4、案例分析
中国私人轿车拥有量决定因素分析。

考虑到目前农村家庭购买私人轿车的现象还很少，在建立中国私人轿车拥有量模型时，主要考虑如下因素：（1）城镇居民家庭人均可支配收入；（2）城镇总人口；（3）轿车产量；（4）公路交通完善程度；（5）轿车价格。

“城镇居民家庭人均可支配收入”、 “城镇总人口数”和“轿车产量”可以直接从统计年鉴上获得。

“公路交通完善程度”用全国公路里程度量，也可以从统计年鉴上获得。

由于国产轿车价格与进口轿车价格差距较大，而且轿车种类很多，做分种类的轿车销售价格与销售量统计非常困难，所以因素“轿车价格”暂且略去不用。

定义变量名如下：
Y ：中国私人轿车拥有量（万辆） X1：城镇居民家庭人均可支配收入（元）， X2：全国城镇人口（亿人）
X3：全国汽车产量（万辆） X4；全国公路长度（万公里）
1985-2002年中国私人轿车拥有量以年增长率23%，年均增长55万辆的速度飞速增长。

年 Y X1 X2 X3 X4 1985 28.49 739.1 2.51 43.72 92.24 1986 34.71 899.6 2.64 36.98 96.28 1987 42.29 1002.2 2.77 47.18 98.22 1988 60.42 1181.4 2.87 64.47 99.96 1989 73.12 1375.7 2.95 58.35 101.43 1990 81.62 1510.2 3.02 51.4 102.83 1991 96.04 1700.6 3.05 71.42 104.11 1992 118.2 2026.6 3.24 106.67 105.67 1993 155.77 2577.4 3.34 129.85 108.35 1994 205.42 3496.2 3.43 136.69 111.78 1995 249.96 4283 3.52 145.27 115.7 1996 289.67 4838.9 3.73 147.52 118.58 1997 358.36 5160.3 3.94 158.25 122.64 1998 423.65 5425.1 4.16 163 127.85 1999 533.88 5854 4.37 183.2 135.17 2000 625.33 6280 4.59 207 140.27 2001 770.78 6859.6 4.81 234.17 169.8 2002 968.98
7702.8
5.02
325.1
176.52
二、异方差性 1、含义及影响
如果回归模型中的随机误差项不满足假设条件中的同方差性，即对不同的样本点有()()i j Var Var εε≠，i j ≠。

当存在异方差时用OLS 估计模型参数时可能出现：参数估计值虽然是无偏
的，但不是有效的；参数的显著性检验失去意义；预测失效等。

2、异方差的诊断方法
（1）图示检验法。

以某一变量（通常取自变量或因变量的预测值）作为横坐标，以模型的残差为纵坐标，根据散点图直观地判断是否存在相关性。

（2）怀特检验。

打开方程对象窗口，选View/Residual Tests/ Heteroskedasticity Tests/ White ，怀特检验还有一个交叉项选项。

（3）其他类似的检验。

Eviews 中的其他异方差检验方法与怀特检验方法大同小异，主要是方差函数的具体形式存在差异。

异方差检验的方差函数的一般形式为：
22(,)t t f z σασ'=，0,1,2,t =
式中，2t σ是t 时刻随机项的理论方差；t z '是t 时刻方差函数的自变量向量，通常是原模型的自变量，但也不绝对；α是方差函数的参数向量。

异方差其他检验的方差函数如下表所示：
这些命令的调用方式同White 检验类似。

3、异方差的处理
（1）加权最小二乘法。

加权最小二乘估计的实现与普通最小二乘估计基本相同，只是需要在方程定义对话框中按下Options 按钮，在Options 栏中选Weighted Ls 项，并在Weighted 项中输入权数序列名即可。

（2）异方差和自相关相容协方差估计。

异方差和自相关相容协方差是Eviews 软件提供的另一种方法，适用于异方差的形式未知时，因为此时不能用WLS 来消除异方差。

相容参数估计采用了另外估计回归系数协方差阵，从而改变了估计值的标准差。

该方法的标准差是不正确的，不能用来推断。

这一方法的操作是：在普通的建模过程中选方程定义对话框的Options 按钮，在新对话框选择Heteroskedasticity Consistent Covariances ，再从White 和Newey-West 选择一种开始估计。

4、案例分析
已知某地区的个人储蓄Y 、可支配收入X 的截面样本数据，建立它们之间的线性计量模型并估计之。

三、自相关性
1、含义及影响
回归模型中各残差项之间不满足独立假设，即
(,)0i j Cov εε≠，,1,,i j n = ；i j ≠。

当存在自相关时用OLS 估计模型参数时可能出现：参数估计值虽然是无偏的，但不是有效的；参数的显著性检验失去意义；预测失效等。

2、诊断方法
（1）D.W.检验。

注意这种检验的几种不足。

（2）LM 检验。

这个检验位于方程对象窗口菜单View/Residual Tests/Serial Correlation LM Test ，点击该功能后会弹出一个设定滞后期（Lag Specification ）对话框。

输入滞后的期数，点击OK 键，就会得到BG （LM ）检验结果。

3、自相关的克服方法 （1）Cochrane-Orcutt 迭代法。

举例：考虑双变量模型12t t t Y X u ββ=++以及t u 的AR (1)模式,即
1t t t u u v ρ-=+，科克伦－奥科特（Cochrane-Orcutt ）迭代法操作步骤如下：
（i ）用通常的OLS 方法估计方程的残差ˆt u ； （ii ）做回归：1ˆˆˆt t t u
u v ρ-=+； （iii ）利用所得ˆρ
估计广义差分方程∆Y t = β1* +β2∆X t + v t ； （iv ）由于事先不知道（3）中得到的ˆρ
是不是最佳估计值，所以把第3步中得到的*1ˆβ和2ˆβ代入原回归方程12t t t Y X u ββ=++，并得到新的残差*ˆt
u ； （v ）现在估计回归：1***
ˆˆˆt
t t u u w ρ-=+得到ρ的第二轮估计值； （vi ）按此思路一直进行迭代，一般直到相邻两个估计值相差很小（比如小于0.01或0.005等）时，便可以停止迭代。

Eviews 软件包中，广义差分采用了科克伦－奥科特（Cochrane-Orcutt ）迭代法估计。

操作方法是在方程对象窗口中引入AR (1)、AR (2)、…作为解释变量即可，得到参数和1ρ、2ρ、…的估计值。

其中AR (m )表示随机误差项的m 阶自回归。

在估计过程中自动完成了1ρ、2ρ、…的迭代。

（2）重新定义模型。

新定义的模型可能会避免序列相关。

4、案例分析
改革开放（1978～2000）以来，天津市城镇居民人均消费性支出（CONSUM ），人均可支配收入（INCOME ）以及消费价格指数（PRICE ）数据见下表。

现在研
究人均消费与人均可支配收入的关系。

天津市城镇居民人均消费与人均可支配收入数据。