南开大学计量经济学课件第5章-一元线性回归模型

第5章
一元线性回归模型
建立计量经济模型一般分为如下几个步骤： 确定 研究对象 画变量 散点图 设定，估计，诊断、检验模型， 分析回归参数，预测。
收集数据
本章先介绍最简单的一元线性回归模型。内容包括 模型的建立及其假定条件， 一元线性回归模型的参数估计， 回归参数估计量的分布， 最小二乘（OLS）估计量的统计性质， OLS 回归函数的性质， 拟合优度的测量， 回归参数的显著性检验， 回归参数的置信区间， 模型的预测， 案例分析等。
x)
=
(xt xt ) yt 2 (xt x)
(5-12)
根据假定 (6)，xi 是非随机的，所以令 kt =
(xt xt )
(xt
x)
2
代入式(5-12)，得 ˆ 1 = kt yt
则 E( ˆ 1 ) = E( kt yt) = E[ kt (0 + 1 xt + ut) ] = E ( 0 kt + 1 kt xt + kt ut) = E[1 kt (xt - x ) + kt ut ] （其中 kt (xt - x ) = kt xt） = 1 + E( kt ut ) = 1 在上式的推导过程中利用了结论， kt = 0， kt x = 0。 (5-15)
2012-9-2 计量经济学
第5章
一元线性回归模型
5.2 一元线性回归模型的参数估计 5.2.1 估计方法初探 对于所研究的经济问题，假定变量 yt 和 xt 之间服从线性关系。通常真实的回归 直线是观测不到的。收集样本的目的就是要对这条真实的回归直线做出估计。 设估计的回归直线用
ˆ yt
= ˆ 0 + ˆ 1 xt
t t t t t t t t
x( yt y)
x (xt x ) 计量经济学
( x x )( y = (x x)
t t 2 t
y)
第 5 章 一元线性回归模型
5.3 yt， ˆ 1 和 ˆ 0 的分布 5.3.1 yt 的分布 根据假定条件 ut N (0, )，得 yt 的期望， E(yt) = E(0 + 1 xt + ut) = 0 + 1 xt + E(ut) = 0 + 1 xt E(yt) = 0 + 1 xt 表示真实的回归直线。当 xt 固定时，E(yt)表示 yt 取值的期望。 Var(yt) = Var (0 + 1 xt + ut) = Var (0 + 1 xt) + Var (ut) = 根据模型(5-1)，yt 是 ut 的线性函数。因为根据假定条件，ut 服从正态分布， 所以 yt 也服从正态分布。 yt N (0 + 1 xt, )。 (5-11)
Q ˆ
0
= 2
t 1
T
ˆ ˆ ( yt 0 1xt )
(-1) = 0
(5-5)
Q
2012-9-2
ˆ 1
= 2
t 1
T
ˆ ˆ ( yt 0 1xt )
(- xt) = 0
计量经济学
(5-6)
由式（5-5）（5-6）得， 、
( yt
i 1
T
ˆ ˆ 0 1xt )
2012-9-2 计量经济学
第5章
一元线性回归模型
yt = 0 + 1 xt + ut (5-1) 5.1.4 模型的假定条件 (5) Cov(ui, uj) = E[(ui - E(ui) ) ( uj - E(uj) )] = E(ui, uj) = 0, (i j )。 (6) xt 是非随机的。 xt 的值是事先确定的。注意，这一假定条件在自然科学领域的实验研究中容易得 到满足，因为实验是可控的，而在经济领域内，xt 的观测是不可控的，所以这一假定 条件不容易满足。 (7) Cov(ut, xt) = 0。 (8) 对于含有多个解释变量的线性回归模型，解释变量之间不能完全相关或高度相 关。否则称解释变量之间存在多重共线性。 E(yt) = 0 +1 xt 是回归模型 (5-1) 的一部分。由此可见回归模型有两个特点。 （1） 建立在某些假定条件不变前提下抽象出来的回归函数不能百分之百地再现所研究的 经济过程。 （2）从另一方面看，也正是由于这些假定， 才能对经济问题进行高度抽象， 从而更深刻地揭示经济变量之间的变化规律。
1
) = [
(xt xt )
(xt
x)
2
] =



2
(xt
x)
2
(5-16)
因为 ˆ 1 是 yt 的线性函数 （见式(5-14)） yt 服从正态分布， ， 所以 ˆ 1 也服从正态分布。
ˆ 1
N ( 1,
1
(xt
x)
2
)
计量经济学
ˆ yt )
2
=
( yt
t 1
T
2 ˆ ˆ 0 1xt )
(5-4)
OLS 法是以 Q 取最小值为条件确定回归直线，即确定 ˆ 0 和 ˆ 1 的值。当样本已知时， 上式中的 yt，xt 是已知量， ˆ 0 和 ˆ 1 是未知量。把 Q 看作是 ˆ 0 和 ˆ 1 的函数。这是一个 二元函数求极值问题。 解法是求 Q 对 ˆ 0 和 ˆ 1 的偏导数并令其为零， 得正规方程如下，
(5-2)
ˆ 表示。其中 y t 称作 yt 的拟合值， ˆ 0 和 ˆ 1 分别是 0 和1 的估计量。观测点到这 ˆ ˆ ˆ 条估计的回归直线的纵向距离用 u t 表示。 u t 称作残差， u t 是对 ut 的估计。 ˆ ˆ ˆ yt = y t + u t = ˆ 0 + ˆ 1 xt + u t
2012-9-2
计量经济学
5.3.2 ˆ 1 的分布 下面讨论 ˆ 1 的分布。先求 ˆ 1 的期望。由式(5-10)，
ˆ 1 =
( x t x t )( y t y t ) = ( x t 2 (xt x)
xt ) yt yt
(xt
2
xt )
(xt
(5-3)
称作估计的回归模型。
计量经济学
2012-9-2
5.2.2 最小二乘估计法原理
ˆ 最小二乘法的估计原理是以“残差平方和（ t 1 u t 2 ）最小”为原则确定直线位置。
T
5.2.3 最小二乘估计的计算 设残差平方和用 Q 表示， Q=

t 1
T
ˆ ut
2
=
( yt
t 1
T
2012-9-2 计量经济学
第5章
一元线性回归模型
yt = 0 + 1 xt + ut (5-1) 5.1.4 模型的假定条件 在对回归函数进行估计之前应该对随机误差项 ut 做出如下假定。 因为最小二乘法 （OLS）是以如下假定条件为基础的。 (1) ut , (t =1, 2, …, T ), 是 T 个随机变量，ut 的取值服从概率分布。 (2) E(ut) = 0, (t =1, 2, …, T )。 (3) Var(ut) = E[ut - E(ut) ]2 = E(ut)2 = 2, (t =1, 2, …, T )。 称 ut 具有同方差性。这个假定的含义是对于任意 ut, (t =1, 2, …, T )其分布的方差 都是常量2，此条件下，称 ut 具有同方差性。当此条件得不到满足时，称 ut 具有 异方差性。 (4) ut 服从正态分布。 根据中心极限定理， 如果能保证 ut 由众多的微小随机因素所组成， 那么就可以认 为 ut 近似地服从正态分布。以上四个假定条件可表达如下， ut N (0, ) 在假定（1）（2）成立条件下有 E(yt) = E(0 +1 xt +ut ) = 0 +1 xt。称 E(yt)为真实的 ， 回归函数。通常 E(yt) = 0 +1 xt 是观测不到的，利用样本得到的只是对它的估计
2012-9-2
计量经济学
第5章
一元线性回归模型
5.1.3 一元线性回归模型的经济含义与特征 以研究家庭支出与收入的关系为例。假设家庭支出与收入呈线性函数关系。实际 上，数据来自各个不同家庭，来自各个不同收入水平，从而使收入以外的影响支 出变化的其他因素维持不变是不可能的。随机误差项 ut 中包括了家庭人口数，消 费习惯，不同地域的物价水平，家庭的额外收入等因素。由 yt 与 xt 数据得到的观 测点也不在一条直线上（不呈线性函数关系） ，而是散布在一条直线周围，这些观 测点服从统计关系，见图 5-1，其中直线 E(yt) = 0 + 1 xt 称作真实的回归直线。
ut E(yt) = 0 + 1 xt
图 5-1
2012-9-2
真实的回归直线 计量经济学
第 5 章 一元线性回归模型 yt = 0 + 1 xt + ut (5-1) 一般来说，回归模型的随机误差项 ut 中包括如下几项内容。 （1）未在模型中专门列出的影响 yt 变化的非重要解释变量。如上例中家庭人口 数、消费习惯、物价水平差异等因素的影响都包括在随机误差项中。 （2）人的随机行为。经济活动都是人参与的。人的经济行为的变化也会对随机误 差项产生影响。 （3）数学模型形式欠妥。对于同一组观测值，若拟合的数学模型形式不同，则相 应的随机误差项的值也不同。显然当模型形式欠妥时，会直接对随机误差 项的值带来影响。 （4）归并误差。模型中被解释变量的值常常是归并而成的。当归并不合理时，会 产生误差。比如由不同种类粮食合并构成的粮食产量的不合理归并会带来 归并误差。 （5）测量误差等。当对被解释变量的测量存在误差时，这种误差将包括在随机误 差项中。