第三章 多元线性回归模型

即
Y Xb U
X 称为数据矩阵或设计矩阵。
6
二、古典假定
假定1：零均值假定 E(ui ) 0 (i 1,2,...,n)
1 E ( 1 ) E ( ) 2 2 E (μ) E 0 n E ( n )
写成矩阵形式：
Y1 1 X 21 Y 1 X 22 2 Yn 1 X 2 n X 31 X k 1 b 1 u1 X 32 X k 2 b 2 u 2 X 3 n X kn b k un
或
ei 1 X 21 X e 1 X 22 2i i X ki ei 1 X 2 n X 31 X k 1 e1 X 32 X k 2 e2 X e 0 X 3 n X kn en
9
当总体观测值难于得到时，回归系数向 量 b 是未知的，这时可以由样本观测值进行 估计，可表示为
ˆ ˆ Xb Y
但实际观测值与计算值有偏差，记为：
ˆ e Y Y
于是
ˆ e Y Xb
称为多元样本回归函数。
10
ˆ b 1 ˆ b2 ˆ b ˆ b k
同理
ˆ x x b ˆ x 2 x3 i yi b 2 2i 3i 3 3i
x2 i yi x x3 i yi x2 i x3 i ˆ b2 2 2 2 x2 x ( x x ) i 3i 2i 3i
2 3i
x3 i yi x x2 i yi x2 i x3 i ˆ b3 2 2 2 x2 x ( x x ) i 3i 2i 3i

Yˆ 116.7 0.112X 0.739P
R2 0.99
(9.6) (0.003) (0.114)
Y和X的计量单位为10亿美元 (按1972不变价格计算).
P
食品价格平减指数 总消费支出价格平减指数
100，（1972
100）
3
多元线性回归模型中斜率系数的含义
上例中斜率系数的含义说明如下： 价格不变的情况下，个人可支配收入每上升10
c (X X )1 X D
从而将 的任意线性无偏估计量 * 与OLS估计量 ˆ 联系
起来。
28
cX I
由
可推出：
(X X )1 X X DX I
即 I DX I
因而有 D X 0
cc (X X )1 X D (X X )1 X D ( X X )1 X D X ( X X )1 D
第三章 多元线性回归模型
简单线性回归模型的推广
1
第一节 多元线性回归模型的概念
在许多实际问题中，我们所研究的因变量的变动 可能不仅与一个解释变量有关。因此，有必要考虑线 性模型的更一般形式，即多元线性回归模型：
Yt β0 β1X1t β2 X 2t ... βk X kt ut t=1,2,…,n
Yt
ˆ0
βˆ 1
X
1t
... βˆ K X Kt
2
为最小，则应有：
S
S
S
ˆ0 0, ˆ1 0, ..., ˆ K 0
我们得到如下K+1个方程（即正规方程）：
13
β0 n
β1 X1t ...... β K X Kt Yt
β 0 X 1t β1 X 1t 2 ...... β K X 1t X Kt X 1tYt

ห้องสมุดไป่ตู้
ˆ β1 ˆ ˆ = β2 β M ˆ βk
βˆ ——未知参数的 k × 1 阶估计值列向量； 阶估计值列向量； 阶列向量。 e ——残差项的 n × 1 阶列向量。
ˆ Y ——被解释变量样本观测值的 n × 1阶拟合值列向量； 阶拟合值列向量；
总体回归函数 样本回归函数
多元线性样本回归模型矩阵表达式： 多元线性样本回归模型矩阵表达式： 估计的样本回归方程矩阵表达式： 估计的样本回归方程矩阵表达式：
ˆ Y = Xβ + e ˆ ˆ Y = Xβ
e1 e 2 e= M en
其中
ˆ Y 1 ˆ ˆ = Y2 Y M ˆ Yn
Var(U ) = E[(U − EU)(U − EU)′] = E(UU ′)
u1 u12 u 2 u 2 u1 ( u1 , u 2 , L , u n ) = E = E M M u u n u1 n E (u12 ) E ( u 2 u1 ) = M E ( u n u1 ) σ 2 0 = M 0 0 E (u1u 2 )
Yi = β1 + β 2 X 2 i + β 3 X 3i + ... + β k X ki + ui
模型中参数 β j 为 是偏回归系数， ( j = 2,3,L, k)是偏回归系数，样本容量
n
偏回归系数：控制其它解释量不变的条件下， 偏回归系数：控制其它解释量不变的条件下，第 个解释变量的单位变动对应变量平均值的影响。 j 个解释变量的单位变动对应变量平均值的影响。
M
Yn = β1 + β2 X2n + β3 X3n + ... + βk Xkn + un

第三章 多元线性回归模型一、知识点列表二、关键词1、多元线性回归模型的代数和矩阵表示形式 关键词： 多元线性总体回归模型多元线性总体回归模型是指被解释变量y 与多个解释变量12,,,n x x x 之间具有线性关系，是解释变量的多元线性函数。

可以表达为：01122(1,2,3,,)i i i k ki iy x x x i n ββββμ=++++=多元线性回归模型相对于一元线性回归模型来说，其解释变量较多，因而计算公式比较复杂。

必要时需要借助计算机来进行。

2、多元线性回归模型的基本假设 关键词： 线性于参数总体回归模型是关于参数是线性的，因此称其为线性于参数。

关键词：完全共线性在样本中，没有一个自变量是常数，自变量之间也不存在严格（完全）的线性关系。

如果方程中有一个自变量是其他自变量的线性组合，那么我们说这个模型遇到了完全共线性问题。

关键词：零条件数学期望给定解释变量的任何值，误差的期望值为零，即：12(|,,,)0n E u x x x =。

关键词：内生解释变量和外生解释变量如果解释变量满足零条件数学期望，则称该自编为内生解释变量；反之，则为外生解释变量。

关键词：同方差对于解释变量的所有观测值，随机误差项有相同的方差，即：22()(),(1,2,3,,)i i Var u E u i n δ===关键词：无序列相关性随机误差项两两不相关。

即(,)(,)0,(,,1,2,3,,)i i i i Cov u u E u u i j i j n ==≠=关键词：最优线性无偏估计量满足以下假设条件的OLS 估计量称为最优线性无偏估计量：（1）线性与参数；（2）X 固定；（3）X 有变异；（4）不存在完全共线性；（5）零条件数学期望；（6）同方差；（7）无序列相关性。

关键词：经典正态线性回归模型如果回归模型的OLS 估计量为最优线性无偏估计量，并且随机误差项u 服从均值为零，方差为2δ的正态分布，则称该线性回归模型为经典正态线性回归模型。