当前位置：文档之家 › 第三章 多元线性回归模型

第三章 多元线性回归模型

  • 格式：ppt
  • 大小：2.16 MB
  • 文档页数：80

下载文档原格式

  / 80

合集下载

第三章 多元线性回归模型

第三章 多元线性回归模型

即
Y Xb U
X 称为数据矩阵或设计矩阵。
6
二、古典假定
假定1：零均值假定 E(ui ) 0 (i 1,2,...,n)
1 E ( 1 ) E ( ) 2 2 E (μ) E 0 n E ( n )
写成矩阵形式：
Y1 1 X 21 Y 1 X 22 2 Yn 1 X 2 n X 31 X k 1 b 1 u1 X 32 X k 2 b 2 u 2 X 3 n X kn b k un
或
ei 1 X 21 X e 1 X 22 2i i X ki ei 1 X 2 n X 31 X k 1 e1 X 32 X k 2 e2 X e 0 X 3 n X kn en
9
当总体观测值难于得到时，回归系数向 量 b 是未知的，这时可以由样本观测值进行 估计，可表示为
ˆ ˆ Xb Y
但实际观测值与计算值有偏差，记为：
ˆ e Y Y
于是
ˆ e Y Xb
称为多元样本回归函数。
10
ˆ b 1 ˆ b2 ˆ b ˆ b k
同理
ˆ x x b ˆ x 2 x3 i yi b 2 2i 3i 3 3i
x2 i yi x x3 i yi x2 i x3 i ˆ b2 2 2 2 x2 x ( x x ) i 3i 2i 3i
2 3i
x3 i yi x x2 i yi x2 i x3 i ˆ b3 2 2 2 x2 x ( x x ) i 3i 2i 3i

计量经济学第三章多元线性回归模型

计量经济学第三章多元线性回归模型

⒈零均值假定
E( i) 0 i 1,2,, n
E(U) 0
⒉同方差和无自相关假定
COV (i , j ) E(i E(i ))( j E( j ))
2 i j

E(i
j
)


0
i j
VAR(U ) E(U E(U))(U E(U))
Yˆi ˆ1 ˆ2 X 2i ˆK X Ki
i 1,2,, n
Yi Yˆi ei
Yˆi

ˆ j
E(Y
j
X 2i ,,
X Ki
)
注意：β1一般情况下没有明确的经济含义，但一般 总包含在回归模型中。
3.1多元线性回归模型及古典假定
二、多元线性回归模型的矩阵形式
总体回归函数描述了一个被解释变量与多个解释
变量之间的线性关系，线性是针对参数而言的。
其中， j 为偏回归系数，表示：在控制其他变量 不变的条件下，第j个解释变量的单位变动对被解释 变量平均值的影响。
j

Y X j(保持其他变量不变)

Y X j
3.1多元线性回归模型及古典假定
样本回归函数：
(XX)1 X 2ΙX(XX)1 2 (XX)1 XX(XX)1 2 (XX)1
i 1
ei 0





N
( ei2 )
i 1
ˆ2
N

2
N i 1
(Yi
ˆ1

ˆ2 X 2i
ˆK
X Ki ) X 2i

2
ei X 2i 0
偏 导

第三章多元线性回归模型(计量经济学,南京审计学院)

第三章多元线性回归模型(计量经济学,南京审计学院)

Yˆ 116.7 0.112X 0.739P
R2 0.99
(9.6) (0.003) (0.114)
Y和X的计量单位为10亿美元 (按1972不变价格计算).
P
食品价格平减指数 总消费支出价格平减指数
100，（1972
100）
3
多元线性回归模型中斜率系数的含义
上例中斜率系数的含义说明如下： 价格不变的情况下，个人可支配收入每上升10
c (X X )1 X D
从而将 的任意线性无偏估计量 * 与OLS估计量 ˆ 联系
起来。
28
cX I
由
可推出：
(X X )1 X X DX I
即 I DX I
因而有 D X 0
cc (X X )1 X D (X X )1 X D ( X X )1 X D X ( X X )1 D
第三章 多元线性回归模型
简单线性回归模型的推广
1
第一节 多元线性回归模型的概念
在许多实际问题中，我们所研究的因变量的变动 可能不仅与一个解释变量有关。因此，有必要考虑线 性模型的更一般形式，即多元线性回归模型：
Yt β0 β1X1t β2 X 2t ... βk X kt ut t=1,2,…,n
Yt
ˆ0
βˆ 1
X
1t
... βˆ K X Kt
2
为最小，则应有：
S
S
S
ˆ0 0, ˆ1 0, ..., ˆ K 0
我们得到如下K+1个方程（即正规方程）：
13
β0 n
β1 X1t ...... β K X Kt Yt
β 0 X 1t β1 X 1t 2 ...... β K X 1t X Kt X 1tYt

第三章 多元线性回归模型

第三章 多元线性回归模型
ห้องสมุดไป่ตู้
ˆ β1 ˆ ˆ = β2 β M ˆ βk
βˆ ——未知参数的 k × 1 阶估计值列向量； 阶估计值列向量； 阶列向量。 e ——残差项的 n × 1 阶列向量。
ˆ Y ——被解释变量样本观测值的 n × 1阶拟合值列向量； 阶拟合值列向量；
总体回归函数 样本回归函数
多元线性样本回归模型矩阵表达式： 多元线性样本回归模型矩阵表达式： 估计的样本回归方程矩阵表达式： 估计的样本回归方程矩阵表达式：
ˆ Y = Xβ + e ˆ ˆ Y = Xβ
e1 e 2 e= M en
其中
ˆ Y 1 ˆ ˆ = Y2 Y M ˆ Yn
Var(U ) = E[(U − EU)(U − EU)′] = E(UU ′)
u1 u12 u 2 u 2 u1 ( u1 , u 2 , L , u n ) = E = E M M u u n u1 n E (u12 ) E ( u 2 u1 ) = M E ( u n u1 ) σ 2 0 = M 0 0 E (u1u 2 )
Yi = β1 + β 2 X 2 i + β 3 X 3i + ... + β k X ki + ui
模型中参数 β j 为 是偏回归系数， ( j = 2,3,L, k)是偏回归系数，样本容量
n
偏回归系数：控制其它解释量不变的条件下， 偏回归系数：控制其它解释量不变的条件下，第 个解释变量的单位变动对应变量平均值的影响。 j 个解释变量的单位变动对应变量平均值的影响。
M
Yn = β1 + β2 X2n + β3 X3n + ... + βk Xkn + un

第三章 多元线性回归模型 知识点

第三章 多元线性回归模型 知识点

第三章 多元线性回归模型一、知识点列表二、关键词1、多元线性回归模型的代数和矩阵表示形式 关键词： 多元线性总体回归模型多元线性总体回归模型是指被解释变量y 与多个解释变量12,,,n x x x 之间具有线性关系，是解释变量的多元线性函数。

可以表达为：01122(1,2,3,,)i i i k ki iy x x x i n ββββμ=++++=多元线性回归模型相对于一元线性回归模型来说，其解释变量较多，因而计算公式比较复杂。

必要时需要借助计算机来进行。

2、多元线性回归模型的基本假设 关键词： 线性于参数总体回归模型是关于参数是线性的，因此称其为线性于参数。

关键词：完全共线性在样本中，没有一个自变量是常数，自变量之间也不存在严格（完全）的线性关系。

如果方程中有一个自变量是其他自变量的线性组合，那么我们说这个模型遇到了完全共线性问题。

关键词：零条件数学期望给定解释变量的任何值，误差的期望值为零，即：12(|,,,)0n E u x x x =。

关键词：内生解释变量和外生解释变量如果解释变量满足零条件数学期望，则称该自编为内生解释变量；反之，则为外生解释变量。

关键词：同方差对于解释变量的所有观测值，随机误差项有相同的方差，即：22()(),(1,2,3,,)i i Var u E u i n δ===关键词：无序列相关性随机误差项两两不相关。

即(,)(,)0,(,,1,2,3,,)i i i i Cov u u E u u i j i j n ==≠=关键词：最优线性无偏估计量满足以下假设条件的OLS 估计量称为最优线性无偏估计量：（1）线性与参数；（2）X 固定；（3）X 有变异；（4）不存在完全共线性；（5）零条件数学期望；（6）同方差；（7）无序列相关性。

关键词：经典正态线性回归模型如果回归模型的OLS 估计量为最优线性无偏估计量，并且随机误差项u 服从均值为零，方差为2δ的正态分布，则称该线性回归模型为经典正态线性回归模型。

第3章多元线性回归

第3章多元线性回归



E (β XX1Xε-β)(β XX1Xε-β)
E XX1Xεε XXX1 XX1XE(εε )XXX1
XX1XE( 2In )XXX1 2 XX1
3.3 参数估计量的性质
i 1
i 1
ˆ
2

n

1 p
1
SSE

n

1 p
(ee) 1
n
1 p
1
n i 1
ei2
是σ2的无偏估计
3.2 回归参数的估计
三 、回归参数的最大似然估计
y～N(Xβ ,σ 2In)
似然函数为
L
(2 )n
2
2
n
2
exp(
1
2
2
(y - Xβ)(y - Xβ))
βˆ (XX)-1 Xy
3.2 回归参数的估计
二、回归值与残差
称 yˆi ˆ0 ˆ1xi1 ˆ2xi2 ˆp xip 为回归值
yˆ Xβˆ X(XX)-1 Xy H X(X X)-1X
称为帽子矩阵，其主对角线元素记为hii ，则
3.2 回归参数的估计
二、回归值与残差
n
tr(H ) hii p 1 i 1
此式的证明只需根据迹的性质tr(AB)=tr(BA),因而
tr(H) tr(X(XX)-1X) tr(XX(XX)-1) tr(Ip1) p 1
3.2 回归参数的估计
二、回归值与残差
e y yˆ y Hy (I- H)y
x 2
Lxx
x 2
Lxx

2

L xx

第三章(1) 多元线性回归模型课件

第三章(1) 多元线性回归模型课件

分离差的大小
解释的那部分离差的大小。也
称剩余平方和。
第三章 多元线性回归模型
§ 3-3 多元线性回归模型的统计检验 一、 拟合优度检验 检验模型对样本观测值的拟合程度。用在总离差分解 基础上确定的可决系数R2 (调整的可决系数 ) 度量。 1、总离差平方和的分解
总离差平方和TSS 回归平方和ESS
3、随机误差项在不同 样本点之间是独立的，
Cov( i,
不存在序列相关
因为 i与 j相互独立，有：
j)=0 i≠j
无自相关假定表明：产生 误差(干扰)的因素是完 全随机的，此次干扰与彼 次干扰互不相关，互相独 立。由此应变量Yi的序列 值之间也互不相关。
第三章 多元线性回归模型
§ 3-1 多元线性回归模型及其基本假定
3、有效性(最小方差性)：
指在所有线性、无偏估计量中， OLS参数估计量的 方差最小。
4、 服从正态分布，即：
其中，
， G2是随机误差项的方差，
Cjj是矩阵(X’X)-1 中第j行第j列位置上的元素。
第三章 多元线性回归模型
§ 3-2 多元线性回归模型的参数估计
一、 参数的最小二乘估计
二、 OLS估计量的统计性质及其分布
三、随机误差项方差Q2的估 计
参数估计的另一项任务是： 求随机误差项 i 的分布参数
称作回归标准差 (standard error of regression)， 常作为对所估计回归线的拟
合优度的简单度量。
i~N(0, Q2)
随机误差项 i 的 方差的估计量为：
可以
证明：
说明 是QS 的无偏估计量。
t-Statistic 6.411848 22.00035 4.187969

第三章多元线性回归模型

第三章多元线性回归模型

命令或特殊函数命令得到。特殊函数命令：在工作文件窗
口，使用GSexi nr命S令y 生成，x如i 序列y的标准为
），
@ stdev( y)
26
案例2 我国房地产行业资本结构分析
资本结构是指企业各种资本的价值构成及其 比例关系。合理安排资本结构有利于增加公司的市场价 值。本案例运用多元回归分析方法研究了我国房地产上 市公司的资本结构，证实了成长能力、营运效率、内部 流动率、盈利能力等因素对房地产上市公司的资本结构 （以资产负债率为衡量指标）有显著影响。
28
表3.2资本结构的影响因素对应指标和变量
影响因素 对应指标
变量
成长能力 总资产增长率
x1
股东权益周转率 x2
营运效率 总资产周转率
x3
内部流动率 流动比率
x4
盈利能力 销售净利率
x5
29
根据以上的叙述，拟建立如下截面多元线 性回归模型：
yi 0 1x1i 2 x2i 3x3i 4 x4i 5x5i ui


Q
k
2
( yt 0 1x1t 2 x2t
k xkt ) =0 k xkt )x1t =0
k xkt )xkt =0
化简整理得多元线性回归正规方程组：
13


yt = n0 +1 x1t yt 0 x1t 1 x2t yt 0 x2t 1
进一步改写为：
1 1

x11
x12

x21
x22

xk1 xk2
1 1 x11 x21
x1n

§3.1 多元线性回归模型

§3.1 多元线性回归模型
其中
Y = Xβ+ μ β
1 X 11 1 X 12 X= M M 1 X 1n X 21 L X k1 X 22 L X k 2 M M X 2 n L X kn n×( k +1)
β0 β 1 β= β 2 M β k ( k +1)×1
1 2 μ= M n n×1
i ~ N (0, σ 2 )
上述假设的矩阵符号表示 上述假设的矩阵符号表示 式： 假设1 +1)矩阵 是非随机的， +1， 假设1，n×(k+1)矩阵 是非随机的，且X的秩ρ=k+1， × +1)矩阵X是非随机的 的秩 +1 满秩。 即X满秩。 满秩 假设2 假设2，
1 E ( 1 ) E (μ = E M = M = 0 ) E ( ) n n
样本回归函数： 样本回归函数：用来估计总体回归函数
Yi = β 0 + β 1 X 1i + β 2 X 2i + L + β ki X ki
其随机表示式: 随机表示式:
Yi = β0 + β1 X1i + β2 X2i +L+ βki Xki + ei
样本回归函数的矩阵表达: 样本回归函数的矩阵表达:
第三章 经典单方程计量经济学模 型：多元回归
多元线性回归模型 多元线性回归模型的参数估计 多元线性回归模型的统计检验 多元线性回归模型的预测 回归模型的其他形式 回归模型的参数约束
§3.1 多元线性回归模型
一、多元线性回归模型 二、多元线性回归模型的基本假定
一、多元线性回归模型
Yi =β0 +β1X1i +β2X2i ++βk Xki +i

三章多元线回归模型

三章多元线回归模型

多元模型的矩阵表达式
Y X
1
1
11
Y X
21
12
Y X
n
1
1n
X21 X22
X2n
X X X bbbb uuu kkk12n
k102
1 2 n
YXB U
矩阵形式
Y XB U
Y 1
Y
Y 2
Y n
b 0
B
b b
1 2
b k
X 1
11
X X
（4）应变量估计值 Y i 与残差 ei不相关；
（5）解释变量
X
与残差
i
ei不相关
2.3 随机扰动项方差的估计
2
扰动项的方 2估 差计：
ei2
nk
其中n为样本容量 k为， 待估参数个数。
（比较：一元情 2 形e： i2，待估参数 2个有 ）
n2
注解：k与k+1
凡是按解释变量的个数为k的，那么共有k+1 个参数要估计。而按参数个数为k的，则实 际有k-1个解释变量。总之两者相差1而已！ 要小心所用的k是什么意思！
E(NN)(X X )1 X X ( X X )1
2 ( X X )1
2.2 OLS回归线的性质
完全同一元情形：
（1）回归线过样本均值
Y 1 2 X 2i 3 X 3i ... k X ki
(2)估计值 Y i 的均值等于实际观测值 Yi的均值
(3)剩余项（残差） ei的均值为 0
1
12
X 1
1n
X 21 X 22
X 2n
u 1
U
u2
u n

第03章-多元线性回归模型

第03章-多元线性回归模型
2 u2
M u u2 1
K u uT 1 K u uT 1 O M 2 K uT
2 E(u1 ) E(u2u1) = M E(uT u1)
E(u1u2 ) K E(u1uT ) σ 2 0 K 0 2 E(u2 ) K E(u2uT ) 0 σ 2 K 0 = σ 2I = M M M M O M 0 K σ2 0 2 E(uT u2 ) K E(uT )
因此： 这个模型相应的矩阵表示形式 因此： 这个模型相应的矩阵表示形式为：Y = Xβ + U 矩阵表示形式为
y1 y2 Y= M yT (T ×1)
1 1 X= L 1 x11 x21 L xT 1 x12 x22 L xT 2 x13 L x1k x23 L x2 k L L L xT 3 L xTk T ×( k +1)
§3.2 最小二乘法
一、参数的最小二乘估计…… 参数的最小二乘估计 二、随机误差项方差σ2的估计量 随机误差项方差σ 的估计量……
一、参数的最小二乘估计
– 根据最小二乘准则： 根据最小二乘准则：
ˆ ˆ ˆ ˆ Q ( β 0 , β 1 , β 2 , … , β k）
=
∑
=
T
t =1
et =
2
二、随机误差项方差σ 二、随机误差项方差σ2的估计量
首先，残差的表示形式： 首先，残差的表示形式：
) ˆ e = Y − Y = Y − Xβ = ( Xβ + u) − X [( X' X ) −1 X' Y ] = ( Xβ + u) − X [( X' X )−1 X' ( Xβ + u)]

第三章多元线性回归模型

第三章多元线性回归模型

第三章 多元线性回归模型一、名词解释1、多元线性回归模型：在现实经济活动中往往存在一个变量受到其他多个变量影响的现象，表现在线性回归模型中有多个解释变量，这样的模型被称做多元线性回归模型，多元是指多个解释变量2、调整的可决系数2R ：又叫调整的决定系数，是一个用于描述多个解释变量对被解释变量的联合影响程度的统计量，克服了2R 随解释变量的增加而增大的缺陷，与2R 的关系为2211(1)1n R R n k -=----。

3、偏回归系数：在多元回归模型中，每一个解释变量前的参数即为偏回归系数，它测度了当其他解释变量保持不变时，该变量增加1单位对被解释变量带来的平均影响程度。

4、正规方程组：采用OLS 方法估计线性回归模型时，对残差平方和关于各参数求偏导，并令偏导数为0后得到的方程组，其矩阵形式为ˆX X X Y β''=。

5、方程显著性检验：是针对所有解释变量对被解释变量的联合影响是否显著所作的检验，旨在对模型中被解释变量与解释变量之间的线性关系在总体上是否显著成立作出判断。

二、单项选择题1、C ：F 统计量的意义2、A ：F 统计量的定义3、B ：随机误差项方差的估计值1ˆ22--=∑k n e iσ4、A ：书上P92和P93公式5、C ：A 参看导论部分内容；B 在判断多重共线等问题的时候，很有必要；D 在相同解释变量情况下可以衡量6、C ：书上P99，比较F 统计量和可决系数的公式即可7、A ：书P818、D ：A 截距项可以不管它；B 不考虑beta0；C 相关关系与因果关系的辨析 9、B ：注意！只是在服从基本假设的前提下，统计量才服从相应的分布10、D ：AB 不能简单通过可决系数判断模型好坏，还要考虑样本量、异方差等问题；三、多项选择题1、ACDE ：概念性2、BD ：概念性3、BCD ：总体显著，则至少一个参数不为04、BC ：参考可决系数和F 统计量的公式5、AD ：考虑极端情况，ESS=0，可发现CE 错四、判断题、 1、√2、√3、×4、×：调整的可决系数5、√五、简答题 1、 答：多元线性回归模型与一元线性回归模型的区别表现在如下几个方面：一是解释变量的个数不同；二是模型的经典假设不同，多元线性回归模型比一元线性回归模型多了个“解释变量之间不存在线性相关关系”的假定；三是多元线性回归模型的参数估计式的表达更为复杂。

第三章-多元线性回归模型ppt课件

第三章-多元线性回归模型ppt课件

32
§3.5 最小二乘估计量的特征
上一章中谈到，经典一元线性回归模
型的OLS估计量满足线性、无偏及方差最
小性，即高斯——马尔可夫定理，对于经
典多元线性回归模型的普通最小二乘估计
量，这一性质仍然存在，换言之，对于满
足经典假设的多元线性回归模型，采用
OLS方法所得估计量 也满足线性、无偏
及方差最小性。 ppt精选版
ˆ 3
yi x3i
x
2 2i
x
2 2i
yi x2i
x2i x3i
x32i ( x2i x3i ) 2
ppt精选版
30
解方程时的系数行列式：
x22i
x2ix3i
x2ix3i
x32i
解 ˆ2 时的分子行列式：
yix2i
x2ix3i
yix3i
x32i
ppt精选版
31
第三章 第五节
ppt精选版
Y 01P2D P 3P I 2 U
ppt精选版
5
二、多元总体线性回归模型 总体模型： 1、分量式：
Y i 0 1 X 1 i 2 X 2 i k X k u ii
2、总量式
Y 01X 1 ppt精选版2X 2 kX k 6U
称 之 为 变 量 Y 关 于 变 量 X1, X2, …, Xk的k元总体线性回 归模型，Y称为被解释变量 ，X1, X2, …, Xk称为解释变 量，k 称为解释变量个数， U 称为随机扰动项，或随机 项，或扰动项。
一、多元总体线性回归模型的矩阵表示
YX βU Y1
Y
Y
2
Yn
1 X 21 X k1
X
1
X 22

计量经济学 詹姆斯斯托克 第3章 多元线性回归模型

计量经济学 詹姆斯斯托克 第3章 多元线性回归模型

i 2 i
10 21500 21500 53650000
1 X Y X1
1 X2
Y1 1 Y2 Yi 15674 X n X iYi 39468400 Yn
i i
638 1122 1155 1408 1595 1969 2078 2585 2530
ˆ 1
x y x
2 i
5769300 0.777 7425000
ˆ Y ˆ X 1567 0.777 2150 103 .172 0 0
因此，由该样本估计的回归方程（样本回归函数） 为：
i 1
n
2
ˆ ˆ X ˆ X ˆ X ))2 Q (Yi ( 0 1 1i 2 2i k ki
i 1
n
于是得到关于待估参数估计值的正规方程组：
ˆ ˆ X ˆ X ˆ X ) Y ( 0 1 1i 2 2i k ki i ˆ ˆ X ˆ X ˆ X ) X Y X ( 0 1 1i 2 2i k ki 1i i 1i ˆ ˆ X ˆ X ˆ X ) X Y X ( 0 1 1i 2i 2i k ki 2i i 2i ˆ ˆ ˆ ˆ ( 0 1 X 1i 2 X 2 i k X ki ) X ki Yi X ki
习惯上：把常数项看成为一个虚变量的系 数，该虚变量的样本观测值始终取1。这样： 模型中解释变量的数目为（k +1）。
Yi 0 1 X 1i 2 X 2 i k X ki i
也被称为 总体回归函数 的 随机表达形式 。它的 非随机表达式为:

第三章多元线性回归模型

第三章多元线性回归模型

( k + 1 )×1
1 2 μ= M n n ×1
用来估计总体回归函数的样本回归函数 ： 样本回归函数为： 样本回归函数
Yi = β 0 + β1 X1i + β 2 X 2i + L+ β ki X ki
样本观测值: 样本观测值:
Yi = β0 +β1X1i +β2 X2i +L+βkiXki +ei
b10、 β1的经济涵义、先验符号？
例1 “期望扩充”菲利普斯曲线
估计结果
原始菲利普斯曲线
yt = 6.127172+ 0.244934x1t se : 4.285283 0.630456 t : 1.429817 0.388502 p : 0.180552 0.705058 R2 = 0.013536 F = 0.150934 p( F ) = 0.705058
1i 2 i 2 1i
2 2i
对有k 对有k个解释变量的多元回归模型
, 对于随机抽取的n组观测值 (Yi , X ji ),i =1,2,L n, j = 0,1,2,Lk
如果样本函数 样本函数的参数估计值已经得到，则有： 样本函数
Yi = β 0 + β 1 X 1i + β 2 X 2i + L + β ki X Ki
n n
n
i=1,2…n
2
Q = ∑ei2 = ∑(Yi Yi )2 = ∑(Yi (β0 + β1X1i + β2 X2i +L+ βk Xki ))
i =1 i=1
i=1
根据最小二乘原理 最小二乘原理， 最小二乘原理 参数估计值应该是右列 方程组的解

第三章 多元回归模型

第三章 多元回归模型
其计算公式如下:
r0i,12i1i1k
r r r 0i,12i1i1k 1 0k ,12k 1 ik ,12i1i1k 1
1 r02k,12k1
1
r2
ik ,12i1i1k
1
问题：在多元回归中 r12(i1)(i1)k ,0 是越大越好，
还是越小越好？
17
模型显著性检验（F检验）: F统计量
核心思想：残差平方和最小准则
min ei2 min yi yˆi 2
min yi ˆ0 ˆ1x1i ˆ2x2i ˆk xki 2
求解原理
ei2
ˆ j
0
结论
j 0,1,2,, k
ˆ X ' X 1 X 'Y
8
例子
经过研究，发现家庭书刊消费水平受家庭 收入及户主教育年数的影响。现对某地区 的家庭进行抽样调查，得到的样本数据如 表所示，其中 y 表示家庭书刊消费水平
其中，n k 1为 ei2 的自由度，n 1 为 yi y2
的自由度
引入修正的样本决定系数R 2的作用：
用自由度调整后，可以消除拟合优度评价中解释变量多 少对决定系数计算的影响
对于包含的解释变量个数不同的模型，可以用调整后的 决定系数直接比较它们的拟合优度的高低，但不能用原 来未调整的决定系数来比较
零阶偏相关系数、一阶偏相关系数、k 1 阶偏相关系数
r01 为零阶偏相关系数、 r02,1 称为一阶偏相关系数、 r01,23 称
为二阶偏相关系数、r01,234 称为三阶偏相关系数，依此类推
16
偏相关系数：一般公式
一般地，在研究多个变量的偏相关系数时，因变量 y
与解释变量 xi i 1,2,, k 的k 1 阶偏相关系数时，

计量经济学课件：第三章 多元线性回归模型

计量经济学课件：第三章 多元线性回归模型

第三章 多元线性回归模型第一节 多元线性回归模型及基本假定问题：只有一个解释变量的线性回归模型能否满足分析经济问题的需要？简单线性回归模型的主要缺陷是：把被解释变量Y 看成是解释变量X 的函数是前提是，在其它条件不变的情况下，并且，所有其它影响Y 的因素都应与X 不相关，但这在实际情况中很难满足。

怎样在一元线性回归的基础上引入多元变量的回归？ 看教科书第72—73页关于汽车销售量的影响因素的讨论。

一、多元线性回归模型的意义1、建立多元线性回归模型的意义，即一元线性回归模型的缺陷，多个主要影响因素的缺失对模型的不利影响。

在一元线性回归模型中，如果总体回归函数的设定是正确的，那么，根据样本数据得到的样本回归模型就应该有较好的拟合效果，这时，可决系数就应该较大。

相反，如果在模型设定时忽略了影响被解释变量的某些重要因素，拟合效果可能就会较差，此时可决系数会偏低，并且由于忽略了一些重要变量而对误差项的影响会加大，这时误差项会表现出一些违背假定的情况。

2、从一个解释变量到多个解释变量的演变。

一个生产函数的例子，一个商品需求函数的例子，（教材第74页）。

二、多元线性回归模型及其矩阵表示1、一般线性回归模型的数学表达式。

设 12233i ii k k ii Y XXXu ββββ=+++++i=1，2，3，…，n在模型表达式里，1β仍是截距项，它反映的是当所有解释变量取值为零时，被解释变量Y 的取值；j β（j=2，3，…，k ）为斜率系数，它的经济含义：在其它变量不变的情况下，第j 个解释变量每变动一个单位，Y 平均增加（或减少）j β个单位，这就是所谓的运用边际分析法对多元变量意义下回归参数的解释。

因此，称j β为偏回归系数，它反映了第j 个解释变量对Y 的边际影响程度。

4、2、总体回归函数，即12233(|)i i i k ki E Y X X X X ββββ=++++3、样本回归函数，即12233ˆˆˆˆˆi i k k iY X X Xββββ=++++ 4、将n 个样本观测值代入上述表达式，可得到从形式上看，像似方程组的形式。

第3章 多元线性回归模型

第3章 多元线性回归模型

TSS
TSS
该统计量越接近于1，模型的拟合优度越高。
问题：在应用过程中发现，如果在模型中增加一个解 释变量， R2往往增大（Why?)
因为残差平方和往往随着解释变量个数的增加而减少。
这就给人一个错觉：要使得模型拟合得好，只要增加 解释变量即可。—— 但是，现实情况往往是，由增加 解释变量个数引起的R2的增大与拟合好坏无关，因此在 多元回归模型之间比较拟合优度，R2 就不是一个合适 的指标，必须加以调整。
所以，在多元线性回归模型中，依然有
n
n
即
yi2 （[ Yˆi Y） ei ]2
i 1
i 1
n
n
n
（Yˆi Y）2 ei2 2 e（i Yˆi Y）
i 1
i 1
i 1
n
n
（Yˆi Y）2 ei2
i 1
i 1
（3-20）
TSS ESS RSS
（3-21）
可决系数
R 2 ESS 1 RSS
μ~ N(0, 2I)
假设5，回归模型的设定是正确的。
第二节 多元线性回归模型的 参数估计
任务
模型结构参数 0 、1、2 、L 、k 的估计
随机误差项的方差 2 的估计
方法
普通最小二乘法
内容
一、参数的普通最小二乘估计 二、参数的普通最小二乘估计量的性质 三、普通最小二乘样本回归函数性质 四、随机误差项的方差的普通最小二乘估计 五、样本容量问题
第三章 经典单方程计量经济学模型： 多元线性回归模型
• 多元线性回归模型 • 多元线性回归模型的参数估计 • 多元线性回归模型的统计检验 • 多元线性回归模型的预测
§3.1 多元线性回归模型
  1. 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
  2. 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
  3. 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。

15
3.2最小二乘估计量的统计特性
• 线性性 • 无偏性
• 最小方差性（有效性）
• 高斯－马尔可夫（Gauss-Markov）定理
假定条件（与一元线性回归模型相似）
假定1： 所有解释变量都为可控变量或确定性变量
假定2： E(ui) = 0 i＝1,2…n
u1 E (u1 ) 0 u E (u ) 0 2 E ( u) E 2 0 u E ( u ) 0 n n
1 X 11 X 21 X k1
1 Yi X 11 X 1iYi X 21 X kiYi X k1
Xk2
1 1 X 1n 1 X 2n 1 X kn
X k1 0 u1 Xk2 u2 1 X kn n( k 1) k ( k 1)1 un ( n1)
因此： 这个模型相应的矩阵表示形式为：Y
x。 x k1 21 x 22 x k 2 x 2 n x kn
y1 y 2 x ji X ji X j (i 1,2,, n, j 1,2,, k y 14 y n
例题3.1 美国黑人女性工人收入与受教育年 数、工作经验之间的数量关系（P58-59）
ˆ +β ˆX + β ˆ X +...+ β ˆ X +e Yi = β 0 1 1i 2 2i k ki i
ˆ e Y Xβ
ˆ + ˆX + ˆ X +...+ ˆX ˆ = Y i 0 1 1i 2 2i k ki
ˆ ˆ Xβ Y
其中：
ˆ Y 1 Y ˆ ˆ 2 Y ˆ Yn n1 ˆ 0 ˆ ˆ 1 β ˆ k ( k 1)1
= X + U
0 u1 u 1 β u 2 u n ( n1 ) k ( k 1） 1
2、总体回归函数 E(Y) = 0 +1X1 +…+ kX k 矩阵形式为： E(Y) = X 3、样本回归模型 矩阵形式为： 4、样本回归函数 矩阵形式为：
ˆ 1 ˆ 2 ˆ k
x11 x x 12 x 1n
(0) ˆ ( xx) 1 xy ˆ Y ˆ X ˆ X 0 1 1 k k
（推导过程见P57）
这里 ˆ (0)
n
x x
i 1
n
i 1 n 2 1i i 1
x2i
2 2i
( x1i x2i ) 2
i 1
n
其中
ˆ Y ˆ X ˆ X 0 1 1 2 2
x ji X ji X j ( j 1,2)
yi Yi Y
13
几个常用的结论
① 残差的均值
1 n e ei 0 n i 1
ˆ X' Y X' Xβ
β的最小二乘（OLS）估计量为：
ˆ (X' X) 1 X' Y β
对于一元回归模型：
Y1 Y2 Y Y n ( n1)
1 X1 1 X2 X 1 X n n 2
wage 0 1edu 2 sex 3race 4 ability 5 work ui
其中，0为截距， 1、 2、3、4和5称为偏回归系数， 表示其他因素不变的情况下，对应解释变量的变化对被解 释变量的影响。 例如， 3反映了在性别、种族、工作经验和个人能力 不变的情况下，受教育年限每增加1年，每小时收入增加 3美元。
表示被解释变量样本观测值的拟合值的列向量；
表示未知参数估计值的列向量；
e1 e e 2 en n1
表示残差（随机误差项估计值）的列向量。
偏回归系数的解释 对总体回归函数
E(Y ) 0 1 X1 2 X 2 k X k
X 21 X 22 X 2n
X 31 X 32 X 3n
X k1 X k2 X' X X kn
于是有：
1 X 12 X 22 Xk2
1 Y 1 X 1n Y 2 X 2n X' Y Y n X kn
Y1 Y Y 2 Y n ( n1 )
1 X 11 1 X 12 X 1 X 1n X 21 X 22 X 2n X 31 X 32 X 3n X k1 Xk2 X kn n( k 1)
1 X' X X 1
1 X2
1 X1 1 1 X 2 n X Xn i 1 X n
1 X2
X X
i 2 i

1 X 'Y X 1
Y1 1 Y2 Yi X Y Xn i i Y n
偏回归系数 j （j 1,2,, k）的意义：在保持其他解释变 量不变的条件下，解释变量Xj增加一个单位，平均来说， j 反映了Xj的单位 被解释变量Y增加βj个单位。 也就是说， 变化对被解释变量Y 的“净”影响（不含其他变量的影响） 程度。 一点说明：
对偏回归系数的解释是在保持其他解释变量不变的条件下进行的， 若不能做到这一点，也就是说，当解释变量Xj的取值变化时有别的解 释变量在同一观测点处的取值也随着变化，那么 响程度。
ˆ β ˆ X β ˆ ˆ nβ 0 1 1i 2 X 2 i βk X ki Yi 整理得： β ˆ ˆ X2 β ˆ ˆ X β 0 1i 1 1i 2 X 2 i X 1i βk X ki X 1i X 1iYi β 2 ˆ ˆ X X β ˆ ˆ X β X X β X k ki X kiYi 0 ki 1 1i ki 2 2i ki
i 1 i 1i n i 1 2 2i i 1 i 2i i 1
n
n
n
n
1i 2 i
x
x x
n
i 1
2 1i
n
ˆ 2
y x x y x x
i 1 i 2i
i 1 n
2 2i
2 1i
( x1i x2i ) 2
i 1 n
n i 1 i 1i i 1 1i
ˆ ˆ X ˆ X ˆ X )2 (Yi 0 1 1i 2 2i k ki
i 1
n
根据多元函数求极值的必要条件， 性方程组：
ˆ , ˆ ,, ˆ 应满足下列线 0 1 k
Q ＝0，i 0,1, , k ˆ i
即：
Q ˆ ˆ X ˆ X ˆ X ) ( 1) 0 2 (Yi 0 1 1i 2 2i k ki ˆ 0 Q ˆ ˆ ˆ ˆ ˆ 2 (Yi 0 1 X 1i 2 X 2i k X ki ) ( X 1i ) 0 1 Q ˆ ˆ ˆ ˆ ˆ 2 (Yi 0 1 X 1i 2 X 2i k X ki ) ( X ki ) 0 k
例题，（见p54）
7
3.1.2最小二乘法
一、参数的最小二乘估计 二、离差形式的最小二乘估计
三、随机误差项方差σ2的估计量
参数的最小二乘估计
– 根据最小二乘准则：
ˆ , ˆ ,， ˆ） Q( 0 1 k
ei
2 i 1 n 2 ˆ ( Y Y ) i i i 1 n
n 1 ˆ β (X' X) X' Y X i
X X
i 2 i

1
Yi X Y i i
例如，二元线性回归模型
Yi 0 1 X1i 2 X 2i ui
参数的OLS估计量分别为
ˆ 1
y x x y x x
② 拟合值的样本均值与实际观测值的样本均值相等，即
n 1 ˆ Y，其中Y ˆ Y ˆ Y i n i 1
，
③ 样本均值 X1 , X k , Y
④
满足如下等式： Y
ˆ ˆ X ˆ X 0 1 1 k k
ˆe y
i 1
n
i i
0
参数估计量的离差表达式：
第三章 多元线性回归模型
• 多元回归模型的引入
• 模型的矩阵表示 • 最小二乘估计 • 最小二乘估计量的基本性质 • 可决系数（R2）
• 估计量的检验与置信区间
• 预测
• 案例分析
多元回归模型的引入
受教育年限与每小时工资： ˆ 0.0144 0.7241 Y X
i i
实际中影响每小时工资的可能还有工作经验、性别、种族 和个人能力等。综合考虑这些因素，可以建立下面的多元 回归模型：
因 为：
n
X

1i
X X

1i 2 1i
X X X
2i 2i

1i
X ki

X X X
ki
X
1 X 12 X 22
ki
X

1i
X
X 11 X 12 X 1n