当前位置：文档之家 › 计量经济学 第三章 多元线性回归

计量经济学 第三章 多元线性回归

  • 格式：ppt
  • 大小：1.03 MB
  • 文档页数：64

下载文档原格式

  / 64

合集下载

计量经济学 第三章

计量经济学 第三章

习题答案
3-2．答：变量非线性、系数线性；变量、系数均线性；变量、系数均 线性；变量线性、系数非线性；变量、系数均为非线性；变量、系数均 为非线性；变量、系数均为线性。 3-3．答：多元线性回归模型与一元线性回归模型的区别表现在如下几 方面：一是解释变量的个数不同；二是模型的经典假设不同，多元线性 回归模型比一元线性回归模型多了“解释变量之间不存在线性相关关
方和较大，但相对来说其AIC值最低，所以我们选择该模型为最优的模
型。
（4）随着收入的增加，我们预期住房需要会随之增加。所以可以预
期β3>0，事实上其估计值确是大于零的。同样地，随着人口的增加，
住房需求也会随之增加，所以我们预期β4>0，事实其估计值也是如
此。随着房屋价格的上升，我们预期对住房的需求人数减少，即我们预
其中：——某天慢跑者的人数 ——该天降雨的英寸数 ——该天日照的小时数 ——该天的最高温度（按华氏温度） ——第二天需交学期论文的班级数Байду номын сангаас
请回答下列问题：（1）这两个方程你认为哪个更合理些，为什么？ （2）为什么用相同的数据去估计相同变量的系数得
到不同的符号？ 3-18．对下列模型： （1）
（2） 求出β的最小二乘估计值；并将结果与下面的三变量回归方程的最小二 乘估计值作比较：
（1） 检验模型A中的每一个回归系数在10%水平下是否为零（括 号中的值为双边备择p-值）。根据检验结果，你认为应该把 变量保留在模型中还是去掉？
（2） 在模型A中，在10%水平下检验联合假设H0：i =0(i=1,5,6,7)。说明被择假设，计算检验统计值，说明其 在零假设条件下的分布，拒绝或接受零假设的标准。说明你 的结论。
（3） ，你认为哪一个估计值更好？ 3-19．假定以校园内食堂每天卖出的盒饭数量作为被解释变量，盒饭 价格、气温、附近餐厅的盒饭价格、学校当日的学生数量（单位：千 人）作为解释变量，进行回归分析；假设不管是否有假期，食堂都营 业。不幸的是，食堂内的计算机被一次病毒侵犯，所有的存储丢失，无 法恢复，你不能说出独立变量分别代表着哪一项！下面是回归结果（括 号内为标准差）：
(整理)计量经济学 第三章 多元线性回归与最小二乘估计

(整理)计量经济学 第三章 多元线性回归与最小二乘估计

第三章 多元线性回归与最小二乘估计3.1 假定条件、最小二乘估计量和高斯—马尔可夫定理1、多元线性回归模型：y t = β0 +β1x t 1 + β2x t 2 +…+ βk - 1x t k -1 + u t (3.1) 其中y t 是被解释变量（因变量），x t j 是解释变量（自变量），u t 是随机误差项，βi , i = 0, 1, … , k - 1是回归参数（通常未知）。

对经济问题的实际意义：y t 与x t j 存在线性关系，x t j , j = 0, 1, … , k - 1, 是y t 的重要解释变量。

u t 代表众多影响y t 变化的微小因素。

使y t 的变化偏离了E( y t ) = β0 +β1x t 1 + β2x t 2 +…+ βk - 1x t k -1 决定的k 维空间平面。

当给定一个样本（y t , x t 1, x t 2 ,…, x t k -1）, t = 1, 2, …, T 时, 上述模型表示为 y 1 = β0 +β1x 11 + β2x 12 +…+ βk - 1x 1 k -1 + u 1,y 2 = β0 +β1x 21 + β2x 22 +…+ βk - 1x 2 k -1 + u 2, (3.2) ………..y T = β0 +β1x T 1 + β2x T 2 +…+ βk - 1x T k -1 + u T经济意义：x t j 是y t 的重要解释变量。

代数意义：y t 与x t j 存在线性关系。

几何意义：y t 表示一个多维平面。

此时y t 与x t i 已知，βj 与 u t 未知。

)1(21)1(110)(111222111111)1(21111⨯⨯-⨯---⨯⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎣⎡+⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎣⎡⎥⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎢⎣⎡=⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎣⎡T T k k k T k T TjT k j k jT T u u u x x x x x x x x x y y yβββ (3.3) Y = X β + u (3.4)2假定条件为保证得到最优估计量，回归模型（3.4）应满足如下假定条件。

计量经济学第三章多元线性回归模型

计量经济学第三章多元线性回归模型


⒈零均值假定
E( i) 0 i 1,2,, n
E(U) 0
⒉同方差和无自相关假定
COV (i , j ) E(i E(i ))( j E( j ))
2 i j

E(i
j
)


0
i j
VAR(U ) E(U E(U))(U E(U))
Yˆi ˆ1 ˆ2 X 2i ˆK X Ki
i 1,2,, n
Yi Yˆi ei
Yˆi

ˆ j
E(Y
j
X 2i ,,
X Ki
)
注意：β1一般情况下没有明确的经济含义，但一般 总包含在回归模型中。
3.1多元线性回归模型及古典假定
二、多元线性回归模型的矩阵形式
总体回归函数描述了一个被解释变量与多个解释
变量之间的线性关系，线性是针对参数而言的。
其中， j 为偏回归系数，表示：在控制其他变量 不变的条件下，第j个解释变量的单位变动对被解释 变量平均值的影响。
j

Y X j(保持其他变量不变)

Y X j
3.1多元线性回归模型及古典假定
样本回归函数：
(XX)1 X 2ΙX(XX)1 2 (XX)1 XX(XX)1 2 (XX)1
i 1
ei 0





N
( ei2 )
i 1
ˆ2
N

2
N i 1
(Yi
ˆ1

ˆ2 X 2i
ˆK
X Ki ) X 2i

2
ei X 2i 0
偏 导
第三章多元线性回归模型(计量经济学,南京审计学院)

第三章多元线性回归模型(计量经济学,南京审计学院)


Yˆ 116.7 0.112X 0.739P
R2 0.99
(9.6) (0.003) (0.114)
Y和X的计量单位为10亿美元 (按1972不变价格计算).
P
食品价格平减指数 总消费支出价格平减指数
100，（1972
100）
3
多元线性回归模型中斜率系数的含义
上例中斜率系数的含义说明如下： 价格不变的情况下，个人可支配收入每上升10
c (X X )1 X D
从而将 的任意线性无偏估计量 * 与OLS估计量 ˆ 联系
起来。
28
cX I
由
可推出：
(X X )1 X X DX I
即 I DX I
因而有 D X 0
cc (X X )1 X D (X X )1 X D ( X X )1 X D X ( X X )1 D
第三章 多元线性回归模型
简单线性回归模型的推广
1
第一节 多元线性回归模型的概念
在许多实际问题中，我们所研究的因变量的变动 可能不仅与一个解释变量有关。因此，有必要考虑线 性模型的更一般形式，即多元线性回归模型：
Yt β0 β1X1t β2 X 2t ... βk X kt ut t=1,2,…,n
Yt
ˆ0
βˆ 1
X
1t
... βˆ K X Kt
2
为最小，则应有：
S
S
S
ˆ0 0, ˆ1 0, ..., ˆ K 0
我们得到如下K+1个方程（即正规方程）：
13
β0 n
β1 X1t ...... β K X Kt Yt
β 0 X 1t β1 X 1t 2 ...... β K X 1t X Kt X 1tYt
《计量经济学》第3章数据

《计量经济学》第3章数据

《计量经济学》各章数据第3章 多元线性回归模型例3.1.1 经过研究，发现家庭书刊消费水平受家庭收入及户主受教育年数的影响。

现对某地区的家庭进行抽样调查，得到样本数据如表3.1.1所示，其中y 表示家庭书刊消费水平(元/年)，x 表示家庭收入(元／月)，T 表示户主受教育年数。

下面我们估计家庭书刊消费水平同家庭收入、户主受教育年数之间的线性关系。

回归模型设定如下： t t t t u T b x b b y +++=210(t =1,2, …)表3.1.1 某地区家庭书刊消费水平及影响因素的调查数据表例3.4.1根据表3.4.1给出的中国1980-2003年间总产出(用国内生产总值GDP度量，单位：亿元)，劳动投入L(用从业人员度量，单位为万人)，以及资本投入K(用全社会固定投资度量，单位：亿元)，试建立我国的柯布——道格拉斯生产函数。

表3.4.1 1980-2003年中国GDP、劳动投入与资本投入数据例3.4.2 某硫酸厂生产的硫酸透明度一直达不到优质要求，经分析透明度低与硫酸中金属杂质的含量太高有关。

影响透明度的主要金属杂质是铁、钙、铅、镁等。

通过正交试验的方法发现铁是影响硫酸透明度的最主要原因。

测量了47组样本值，数据见表3.4.3。

试建立硫酸透明度(y)与铁杂质含量(x)的回归模型。

表3.4.3 硫酸透明度(y)与铁杂质含量(x)数据例3.4.3假设某企业在15年中每年的产量Y(件)和总成本X(元)的统计资料表3.4.7所示，试估计该企业的总成本函数模型。

表3.4.7 某企业15年中每年总产量与总成本统计资料3.6.1 案例1——中国经济增长影响因素分析根据表3.6.1给出的1980-2003年间总产出(用国内生产总值GDP度量，单位：亿元)，最终消费CS(单位：亿元)，投资总额I(用固定资产投资总额度量，单位：亿元)，出口总额（单位：亿元）统计数据，试对中国经济增长影响因素进行回归分析。

第3章 多元线性回归模型 《计量经济学》PPT课件

第3章 多元线性回归模型 《计量经济学》PPT课件


于是：
βˆ
ˆ1 ˆ 2
0.7226 0.0003
0.0003 1.35E 07
15674 39648400
01.0737.71072
⃟ 正规方程组 的另一种写法
对于正规方程组 XY XXβˆ
XXβˆ Xe XXβˆ
于是 Xe 0 (*)
或
ei 0
(**)
X jiei 0
i
(*) 或（ ** ）是多元线性回归模型正规方程 组的另一种写法。
第三章 经典单方程计量经济学模型： 多元线性回归模型
• 多元线性回归模型 • 多元线性回归模型的参数估计 • 多元线性回归模型的统计检验 • 多元线性回归模型的预测 • 回归模型的其他形式
§ 3. 1 多元线性回归模型
一、多元线性回归模型 二、多元线性回归模型的基本假定
一、多元线性回归模型
多元线性回归模型 : 表现在线性回归模型 中的解释变量有多个。
的秩 =k+1 ，即 X 满秩。
假设 2. 随机误差项零均值，同方差。
0
0
0
E
(μ
μ
)
E
1
n
1
n
E
12
n 1
1 n
2 n
var(1 ) cov(1, n ) 2 0
2I
cov(
n
,
1
)
var(n )
0
2
i E(i )
βˆ (xx)1 xY
ˆ0 Y ˆ1 X 1 ˆk X k
⃟ 随机误差项的方差的无偏估计
可以证明，随机误差项的方差的无偏 估计量为：
ˆ 2
ei2 n k 1
ee n k 1
计量经济学-多元线性回归模型

计量经济学-多元线性回归模型

多元线性回归模型的表达式
Y=β0+β1X1+β2X2+...+βkXk+ε，其中Y为因变 量，X1, X2,..., Xk为自变量，β0, β1,..., βk为回归 系数，ε为随机误差项。
多元线性回归模型的假设条件
包括线性关系假设、误差项独立同分布假设、无 多重共线性假设等。
研究目的与意义
研究目的
政策与其他因素的交互作用
多元线性回归模型可以引入交互项，分析政策与其他因素（如技 术进步、国际贸易等）的交互作用，更全面地评估政策效应。
实例分析：基于多元线性回归模型的实证分析
实例一
预测某国GDP增长率：收集该国历史数据，包括GDP、投资、消费、出口等变量，建立 多元线性回归模型进行预测，并根据预测结果提出政策建议。
最小二乘法原理
最小二乘法是一种数学优化技术，用 于找到最佳函数匹配数据。
残差是观测值与预测值之间的差，即 e=y−(β0+β1x1+⋯+βkxk)e = y (beta_0 + beta_1 x_1 + cdots + beta_k x_k)e=y−(β0+β1x1+⋯+βkxk)。
在多元线性回归中，最小二乘法的目 标是使残差平方和最小。
t检验
用于检验单个解释变量对被解释变量的影响 是否显著。
F检验
用于检验所有解释变量对被解释变量的联合 影响是否显著。
拟合优度检验
通过计算可决系数（R-squared）等指标， 评估模型对数据的拟合程度。
残差诊断
检查残差是否满足独立同分布等假设，以验 证模型的合理性。
04
多元线性回归模型的检验与 诊断
庞皓《计量经济学》(第4版)章节题库-第3章 多元线性回归模型【圣才出品】

庞皓《计量经济学》(第4版)章节题库-第3章 多元线性回归模型【圣才出品】


2
2
而 1－α 的置信度下 Y0 的置信区间为：
Yˆ0 t ˆ
1
X0
X
X
1
X
0
Y0
Yˆ0
t
ˆ
1
X0
X
X
1
X
0
2
2
6．多元回归模型中的解释变量个数为 k，那么回归方程显著性检验的 F 统计量的第一 自由度为 n－k－1，第二自由度为 k。（ ）
【答案】× 【解析】多元回归模型中的解释变量个数为 k，那么回归方程显著性检验的 F 统计量 的第一自由度为 k，第二自由度为 n－k－1。
2 / 22
圣才电子书
十万种考研考证电子书、题库视频学习平

台
【解析】在变量显著性检验中，针对某变量 Xj（j＝1，2，…，k）设计的原假设与备
择假设为 H0：βj＝0，H1：βj≠0。给定显著性水平 α 之后，可根据|t|＞tα/2（n－k－1）
（或|t|≤tα/2（n－k－1））来决定拒绝（或接受）原假设 H0，从而判定对应的解释变量是
三、简答题 1．多元线性回归模型的基本假设是什么？试说明在证明最小二乘估计量的无偏性和 有效性的过程中，哪些基本假设起了作用？ 答：（1）针对普通最小二乘法，多元线性回归模型的基本假设主要有以下三大类： ①关于模型设定的基本假设： 假定回归模型的设定是正确的，即模型的变量和函数形式均为正确的。 ②关于随机扰动项的基本假设： 假定随机扰动项满足条件零均值、条件同方差、条件序列不相关性以及服从正态分布。
2．调整的多重可决系数 Error!2 与多重可决系数 R2 的关系为（ ）。 A．Error!2＝R2（n－1）/（n－k－1） B．Error!2＝1－R2（n－1）/（n－k－1） C．Error!2＝1－（1＋R2）（n－1）/（n－k－1） D．Error!2＝1－（1－R2）（n－1）/（n－k－1） 【答案】D 【解析】在样本容量一定的情况下，增加解释变量必定使得自由度减少，为了剔除变 量个数对拟合优度的影响，调整的多重可决系数是将残差平方和与总离差平方和处以各自
计量经济学(庞浩)第三章-多元线性回归模型(1)

计量经济学(庞浩)第三章-多元线性回归模型(1)


矩阵X的秩为K(注意X为n行K列)。
Ran(X)= k
Rak(X'X)=k
即 (X'X) 可逆 假定6:正态性假定
ui ~ N (0, 2 )
u ~ N (0, 2I)
12
第二节 多元线性回归模型的估计
一、普通最小二乘法（OLS）
原则：寻求剩余平方和最小的参数估计式 min : ei2 (Yi Yˆi )2
1
X 22
Xk
2
2
u2
Yn
1 X 2n
X
kn
k
un
Y
X
βu
n 1
nk
k 1 n1
9
9
矩阵表示方式
总体回归函数 E(Y) = Xβ 或 Y = Xβ + u
样本回归函数 Yˆ = Xβˆ 或 Y = Xβˆ + e
其中： Y,Yˆ,u,e 都是有n个元素的列向量
β, βˆ 是有k 个 元素的列向量
多重可决系数：在多元回归模型中，由各个解释
变量联合起来解释了的Y的变差，在Y的总变差中占
的比重，用 R2表示 与简单线性回归中可决系数 r的2 区别只是 不Yˆi 同
多元回归中
Yˆi ˆ1 ˆ2 X2i ˆ3 X3i ˆk Xki
多重可决系数可表示为
R2 ESS TSS
(Yˆi Y )2 (Yi Y )2
0
2
X 2i
Yi
(ˆ1
ˆ2
X 2i
ˆ3
X 3i
ˆki
X ki )
0
(i 1, 2, n)
( j 1, 2, n)
ei 0
X2iei 0
2
计量经济学庞皓课件(第三章 多元线性回归模型)

计量经济学庞皓课件(第三章 多元线性回归模型)

2
怎样分析多种因素的影响？
分析中国汽车行业未来的趋势,应具体分析这样一些问题： 中国汽车市场发展的状况如何？（用销售量观测） 影响中国汽车销量的主要因素是什么？
（如收入、价格、费用、道路状况、能源、政策环境等）
各种因素对汽车销量影响的性质怎样？（正、负） 各种因素影响汽车销量的具体数量关系是什么？ 所得到的数量结论是否可靠？ 中国汽车行业今后的发展前景怎样？应当如何制定汽车的 产业政策？ 很明显，只用一个解释变量已很难分析汽车产业的发展, 还需要寻求有更多个解释变量情况的回归分析方法。
ˆk
k
c jj
~
N (0,1)
21 21
2 未知时βˆ 的标准化变换
因 2 是未知的， 可用 ˆ 2 代替 2 去估计参数的
标准误差:
●
当为大样本时，用估计的参数标准误差对
^
β
作
标准化变换，所得 Z 统计量仍可视为服从正态分
布
●当为小样本时，用估计的参数标准误差对 βˆ 作标 准化变换，所得的 t 统计量服从 t 分布：
( X X )1 X 2 IX ( X X )1
2 ( X X )1
注意
βˆ 是向量
(i 1, 2,L ( j 1, 2,L
n) n)
(由无偏性)
(由OLS估计式)
(由同方差性)
其中：
ˆ ( X X )1 X Y ( X X )1 X ( Xβ + u) β ( X X )1 X u
0
两边左乘 X
X Y = X Xβˆ + X e
根据最小二乘原则 则正规方程为
Xe = 0
X Xβˆ = X Y
14
OLS估计式
计量经济学-3多元线性回归模型

计量经济学-3多元线性回归模型

计量经济学-3多元线性 回归模型
2020/12/8
计量经济学-3多元线性回归模型
•第一节 概念和基本假定
•一、基本概念： • 设某经济变量Y 与P个解释变量：X1，X2，…，XP存在线性依
存关系。 • 1.总体回归模型：
•其中0为常数项， 1 ~ P 为解释变量X1 ~ XP 的系数，u为随机扰动项。 • 总体回归函数PRF给出的是给定解释变量X1 ~ XP 的值时，Y的期 望值：E ( Y | X1，X2，…，XP )。 • 假定有n组观测值，则可写成矩阵形式：
计量经济学-3多元线性回归模型
•2.样本回归模型的SRF
计量经济学-3多元线性回归模型
•二、基本假定： • 1、u零均值。所有的ui均值为0，E（ui）=0。 • 2、u同方差。Var（ui）=δ2，i=1，2，…，n
计量经济学-3多元线性回归模型
•
计量经济学-3多元线性回归模型
•
•第二节 参数的最小二乘估 计
•五、预测
•（一）点预测 •点预测的两种解释：
计量经济学-3多元线性回归模型
•（二）区间预测
计量经济学-3多元线性回归模型
计量经济学-3多元线性回归模型
计量经济学-3多元线性回归模型
计量经济学-3多元线性回归模型
计量经济学-3多元线性回归模型
•例5，在例1中，若X01=10，X02=10，求总体均值E（Y0|X0） 和总体个别值Y0的区间预测。
•
Yi=β0+β1Xi1+β2Xi2+ui
计量经济学-3多元线性回归模型
计量经济学-3多元线性回归模型
计量经济学-3多元线性回归模型
•三、最小二乘估计的性质
计量经济学-3多元线性回归模型

庞皓计量经济学第三章多元线性回归模型学习辅导

第三章 多元线性回归模型学习辅导一、本章的基本内容(一)基本内容图3.1 第三章基本内容(二)本章的教学目标在现实的计量经济分析中，事实上影响被解释变量的因素不止一个，通常会有多个影响因素；另外，即使我们的分析目的是仅考察某一个因素对被解释变量的影响，但为了得到该因素对被解释变量的“净”影响，也需要将其他影响因素作为“控制变量”，使其以显性形式出现在模型中，以提高模型估计精度。

因此，在对现实经济问题进行计量经济分析时，通常需要建立包含两个及两个以上解释变量的计量模型，此类模型称为多元回归模型。

多元回归模型是在简单回归模型理论基础上的扩展，其建模的理论基础、基本思路、模型估计等与一元回归模型基本一致，只是因解释变量增多，从而带来一些新的内容，比如模型整体显著性检验（F 检验）、修正的可决系数（2R ）以及解释变量之间多重共线性等问题。

本章的教学目标是：深刻理解建立多元回归模型的目的；掌握多元线性回归模型估计、检验的理论与方法；熟练掌握多元线性回归EViews 输出结果的解释。

二、重点与难点分析1.对多元线性回归模型参数意义的理解多元线性回归模型的参数与简单线性回归模型的参数有重要区别。

在多元线性回归模型中，解释变量对应的参数是偏回归系数，表达的是控制其他解释变量不变的条件下，该解释变量的单位变动对被解释变量平均值的“净”影响。

为了更深刻理解偏回归系数，可以两个解释变量的多元线性回归模型为例加以说明1。

例如，被解释变量Y 与解释变量2X 和3X 都有关，如果分别建立模型:多元线性回归: 12233i i i i Y X X u b b b =+++简单线性回归 : 1221i i i Y a a X u =++由于Y 与3X 有关，可以作回归:1332i i i Y b b X u =++，若用OLS 估计其参数，并计算残差213333ˆˆˆi i i i i e Y b b X y b x =--=-，这里的2i e 表示除去3i X 影响后的i Y 。

计量经济学第三章多元线性回归模型习题

第三章练习题及参考解答3.1为研究中国各地区入境旅游状况，建立了各省市旅游外汇收入（Y ，百万美元）、旅行社职工人数（X1，人）、国际旅游人数（X2，万人次）的模型，用某年31个省市的截面数据估计结果如下：ii i X X Y 215452.11179.00263.151ˆ++-= t=(-3.066806) (6.652983) (3.378064)R 2=0.934331 92964.02=R F=191.1894 n=311)从经济意义上考察估计模型的合理性。

2)在5%显著性水平上，分别检验参数21,ββ的显著性。

3)在5%显著性水平上，检验模型的整体显著性。

练习题3.1参考解答:(1)由模型估计结果可看出：从经济意义上说明，旅行社职工人数和国际旅游人数均与旅游外汇收入正相关。

平均说来，旅行社职工人数增加1人，旅游外汇收入将增加0.1179百万美元；国际旅游人数增加1万人次，旅游外汇收入增加1.5452百万美元。

这与经济理论及经验符合，是合理的。

（2）取05.0=α，查表得048.2)331(025.0=-t 因为3个参数t 统计量的绝对值均大于048.2)331(025.0=-t ，说明经t 检验3个参数均显著不为0，即旅行社职工人数和国际旅游人数分别对旅游外汇收入都有显著影响。

（3）取05.0=α，查表得34.3)28,2(05.0=F ，由于34.3)28,2(1894.19905.0=>=F F ，说明旅行社职工人数和国际旅游人数联合起来对旅游外汇收入有显著影响，线性回归方程显著成立。

3.2 表3.6给出了有两个解释变量2X 和.3X 的回归模型方差分析的部分结果：表3.6 方差分析表RSS 的自由度各为多少?2）此模型的可决系数和调整的可决系数为多少?3）利用此结果能对模型的检验得出什么结论?能否确定两个解释变量2X 和.3X 各自对Y 都有显著影响?练习题3.2参考解答:(1) 因为总变差的自由度为14=n-1，所以样本容量：n=14+1=15因为 TSS=RSS+ESS 残差平方和RSS=TSS-ESS=66042-65965=77回归平方和的自由度为：k-1=3-1=2残差平方和RSS 的自由度为：n-k=15-3=12（2）可决系数为：2659650.99883466042ES R TSS S === 修正的可决系数：222115177110.998615366042i ie n R n ky--=-=-=ﾴ--￥￥（3）这说明两个解释变量2X 和.3X 联合起来对被解释变量有很显著的影响，但是还不能确定两个解释变量2X 和.3X 各自对Y 都有显著影响。

计量经济学 詹姆斯斯托克 第3章 多元线性回归模型


i 2 i
10 21500 21500 53650000
1 X Y X1
1 X2
Y1 1 Y2 Yi 15674 X n X iYi 39468400 Yn
i i
638 1122 1155 1408 1595 1969 2078 2585 2530
ˆ 1
x y x
2 i
5769300 0.777 7425000
ˆ Y ˆ X 1567 0.777 2150 103 .172 0 0
因此，由该样本估计的回归方程（样本回归函数） 为：
i 1
n
2
ˆ ˆ X ˆ X ˆ X ))2 Q (Yi ( 0 1 1i 2 2i k ki
i 1
n
于是得到关于待估参数估计值的正规方程组：
ˆ ˆ X ˆ X ˆ X ) Y ( 0 1 1i 2 2i k ki i ˆ ˆ X ˆ X ˆ X ) X Y X ( 0 1 1i 2 2i k ki 1i i 1i ˆ ˆ X ˆ X ˆ X ) X Y X ( 0 1 1i 2i 2i k ki 2i i 2i ˆ ˆ ˆ ˆ ( 0 1 X 1i 2 X 2 i k X ki ) X ki Yi X ki
习惯上：把常数项看成为一个虚变量的系 数，该虚变量的样本观测值始终取1。这样： 模型中解释变量的数目为（k +1）。
Yi 0 1 X 1i 2 X 2 i k X ki i
也被称为 总体回归函数 的 随机表达形式 。它的 非随机表达式为:

计量经济学第三章第3节多元线性回归模型的显著性检验

2
当增加一个对被解释变量有较大影响的解释变量时， 残差平方和减小的比n-k-1 减小的更显著，拟合优度 就增大，这时就可以考虑将该变量放进模型。 如果增加一个对被解释变量没有多大影响的解释变量， 残差平方和减小没有n-k-1减小的显著，拟合优度会减 小，其说明模型中不应该引入这个不重要的解释变量， 可以将其剔除。
在对话框中输入：
y c x y(-1)
y c x y(-1) y(-2)
字母之间用空格分隔。 注：滞后变量不需重新形成新的时间序列，软件 自动运算实现，k期滞后变量，用y(-k)表示。
• 使用k期滞后变量，数据将损失k个样本观察值， 例如：
序号 2000 2001 2002 2003 2004 2005 2006 2007 2008 y 3 4 5 6 7 8 9 10 11 Y(-1) Y(-2) Y(-3)
2
2
2
*赤池信息准则和施瓦茨准则
• 为了比较所含解释变量个数不同的多元回归模型的 拟合优度，常用的标准还有: 赤池信息准则（Akaike information criterion, AIC） e e 2( k 1) AIC ln n n 施瓦茨准则（Schwarz criterion，SC）
一元、二元模型的系数均大于0，符合经济意义，三元模型 系数的符号与经济意义不符。 用一元回归模型的预测值是1758.7，二元回归模型的预测值 是1767.4，2001年的实际值是1782.2。一元、二元模型预测 的绝对误差分别是23.5、14.8。
3) 三个模型的拟合优度与残差
二元：R2 =0.9954，E2 ei2 13405 三元：R2 =0.9957，E3 ei2 9707
746.5 788.3

计量经济学第三章第3节多元线性回归模型的显著性检验

e e k AC ln ln n n n
这两准则均要求仅当所增加的解释变量能够减少 AIC值或AC值时才在原模型中增加该解释变量。
举例说明：拟合优度、修正拟合优度、与 增加解释变量之间的关系。
在第二章第四节讲义中，我们考察中国居民收入
与消费支出的关系，建立了以人均国内生产总值 为解释变量X，以人均消费支出为被解释变量Y的 一元线性回归模型。 数据采用1978～2000年23年的人均国内生产总值 X和人均消费支出Y的时间序列数据，且都转换成 1990年的不变价，且剔除了物价上涨因素的影响。
ˆ b ˆ X b ˆY ˆ b Y t 0 1 t 2 t 1 ˆ b ˆ X b ˆ Y b ˆY ˆ b Y
t 0 1 t 2 t 1
3 t 2
其中t为当前期变量，t-k称为k期滞后变量。
1) 使用软件估计模型
将之前已经建立的Workfile文件打开 点击菜单中的“Quick”→“Estimate Equations”
3 4 5 6 7 8 9 10
3 4 5 6 7 8 9
3 4 5 6 7 8
2) 模型的估计表达式
ˆ 201.1189 0.3862 X Y
ˆ 120.7253 0.2214 X 0.4514Y Y t t t 1
ˆ 138.943 0.243X 0.630Y 0.261Y Y t t t 1 t 2
2
2
2
*赤池信息准则和施瓦茨准则
• 为了比较所含解释变量个数不同的多元回归模型的 拟合优度，常用的标准还有: 赤池信息准则（Akaike information criterion, AIC） e e 2( k 1) AIC ln n n 施瓦茨准则（Schwarz criterion，SC）

计量经济学多元线性回归模型及参数估计


-973 1314090 1822500 947508
-929 975870 1102500 863784
-445 334050 562500 198381
-412 185580 202500 170074
-159 23910 22500 25408
28 4140 22500
762
402 180720 202500 161283
2.多元线性回归模型的基本假定（矩阵形式）
V
ar
Cov( N
)
E
N
E(N
)N
E(
N
)
E(
NN
)
1
E
n2 1
2
12
n
E
2 1
n1
12 22
n2
1n
2n
n2
2
0
0
0
2
0
2
I
0
0
2
2.多元线性回归模型的基本假定（矩阵形式）
E(X
N )
E
1 X 11
ei 0 X i1ei 0 X i2ei 0
X ik ei 0
(*) (*)或（**）是多 元线性回归模型正
(**) 规方程组的另一种 写法。
离差形式的样本回归方程
由于
Yˆi ˆ0 ˆ1Xi1 ˆ2 Xi2 ˆk Xik
[Yi (ˆ0 ˆ1Xi1 ˆ2 Xi2 ˆk Xik )] 0
????eemm??所以有???eem??mnnee???ee?????????????????????????????????????????????nnnnnnnnmmmmmmmmme??????????????2121222211121121????????????????????????????????????????nnnnnnnnnnmmmmmmmmme?????????????????21221122221121221111因为xxxxim?????1为对称等幂矩阵即mm??mmmm???2????????nnnnnnnnnnmmmmmmmmme?????????????????????????????22112222211211221111??nnnnnmmmememem??????????22112222222111?????1212122??????????????kntrtrtrmtr????????xxxxixxxxi其中符号tr表示矩阵的迹其定义为矩阵主对角线元素的和
  1. 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
  2. 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
  3. 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
i 1
n
2
取得最小值的条件：
ˆ 0 ˆ 1 ˆ 2 ˆ k
Q 0 Q 0 Q 0 Q 0
正规方程组：
ˆ ˆ X ˆ X ˆ X ) Y ( 0 1 1i 2 2i k ki i ˆ ˆ X ˆ X ˆ X ) X Y X ( 0 1 1i 2 2i k ki 1i i 1i ˆ ˆ X ˆ X ˆ X ) X Y X ( 0 1 1i 2i 2i k ki 2i i 2i ˆ ˆ X ˆ X ˆ X ) X Y X ( 0 1 1i 2 2i k ki ki i ki
*矩估计* （Moment Method，MM）
1、OLS估计是通过得到一个关于参数估计值的正规方程组
ˆ X Y (X X) β
并对它进行求解而完成的。 2、该正规方程组可以从另外一种思路来导出:
Y Xβ μ
两侧求期望 :
XY XXβ Xμ
X(Y Xβ ) Xμ
X 11 X 12 X 1n
X 21 X 22 X 2n

X k1 X k2 X kn n ( k 1 )
Y1 Y 2 Y Y3 Yn n1
0 1 β 2 μ k ( k 1)1
• 在矩方法中关键是利用了：E(X’)=0 • 如果某个解释变量与随机项相关，只要能找到1个工具变量，仍然 可以构成一组矩条件。这就是IV。 • 如果存在＞k+1个变量与随机项不相关，可以构成一组包含＞k+1
E(X(Y Xβ )0
矩条件
*矩条件和矩估计量*
1、 E(X(Y Xβ ) 0 称为原总体回归方程的一组矩条件，表明了
原总体回归方程所具有的内在特征。
2、如果随机抽出原总体的一个样本，估计出的样本回归方程：
ˆ 能够近似代表总体回归方程的话，则应成立： ˆ X Y
1 ˆ)0 X (Y Xβ n
* MM：矩估计
一、普通最小二乘估计
• 基本思想：残差平方和最小
•
基于取得最小值的条件获得系数估计）
残差平方和：
ˆ )2 Q e (Yi Y i
i 1 2 i i 1
n
n
ˆ ˆ X ˆ X ˆ X )) (Yi ( 0 1 1i 2 2i k ki

总体回归函数（PRF）
E(Yi | X 1i , X 2i , X ki ) 0 1 X 1i 2 X 2i k X ki

样本回归函数（SRF）
ˆ ˆ X ˆ X ˆ X ˆ Y i 0 1 1i 2 2i ki ki
残差平方和的矩阵表示为：
ˆ )(Y X ˆ) Q ei2 ee (Y X
ˆ ) ( Y Xβ ˆ)0 ( Y Xβ ˆ β
ˆ X Y Y Xβ ˆ β ˆ X Xβ ˆ)0 ( Y Y β ˆ β
ˆ β ˆ X Xβ ˆ) 0 ( Y Y 2 Y Xβ ˆ β
ˆ 0.7226 0.0003 15674 103 .172 1 ˆ β ˆ 0 . 0003 1 . 35 E 07 39648400 0 . 7770 2
i~N(0, 2 )
i=1,2, …,N
基本假设的矩阵表示
假设1: n(k+1)矩阵X是非随机的，且X的秩=k+1，即X列满秩。 假设2:
1 ) E E (μ μ n
12 1 n n E 2 n n 1
1 X 12 X k2
1 Y1 X 1n Y2 X kn Yn
ˆ X Y (X X) β
2、由于X’X满秩(其逆矩阵存在），故有
1 ˆ β ( X X) X Y
＃OLSE的矩阵估计过程
μ~ N (0, 2 I )
暗含假设
假设 5 ：样本容量趋于无穷时，各解释变量的方差趋于有界常数，即 n∞时，
1 1 2 x ( X ji X j ) 2 Q j ji n n
或
1 xx Q n
其中：Q为一非奇异固定矩阵，矩阵x是由各解释变量的离差 为元素组成的nk阶矩阵
j 1 k
i 1, 2,
,n


j 0
k
j
X ji ( X 0 i 1)
注意：（1）解释变量X的个数：k 回归系数 j的个数：k＋1 （2）j：偏回归系数，表示了Xj对Y的净影响 （3）X的第一个下标 j 区分变量（j＝1，2，……，k） 第二个下标 i 区分观测（i＝1，2，……n）
解此（k＋1）个方程组成的正规方程组，即可求得（k+1)个未知参
数βj 的估计 。
最小二乘估计的矩阵表示
1、正规方程组的矩阵形式
n X 1i X ki
X X

1i 2 1i

X X X
ki
X
ki
X 1i
ˆ 1 0 ˆ X 11 1i ki 1 2 ˆ X ki k X k 1
性）。 ►假设2：随机误差项具有零均值、同方差和无序列相关性： E(i)=0 Cov(i, j)=0 Cov(Xji, i)=0 Var (i)=2 i≠j i=1,2, …,N i,j= 1,2, …,N
►假设3：随机误差项与解释变量X之间不相关：
i=1,2, …,N
►假设4：服从零均值、同方差、零协方差的正态分布
ˆ X' Y 3、由此得到正规方程组： X' Xβ
解此正规方程组即得参数的MM估计量。 MM估计量与OLS、ML估计量等价。
*关于矩估计*
矩方法是工具变量方法(Instrumental Variables,IV)和广义矩估计方
法(Generalized Moment Method, GMM)的基础
#参数估计的实例
例3.2.1：在例2.1.1的家庭收入-消费支出例中，
1 ( X ' X) X 1 1 X2 1 1 1 Xn 1 X1 X2 n X i Xn
X X
i 2 i
10 21500
ˆ 2 称为估计标准误或者回归标准误（S.E of regression）
*最大似然估计* （Maximum Likelihood Estimate）
1、基本原理：样本观测值出现的概率最大。 2、似然函数：
Yi ~ N ( X i β , 2 )
ˆ , 2 ) P (Y1 , Y2 , , Yn ) L (β 1 ( 2 ) 1 ( 2 )
ˆ 0 ˆ 1 ˆ β ˆ k

e1 e2 e e n

2、于是，样本回归模型和函数可以表示为：
ˆ e Y Xβ
ˆ Xβ ˆ Y
二、多元线性回归模型的基本假设
►假设1：解释变量是非随机的或固定的，且各X之间互不相关（无多重共线
矩阵有关定理
（AB ) BA
ˆ 0 X Y X Xβ
ˆ XY XXβ
1 ˆ β ( X X) X Y
( 1 , 2 , n ); A (a1 , a2 , an ) ( A) A ( B ) 2 B ( B为n n对 称 阵 ）

样本回归模型（SRM）
ˆ ˆ X ˆ X ˆ X e Yi 0 1 1i 2 2i ki ki i
其中：ei 称为残差 (residuals)，可看成是随机误差项 i的近似替代。
总体回归模型的矩阵表示
1、总体回归模型表示了n个随机方程，引入如下矩阵记号：
1 1 X 1
第三章
多元线性回归模型
§ 3.1 多元线性回归模型
§ 3.2 多元线性回归模型的参数估计 § 3.3 多元线性回归模型的统计检验 § 3.4 多元线性回归模型的预测 § 3.5 可线性化的多元非线性回归模型 § 3.6 受约束回归
§3.1
多元线性回归模型
一、模型形式 二、基本假定
一、模型形式
Yi 0 1 X 1i 2 X 2 i ... k X ki i 0 j X ji i
n 2 n 2
n
1 2 2
e

ˆ ˆ X ˆ X ˆ X )) 2 ( Yi ( 0 1 1i 2 2i k ki
1 2 2

ˆ )( Y Xβ ˆ) ( Y Xβ
3、最大似然估计MLE：
n
e

1 ˆ β ( X X) X Y
参数的MLE与参数的OLSE相同
误差方差2的估计
1、基于OLS下，随机误差项 的方差的无偏估计量为
e ' e e e ˆ2 n k 1 n k 1 n ( k 1)
2 i
e
注意：分母的形式：n-k-1 = n-(k+1)。 k：解释变量X的个数； k+1：回归系数的个数
2、 ˆ
1
var( 1 ) cov( , ) n 1
cov( 1 , n ) 2 0 var( n )