当前位置：文档之家 › 计量经济学 第三章 多元线性回归

计量经济学 第三章 多元线性回归

  • 格式：ppt
  • 大小：1.03 MB
  • 文档页数：64

下载文档原格式

  / 64

合集下载

计量经济学 第三章

计量经济学 第三章
习题答案
3-2．答：变量非线性、系数线性；变量、系数均线性；变量、系数均 线性；变量线性、系数非线性；变量、系数均为非线性；变量、系数均 为非线性；变量、系数均为线性。 3-3．答：多元线性回归模型与一元线性回归模型的区别表现在如下几 方面：一是解释变量的个数不同；二是模型的经典假设不同，多元线性 回归模型比一元线性回归模型多了“解释变量之间不存在线性相关关
方和较大，但相对来说其AIC值最低，所以我们选择该模型为最优的模
型。
（4）随着收入的增加，我们预期住房需要会随之增加。所以可以预
期β3>0，事实上其估计值确是大于零的。同样地，随着人口的增加，
住房需求也会随之增加，所以我们预期β4>0，事实其估计值也是如
此。随着房屋价格的上升，我们预期对住房的需求人数减少，即我们预
其中：——某天慢跑者的人数 ——该天降雨的英寸数 ——该天日照的小时数 ——该天的最高温度（按华氏温度） ——第二天需交学期论文的班级数Байду номын сангаас
请回答下列问题：（1）这两个方程你认为哪个更合理些，为什么？ （2）为什么用相同的数据去估计相同变量的系数得
到不同的符号？ 3-18．对下列模型： （1）
（2） 求出β的最小二乘估计值；并将结果与下面的三变量回归方程的最小二 乘估计值作比较：
（1） 检验模型A中的每一个回归系数在10%水平下是否为零（括 号中的值为双边备择p-值）。根据检验结果，你认为应该把 变量保留在模型中还是去掉？
（2） 在模型A中，在10%水平下检验联合假设H0：i =0(i=1,5,6,7)。说明被择假设，计算检验统计值，说明其 在零假设条件下的分布，拒绝或接受零假设的标准。说明你 的结论。
（3） ，你认为哪一个估计值更好？ 3-19．假定以校园内食堂每天卖出的盒饭数量作为被解释变量，盒饭 价格、气温、附近餐厅的盒饭价格、学校当日的学生数量（单位：千 人）作为解释变量，进行回归分析；假设不管是否有假期，食堂都营 业。不幸的是，食堂内的计算机被一次病毒侵犯，所有的存储丢失，无 法恢复，你不能说出独立变量分别代表着哪一项！下面是回归结果（括 号内为标准差）：

(整理)计量经济学 第三章 多元线性回归与最小二乘估计

(整理)计量经济学 第三章 多元线性回归与最小二乘估计

第三章 多元线性回归与最小二乘估计3.1 假定条件、最小二乘估计量和高斯—马尔可夫定理1、多元线性回归模型：y t = β0 +β1x t 1 + β2x t 2 +…+ βk - 1x t k -1 + u t (3.1) 其中y t 是被解释变量（因变量），x t j 是解释变量（自变量），u t 是随机误差项，βi , i = 0, 1, … , k - 1是回归参数（通常未知）。

对经济问题的实际意义：y t 与x t j 存在线性关系，x t j , j = 0, 1, … , k - 1, 是y t 的重要解释变量。

u t 代表众多影响y t 变化的微小因素。

使y t 的变化偏离了E( y t ) = β0 +β1x t 1 + β2x t 2 +…+ βk - 1x t k -1 决定的k 维空间平面。

当给定一个样本（y t , x t 1, x t 2 ,…, x t k -1）, t = 1, 2, …, T 时, 上述模型表示为 y 1 = β0 +β1x 11 + β2x 12 +…+ βk - 1x 1 k -1 + u 1,y 2 = β0 +β1x 21 + β2x 22 +…+ βk - 1x 2 k -1 + u 2, (3.2) ………..y T = β0 +β1x T 1 + β2x T 2 +…+ βk - 1x T k -1 + u T经济意义：x t j 是y t 的重要解释变量。

代数意义：y t 与x t j 存在线性关系。

几何意义：y t 表示一个多维平面。

此时y t 与x t i 已知，βj 与 u t 未知。

)1(21)1(110)(111222111111)1(21111⨯⨯-⨯---⨯⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎣⎡+⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎣⎡⎥⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎢⎣⎡=⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎣⎡T T k k k T k T TjT k j k jT T u u u x x x x x x x x x y y yβββ (3.3) Y = X β + u (3.4)2假定条件为保证得到最优估计量，回归模型（3.4）应满足如下假定条件。

计量经济学第三章多元线性回归模型

计量经济学第三章多元线性回归模型

⒈零均值假定
E( i) 0 i 1,2,, n
E(U) 0
⒉同方差和无自相关假定
COV (i , j ) E(i E(i ))( j E( j ))
2 i j

E(i
j
)


0
i j
VAR(U ) E(U E(U))(U E(U))
Yˆi ˆ1 ˆ2 X 2i ˆK X Ki
i 1,2,, n
Yi Yˆi ei
Yˆi

ˆ j
E(Y
j
X 2i ,,
X Ki
)
注意：β1一般情况下没有明确的经济含义，但一般 总包含在回归模型中。
3.1多元线性回归模型及古典假定
二、多元线性回归模型的矩阵形式
总体回归函数描述了一个被解释变量与多个解释
变量之间的线性关系，线性是针对参数而言的。
其中， j 为偏回归系数，表示：在控制其他变量 不变的条件下，第j个解释变量的单位变动对被解释 变量平均值的影响。
j

Y X j(保持其他变量不变)

Y X j
3.1多元线性回归模型及古典假定
样本回归函数：
(XX)1 X 2ΙX(XX)1 2 (XX)1 XX(XX)1 2 (XX)1
i 1
ei 0





N
( ei2 )
i 1
ˆ2
N

2
N i 1
(Yi
ˆ1

ˆ2 X 2i
ˆK
X Ki ) X 2i

2
ei X 2i 0
偏 导

第三章多元线性回归模型(计量经济学,南京审计学院)

第三章多元线性回归模型(计量经济学,南京审计学院)

Yˆ 116.7 0.112X 0.739P
R2 0.99
(9.6) (0.003) (0.114)
Y和X的计量单位为10亿美元 (按1972不变价格计算).
P
食品价格平减指数 总消费支出价格平减指数
100，（1972
100）
3
多元线性回归模型中斜率系数的含义
上例中斜率系数的含义说明如下： 价格不变的情况下，个人可支配收入每上升10
c (X X )1 X D
从而将 的任意线性无偏估计量 * 与OLS估计量 ˆ 联系
起来。
28
cX I
由
可推出：
(X X )1 X X DX I
即 I DX I
因而有 D X 0
cc (X X )1 X D (X X )1 X D ( X X )1 X D X ( X X )1 D
第三章 多元线性回归模型
简单线性回归模型的推广
1
第一节 多元线性回归模型的概念
在许多实际问题中，我们所研究的因变量的变动 可能不仅与一个解释变量有关。因此，有必要考虑线 性模型的更一般形式，即多元线性回归模型：
Yt β0 β1X1t β2 X 2t ... βk X kt ut t=1,2,…,n
Yt
ˆ0
βˆ 1
X
1t
... βˆ K X Kt
2
为最小，则应有：
S
S
S
ˆ0 0, ˆ1 0, ..., ˆ K 0
我们得到如下K+1个方程（即正规方程）：
13
β0 n
β1 X1t ...... β K X Kt Yt
β 0 X 1t β1 X 1t 2 ...... β K X 1t X Kt X 1tYt

《计量经济学》第3章数据

《计量经济学》第3章数据

《计量经济学》各章数据第3章 多元线性回归模型例3.1.1 经过研究，发现家庭书刊消费水平受家庭收入及户主受教育年数的影响。

现对某地区的家庭进行抽样调查，得到样本数据如表3.1.1所示，其中y 表示家庭书刊消费水平(元/年)，x 表示家庭收入(元／月)，T 表示户主受教育年数。

下面我们估计家庭书刊消费水平同家庭收入、户主受教育年数之间的线性关系。

回归模型设定如下： t t t t u T b x b b y +++=210(t =1,2, …)表3.1.1 某地区家庭书刊消费水平及影响因素的调查数据表例3.4.1根据表3.4.1给出的中国1980-2003年间总产出(用国内生产总值GDP度量，单位：亿元)，劳动投入L(用从业人员度量，单位为万人)，以及资本投入K(用全社会固定投资度量，单位：亿元)，试建立我国的柯布——道格拉斯生产函数。

表3.4.1 1980-2003年中国GDP、劳动投入与资本投入数据例3.4.2 某硫酸厂生产的硫酸透明度一直达不到优质要求，经分析透明度低与硫酸中金属杂质的含量太高有关。

影响透明度的主要金属杂质是铁、钙、铅、镁等。

通过正交试验的方法发现铁是影响硫酸透明度的最主要原因。

测量了47组样本值，数据见表3.4.3。

试建立硫酸透明度(y)与铁杂质含量(x)的回归模型。

表3.4.3 硫酸透明度(y)与铁杂质含量(x)数据例3.4.3假设某企业在15年中每年的产量Y(件)和总成本X(元)的统计资料表3.4.7所示，试估计该企业的总成本函数模型。

表3.4.7 某企业15年中每年总产量与总成本统计资料3.6.1 案例1——中国经济增长影响因素分析根据表3.6.1给出的1980-2003年间总产出(用国内生产总值GDP度量，单位：亿元)，最终消费CS(单位：亿元)，投资总额I(用固定资产投资总额度量，单位：亿元)，出口总额（单位：亿元）统计数据，试对中国经济增长影响因素进行回归分析。

第3章 多元线性回归模型 《计量经济学》PPT课件

第3章 多元线性回归模型 《计量经济学》PPT课件

于是：
βˆ
ˆ1 ˆ 2
0.7226 0.0003
0.0003 1.35E 07
15674 39648400
01.0737.71072
⃟ 正规方程组 的另一种写法
对于正规方程组 XY XXβˆ
XXβˆ Xe XXβˆ
于是 Xe 0 (*)
或
ei 0
(**)
X jiei 0
i
(*) 或（ ** ）是多元线性回归模型正规方程 组的另一种写法。
第三章 经典单方程计量经济学模型： 多元线性回归模型
• 多元线性回归模型 • 多元线性回归模型的参数估计 • 多元线性回归模型的统计检验 • 多元线性回归模型的预测 • 回归模型的其他形式
§ 3. 1 多元线性回归模型
一、多元线性回归模型 二、多元线性回归模型的基本假定
一、多元线性回归模型
多元线性回归模型 : 表现在线性回归模型 中的解释变量有多个。
的秩 =k+1 ，即 X 满秩。
假设 2. 随机误差项零均值，同方差。
0
0
0
E
(μ
μ
)
E
1
n
1
n
E
12
n 1
1 n
2 n
var(1 ) cov(1, n ) 2 0
2I
cov(
n
,
1
)
var(n )
0
2
i E(i )
βˆ (xx)1 xY
ˆ0 Y ˆ1 X 1 ˆk X k
⃟ 随机误差项的方差的无偏估计
可以证明，随机误差项的方差的无偏 估计量为：
ˆ 2
ei2 n k 1
ee n k 1

计量经济学-多元线性回归模型

多元线性回归模型的表达式
Y=β0+β1X1+β2X2+...+βkXk+ε，其中Y为因变 量，X1, X2,..., Xk为自变量，β0, β1,..., βk为回归 系数，ε为随机误差项。
多元线性回归模型的假设条件
包括线性关系假设、误差项独立同分布假设、无 多重共线性假设等。
研究目的与意义
研究目的
政策与其他因素的交互作用
多元线性回归模型可以引入交互项，分析政策与其他因素（如技 术进步、国际贸易等）的交互作用，更全面地评估政策效应。
实例分析：基于多元线性回归模型的实证分析
实例一
预测某国GDP增长率：收集该国历史数据，包括GDP、投资、消费、出口等变量，建立 多元线性回归模型进行预测，并根据预测结果提出政策建议。
最小二乘法原理
最小二乘法是一种数学优化技术，用 于找到最佳函数匹配数据。
残差是观测值与预测值之间的差，即 e=y−(β0+β1x1+⋯+βkxk)e = y (beta_0 + beta_1 x_1 + cdots + beta_k x_k)e=y−(β0+β1x1+⋯+βkxk)。
在多元线性回归中，最小二乘法的目 标是使残差平方和最小。
t检验
用于检验单个解释变量对被解释变量的影响 是否显著。
F检验
用于检验所有解释变量对被解释变量的联合 影响是否显著。
拟合优度检验
通过计算可决系数（R-squared）等指标， 评估模型对数据的拟合程度。
残差诊断
检查残差是否满足独立同分布等假设，以验 证模型的合理性。
04
多元线性回归模型的检验与 诊断

庞皓《计量经济学》(第4版)章节题库-第3章 多元线性回归模型【圣才出品】


2
2
而 1－α 的置信度下 Y0 的置信区间为：
Yˆ0 t ˆ
1
X0
X
X
1
X
0
Y0
Yˆ0
t
ˆ
1
X0
X
X
1
X
0
2
2
6．多元回归模型中的解释变量个数为 k，那么回归方程显著性检验的 F 统计量的第一 自由度为 n－k－1，第二自由度为 k。（ ）
【答案】× 【解析】多元回归模型中的解释变量个数为 k，那么回归方程显著性检验的 F 统计量 的第一自由度为 k，第二自由度为 n－k－1。
2 / 22
圣才电子书
十万种考研考证电子书、题库视频学习平

台
【解析】在变量显著性检验中，针对某变量 Xj（j＝1，2，…，k）设计的原假设与备
择假设为 H0：βj＝0，H1：βj≠0。给定显著性水平 α 之后，可根据|t|＞tα/2（n－k－1）
（或|t|≤tα/2（n－k－1））来决定拒绝（或接受）原假设 H0，从而判定对应的解释变量是
三、简答题 1．多元线性回归模型的基本假设是什么？试说明在证明最小二乘估计量的无偏性和 有效性的过程中，哪些基本假设起了作用？ 答：（1）针对普通最小二乘法，多元线性回归模型的基本假设主要有以下三大类： ①关于模型设定的基本假设： 假定回归模型的设定是正确的，即模型的变量和函数形式均为正确的。 ②关于随机扰动项的基本假设： 假定随机扰动项满足条件零均值、条件同方差、条件序列不相关性以及服从正态分布。
2．调整的多重可决系数 Error!2 与多重可决系数 R2 的关系为（ ）。 A．Error!2＝R2（n－1）/（n－k－1） B．Error!2＝1－R2（n－1）/（n－k－1） C．Error!2＝1－（1＋R2）（n－1）/（n－k－1） D．Error!2＝1－（1－R2）（n－1）/（n－k－1） 【答案】D 【解析】在样本容量一定的情况下，增加解释变量必定使得自由度减少，为了剔除变 量个数对拟合优度的影响，调整的多重可决系数是将残差平方和与总离差平方和处以各自

计量经济学(庞浩)第三章-多元线性回归模型(1)


矩阵X的秩为K(注意X为n行K列)。
Ran(X)= k
Rak(X'X)=k
即 (X'X) 可逆 假定6:正态性假定
ui ~ N (0, 2 )
u ~ N (0, 2I)
12
第二节 多元线性回归模型的估计
一、普通最小二乘法（OLS）
原则：寻求剩余平方和最小的参数估计式 min : ei2 (Yi Yˆi )2
1
X 22
Xk
2
2
u2
Yn
1 X 2n
X
kn
k
un
Y
X
βu
n 1
nk
k 1 n1
9
9
矩阵表示方式
总体回归函数 E(Y) = Xβ 或 Y = Xβ + u
样本回归函数 Yˆ = Xβˆ 或 Y = Xβˆ + e
其中： Y,Yˆ,u,e 都是有n个元素的列向量
β, βˆ 是有k 个 元素的列向量
多重可决系数：在多元回归模型中，由各个解释
变量联合起来解释了的Y的变差，在Y的总变差中占
的比重，用 R2表示 与简单线性回归中可决系数 r的2 区别只是 不Yˆi 同
多元回归中
Yˆi ˆ1 ˆ2 X2i ˆ3 X3i ˆk Xki
多重可决系数可表示为
R2 ESS TSS
(Yˆi Y )2 (Yi Y )2
0
2
X 2i
Yi
(ˆ1
ˆ2
X 2i
ˆ3
X 3i
ˆki
X ki )
0
(i 1, 2, n)
( j 1, 2, n)
ei 0
X2iei 0
2

计量经济学庞皓课件(第三章 多元线性回归模型)

2
怎样分析多种因素的影响？
分析中国汽车行业未来的趋势,应具体分析这样一些问题： 中国汽车市场发展的状况如何？（用销售量观测） 影响中国汽车销量的主要因素是什么？
（如收入、价格、费用、道路状况、能源、政策环境等）
各种因素对汽车销量影响的性质怎样？（正、负） 各种因素影响汽车销量的具体数量关系是什么？ 所得到的数量结论是否可靠？ 中国汽车行业今后的发展前景怎样？应当如何制定汽车的 产业政策？ 很明显，只用一个解释变量已很难分析汽车产业的发展, 还需要寻求有更多个解释变量情况的回归分析方法。
ˆk
k
c jj
~
N (0,1)
21 21
2 未知时βˆ 的标准化变换
因 2 是未知的， 可用 ˆ 2 代替 2 去估计参数的
标准误差:
●
当为大样本时，用估计的参数标准误差对
^
β
作
标准化变换，所得 Z 统计量仍可视为服从正态分
布
●当为小样本时，用估计的参数标准误差对 βˆ 作标 准化变换，所得的 t 统计量服从 t 分布：
( X X )1 X 2 IX ( X X )1
2 ( X X )1
注意
βˆ 是向量
(i 1, 2,L ( j 1, 2,L
n) n)
(由无偏性)
(由OLS估计式)
(由同方差性)
其中：
ˆ ( X X )1 X Y ( X X )1 X ( Xβ + u) β ( X X )1 X u
0
两边左乘 X
X Y = X Xβˆ + X e
根据最小二乘原则 则正规方程为
Xe = 0
X Xβˆ = X Y
14
OLS估计式
  1. 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
  2. 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
  3. 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
i 1
n
2
取得最小值的条件：
ˆ 0 ˆ 1 ˆ 2 ˆ k
Q 0 Q 0 Q 0 Q 0
正规方程组：
ˆ ˆ X ˆ X ˆ X ) Y ( 0 1 1i 2 2i k ki i ˆ ˆ X ˆ X ˆ X ) X Y X ( 0 1 1i 2 2i k ki 1i i 1i ˆ ˆ X ˆ X ˆ X ) X Y X ( 0 1 1i 2i 2i k ki 2i i 2i ˆ ˆ X ˆ X ˆ X ) X Y X ( 0 1 1i 2 2i k ki ki i ki
*矩估计* （Moment Method，MM）
1、OLS估计是通过得到一个关于参数估计值的正规方程组
ˆ X Y (X X) β
并对它进行求解而完成的。 2、该正规方程组可以从另外一种思路来导出:
Y Xβ μ
两侧求期望 :
XY XXβ Xμ
X(Y Xβ ) Xμ
X 11 X 12 X 1n
X 21 X 22 X 2n

X k1 X k2 X kn n ( k 1 )
Y1 Y 2 Y Y3 Yn n1
0 1 β 2 μ k ( k 1)1
• 在矩方法中关键是利用了：E(X’)=0 • 如果某个解释变量与随机项相关，只要能找到1个工具变量，仍然 可以构成一组矩条件。这就是IV。 • 如果存在＞k+1个变量与随机项不相关，可以构成一组包含＞k+1
E(X(Y Xβ )0
矩条件
*矩条件和矩估计量*
1、 E(X(Y Xβ ) 0 称为原总体回归方程的一组矩条件，表明了
原总体回归方程所具有的内在特征。
2、如果随机抽出原总体的一个样本，估计出的样本回归方程：
ˆ 能够近似代表总体回归方程的话，则应成立： ˆ X Y
1 ˆ)0 X (Y Xβ n
* MM：矩估计
一、普通最小二乘估计
• 基本思想：残差平方和最小
•
基于取得最小值的条件获得系数估计）
残差平方和：
ˆ )2 Q e (Yi Y i
i 1 2 i i 1
n
n
ˆ ˆ X ˆ X ˆ X )) (Yi ( 0 1 1i 2 2i k ki

总体回归函数（PRF）
E(Yi | X 1i , X 2i , X ki ) 0 1 X 1i 2 X 2i k X ki

样本回归函数（SRF）
ˆ ˆ X ˆ X ˆ X ˆ Y i 0 1 1i 2 2i ki ki
残差平方和的矩阵表示为：
ˆ )(Y X ˆ) Q ei2 ee (Y X
ˆ ) ( Y Xβ ˆ)0 ( Y Xβ ˆ β
ˆ X Y Y Xβ ˆ β ˆ X Xβ ˆ)0 ( Y Y β ˆ β
ˆ β ˆ X Xβ ˆ) 0 ( Y Y 2 Y Xβ ˆ β
ˆ 0.7226 0.0003 15674 103 .172 1 ˆ β ˆ 0 . 0003 1 . 35 E 07 39648400 0 . 7770 2
i~N(0, 2 )
i=1,2, …,N
基本假设的矩阵表示
假设1: n(k+1)矩阵X是非随机的，且X的秩=k+1，即X列满秩。 假设2:
1 ) E E (μ μ n
12 1 n n E 2 n n 1
1 X 12 X k2
1 Y1 X 1n Y2 X kn Yn
ˆ X Y (X X) β
2、由于X’X满秩(其逆矩阵存在），故有
1 ˆ β ( X X) X Y
＃OLSE的矩阵估计过程
μ~ N (0, 2 I )
暗含假设
假设 5 ：样本容量趋于无穷时，各解释变量的方差趋于有界常数，即 n∞时，
1 1 2 x ( X ji X j ) 2 Q j ji n n
或
1 xx Q n
其中：Q为一非奇异固定矩阵，矩阵x是由各解释变量的离差 为元素组成的nk阶矩阵
j 1 k
i 1, 2,
,n


j 0
k
j
X ji ( X 0 i 1)
注意：（1）解释变量X的个数：k 回归系数 j的个数：k＋1 （2）j：偏回归系数，表示了Xj对Y的净影响 （3）X的第一个下标 j 区分变量（j＝1，2，……，k） 第二个下标 i 区分观测（i＝1，2，……n）
解此（k＋1）个方程组成的正规方程组，即可求得（k+1)个未知参
数βj 的估计 。
最小二乘估计的矩阵表示
1、正规方程组的矩阵形式
n X 1i X ki
X X

1i 2 1i

X X X
ki
X
ki
X 1i
ˆ 1 0 ˆ X 11 1i ki 1 2 ˆ X ki k X k 1
性）。 ►假设2：随机误差项具有零均值、同方差和无序列相关性： E(i)=0 Cov(i, j)=0 Cov(Xji, i)=0 Var (i)=2 i≠j i=1,2, …,N i,j= 1,2, …,N
►假设3：随机误差项与解释变量X之间不相关：
i=1,2, …,N
►假设4：服从零均值、同方差、零协方差的正态分布
ˆ X' Y 3、由此得到正规方程组： X' Xβ
解此正规方程组即得参数的MM估计量。 MM估计量与OLS、ML估计量等价。
*关于矩估计*
矩方法是工具变量方法(Instrumental Variables,IV)和广义矩估计方
法(Generalized Moment Method, GMM)的基础
#参数估计的实例
例3.2.1：在例2.1.1的家庭收入-消费支出例中，
1 ( X ' X) X 1 1 X2 1 1 1 Xn 1 X1 X2 n X i Xn
X X
i 2 i
10 21500
ˆ 2 称为估计标准误或者回归标准误（S.E of regression）
*最大似然估计* （Maximum Likelihood Estimate）
1、基本原理：样本观测值出现的概率最大。 2、似然函数：
Yi ~ N ( X i β , 2 )
ˆ , 2 ) P (Y1 , Y2 , , Yn ) L (β 1 ( 2 ) 1 ( 2 )
ˆ 0 ˆ 1 ˆ β ˆ k

e1 e2 e e n

2、于是，样本回归模型和函数可以表示为：
ˆ e Y Xβ
ˆ Xβ ˆ Y
二、多元线性回归模型的基本假设
►假设1：解释变量是非随机的或固定的，且各X之间互不相关（无多重共线
矩阵有关定理
（AB ) BA
ˆ 0 X Y X Xβ
ˆ XY XXβ
1 ˆ β ( X X) X Y
( 1 , 2 , n ); A (a1 , a2 , an ) ( A) A ( B ) 2 B ( B为n n对 称 阵 ）

样本回归模型（SRM）
ˆ ˆ X ˆ X ˆ X e Yi 0 1 1i 2 2i ki ki i
其中：ei 称为残差 (residuals)，可看成是随机误差项 i的近似替代。
总体回归模型的矩阵表示
1、总体回归模型表示了n个随机方程，引入如下矩阵记号：
1 1 X 1
第三章
多元线性回归模型
§ 3.1 多元线性回归模型
§ 3.2 多元线性回归模型的参数估计 § 3.3 多元线性回归模型的统计检验 § 3.4 多元线性回归模型的预测 § 3.5 可线性化的多元非线性回归模型 § 3.6 受约束回归
§3.1
多元线性回归模型
一、模型形式 二、基本假定
一、模型形式
Yi 0 1 X 1i 2 X 2 i ... k X ki i 0 j X ji i
n 2 n 2
n
1 2 2
e

ˆ ˆ X ˆ X ˆ X )) 2 ( Yi ( 0 1 1i 2 2i k ki
1 2 2

ˆ )( Y Xβ ˆ) ( Y Xβ
3、最大似然估计MLE：
n
e

1 ˆ β ( X X) X Y
参数的MLE与参数的OLSE相同
误差方差2的估计
1、基于OLS下，随机误差项 的方差的无偏估计量为
e ' e e e ˆ2 n k 1 n k 1 n ( k 1)
2 i
e
注意：分母的形式：n-k-1 = n-(k+1)。 k：解释变量X的个数； k+1：回归系数的个数
2、 ˆ
1
var( 1 ) cov( , ) n 1
cov( 1 , n ) 2 0 var( n )