下载文档原格式
多元线性回归与最小二乘估计1．假定条件、最小二乘估计量和高斯—马尔可夫定理多元线性回归模型：y t= β0 +β1x t1 +β2x t2 +…+βk- 1x t k-1 + u t(1.1)其中y t是被解释变量（因变量），x t j是解释变量（自变量），u t是随机误差项，βi,i = 0, 1, … , k - 1是回归参数（通常未知）。
对经济问题的实际意义：y t与x t j存在线性关系，x t j,j = 0, 1, … , k - 1, 是y t的重要解释变量。
u t代表众多影响y t变化的微小因素。
使y t的变化偏离了E( y t) =多元线性回归与最小二乘估计1．假定条件、最小二乘估计量和高斯—马尔可夫定理多元线性回归模型：y t= β0 +β1x t1 +β2x t2 +…+βk- 1x t k-1 + u t(1.1)其中y t是被解释变量（因变量），x t j是解释变量（自变量），u t是随机误差项，βi,i = 0, 1, … , k - 1是回归参数（通常未知）。
对经济问题的实际意义：y t与x t j存在线性关系，x t j,j = 0, 1, … , k - 1, 是y t的重要解释变量。
u t代表众多影响y t变化的微小因素。
使y t的变化偏离了E( y t) =β0 +β1x t1 +β2x t2 +…+βk- 1x t k -1决定的k维空间平面。
当给定一个样本（y t, x t1, x t2 ,…, x t k -1）, t = 1, 2, …, T时, 上述模型表示为y1 =β0 +β1x11 +β2x12 +…+βk- 1x1 k -1 + u1, 经济意义：x t j是y t的重要解释变量。
y 2 =β0 +β1x 21 +β2x 22 +…+βk - 1x 2 k -1 + u 2, 代数意义：y t 与x t j 存在线性关系。
……….. 几何意义：y t 表示一个多维平面。
《计量经济学》课程教学大纲英文名称：Econometric课程代码：221102004课程类别：专业核心课课程性质：必修开课学期：第四学期总学时：54（讲课：36，实验0，实践18，网络0）总学分：3考核方式：作业先修课程：高等数学、微观经济学、宏观经济学、统计学适用专业：经济学一、课程简介《计量经济学》是经济学专业的一门专业核心课程。
本课程以高等数学、宏微观经济学、统计学为先修课程，系统讲授计量经济学的基础理论、一元和多元线性回归模型、非线性回归模型的线性化、异方差、自相关、多重共线性、模型中特殊的解释变量以及Eviews基础操作等内容，为全国大学生市场调查与分析大赛以及毕业论文作理论与实践兼具的准备。
该课程分别从理论授课、软件学习以及团队实训等三个维度全面提高学生的思想水平、政治觉悟、道德品质及文化素养，重点培养学生经济学专业知识与技能，使其具有较为扎实的专业知识储备、数据分析的能力、实践与创新能力。
二、课程目标及其对毕业要求的支撑总体目标：全面提高学生的政治素养和道德品质，重点培养学生经济统计专业知识与技三、课程内容及要求第一章绪论教学内容：第一节计量经济学的定义与类型1．计量经济学的定义2．计量经济学的类型第二节计量经济学的特征1．经典计量经济学在理论方法方面特征2．经典计量经济学在应用方法方面特征第三节计量经济学的目的及研究问题的步骤1．计量经济学的目的2．计量经济学研究问题的步骤3．Eviews软件介绍学生学习预期成果：1．理解计量经济学的含义2．理解计量经济学的类型与特征3．了解计量经济学的目的及研究问题的步骤4．了解Eviews软件并下载安装成功教学重点：计量经济学的含义；计量经济学研究问题的步骤；Eviews软件介绍。
教学难点：计量经济学的含义；计量经济学研究问题的步骤。
第二章一元线性回归模型教学内容：第一节模型的建立及其假定条件1．回归分析的概念2．一元线性回归模型的介绍3．随机误差项的假定条件第二节一元线性回归模型的参数估计1．普通最小二乘法的概念2．参数估计第三节最小二乘估计量的统计性质1．线性性2．无偏性3．最小方差性第四节用样本可决系数检验回归方程的拟合优度1．总离差平方和的分解2．样本可决系数及相关系数第五节回归系数估计值的显著性检验与置信区间1．随机变量u的方差2．t检验3．置信区间第六节一元线性回归方程的预测1．点预测2．区间预测第七节案例分析1．用Eviews软件研究分析我国城镇居民年人均可支配收入与年人均消费性支出之间的关系学生学习预期成果：1．掌握回归分析的概念2．掌握随机误差项的假定条件3．掌握一元线性回归模型的参数估计4．熟悉最小二乘估计量的统计性质5．掌握用样本可决系数检验回归方程的拟合优度6．掌握回归系数估计值的显著性检验7．掌握Eviews软件的基础操作教学重点：回归分析的概念；随机误差项的假定条件；一元线性回归模型的参数估计；Eviews软件的基础操作。
计量经济学前三章复习总结第一章导论1.不同的经济学家对计量经济学有不同的定义，但事实上，计量经济学是以经济理论和经济数据的事实为依据，运用数学、统计学的方法，通过建立数学模型来研究经济数量关系和规律的一门经济学科。
因此，计量经济学是与计量经济学与经济学、经济统计学、数理统计学都以关系的学科，但是，计量经济学又不仅是这些学科的简单结合，它与这些学科既有联系又有区别。
（1）计量经济学研究的主体是经济现象和经济关系的数量规律，而经济学理论所明的经济规律为计量经济学分析经济数量关系提供了理论基础。
但是计量经济分析的成果或者是对经济理论确定的理论加以验证和充实，或者可以否定某些经济理论原则并作出补充或更改，而不是盲目地重复经济理论。
再者，经济学只对经济现象进行定性，并不提供数量上的定量，而计量经济学则要对所确定的经济关系作出定量的估计。
（2）经济统计学统计的数据为计量经济学估计参数、验证理论提供了基本依据。
只不过经济统计学侧重于对社会现象的描述，只能被动地观察客观经济活动的既成事实，而计量经济学可以确定经济现象中的函数关系。
（3）数理统计学中的参数估计、假设检验、方差分析、回归分析等方法在计量经济学中得到了全面的运用，可以说数理统计学是计量经济学的方法论基础。
然而，数理统计学只是抽象的研究一般随机变量统计规律，而计量经济学从具体的经济模型出发，其参数都具有特定的经济意义。
而且，在实际经济问题中，数理统计中的一些标准假定经常不能满足，还需要建立许多专门的经济计量方法。
因此，计量经济学并不只是对数理统计方法的简单运用。
2.运用计量经济学研究经济问题，一般可分为四个步骤:（1）模型设定—确定变量和数学关系式在建立模型时，通常不可能把所有的因素都列入模型，而只能抓住主要影响因素和主要特征，不得不舍弃某些因素，同时，变量之间的关系一般被设计成线性关系，但也有可能是非线性关系。
以上模型中的变量选择和关系形式的设计，在一定程度上受研究者主观认识的影响。
一、单项选择题1．多元线性回归分析中（回归模型中的参数个数为k），调整后的可决系数与可决系数之间的关系（）A. B. ≥C. D.2．已知五元线性回归模型估计的残差平方和为，样本容量为46，则随机误差项的方差估计量为( )A. 33.33B. 40C. 38.09D. 203．多元线性回归分析中的 RSS反映了（）A．因变量观测值总变差的大小B．因变量回归估计值总变差的大小C．因变量观测值与估计值之间的总变差D．Y关于X的边际变化4．在古典假设成立的条件下用OLS方法估计线性回归模型参数，则参数估计量具有（）的统计性质。
A．有偏特性 B. 非线性特性C．最小方差特性 D. 非一致性特性5．关于可决系数，以下说法中错误的是（）A.可决系数的定义为被回归方程已经解释的变差与总变差之比B.C.可决系数反映了样本回归线对样本观测值拟合优劣程度的一种描述D.可决系数的大小不受到回归模型中所包含的解释变量个数的影响二、多项选择题1．调整后的判定系数与判定系数之间的关系叙述正确的有（）A.与均非负B.有可能大于C.判断多元回归模型拟合优度时，使用D.模型中包含的解释变量个数越多，与就相差越大E.只要模型中包括截距项在内的参数的个数大于1，则2．对多元线性回归方程（有k个参数）的显著性检验，所用的F统计量可表示为（）A. B.C. D.E.三、判断题1．在对参数进行最小二乘估计之前，没有必要对模型提出古典假定。
2．一元线性回归模型与多元线性回归模型的基本假定是相同的。
3．拟合优度检验和F检验是没有区别的。
参考答案：一、单项选择题1.A2.D3.C4.C5.D二、多项选择题1．CDE 2．BE三、判断题1．答：错误。
在古典假定条件下，OLS估计得到的参数估计量是该参数的最佳线性无偏估计（具有线性、无偏性、有效性）。
总之，提出古典假定是为了使所作出的估计量具有较好的统计性质以便进行统计推断。
2．答：错误。
在多元线性回归模型里除了对随机误差项提出假定外，还对解释变量之间提出无多重共线性的假定。
第三章、经典单方程计量经济学模型：多元线性回归模型一、内容提要本章将一元回归模型拓展到了多元回归模型，其基本的建模思想与建模方法与一元的情形相同。
主要内容仍然包括模型的基本假定、模型的估计、模型的检验以及模型在预测方面的应用等方面。
只不过为了多元建模的需要，在基本假设方面以及检验方面有所扩充。
本章仍重点介绍了多元线性回归模型的基本假设、估计方法以及检验程序。
与一元回归分析相比，多元回归分析的基本假设中引入了多个解释变量间不存在（完全）多重共线性这一假设；在检验部分，一方面引入了修正的可决系数，另一方面引入了对多个解释变量是否对被解释变量有显著线性影响关系的联合性F检验，并讨论了F检验与拟合优度检验的内在联系。
本章的另一个重点是将线性回归模型拓展到非线性回归模型，主要学习非线性模型如何转化为线性回归模型的常见类型与方法。
这里需要注意各回归参数的具体经济含义。
本章第三个学习重点是关于模型的约束性检验问题，包括参数的线性约束与非线性约束检验。
参数的线性约束检验包括对参数线性约束的检验、对模型增加或减少解释变量的检验以及参数的稳定性检验三方面的内容，其中参数稳定性检验又包括邹氏参数稳定性检验与邹氏预测检验两种类型的检验。
检验都是以F检验为主要检验工具，以受约束模型与无约束模型是否有显著差异为检验基点。
参数的非线性约束检验主要包括最大似然比检验、沃尔德检验与拉格朗日乘数检验。
它们仍以估计无约束模型与受约束模型为基础，但以最大似然原χ分布为检验统计量理进行估计，且都适用于大样本情形，都以约束条件个数为自由度的2的分布特征。
非线性约束检验中的拉格朗日乘数检验在后面的章节中多次使用。
二、典型例题分析例1．某地区通过一个样本容量为722的调查数据得到劳动力受教育的一个回归方程为36.0.+=-10+094medufedu.0sibsedu210131.0R2=0.214式中，edu为劳动力受教育年数，sibs为该劳动力家庭中兄弟姐妹的个数，medu与fedu分别为母亲与父亲受到教育的年数。
第三章 多元线性回归与最小二乘估计3.1 假定条件、最小二乘估计量和高斯—马尔可夫定理1、多元线性回归模型：y t = β0 +β1x t 1 + β2x t 2 +…+ βk - 1x t k -1 + u t (3.1) 其中y t 是被解释变量（因变量），x t j 是解释变量（自变量），u t 是随机误差项，βi , i = 0, 1, … , k - 1是回归参数（通常未知）。
对经济问题的实际意义：y t 与x t j 存在线性关系，x t j , j = 0, 1, … , k - 1, 是y t 的重要解释变量。
u t 代表众多影响y t 变化的微小因素。
使y t 的变化偏离了E( y t ) = β0 +β1x t 1 + β2x t 2 +…+ βk - 1x t k -1 决定的k 维空间平面。
当给定一个样本（y t , x t 1, x t 2 ,…, x t k -1）, t = 1, 2, …, T 时, 上述模型表示为 y 1 = β0 +β1x 11 + β2x 12 +…+ βk - 1x 1 k -1 + u 1,y 2 = β0 +β1x 21 + β2x 22 +…+ βk - 1x 2 k -1 + u 2, (3.2) ………..y T = β0 +β1x T 1 + β2x T 2 +…+ βk - 1x T k -1 + u T经济意义：x t j 是y t 的重要解释变量。
代数意义：y t 与x t j 存在线性关系。
几何意义：y t 表示一个多维平面。
此时y t 与x t i 已知，βj 与 u t 未知。
)1(21)1(110)(111222111111)1(21111⨯⨯-⨯---⨯⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎣⎡+⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎣⎡⎥⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎢⎣⎡=⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎣⎡T T k k k T k T TjT k j k jT T u u u x x x x x x x x x y y yβββ (3.3) Y = X β + u (3.4)2假定条件为保证得到最优估计量，回归模型（3.4）应满足如下假定条件。
假定 ⑴ 随机误差项u t 是非自相关的，每一误差项都满足均值为零，方差 σ2相同且为有限值，即E(u ) = 0 = ⎥⎥⎥⎦⎤⎢⎢⎢⎣⎡00 , Var (u ) = E(u ˆu ˆ' ) = σ 2I = σ 2⎥⎥⎥⎦⎤⎢⎢⎢⎣⎡10000001 假定 ⑵ 解释变量与误差项相互独立，即 E(X 'u ) = 0假定 ⑶ 解释变量之间线性无关。
rk(X 'X ) = rk(X ) = k 其中rk (⋅)表示矩阵的秩。
假定⑷ 解释变量是非随机的，且当T → ∞ 时T – 1X 'X → Q其中Q 是一个有限值的非退化矩阵。
3 最小二乘估计最小二乘 (OLS) 法的原理是求残差（误差项的估计值）平方和最小。
代数上是求极值问题。
min S = (Y - X βˆ)' (Y - X βˆ) = Y 'Y -βˆ'X 'Y - Y ' X βˆ +βˆ'X 'X βˆ = Y 'Y - 2βˆ'X 'Y + βˆ'X 'X βˆ (3.5) 因为Y 'X βˆ是一个标量，所以有Y 'X βˆ = βˆ'X 'Y 。
(1.5) 的一阶条件为： βˆ∂∂S = - 2X 'Y + 2X 'X βˆ= 0 (3.6) 化简得X 'Y = X 'X βˆ 因为 (X 'X ) 是一个非退化矩阵（见假定⑶），所以有βˆ= (X 'X )-1X 'Y （3.7） 因为X 的元素是非随机的，(X 'X ) -1X 是一个常数矩阵，则βˆ是Y 的线性组合，为线性估计量。
求出βˆ，估计的回归模型写为Y = X βˆ+u ˆ (3.9) 其中βˆ= (0ˆβ 1ˆβ … 1ˆ-k β)' 是 β 的估计值列向量，u ˆ= (Y - X βˆ) 称为残差列向量。
因为 uˆ= Y - X βˆ= Y - X (X 'X )-1X 'Y = [I - X (X 'X )-1 X ' ]Y (3.10) 所以uˆ也是Y 的线性组合。
βˆ的期望和方差是 E(βˆ) = E[(X 'X )-1 X 'Y ] = E[(X 'X )-1X '(X β + u )] = β + (X 'X )-1X ' E(u ) = β (3.11) 由于：11111ˆ(')`(')`()(')`(')`(')`X X X Y X X X X u X X X X X X X u X X X uββββ-----==+=+=+Var(βˆ) = E[(βˆ–β) (βˆ–β)']= E[(X 'X )-1X ' u u ' X (X 'X )-1] = E[(X 'X )-1X ' σ 2I X (X 'X )-1] = σ 2 (X 'X )-1 (3.12) 例：3.1（P113）略4高斯—马尔可夫定理：高斯—马尔可夫定理：若前述假定条件成立，OLS 估计量是最佳线性无偏估计量。
βˆ具有无偏性。
βˆ具有最小方差特性。
βˆ具有一致性，渐近无偏性和渐近有效性。
3.2 残差的方差22`ˆtt te e e T kT kσ==--∑ (3.13) 2ˆσ是σ 2 的无偏估计量，E(2ˆσ ) =σ 2。
证明过程如下：11ˆˆ(`)`(`)`e Y Y Y X Y X X X X Y I X X X X Y β--⎡⎤=-=-=-=-⎣⎦ 记：1(`)`I X X X X --=P容易证明：P 为对等幂矩阵，即P=P`，P 2=P11(`)`(`)`()e I X X X X Y I X X X X X u Pu β--⎡⎤⎡⎤=-=-+=⎣⎦⎣⎦[][]222var()(`)()`(`)`(`)`()``e E ee E Pu Pu E P uu P PE uu P P I P PP P σσσ=======利用矩阵迹的性质，有：2`(`)tee e tr ee ==∑[][][]22212122()(`)(`)(`)(`)`(`)`()t t t k E e E e e E tr ee tr E e e tr P tr I X X X X trI trX X X X T trI T k σσσσσ--⎡⎤====⎣⎦⎡⎤⎡⎤=-=-⎣⎦⎣⎦=-=-∑βˆ的估计的方差协方差矩阵是 ∧Var (βˆ) = 2ˆσ (X 'X )-1 (3.14) βi 的置信区间（1） 全部βi 的联合置信区间接受F =k1(β -βˆ)' (X 'X ) (β -βˆ) / s 2 ~ F α (k , T -k ) (3.15) ( β -βˆ)' (X 'X ) ( β -βˆ) ≤ s 2 k F α (k , T -k )，它是一个k 维椭球。
(3.16)（2） 单个βi 的置信区间t =ˆˆ()j j js βββ-=ˆˆ((j jj jββββ-=-~ t (T -k ) βi = i βˆt α/2(T -k ) . (3.17) OLS 估计量的分布若u ~ N (0, σ 2I ) ，则每个u t 都服从正态分布。
于是有Y ~ N (X β, σ 2I ) (3.18)因βˆ也是u 的线性组合（见公式1.7），依据（3.11）和（3.12）有βˆ ~ N ( β, σ2(X 'X )-1) (3.19) 3.3多元回归模型的检验1. 多重确定系数（多重可决系数）Y = X βˆ+u ˆ=Y ˆ+u ˆ (3.20) 总平方和SST =∑=-T t t y y 12)(=∑∑∑===+-Tt T t T t t t y y y y 121122=21122y T y y y Tt Tt t t +-∑∑=== Y 'Y - T 2y , (3.21)其中y 是y t 的样本平均数，定义为y = T y Tt t /)(1∑=。
同理，回归平方和为SSR =∑=-Tt t y y12)ˆ(= Y ˆ'Y ˆ- T 2y (3.22) 其中y 的定义同上。
残差平方和为SSE =∑=-Tt t t y y 12)ˆ(= ∑=Tt t u12ˆ= u ˆ'u ˆ (3.23) 则有如下关系存在，SST = SSR + SSE (3.24)R 2=22ˆˆy T y T SST SSR -Y Y Y 'Y'-=(3.25)显然有0 ≤ R 2 ≤ 1。
R 2 →1，拟合优度越好。
2. 调整的多重确定系数当解释变量的个数增加时，通常R 2不下降，而是上升。
为调整因自由度减小带来的损失（增加方差的无偏估计量22`ˆtt te e e T kT kσ==--∑，会系数的置信区间及预测精度降低），又定义调整的多重确定系数2R 如下：2R = 1 -))(1(1)1/()/(SST SSR SST k T T T SST k T SSE ----=-- = 1 - )1(12R kT T --- (3.26)对于包含解释变量个数不同的模型，就用调整后的确定系数。
3 方差分析与F 检验与SST 相对应，自由度T -1也被分解为两部分，（T -1）= (k -1) + (T - k ) (3.27) 回归均方差定义为MSR =1-k SSR ，误差均方差定义为MSE = kT SSE- 表1.1 方差分析表方差来源 平方和 自由度 均方 回归 SSE =Yˆ'Y ˆ-T y 2 k -1 MSE = SSE / (k -1) 误差SSR = uˆ'u ˆ T -kMSR = SSR / (T -k )总和 SST = Y 'Y - T y 2T -1H 0: β1= β2 = … = βk -1 = 0; H 1: βj 不全为零F =MSE MSR= /(1)/()SSE k SSR T k -- ~ F (k -1,T -k ) (3.28)设检验水平为α，则检验规则是，若 F ≤ F α (k -1,T -k )，接受H 0；若 F > F α (k -1,T -k ) , 拒绝H 0。
