当前位置：文档之家 › 计量经济学讲义-3--第一章 线性回归基础

计量经济学讲义-3--第一章 线性回归基础

  • 格式：doc
  • 大小：261.50 KB
  • 文档页数：4

下载文档原格式

  / 4

合集下载

计量经济学讲义—— 线性回归模型的自相关问题

计量经济学讲义—— 线性回归模型的自相关问题

10.5 自相关的诊断－Durbin-Watson d检验法
Durbin-Watson d统计量可以用来诊断回归模型的自相关
n
d =
∑
t=2
( e t − e t −1 ) 2
n
∑
样本容量为n－1。
t =1
e t2
(10.3)
Durbin-Watson d检验量是诊断自相关常用的检验 工具，必须掌握。
10.2 自相关产生的原因
1. 经济时间序列的惯性(inertia)或迟缓性(sluggishness)特征。 2. 模型适定误差。有些自相关并不是由于连续观察值之间相 关产生的，而是因为回归模型不是适定性的“好”模型。 “不好模型”有多种原因。 3. 蛛网现象(the cobweb phenomenon)。一个变量对另一个变 量的反映不是同步的，时滞一定的时间。商品供给对价格 的反映： St ＝ B1 ＋ B2*Pt-1 ＋ ut (10.2)
∑
t=2 n
e t e t −1 e t2
ˆ ,− 1 ≤ ρ ≤ 1
(10.5)
∑
t =1
如果d接近0，则存在正相关；d接近4，则存在负相关；d 接近2，表示不存在相关。
10.5 自相关的诊断－Durbin-Watson d检验法
d 统计量诊断自相关需要一定的假设条件，不是任意可用的： 1. 回归模型包括一个截距项。因此，d统计量无法判断通过原 点的回归模型的自相关问题。 2. 变量X是非随机变量，即在重复抽样中变量X的值是固定不 变的。 3. 扰动项ui的生成机制是：
4. 数据处理。在做季节因素的调整时，经常要做移动平均。 移动平均的处理可以消除季节波动的影响，但带来新的问 题则是产生了自相关。

计量经济学重点讲解

计量经济学重点讲解

计量经济学重点讲解计量经济学重点第⼀章经济计量学的特征及研究范围1、经济计量学的定义（P1）（1）经济计量学是利⽤经济理论、数学、统计推断等⼯具对经济现象进⾏分析的⼀门社会科学；（2）经济计量学运⽤数理统计学分析经济数据，对构建于数理经济学基础之上的模型进⾏实证分析，并得出数值结果。

2、学习计量经济学的⽬的（计量经济学与其它学科的区别）（P1-P2）（1）计量经济学与经济理论经济理论：提出的命题和假说，多以定性描述为主计量经济学：依据观测或试验，对⼤多数经济理论给出经验解释，进⾏数值估计（2）计量经济学与数理经济学数理经济学：主要是⽤数学形式或⽅程（或模型）描述经济理论计量经济学：采⽤数理经济学家提出的数学模型，把这些数学模型转换成可以⽤于经验验证的形式（3）计量经济学与经济统计学经济统计学：涉及经济数据的收集、处理、绘图、制表计量经济学：运⽤数据验证结论3、进⾏经济计量的分析步骤（P2-P3）（1）建⽴⼀个理论假说（2）收集数据（3）设定数学模型（4）设⽴统计或经济计量模型（5）估计经济计量模型参数（6）核查模型的适⽤性：模型设定检验（7）检验源⾃模型的假设（8）利⽤模型进⾏预测4、⽤于实证分析的三类数据（P3-P4）（1）时间序列数据：按时间跨度收集到的（定性数据、定量数据）；（2）截⾯数据：⼀个或多个变量在某⼀时点上的数据集合；（3）合并数据：包括时间序列数据和截⾯数据。

（⼀类特殊的合并数据—⾯板数据（纵向数据、微观⾯板数据）：同⼀个横截⾯单位的跨期调查数据）第⼆章线性回归的基本思想：双变量模型1、回归分析（P18）⽤于研究⼀个变量（称为被解释变量或应变量）与另⼀个或多个变量（称为解释变量或⾃变量）之间的关系2、回归分析的⽬的（P18-P19）（1）根据⾃变量的取值，估计应变量的均值；（2）检验（建⽴在经济理论基础上的）假设；（3）根据样本外⾃变量的取值，预测应变量的均值；（4）可同时进⾏上述各项分析。

计量经济学(第四版)课件：一元线性回归分析基础

计量经济学(第四版)课件：一元线性回归分析基础

一元线性回归分析基础
第三节 最小二乘估计量的性质
β*1= - β1 =(1/n)∑Yt- ∑btYt =∑[(1/n)- bt]Yt 令 at= [(1/n)- bt] 由于和bt均为非随机变量，所以at也是非随机变量。 因此 β*1 =∑atYt 即β*1是Yt的线性组合。
一元线性回归分析基础
第三节 最小二乘估计量的性质
二、无偏性 指β*1和β*2 的期望值分别等于总体参数β1和β2。 即E(β*1)=β1 E(β*2 )=β2 E(β*2 )=E(β2+∑btut) =β2+∑btE(ut) =β2 E(β*1)=E(β1+∑atut) =β1
总体
有限总体
无限总体
任何样本都是有限的
一元线性回归分析基础
第三节 最小二乘估计量的性质
一、线性特性
是指参数估计值β*1和β*2分别为观察值Yt或扰动项ut的线性组合。
证： β*2 =∑Xtyt/ ∑Xt2 =∑Xt(Yt- )/∑X2t =∑（Xt/∑Xt2）Yt 令 bt= （Xt/∑Xt2） 得 β*2 = ∑ bt Yt 即β*2 是Yt的线性组合
一元线性回归分析基础
第三节 最小二乘估计量的性质
2.证明最小方差性 假设β**2是其他方法得到的关于β2的线性无偏估计 β**2=∑ctYt 其中，ct=bt+dt，dt为不全为零的常数 则容易证明 var(β**2)≥ var(β*2) 同理可证明β1的最小二乘估计量β*1具有最小方差。 高斯—马尔可夫定理(Gauss-Markov theorem)： 满足性质1、2、3的最小二乘估计量是最优线性无偏估计量（best linear unbiased estimator：BLUE）

计量经济学-3多元线性回归模型

计量经济学-3多元线性回归模型
计量经济学-3多元线性 回归模型
2020/12/8
计量经济学-3多元线性回归模型
•第一节 概念和基本假定
•一、基本概念： • 设某经济变量Y 与P个解释变量：X1，X2，…，XP存在线性依
存关系。 • 1.总体回归模型：
•其中0为常数项， 1 ~ P 为解释变量X1 ~ XP 的系数，u为随机扰动项。 • 总体回归函数PRF给出的是给定解释变量X1 ~ XP 的值时，Y的期 望值：E ( Y | X1，X2，…，XP )。 • 假定有n组观测值，则可写成矩阵形式：
计量经济学-3多元线性回归模型
•2.样本回归模型的SRF
计量经济学-3多元线性回归模型
•二、基本假定： • 1、u零均值。所有的ui均值为0，E（ui）=0。 • 2、u同方差。Var（ui）=δ2，i=1，2，…，n
计量经济学-3多元线性回归模型
•
计量经济学-3多元线性回归模型
•
•第二节 参数的最小二乘估 计
•五、预测
•（一）点预测 •点预测的两种解释：
计量经济学-3多元线性回归模型
•（二）区间预测
计量经济学-3多元线性回归模型
计量经济学-3多元线性回归模型
计量经济学-3多元线性回归模型
计量经济学-3多元线性回归模型
计量经济学-3多元线性回归模型
•例5，在例1中，若X01=10，X02=10，求总体均值E（Y0|X0） 和总体个别值Y0的区间预测。
•
Yi=β0+β1Xi1+β2Xi2+ui
计量经济学-3多元线性回归模型
计量经济学-3多元线性回归模型
计量经济学-3多元线性回归模型
•三、最小二乘估计的性质
计量经济学-3多元线性回归模型

3、计量经济学【一元线性回归模型——参数估计】

3、计量经济学【一元线性回归模型——参数估计】

ˆ Y i
(8) 651.8181 753.6363 855.4545 957.2727 1059.091 1160.909 1262.727 1364.546 1466.364 1568.182 11100
ˆ ei Yi Y i
(9)=(2)-(8) 48.18190 -103.6363 44.54550 -7.272700 40.90910 -10.90910 -62.72730 35.45450 83.63630 -68.18190

假设 5：随机误差项服从 0 均值，同方差的正态 分布，即

2 i ~ N (0, ), ,,,,,,,,, ,, i 1,2, n
以上这些假设称为线性回归模型的经典假
设，满足这些假设的线性回归模型，也称为 经典线性回归模型（classical linear regression model）。在回归分析的参数估计和统计检验 理论中，许多结论都是以这些假定作为基础 的。如果违背其中的某一项假定，模型的参 数估计就会存在问题，也就是说最小二乘法 （OLS）就不再适用，需对模型进行修正或 采用其他的方法来估计模型了。
二、参数的普通最小二乘估计（OLS） 三、最小二乘估计量的性质 四、参数估计量的概率分布及随机误差项
方差的估计

给出一元线性回归模型的一般形式：
Yi 0 1 X i i ,,,, , i 1, 2, ,n
其中 Yi ：被解释变量，X i ：解释变量，0 和 1 ：待估参 数； i ：随机误差项；
ei2
（10） 2321.495 10740.48 1984.302 52.89217 1673.554 119.0085 3934.714 1257.022 6995.031 4648.771 33727.27

计量经济学第三章-一元线性回归模型PPT课件

计量经济学第三章-一元线性回归模型PPT课件
同样地，样本回归函数也有如下的随机形式：
Y i Y ˆi ˆiˆ0ˆ1 X i e i
式中， ei 称为（样本）残差（或剩余）项（residual），是
实际观测值和拟合值的偏差。可看成是 的估i 计量 ˆi 。
由于方程中引入了随机项，成为计量经济模型， 因此也称为样本回归模型（sample regression model）。
.
7
含义：
回归函数（PRF）说明被解释变量Y的平均状 态（总体条件期望）随解释变量X变化的规律。
• 函数形式：
可以是线性或非线性的。 为什么线性形式这么重要？Taylor展开。
将粮食产量看成是播种面积的线性函数时:
E (Y|X i)01X i
为一线性函数。其中，0，1是未知参数，称为
回归系数（regression coefficients）。
.
16
每次抽样都能获得一组样本，就可以拟合一条 样本回归线，因此，样本回归线是随抽样波动 而变化的，可以有许多条，这就决定了SRF不 唯一。
.
6
概念：
在给定解释变量Xi条件下被解释变量Yi的 期望轨迹称为总体回归线（population regression line），或更一般地称为总体回归曲 线（population regression curve）。
相应的函数：
E(Y|Xi)f(Xi)
称为（双变量）总体回归函数（population regression function, PRF）。
.
8
注意：线性回归的含义 指的是对参数是线性的
E (cons|inc)01 inc
诸如此类，都是线性回归的范畴。 除此之外，很多模型不能塑造成线性回归模型，就 需要走入非线性回归模型的领域

实验3计量经济学实验一元线性回归模型

实验3计量经济学实验一元线性回归模型
ˆ0~N(0,,n(2Xi XX i2 )2)
ˆ1 ~N(1,,
2
) (Xi X)2
三、知识点回顾
n 4、最小二乘估计量的性质及分布
随机干扰项 i 的方差 2 的估计 ˆ 0 和 ˆ 1 的方差表达式中都包含随机干扰项 i 的方差 2
，由于随机干扰项 i 实际上是无法观察测量的，因此其
量 Y 的平均值。
三、知识点回顾
1、四种重要的关系式
（2）总体回归函数（方程）： E(YXi)01Xi
其中总体回归参数真值 0 , 1 是未知的；总体回归方程也是 未知的。
（3）样本回归函数（方程）： Yˆi ˆ0 ˆ1Xi
在实际应用中，从总体中抽取一个样本，进行参数估计，从 而获得估计的回归方程，系数 ˆ 0 , ˆ1 为估计的回归系数；用 这个估计的回归方程近似替代总体回归方程，其中估计的回 归系数 ˆ 0 , ˆ1 是总体参数真值 0 , 1 的估计值；基于估计方程 计算的 Y ˆ i 就为 E (Y X i ) 的估计值； 由于我们从来就无法知道真实的回归方程，因此计量经济学 分析注重的是这个估计的回归方程和估计的回归系数；
据；普通最小二乘法给出的判断拟合程度的标准是：残差平
方和最小，即：m in Q ne i2n(Y i Y ˆi)2n Y i (ˆ0ˆ1 X i) 2
i 1
i 1
i 1
最小二乘法就是：在使上述残差平方和Q 达到最小时，确定
模型中的参数 ˆ 0 和 ˆ 1 的值，或者说在给定观测值之下，选
择出 ˆ 0 , ˆ1 的值，使残差平方和Q 达到最小。
接近，这也说明OLS估计值是非常有价值的。
三、知识点回顾
n 4、最小二乘估计量的性质及分布

计量经济学重点内容

计量经济学重点内容

计量经济学第一章use 打开数据 describe 查看数据集情况 summary 描述统计tabstat +[stats] 计算描述性统计量（指定） table+[contents] 类别变量+连续变量列联表 table/ tabulate 类别变量频次表 histogram 直方图第二章 一元回归线性模型：基本思想第三章 第四章 一元、多元线性回归模型：假设检验随机扰动项、参数的方差、标准误计算统计检验1模型的拟合优度检验：R2判定系数（可决系数）调整的可决系数：范围在0和1之间，越接近1，说明模型具有较高的拟合优度2方程的显着性检验：F 统计量，prob （F ）F >F(k-1,n-k)，拒绝原假设H0，即显着。

F<F(k-1,n-k)，则暂时不拒绝，不显着。

显着性概率为0，小于给定显着性水平（0.05），表明模型对总体拟合显着 3变量的显着性检验：T 统计量 (服从n-2，n-k )，p 值Β2一般为0，T>2.306为显着，T<2.306为不显着（5％水平） 线性回归模型的基本假设：假设1：模型具有线性性（针对模型）。

Y 是参数βi 的线性组合，不一定要求是变量X 的线性组合。

假设2 ：解释变量X 与u 不相关（针对扰动项）。

数学表达：cov(Xi,ui)=0通常说法：X 具有外生性假设3：给定X ，扰动项的期望或均值为零（针对扰动项）。

数学表达：E(?i |Xi)=0，i=1,2, …,n 假设4：同方差假定（针对扰动项）。

数学表达：Var (ui) = ??2 = Var (Yi) i=1,2, …,n. 假设5：无自相关（针对扰动项）。

数学表达：Cov(?i, ?j ) = 0= Cov(Y i, Y j ) i≠j 假设6：回归模型设定是正确的（表面是针对模型，实质上是针对扰动项）sort 排序 order 排序 drop 去除记录 keep 保留记录 generate 生产新变量 replace 给变量赋新值 rename 给变量重命名2R假设7：扰动项符合正态分布（针对扰动项）数学表达：?i~N(0, ??2 ) Y i~N(β0+β1X, ??2 )第五章线性回归模型拓展（函数形式，变量测度单位）第六章虚拟变量回归有截距，m个类别（取值），仅引入m-1个虚拟变量，无截距可以m个第七章模型设定误差1包含无关变量：后果（F，T检验）参数估计是无偏且一致的估计，但不是有效的估计，检验仍然有效，但方差增大，接收错误假设的概率较高。

计量经济学课件一元线性回归

计量经济学课件一元线性回归

二、参数的普通最小二乘估计（OLS）
给定一组样本观测值（Xi, Yi）（i=1,2,…n）要 求样本回归函数尽可能好地拟合这组值. 普通最小二乘法（Ordinary least squares, OLS） 给出的判断标准是：二者之差的平方和
ˆ ˆ X )) 2 ˆ ) (Y ( Q (Yi Y i i 0 1 i
640000 352836 1210000 407044 1960000 1258884 2890000 1334025 4000000 1982464 5290000 2544025 6760000 3876961 8410000 4318084 10240000 6682225 12250000 6400900 53650000 29157448
ˆ Y 顺便指出 ，记 y ˆi Y i
则有
ˆ ˆ X ) ( ˆ ˆ X e) ˆi ( y 0 1 i 0 1 ˆ (X X ) 1 e 1 i n i
可得
ˆx ˆi y 1 i
（**）
（**）式也称为样本回归函数的离差形式。
注意：
在计量经济学中，往往以小写字母表示对均值 的离差。
易知 故
x k x
i
i
2 i
0
k X
i
i
1
ˆ k i i 1 1
ˆ ) E ( k ) k E ( ) E( i i 1 i i 1 1 1
同样地，容易得出
ˆ ) E ( w ) E( ) w E ( ) E( i i i i 0 0 0 0
1 (2 ) n
n 2

1 2

经济学一元线性回归模型计量经济学PPT课件

经济学一元线性回归模型计量经济学PPT课件

n
n
2021/5/22
10
第10页/共39页
某地区居民家庭可支配收入xt与家庭消 费支出yt的资料如右表所示（单位百 元）。
要求：建立居民家庭消费支出yt对家庭 可支配收入xt的回归直线方程；指出居 民可支配收入每增加200元时，家庭消 费支出增加多少。
2021/5/22
11
第11页/共39页
可决系数（决定系数） R2
R2 ESS 1 RSS TSS TSS
0 R2 1
2021/5/22
16
第16页/共39页
相关系数R
R
yˆi yi
y 2 y 2
1
yi yi
yˆi y
2 2
R xi x yi y cov(x, y) xi x 2 • yi y 2 var(x)var( y)
2021/5/22
12
第12页/共39页
第三节 一元线性回归方程的检验与预测
回归直线是否有意义，可否能用于预测或控制？需要 通过显著性检验 相关系数检验法 F检验法 T检验法
2021/5/22
13
第13页/共39页
一、离差平方和的分解和可决系数 离差平方和的分解
Lxy yi y 2
2021/5/22
36
第36页/共39页
2021/5/22
37
第37页/共39页
例4：给出我国1989-2008年农业总产量y（万吨）、有效灌 溉面积x1（千公顷）、化肥施肥量x2（万吨）及农机总动力 x3（万千瓦）。根据数据回答下列问题：
试估计下面三个一元线性回归模型，并进行结构分析和统计检 查
2021/5/22
22
第22页/共39页

计量经济学讲义（厦门大学）Chap3

计量经济学讲义（厦门大学）Chap3

Chapter 3 一元线性回归模型第一节回归分析与回归方程回归分析:1.根据经济理论或考察样本数据去设定回归方程Y: dependent variable ; :independent:random error or disturbance termε(,,)Y f X Z ε=+ ,X ZA special and simple case (univariate linear regression model) :这是本章研究的重点。

2. 参数估计(Estimation of parameter)3. Testing4. Predicting设有样本为，则01Y b b X ε=++{,}i i Y X 01(1,,)i i iY b bX i n ε=++=模型的假设：1.2. (同方差) 3.4. 满足这四条件的LRM 称为经典线性回归模型(CLRM)。

()0i E ε=()0i jE i j εε=≠2var()i εσ=()0i i E X ε=由假设得Population regression equation (function)The pity is the parameters are unknown.我们要利用样本来估计参数. 如得参数估计值, 则称为sample regression equation (function).How to estimate them?The OLS method.01()E Y b b X=+01ˆˆb b 和01ˆˆˆY b b X =+Where are the residuals.Example3.1(P39)(how to use Eviews)(i i e Y =-01ˆˆ()i i i e Y b b X =-+Forecasting(预测) 1. Point forecasting Since we knowand the sample regression equationthen given , what about and ? As(an unbiased estimator for )01Y b b X ε=++01ˆˆˆY b b X=+1n X +1n Y +1()n EY +101110111ˆˆˆ()()()n n n n n EY E b bX b bX EY ε+++++=++=+=1()n EY +and (误差均匀) Naturally, we use as a point predictor for both and .2. Interval forecasting(1) Forecast interval for Forecast error:1n Y +11ˆ()0n n E Y Y ++-=1ˆn Y +1()n E Y +1n Y +111ˆn n n e Y Y +++=-2σ。

(NEW)李子奈《计量经济学》(第3版)课后习题详解

(NEW)李子奈《计量经济学》(第3版)课后习题详解

目　录第1章　绪　论第2章　经典单方程计量经济学模型：一元线性回归模型第3章　经典单方程计量经济学模型：多元线性回归模型第4章　经典单方程计量经济学模型：放宽基本假定的模型第5章　经典单方程计量经济学模型：专门问题第6章　联立方程计量经济学模型：理论与方法第7章　扩展的单方程计量经济学模型第8章　时间序列计量经济学模型第9章　计量经济学应用模型第1章　绪　论1什么是计量经济学？计量经济学方法与一般经济数学方法有什么区别？答：（1）计量经济学是经济学的一个分支学科，以揭示经济活动中客观存在的数量关系为主要内容，是由经济理论、统计学和数学三者结合而成的交叉学科。

（2）计量经济学方法通过建立随机的数学方程来描述经济活动，并通过对模型中参数的估计来揭示经济活动中各个因素之间的定量关系，是对经济理论赋予经验内容；而一般经济数学方法是以确定性的数学方程来描述经济活动，揭示的是经济活动中各个因素之间的理论关系。

2计量经济学的研究对象和内容是什么？计量经济学模型研究的经济关系有哪两个基本特征？答：（1）计量经济学的研究对象是经济现象，主要研究的是经济现象中的具体数量规律，即是利用数学方法，依据统计方法所收集和整理到的经济数据，对反映经济现象本质的经济数量关系进行研究。

（2）计量经济学的内容大致包括两个方面：一是方法论，即计量经济学方法或理论计量经济学；二是应用计量经济学。

任何一项计量经济学研究和任何一个计量经济学模型赖以成功的三要素是理论、方法和数据。

（3）计量经济学模型研究的经济关系的两个基本特征是随机关系和因果关系。

3为什么说计量经济学在当代经济学科中占据重要地位？当代计量经济学发展的基本特征与动向是什么？答：（1）计量经济学自20世纪20年代末30年代初形成以来，无论在技术方法还是在应用方面发展都十分迅速，尤其是经过20世纪50年代的发展阶段和60年代的扩张阶段，使其在经济学科占据重要的地位，主要表现在：①在西方大多数大学和学院中，计量经济学的讲授已成为经济学课程表中最具有权威的一部分；②从1969～2003年诺贝尔经济学奖的53位获奖者中有10位是与研究和应用计量经济学有关；③计量经济学方法与其他经济数学方法结合应用得到了长足的发展。

计量经济学3.1 矩阵基础及多元线性回归模

计量经济学3.1 矩阵基础及多元线性回归模
29
总体回归模型的n个随机方程（ 总体回归模型的 个随机方程（1） 个随机方程
若有n组观测值，则可得n个联立方程：
Y1 = β 0 + β1 X 11 + β 2 X 21 + β1 X k1 + u1
Y2 = β 0 + β1 X 12 + β 2 X 22 + β 1 X k 2 + u 2
20
正定和半正定矩阵
令A为n×n对称矩阵。 (1) 如果对除x=0外的所有n×1向量x，都有x’Ax>0，则称A为正 正 定的。 (2)如果对除x=0外的所有n×1向量x，都有x’Ax≥0，则称A为半 半 正定的。 正定 正定和半正定矩阵的性质： 正定和半正定矩阵的性质： (1) 正定矩阵的主对角元素都严格为正，半正定矩阵的主对 角元素都非负； (2) A是正定的，则A-1存在并正定； (3) 如果X是一个n×k矩阵，则X’X和XX’都是半正定的； (4) 如果X是满秩矩阵，则X’X是正定矩阵（因此也是满秩） 的；
α和β是实数，矩阵A、B、C具有运算所需的维数
7
矩阵的转置、 矩阵的转置、对称矩阵
矩阵A的行与列互换 行与列互换称为A的转置矩阵 转置矩阵，用A’表示 行与列互换 转置矩阵 转置矩阵的性质：
x是n×1维向量
一个方阵A是对称矩阵 对称矩阵的充要条件A=A’ 对称矩阵
8
迹
对任意一个n×n的矩阵 ，A的迹 对任意一个 的矩阵A， 的迹tr(A)定义为 定义为 的矩阵 的迹 其主对角线元素之和。 其主对角线元素之和。 迹的性质： 迹的性质：
余子式： 将n×n的方阵 的第i行和第 列去掉，所剩下 余子式： × 的方阵A的第 行和第j列去掉， 的方阵 的第 行和第 列去掉 的子矩阵的行列式叫做元素a 的余子式，记为|M 的子矩阵的行列式叫做元素 ij的余子式，记为 ij| 例如： 例如：

计量经济学-第3章(一元线性回归模型)-文档资料

计量经济学-第3章(一元线性回归模型)-文档资料



即：
Yi E (Yi X i ) u i
Yi的变化可以分为两部分，一部分是可以由Xi的变化解释 的，另一部分来自随机扰动。Yi向Xi所解释的“平均水平”回 归，这就是“回归”的含义。而斜率系数β 1是指，Xi每变化一 个单位，Yi平均变化β 1个单位。β 0是样本回归直线的截距。
《计量经济学》，王少平、杨继生、欧阳志刚主编
假定2：解释变量是外生变量。 即
Cov(ui , u j ) 0
i j , i, j 1, 2,
,N
《计量经济学》，王少平、杨继生、欧阳志刚主编 （3.1.5）
二、普通最小二乘法（OLS）
基于假定3，我们对模型（3.1.1）取条件期望，则有： E (Yi X i ) 0 1 X i 3.1.6） （
5
第一步 构造含有待估计系数的残差平方和 并对其求最小
N Q ˆ ˆ X )0 2 ( Y i 0 1 i ˆ N N 0 i 1 2 ˆ ˆ X )u ˆ ˆi min Q u ( Y i i 0 1 i ˆ ˆ N , 1 i 1 Q i2 ˆ ˆ X )X 0 (Y i 3.1.70 i （ ） 1 i ˆ i 1 1


N 就是说，如果我们能得到不同于最小 由于最小二乘估计量拥有一个“好” 即样本容量趋于无穷大时，估计量依 二乘估计量的其他线性无偏估计量， 渐近有效性 的估计量所应具备的有限样本性质， 概率收剑于总体的真实值，即： 其方差大于或者等于最小二乘估计量 ˆ) P lim( 它也拥有大样本特性，即渐近无偏性、 i i 的方差。 一致性、渐近有效性。 即样本容量趋于无穷大时，估计量 其中：符号“ Plim”表示概率极限，因
  1. 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
  2. 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
  3. 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。

4 最小二乘原理计量经济学最关心的理论模型是类似于y x αβ=+ 表示变量之间的关系。

1. 散点图为了弄清楚变量之间的关系，我们从画出他们的散点图开始比较好。

从画的图中我们可以大体上判断以下变量之间是呈直线关系，还是二次曲线关系。

这对准确建立模型很有帮助。

模型y x αβ=+代表只要我们知道x ，我们就可以完全知道y 。

但是现实中不是这样。

这时除了系统因素x 之外，还有其他别的因素影响y 。

此时我们用确率模型 ,1,2,,t t t Y X u t n αβ=++=来表示。

其中，y 是被说明变量，或从属变量；x 是说明变量，或独立变量；u 是误差项，也可以叫做搅乱项。

2. 函数的设定与参数的意义不同的模型定义，它所定义的参数的意义不同。

为简单起见，在本节中，我们先省去误差项。

我们讨论一下参数的意义。

在y x αβ=+中，dy dxβ=，β意味着x 发生一单位的变化时，y 相应地变化几个单位，也就是我们所熟悉的限界消费性向。

但是对于y x βα=来说，我们先两边取自然对数，log log log y x αβ=+，这时，log log d y d xβ=，其中，log ,log dy dx d y d x yx==，结果log log d y x dy d xy dxβ==。

β代表x 变化1%时，y 变化β%单位。

也就是弹力性。

3. 最小二乘法3-1． 基本符号样本平均 1111,nnt tt t X X Y Ynn====∑∑偏离样本平均的平方和 ()22222111nnnxttt t t t S xXXX nX=====-=-∑∑∑；()22222111nnnytttt t t S y YYYnY =====-=-∑∑∑()()111nnnxy tt ttt t t t t S xy XXYYX Y nX Y =====--=-∑∑∑其中，,t t t t x X X y Y Y =-=-，小写代表偏离样本平均的程度，即偏差。

偏差有以下重要性质：()110nnttt t xXX===-=∑∑； ()110nnt tt t y YY===-=∑∑证明：()121nt n t X X X X X X X X =-=-+-++-∑1nt t X nX ==-∑111nnt t t t X n X n==⎛⎫=-⎪⎝⎭∑∑=0 我们可以同样证明10nt t y ==∑。

下面我们再看看()222211nnxtt t t S XXX nX ===-=-∑∑。

()()2222112nnxttt t t S XXXX X X===-=-+∑∑22112nntt t t XXX nX ===-+∑∑()2212ntt XX nX nX==-+∑221nt t X nX ==-∑我们用同样的方法可以求出2,y xy S S 。

3-2． 最小二乘原理我们定义Y X αβ=+的推定线为ˆˆˆYX αβ=+，其中ˆY 和ˆˆ,αβ分别代表Y 和,αβ的推定值，∧读为ha.to 。

当t X X =时，ˆˆˆt t Y X αβ=+。

观察值t Y 与推定值ˆt Y 之间的差，我们称之为残差(residual)。

在图中，用垂直于横轴的线段t e 来表示。

即，ˆˆˆt t t t t e Y Y Y X αβ=-=--，te 代表观察时点t 时，观察值与推定值的不一致的程度。

为了评价所有的观察时点1,2,,t n = ，的不一致程度，我们用()2211ˆˆnntttt t e YX αβ===--∑∑作为衡量的尺度。

()2211ˆˆnntt tt t e Y X αβ===--∑∑我们把21nt t e =∑称为残差平方和(residual sum ofsquares,RSS)。

但是我们不能用1n t t e =∑，31ntt e =∑和51nt t e =∑作为衡量不一致程度的工具。

因为与观察值无关，只要给出足够大的ˆˆ,αβ，1nt t e =∑，31nt t e =∑和51ntt e =∑可以任意地变小。

也就是说它们没有最小值。

但是，21ntt e =∑ 确不一样。

21ntt e =∑的值与ˆˆ,αβ有关。

所以我们只要找到使得21nt t e =∑最小的ˆˆ,αβ最为,αβ的推定值。

这就是最小二乘法。

3-3． 最小二乘推定量的导出对于模型,1,2,,t t t Y X u t n αβ=++= 来说，,αβ的最小二乘推定量为ˆˆ,αβ，它们是使得残差平方和()2211ˆˆnnt ttt t e YX αβ===--∑∑最小的,αβ的推定值。

()()垐 垐t t t t Y X Y Y X X Y X αββαβ--=---+--()垐ˆtt yx Y X βαβ=-+-- 两边平方 2ˆˆ()t tY X αβ-- ()()()2222垐垐垐垐 222tt t t t t y x Y Xx y y Y x Y X βαββαββαβ=++---+----- ()21ˆˆnttt YX αβ=--∑()()()222211111垐垐垐垐 222nnnnntt t tt tt t t t t y x n Y Xx y Y y Y X xβαββαββαβ======++---+-----∑∑∑∑∑前面我们曾经提到10nt t e ==∑，进一步我们可以得到110,0nnt t t t x y ====∑∑，()21ˆˆnt tt Y X αβ=--∑()2222111垐 ˆ2nnntt t t t t t y x n Y X x y βαββ====++---∑∑∑我们用偏差平方和的写法把上面的残差平方和再重新改写一下，()21ˆˆnt tt Y X αβ=--∑()2222垐 ˆ2yx xyS S n Y X S βαββ=++--- ()2222垐 ˆ2y x xyS S n Y X S βαββ=++--- ()22222垐ˆxy xy x yx x S S n Y X S S S S αββ⎛⎫⎛⎫=--+-+- ⎪ ⎪ ⎪⎝⎭⎝⎭上式的右侧第三项中不含有ˆˆ,αβ，所以第三项不会随着ˆˆ,αβ的变化而变化。

第一项和第二项由都是平方的形式，因此只要第一项和第二项同时为0的是时候，残差平方和就为最小，也就是残差平方和为0。

()2ˆˆ0Y X αβ--= 2ˆ0xy x x S S S β⎛⎫-= ⎪⎝⎭这种求最小二乘推定量方法的优点是，不需要使用偏微分方法，也不需要讨论为使残差平方和最小而必须满足的二次条件。

4. 最小二乘回归线我们把ˆˆˆt tY X αβ=+称为最小二乘回归线或样本回归线。

我们把ˆˆY X αβ=-代入样本回归线中，我们发现 ()垐 ˆt t tY Y X X Y X X βββ=-+=+-，由此我们可以判断样本回归线经过样本平均点(),X Y 。

5. 练习题1). 使用下面的数据，用最小二乘法估计模型Y X u αβ=++。

X 6 11 17 8 13 Y13524。

第一种方法： x 6 11 17 8 13 55 sum(x) y1 352415 sum(y)xy 633 85 16 52 192 sum(xy)xx 36 121 289 64 169 679 sum(xx) ()2251925515135ˆ0.36556795555370n XY X Yn XX β-⨯-⨯====⨯-⨯-∑∑∑∑∑;ˆˆY Xnβα-=∑∑=-1.01另外一种求法：先求出均值,X Y ；求出small x,y;再求出2,,,x y x y x ∑∑∑∑；2垐ˆ;xy YX xβαβ==-∑∑；。