复旦大学 经济学院 谢识予 计量经济学 第三章 两变量线性回归

消费性支出 CC
585 576 615 726 992 1170 1282 1648 1812 1936 2167
年份
1992 1993 1994 1995 1996 1997 1998 1999 2000 2001 2002
可支配收入 Y
3009 4277 5868 7172 8159 8439 8773 10932 11718 12883 13250
a = Y − bX
20
若两变量线性回归模型无常数项，即模 型为 Y = β X + ε ，这时只有一个需要估 计的参数，上述最小二乘估计的方法仍 然是一致的。 (Yi − bX i )2 最小二乘估计的残差平方和为 ∑ i 令该残差平方和对b的偏导数等于0，不 难求得： ∑Yi X i i b= X2
18
核心：残差平方和
ei 2最小。 ∑
i
V = ∑ ei = ∑ [Yi − (a + bX i ) ]
2 i i
2
∂V =0 ∂a ∂V =0 ∂b
19
参数估计值
∑ (Y − Y )( X − X ) ∑ X Y − nXY b= = ∑(X − X ) ∑ X − nX
i i i i 2 i i 2 2 i i i i
25
第三节 最小二乘估计量的性质
一、最小二乘估计的线性性 二、最小二乘估计的均值和无偏性 三、最小二乘估计的方差和最小方差性 四、最小二乘估计的一致性
26
一、最小二乘估计的线性性：
参数估计量可以表示为被解释变量观 测值的线性组合。 b的线性性
∑ (Y − Y )( X − X ) b= ∑(X − X )
24
例3-3 上海经济的消费规律研究
Dependent Variable: Y Method: Least Squares Date: 10/04/04 Time: 20:14 Sample: 1981 2002 Included observations: 18 ------------------------------------------------------------------------------------------------Variable Coefficient Std. Error t-Statistic Prob. C 237.5 35.50781 4.074556 0.0009 X 0.75 0.008022 98.45858 0.0000 ------------------------------------------------------------------------------------------------R-squared 0.998352 Mean dependent var 2807.444 Adjusted R-squared 0.998249 S.D. dependent var 2333.000 S.E. of regression 97.61747 Akaike info criterion 12.10443 Sum squared resid 152466.7 Schwarz criterion 12.20336 Log likelihood -106.9399 F-statistic 9694.092 Durbin-Watson stat1.082919 Prob(F-statistic) 0.000000
第二节
参数估计
一、最小二乘估计 二、消费函数参数估计
14
一、最小二乘估计
建立两变量线性回归模型后，根据样本 数据估计模型的参数，是线性回归分析 的核心步骤。 对满足模型假设两变量线性回归模型的 参数，最有效的估计方法是最小二乘法。
15
最小二乘法是根据随机变量理论值和实 际值的拟合程度估计参数的。 线性回归模型的理论值可以用样本回归 直线上点的坐标表示，实际值就是样本 观测数据， 因此线性回归模型理论值与实际值的拟 合，就是样本回归直线对观测数据的拟 合。
1 1 = a +b Y X
Y = ae bX
7
2、例子：
（1）上海经济消费函数研究 P66；
（2）科布—道格拉斯生产函数 P68；
8
例3-1 上海经济的消费规律研究
年份
1981 1982 1983 1984 1985 1986 1987 1988 1989 1990 1991
可支配收入 Y
637 659 686 834 1075 1293 1437 1723 1976 2182 2485
11
二、模型的假设
1、特定的方法适用的模型是有条件的，因此必 须对模型先作设定。 2、六条假设 （1）变量间存在随机函数关系Y=α +β X +ε ； （2）误差项均值为0； （3）误差序列同方差； （4）误差序列不相关； （5）X是确定性的，非随机变量； （6）误差项服从正态分布。
12
对假设的进一步分析
i
X2 1 a的方差： [a] = σ 2 [ + Var ] 2 n ∑(Xi − X )
i
33
在所有可能的线性无偏估计中，最小二 乘估计a和b的方差最小。 这个性质称为最小方差性，也称为有效 性。 最小二乘估计是参数真实值的最小方差 线性无偏估计，也称为最优线性无偏估 计或BLUE估计。
34
四、最小二乘估计的一致性
1、前五条假设是古典线性回归模型的基本假定； 2、假设（2）是反映线性回归模型本质的基本假 设； 3、假设（3）的意义是对应不同观测数据组误差项 3 3 分布的发散趋势相同，或有相同形状的概率密度 函数； 4、假设（4）的意义是对应不同观测值的误差项之 间没有相关性； 5、假设（5）和（6）都是为了回归分析和统计推 断的方便而要求的，人为性较大的假设 。 13
16
Y 若两变量线性回归模型为： = α + β X + ε
参数估计的思路就是找到能很好拟合样 本数据的样本回归直线，近似模型总体 回归直线E(Y ) =α+β X，从而得到α和β 的估计a和b。
17
判断拟合程度最基本的标准是样本点与 回归直线的偏差 ei = Yi − (a + bX i ) ，称为 “回归残差”或“残差” 。 ei 越小回归直线离样本点越近，如果所 有样本点的回归残差都较小，回归直线 对样本趋势的拟合当然最好。 2 [Yi − (a + bX i )]2 一般采用残差平方和 ∑ ei = ∑ i i 作为判断回归直线对样本数据拟合程度 的标准，残差平方和越小就认为拟合程 度越好。
消费性支 出C
2509 3530 4669 5868 6763 6820 6866 8248 8868 9336 10464
9
例3-1 上海经济的消费规律研究
10
变量关系的随机性
1、在经济问题中精确的因果关系实际上不存在。
人类经济行为本身的随机性；两变量线性关系 通常只是抓了主要矛盾，而忽略的其他众多因素 的影响。 2、正确的计量经济模型应该是随机模型： Y=α+βX+ε； ε为随机扰动项。
2 i
Xi − X
i
i
a 的线性性：
1 a = Y − bX = ∑ Yi − X n i
1 ∑ ωi Yi ＝ ∑ ( n − Xωi )Yi i i
28
令 V i ，得a = ∑Vi Yi i 这表明a同样是随机变量Y i 的线性组合。 线性性对于确定最小二乘估计量服从什 么分布非常重要。由于解释变量X是确定 性的示为被 解释变量观测值Y的线性组合，就与Y有 相同类型的概率分布。
消费性支出 年份 CC
585 576 615 726 992 1170 1282 1648 1812 1936 2167 1992 1993 1994 1995 1996 1997 1998 1999 2000 2001 2002
可支配收入 Y
3009 4277 5868 7172 8159 8439 8773 10932 11718 12883 13250
定义：参数估计量的概率极限等于参数真实值。 意义：属于大样本性质。保证增加样本容量可 以逼近参数真实值。 最小二乘估计在模型假设下是一致估计。
35
第四节 回归拟合度评价和决定系数
一、拟合度评价的意义 二、离差分解和决定系数
36
一、拟合度评价的意义
评价回归分析、参数估计优劣的根本标 准，是回归直线对样本数据的吻合程度， 也称为“拟合度”或“回归拟合度”。 回归拟合度是判断和检验参数估计方法 的方法之一。 回归拟合度也是检验模型变量关系真实 性，判断模型假设是否成立的重要方法。
第三章 两变量线性回归
1
本章主要内容 第一节 第二节 第三节 第四节 第五节 第六节 两变量线性回归模型 参数估计 最小二乘估计量的性质 回归拟合度评价和决定系数 统计推断 预测
2
引言
本章介绍两变量线性回归分析。两变量 线性回归分析的对象是两变量单向因果 关系，模型的核心是两变量线性函数， 分析方法是回归分析。两变量线性回归 分析是经典计量经济分析的基础，掌握 两变量线性回归分析的原理和技术，对 进一步学习多元回归和其他计量经济分 析方法都有帮助。
E[a ] = α
E[b] = β
b的无偏性的证明
E (b) = E ∑ ω i (α + β X i + ε i ) i = E (∑ ωiα ) + E (∑ ωi β X i ) + E (∑ ωiε i )
i i i
= α ∑ ωi +β ∑ ωi X i + E (ε i )
i i i 2 i i
∑Y ( X − X ) = ∑(X − X )
i i i 2 i i