第七章 带有线性约束的多元线性回归模型及其假设检验
在本章中，继续讨论第五章的模型，但新的模型中，参数β满足J 个线性约束集，R β=q ，矩阵R 有和β相一致的K 列和总共J 个约束的J 行，且R 是行满秩的，我们考虑不是过度约束的情况，因此，J ＜K 。
带有线性约束的参数的假设检验，我们可以用两种方法来处理。第一个方法，我们按照无约束条件求出一组参数估计后，然后我们对求出的这组参数是否满足假设所暗示的约束，进行检验，我们在本章的第一节中讨论。
第二个方法是我们把参数所满足的线性约束和模型一起考虑，求出参数的最小二乘解，尔后再作检验，后者就是参数带有约束的最小二乘估计方法，我们在本章的第二节中讨论。
第一节 线性约束的检验 从线性回归模型开始，
εβ+=X y （1）
我们考虑具有如下形式的一组线性约束，
J
K JK J J K K K K q r r r q r r r q r r r =+++=+++=+++βββββββββ
22112
22221211
1212111
这些可以用矩阵改写成一个方程
q R =β （2）
作为我们的假设条件0H 。
R 中每一行都是一个约束中的系数。矩阵R 有和β相一致的K 列和总共J 个约束的J 行，且R 是行满秩的。因此，J 一定要小于或等于K 。R 的各行必须是线性无关的，虽然J =K 的情况并不违反条件，但其唯一决定了β，这样的约束没有意义，我们不考虑这种情况。
给定最小二乘估计量b ，我们的兴趣集中于“差异”向量d=Rb －q 。d 精确等于0是不可能的事件（因为其概率是0），统计问题是d 对0的离差是否可归因于抽样误差或它是否是显著的。
由于b 是多元正态分布的，且d 是b 的一个线性函数，所以d 也是多元正态分布的，若原假设为真，d 的均值为0，方差为
R X X R R b Var R q Rb Var d Var ''='=-=-12)(])[(][][σ （3）
对H 0的检验我们可以将其基于沃尔德（Wald ）准则：
d d Var d J W 12])[()(-'==χ
=)(])([)(1
1
2
q Rb R X X R q Rb -'''---σ （4）
在假设正确时将服从自由度为J 的2χ分布(为什么?)。
直觉上，d 越大，即最小二乘满足约束的错误越大，则2
χ统计量越大，所以，一个大的2
χ值将加重对假设的怀疑。
⎪⎭
⎫
⎝⎛'
⎪⎭⎫ ⎝⎛='=
-σεσεσσM e
e s K n 2
2
2
)( （5） 由于σ未知，（4）中的统计量是不可用的，用s 2替代σ2，我们可以导出一个F[J ，（n －K ）]样本统计量，令
)
/(]/)[(/)(])([)(2
2112K n s K n J
q Rb R X X R q Rb F ---'''-=--σσ （6） 分子是（1/J ）乘（4）中的W ，分母是1/（n －K ）乘（5）中的幂等二次型。所以，F 是两个除以其自由度的卡方变量的比率。如果它们是独立的，则F 的分布是F[J ，（n －K ）]，我们前边发现b 是独立于s 2分布的，所以条件是满足的。
我们也可以直接推导。利用（5）及M 是幂等的这一事实，我们可以把F 写为
)
/()]/([])/([/}/)({])([}/)({11K n M M J
b R R X X R b R F -'-'''-=--σεσεσβσβ （7）
由于
⎪⎭
⎫
⎝⎛=⎪⎭⎫ ⎝⎛''=--σεσεσ
βT X X X R b R 1)()
(
F 统计量是)/(σε的两个二次型的比率，由于M )/(σε和T )/(σε都服从正态分布且它们的协方差TM 为0，所以二次型的向量都是独立的。F 的分子和分母都是独立随机向量
的函数，因而它们也是独立的。这就完成了证明。
消掉（6）中的两个σ2，剩下的是检验一个线性假设的F 统计量，
)
/(/)(])([)(11K n e e J
q Rb R X X R q Rb F -'-'''-=
-- J
q Rb R X X R s q Rb )(])([)(112-'''-=-- （8）
我们将检验统计量
J
q Rb R X X s R q Rb K n J F )
(}])([{)(],[112-'''-=---
和F 分布表中的临界值相比较，一个大的F 值是反对假设的证据。
注意：将wald 统计量中的2
σ用2
s 去替代，相应的就将J 维的卡方分布转换为维度为（J,n-K ）的F 分布。
第二节 参数带有约束的最小二乘估计 一、带有约束的最小二乘函数
在许多问题中，要求其中的未知参数β满足某特定的线性约束条件：R β=q ，这里R 是
J ×K 矩阵（J ＜K ），并假定它的秩为J 维向量，常常希望求β的估计β
ˆ，使得 2
}
:{2
min ˆββ
ββX Y X Y q R -=-= （9）
满足条件（9）的称为β的具有线性约束R β=q 的最小二乘估计。
解β
ˆ的问题实际上是在约束条件 R β=q
下求 ∑∑==⎪⎪⎭⎫ ⎝⎛-=-=n
i m
j j ij i x Y X Y f 12
12
ββ 的限制极值点问题。
这个问题的一个拉格朗日解可写作
)(2)()(*q R X y X y S -'+-'-=βλββ
解b *和λ将满足必要条件
02)(2**
='+-'-=∂∂λβ
R Xb y X S 0)(2**
=-=∂∂q Rb S λ
展开可以得到分块矩阵方程
⎥⎦
⎤⎢⎣⎡'=⎥⎦⎤⎢⎣⎡⎥⎦⎤⎢⎣
⎡'
'q y X b R R X X λ*0 或
Wd *=v
假定括号中的分块矩阵是非奇异的，约束最小二乘估计量
d *=W -1v
⎥⎦
⎤⎢⎣⎡=λ*b
where
⎪⎪⎭
⎫
⎝
⎛--=--------------11111111111111
)')'(()'()')'(()')'((')'()'()')'((')'()'(R X X R X X R R X X R R X X R R X X X X R R X X R R X X X X W
的解。此外，若X ′X 是非奇异的，则用分块逆公式可以得到b *和λ的显示解
)
(])([)()')'((')'()')'((')'(')'()')'((')'()(')'()')'((')'(')'()')'((')'(')'()')'((')'(')'(11111111111111111111111111*q Rb R X X R R X X b q R X X R R X X Rb R X X R R X X y X X X q R X X R R X X e Xb X X X R R X X R R X X y X X X q R X X R R X X y X X X R R X X R R X X y X X X b -''''-=+-=++-=+-=--------------------------
和
)(])([11q Rb R X X R -''=--λ
格林和西克斯（1991）表明b *的协方差矩阵简单地就是2
σ乘以W -1的左上块，在X ′X 是非奇异的通常情况下，再一次可以得到一个显性公式
1111212*)(])([)()(][-----'''''-'=X X R R X X R R X X X X b Var σσ，
这样，
-=][][*b Var b Var （一个非负定矩阵），
Var[b *]的方差比Var[b]小的一个解释是约束条件提供了更多的信息价值。
二、对约束的检验的另一个方法
令**Xb y e -=，我们来计算新的离差平方和**
e e '。 )()(***b b X e b b X Xb y e --=---=
则新的离差平方和是
e e b b X X b b e e e e '≥-''-+'=')()(****
2
2
~'k n e
e -χσ
2
)(2
*
*~'J k n e e --χσ
因为新的模型中参数的个数为k-J 个，J 个榆树条件是原模型中的J 个参数可以被其他k-J 个表示。
（此表达式中的中间项含有X ′e ，它是0）。这说明我们可以将一个约束检验基于拟合的损失。这个损失是，
)(])([)(11**
q Rb R X X R q Rb e e e e -'''-='-'-- 这出现在前边推导的F 统计量的分子上，我们得到统计量的另一个可选形式。 可选形式是
)
/(/)(],[**
K n e e J e e e e K n J F -''-'=
-
最后，以SST=2
)(y y -∑除F 的分子和分母，我们得到第三种形式，
)
/()1(/)(],[22*2K n R J
R R K n J F ---=
- 由于两个模型的拟合之差直接体现在检验统计量中，这个形式具有一些直观吸引力。
[实例]对数变换生产函数
所有科布—道格拉斯模型的一般化是如下的对数变换模型，
εββββββ++++++=2
ln ln 2ln 2ln ln ln ln 62524321K
L K L K L Y （10）
无约束回归的结果在表1中给出。
表1 无约束回归的结果
回归标准误差 0.17994 残差平方和 0.67993 R 平方 0.95486 调整R 平方
0.94411
变量 系数 标准误差 t 值 常数项 0. 2.911 0.324 LnL 3.61363 1.548 2.334 LnK
－1.89311 1.016 －1.863 L 2
ln 21 －0.96406 0.7074 －1.363 K 2
ln 2
1 0.08529 0.2926 0.291 lnL ×lnK 0.31239 0.4389 0.71 系数估计量的估计协方差矩阵
常数项 lnL lnK Ln2L/2 Ln2K/2
lnL ×lnK
常数项 8.472 LnL －2.388 2.397 LnK
－0.3313 －1.231 1.033 L 2
ln 21 －0.08760 －0.6658 0.5231 0.5004 K 2
ln 2
1 0.233
2 0.03477 0.02637 0.1467 0.08562 lnL ×lnK 0.3635
0.1831
－0.2255
－0.2880
－0.1160 0.1927
考虑了约束条件0654===βββ的模型就可以得到科布一道格拉斯模型：
εβββ+++=K L Y ln ln ln 321 （11）
这是一个条件约束下的无条件的多元线性回归模型。就可以用一般线性回归的方法求解模型。假如我们通过有约束条件下的无条件的多元线性回归模型得到：
85163.0**
='e e ，而且n －K=21，则科布—道格拉斯模型假设的F 统计量是 768.121
/67993.03
/)67993.085163.0(]21,3[=-=
F
查自F 分布表的5%临界值是3.07，所以我们不能拒绝科布—道格拉斯模型是适当的这一假设。
考虑了约束条件0654===βββ和条件132=+ββ的模型就是满足规模效应的科布—道格拉斯生产函数。这个模型可以推导如下：
ε
ββεβββεβββ+-+=-∴+-++=+++=）ln (ln ln ln ln )1(ln ln ln ln 21221321K L L Y K L K L Y （12）
假如我们通过有约束条件下的无条件的多元线性回归模型得到：
89172.0**
='e e ，而且n －K=21，则科布—道格拉斯模型假设的F 统计量是 635.121
/67993.04
/)67993.089172.0(]21,4[=-=
F
查自F 分布表的5%临界值是2.85，所以我们不能拒绝科布—道格拉斯模型是规模效应的生产函数的这一假设。
第三节 结构变化与邹至庄检验
(Structure Change and Chou-Test)
一、
问题提出
我们经常碰到这样的问题。某项政策的出台及实施，其效果如何？不同地区或不同时期内，我们分别可以得到这两个地区或时期的观测值，我们的问题是：这两个地区或时期的情况是否不同，经济结构有无差异。
这类问题，被华人经济学家邹至庄用构造的F 检验解决了（1960年）。这样的F 检验的统计量，就称为邹至庄检验（Chou-Test ）。
二、问题的模型表述
设1122( ),( )Z Y Z Y 分别表示这两个时期的观测值，允许两个时期中系数不同的无约束回归是1111
2222
Y Z Y Z βεβε=+⎧⎨
=+⎩，我们可以将其改写成一个回归方程
11
11222200
Y Z Y Z βεβε⎛⎫⎛⎫⎛⎫⎛⎫
=+ ⎪ ⎪⎪ ⎪⎝⎭⎝⎭⎝⎭⎝⎭……（1） 即Y Z βε=+模型，其中Y=12Y Y ⎛⎫ ⎪⎝⎭，Z=1
200
Z Z ⎛⎫ ⎪⎝⎭，β=12ββ⎛⎫ ⎪⎝⎭，ε=12εε⎛⎫
⎪⎝⎭
。 上述问题就转换成检验
012112
::H H ββββ=≠的问题。
我们可以用两种方式来处理问题
一）用约束条件12ββ=，来检验。12ββ=是更一般约束条件R β=q 的一个特殊形式，其中R=(I,-I) 和 q=0。这个直接可以从基于Wald 统计量的带约束条件的F 检验得到。（请自己推导）。
例题：用约束条件下，F 检验推导出邹至庄检验的表达式： 解：在约束条件R β=q 下，F 检验
211()[()]()
(,)Rb q S R Z Z R Rb q F J n k J
--'''---=
。 而邹至庄检验时约束条件R β=q 的一种特殊形式，即R=(I,-I)，而q=0，也即等同于条件12ββ=。（有2k 个参数，并且是有k 个约束）。故
()21112'12
1111212'1222'1'
111211221()[()]()
(,2)()0()[(,)]()0() ()[()()]( =
Rb q S R Z Z R Rb q F k n n k k
I Z Z b b S I I b b I Z Z k
b b S Z Z Z Z b b --------'''--+-=
⎛⎫⎛⎫'--- ⎪ ⎪-⎝⎭⎝⎭=
'-+-2)
k
服从F （12,2k n n k +-）的分布。
另外，在考虑了约束条件21ββ=后，我们可以将模型（1）改写成一个无约束的
新的回归方程
⎥⎦⎤⎢⎣⎡+⎥⎦⎤⎢⎣⎡⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎣⎡=⎥⎦⎤⎢⎣⎡21
11212100εεββZ Z Y Y ， 即
⎥⎦⎤⎢⎣⎡+⎥⎦
⎤⎢⎣⎡=⎥⎦⎤⎢⎣⎡2112
1
21εεβZ Z Y Y (2)
即无约束的线性模型Y Z βε=+模型，其中Y=12Y Y ⎛⎫ ⎪⎝⎭，Z=⎪⎪⎭
⎫ ⎝⎛21Z Z ，ββ=12ββ⎛⎫ ⎪⎝⎭，ε=12εε⎛⎫
⎪⎝⎭。 假如模型（2）的残差平方和是**
e e '，在假设条件12ββ=下， 我们可以得到F 统计量可更简单地表示为：
)
2/(/)(]2,[21**
21k n n e e k e e e e k n n k F -+''-'=-+。
二） 更直接、更容易的一个处理是将约束直接构造进模型中，若两个系数向量相同，则模型（1）就转换为：
111222Y Z Y Z εβε⎛⎫⎛⎫⎛⎫
=+ ⎪ ⎪ ⎪⎝⎭⎝⎭⎝⎭
……（2） 由此我们推导出可以检验的邹至庄统计量Chou-Test 。 从模型（1）中，我们可以得到无约束最小二乘估计量是
1
'''1
'11
11111111'
''
1'2222222220()0
()0
()b Z Z Z Y Z Z Z Y b Z Z Z Y b Z Z Z Y Z Z Z Y ----⎛⎫⎛⎫⎛⎫⎛⎫⎛⎫
''====
⎪ ⎪ ⎪⎪ ⎪⎝⎭⎝⎭⎝⎭⎝⎭⎝⎭ 故
'1'11
1111'1'
222222'1'11
1111'1'222222'1'
1111'1'22220()0()0()0
()()0
0()Y Z
Z Z Z Y e Y Zb Y Z Z Z Z Y Y Z
Y Z Z Z Y Z Y Z Z Z Z Z Z Z I Z Z Z Z ------⎛⎫
⎛⎫⎛⎫=-=- ⎪ ⎪ ⎪⎝⎭⎝⎭⎝⎭⎛⎫⎛⎫⎛⎫⎛⎫
=- ⎪ ⎪ ⎪ ⎪⎝⎭⎝⎭⎝⎭
⎝⎭⎛⎛⎫=-
⎪⎝⎭1122112 Y e Y e Y M Y ⎫⎛⎫⎛⎫= ⎪ ⎪ ⎪ ⎪⎝⎭⎝⎭
⎝⎭⎛⎫
⎪
⎝⎭
11'''''121112122()()Y Y e e Y Y M M Y Y M Y Y ⎛⎫⎛⎫
'== ⎪ ⎪⎝⎭⎝⎭
则
2122
~(2)e e
n n k χσ
'+- (3)
对于有约束条件12ββ=限制的模型（2）
()1
111*''''
1212222111''''
11221222122()() () Z Z Y e I Z Z Z Z Z Z Y Z Y I Z Z Z Z Z Z Z Y Y M Y --⎛⎫⎛⎫⎛⎫⎛⎫⎛⎫ ⎪=-⋅ ⎪ ⎪ ⎪ ⎪
⎪⎝⎭⎝⎭⎝⎭⎝⎭⎝⎭⎛⎫⎛⎫⎛⎫=-+ ⎪ ⎪ ⎪⎝⎭⎝⎭
⎝⎭⎛⎫
⎪
⎝⎭
11*'*'''
''122212222()()Y Y e e Y Y M M Y Y M Y Y ⎛⎫⎛⎫== ⎪ ⎪⎝⎭⎝⎭
则
*'*
2122
~()e e n n k χσ
+- (4)
11*'*''''122112322()()()Y Y e e e e Y Y M M Y Y M Y Y ⎛⎫
⎛⎫
'-=- ⎪
⎪⎝⎭
⎝⎭
问
*'*2
e e e e
σ'-服从何分布？
首先证明：310M M =
()()2211211211
11''''
11221211
2'1'11''''
1111112212'1'22222() =()()0
()0() M M M M M M M M M Z I Z Z Z Z Z Z M M Z Z Z Z Z Z Z Z Z Z Z Z I Z Z Z Z Z -----=-=-⎛⎫⎛⎫-+⋅- ⎪ ⎪⎝⎭⎝⎭⎛⎫
⎛⎫⎛⎫=-+- ⎪
⎪ ⎪ ⎪⎝⎭⎝
⎭⎝⎭
()()1111''''''''
11221211221222 =()()
Z Z Z Z Z Z Z Z Z Z Z Z Z Z Z Z --⎛⎫⎛⎫-++-+ ⎪ ⎪⎝⎭⎝⎭
= 故2112M M M M -+=而且211()0M M M -=
故21211212()()()(2)r M M r M r M n n k n n k k -=-=+--+-= 同样21()M M -是幂等矩阵 故*'*22
~()e e e e
k χσ
'-且与
2122
~(2)e e
n n k χσ
'+-
是独立的，所以
)
2/(/)(]2,[21**
21k n n e e k e e e e k n n k F -+''-'=
-+
这个就是邹至庄检验统计量（Chou-Test ）。
计量经济学第三章、经典单方程计量经济学模型：多元线性回归模型
第三章、经典单方程计量经济学模型：多元线性 回归模型 一、内容提要 本章将一元回归模型拓展到了多元回归模型，其基本的建模思想与建模方法与一元的情形相同。主要内容仍然包括模型的基本假定、模型的估计、模型的检验以及模型在预测方面的应用等方面。只不过为了多元建模的需要，在基本假设方面以及检验方面有所扩充。 本章仍重点介绍了多元线性回归模型的基本假设、估计方法以及检验程序。与一元回归分析相比，多元回归分析的基本假设中引入了多个解释变量间不存在（完全）多重共线性这一假设；在检验部分，一方面引入了修正的可决系数，另一方面引入了对多个解释变量是否对被解释变量有显著线性影响关系的联合性F检验，并讨论了F检验与拟合优度检验的内在联系。 本章的另一个重点是将线性回归模型拓展到非线性回归模型，主要学习非线性模型如何转化为线性回归模型的常见类型与方法。这里需要注
意各回归参数的具体经济含义。 本章第三个学习重点是关于模型的约束性检验问题，包括参数的线性约束与非线性约束检验。参数的线性约束检验包括对参数线性约束的检验、对模型增加或减少解释变量的检验以及参数的稳定性检验三方面的内容，其中参数稳定性检验又包括邹氏参数稳定性检验与邹氏预测检验两种类型的检验。检验都是以F检验为主要检验工具，以受约束模型与无约束模型是否有显著差异为检验基点。参数的非线性约束检验主要包括最大似然比检验、沃尔德检验与拉格朗日乘数检验。它们仍以估计无约束模型与受约束模型为基础，但以最大似然原理进行估计，且都适用于大样本情形，都以约束条件个数为自由度的2χ分布为检验统计量的分布特征。非线性约束检验中的拉格朗日乘数检验在后面的章节中多次使用。 二、典型例题分析 例1．某地区通过一个样本容量为722的调查数据得到劳动力受教育的一个回归方程为 . 10+ 36 + = - .0 .0 medu fedu sibs edu210 131 .0 094
《中级计量经济学》教学大纲 （Econometrics） 一、编写说明 学分：3学分；总课时：48学时，课内外学时比至少应达到1：2；课程性质：经济类学科各专业学位课、必修课，其他专业研究生的选修课。先修课程：《微积分》《线性代数》《概率论与数理统计》《西方经济学》《计算机基础》。 课程简介：本课程以中级计量经济学为主，适当吸收高级水平的内容；以经典线性模型为主，适当介绍一些适用的扩展模型。全书形成具有实用性、继承性和前瞻性特色的内容体系。本课程较为系统地介绍计量经济学的基本理论、方法、最新进展以及计量经济学软件EViews。全书共分9章，第1章阐述回归分析的基本内容及应用问题，这是整个计量经济学的基础；第2章至第5章介绍异方差性、自相关性、多重共线性、虚拟变量、模型设定误差、变量观测误差以及随机解释变量等计量经济问题及其解决方法，这是本书的主要内容；第6章和第8章阐述滞后变量模型和联立方程模型，这是本课程的重点内容之一，第7章重点阐述时间序列分析，主要涉及ADF检验、Johansen协整检验、Granger因果关系检验、ARIMA模型、向量自回归模型(V AR)、协整理论与向量误差修正模型(VEC)，这部分内容是当代计量经济学研究的热点问题；第9章介绍面板数据模型及其应用，这是计量经济学研究的最新近展。第7章和第9章是本书重点内容。本书特别强调应用EViews解决实际经济问题，具有很强的可操作性。 （一）本课程的教学目的和要求 本课程是中级计量经济学的系统讲授。要求学生通过本课程的学习，系统掌握各类计量经济模型的设定、估计与检验方法，能够熟练运用Eviews（或某一相关软件）建模；并且能够追踪有关专业领域计量经济模型方法的新发展，尝试运用计量经济分析方法进行课题研究。 （二）大纲的教学体系 1．课程内容与学时分配。本课程48学时，每周3学时。各章内容与学时分配如下：第一章多元线性回归模型（6学时）；第二章异方差性（4学时）；第三章自相关性（4学时）；第四章多重共线性（4学时）；第五章单方程回归模型的几个专门问题（6学时）；第六章滞后变量模型（4学时）；第七章时间序列分析（8学时）；第八章联立方程模型（6学时）；第九章面板数据模型（6学时） 2．本课程教学方法。计量经济学是实践性很强的课程，为经济学研究提供坚实的基础和系统的
上课材料之五 第四章古典线性回归模型 在引论中，我们推出了满足凯恩斯条件的消费函数与收入有关的一个最普通模型：C=α+βX+ε，其中α＞0，0＜β＜1ε是一个随机扰动。这是一个标准的古典线性回归模型。假如我们得到如下例1的数据 例1 可支配个人收入和个人消费支出 年份可支配收入个人消费 1970 1971 1972 1973 1974 1975 1976 1977 1978 1979 来源：数据来自总统经济报告，美国政府印刷局，华盛顿特区，1984。 （收入和支出全为1972年的十亿美元） 一、线性回归模型及其假定 一般地，被估计模型具有如下形式： y i=α+βx i+εi，i=1,…,n, 其中y是因变量或称为被解释变量，x是自变量或称为解释变量，i标志n个样本观测值中的一个。这个形式一般被称作y对x的总体线性回归模型。在此背景下，y称为被回归量，x称为回归量。 构成古典线性回归模型的一组基本假设为： 1. 函数形式：y i=α+βx i+εi，i=1,…,n, 2. 干扰项的零均值：对所有i，有：E[εi]=0。
3. 同方差性：对所有i ，有：Var[εi ]=σ2，且2 σ是一个常数。 4. 无自相关：对所有i ≠j ，则Cov[εi ,εj ]=0。 5. 回归量和干扰项的非相关：对所有i 和j 有Cov[x i ,εj ]=0。 6. 正态性：对所有i ，εi 满足正态分布N （0，2 σ）。 模型假定的几点说明： 1、函数形式及其线性模型的转换 具有一般形式 i i i x g y f εβα++=)()( 对任何形式的g(x)都符合我们关于线性模型的定义。 [例] 一个常用的函数形式是对数线性模型： βAx y =。 取对数得： x y ln ln βα+=。 （A ln =α） 这被称作不变弹性形式。在这个方程中，y 对于x 的变化的弹性是 βη=== x d y d x dx y dy ln ln //， 它不随x 而变化。与之相反，线性模型的弹性是： x x dx dy x x x y dx dy βαββαη+=?? ? ?????? ??+=??? ??=。 对数线性模型通常用来估计需求函数和生产函数。 尽管线性模型具有巨大的灵活性，但在实际中存在着大量的非线性模型的形式。 例如，任何变换也不能将 x y ++ =βα1和ν βαx y +=（0＜ν＜1） 转化为线性回归模型。 2、回归量 对于回归量即解释变量我们有两种处理方法，第一种将X 设定为非随机变量，第二种方法将X 设定为随机变量。
第七章 带有线性约束的多元线性回归模型及其假设检验 在本章中，继续讨论第五章的模型，但新的模型中，参数β满足J 个线性约束集，R β=q ，矩阵R 有和β相一致的K 列和总共J 个约束的J 行，且R 是行满秩的，我们考虑不是过度约束的情况，因此，J ＜K 。 带有线性约束的参数的假设检验，我们可以用两种方法来处理。第一个方法，我们按照无约束条件求出一组参数估计后，然后我们对求出的这组参数是否满足假设所暗示的约束，进行检验，我们在本章的第一节中讨论。 第二个方法是我们把参数所满足的线性约束和模型一起考虑，求出参数的最小二乘解，尔后再作检验，后者就是参数带有约束的最小二乘估计方法，我们在本章的第二节中讨论。 第一节 线性约束的检验 从线性回归模型开始， εβ+=X y （1） 我们考虑具有如下形式的一组线性约束， J K JK J J K K K K q r r r q r r r q r r r =+++=+++=+++βββββββββ 22112 22221211 1212111 这些可以用矩阵改写成一个方程 q R =β （2） 作为我们的假设条件0H 。 R 中每一行都是一个约束中的系数。矩阵R 有和β相一致的K 列和总共J 个约束的J 行，且R 是行满秩的。因此，J 一定要小于或等于K 。R 的各行必须是线性无关的，虽然J =K 的情况并不违反条件，但其唯一决定了β，这样的约束没有意义，我们不考虑这种情况。 给定最小二乘估计量b ，我们的兴趣集中于“差异”向量d=Rb －q 。d 精确等于0是不可能的事件（因为其概率是0），统计问题是d 对0的离差是否可归因于抽样误差或它是否是显著的。
广义计量经济学：利用经济理论、统计学和数学定量研究经济现象的经济计量方法的统称，包括回归分析方法、投入产出分析方法、时间序列分析方法等。 狭义计量经济学：以揭示经济现象中的因果关系为目的，在数学上主要应用回归分析方法。 计量经济学: 是经济学的一个分支学科，是以揭示经济活动中的客观存在的数量关系 为内容的分支学科。 计量经济学模型：揭示经济活动中各种因素之间的定量关系，用随机性的数学方程加以描述。 截面数据：截面数据是许多不同的观察对象在同一时间点上的取值的统计数据集合，可理解为对一个随机变量重复抽样获得的数据。 时间序列数据：把反映某一总体特征的同一指标的数据，按照一定的时间顺序和时间间隔排列起来，这样的统计数据称为时间序列数据 面板数据：指时间序列数据和截面数据相结合的数据。 总体回归函数：指在给定Xi下Y分布的总体均值与Xi所形成的函数关系〔或者说总体被解释变量的条件期望表示为解释变量的某种函数〕。 样本回归函数：指从总体中抽出的关于Y，X的假设干组值形成的样本所建立的回归函数。 随机的总体回归函数：含有随机干扰项的总体回归函数〔是相对于条件期望形式而言的〕。线性回归模型：既指对变量是线性的，也指对参数β为线性的，即解释变量与参数β只以他们的1次方出现。 最小二乘法：又称最小平方法，指根据使估计的剩余平方和最小的原则确定样本回归函数的方法。 最大似然法：又称最大或然法，指用生产该样本概率最大的原则去确定样本回归函数的方法。 总离差平方和：用TSS表示，用以度量被解释变量的总变动。 回归平方和：用ESS表示：度量由解释变量变化引起的被解释变量的变化部分。 残差平方和：用RSS表示：度量实际值与拟合值之间的差异，是由除解释变量以外的其他因素引起的被解释变量变化的部分。 协方差：用Cov〔X，Y〕表示，度量X,Y两个变量关联程度的统计量。
第七章带有线性约束的多元线性回归模型及其假设检验 在本章中，继续讨论第五章的模型，但新的模型中，参数B满足J个线性约束集，R3 =q，矩阵R有和3相—致的K列和总共J个约束的J行，且R是行满秩的，我们考虑不是过度约束的情况，因此， J v K。 带有线性约束的参数的假设检验，我们可以用两种方法来处理。第一个方法，我们按照无约束条件求出一组参数估计后，然后我们对求出的这组参数是否满足假设所暗示的约束，进行检验，我们在本章的第一节中讨论。 第二个方法是我们把参数所满足的线性约束和模型一起考虑，求出参数的最小二乘解，尔后再作检验，后者就是参数带有约束的最小二乘估计方法，我们在本章的第二节中讨论。 第一节线性约束的检验 从线性回归模型开始， yX（1） 我们考虑具有如下形式的一组线性约束， r11 1 r12 2r1K K q1 r21 1 r22 2r 2K K q2 r J1 1 r J 2 2r JK K q J 这些可以用矩阵改写成一个方程 Rq（2） 作为我们的假设条件H0 o R中每一行都是一个约束中的系数。矩阵R 有和3相一致的K 列和总共J 个约束的J 行，且R是行满秩的。因此，J 一定要小于或等于K o R的各行必须是线性无关的，虽然J=K 的情况并不违反条件，但其唯一决定了3，这样的约束没有意义，我们不考虑这种情况。 给定最小二乘估计量b ，我们的兴趣集中于“差异”向量d=Rb－q o d 精确等于0是不 可能的事件（因为其概率是0），统计问题是d 对0 的离差是否可归因于抽样误差或它是否是显著的。
(4) 在假设正确时将服从自由度为 J 的2分布(为什么？)。 直觉上，d 越大，即最小二乘满足约束的错误越大，则 统计量越大，所以，一个大 (5) (6) R(b ) R(XX) 1X - 由于b 是多元正态分布的， 且d 是b 的一个线性函数， 所以d 也是多元正态分布的， 若 原假设为真，d 的均值为0,方差为 Var[d] Var[Rb q] R(Var[b])R 2R(XX) 1R ( 3) 对H o 的检验我们可以将其基于沃尔德( Wald )准则： 2 1 W (J) d (Var[d]) d = (Rb q) [ 2R(XX) 1 R] 1(Rb q) 的2值将加重对假设的怀疑。 2 (n K)s e e 2 ~2 由于c 未知，(4)中的统计量是不可用的，用 s 2替代d 2,我们可以导出一个 F[J , ( n —K )]样本统计量，令 (Rb q) [ 2R(XX) 1 R] 1(Rb q)/J [(n K)s 2/ 2]/(n K) 分子是(1心)乘(4)中的 W ，分母是1/ (n — K )乘(5)中的幕等二次型。所以， F 是两 个除以其自由度的卡方变量的比率。如果它们是独立的，则 F 的分布是F[J , (n — K )]，我 们前边发现b 是独立于s 2分布的，所以条件是满足的。 我们也可以直接推导。利用(5)及M 是幕等的这一事实，我们可以把 F 写为 1 1 F {R(b )/ } [R(XX) R] {R(b )/ }/J (7) [M( / )][M( / )] /(n K) 由于 F 统计量是(/ )的两个二次型的比率，由于 M ( / )和T ( / )都服从正态分布且 它们的协方差TM 为0,所以二次型的向量都是独立的。 F 的分子和分母都是独立随机向量
实验报告 课程名称金融计量学 实验项目名称多元线性回归模型班级与班级代码 实验室名称（或课室） 专业 任课教师xxx 学号：xxx 姓名：xxx 实验日期：2012年5 月3日
广东商学院教务处制 姓名xxx 实验报告成绩 评语： 指导教师（签名） 年月日
说明：指导教师评分后，实验报告交院（系）办公室保存
多元线性回归模型 一、实验目的 通过上机实验,使学生能够使用 Eviews 软件估计可化为线性回归模型的非线性模型，并对线性回归模型的参数线性约束条件进行检验。二、实验内容 （一）根据中国某年按行业分的全部制造业国有企业及规模以上制造业非国有企业的工业总产值Y，资产合计K及职工人数L进行回归分析。（二）掌握可化为线性多元非线性回归模型的估计和多元线性回归模型的线性约束条件的检验方法 （三）根据实验结果判断中国该年制造业总体的规模报酬状态如何？三、实验步骤 （一）收集数据 下表列示出来中国某年按行业分的全部制造业国有企业及规模以上制造业非国有企业的工业总产值Y，资产合计K及职工人数L。 序号工业总产值Y （亿元） 资产合计K （亿元） 职工人数L （万人）序号 工业总产 值Y（亿元） 资产合计K （亿元） 职工人数L （万人） 1 3722.7 3078.2 2 11 3 17 812.7 1118.81 43 2 1442.52 1684.4 3 67 18 1899.7 2052.16 61 3 1752.37 2742.77 8 4 19 3692.8 5 6113.11 240 4 1451.29 1973.82 27 20 4732.9 9228.2 5 222 5 5149.3 5917.01 327 21 2180.23 2866.65 80 6 2291.16 1758.7 7 120 22 2539.76 2545.63 96 7 1345.17 939.1 58 23 3046.95 4787.9 222 8 656.77 694.94 31 24 2192.63 3255.29 163 9 370.18 363.48 16 25 5364.83 8129.68 244 10 1590.36 2511.99 66 26 4834.68 5260.2 145 11 616.71 973.73 58 27 7549.58 7518.79 138 12 617.94 516.01 28 28 867.91 984.52 46 13 4429.19 3785.91 61 29 4611.39 18626.94 218 14 5749.02 8688.03 254 30 170.3 610.91 19 15 1781.37 2798.9 83 31 325.53 1523.19 45 16 1243.07 1808.44 33 表1
多元线性回归的预测建模方法 一、本文概述 随着大数据时代的到来，线性回归模型在预测建模中的应用日益广泛。作为一种经典且有效的统计方法，多元线性回归不仅能帮助我们理解数据间的复杂关系，还能对未来的趋势进行准确预测。本文旨在深入探讨多元线性回归的预测建模方法，包括其理论基础、建模步骤、应用实例以及优化策略。通过对这些内容的系统介绍，我们期望能够帮助读者更好地掌握多元线性回归的核心原理，提高其在实际问题中的应用能力。我们也将关注多元线性回归在实际应用中可能遇到的挑战，如多重共线性、异方差性等，并探讨相应的解决策略。通过本文的学习，读者将能够对多元线性回归的预测建模方法有一个全面而深入的理解，为未来的数据分析和预测工作提供有力的支持。 二、多元线性回归的基本原理 多元线性回归是一种统计分析方法，它用于探索两个或多个自变量（也称为解释变量或特征）与一个因变量（也称为响应变量或目标变量）之间的线性关系。在多元线性回归模型中，每个自变量对因变量的影响都被量化为一个系数，这些系数表示在其他自变量保持不变的
情况下，每个自变量每变动一个单位，因变量会相应地变动多少。 线性关系假设：多元线性回归假设自变量与因变量之间存在线性关系，即因变量可以表示为自变量的线性组合加上一个误差项。这个误差项通常假设为随机且服从正态分布，其均值为0，方差为常数。 最小二乘法：为了估计回归系数，多元线性回归采用最小二乘法，即选择那些使得残差平方和最小的系数值。残差是指实际观测值与根据回归方程预测的值之间的差异。 回归系数的解释：在多元线性回归模型中，每个自变量的回归系数表示该自变量对因变量的影响方向和大小。系数的正负表示影响的方向（正向或负向），而系数的大小则反映了影响的强度。 模型的评估与检验：为了评估模型的拟合优度，通常使用诸如R方值、调整R方值、F统计量等指标。还需要对模型进行各种假设检验，如线性性检验、正态性检验、同方差性检验等，以确保模型的适用性和可靠性。 预测与决策：一旦模型通过检验并被认为有效，就可以用来对新的数据进行预测或决策。通过输入新的自变量值，模型可以输出对应的因变量预测值，从而为决策者提供有价值的参考信息。
多元线性回归模型 、内容提要 本章将一元回归模型拓展到了多元回归模型，其基本的建模思想与建模方法与一元的 情形相同。主要内容仍然包括模型的基本假定、模型的估计、模型的检验以及模型在预测方 面的应用等方面。只不过为了多元建模的需要，在基本假设方面以及检验方面有所扩充。 本章仍重点介绍了多元线性回归模型的基本假设、估计方法以及检验程序。与一元回 归分析相比，多元回归分析的基本假设中引入了多个解释变量间不存在（完全）多重共线性这一假设；在检验部分，一方面引入了修正的可决系数，另一方面引入了对多个解释变量是 否对被解释变量有显著线性影响关系的联合性F检验，并讨论了F检验与拟合优度检验的 内在联系。 本章的另一个重点是将线性回归模型拓展到非线性回归模型，主要学习非线性模型如 何转化为线性回归模型的常见类型与方法。这里需要注意各回归参数的具体经济含义。 本章第三个学习重点是关于模型的约束性检验问题，包括参数的线性约束与非线性约 束检验。参数的线性约束检验包括对参数线性约束的检验、对模型增加或减少解释变量的检 验以及参数的稳定性检验三方面的内容，其中参数稳定性检验又包括邹氏参数稳定性检验与 邹氏预测检验两种类型的检验。检验都是以F检验为主要检验工具，以受约束模型与无约 束模型是否有显著差异为检验基点。参数的非线性约束检验主要包括最大似然比检验、沃尔德检验与拉格朗日乘数检验。它们仍以估计无约束模型与受约束模型为基础，但以最大似然 原理进行估计，且都适用于大样本情形，都以约束条件个数为自由度的2分布为检验统计 量的分布特征。非线性约束检验中的拉格朗日乘数检验在后面的章节中多次使用。 、典型例题分析 例1 .某地区通过一个样本容量为722的调查数据得到劳动力受教育的一个回归方程为edu =10.36 —0.094sibs 0.131medu 0.210fedu 2 R2=0.214 式中，edu为劳动力受教育年数，sibs为该劳动力家庭中兄弟姐妹的个数, 别为母medu 与fedu 分
第十章 非球形扰动项与广义最小二乘（GLS ） 一） 问题的提出 多元化回归模型扰动项违背古典假设的更一般的模型是广义回归模型，即假设 Ω='=+=2][,0][,σεεεεβE E X y （1） 其中Ω是一般的正定矩阵，而不是在古典假设的情况下的单位矩阵。古典假设条件情况只是这种模型的一个特例。 我们将考察的正定矩阵Ω两种特殊的情况是异方差性和自相关。 异方差性 当扰动项有不同的方差时，它们就是异方差的，异方差性经常产生于横截面数据，其中因变量的尺度（scales ）和模型解释能力在不同的观察值之间倾向于变动。我们仍然假设不同观测值之间扰动无关。因此σ2 Ω是 ⎥⎥⎥⎥⎥⎦ ⎤ ⎢⎢⎢ ⎢⎢⎣⎡=Ω222212 00 0000n σσσσ 自相关 自相关经常出现在时间序列数据中，经济时间序列经常表现出一种“记忆”，因为变化在不同时期之间不是独立的。时间序列数据通常是同方差的，因此σ2 Ω可能是 ⎥⎥ ⎥ ⎥⎦ ⎤ ⎢ ⎢⎢⎢⎣⎡=Ω----11121 21 11 22n n n n ρρρρρρσ σ 非对角线上的值依赖于扰动项的模式。 普通最小二乘法（OLS ）的结果 具有球形干扰项 0][=εE 和
I E 2][σεε=' （2） 重申前面的内容，普通最小二乘估计量， εβX X X y X X X b ''+=''=--11)()( （3） 是最佳线性无偏的、一致的和渐近正态分布的（CAN=Consistent and asymptotically normally distributed ），并且如果干扰项服从正态分布，在所有CAN 估计量中它是渐近有效的。现在我们考察哪些特性在（1）模型中仍然成立。 有限样本特性 对（3）两边取期望，如果0]|[=X E ε，则 β==]]|[[][X b E E b E X （4） 如果回归量和扰动项是无关的，则最小二乘法的无偏性不受（2）假设变化的影响。 最小二乘法估计量的样本方差是 ]))([(]['--=-βββb b E b Var ])()[(11 --''''=X X X X X X E εε 121 )()()(--'Ω'' =X X X X X X σ 1 1 2--⎪⎭ ⎫ ⎝⎛'Ω'⎪ ⎭⎫ ⎝⎛'= n X X n X X n X X n σ（5） 在（3）中，b 是ε的线性函数,因此，如果ε服从正态分布，则 ]))(()(,[~112--'Ω''X X X X X X N b σβ 由于最小二乘估计量的方差不再是12)(-' X X σ，任何基于1 2)(-'X X s 的推断都可能导致错误。不仅使用的矩阵是错误的，而且s 2 也可能是2 σ的有偏估计量。通常无法知道 12)(-'X X σ是比b 的真正方差大还是小，因此即使有2σ的一个好的估计，Var[b]的传统估 计量也不会有用。 最小二乘法的渐近特性 如果Var[b]收敛于0，则b 是一致的。使用表现良好的回归量，1 )/(-' n X X 将收敛到一个常数矩阵（可能是0），并且最前面的乘子n /2 σ将收敛于0。但n X X /Ω'不一定收敛，
对多元线性回归模型的各种检验方法 对于形如 u X X X Y k k +++++=ββββ 22110 （1） 的回归模型，我们可能需要对其实施如下的检验中的一种或几种检验： 一、 对单个总体参数的假设检验：t 检验 在这种检验中，我们需要对模型中的某个（总体）参数是否满足虚拟假设0H ：j j a =β，做出具有统计意义（即带有一定的置信度）的检验，其中j a 为某个给定的已知数。特别是，当j a =0时，称为参数的（狭义意义上的）显著性检验。如果拒绝0H ，说明解释变量j X 对 被解释变量Y 具有显著的线性影响，估计值j βˆ才敢使 用；反之，说明解释变量j X 对被解释变量Y 不具有显 著的线性影响，估计值j βˆ对我们就没有意义。具体检验 方法如下： （1） 给定虚拟假设 0H ：j j a =β；
（2） 计算统计量 )ˆ(ˆ)ˆ()(ˆj j j j j j Se a Se E t βββββ-=-= 的数值； 11ˆ)ˆ(++-==j j jj jj j C C Se 1T X)(X ，其中σ β （3） 在给定的显著水平α下（α不能大于1.0即 10%，也即我们不能在置信度小于90%以下的前提下做结论），查出双尾t （1--k n ）分布的临界值2/αt ； （4） 如果出现 2/αt t >的情况，检验结论为拒绝0H ；反之，无法拒绝0H 。 t 检验方法的关键是统计量 )ˆ(ˆj j j Se t βββ-=必须服从已 知的t 分布函数。什么情况或条件下才会这样呢？这需要我们建立的模型满足如下的条件（或假定）： （1） 随机抽样性。我们有一个含n 次观测的随机样(){}n i Y X X X i ik i i ,,2,1:,,,,21 =。这保证了误差u 自身的随机性，即无自相关性，
暨南大学 研究生课程论文 题目：我国汽车需求的线性回归分析与预测 学院：管理学院 学系：企业管理 专业：工业工程 课程名称：管理经济学 学生姓名：蒋伟业 学号：1234291010 电子邮箱： 指导教师：黄伟力 2012年12 月13 日
目录摘要 1.引言 2. 影响汽车市场需求的变量分析和选取 3.回归分析方法理论知识介绍 3.1逐步回归法基本思想 3.2回归分析的含义 3.3线性回归模型及其假设条件 3.4线性回归模型的参数估计 3.5回归模型的诊断 4.模型与数据 4.1数据来源与处理 4.2模型变量的选择及说明 4.3 EViews程序的处理及结果 4.4模型检验 5．实证分析与预测分析 5.1实证分析 5.2预测分析 参考文献
我国汽车消费需求的线性回归分析与预测 摘要：进10年以来，我国经济取得了高速发展，而作为国家支柱产业的汽车产业也迎来了井喷式发展，本文将利用2001-2010年中国统计年鉴中我国汽车销量的相关数据，通过对影响我国汽车需求的相关因素的分析，应用EViews统计软件，建立了关于我国汽车需求的线性回归模型。并对短期我国汽车需求进行了预测。 关键词：汽车需求多元线性回归EViews 预测 1.引言 改革开放与加入WTO以来我国经济持续稳定高速的增长，汽车消费市场也在全面增长。汽车普及率出现了迅速增长,我国成为全球重要的新兴汽车市场和生产基地。汽车产业作为国民经济的支柱产业,是经济增长最重要的动力之一。对于与人民生活密切相关的大额耐用消费品的汽车需求量进行分析和预测对各汽车厂商展开经营活动、发现经营契机、增强产品竞争力和提高市场占有率等具有重要的指导意义。汽车又是高度依赖于石油制品的产品,交通运输部门的石油消费占石油总消费的60%以上。汽车社会的快速到来,对我国今后相当长一个时期的能源结构、能源安全以及环境保护将产生重大而深远的影响。就汽车产业发展而言,汽车市场需求预测可以为汽车市场实现产销平衡目标提供基础性数据,指导汽车产业这一重要战略性产业的良性发展,还可以为国家制定宏观经济社会发展计划、确保我国能源安全和实施可持续发展战略,贯彻落实科学发展观及全面建设小康社会提供必的决策参考。 对于影响汽车需求的因素分析角度很多，其因素基本上包括：居民收入水平、能源的约束、汽车的价格、国家产业政策的影响、公路运输线路发展等等。本文将对我国轿车需求进行统计学回归分析，从而预测其变化趋势。 2. 影响汽车市场需求的变量分析和选取 （1）人均国内生产总值。经济增长及其对生活标准的影响是促进我国汽车消费增长的主要动力。居民收入水平是影响一个国家汽车普及率的关键因素之一。根据国际经验，一国的汽车保有量与该国的国民收入水平高度相关。当该国人均GDP 达到1000 美元时，将是汽车进入家庭的起步阶段。当人均GDP 达到3000 美元时，汽车将大量进入家庭。近年来，我国经济一直保持着高速健康发展。2003 年，我国人均GDP 达到9030 元，首次超过1000 美元；在刚过去的2008 年我国人均GDP 达到3266 美元，突破3000 美元大关[1]。因此，从人均收入水平的角度来看，我国已处于汽车进入普通家庭到基本普及的高速增长阶段。 （2）历年汽油出产价格。相对于购买力等因素，能源、交通等外部约束将逐渐演变成汽车业的致命约束，而长期的高油价也必将灼伤汽车业。一般的汽车，没有了汽油柴油之类是运转不起来的，汽车跟汽油是形影不离的互补商品，两者之间交叉弹性很大，汽油价格的变动势必对汽车的需求量产生很大的影响[2]。我国零售汽油价格一直以来采用国家定价的方法，随着经济的发展与石油消耗的不断
上课材料之三： 第二节 分布函数(Distribution function)，数学期望(Expectation) 与方差(Variance) 本节主要介绍概率及其分布函数，数学期望，方差等方面的基础知识。 一、概率(Probability) 1、概率定义(Definition of Probability) 在自然界和人类社会中有着两类不同的现象，一类是决定性现象，其特征是在一定条件必然会发生的现象；另一类是随机现象，其特征是在基本条件不变的情况下，观察到或试验的结果会不同。换句话说，就个别的试验或观察而言，它会时而出现这种结果，时而出现那样结果，呈现出一种偶然情况，这种现象称为随机现象。 随机现象有其偶然性的一面，也有其必然性的一面，这种必然性表现为大量试验中随机事件出现的频率的稳定性，即一个随机事件出现的频率常在某了固定的常数附近变动，这种规律性我们称之为统计规律性。 频率的稳定性说明随机事件发生可能性大小是随机事件本身固定的，不随人们意志而改变的一种客观属性，因此可以对它进行度量。 对于一个随机事件A ，用一个数P （A ）来表示该事件发生的可能性大小，这个数P （A ）就称为随机事件A 的概率，因此，概率度量了随机事件发生的可能性的大小。 对于随机现象，光知道它可能出现什么结果，价值不大，而指出各种结果出现的可能性的大小则具有很大的意义。有了概率的概念，就使我们能对随机现象进行定量研究，由此建立了一个新的数学分支——概率论。 概率的定义 定义在事件域F 上的一个集合函数P 称为概率，如果它满足如下三个条件： （i ）P （A ）≥0，对一切∈A F （ii ）P （Ω）=1； （iii ）若∈i A ，i=1,2…，且两两互不相容，则 ∑∑∞ =∞==⎪⎭⎫ ⎝⎛1 1)(i i i i A P A P 性质（iii ）称为可列可加性（conformable addition ）或完全可加性。 推论1：对任何事件A 有)(1)(A P A P -=；
第五章 多元线性回归模型 在第四章中，我们讨论只有一个解释变量影响被解释变量的情况，但在实际生活中，往往是多个解释变量同时影响着被解释变量。需要我们建立多元线性回归模型。 一、多元线性模型及其假定 多元线性回归模型的一般形式是 i iK K i i i x x x y εβββ++++= 2211 令列向量x 是变量x k ，k =1，2，的n 个观测值，并用这些数据组成一个n ×K 数据矩阵X ，在多数情况下，X 的第一列假定为一列1，则β1就是模型中的常数项。最后，令y 是n 个观测值y 1, y 2, …, y n 组成的列向量，现在可将模型写为： εββ++=K K x x y 11 构成多元线性回归模型的一组基本假设为 假定1. εβ+=X y 我们主要兴趣在于对参数向量β进行估计和推断。 假定2. ,0][][][][2 1=⎥ ⎥⎥⎥ ⎦⎤⎢⎢⎢⎢⎣ ⎡=n E E E E εεεε 假定3. n I E 2][σεε=' 假定4. 0]|[=X E ε 我们假定X 中不包含ε的任何信息，由于 )],|(,[],[X E X Cov X Cov εε= （1） 所以假定4暗示着0],[=εX Cov 。 （1）式成立是因为，对于任何的双变量X ，Y ，有E(XY)=E(XE(Y|X))，而且 ])')|()([(])')((),(EY X Y E EX X E EY Y EX X E Y X Cov --=--= ))|(,(X Y E X Cov = 这也暗示 βX X y E =]|[ 假定5 X 是秩为K 的n ×K 随机矩阵 这意味着X 列满秩，X 的各列是线性无关的。