[VIP专享]03多元线性回归模型

  • 格式:pdf
  • 大小:356.19 KB
  • 文档页数:12
当给定一个样本(yt , xt1, xt2 ,…, xt k -1), t = 1, 2, …, T 时, 上述模型表示为
y1 = 0 +1x11 + 2x12 +…+ k- 1x1 k -1 + u1, 经济意义:xt j 是 yt 的重要解释变量。
y2 = 0 +1x21 + 2x22 +…+ k- 1x2 k -1 + u2, 代数意义:yt 与 xt j 存在线性关系。
………..
几何意义:yt 表示一个多维平面。
yT = 0 +1x T 1 + 2x T 2 +…+ k- 1x T k -1 + uT,
(1.2)
此时 yt 与 x t i 已知,j 与 ut 未知。
y1
y
2
1 x11 x1 j x1 k 1
1Байду номын сангаас
x21
x2 j
x2
k 1
0
最小二乘 (OLS) 法的原理是求残差(误差项的估计值)平方和最小。代数上是求极值
1
问题。 minS = (Y - X ˆ )' (Y - X ˆ ) = Y 'Y - ˆ 'X 'Y - Y ' X ˆ + ˆ 'X 'X ˆ
= Y 'Y - 2 ˆ 'X 'Y + ˆ 'X 'X ˆ
(1.5)
88.8918÷.12990.÷1=4214÷3922=.0034=1÷15251371=8.535.78208÷.0232173c0*0÷1=m920.30392.2c=1÷203m=2÷1202.52=3535=42314)c*5232m40341*.31252=3.*1.153.5*03134.2*920522..104455=+21*3*50202.2.0285.4850.13*50+5c8*125*12m0.2+050.+0*014.852*0051000+0+/038.T+0÷+=55*+1011+010+91÷0145405*00010200+5+0+080+40*04+***115.103910*-%*C%6(+÷*M==5M÷5)0*3*0(31÷3110**5*+*÷414.m2371e=%7)8n08%.=s8.5=77.93cc60.mc*m4*m13,101w9.9o.k24mc-.cem5nm2csp2665m*9..03-4.50c60*5.pc3m85,9cm0.5g.i50mr0l-.p.s85p/6c50bc.0om7m.yp.cs6pc5m+;c0m..m7.ckm; 1+1k+12+1+k2234=1c+m1++4+4+2
Y=X +u,
(1.4)
为保证得到最优估计量,回归模型(1.4)应满足如下假定条件。 假定 ⑴ 随机误差项 ut 是非自相关的,每一误差项都满足均值为零,方差 2 相同且为 有限值,即
0
E(u)
=
0
=
,
0
1 0 0 Var (u) = E(u u ' ) = 2I = 2 0 0
0 0 1
1.3 多元线性回归与最小二乘估计
1.假定条件、最小二乘估计量和高斯—马尔可夫定理 多元线性回归模型:
yt = 0 +1xt1 + 2xt2 +…+ k- 1xt k -1 + ut ,
(1.1)
其中 yt 是被解释变量(因变量),xt j 是解释变量(自变量),ut 是随机误差项,i, i = 0, 1, … , k - 1 是回归参数(通常未知)。
求出 ˆ ,估计的回归模型写为
Y = X ˆ + uˆ
(1.9)
其中 ˆ = ( ˆ0 ˆ1 … ˆk1 )' 是 的估计值列向量, uˆ = (Y - X ˆ ) 称为残差列向量。因为
1) B2Ak+22+12=+15+c51mc+=5m=2c111++m+12+21+++2=12=2+1+2+1+2+2+22+32k+1+2
1
u1
u2
yT (T1)
1
xT1
xTj
xT
k
1
(T
k
)
k
1
(
k 1)
uT (T1)
(1.3)
1) B2Ak+22+12=+15+c51mc+=5m=2c111++m+12+21+++2=12=2+1+2+1+2+2+22+32k+1+2
88.8918÷.12990.÷1=4214÷3922=.0034=1÷15251371=8.535.78208÷.0232173c0*0÷1=m920.30392.2c=1÷203m=2÷1202.52=3535=42314)c*5232m40341*.31252=3.*1.153.5*03134.2*920522..104455=+21*3*50202.2.0285.4850.13*50+5c8*125*12m0.2+050.+0*014.852*0051000+0+/038.T+0÷+=55*+1011+010+91÷0145405*00010200+5+0+080+40*04+***115.103910*-%*C%6(+÷*M==5M÷5)0*3*0(31÷3110**5*+*÷414.m2371e=%7)8n08%.=s8.5=77.93cc60.mc*m4*m13,101w9.9o.k24mc-.cem5nm2csp2665m*9..03-4.50c60*5.pc3m85,9cm0.5g.i50mr0l-.p.s85p/6c50bc.0om7m.yp.cs6pc5m+;c0m..m7.ckm; 1+1k+12+1+k2234=1c+m1++4+4+2
因为 Y 'X ˆ 是一个标量,所以有 Y 'X ˆ = ˆ 'X 'Y。(1.5) 的一阶条件为:
S ˆ
=
- 2X 'Y + 2X 'X ˆ = 0
(1.6)
化简得 X 'Y = X 'X ˆ
因为 (X 'X) 是一个非退化矩阵(见假定⑶),所以有 ˆ = (X 'X)-1 X 'Y
(1.7)
因为 X 的元素是非随机的,(X 'X) -1X 是一个常数矩阵,则 ˆ 是 Y 的线性组合,为线性 估计量。
对经济问题的实际意义:yt 与 xt j 存在线性关系,xt j, j = 0, 1, … , k - 1, 是 yt 的重要解释 变量。ut 代表众多影响 yt 变化的微小因素。使 yt 的变化偏离了 E( yt) = 0 +1xt1 + 2xt2 +…+ k- 1xt k -1 决定的 k 维空间平面。
DX=EX2-(EX)2 假定 ⑵ 解释变量与误差项相互独立,即
E(X 'u) = 0 假定 ⑶ 解释变量之间线性无关。 rk(X 'X) = rk(X) = k 其中 rk()表示矩阵的秩。 假定⑷ 解释变量是非随机的,且当 T → ∞ 时
T– 1X 'X → Q 其中 Q 是一个有限值的非退化矩阵。