多元线性回归预测系统的设计
- 格式:docx
- 大小:128.13 KB
- 文档页数:3
多元线性回归预测系统的设计
1.前言
许多现象往往不是简单的与某一因素有关而是要受多个因素的影响,此时就需要用两个或两个以上的影响因素作为自变量来解释因变量的变化,这就是多元回归,多元线性回归是预测中经常使用的预测方法,其基本原理是通过对多个变量之间变动关系的分析,建立一定的数学模型,并对因变量的未来变化趋势进行预测。
2.多元线性回归的定义
在研究问题是,我们考虑一个变量受其他变量的影响时,把这变量称为因变量,记为Y,其他变量称为自变量,记为X,这时相关系数可记作
其中xf为当xX时,因变量Y的均值,即 xXYExf|.
称xf为Y对X的回归函数,为Y与xf的偏差,它是随机变量,并假定0E。
回归函数可以是一元函数,也可以是多元函数,即
其中 ),,,|(),,,(221121mmmxXxXxXYExxxf为m元回归函数,统称为多元回归函数。
3.多元线性回归模型
多元线性回归模型的一般形式是:
01122334455YZZZZZ
其中j1,2,...,jk()是回归系数,Y是被解释变量,iz1,2iz,kiz是k个对Y有显著影响的解释变量(k2),i是 反映各种误差扰动综合影响的随机项,下标i表示第i期观察值(iY,iz1,iz2,kiz),ni,2,1。
假设多元样本回归函数为:01122iiikkiYzzz回归残差为:iiiYY。
由于有n期的观察值,这一模型实际上包含n个方程
1111111101kkzzzY ,xfY,),,,(21mxxxfY
2222212102kkzzzY
nknknnzzzY221102
写成矩阵形式:
,ZY
其中
,
z zz z z 1 z z 1 z z 1,knk2k12n1n2212211121ZYYYYn
. ,
,
n10k10k10
3.1模型的假设
(1)变量iY和iX1,iX2,iXk,(i=1,2...n)之间,存在线性随机函数关系iii22i110ikkXXXY,其中i是随机误差项。
(2)对应每组观测数据的误差项i,都为零均值的随机变量,即i的数学期望E(i)=0对i=1,2...n都成立。
(3)误差项i的方差为常数,即222)()()(iiiiEEEVar 对i=1,2...n 都成立(假设(2)成立为前提)。
(4)对应不同观测数据的误差项不相关,即
)0())())((()(jijjiijiEEEE,Cov对任意的ji 都成立(假设(1)成立为前提)。
(5)解释变量),,1(riXi是确定性变量而非随机变量。当存在多个解释变量(r>1)时假设不同解释变量之间不存在线性关系,包括严格的线性关系和强的近似线性关系。
(6)误差项i服从正态分布[1]。
3.2 多元线性回归参数估计
对于多元线性回归模型kk110zzY,
如果用0b,…,kb分别表示模型参数0,…,k的估计,那么样本回归方程就是
kk110zbzbbY回归残差平方和为:
ikikiizbzbbYV2110i2i)](-[
当V对0b,…,kb的一阶偏导数都等于0,即下列方程组:
,0)](-1)(-2[110ikikiizbzbbY
0))](-(-2[1110iikikiizzbzbbY,
0))](-(-2[110ikikikiizzbzbbY,
同时成立时,V有最小值。对这个方程组整理,可得到如下的正规方程组:
, )(- 110kkzbzbYb
,101212111SbSbSbSKK
,102211KKKKKKSbSbSbS
其中
K,k,iYYzzSiikkik1),-( )-(0,
.1),-( )-(K,k,jzzzzSjjiikkikj
上述正规方程组有K+1个方程,未知数也是K+1个。只要系数矩阵非奇异即满足解释变量矩阵Z列满秩:kZR)(。此时,有kZ)R(Z',ZZ'可逆。可以解出0b,…,kb的唯一的一组解,就是0,…,k的最小二乘估计[2]。
参考文献
[1]宋荣兴, 孙海涛. 多元线性回归预测系统的设计与实现[J]. 石家庄经济学院学报,
1997(4):400-403.
[2]李家辉. 多元线性回归分析系统的设计[J]. 贵阳医学院学报, 1990(4):295-299.