一元线性回归分析预测法与多元回归分析

  • 格式:doc
  • 大小:126.50 KB
  • 文档页数:20

第一节一元线性回归分析预测法
一、概念(思路)
依照预测变量(因变量)Y和阻碍因素(自变量)X历史统计数据,
建立一元线性回归方程
x b
a

ˆ
ˆ+
=,然后代入X预测值,求出Y预
测值方法。

差不多公式:y=a+bx
其中:a、b为回归系数,是未知参数。

差不多思路:
1、利用X,Y历史统计数据,求出合理回归系数:a、b,确定出
回归方程
2、依照可能自变量x取值,求出因变量y预测值。

二、一元线性回归方程建立
1、使用散点图定性推断变量间是否存在线性关系
例:某地区民航运输总周转量和该地区社会总产值由紧密相关关系。

2、使用最小二乘法确定回归系数
使实际值与理论值误差平方和最小参数取值。

对应于自变量x i,预测值(理论值)为b+m*x i,实际值y i,
min∑(y i-b-mx i)2,求a、b值。

使用微积分中求极值方法,得:
由下列方程代表直线最小二乘拟合直线参数公式:
其中 m 代表斜率 ,b 代表截距。

一元线性回归.xls
三、 回归方程显著性检验
推断X 、Y 之间是否确有线性关系,判定回归方程是否有意义。

x m y b
x x n y x y x n m
b mx y i i
i i i i ˆˆ)
(ˆ2
2
-=--=+=∑∑∑∑∑
有两类检验方法:相关系数检验法和方差分析法 1、
相关系数检验法
构造统计量r
∑∑∑∑∑∑∑∑∑∑--•-=
•=-•---=]
)(][)([)
()())((22222
2
i i i i i
i i i yy
xx xy i
i
i
i
y y n x x n y x y x n s s S y y x x y y x x r
相关系数取值范围为:[-1,1],|r|大小反映了两个变量间线性关系紧密程度,利用它能够推断两个变量间关系是否能够用直线方程表示。

两个变量是否存在线性相关关系定量推断规则:
关于给定置信水平α,从相关系数临界值表中查出r临(n-2),把其与用样本计算出来统计量r0比较:
若|r0|〉r临(n-2)成立,则认为X、Y之间存在线性关系,回归方程在α水平上显著。

差异越大,线性关系越好。

反之则认为不显著,回归方程无意义,变量间不存在线性关系。

其中:n为样本数。

2、方差分析法:
方差分析差不多特点是把因变量总变动平方和分为两部分,一部分反映因变量实际值与用回归方程计算出理论值之差,一部分反映理论值与实际值平均值之差。

Y 总变差=Y 残余变差+Y 讲明变差,SST=SSE+SSR 或:总离差平方和=剩余平方和+回归平方和
U
Q S y y
Q y y S n y y
y y y y y y yy i i
i
i yy
i
i i i i i +=----+-=-∑∑∑∑∑∑U Y X )ˆ(Y X )ˆ()()ˆ()ˆ()(2
2
2
222差、可解释变差,记为的影响造成的,说明变对—由于—为差、不可解释变差,记的影响造成的,残余变以外其它因素对—除了—离程度,记为个数据和其平均值的偏—— 回归平方和U 与剩余平方和Q 相比越大,讲明回归效果越好。

注:在方差分析中,已被解释和未被解释变差除以相应自由度个数即变为方差。

Y 方差是Y 总偏差平方和除以n-1,被解释方差等于被解释变差(因为回归只比可能Y 均值多用一个约束条件),残余方差等于
残差偏差平方和除以n-2,残差方差S2是误差方差无偏且一致可能(S叫做回归标准差)S2=Q/(n-m)
定量推断回归有效性有两种方法:
(1)可决系数检验法
拟合优度统计量;判定系数:r2=SSR/SST=U/S yy
调整r2 =1-[Q/(n-m)]/[Syy/(n-1)]
复相关系数检验法:构造统计量R=SQRT[1-Q/S yy]=SQRT(U/S yy)推断规则:
关于给定置信度α,从相关系数r分布表中查出r临(n-m),把其与用样本计算出来统计量R0比较:
若R0〉r临(n-m)成立,则认为回归方程在α水平上显著。

反之则认为不显著,回归方程无意义,变量间不存在线性关系。

(2)F检验法:构造统计量F=(U/m-1)/[Q/(n-m)]
其中:m为变量个数(总数);n为样本数。

统计量F服从第一自由度为m-1、第二自由度为n-m
F(m-1,n-m)分布。

F=r2/(1-r2)*(n-m)/(m-1)
推断规则:
关于给定置信度α,从F分布表中查出Fα(m-1,n-m),把其与用样本计算出来统计量F0比较:
若F0〉Fα(m-1,n-m)成立,则认为回归方程在α水平上显著。

反之则认为不显著,回归方程无意义,变量间不存在线性关系。

四、回归方程没有通过检验缘故
1、定性分析选择各变量间,本来不存在因果关系。

定性分析设
想不准确。

2、选择变量间存在因果关系,但还存在其它起着更重要作用变
量尚未列入模型之中。