SPSS--回归-多元线性回归模型案例解析！(一)
多元线性回归,主要就是研究一个因变量与多个自变量之间的相关关系,跟一元回归原理差不多,区别在于影响因素(自变量)更多些而已,例如:一元线性回归方程
为:
毫无疑问,多元线性回归方程应该
为:
上图中的 x1, x2, xp分别代表“自变量”Xp截止,代表有P个自变量,如果有“N组样本,那么这个多元线性回归,将会组成一个矩阵,如下图所示:
那么,多元线性回归方程矩阵形式为:
其中:代表随机误差, 其中随机误差分为:可解释的误差与不可解释的误差,随机误差必须满足以下四个条件,多元线性方程才有意义(一元线性方程也一样)
1:服成正太分布,即指:随机误差必须就是服成正太分别的随机变量。
2:无偏性假设,即指:期望值为0
3:同共方差性假设,即指,所有的随机误差变量方差都相等
4:独立性假设,即指:所有的随机误差变量都相互独立,可以用协方差解释。
今天跟大家一起讨论一下,SPSS---多元线性回归的具体操作过程,下面以教程教程数据为例,分析汽车特征与汽车销售量之间的关系。通过分析汽车特征跟汽车销售量的关系,建立拟合多元线性回归模型。数据如下图所示:
点击“分析”——回归——线性——进入如下图所示的界面:
将“销售量”作为“因变量”拖入因变量框内, 将“车长,车宽,耗油率,车净重等10个自变量拖入自变量框内,如上图所示,在“方法”旁边,选择“逐步”,当然,您也可以选择其它的方式,如果您选择“进入”默认的方式,在分析结果中,将会得到如下图所示的结果:(所有的自变量,都会强行进入)
如果您选择“逐步”这个方法,将会得到如下图所示的结果:(将会根据预先设定的“F统计量的概率值进行筛选,最先进入回归方程的“自变量”应该就是跟“因变量”关系最为密切,
贡献最大的,如下图可以瞧出,车的价格与车轴跟因变量关系最为密切,符合判断条件的概率值必须小于0、05,当概率值大于等于0、1时将会被剔除)
“选择变量(E)" 框内,我并没有输入数据,如果您需要对某个“自变量”进行条件筛选,可以将那个自变量,移入“选择变量框”内,有一个前提就就是:该变量从未在另一个目标列表中出现！,再点击“规则”设定相应的“筛选条件”即可,如下图所示:
点击“统计量”弹出如下所示的框,如下所示:
在“回归系数”下面勾选“估计,在右侧勾选”模型拟合度“与”共线性诊断“两个选项,再勾选“个案诊断”再点击“离群值”一般默认值为“3”,(设定异常值的依据,只有当残差超过3倍标准差的观测才会被当做异常值) 点击继续。
提示:
共线性检验,如果有两个或两个以上的自变量之间存在线性相关关系,就会产生多重共线性现象。这时候,用最小二乘法估计的模型参数就会不稳定,回归系数的估计值很容易引起误导或者导致错误的结论。所以,需要勾选“共线性诊断”来做判断
通过容许度可以计算共线性的存在与否？容许度TOL=1-RI平方或方差膨胀因子(VIF): VIF=1/1-RI平方,其中RI平方就是用其她自变量预测第I个变量的复相关系数,显然,VIF为TOL的倒数,TOL的值越小,VIF的值越大,自变量XI与其她自变量之间存在共线性的可能性越大。
提供三种处理方法:
1:从有共线性问题的变量里删除不重要的变量
2:增加样本量或重新抽取样本。
3:采用其她方法拟合模型,如领回归法,逐步回归法,主成分分析法。
再点击“绘制”选项,如下所示:
上图中:
DEPENDENT( 因变量) ZPRED(标准化预测值) ZRESID(标准化残差) DRESID(剔除残差) ADJPRED(修正后预测值) SRSID(学生化残差) SDRESID(学生化剔除残差)
一般我们大部分以“自变量”作为 X 轴,用“残差”作为Y轴, 但就是,也不要忽略特殊情况,这里我们以“ZPRED(标准化预测值)作为"x" 轴,分别用“SDRESID(血生化剔除残差)”与“ZRESID(标准化残差)作为Y轴,分别作为两组绘图变量。
再点击”保存“按钮,进入如下界面:
如上图所示:勾选“距离”下面的“cook距离”选项 (cook 距离,主要就是指:把一个个案从计算回归系数的样本中剔除时所引起的残差大小,cook距离越大,表明该个案对回归系数的影响也越大)
在“预测区间”勾选“均值”与“单值”点击“继续”按钮,再点击“确定按钮,得到如下所示的分析结果:(此分析结果,采用的就是“逐步法”得到的结果)
SPSS—回归—多元线性回归结果分析(二)
,最近一直很忙,公司的潮起潮落,就好比人生的跌岩起伏,眼瞧着一步步走向衰弱,却无能为力,也许要学习“步步惊心”里面“四阿哥”的座右铭:“行到水穷处”,”坐瞧云起时“。
接着上一期的“多元线性回归解析”里面的内容,上一次,没有写结果分析,这次补上,结果分析如下所示:
结果分析1:
由于开始选择的就是“逐步”法,逐步法就是“向前”与“向后”的结合体,从结果可以瞧出,最先进入“线性回归模型”的就是“price in thousands" 建立了模型1,紧随其后的就是“Wheelbase" 建立了模型2,所以,模型中有此方法有个概率值,当小于等于0、05时,进入“线性回归模型”(最先进入模型的,相关性最强,关系最为密切)当大于等0、1时,从“线性模型中”剔除
结果分析:
1:从“模型汇总”中可以瞧出,有两个模型,(模型1与模型2)从R2 拟合优度来瞧,模型2的拟合优度明显比模型1要好一些
(0、422>0、300)
2:从“Anova"表中,可以瞧出“模型2”中的“回归平方与”为115、311,“残差平方与”为153、072,由于总平方与=回归平方与+残差平方与,由于残差平方与(即指随即误差,不可解释的误差)由于“回归平方与”跟“残差平方与”几乎接近,所有,此线性回归模型只解释了总平方与的一半,
3:根据后面的“F统计量”的概率值为0、00,由于0、00<0、01,随着“自变量”的引入,其显著性概率值均远小于0、01,所以可以显著地拒绝总体回归系数为0的原假设,通过ANOVA 方差分析表可以瞧出“销售量”与“价格”与“轴距”之间存在着线性关系,至于线性关系
的强弱,需要进一步进行分析。
结果分析:
1:从“已排除的变量”表中,可以瞧出:“模型2”中各变量的T检的概率值都大于“0、05”所以,不能够引入“线性回归模型”必须剔除。
