多元线性回归spss案例

多元线性回归spss案例

【篇一：多元线性回归spss案例】

多元线性回归，主要是研究一个因变量与多个自变量之间的相关关系，跟一元回归原理差不多，区别在于影响因素（自变量）更多些而已，例如：一元线性回归方程 为：

毫无疑问，多元线性回归方程应该为：

上图中的 x1, x2, xp分别代表 自变量 xp截止，代表有p个自变量，如果有 n组样本，那么这个多元线性回归，将会组成一个矩阵，如下图所示：

那么，多元线性回归方程矩阵形式为：

其中：代表随机误差， 其中随机误差分为：可解释的误差 和 不可解释的误差，随机误差必须满足以下四个条件，多元线性方程才有意义（一元线性方程也一样）

1：服成正太分布，即指：随机误差必须是服成正太分别的随机变量。

2：无偏性假设，即指：期望值为0

3：同共方差性假设，即指，所有的 随机误差变量方差都相等

4：独立性假设，即指：所有的随机误差变量都相互独立，可以用协方差解释。

今天跟大家一起讨论一下，spss---多元线性回归的具体操作过程，下面以教程教程数据为例，分析汽车特征与汽车销售量之间的关系。通过分析汽车特征跟汽车销售量的关系，建立拟合多元线性回归模型。数据如下图所示：

点击 分析 回归 线性 进入如下图所示的界面：

将 销售量 作为 因变量 拖入因变量框内， 将 车长，车宽，耗油率，车净重等10个自变量 拖入自变量框内，如上图所示，在 方法 旁边，选择 逐步 ，当然，你也可以选择其它的方式，如果你选择 进入 默认的方式，在分析结果中，将会得到如下图所示的结果：（所有的自变量，都会强行进入）

如果你选择 逐步 这个方法，将会得到如下图所示的结果：（将会根据预先设定的 f统计量的概率值进行筛选，最先进入回归方程的 自变量 应该是跟 因变量 关系最为密切，贡献最大的，如下图可以看出，车的价格和车轴 跟因变量关系最为密切，符合判断条件的概率值必须小于0.05，当概率值大于等于0.1时将会被剔除） 选择变量(e) 框内，我并没有输入数据，如果你需要对某个 自变量

进行条件筛选，可以将那个自变量，移入 选择变量框 内，有一个前提就是：该变量从未在另一个目标列表中出现！，再点击 规则 设定相应的 筛选条件 即可，如下图所示：

点击 统计量 弹出如下所示的框，如下所示：

在 回归系数 下面勾选 估计，在右侧勾选 模型拟合度 和 共线性诊断

两个选项，再勾选 个案诊断 再点击 离群值 一般默认值为 3 ，（设定异常值的依据，只有当残差超过3倍标准差的观测才会被当做异常值） 点击继续。

提示：

共线性检验，如果有两个或两个以上的自变量之间存在线性相关关系，就会产生多重共线性现象。这时候，用最小二乘法估计的模型参数就会不稳定，回归系数的估计值很容易引起误导或者导致错误的结论。所以，需要勾选 共线性诊断 来做判断

通过容许度可以计算共线性的存在与否？ 容许度tol=1-ri平方 或方差膨胀因子（vif): vif=1/1-ri平方，其中ri平方是用其他自变量预测第i个变量的复相关系数，显然，vif为tol的倒数，tol的值越小，vif的值越大，自变量xi与其他自变量之间存在共线性的可能性越大。

提供三种处理方法：

1：从有共线性问题的变量里删除不重要的变量

2：增加样本量或重新抽取样本。

3：采用其他方法拟合模型，如领回归法，逐步回归法，主成分分析法。

再点击 绘制 选项，如下所示：

上图中：

dependent( 因变量） zpred(标准化预测值） zresid(标准化残差）

dresid(剔除残差） adjpred(修正后预测值） srsid(学生化残差）

sdresid(学生化剔除残差）

一般我们大部分以 自变量 作为 x 轴，用 残差 作为y轴， 但是，也不要忽略特殊情况，这里我们以 zpred（标准化预测值）作为x 轴，分别用 sdresid（血生化剔除残差） 和 zresid(标准化残差）作为y轴，分别作为两组绘图变量。

再点击 保存 按钮，进入如下界面： 如上图所示：勾选 距离 下面的 cook距离 选项 （cook 距离，主要是指：把一个个案从计算回归系数的样本中剔除时所引起的残差大小，cook距离越大，表明该个案对回归系数的影响也越大）

在 预测区间 勾选 均值 和 单值 点击 继续 按钮，再点击 确定按钮，得到如下所示的分析结果：(此分析结果，采用的是 逐步法 得到的结果）

接着上一期的 多元线性回归解析 里面的内容，上一次，没有写结果分析，这次补上，结果分析如下所示：

结果分析1：

由于开始选择的是 逐步 法，逐步法是 向前 和 向后 的结合体，从结果可以看出，最先进入 线性回归模型 的是 price in thousands 建立了模型1，紧随其后的是 wheelbase 建立了模型2，所以，模型中有此方法有个概率值，当小于等于0.05时，进入 线性回归模型

（最先进入模型的，相关性最强，关系最为密切）当大于等0.1时，从 线性模型中 剔除

结果分析：

1：从 模型汇总 中可以看出，有两个模型，（模型1和模型2）从r2 拟合优度来看，模型2的拟合优度明显比模型1要好一些

（0.422 0.300）

2：从 anova表中，可以看出 模型2 中的 回归平方和 为115.311，

残差平方和 为153.072，由于总平方和=回归平方和+残差平方和，由于残差平方和(即指随即误差，不可解释的误差）由于 回归平方和

跟 残差平方和 几乎接近，所有，此线性回归模型只解释了总平方和的一半，

3：根据后面的 f统计量 的概率值为0.00，由于0.00 0.01，随着 自变量 的引入，其显著性概率值均远小于0.01，所以可以显著地拒绝总体回归系数为0的原假设，通过anova方差分析表可以看出 销售量 与 价格 和 轴距 之间存在着线性关系，至于线性关系的强弱，需要进一步进行分析。

结果分析：

1：从 已排除的变量 表中，可以看出： 模型2 中各变量的t检的概率值都大于 0.05 所以，不能够引入 线性回归模型 必须剔除。

从 系数a 表中可以看出：

1：多元线性回归方程应该为：销售量=-1.822-0.055*价格+0.061*轴距 但是，由于常数项的sig为（0.116 0.1) 所以常数项不具备显著性，所以，我们再看后面的 标准系数 ，在标准系数一列中，可以看到 常数项 没有数值，已经被剔除

所以：标准化的回归方程为：销售量=-0.59*价格+0.356*轴距

2：再看最后一列 共线性统计量 ，其中 价格 和 轴距 两个容差和 vif都一样，而且vif都为1.012，且都小于5，所以两个自变量之间没有出现共线性，容忍度和

膨胀因子是互为倒数关系，容忍度越小，膨胀因子越大，发生共线性的可能性也越大

从 共线性诊断 表中可以看出：

1：共线性诊断采用的是 特征值 的方式，特征值主要用来刻画自变量的方差，诊断自变量间是否存在较强多重共线性的另一种方法是利用主成分分析法，基本思想是：如果自变量间确实存在较强的相关关系，那么它们之间必然存在信息重叠，于是就可以从这些自变量中提取出既能反应自变量信息（方差），而且有相互独立的因素（成分）来，该方法主要从自变量间的相关系数矩阵出发，计算相关系数矩阵的特征值，得到相应的若干成分。

从上图可以看出：从自变量相关系数矩阵出发，计算得到了三个特征值（模型2中），最大特征值为2.847， 最小特征值为0.003

条件索引=最大特征值/相对特征值 再进行开方 （即特征值2的 条件索引为 2.847/0.150 再开方=4.351）

标准化后，方差为1，每一个特征值都能够刻画某自变量的一定比例，所有的特征值能将刻画某自变量信息的全部，于是，我们可以得到以下结论：

1：价格在方差标准化后，第一个特征值解释了其方差的0.02， 第二个特征值解释了0.97，第三个特征值解释了0.00

2：轴距在方差标准化后，第一个特征值解释了其方差的0.00， 第二个特征值解释了0.01，第三个特征值解释了0.99

可以看出：没有一个特征值，既能够解释 价格 又能够解释 轴距 所以 价格 和 轴距 之间存在共线性较弱。前面的结论进一步得到了论证。（残差统计量的表中数值怎么来的，这个计算过程，我就不写了）

从上图可以得知：大部分自变量的残差都符合正太分布，只有一，两处地方稍有偏离，如图上的（-5到-3区域的）处理偏离状态

【篇二：多元线性回归spss案例】

表1-2 描述性数据汇总

标准化后得到的数据值，以下的回归分析将使用标准化数据。如图1-5所示：

图1-5 数据标准化

我们还可以通过描述性分析中的“”来得到各个变量的众数，均值等，还可以根据这些量绘制直方图。我们选取个别变量（能源消费总量）的直方图，可以看到我们因变量基本符合正态分布。如图1-6所示：

图1-6能源消费总量

1.2 回归分析

我们本次实验主要考察地区能源消费总额（因变量）与煤炭消费量、焦炭消费量、原油消费量、原煤产量、焦炭产量、原油产量之间的关系。以下的回归分析所涉及只包括以上几个变量，并使用标准化之后的数据。

1.2.1 参数设置单击菜单栏“ ”-- “ ”-- “”，将弹出如图1-7所示的对话框，将通过选择因变量和自变量来构建线性回归模型。因变量：标准化能源消费总额；自变量：标准化煤炭消费量、标准化焦炭消费量、标准化原油消费量、标准化原煤产量、标准化焦炭产量、标准化原油产量。自变量方法选择：进入，个案标签使用地名，不使用权重最小二乘法回归分析—即wls权重为空。

图1-7选择线性回归变量还需要设置统计量的参数，我们选择回归系数中的“ ”和其他项中的“”。选中估计可输出回归系数b及其标准误，t值和p值，还有标准化的回归系数beta。选中模型拟合度复选框：模型拟合过程中进入、退出的变量的列表，以及一些有关拟合优度的检验：r，r2和调整的r2,标准误及方差分析表。如图1-8所示：

图1-8 设置回归分析统计量在设置绘制选项的时候，我们选择绘制标准化残差图，其中的正态概率图是rankit图。同时还需要画出残差图，y轴选择：zresid，x轴选择:zpred。如图1-9所示：

图1-9 设置绘制

左上框中各项的意义分别为:

4.许多时候我们需要将回归分析的结果存储起来，然后用得到的残差、预测值等做进一步的分析，“保存”按钮就是用来存储中间结果的。可以存储的有：预测值系列、残差系列、距离（distances）系列、预测值可信区间系列、波动统计量系列。本次实验暂时不保存任何项。