spss回归分析大全

1111
线性回归分析
回归系数的显著性检验（t检验）
一元线性回归方程的回归系数显著性检验的零假设是β1=0，检验采用 t统计量，其数学定义为：
t
ˆ1 ˆ
n
(xi x )2
i1
t统计量服从n-2个自由度的t分布。 SPSS将会自动计算t统计量的观测值 以及对应的概率p值，如果p值小于给定的显著性水平α，则应拒绝零 假设，认为x对y有显著贡献，线性关系显著。
用于选择线性回归中变量的进入和剔除方法，来建立多个回归模型
进入，该方法表示自变量列表中所有的变量都进入回归模型。 逐步，该方法是一个动态过程，表示具有F统计量的概率最小 的自变量被选进回归模型；对于已经在回归方程中的变量， 如果它们的F统计量的概率变得足够大，则移除这些变量， 直到不再有自变量符合进入或移除的条件，该方法终止。 删除，该方法表示建立回归模型前设定一定条件，然后根据 条件删除自变量。 向后，该方法表示首先将自变量列表中的所有自变量选入到回归模型中，然 后按顺序移除，最先删除与因变量之间的部分相关性最小的那个变量，移除 第一个变量后，得到新的方程，又将与因变量之间的部分相关性最小的那个 变量删除，直到方程中没有满足消除条件的变量，过程结束。 向前，该方法与“向后”恰好相反，是将自变量按顺序选入到回归模型中。 首先选入与因变量之间具有最大相关性的、满足选入条件的变量进入回归模 型中，然后再考虑下一个变量，直到没有满足条件的变量时，过程结束。
值小于给定的显著性水平α，则应拒绝零假设，认为线性关系显著。
10
线性回归分析
回归方程的显著性检验（F检验）
多元线性回归方程显著性检验的零假设是各个偏回归系数同时为零， 检验采用F统计量，其数学定义为：
n
F
n
(yˆi y)2 P
i1
MSA
(yi yˆi)2 nP1 MSE
i1
即平均的SSA/平均的SSE，F统计量服从（p，n-p-1）个自由度的F 分布。SPSS将会自动计算检验统计量的观测值以及对应的概率p值， 如果p值小于给定的显著性水平α，则应拒绝零假设，认为y与x的全 体的线性关系显著。
28
线性回归分析
（4）个案标签
该文本框主要用于指定个案标签的变量。
（5）WLS权重 该文本框表示加权最小二乘，当判断回归模型的
残差存在异方差时，才选用加权最小二乘方法，指定加权变量。
29
线性回归分析
（6）统计量按钮设置
回归系数选项组： 估计，选择该复选框，可输出回归系数、标准误、标准化系数beta 、t值以及t的双尾显著性水平。 置信区间，误差条形图的表征，选择该复选框，可输出每个回归系数 或协方差矩阵指定置信度的置信区间，在“水平”框中输入范围。 协方差矩阵，选择它，可输出回归系数 的方差—协方差矩阵，其对角线以外 的协方差，对角线上为方差，同时还 显示相关系数矩阵。
自变量 被选入该列表框中的变量为线性模型中的解释变量， 数值类型一般为数值型。如果解释变量为分类变量或定性变量，可 以用虚拟变量（哑变量）表示。如果选择多个自变量，可将自变量 分组成块，通过“上一张”和“下一张”按钮对不同的变量子集指 定不同的进入方法。
26
线性回归分析
（2总）离方差法平方和可分解为
注意：一元线性回归方程与函数的直线方程有区别，一元 线性回归方程中的自变量X对应的是因变量Y的一个取值范 围。
5
线性回归分析
1.一元线性回归分析的基本理论
把解释变量和被解释变量的多个对应样本值组队成坐标数 据对（xi，yi），通过观察数据对（xi，yi）的散点图，如 果发现y与xi之间呈现出显著的线性关系，则应考虑建立y 和xi的一元线性回归模型，其中，y=a+bx+μ，y为被解 释变量；a为模型的截距项；b为待估计参数；x为解释变量 ；μ为随机误差项。
6
线性回归分析
• 对于一元线性模型，一般采用最小二乘估计法来估计相关的参数（如和的无
偏估计值和），从而得到样本回归直线，这样把得到的样本回归直线作为总 体回归的近似，是一种预测过程。
• 那要确定得到的样本回归直线是否能作为总体回归的近似，就必须对回归方
程的线性关系进行各种统计检验，包括拟合优度检验、回归方程显著性检验 、回归系数的显著性检验（t检验）、残差分析等。
DW取值在0至4之间，直观判断标准是DW=4，残差序列完全负自相关； DW=2，完全无自相关；DW=0，完全正自相关。
1166
线性回归分析
回归方程的统计检验 残差分析——异方差分析 ➢ 绘制残差图 如果残差的方差随着解释变量值的增加呈增加（或减少） 的趋势，说明出现了异方差现象。
1177
回归方程的统计检验 残差分析——探测样本中的异常值和强影响点（对于y值） ➢标准化残差ZRE
• R2取值在0-1之间， R2越接近于1，说明回归方程对样本数据点的拟
合优度越高。
8
线性回归分析
回归方程的拟合优度检验（相关系数检验） R2
多元线性回归的拟合优度检验采用 统计量，称为调整的判定系数 或调整的决定系数，数学定义为
SSE
R
2
1
n
p 1 SST
n 1
式中n-p-1、n-1分别是SSE和SST的自由度。其取值范围和意义与一 元回归方程中的R2是相同的。
的定量关系的一种统计分析方法。 涉及的自变量的多少 a.一元回归分析 b.多元回归分析 自变量和因变量之间的关系类型， a.线性回归分析 b.非线性回归分析
3
回归分析
回归分析一般步骤： •确定回归方程中的解释变量（自变 量）和被解释变量（因变量） •确定回归模型 •建立回归方程 •对回归方程进行各种检验 •利用回归方程进行预测
1133
线性回归分析
残差分析
所谓残差是指由回归方程计算所得的预测值与实际样本值之间的差 距，即
ei
y i
yˆ i
它是回归模型中 i 的估计值。如果回归方程能较好地反映被解释变量
的特征和变化规律，那么残差序列中应不包含明显的规律性和趋势性。
14
线性回归分析
残差分析——均值为0的正态性分析
残差均值为0的正态性分析，可以通过绘制残差图进行分析，如果残 差均值为0，残差图中的点应在纵坐标为0的横线上下随机散落着。 正态性可以通过绘制标准化（或学生化）残差的累计概率图来分析
2222
线性回归分析
回归分析步骤：
第一，分析大量样本变量观测值，确定变量之间的数学关系式——回归方 程； 第二，分析其回归方程的可信程度，区分影响显著的和影响不显著的自变 量； 第三，根据已确定的数学关系，预测（y）或者控制(x)特定变量的取值， 并给出预测或控制的精确度。
23
一元线性回归分析
线性回归的使用条件： •线性趋势,即自变量与因变量的关系是线性的。 •独立性,因变量Y的取值相互独立。反映在方程中即残差独立。 •正态性,即自变量的任何一个线性组合，Y应该服从正态分布。反映
27
线性回归分析
（3）选择变量
该文本框主要用于指定分析个案的选择规则，当回归分析中包含由选 择规则定义的个案，则需要进行设置。
线性回归：设置规则子对话框用于选择关系 。对于分类变量，可用的关系有“等于”和 “不等于”，对于字符串型变量，可以用“ 等于”关系，在“值”文本框中输入按具体 数值或字符串选择个案的规则；如在“值” 中输入“f”，则表示只有那些性别为女性 的个案才能进入分析；对于连续变量，则可 用的关系有“等于”、“不等于”、“小于 ”、“小于等于”、“大于”以及“大于等 于”，如选择“不等于”，并在“值”中输 入“1”，表示只有那些有无线服务的个案 才会包含在回归分析中。
SPSS回归分析
小组成员： 李标 祝斌 宋金泽 周益丰 贾汪洋
B
本章内容
• 7.1 回归分析概述 • 7.2 线性回归分析 • 7.3 曲线估计回归分析 • 7.4 罗辑回归分析 • 7.5 序数、概率回归分析 • 7.6 非线性、权重估计、两阶最小二乘、
最佳尺度回归分析
2
回归分析
回归分析（regression analysis) 确定两种或两种以上变数间相互依赖
解释变量不断进入回归方程的过程，首先选择与被解释变量具有最高线 性相关系数的变量进入方程，并进行各种检验；其次在剩余的变量中挑选 与解释变量偏相关系数最高并通过检验的变量进入回归方程。 ➢向后筛选策略
变量不断剔除出回归方程的过程，首先所有变量全部引入回归方程并检 验，然后在回归系数显著性检验不显著的一个或多个变量中，剔除t检验值 最小的变量。 ➢逐步筛选策略
向前筛选与向后筛选策略的综合
2200
线性回归分析
多元回归分析中的其他问题
变量多重共线性问题
➢容忍度Tol
Toli
R 1 2 i
容忍度值越接近于1，表示多重共线性越弱。SPSS变量多重共线性的要 求不很严格，只是在容忍度值太小时给出相应警告信息。
➢方差膨胀因子VIF 膨胀因子是容忍度的倒数，越接近于1，表示解释变量间的多重共线性 越弱。通常如果VIFi大于等于10，说明ቤተ መጻሕፍቲ ባይዱ释变量xi与其余解释变量之间 有严重的多重共线性。
7
线性回归分析
回归方程的拟合优度检验（相关系数检验）
• 一元线性回归的拟合优度检验采用R2统计量，称为判定系数或决定系
数，数学定义为
n
( yˆ i y ) 2
R2
i1 n
(yi y )2
其中
n
( yˆ i y ) 2
i1
称为回归平方和（SSA）
i1
n
( yi y )2
i1
称为总离差平方和（SST）
4
线性回归分析
•一元线性回归方程反应一个因变量与一个自变量之间的线性
关系，当直线方程Y‘=a+bx的a和b确定时，即为一元回 归线性方程。经过相关分析后，在直角坐标系中将大量数据 绘制成散点图，这些点不在一条直线上，但可以从中找到一 条合适的直线，使各散点到这条直线的纵向距离之和最小， 这条直线就是回归直线，这条直线的方程叫作直线回归方程 。