统计分析与方法-第七章 回归分析5-罗吉斯蒂克回归

因变量是定性变量 的回归分析 —Logistic回归分析 Logistic回归分析 Logistic
从多元线性回归到Logistic 回归 从多元线性回归到
这是200 200个不同年龄和性别的人对 例7.4 这是200个不同年龄和性别的人对 某项服务产品的认可的数据(logi.sav). 某项服务产品的认可的数据(logi.sav). 其中： 年龄是连续变量 性别是有男和女 变量, 其中： 年龄是连续变量,性别是有男和女 分别用1 表示)两个水平的定性变量, 定性变量 (分别用1和0表示)两个水平的定性变量, 而变量“观点”则为包含认可( 表示) 而变量“观点”则为包含认可(用1表示) 和不认可( 表示)两个水平的定性变量。 定性变量 和不认可(用0表示)两个水平的定性变量。
Logistic回归系数的意义 回归系数的意义
例如：在取得了 回归系数的各b 例如：在取得了logistic回归系数的各 i 的 回归系数的各 解以后， 函数， 解以后，将其带入 Ω 函数， 如果分析x 如果分析 变化一个单位对于 Ω 的影响 幅度，可以用（ 幅度，可以用（x +1）表示，并将其待入 ）表示， 上式， 上式，得到新的发生比
其次，线性概率概型及其问题 其次，线性概率概型及其问题: 由于因变量只有两个值; 由于因变量只有两个值;所以可以把它看 取值范围必然限制在0 1 作成功概率p，取值范围必然限制在0—1 的区间中，然而线性回归方程不能做到。 的区间中，然而线性回归方程不能做到。 另外概率发生的情况也不是线性的。 另外概率发生的情况也不是线性的。
Logistic模型的检验与评价 模型的检验与评价
在评价或检验一个含有自变量的Logistic 在评价或检验一个含有自变量的 回归模型时， 回归模型时，通常是将其含有自变量的 Logistic的-2 Log Likelihood与截距模型的 的 与截距模型的 相比较。两者之差服从卡方分布， 相比较。两者之差服从卡方分布，进行卡 方检验。 方检验。 所谓截距模型， 所谓截距模型，就是将所有自变量删除后 只剩一个截距系数的模型。 只剩一个截距系数的模型。
a. Variable(s) entered on step 1: age, sex.
Logistic模型的检验与评价 模型的检验与评价 对于整体模型的检验
Logistic回归方程求解参数是采用最大似 回归方程求解参数是采用最大似 然估计方法， 然估计方法，因此其回归方程的整体检验 通过似然函数值，表示为： 通过似然函数值，表示为： -2 Log Likelihood 该值越大，意味着回归方程的似然值越小， 该值越大，意味着回归方程的似然值越小， 模型的拟和程度越差。反之， 模型的拟和程度越差。反之，拟和程度越 好。
Omnibus Tests of Model Coefficients Step 1 Step Block Model Chi-square 67.445 67.445 67.445 df 2 2 2 Sig. .000 .000 .000
Logistic模型的检验与评价 模型的检验与评价 对于回归系数的检验
Logistic回归系数的意义 回归系数的意义
将两个发生比集中在一起有： 将两个发生比集中在一起有： 将此称为发生比率，它可测量自变量一个 将此称为发生比率， 单位的增加给原来的发生比所带来的变化， 单位的增加给原来的发生比所带来的变化， 一般表达式为： 一般表达式为： 说明在其他情况不变的情况下， 一个单 说明在其他情况不变的情况下，x一个单 位的变化使原来的发生比扩大 倍。
Logistic模型的检验与评价 模型的检验与评价
Model Summary Step 1 -2 Log Cox & Snell likelihood R Square 192.750a .286 Nagelkerke R Square .393
a. Estimation terminated at iteration number 5 because parameter estimates changed by less than .001.
第七章
回归分析6— 罗吉斯蒂克回归
回归分析的类型
因变量与自变量都是定量变量的回归分 析——即我们常做的回归分析 即我们常做的回归分析 因变量是定量变量， 因变量是定量变量，自变量中有定性变量 的回归分析—即含有哑变量的回归分析 的回归分析 即含有哑变量的回归分析 因变量是定性变量的回归分析—Logistic 因变量是定性变量的回归分析 回归分析
Logistic回归系数的意义 回归系数的意义
比如， 比值为1.5)，如 比如，原来的 为6:4(比值为 比值为 ， 果一个自变量变化一个单位导致的发生比 率为exp(0.693)=2，即表示这一变化将会 率为 ， 为原来的2倍 导致新发生比值 Ω* 为原来的 倍，即新 发生比将是12:4(比值为 。 比值为3)。 发生比将是 比值为 发生比率减1的差来表示发生 我们也可用发生比率减 我们也可用发生比率减 的差来表示发生 比的增长率，如发生比率为2.3， 比的增长率，如发生比率为 ，就可以 说自变量一个单位的变化会使原发生比增 加1.3倍(2.3-1=1.3). 倍
年年年年年年年年年
1.2
观观（ 0为为为， 1为为为为 为为为为）
1.0
.8
.6
.4
从这张图可以看出什么呢? 从这张图可以看Байду номын сангаас什么呢?
.2
0.0
-.2 10 20 30 40 50 60 70 80
年年
120
100
80
60
40
OPINION
20
Count
.00 0 .00 1.00 1.00
性性（0:女，1:男）
多元线性回归不能应用于定性因 变量的原因
首先， 首先，多元线性回归中使用定性因变量严 重违反本身假设条件， 重违反本身假设条件，即： 因变量只能取两个值时， 因变量只能取两个值时，对于任何给定的 自变量值， 本身也只能取两个值 本身也只能取两个值。 自变量值，e本身也只能取两个值。这必 然会违背线性回归中关于误差项e的假设 然会违背线性回归中关于误差项 的假设 条件。 条件。
Logistic回归应用 回归应用
以例7.4为例，说明logistic回归分析 以例7.4为例，说明logistic回归分析 7.4为例 logistic SPSS选项 选项： SPSS选项： Analyze— Regression—Binary logistic
Logistic回归的SPSS输出结果 回归的SPSS输出结果 回归的SPSS
从这张图又可以看出什么呢? 从这张图又可以看出什么呢?
从多元线性回归到Logistic 回归 从多元线性回归到
这里观点是因变量, 只有两个值; 这里观点是因变量, 只有两个值;所 观点是因变量 以可以把它看作成功概率为p的 Bernoulli试验的结果 试验的结果. Bernoulli试验的结果. 但是和单纯的Bernoulli试验不同， Bernoulli试验不同 但是和单纯的Bernoulli试验不同， 这里的概率p为年龄和性别的函数. 为年龄和性别的函数. 函数 必须应用Logistic回归。 必须应用Logistic回归。 Logistic回归
经过变形，可得到线性函数： 经过变形，可得到线性函数：
这里，事件发生概率=P (y=1) 事件不发生概率=1-P (y=0) 发生比： 对数发生比：
这样，就可将logistic曲线线性化为： 曲线线性化为： 这样，就可将 曲线线性化为
从P到logit P经历了两个步骤变换过程： 到 经历了两个步骤变换过程： 经历了两个步骤变换过程 第一步：将转换成发生比， 值域为0到无穷 第一步：将转换成发生比，其值域为 到无穷 第二步：将发生比换成对数发生比， 第二步：将发生比换成对数发生比，其值域科 为 经过转换， logit P,在将其作为回归因变 经过转换， 将P 在将其作为回归因变 量来解释就不再有任何值域方面的限制了， 量来解释就不再有任何值域方面的限制了，即 可线性化！ 可线性化！
Logistic函数 函数
Logistic的概率函数定义为： 的概率函数定义为： 的概率函数定义为
我们将多元线性组合表示为： 我们将多元线性组合表示为：
Logistic函数 函数
p 0.2 10 0.4
0.6
0.8
20
30
40 age
50
60
70
于是， 概率函数表示为： 于是，Logistic概率函数表示为： 概率函数表示为
Logistic回归系数的意义 回归系数的意义
回归系数为负数时， 当logistic回归系数为负数时，发生比率小 回归系数为负数时 于1。这时的表达要特别小心。 。这时的表达要特别小心。 比如发生比率为0.8时 比如发生比率为 时，表示新发生比只 有原来的80%，那么下降的倍数则是 有原来的 ，那么下降的倍数则是(10.8=)0.2.
Logistic回归系数的检验是用 回归系数的检验是用Wald统计量 回归系数的检验是用 统计量 进行的。 进行的。
Variables in the Equation B Step age -.072 a 1 sex -1.778 Constant 3.500 S.E. .013 .366 .639 Wald 29.484 23.644 30.024 df 1 1 1 Sig. .000 .000 .000 Exp(B) .931 .169 33.108
Logistic回归系数的意义 回归系数的意义
以logit P方程的线性表达式来解释回归系 方程的线性表达式来解释回归系 数 ， 即： 回归的实际研究中， 在logistic回归的实际研究中，通常不是报 回归的实际研究中 告自变量对P的作用 的作用， 告自变量对 的作用，而是报告自变量对 logit P的作用。 的作用。 的作用