Logistic回归分析

LOGISTIC回归分析前⾯的博客有介绍过对连续的变量进⾏线性回归分析，从⽽达到对因变量的预测或者解释作⽤。

那么如果因变量是离散变量呢？在做⾏为预测的时候通常只有“做”与“不做的区别”、“0”与“1”的区别，这是我们就要⽤到logistic分析（逻辑回归分析，⾮线性模型）。

参数解释（对变量的评价）发⽣⽐(odds)： ODDS=事件发⽣概率/事件不发⽣的概率=P/(1-P)发⽣⽐率（odds ratio）：odds ratio=odds B/odds A (组B相对于组A更容易发⽣的⽐率）注：odds ratio⼤于1或者⼩于1都有意义，代表⾃变量的两个分组有差异性，对因变量的发⽣概率有作⽤。

若等于1的话，该组变量对事件发⽣概率没有任何作⽤。

参数估计⽅法线性回归中，主要是采⽤最⼩⼆乘法进⾏参数估计，使其残差平⽅和最⼩。

同时在线性回归中最⼤似然估计和最⼩⼆乘发估计结果是⼀致的，但不同的是极⼤似然法可以⽤于⾮线性模型，⼜因为逻辑回归是⾮线性模型，所以逻辑回归最常⽤的估计⽅法是极⼤似然法。

极⼤似然公式：L(Θ)=P(Y1)P(Y2)...p(Y N) P为事件发⽣概率P I=1/(1+E-(α+βX I))在样本较⼤时，极⼤似然估计满⾜相合性、渐进有效性、渐进正太性。

但是在样本观测少于100时，估计的风险会⽐较⼤，⼤于100可以介绍⼤于500则更加充分。

模型评价这⾥介绍拟合优度的评价的两个标准：AIC准则和SC准则，两统计量越⼩说明模型拟合的越好，越可信。

若事件发⽣的观测有n条，时间不发⽣的观测有M条，则称该数据有n*m个观测数据对，在⼀个观测数据对中，P>1-P，则为和谐对（concordant）。

P<1-P,则为不和谐对（discordant）。

P=1-P，则称为结。

在预测准确性有⼀个统计量C=(NC-0.5ND+0.5T)/T，其中NC为和谐对数，ND为不和谐对数，这⾥我们就可以根据C统计量来表明模型的区分度，例如C=0.68，则表⽰事件发⽣的概率⽐不发⽣的概率⼤的可能性为0.68。

logistic回归分析案例Logistic回归分析案例。

Logistic回归分析是一种常用的统计分析方法，主要用于预测二分类或多分类的结果。

在实际应用中，Logistic回归分析可以帮助我们理解影响某一事件发生的因素，以及对事件发生的概率进行预测。

本文将通过一个实际的案例来介绍Logistic回归分析的应用。

案例背景。

假设我们是一家电商公司的数据分析师，现在我们需要分析用户的购买行为，并预测用户是否会购买某一产品。

我们收集了一些用户的个人信息和他们最近一次购买的产品，希望通过这些数据来预测用户是否会购买新产品。

数据准备。

首先，我们需要收集用户的个人信息和购买行为数据。

个人信息包括年龄、性别、职业等；购买行为数据包括购买的产品类型、购买时间等。

在收集完数据后，我们需要对数据进行清洗和预处理，包括缺失值处理、异常值处理等。

模型建立。

在数据准备完成后，我们可以开始建立Logistic回归模型。

首先，我们需要将数据划分为训练集和测试集，以便对模型进行验证。

然后，我们可以利用训练集来拟合Logistic回归模型，并利用测试集来评估模型的预测效果。

模型评估。

在模型建立完成后，我们需要对模型进行评估。

常用的评估指标包括准确率、精确率、召回率等。

这些指标可以帮助我们判断模型的预测效果，并对模型进行调优。

模型应用。

最后，我们可以利用建立好的Logistic回归模型来预测用户是否会购买新产品。

通过输入用户的个人信息和购买行为数据，模型可以给出用户购买新产品的概率，从而帮助我们进行精准营销和推广。

结论。

通过以上实例，我们可以看到Logistic回归分析在预测用户购买行为方面具有很好的应用价值。

通过收集用户数据、建立模型、评估模型和应用模型，我们可以更好地理解用户行为，并做出更精准的预测和决策。

总结。

Logistic回归分析是一种强大的统计工具，可以帮助我们预测二分类或多分类的结果。

在实际应用中，我们可以根据具体情况收集数据、建立模型，并利用模型进行预测和决策。

有序logistic回归分析1.有序logistic回归分析有序logistic回归分析是多元logistic中特殊的一种，因变量为有序的分类数据变量。

有序logistic回归分析与多元logistic回归分析相比多出了平行性检验。

平行性检验：检验自变量各个水平在回归方程中对因变量的影响是否相同。

原假设为H0：模型满足平行性，备择假设：H1：模型不满足平行性。

连接函数亦能对平行性检验起到影响，若平行性检验不通过时，可考更换连接函数进行尝试。

链接函数表函数名称应用说明Logit函数因变量接近均匀分布的情况补充对数-对数连接函数因变量取值越大，概率越大的情况负对数-对数连接函数因变量取值越小，概率越大的情况概率单位连接函数潜在变量为正态分布情况Cauchit连接函数潜在变量有较多极端值的情况常用Logit函数，方程和无序多分类logistic回归分析一样，因此可得方程：ln（pi /（1-pi））=β+β1x1+...βnxn采用最大似然比法或者迭代法对参数的估计，参数通过似然比检验和Wold 检验。

数据应满足的条件：1.因变量为有序多分类数据2.自变量可以是连续型随机变量和分类数据2.有序logistic回归分析操作步骤第一步：将数据导入spss中后，点击分析、回归、有序。

图1有序logistic回归操作第一步第二步：进入图中对话框后点将变量放入对应的变量框中，点击输出勾选、平行线检验、单元格信息。

图2输出勾选第三步：如果结果平行线检验不通过可更换链接函数点击选项、在联接里勾选对应的函数点击继续。

图3链接函数勾选3.有序logistic回归分析结果有序logistic回归的个案处理摘要结果。

图4个案处理摘要模型拟合信息、拟合优度、伪R方结果。

图5模型拟合信息参数估算值、平行线检验结果。

图6参数估计值4.有序logistic回归分析OR值计算步骤点击分析、广义线性模型、广义线性模型。

图7OR值计算第一步第二步：进入广义线性模型对话框后，点击模型类型、勾选有序响应下勾选有序logistic。

数据分析知识：数据分析中的Logistic回归分析Logistic回归分析是数据分析中非常重要的一种统计分析方法，它主要用于研究变量之间的关系，并且可以预测某个变量的取值概率。

在实际应用中，Logistic回归分析广泛应用于医学疾病、市场营销、社会科学等领域。

一、Logistic回归分析的原理1、概念Logistic回归分析是一种分类分析方法，可以将一个或多个自变量与一个二分类的因变量进行分析，主要用于分析变量之间的关系，并确定自变量对因变量的影响。

Logistic回归分析使用的是逻辑回归模型，该模型是将自变量与因变量的概率映射到一个范围为0-1之间的变量上，即把一个从负无穷到正无穷的数映射到0-1的范围内。

这样，我们可以用这个数值来表示某个事件发生的概率。

当这个数值大于0.5时，我们就可以判定事件发生的概率比较高，而当这个数值小于0.5时，我们就可以判定事件发生的概率比较小。

2、方法Logistic回归分析的方法有两种：一是全局最优化方法，二是局部最优化方法。

其中全局最优化方法是使用最大似然估计方法，而局部最优化方法则是使用牛顿法或梯度下降算法。

在进行Logistic回归分析之前，我们首先要对数据进行预处理，将数据进行清洗、变量选择和变量转换等操作，以便进行回归分析。

在进行回归分析时，我们需要先建立逻辑回归模型，然后进行参数估计和模型拟合，最后进行模型评估和预测。

在进行参数估计时，我们通常使用最大似然估计方法，即在估计参数时，选择最能解释样本观测数据的参数值。

在进行模型拟合时，我们需要选取一个合适的评价指标，如准确率、召回率、F1得分等。

3、评价指标在Logistic回归分析中，评价指标包括拟合度、准确性、鲁棒性、可解释性等。

其中最常用的指标是拟合度，即模型对已知数据的拟合程度，通常使用准确率、召回率、F1得分等指标进行评价。

此外，还可以使用ROC曲线、AUC值等指标评估模型的性能。

二、Logistic回归分析的应用1、医学疾病预测在医学疾病预测中，Logistic回归分析可以用来预测患某种疾病的概率，如心脏病、肺癌等。

统计学中的Logistic回归分析Logistic回归是一种常用的统计学方法，用于建立并探索自变量与二分类因变量之间的关系。

它在医学、社会科学、市场营销等领域得到广泛应用，能够帮助研究者理解和预测特定事件发生的概率。

本文将介绍Logistic回归的基本原理、应用领域以及模型评估方法。

一、Logistic回归的基本原理Logistic回归是一种广义线性回归模型，通过对数据的处理，将线性回归模型的预测结果转化为概率值。

其基本原理在于将一个线性函数与一个非线性函数进行组合，以适应因变量概率为S形曲线的特性。

该非线性函数被称为logit函数，可以将概率转化为对数几率。

Logistic回归模型的表达式如下：\[P(Y=1|X) = \frac{1}{1+e^{-(\beta_0+\beta_1X_1+...+\beta_pX_p)}}\]其中，P(Y=1|X)表示在给定自变量X的条件下，因变量为1的概率。

而\(\beta_0\)、\(\beta_1\)、...\(\beta_p\)则是待估计的参数。

二、Logistic回归的应用领域1. 医学领域Logistic回归在医学领域中具有重要的应用。

例如，研究者可以使用Logistic回归分析，探索某种疾病与一系列潜在风险因素之间的关系。

通过对患病和非患病个体的数据进行回归分析，可以估计各个风险因素对疾病患病的影响程度，进而预测某个个体患病的概率。

2. 社会科学领域在社会科学研究中，研究者常常使用Logistic回归来探索特定变量对于某种行为、态度或事件发生的影响程度。

例如，研究者可能想要了解不同性别、教育程度、收入水平对于选民投票行为的影响。

通过Logistic回归分析，可以对不同自变量对于投票行为的作用进行量化，进而预测某个选民投票候选人的概率。

3. 市场营销领域在市场营销中，Logistic回归也被广泛应用于客户分类、市场细分以及产品销量预测等方面。

通过分析客户的个人特征、购买习惯和消费行为等因素，可以建立Logistic回归模型，预测不同客户购买某一产品的概率，以便制定个性化的市场营销策略。

Logistic 回归分析Logistic 回归分析是与线性回归分析方法非常相似的一种多元统计方法。

适用于因变量的取值仅有两个（即二分类变量，一般用1和0表示）的情况，如发病与未发病、阳性与阴性、死亡与生存、治愈与未治愈、暴露与未暴露等，对于这类数据如果采用线性回归方法则效果很不理想，此时用Logistic 回归分析则可以很好的解决问题。

一、Logistic 回归模型设Y 是一个二分类变量，取值只可能为1和0，另外有影响Y 取值的n 个自变量12,,...,n X X X ，记12(1|,,...,)n P P Y X X X ==表示在n 个自变量的作用下Y 取值为1的概率，则Logistic 回归模型为：[]0112211exp (...)n n P X X X ββββ=+-++++它可以化成如下的线性形式：01122ln ...1n n P X X X P ββββ⎛⎫=++++ ⎪-⎝⎭通常用最大似然估计法估计模型中的参数。

二、Logistic 回归模型的检验与变量筛选根据R Square 的值评价模型的拟合效果。

变量筛选的原理与普通的回归分析方法是一样的，不再重复。

三、Logistic 回归的应用（1）可以进行危险因素分析计算结果各关于各变量系数的Wald 统计量和Sig 水平就直接反映了因素i X 对因变量Y 的危险性或重要性的大小。

（2）预测与判别Logistic回归是一个概率模型，可以利用它预测某事件发生的概率。

当然也可以进行判别分析，而且可以给出概率，并且对数据的要求不是很高。

四、SPSS操作方法1．选择菜单2．概率预测值和分类预测结果作为变量保存其它使用默认选项即可。

例：试对临床422名病人的资料进行分析，研究急性肾衰竭患者死亡的危险因素和统计规律。

Logistic回归分析.sav解：在SPSS中采用Logistic回归全变量方式分析得到：（1）模型的拟合优度为0.755。