09 非条件Logistic 回归分析

非条件前言zzz原理z原理z原理z对概率进行转换，可建立线性回归模型–––原理zzz基本语句zzzzProc logistic zzMODELz关于变量选择：––––MODEL zMODELz两个协变量的例2：研究性别、疾病的严重程度对疾病疗效的影响，得数据如下拟合回归方程程序datainput sex degree effect count @@;cards;0 0 1 21 0 0 0 6 0 1 1 9 0 1 0 91 0 1 8 1 0 0 10 1 1 1 4 1 1 0 11;procfreq count;model effect=sex degree/scale=none aggregate; /*模型的拟合优度检验run;输出Deviance and Pearson Goodness-of-Fit StatisticsCriterion DF Value Value/DF Chi-Square Deviance 1 0.2141 0.2141Pearson 1 0.2155 0.2155z－输出Model Fitting Information and Testing Global Null Hypothesis BETA=0 Criterion Only Covariates-2LOGLScorez模型检验：z似然比的卡方＝量的－df=2(可以认为两个协变量的回归系数至少有一个不为认为模型有意义输出Variable DF Estimate Error Chi-Square Chi-SquareINTERCPT 1 1.1568 0.4036 8.2167 0.0042 .SEX 1 -1.2770 0.4980 6.5750 0.0103 -0.350072 0.279 DEGREE 1 -1.0545 0.4980 4.4844 0.0342 -0.289086 0.348回归系数检验：Wald 卡方：大样本时近似标准正态分布，小样本时可能不如似然比检验输出z回归方程：logit[p/(1-p)]= 1.1568-1.2770sex -z男性治愈与未愈的比值为z女性治愈与未愈的比值为z两个比值的比各子组的模型预测的有效概率和基于有效水平的SEX1多分类无序自变量的z n需转变成（z例否影响。

LOGISTIC回归分析前⾯的博客有介绍过对连续的变量进⾏线性回归分析，从⽽达到对因变量的预测或者解释作⽤。

那么如果因变量是离散变量呢？在做⾏为预测的时候通常只有“做”与“不做的区别”、“0”与“1”的区别，这是我们就要⽤到logistic分析（逻辑回归分析，⾮线性模型）。

参数解释（对变量的评价）发⽣⽐(odds)： ODDS=事件发⽣概率/事件不发⽣的概率=P/(1-P)发⽣⽐率（odds ratio）：odds ratio=odds B/odds A (组B相对于组A更容易发⽣的⽐率）注：odds ratio⼤于1或者⼩于1都有意义，代表⾃变量的两个分组有差异性，对因变量的发⽣概率有作⽤。

若等于1的话，该组变量对事件发⽣概率没有任何作⽤。

参数估计⽅法线性回归中，主要是采⽤最⼩⼆乘法进⾏参数估计，使其残差平⽅和最⼩。

同时在线性回归中最⼤似然估计和最⼩⼆乘发估计结果是⼀致的，但不同的是极⼤似然法可以⽤于⾮线性模型，⼜因为逻辑回归是⾮线性模型，所以逻辑回归最常⽤的估计⽅法是极⼤似然法。

极⼤似然公式：L(Θ)=P(Y1)P(Y2)...p(Y N) P为事件发⽣概率P I=1/(1+E-(α+βX I))在样本较⼤时，极⼤似然估计满⾜相合性、渐进有效性、渐进正太性。

但是在样本观测少于100时，估计的风险会⽐较⼤，⼤于100可以介绍⼤于500则更加充分。

模型评价这⾥介绍拟合优度的评价的两个标准：AIC准则和SC准则，两统计量越⼩说明模型拟合的越好，越可信。

若事件发⽣的观测有n条，时间不发⽣的观测有M条，则称该数据有n*m个观测数据对，在⼀个观测数据对中，P>1-P，则为和谐对（concordant）。

P<1-P,则为不和谐对（discordant）。

P=1-P，则称为结。

在预测准确性有⼀个统计量C=(NC-0.5ND+0.5T)/T，其中NC为和谐对数，ND为不和谐对数，这⾥我们就可以根据C统计量来表明模型的区分度，例如C=0.68，则表⽰事件发⽣的概率⽐不发⽣的概率⼤的可能性为0.68。

Logistic 回归原理解析临床评价中心：白文静2006-1-9内容序论之序—相关与回归概述非条件Logistic回归条件Logistic回归分析步骤应用及注意一、序论之序—变量间的联系相关与回归、关联eg1、身高与体重？eg2、肺癌与吸烟？eg3、啤酒与尿布？相关：两个变量或者多个变量之间是否存在关系和关系的密切程度；回归：研究变量之间联系的形式；关联：要寻找出各项目(Item)之间相互的关联性，从资料库中寻找出现频率较高的样型(Pattern)，然後再利用這些样型分析出关联规则，解释变量间的关系。

一、序论之序—变量间的联系且方差相等；平均数在一条直线上，即线性。

7654321x拟合值真实值一、序论之序—变量间的联系;22110i Ki K i i i X B X B X B B Y ε++…+++=多元线性回归模型假定现实需求医学数据的复杂、多样—连续型和离散型数据；医学研究中疾病的复杂性—一种疾病可能有多种致病因素或与多种危险因素有关；疾病转归的影响因素也可能多种多样；临床治疗结局的综合性；一、序论之序—变量间的联系 应对方法：Χ+…+Χ+=βββP 式1二、概述参数估计最大似然估计法；假设检验（似然比检验；ROC）利用最大似然估计得到一套回归系数；计算得到对数似然度lnL( );假定第K个变量不存在，重新得到和lnL ( );计算统计量αββˆβˆ)(ˆk −β)(ˆk −β[]{})ˆ(ln ˆln 2)(2ββχL L k −−=−0:0=k H β0:n 20＝＝βββ…==k H三、非条件Logistic 回归26例冠心病病人和28例对照者进行病例−对照研究data disease;input y x freq;cards ;1 1 101 0 20 1 400 0 80;proc logistic data=disease;model y=x;weight freq ;run ;三、非条件Logistic 回归SAS 程序再现三、非条件Logistic 回归)]1/(/[]p 1/p [p p −′−′）（2χ2χ－比数比（OR ）如果发病率或死亡率不高，例如<<10%,则比数比可以近似估计相对危险度（RR）因为上述数据是四格表资料，如果用也可以分析行变量和列变量间的独立性，即疾病和暴露是否有联系。

统计学中的Logistic回归分析Logistic回归是一种常用的统计学方法，用于建立并探索自变量与二分类因变量之间的关系。

它在医学、社会科学、市场营销等领域得到广泛应用，能够帮助研究者理解和预测特定事件发生的概率。

本文将介绍Logistic回归的基本原理、应用领域以及模型评估方法。

一、Logistic回归的基本原理Logistic回归是一种广义线性回归模型，通过对数据的处理，将线性回归模型的预测结果转化为概率值。

其基本原理在于将一个线性函数与一个非线性函数进行组合，以适应因变量概率为S形曲线的特性。

该非线性函数被称为logit函数，可以将概率转化为对数几率。

Logistic回归模型的表达式如下：\[P(Y=1|X) = \frac{1}{1+e^{-(\beta_0+\beta_1X_1+...+\beta_pX_p)}}\]其中，P(Y=1|X)表示在给定自变量X的条件下，因变量为1的概率。

而\(\beta_0\)、\(\beta_1\)、...\(\beta_p\)则是待估计的参数。

二、Logistic回归的应用领域1. 医学领域Logistic回归在医学领域中具有重要的应用。

例如，研究者可以使用Logistic回归分析，探索某种疾病与一系列潜在风险因素之间的关系。

通过对患病和非患病个体的数据进行回归分析，可以估计各个风险因素对疾病患病的影响程度，进而预测某个个体患病的概率。

2. 社会科学领域在社会科学研究中，研究者常常使用Logistic回归来探索特定变量对于某种行为、态度或事件发生的影响程度。

例如，研究者可能想要了解不同性别、教育程度、收入水平对于选民投票行为的影响。

通过Logistic回归分析，可以对不同自变量对于投票行为的作用进行量化，进而预测某个选民投票候选人的概率。

3. 市场营销领域在市场营销中，Logistic回归也被广泛应用于客户分类、市场细分以及产品销量预测等方面。

通过分析客户的个人特征、购买习惯和消费行为等因素，可以建立Logistic回归模型，预测不同客户购买某一产品的概率，以便制定个性化的市场营销策略。

多因素非条件logistic回归多因素非条件logistic回归是一种常用的统计分析方法，用于研究多个自变量对于二分类结果的影响程度。

本文将介绍多因素非条件logistic回归的基本原理、应用场景以及步骤。

一、基本原理多因素非条件logistic回归是一种广义线性模型，用于建立自变量与二分类结果之间的关系。

它基于logistic函数（也称为S型函数），通过将自变量的线性组合映射到[0,1]的范围内，来描述自变量与二分类结果之间的概率关系。

二、应用场景多因素非条件logistic回归广泛应用于医学、社会科学、市场营销等领域的研究中。

例如，在医学领域，研究人员可以使用多因素非条件logistic回归来分析各种因素对于患病与否的影响程度，以便预测和预防疾病的发生。

三、步骤进行多因素非条件logistic回归分析时，通常需要以下步骤：1. 收集数据：收集包括自变量和二分类结果在内的相关数据。

2. 数据预处理：对数据进行清洗、缺失值处理、异常值处理等预处理工作。

3. 变量选择：根据领域知识和统计方法，选择与二分类结果相关的自变量进行分析。

4. 模型拟合：将选定的自变量输入logistic回归模型，拟合出模型参数。

5. 模型评估：通过各种指标（如AIC、BIC、似然比检验等）评估模型的拟合效果。

6. 结果解释：根据模型参数的正负和大小，解释自变量对于二分类结果的影响程度。

7. 预测与应用：根据已建立的模型，进行未知样本的预测，或者根据模型结果制定相应的决策。

多因素非条件logistic回归的优点是可以考虑多个自变量的影响，更贴近实际情况。

然而，它也有一些限制，比如对于样本量较小或者自变量之间存在共线性的情况，可能会导致模型参数的不准确性。

多因素非条件logistic回归是一种重要的统计分析方法，可以应用于各种领域的研究。

通过充分利用多个自变量，我们可以更全面地了解自变量对于二分类结果的影响，从而做出科学合理的预测和决策。

非条件逻辑回归一、什么是逻辑回归逻辑回归是一种用于建立分类模型的统计学方法，常用于解决二分类问题。

逻辑回归的目标是根据给定的自变量，估计二分类输出变量的概率。

二、逻辑回归的基本原理逻辑回归基于逻辑函数（又称为Sigmoid函数）来建立模型。

逻辑函数的公式为：ℎ(z)=11+e−z其中，h(z)是概率估计值，z是自变量的线性组合。

逻辑回归的模型可以表示为：P(y=1|x)=ℎ(z)=11+e−zP(y=0|x)=1−ℎ(z)=1−11+e−z其中，P(y=1|x)表示给定自变量x情况下y=1的概率，P(y=0|x)表示给定自变量x 情况下y=0的概率。

三、非条件逻辑回归的意义在逻辑回归中，通常基于条件概率进行建模。

即使用自变量x条件下y=1的概率和y=0的概率来建立模型。

而非条件逻辑回归则是不考虑自变量x的条件，直接估计y=1和y=0的概率，从而得到分类结果。

非条件逻辑回归主要用于以下两个方面： ### 1. 独立分布的样本当样本独立分布时，即样本的生成过程与自变量无关，可以使用非条件逻辑回归进行建模。

在这种情况下，非条件逻辑回归可以提供更简单、更高效的分类模型。

2. 缺乏自变量信息有时候，我们可能只有因变量的标签，却缺乏与自变量的相关信息。

此时，非条件逻辑回归可以直接估计出分类的概率，从而得到分类结果。

四、非条件逻辑回归的建模方法非条件逻辑回归可以使用最大似然估计来估计模型参数。

最大似然估计的目标是找到模型参数，使得给定样本的出现概率最大。

步骤如下： 1. 初始化模型参数。

可以使用随机数来初始化模型参数。

2. 计算逻辑回归的似然函数。

3. 对似然函数进行求导，得到模型参数的梯度。

4. 使用梯度下降法更新模型参数。

5. 重复步骤2-4，直到收敛或达到最大迭代次数。

五、非条件逻辑回归的优缺点非条件逻辑回归相比于条件逻辑回归有一些优点和缺点。

优点：1.简单易用：非条件逻辑回归不需要考虑自变量x的条件，只需要估计y=1和y=0的概率即可，因此模型更加简单易用。

Logｉstiｃ回归分析报告结果解读分析Logisｔｉc回归常用于分析二分类因变量(如存活与死亡、患病与未患病等)与多个自变量得关系。

比较常用得情形就是分析危险因素与就是否发生某疾病相关联。

例如,若探讨胃癌得危险因素，可以选择两组人群,一组就是胃癌组,一组就是非胃癌组,两组人群有不同得临床表现与生活方式等,因变量就为有或无胃癌,即“就是”或“否”,为二分类变量，自变量包括年龄、性别、饮食习惯、就是否幽门螺杆菌感染等。

自变量既可以就是连续变量,也可以为分类变量。

通过Logistiｃ回归分析，就可以大致了解胃癌得危险因素。

Lｏｇistic回归与多元线性回归有很多相同之处,但最大得区别就在于她们得因变量不同。

多元线性回归得因变量为连续变量;Logistic回归得因变量为二分类变量或多分类变量，但二分类变量更常用,也更加容易解释。

１、Ｌｏgｉsｔic回归得用法一般而言,Logisｔic回归有两大用途，首先就是寻找危险因素,如上文得例子,找出与胃癌相关得危险因素;其次就是用于预测,我们可以根据建立得Lｏgistｉc 回归模型,预测在不同得自变量情况下,发生某病或某种情况得概率（包括风险评分得建立)。

2、用Logisｔic回归估计危险度所谓相对危险度（ｒisk ｒatio,ＲR）就是用来描述某一因素不同状态发生疾病（或其它结局)危险程度得比值。

Loｇistic回归给出得OR(ｏdds ratiｏ)值与相对危险度类似,常用来表示相对于某一人群,另一人群发生终点事件得风险超出或减少得程度。

如不同性别得胃癌发生危险不同，通过Loｇistｉc回归可以求出危险度得具体数值,例如1、7,这样就表示,男性发生胃癌得风险就是女性得1、7倍。

这里要注意估计得方向问题,以女性作为参照,男性患胃癌得OR就是１、7。

如果以男性作为参照,算出得OＲ将会就是0、58８(1／1、7),表示女性发生胃癌得风险就是男性得0、5８８倍,或者说,就是男性得５8、8％。

非条件logistic 回归结果解读
非条件logistic回归是一种用于预测二分类问题的回归分析方法。

对于非条件logistic回归的结果进行解读，可以从以下几
个方面进行分析：
1. 回归系数：非条件logistic回归模型的回归系数表示自变量
对因变量的影响程度。

如果回归系数为正，表示该自变量与因变量呈正相关关系，即自变量增加时，因变量的概率也会增加；如果回归系数为负，表示该自变量与因变量呈负相关关系。

回归系数的大小可以用来判断自变量对因变量的重要程度，绝对值越大表示影响越大。

2. 模型拟合度：非条件logistic回归模型的拟合度可以通过R
方（R-squared）或者对数似然比（log-likelihood）来评估。

R
方的取值范围为0到1，越接近1表示模型的拟合度越好；而
对数似然比越大表示模型的拟合度越好。

需要注意的是，拟合度高并不一定意味着模型预测准确度高，还需要考虑其他评估指标。

3. p值：非条件logistic回归模型的p值可以用来判断自变量
的显著性。

p值越小，表示该自变量对因变量的影响越显著。

通常，p值小于0.05被认为是显著的。

如果p值超过设定的显
著性水平，就需要谨慎解释该自变量对因变量的影响。

4. 假设检验：非条件logistic回归模型通常会进行一些假设检验，如对模型的合理性、模型参数的正态分布等。

如果假设检验不通过，就需要重新考虑模型的建立和解释。

需要注意的是，非条件logistic回归模型的结果解读还需要考虑实际问题和数据的背景。

同时，还需要结合其他统计学方法和领域知识来对结果进行综合分析和解释。