[转载]logistic回归模型总结 logistic回归模型是最成熟也是应用最广泛的分类模型，通过学习和实践拟通过从入门、进阶到高级的过程对其进行总结，以便加深自己的理解也为对此有兴趣者提供学习的便利。 一、有关logistic的基本概念 logistic回归主要用来预测离散因变量与一组解释变量之间的关系 最常用的是二值型logistic。即因变量的取值只包含两个类别例如：好、坏；发生、不发生；常用Y=1或Y=0表示X 表示解释变量则 P（Y=1|X）表示在X的条件下Y=1的概率，logistic回归的数学表达式为： log（p/1-p）=A+BX ＝Ｌ其中p/1-p称为优势比（ＯＤＤＳ）即发生与不发生的概率之比 可以根据上式反求出P（Y=1|X）＝１/（１＋ｅ＾-L） 根据样本资料可以通过最大似然估计计算出模型的参数 然后根据求出的模型进行预测 下面介绍logistic回归在ＳＡＳ中的实现以及输出结果的解释 二、logistic回归模型初步
ＳＡＳ中ｌｏｇｉｓｔｉｃ回归输出结果主要包括预测模 型的评价以及模型的参数 预测模型的评价与多元线性回归模型的评价类似主要从以 下几个层次进行 （１）模型的整体拟合优度 主要评价预测值与观测值之间的总体一致性。可以通过以下两个指标来进行检验 １、Ｈosmer-Lemeshowz指标 HL统计量的原假设Ho是预测值和观测值之间无显著差异，因此HL指标的P-Value的值越大，越不能拒绝原假设，即说明模型很好的拟合了数据。 在ＳＡＳ中这个指标可以用LACKFIT选项进行调用 ２、AIC和SC指标即池雷准则和施瓦茨准则 与线性回归类似AIC和SC越小说明模型拟合的越好 （2）从整体上看解释变量对因变量有无解释作用 相当于多元回归中的F检验在logistic回归中可以通过似然比（likelihood ratio
基于logistic模型的2014年影响中国各省城市化水平的 经济地理因素分析 摘要：本文利用2013年中国31个省份的数据，从经济与地理位置两个因素出发，运用logistic回归的方法在SPSS软件上进行分析。结果显示：中国城市化发展水平不仅与经济密切相关，而且与其地理位置也有很大的关系，地区间城市化发展水平差距较明显，城市化各方面的因素水平发展不平衡。 关键词：logistic模型，城市化水平，SPSS软件
目录 一、引言 (3) 二、Logistic模型 (3) 1. 基本概念 (3) 2. 统计原理 (4) （1）logit变换 (4) （2）Logistic回归模型 (4) （3）统计检验 (4) 三、基于logistic模型的我国各省城市化水平影响因素实证分析 (5) 1．数据来源与说明 (5) 2．模型检验 (5) 3．模型的建立与预测 (7) 四、结论 (7) 参考文献 (8)
一、引言 城市化的定义众多，本文参照《中华人民国国家标准城市规划术语》，认为城市化是“人类生产与生活方式由农村型向城市型转化的历史过程，主要表现为农村人口转化为城市人口及城市不断发展完善的过程。”城市化是一个系统的动态过程，包含了人口、经济、社会、城市建设等各方面变化的影响。它是经济发展和社会进步的必然结果，反过来也推动了经济的发展和社会的进步。 中国大陆的城市化进程在不同的时期具有不同的特点，总的来看城市化水平普遍较低，并已成为制约国家经济、社会和谐发展的主要原因之一。因而，各地区普遍把推进城市化进程作为经济、社会发展战略的一项重要目标选择。当前中国大陆已经进入了城市化水平的持续上升发展时期，此时对这样一个过程实施有效、客观、科学、动态的监测，从而及时发现并解决城市化进程中出现的难题，就必须加强对中国大陆城市化水平质与量等方面的考察和研究。这对于我们这样一个人口众多、区域经济发展不平衡的国家尤为重要。 本文不仅分析影响城市化水平的经济因素，还加入了地理位置对其城市化发展的影响。由于地理因素数据不是数值型变量，因此我们引用logistic回归方法对其进行建模。 二、Logistic模型 1.基本概念 Logistic回归分析就是针对因变量是定型变量的回归分析，这与一般的回归分析不同。在实际生活中，我们会经常遇到因变量是定型
1.逻辑回归模型 1.1逻辑回归模型 考虑具有p个独立变量的向量,设条件概率为根据观测量相对于某事件发生的概率。逻辑回归模型可表示为 （1.1） 上式右侧形式的函数称为称为逻辑函数。下图给出其函数图象形式。 其中。如果含有名义变量，则将其变为dummy变量。一个具有k个取值的名义变量，将变为k-1个dummy变量。这样，有 （1.2） 定义不发生事件的条件概率为 （1.3） 那么，事件发生与事件不发生的概率之比为 （1.4） 这个比值称为事件的发生比(the odds of experiencing an event),简称为odds。因为0
得到的概率。在同样条件下得到的条件概率为。于是，得到一个观测值的概率为 （1.6） 因为各项观测独立，所以它们的联合分布可以表示为各边际分布的乘积。 （1.7） 上式称为n个观测的似然函数。我们的目标是能够求出使这一似然函数的值最大的参数估计。于是，最大似然估计的关键就是求出参数，使上式取得最大值。 对上述函数求对数 （1.8） 上式称为对数似然函数。为了估计能使取得最大的参数的值。 对此函数求导，得到p+1个似然方程。 （1.9） ，j=1,2,..,p. 上式称为似然方程。为了解上述非线性方程，应用牛顿－拉斐森(Newton-Raphson)方法进行迭代求解。 1.3牛顿－拉斐森迭代法 对求二阶偏导数，即Hessian矩阵为 （1.10） 如果写成矩阵形式，以Ｈ表示Hessian矩阵，Ｘ表示 （1.11） 令
Logistic 回归模型 1 Logistic 回归模型的基本知识 1.1 Logistic 模型简介 主要应用在研究某些现象发生的概率p ，比如股票涨还是跌，公司成功或失败的概率，以及讨论概率 p 与那些因素有关。显然作为概率值，一定有10≤≤p ，因此很难用线性模型描述概率p 与自变量的关 系，另外如果p 接近两个极端值，此时一般方法难以较好地反映p 的微小变化。为此在构建p 与自变量关系的模型时，变换一下思路，不直接研究p ，而是研究p 的一个严格单调函数)(p G ，并要求)(p G 在p 接近两端值时对其微小变化很敏感。于是Logit 变换被提出来： p p p Logit -=1ln )( （1） 其中当p 从10→时，)(p Logit 从+∞→∞-，这个变化范围在模型数据处理上带来很大的方便， 解决了上述面临的难题。另外从函数的变形可得如下等价的公式： X T X T T e e p X p p p Logit ββ β+= ?=-=11ln )( （2） 模型(2)的基本要求是，因变量（y ）是个二元变量，仅取0或1两个值，而因变量取1的概率) |1(X y P =就是模型要研究的对象。而T k x x x X ),,,,1(21 =，其中i x 表示影响y 的第i 个因素，它可以是定性变量也可以是定量变量，T k ),,,(10ββββ =。为此模型(2)可以表述成： k x k x k x k x k k e e p x x p p βββββββββ+++++++= ?+++=- 11011011011ln （3） 显然p y E =)(，故上述模型表明) (1) (ln y E y E -是k x x x ,,,21 的线性函数。此时我们称满足上面条件 的回归方程为Logistic 线性回归。 Logistic 线性回归的主要问题是不能用普通的回归方式来分析模型，一方面离散变量的误差形式服从伯努利分布而非正态分布，即没有正态性假设前提；二是二值变量方差不是常数，有异方差性。不同于多元线性回归的最小二乘估计法则(残差平方和最小)，Logistic 变换的非线性特征采用极大似然估计的方法寻求最佳的回归系数。因此评价模型的拟合度的标准变为似然值而非离差平方和。 定义1 称事件发生与不发生的概率比为 优势比(比数比 odds ratio 简称OR)，形式上表示为 OR= k x k x e p p βββ+++=- 1101 （4） 定义2 Logistic 回归模型是通过极大似然估计法得到的，故模型好坏的评价准则有似然值来表征，称
Logistic 回归分析报告结果解读分析 Logistic 回归常用于分析二分类因变量（如存活和死亡、患病和未患病等）与多个自变量的关系。比较常用的情形是分析危险因素与是否发生某疾病相关联。例如，若探讨胃癌的危险因素，可以选择两组人群，一组是胃癌组，一组是非胃癌组，两组人群有不同的临床表现和生活方式等，因变量就为有或无胃癌，即“是” 或“否”，为二分类变量，自变量包括年龄、性别、饮食习惯、是否幽门螺杆菌感染等。自变量既可以是连续变量，也可以为分类变量。通过Logistic 回归分析，就可以大致了解胃癌的危险因素。 Logistic 回归与多元线性回归有很多相同之处，但最大的区别就在于他们的因变量不同。多元线性回归的因变量为连续变量；Logistic 回归的因变量为二分类变量或多分类变量，但二分类变量更常用，也更加容易解释。 1. Logistic 回归的用法 一般而言，Logistic 回归有两大用途，首先是寻找危险因素，如上文的例子，找出与胃癌相关的危险因素；其次是用于预测，我们可以根据建立的Logistic 回归模型，预测在不同的自变量情况下，发生某病或某种情况的概率（包括风险评分的建立）。 2. 用Logistic回归估计危险度 所谓相对危险度（risk ratio , RR）是用来描述某一因素不同状态发生疾病（或其它结局）危险程度的 比值。Logistic回归给出的OR（odds ratio）值与相对危险度类似，常用来表示相对于某一人群，另一人群发生终点事件的风险超出或减少的程度。如不同性别的
胃癌发生危险不同，通过Logistic回归可以求出危险度的具体数值，例如1.7，
二分类Logistic 回归模型 在对资料进行统计分析时常遇到反应变量为分类变量的资料，那么，能否用类似于线性回归的模型来对这种资料进行分析呢？答案是肯定的。本章将向大家介绍对二分类因变量进行回归建模的Logistic 回归模型。 第一节 模型简介 一、模型入门 在很多场合下都能碰到反应变量为二分类的资料，如考察公司中总裁级的领导层中是否有女性职员、某一天是否下雨、某病患者结局是否痊愈、调查对象是否为某商品的潜在消费者等。对于分类资料的分析，相信大家并不陌生，当要考察的影响因素较少，且也为分类变量时，分析者常用列联表(contingency Table)的形式对这种资料进行整理，并使用2 χ检验来进行分析，汉存在分类的混杂因素时，还可应用Mantel-Haenszel 2 χ检验进行统计学检验，这种方法可以很好地控制混杂因素的影响。但是这种经典分析方法也存在局限性，首先，它虽然可以控制若干个因素的作用，但无法描述其作用大小及方向，更不能考察各因素间是否存在交互任用；其次，该方法对样本含量的要求较大，当控制的分层因素较多时，单元格被划分的越来越细，列联表的格子中频数可能很小甚至为0，将导致检验结果的不可靠。最后，2 χ检验无法对连续性自变量的影响进行分析，而这将大大限制其应用范围，无疑是其致使的缺陷。 那么，能否建立类似于线性回归的模型，对这种数据加以分析？以最简单的二分类因变量为例来加以探讨，为了讨论方便，常定义出现阳性结果时反应变量取值为1，反之则取值为0 。例如当领导层有女性职员、下雨、痊愈时反应变量1y =，而没有女性职员、未下雨、未痊愈时反应变量0y =。记出现阳性结果的频率为反应变量(1)P y =。 首先，回顾一下标准的线性回归模型： μ11m m Y x x αββ=+++L 如果对分类变量直接拟合，则实质上拟合的是发生概率，参照前面线性回归方程 ，很 自然地会想到是否可以建立下面形式的回归模型： μ11m m P x x αββ=+++L 显然，该模型可以描述当各自变量变化时，因变量的发生概率会怎样变化，可以满足 分析的基本要求。实际上，统计学家们最早也在朝这一方向努力，并考虑到最小二乘法拟合时遇到的各种问题，对计算方法进行了改进，最终提出了加权最小二乘法来对该模型进行拟合，至今这种分析思路还偶有应用。 既然可以使用加权最小二乘法对模型加以估计，为什么现在又放弃了这种做法呢？原因在于有以下两个问题是这种分析思路所无法解决的： （1）取值区间：上述模型右侧的取值范围，或者说应用上述模型进行预报的范围为整 个实数集(,)-∞+∞，而模型的左边的取值范围为01P ≤≤，二者并不相符。模型本身不能
基于logistic 模型的企业生态系统演化分析 赵树宽 郝陶群 李金津(吉林大学,长春 130012) 〔摘 要〕 本文引入生态学的理论及方法,定义了企业生态系统,探讨了企业生态系统的基本结 构,概括出企业生态系统的特点,分析了企业生态系统演化的条件和动因,运用生物种群演化的logistic 模型描述了企业生态系统演化过程,并据此提出企业生态系统演化策略。 〔关键词〕 企业生态系统 logistic 增长模型 演化策略〔中图分类号〕F27015 〔文献标识码〕A 收稿日期:2008—07—15 生态系统一词最早由英国生态学家A 1G 1T ansley 于 1935年在他的“植被概念与术语的使用”一文中提出。 他指出“我们不能把生物与其特定的自然环境分开,生物与环境形成了一个自然系统。正是这种系统构成了地球表面上具有大小和类型的基本单位,这就是生态系统。”生态系统是指在一定时间和空间范围内,由生物群落与其环境组成的一个整体,该整体具有一定的大小和结构 ,各成员借助能量流动、物质循环和信息传递而相互联系、相互影响、相互依存,并形成具有自组织和调节功能的复合体。 企业与生物界的生物个体相似,没有一个企业可以脱离其他经济共同体而单独长期生存。企业在其特定的环境中,与外界进行物质、能量、信息和价值的交换,构成一个相互作用共同发展的整体。这个共同体就是企业生态系统。可以说在企业的发展过程中也要遵循“优胜劣汰、适者生存”等生态学的自然规律。因此,运用生态学的理论及思维方法分析和研究企业中的问题,即企业仿生化研究,具有重要的实践意义。 1 企业生态系统的构成 企业生态系统的构成具有层次性,可以分为企业内部生态和企业外部生态。企业内部生态指的是企业作为一个生物个体其有机体内的共生单元和生命系统,主要包括企业家、企业员工、资产状况、企业文化、技术水平、信息系统等。企业外部生态又可以分为生物成分和非生物成分。生物成分是指由不同物种所形成的生物群落, 包括同质企业、消费者、供应商、市场中介、和投资者。非生物成分则又分为自然生态和社会生态:自然生态是指企业所处地域的自然资源和地缘地貌和气候等因素;而社会生态反映的是社会发展水平,即包括有物质形态的因素也包括非物质形态的因素,主要有经济因素、政治因素、法律因素、文化背景因素、人力资源因素、科技水平因素等。如图1所示。图1 企业生态系统构成 企业个体及同质企业所形成的群体(Σa 1)是生物成分的主要物种之一。此外,消费者(Σb 1)、供应商 (Σc 1)、市场中介(Σd 1)和投资者(Σe 1)等也均可视为 企业生态系统的主要物种。企业生态系统的非生物成分有自然因素(ΣA 1)、经济因素(ΣB 1)、政治因素(ΣC 1)、法律因素(ΣD 1)、文化背景因素(ΣE 1)、人力资源因素 (ΣF 1)与科技水平因素(ΣG 1),由此可以抽象出一个企 业生态系统各相关成分间相互依赖关系的函数式: 企业生态系统=F (生物成分,非生物成分)=F (Σa 1、Σb 1、Σc 1、Σd 1、Σe 1…,ΣA 1、ΣB 1、ΣC 1、ΣD 1、ΣE 1、ΣF 1、ΣG 1… )企业生态系统还包括了政府部门和立法者、分别代表消费者和供应商的协会以及制定标准的机构,他们是一些特殊的成分,既可能是消费者、投资者,又对系统非生物环境起决定性作用,他们隐含在上述关系中。 2 企业生态系统的特点 企业生态系统与自然生态系统相比,既具有相似性,又具有其独特性。总的来说,企业生态系统主要有以下几个特点。 211 企业生态系统是一个动态循环的系统 在企业生态系统中,任何一个个体的生存都有赖于 — 07—
L o g i s t i c回归分析报告结果解读分析Logistic回归常用于分析二分类因变量(如存活和死亡、患病和未患病等)与多个自变量的关系。比较常用的情形是分析危险因素与是否发生某疾病相关联。例如，若探讨胃癌的危险因素，可以选择两组人群，一组是胃癌组，一组是非胃癌组，两组人群有不同的临床表现和生活方式等，因变量就为有或无胃癌，即“是”或“否”，为二分类变量，自变量包括年龄、性别、饮食习惯、是否幽门螺杆菌感染等。自变量既可以是连续变量，也可以为分类变量。通过Logistic回归分析，就可以大致了解胃癌的危险因素。 Logistic回归与多元线性回归有很多相同之处，但最大的区别就在于他们的因变量不同。多元线性回归的因变量为连续变量；Logistic回归的因变量为二分类变量或多分类变量，但二分类变量更常用，也更加容易解释。 回归的用法 一般而言，Logistic回归有两大用途，首先是寻找危险因素，如上文的例子，找出与胃癌相关的危险因素；其次是用于预测，我们可以根据建立的Logistic回归模型，预测在不同的自变量情况下，发生某病或某种情况的概率(包括风险评分的建立)。 2.用Logistic回归估计危险度 所谓相对危险度(riskratio，RR)是用来描述某一因素不同状态发生疾病(或其它结局)危险程度的 比值。Logistic回归给出的OR(oddsratio)值与相对危险度类似，常用来表示相对于某一人群，另一人群发生终点事件的风险超出或减少的程度。如不同性别的胃癌发生危险不同，通过Logistic回归可以求出危险度的具体数值，例如，这样就表示，男性发生胃癌的风险是女性的倍。这里要注意估计的方向问题，以女性作为参照，男性患
Logistic回归模型 1 Logistic回归模型的基本知识 1.1Logistic模型简介 主要应用在研究某些现象发生的概率，比如股票涨还是跌，公司成功或失败的概率，以及讨论概率与那些因素有关。显然作为概率值，一定有，因此很难用线性模型描述概率与自变量的关系，另外如果接近两个极端值，此时一般方法难以较好地反映p的微小变化。为此在构建与自变量关系的模型时，变换一下思路，不直接研究，而是研究的一个严格单调函数，并要求在接近两端值时对其微小变化很敏感。于是Logit 变换被提出来： （1）其中当从时，从，这个变化范围在模型数据处理上带来很大的方便，解决了上述面临的难题。另外从 函数的变形可得如下等价的公式： （2）模型(2)的基本要求是，因变量（y）是个二元变量，仅取0或1两个值，而因变量取1的概率就是模型要研究的对象。而，其中表示影响的第个因素，它可以是定性变量也可以是定量变量，。为此模型(2)可以表述成： （3）显然，故上述模型表明是的线性函数。此时我们称满足上面条件的回归方程为Logistic线性回归。 Logistic线性回归的主要问题是不能用普通的回归方式来分析模型，一方面离散变量的误差形式服从伯 努利分布而非正态分布，即没有正态性假设前提；二是二值变量方差不是常数，有异方差性。不同于多元线性回归的最小二乘估计法则(残差平方和最小)，Logistic变换的非线性特征采用极大似然估计的方法寻求最佳的回归系数。因此评价模型的拟合度的标准变为似然值而非离差平方和。 定义1 称事件发生与不发生的概率比为优势比(比数比odds ratio 简称OR)，形式上表示为 OR= （4） 定义2Logistic回归模型是通过极大似然估计法得到的，故模型好坏的评价准则有似然值来表征，称-2为估计值的拟合似然度，该值越小越好，如果模型完全拟合，则似然值为1，而拟合似然度达到最小，值为0。其中表示的对数似然函数值。 定义3记为估计值的方差-协方差矩阵，为的标准差矩阵，则称 （5）为的Wald统计量，在大样本时，近似服从分布，通过它实现对系数的显著性检验。 定义4 假定方程中只有常数项，即各变量的系数均为0，此时称 （6）为方程的显著性似然统计量，在大样本时，近似服从分布。 1.2 Logistic模型的分类及主要问题 根据研究设计的不同，Logistic回归通常分为成组资料的非条件Logistic回归和配对资料的条件Logistic 回归两种大类。还兼具两分类和多分类之分，分组与未分组之分，有序与无序变量之分。具体如下：
这个表类似于北京5环左右的房屋价钱，我们可以做出一个图，x轴是房屋的面积。y轴是房屋的售价，如下：
如果来了一个新的面积，假设在销售价钱的记录中没有的，我们怎么办呢？ 我们可以用一条曲线去尽量准的拟合这些数据，然后如果有新的输入过来，我们可以在将曲线上这个点对应的值返回。如果用一条直线去拟合，可能是下面的样子： 绿色的点就是我们想要预测的点。 首先给出一些概念和常用的符号。 房屋销售记录表：训练集(training set)或者训练数据(training data), 是我们流程中的输入数据，一般称为x 房屋销售价钱：输出数据，一般称为y 拟合的函数（或者称为假设或者模型）：一般写做 y = h(x) 训练数据的条目数(#training set),：一条训练数据是由一对输入数据和输出数据组成的输入数据的维度n (特征的个数，#features)
这个例子的特征是两维的，结果是一维的。然而回归方法能够解决特征多维，结果是一维多离散值或一维连续值的问题。 3 学习过程 下面是一个典型的机器学习的过程，首先给出一个输入数据，我们的算法会通过一系列的过程得到一个估计的函数，这个函数有能力对没有见过的新数据 给出一个新的估计，也被称为构建一个模型。就如同上面的线性回归函数。 4 线性回归 线性回归假设特征和结果满足线性关系。其实线性关系的表达能力非常强大，每个特征对结果的影响强弱可以由前面的参数体现，而且每个特征变量可以首 先映射到一个函数，然后再参与线性计算。这样就可以表达特征与结果之间的 非线性关系。 我们用X1，X2..Xn 去描述feature里面的分量，比如x1=房间的面积， x2=房间的朝向，等等，我们可以做出一个估计函数：
基于SPSS logistic回归分析探究不同月均收入的男女比例 一一一 华北科技学院基础部北京东燕郊 065201 摘要：在计划经济时代,由于中国政府推行男女性别平等的就业制度和工资分配制度,因而城市劳动力性别工资差异并不明显。经济改革以来,伴随着由计划经济向市场经济的转型,工资分配机制发生了根本改变,性别工资差异越来越明显。性别分割是我国劳动力市场上一直存在的一种现象,性别收入差距总体趋势在扩大;个体特征差异能够在一定程度上解释性别收入差异,现阶段性别收入差异在很大程度上是由于劳动者本身的人力资本水平引起的,是正常合理的范围;歧视仍然是造成性别收入差距的一个原因,女性在获得教育的机会上还是比男性要低,而且女性很难进入到高收入行业和职业,使得在教育方面女性仍然处于不利地位。本文将运用SPSS二元回归分析探究不同月均收入对应的男女比例并得出结论，旨在对分析结果提出一些有建设性的建议。 关键词：logistic回归分析；SPSS软件；人均收入；性别比例 Based on SPSS logistic regression analysis to explore the sex ratio of different monthly income NIU Xiaoyu （North China institute of science and technology，Beijing，065201，China） Abstract: In the era of planned economy, as a result of the Chinese government to implement gender equality employment system and salary distribution system, and urban labor gender wage gap is not obvious. Since the economic reform, with the transition from planned economy to market economy, fundamental changes have taken place in wage distribution mechanism, the gender wage gap is more and more obvious. Gender segmentation is China's labor market has been a phenomenon of gender overall trend in the expanding income gap; Individual characteristics can partly explain the gender income differences, gender differences at present stage is largely caused by the human capital level of laborer itself, is a normal reasonable range; Discrimination is still a cause of the gender pay gap, women in the opportunity to gain education or lower than men,
1 logistic回归 logistic回归又称logistic回归分析，是一种广义的线性回归分析模型，常用于数据挖掘，疾病自动诊断，经济预测等领域。例如，探讨引发疾病的危险因素，并根据危险因素预测疾病发生的概率等。以胃癌病情分析为例，选择两组人群，一组是胃癌组，一组是非胃癌组，两组人群必定具有不同的体征与生活方式等。因此因变量就为是否胃癌，值为“是”或“否”，自变量就可以包括很多了，如年龄、性别、饮食习惯、幽门螺杆菌感染等。自变量既可以是连续的，也可以是分类的。然后通过logistic回归分析，可以得到自变量的权重，从而可以大致了解到底哪些因素是胃癌的危险因素。同时根据该权值可以根据危险因素预测一个人患癌症的可能性。 1.1 logistic回归概述 logistic回归是一种广义线性回归（generalized linear model），因此与多重线性回归分析有很多相同之处。它们的模型形式基本上相同，都具有w…x+b，其中w和b是待求参数，其区别在于他们的因变量不同，多重线性回归直接将w…x+b 作为因变量，即y =w…x+b，而logistic回归则通过函数L将w…x+b对应一个隐状态p，p =L(w…x+b),然后根据p 与1-p的大小决定因变量的值。如果L是logistic 函数，就是logistic回归，如果L是多项式函数就是多项式回归。 logistic回归的因变量可以是二分类的，也可以是多分类的，但是二分类的更为常用，也更加容易解释，多类可以使用softmax方法进行处理。实际中最为常用的就是二分类的logistic回归。 Logistic回归模型的适用条件 1 因变量为二分类的分类变量或某事件的发生率，并且是数值型变量。但是需要注意，重复计数现象指标不适用于Logistic回归。 2 残差和因变量都要服从二项分布。二项分布对应的是分类变量，所以不是正态分布，进而不是用最小二乘法，而是最大似然法来解决方程估计和检验问题。 3 自变量和Logistic概率是线性关系 4 各观测对象间相互独立。 原理：如果直接将线性回归的模型扣到Logistic回归中，会造成方程二边取值区间不同和普遍的非直线关系。因为Logistic中因变量为二分类变量，某个概
Logistic回归分析报告结果解读分析Logistic回归常用于分析二分类因变量(如存活和死亡、患病和未患病等)与多个自变量的关系。比较常用的情形是分析危险因素与是否发生某疾病相关联。例如，若探讨胃癌的危险因素，可以选择两组人群，一组是胃癌组，一组是非胃癌组，两组人群有不同的临床表现和生活方式等，因变量就为有或无胃癌，即“是”或“否”，为二分类变量，自变量包括年龄、性别、饮食习惯、是否幽门螺杆菌感染等。自变量既可以是连续变量，也可以为分类变量。通过Logistic回归分析，就可以大致了解胃癌的危险因素。 Logistic回归与多元线性回归有很多相同之处，但最大的区别就在于他们的因变量不同。多元线性回归的因变量为连续变量；Logistic回归的因变量为二分类变量或多分类变量，但二分类变量更常用，也更加容易解释。 1.Logistic回归的用法 一般而言，Logistic回归有两大用途，首先是寻找危险因素，如上文的例子，找出与胃癌相关的危险因素；其次是用于预测，我们可以根据建立的Logistic回归模型，预测在不同的自变量情况下，发生某病或某种情况的概率(包括风险评分的建立)。 2.用Logistic回归估计危险度 所谓相对危险度(risk ratio，RR)是用来描述某一因素不同状态发生疾病(或其它结局)危险程度的 比值。Logistic回归给出的OR(odds ratio)值与相对危险度类似，常用来表示相对于某一人群，另一人群发生终点事件的风险超出或减少的程度。如不同性别的胃癌发生危险不同，通过Logistic回归可以求出危险度的具体数值，例如1.7，
这样就表示，男性发生胃癌的风险是女性的1.7倍。这里要注意估计的方向问题，以女性作为参照，男性患胃癌的OR是1.7。如果以男性作为参照，算出的OR将会是0.588(1/1.7)，表示女性发生胃癌的风险是男性的0.588倍，或者说，是男性的58.8％。撇开了参照组，相对危险度就没有意义了。 Logistic回归在医学研究中广泛使用的原因之一，就是模型直接给出具有临床实际意义的OR值，很大程度上方便了结果的解读与推广。 图1 相对危险度(risk ratio，RR)与OR(odds ratio)的表达 3. Logistic报告OR值或β值 在Logistic回归结果汇报时，往往会遇到这样一个问题：是应该报告OR值，
假设有一个房屋销售的数据如下： 面积(m^2)销售价钱（万元） 123250 150320 87160 102220 …… 这个表类似于北京5环左右的房屋价钱，我们可以做出一个图，x轴是房屋的面积。y轴是房屋的售价，如下： 如果来了一个新的面积，假设在销售价钱的记录中没有的，我们怎么办呢？ 我们可以用一条曲线去尽量准的拟合这些数据，然后如果有新的输入过来，我们可以在将曲线上这个点对应的值返回。如果用一条直线去拟合，可能是下面的样子： 绿色的点就是我们想要预测的点。
首先给出一些概念和常用的符号。 房屋销售记录表：训练集(training set)或者训练数据(training data), 是我们流程中的输入数据，一般称为x 房屋销售价钱：输出数据，一般称为y 拟合的函数（或者称为假设或者模型）：一般写做y = h(x) 训练数据的条目数(#training set),：一条训练数据是由一对输入数据和输出数据组成的输入数据的维度n (特征的个数，#features) 这个例子的特征是两维的，结果是一维的。然而回归方法能够解决特征多维，结果是一维多离散值或一维连续值的问题。 3 学习过程 下面是一个典型的机器学习的过程，首先给出一个输入数据，我们的算法会通过一系列的过程得到一个估计的函数，这个函数有能力对没有见过的新数据给出一个新的估计，也被称为构建一个模型。就如同上面的线性回归函数。 4 线性回归 线性回归假设特征和结果满足线性关系。其实线性关系的表达能力非常强大，每个特征对结果的影响强弱可以由前面的参数体现，而且每个特征变量可以首先映射到一个函数，然后再参与线性计算。这样就可以表达特征与结果之间的非线性关系。 我们用X1，X2..Xn 去描述feature里面的分量，比如x1=房间的面积，x2=房间的朝向，等等，我们可以做出一个估计函数： θ在这儿称为参数，在这的意思是调整feature中每个分量的影响力，就是到底是房屋的面积更重要还是房屋的地段更重要。为了如果我们令X0 = 1，就可以用向量的方式来表示了：
[]logistic回归模型总结 logistic回归模型是最成熟也是应用最广泛的分类模型，通过学习和实践拟通过从入门、进阶到高级的过程对其进行总结，以便加深自己的理解也为对此有兴趣者提供学习的便利。 一、有关logistic的基本概念 logistic回归主要用来预测离散因变量与一组解释变量之间的关系 最常用的是二值型logistic。即因变量的取值只包含两个类别例如：好、坏；发生、不发生；常用Y=1或Y=0表示X表示解释变量则 P（Y=1|X）表示在X的条件下Y=1的概率，logistic回归的数学表达式为： log（p/1-p）=A+BX ＝Ｌ其中p/1-p称为优势比（ＯＤＤＳ）即发生与不发生的概率之比 可以根据上式反求出P（Y=1|X）＝１/（１＋ｅ＾-L） 根据样本资料可以通过最大似然估计计算出模型的参数 然后根据求出的模型进行预测 下面介绍logistic回归在ＳＡＳ中的实现以及输出结果的解释 二、logistic回归模型初步
ＳＡＳ中ｌｏｇｉｓｔｉｃ回归输出结果主要包括预测模型的评价以及模型的参数 预测模型的评价与多元线性回归模型的评价类似主要从以下几个层次进行 （１）模型的整体拟合优度 主要评价预测值与观测值之间的总体一致性。可以通过以下两个指标来进行检验 １、Ｈosmer-Lemeshowz指标 HL统计量的原假设Ho是预测值和观测值之间无显著差异，因此HL指标的P-Value的值越大，越不能拒绝原假设，即说明模型很好的拟合了数据。 在ＳＡＳ中这个指标可以用LACKFIT选项进行调用 ２、AIC和SC指标即池雷准则和施瓦茨准则 与线性回归类似AIC和SC越小说明模型拟合的越好 （2）从整体上看解释变量对因变量有无解释作用 相当于多元回归中的F检验在logistic回归中可以通过似然比（likelihood ratio
第十二章 Logistic 回归分析 一、Logistic 回归概述： Logistic 回归主要用于筛选疾病的危险因素、预后因素或评价治疗措施；通常以疾病的死亡、痊愈等结果发生的概率为因变量，以影响疾病发生和预后的因素为自变量建立模型。 二、Logistic 回归的分类及资料类型： 第一节 非条件Logistic 回归分析 一、Logistic 回归模型： Logistic 回归模型： logit （P ）= ln( p p -1) = β0+β1χ 1 + … +βn χn 二、回归系数的估计（参数估计）： 回归模型的参数估计：Logistic 回归模型的参数估计通常利用最大似然估计法。 三、假设检验： 1．Logistic 回归方程的检验： ·检验模型中所有自变量整体来看是否与所研究事件的对数优势比存在线性关系，也即方程是否成立。 ·检验的方法有似然比检验、比分检验（score test ）和Wald 检验（wald test ）。上述三种方法中，似然比检验最可靠。 ·似然比检验（likehood ratio test ）：通过比较包含与不包含某一个或几个待检验观察因素的两个模型的对数似然函数变化来进行，其统计量为G=-2ln(L)（又称Deviance ）。无效假设H 0：β=0。当H 0成立时，检验统计量G 近似服从自由度为N-P-1的X 2 分布。当G 大于临界值时，接受H 1,拒绝无效假设，认为从整体上看适合作Logistic 回归分析，回归方程成立。 2．Logistic 回归系数的检验： ·为了确定哪些自变量能进入方程，还需要对每个自变量的回归系数进行假设检验，判断其对模型是否有贡献。 ) (1101101101 1 11)](exp[11 )exp(1)exp(p p X X p p p p p p e X X X X X X p ββββββββββββ+++-+= +++-+=+++++++=
如何用spss17.0进行二元和多元logistic 回归分析 一、二元logistic 回归分析 二元logistic 回归分析的前提为因变量是可以转化为0、1的二分变量，如：死亡或者生存，男性或者女性，有或无，Yes 或No ，是或否的情况。 下面以医学中不同类型脑梗塞与年龄和性别之间的相互关系来进行二元logistic 回归分析。 （一）数据准备和SPSS 选项设置 第一步，原始数据的转化：如图1-1所示，其中脑梗塞可以分为ICAS 、ECAS 和NCAS 三种，但现在我们仅考虑性别和年龄与ICAS 的关系，因此将分组数据ICAS 、ECAS 和NCAS 转化为1、0分类，是ICAS 赋值为1，否赋值为0。年龄为数值变量，可直接输入到spss 中，而性别需要转化为（1、0）分类变量输入到spss 当中，假设男性为1，女性为0，但在后续分析中系统会将1，0置换（下面还会介绍），因此为方便期间我们这里先将男女赋值置换，即男性为“0”，女性为“1”。 第二步：打开“二值Logistic 回归分析”对话框： 沿着主菜单的“分析（Analyze ）→回归（Regression ）→二元logistic （Binary Logistic ）”的路径（图1-2）打开二值Logistic 回归分析选项框（图1-3）。 如图1-3左侧对话框中有许多变量，但在单因素方差分析中与ICAS 显著相关的为性别、年龄、有无高血压，有无糖尿病等（P<0.05），因此我们这里选择以性别和年龄为例进行分析。 图 1-1
在图1-3中，因为我们要分析性别和年龄与ICAS 的相关程度，因此将ICAS 选入因变量（Dependent ）中，而将性别和年龄选入协变量（Covariates ）框中，在协变量下方的“方法（Method ）”一栏中，共有七个选项。采用第一种方法，即系统默认的强迫回归方法（进入“Enter ”）。 接下来我们将对分类（Categorical ），保存（Save ），选项（Options ）按照如图1-4、1-5、1-6中所示进行设置。在“分类”对话框中，因为性别为二分类变量，因此将其选入分类协变量中，参考类别为在分析中是以最小数值“0（第一个）”作为参考，还是将最大数值“1（最后一个）”作为参考，这里我们选择第一个“0”作为参考。在“存放”选项框中是指将不将数据输出到编辑显示区中。在“选项”对话框中要勾选如图几项，其中“exp(B)的CI(X)”一定要勾选，这个就是输出的OR 和CI 值，后面的95%为系统默认，不需要更改。 图 1-2 图1-3