当前位置：文档之家 › 广义线性模型_四_

广义线性模型_四_

  • 格式：pdf
  • 大小：218.99 KB
  • 文档页数：8

β+θr x′ )) P ( Y = r) = ( 1 - exp ( - e
j =1
7 exp ( -
e
β+θr x′
)
= { 1 - exp ( - e
β+ θr x′
+ e
β+θr- 1 x′
β+ θr- 1 ) } exp ( - e x′ )
β+ β+ θr- 1 θr- 1 x′ ) - exp ( - e x′ ) Χ K = exp ( - e ( ) ( ) ( ) 因此有 P Y Φ r = 1 - P Y > r = 1 - J P Y = r = 1 - J K β+θr ) 简单计算表明 J K = exp ( - e x′ β+ θr ) , r = 1 , …, q 于是 P ( Y > r | x ) = 1 - exp ( - e x′ β+θr x′ ( ) ( ) 或 P Y Φ r | x = exp - e , r = 1 , …, q 把 ( 1 . 116) 与 ( 1 . 76) 对照 , 看出二者一致 , 只不过 θ r 抽象成θ r , Y 换成 Y 。 0 - t 3 . 指数模型 : F ( t ) = 1 - e ( t > 0) β ) β> 0 有 P ( Y = r| Y = r , x ) = 1 - e - (θr + x′ , 这要求 θ r + x′ 序贯模型的联系函数易由 ( 1 . 106) 求出 , 因
)
( 1 . 109)
可写为 P ( Y = r | x ) / P ( Y Ε r | x ) = 1 - exp ( - e θr + x′ β ) 或 P ( Y > r | x ) / P ( Y Ε r | x ) = exp ( - e
) =θ β r + x′ P( Y Ε r | x) 反过来 , 由 ( 1 . 110) 也可推出 ( 1 . 109)
Modeling Based on Generalized Linear Models》 。
关键词 : 广义线性模型 ; 建模 ; 统计分析 ; 模型选择和诊断 中图分类号 :O212 文献标识码 :A
General ized Linear Models
CHEN Xi2ru
( Graduate School of Chinese Academia of Science ,Beijing 100039 ,China) Abstract :This set of articles gives an introduction to generalized linear models. They can be divided into t hree parts : Model building ,Statistical inference and Model diagnostics. The presentation is mainly based on L . Fahrmeir et al.
不
497 560 269
设一共有 k 个状态 1 , …, k , q = k - 1 。 Y 记对象所处状态 , 而
Y 记其最终状态 , 状态过渡的机制假定如下 , 设对象此时处在状态 r , 即此时的 Y = r , 或 Y Ε r 。
它能否最终固定在 r , 取决于一潜在的变量 U r 和门限θ r:
( 五) 序贯模型
在有些问题中 ,目标各状态排成一个自然次序 ,一个对象从状态 1 开始 ,可能最终停留在这 个状态 ,也可能上升到状态 2 。一般 ,在对象进至状态 r 后 , 它可以最终保持在 r 或上升至 r + 1 , … 例如 , 人的职务、 职称的升等 , 一种不可逆转的疾病的分期 , 属于这种状况 , 所观察的是该对象 的最终状态 , 分析的目的是弄清 :最终取某些状态的概率与某些因素 ( 自变量) 之间的关系。 例 1 . 9 儿童扁桃体肥大分 3 个状态 :正常 、 肥大 、 很肥大 。考虑的因素是 , 是否是链球菌的 带菌者 ( 带菌 + 1 , 不带菌 - 1) 。数据 : 正常 肥大 很肥大 在有些情况下 , 有可能从高状态向低状态过渡 。如某一疾病 , 治疗 带菌 19 29 24 有效从 2 期转为 1 期 。此处只考虑能上不能下的情况 。
β )。 把此式与 ( 1 . 108) 的第一式比较 , 即得 a = exp (θr + x′
2 0 . 极值模型 : F ( t ) = 1 - exp ( - et ) 有据 ( 1 . 106)
P ( Y = r | Y = r , x ) = 1 - exp ( - e
θr + x′ β
β =θ r + x′
( 1 . 108)
记 a = P ( Y = r| x ) / P ( Y > r| x ) , 有
P ( Y = r| Y = r , x ) = P ( Y = r | Y Ε r , x ) = P ( Y = r| x ) P ( Y Ε r| x ) P ( Y = r| x ) a = = P ( Y = r| x ) + P ( Y > r| x ) 1 + a
=
exp ( - e x′+ r + e - x′+ r- 1 ) ΧJ βθ βθ 1 - exp ( - e x′+ r + e - x′+ r- 1 )
βθ
βθ
( 1 . 113)
( 最后一步用了 ( 1 . 112) )
又由 ( 1 . 107) 有 ( 仍用 ( 1 . 112) )
r- 1
© 1994-2007 China Academic Journal Electronic Publishing House. All rights reserved.
广义线性模型 ( 四)
( 1 . 105) , 有 便 , 不妨把 ( 1 . 105) 中的 x 看成是经过取代的) 。按 ( 1 . 104) 、 β + e r) Φ θ β ) P ( Y = r | Y = r , x ) = P ( ( - x′ r ) = F (θ r + x′
《Multivariate Statistical Modeling Based on Generalized Linear Models》 .
Key Words :generalized linear models ;model building ;statistical inference ;model diagnostics
பைடு நூலகம்56
中文核心期刊 数理统计与管理 22 卷 2期 2003 年 3 月
文章编号 :1002 — 1566 ( 2003) 02 — 0056 — 08
广义线性模型 ( 四)
陈希孺
( 中国科学院研究生院 北京 100039)
摘 要 : 本讲座是广义线性模型这个题目的一个比较系统的介绍 。主要分 3 部分 ; 建模 、 统计分析 与模型选择和诊断 。写作时依据的主要参考资料是 L . Fahrmeir 等人的 《 Multivariate Statistical
θr + x′ β
)
因此 log ( - log
P( Y > r | x)
( 1 . 110)
有趣的是 , 经过适当的参数变换 , 此模型可化为非序贯情况下的分组 Cox 模型 ( 1 . 76 ) 。 事实上 , 令 θ 0 = - ∞, 而 θ j = log ( 则
e
θj
6
j i =1
θ e j ) , j = 1 , …, q
r- 1
β ) P ( { Y = r | x ) = F (θ r + x′ 由对 F 的选择产生种种模型 :
1 0 . 序贯 logit 模型 : F ( t ) =
e
t
j =1
7
( 1 - F (θ β )) j + x′
( 1 . 107)
( 当 r = 1 时乘积项理解为 1)
1 + et β ) exp (θ r + x′ P ( Y = r| x ) 有 P ( Y = r| Y = r , x ) = , log β ) 1 + exp (θ P ( Y > r| x ) r + x′ 前一式即 ( 1 . 106) , 后一式推导如下 :
( 1 . 114)
( 1 . 115) ( 1 . 116) ( 1 . 117)
P( Y = r | Y = r , x) =
P( Y = r | x) P( Y = r | x)
=
π( r) P( Y = r | x) = P( Y Ε r | x) 1 - (π( 1) + … + π( r - 1) ) β, r = 1 , …, q =θ r + x′
… ) g q (π
t
= Z ( x)γ
( 1 . 119)
在序贯 logit 模型的情况 , F - 1 ( t ) = log
) = log gr (π
1- t
,故 , r = 1 , …, q ( 1 . 120)
π( r)
1 - (π( 1) + … + π( r) )
它不是自然联系函数 。如在累积线性模型中的情况一样 , 不论如何选择分布函数 F , 都不可能 得到自然联系函数 。 估计出 θ 1 , …,θ q 和β, 可利用 ( 1 . 107 ) 估计 ( 据个体的 x 值) 该个体最终取序值 r 的概率 , 而用 ( 1 . 106) 可以估计在该个体已达到序值 r 的条件下 , 该个体最终停留在 r 的概率 。 在上述讨论中 , 作了两个简化假设 :一是在各状态下使用同一些自变量 x , 二是在各状态 下 x 的影响相同 — — — 这反映在使用同一个 β上 。有这种可能 :1 . 使用的 x 与个体当时所处序 值有关 。2 . 同一个因素 , 在个体处在不同阶段时 , 所起作用可以不同 。例如 , 一个人由助教升 讲师时起作用的那些个人条件 , 与他由副教授升教授时起作用的条件不尽一样 。例如基金的

合集下载

第四章-广义线性回归

第四章-广义线性回归


p 维向量
。
；其中
此时，对应的检验假说为
。
在 下有
。
假定扰动项服从正态分布，则无约束下的对数似然函数为：
，参数 为
参数 对应的一阶导和二阶导为：
则在 下有
其中， 由于信息矩阵 可构造如下：
，
。
为分块对角阵，则约束
即 LM 统计量的值等于 g 对 Z 回归的回归平方和的一半。 又因为在正态分布设定条件下有
检验统计量计算如下：
(4-14)
其中， 和 通常取
分别为两段样本 LS 回归的残差， 和 ，则上式可简化为：
为对应的样本长度。
(4-15)
注意，计算上式 F 统计量时，必须把较大者放在分子。 Goldfeld-Quandt 检验是 LS 估计框架下最简单的方差检验，它与普通的方差结构变化检
验非常接近，比较容易计算。但它也具有一定的局限性：首先，扰动项假定服从正态分布；
和 ）下，上述的两
5 / 26
第四章 广义线性回归
其中，
。
需要注意的是，当我们假定
时，事实上是假定了一种特殊的非球形扰动形
式，这种假定很有可能是不准确的，因此，基于这种特定形式下的估计结果必须建立在相应
的诊断性检验上。
4.2 异方差
4.2.1 异方差检验
异方差设定具体有两种形式：一般的异方差形式设定各期扰动项的方差都不同，此时通 常会假定这种异方差与某些变量有关；另一种特殊的形式则是设定不同组间存在异方差，即 把数据划分为若干组，并假定各组扰动项的方差不同，但在同一组内方差相同。
如果协方差阵未知，则 FGLS 估计如下：
此时，对 WLS 估计的两步估计可以使用迭代的方法。
3．协方差一致稳健估计
广义估计方程

广义估计方程


总结
其特点归纳如下： 1)建模稳健。即使作业相关矩阵指定不正确
，只要联接函数正确，仍然可以得到稳定的参 数估计值。
2)充分利用资料信息。对多次重复测量的纵 向数据，广义估计方程利用了每次测量的结果 ，较少损失资料的信息。
总结3)应变量不是连续性变量时，考察应变量之间
联合分布和协方差矩阵非常困难，常规的统计模 型难以处理这个问题。利用广义估计方程不仅解 决了这类资料的建模问题，还可得到相关矩阵以 衡量重复测量之间相关性的大小，是一种较好的 分析策略。
一般线性模型
方差分析
一般线性模型
应用： 用于研究某个指标(应变量，记为Yi)与一
组指标(Xi1， Xi2，… ，Xij)之间的线性关系 。 表达式：
yi=β0+ β1Xi1+ β2Xi2+ … βjXij+ei
一般线性模型
一般线性模型对于残差分布的三个重要假设： (1)独立 (2)符合正态分布，且均数为0 (3)方差齐性，即ei的方差相等
纵向数据
传统的统计方法一般都要求应变量是独立 的，因而，由于应变量之间的相关，纵向数据 不能用传统的方法来分析。因为如果忽略重复 测量间的相关性，将损失数据中的信息，参数 估计可能不准确。因此，Liang和Zeger等创立 了广义估计方程(generalized estimating equations) 。
4)模型可以引入多种形式的自变量，考察分类 、等级、连续的或其他形式的自变量对应变量影 响的大小。
应用举例
表2 某药物抗癫痫的随机对照临床试验对照组每2周的发作次数
ID Base Visit4
Visit1
Visit2 Visit3
1
11
线性统计模型知识点总结

线性统计模型知识点总结

线性统计模型知识点总结一、线性回归模型1. 线性回归模型的基本思想线性回归模型是一种用于建立自变量和因变量之间线性关系的统计模型。

它的基本思想是假设自变量与因变量之间存在线性关系，通过对数据进行拟合和预测，以找到最佳拟合直线来描述这种关系。

2. 线性回归模型的假设线性回归模型有一些假设条件，包括：自变量与因变量之间存在线性关系、误差项服从正态分布、误差项的方差是常数、自变量之间不存在多重共线性等。

3. 线性回归模型的公式线性回归模型可以用如下的数学公式来表示：Y = β0 + β1X1 + β2X2 + ... + βnXn + ε，其中Y 是因变量，X是自变量，β是模型的系数，ε是误差项。

4. 线性回归模型的参数估计线性回归模型的参数估计通常使用最小二乘法来进行。

最小二乘法的目标是通过最小化残差平方和来寻找到最佳的模型系数。

5. 线性回归模型的模型评估线性回归模型的好坏可以通过很多指标来进行评价，如R-squared（R^2）、调整后的R-squared、残差标准差、F统计量等。

6. 线性回归模型的应用线性回归模型广泛应用于经济学、金融学、市场营销、社会科学等领域，用以解释变量之间的关系并进行预测。

二、一般线性模型（GLM）1. 一般线性模型的基本概念一般线性模型是一种用于探索因变量与自变量之间关系的统计模型。

它是线性回归模型的一种推广形式，可以处理更为复杂的数据情况。

2. 一般线性模型的模型构建一般线性模型与线性回归模型相似，只是在因变量和自变量之间的联系上，进行了更为灵活的变化。

除了线性模型，一般线性模型还可以包括对数线性模型、逻辑斯蒂回归模型等。

3. 一般线性模型的假设一般线性模型与线性回归模型一样，也有一些假设条件需要满足，如误差项的正态分布、误差项方差的齐性等。

4. 一般线性模型的模型评估一般线性模型的模型评估通常涉及到对应的似然函数、AIC、BIC、残差分析等指标。

5. 一般线性模型的应用一般线性模型可以应用于各种不同的领域，包括医学、生物学、社会科学等，用以研究因变量与自变量之间的关系。

广义线性模型

广义线性模型


2 1/ 2 2
1
3 2
伽玛分布
1
ln
1
1
2
二项分布 ln p
ln1 e 1
1 p
Poisson 分布 ln
e
1
p
e 1 e
e
p1 p
负二项分布 ln
e
k
e
k2
何为“广义线性模型”？(续)
一个广义线性模型包括以下三个组成部分： （1）线性成分(linear component ) ：
SAS软件中的PROC GENMOD：
The GENMOD Procedure
The GENMOD procedure fits generalized linear models. The class of generalized linear models is an extension of traditional linear models that allows the mean of a population to depend on a linear predictor through a nonlinear link function and allows the response probability distribution to be any member of an exponential family of distributions. Many widely used statistical models are generalized linear models. These include classical linear models with normal errors, logistic and probit models for binary data, and log-linear models for multinomial data. Many other useful statistical models can be formulated as generalized linear models by the selection of an appropriate link function and response probability distribution.