对数线性模型剖析

对于分类数据的分析，最简单也是最广泛使用的是卡方检验，但卡方检验在处理分类数据时，有两个局限：1.卡方检验只能简单描述变量间的相关关系，而无法分析出具体的因果关系或变量间相互作用（效应）大小2.卡方检验通常用于2*2列联表，而对于高维列联表，则无法系统的评价变量间的关系，而对数线性模型则是分析高维列联表的常用方法。

基于以上问题，我们除了可以使用Logistic模型之外，还可以使用对数线性模型进行分析。

对数线性模型的结构类似于方差分析，思想也和方差分析一样，不同的是方差分析用于连续变量，而对数线性模型用于分类变量。

在方差分析中，观测值y 的变异由各因素的主效应、各因素之间的交互效应、随机误差三者之和组成。

而对于分类变量也可以采用这种方法进行分解，只不过此时的观测值y为频数而不是实际的观测值，最终观测值变异的组成也不是相加关系，而是乘积关系。

以两个分类变量α、β为例:M ij代表第i行第j列的频数αi代表变量α的主效应βj代表变量β的主效应(αβ)ij代表变量αβ的交互作用εij代表随机误差分类数据的频数分布一般分为多项式分布、二项式分布、泊松分布，取值在0—+∞之间，因此等式两边都取其对数ln，这样可以使期望频数取值在-∞—+∞，这就是所谓的对数线性模型。

模型的独立参数和自由度：独立参数个数=分类数-限制条件数数据提供的信息量=列联表中网格的数量模型自由度=信息量-独立参数个数对数线性模型的一个假设前提是：每个分类变量各水平的效应之和等于0========================================== ===对数线性模型的统计检验：对数线性模型的假设检验都是基于Pearson卡方检验和似然比卡方检验L2，当样本规模较大时，这两个统计值很接近，但似然比卡方更加稳健1.对模型的整体检验也就是拟合优度检验，两种卡方的零假设是：检验模型的频数估计与观测频数无差异，也就是拟合度良好2.分层效应检验类似于逐步回归的筛选自变量，分层效应检验就是逐步筛选交互作用，每剔除一种交互作用，就检验一次，主要是：某一阶及更高阶所有交互作用项的集体检验，检验是否显著表明这一阶及更高阶中是否至少有一项分类的效应是有意义的。

对数线性模型的应用的原理1. 介绍对数线性模型（Log-linear model）是一种统计模型，在许多领域中都有广泛的应用。

该模型主要用于建立关于两个或更多个变量之间关系的数学模型，并通过统计方法进行参数估计。

本文将介绍对数线性模型的原理及其在实际应用中的一些常见情况。

2. 对数线性模型的原理对数线性模型基于对数函数的性质以及一些基本假设，通过最大似然估计等方法对模型参数进行估计。

其数学形式可以表示为：log(y) = β₀ + β₁x₁ + β₂x₂ + ... + βₖxₖ其中，y是因变量，x₁、x₂、…、xₖ是自变量，β₀、β₁、β₂、…、βₖ是待估计的参数。

模型中的自变量可以是离散型或连续型，而因变量一般为计数或频率等。

通过对模型参数的估计，可以得到每个自变量与因变量之间的关系。

3. 对数线性模型的应用对数线性模型在各个领域中都有广泛的应用，下面列举了一些常见的应用情况：3.1 人口统计学在人口统计学中，对数线性模型常用于研究人口特征与人口发展之间的关系。

例如，可以使用对数线性模型分析某地区的人口数量与年龄、教育程度、职业等因素之间的关系。

•基本模型：log(人口数量) = β₀ + β₁年龄+ β₂教育程度+ β₃*职业•参数估计：通过最大似然估计，估计模型中的参数β₀、β₁、β₂、β₃的值•结果解读：根据参数估计结果，推断不同因素对于人口数量的影响程度3.2 市场营销对数线性模型在市场营销中的应用十分广泛。

例如，可以使用对数线性模型分析某产品的销售量与价格、广告投入、竞争对手销售量等因素之间的关系。

•基本模型：log(销售量) = β₀ + β₁价格+ β₂广告投入+ β₃*竞争对手销售量•参数估计：通过最大似然估计，估计模型中的参数β₀、β₁、β₂、β₃的值•结果解读：根据参数估计结果，推断不同因素对于销售量的影响程度3.3 健康科学在健康科学领域，对数线性模型常用于研究疾病发生率与各种危险因素之间的关系。

实验报告——线性模型与对数模型举例分析一、实验目的本实验的目的在于研究GNP 与货币是否有关系，若有关系有怎样的数量关系，用哪种模型来描述二者之间关系较为合适。

二、下面根据GNP/货币供给数据,得到的回归结果(Y=GNP ，X=货币供给):年 GNP （10亿美元） Μ2 年 GNP （10亿美元） Μ2 1973 1359.3 861.0 1981 3052.6 1795.5 1974 1472.8 908.5 1982 3166.0 1954.0 1975 1598.4 1023.2 1983 3405.7 2185.2 1976 1782.8 1163.7 1984 3772.2 2363.6 1977 1990.5 1286.7 1985 4014.9 2562.6 1978 2249.7 1389.0 1986 4240.3 2807.7 1979 2508.2 1500.2 1987 4526.7 2901.0 1980 2732.0 1633.1 平均值 2791.47 1755.70模型 截距 斜率2r双对数 0.5531 0.9882 0.9926t=（3.1652） 41.889 对数-线性 6.8616 0.00057 0.9493 （增长模型） t=（100.05） 15.597 线性-对数 -16329.0 2584.8 0.9832t=（-23.494） 27.549 线性 101.20 1.5323 0.9915 （LIV 模型） t=（1.369） 38.867a. 解释每个模型斜率的意义。

1. 双对数模型中斜率0.9882表示，货币供给每提高1个百分点，GNP 平均增加约0.98个百分点。

2. 对数―线性模型中的斜率0.00057表示，货币供给每增加1（10亿）美元，GNP 将以0.057%的速度增长。

3. 线性―对数模型中的斜率2584.8表示，货币供给每提高1个百分点，GNP 将增加25.848（10亿）美元。

对数线性化是在解非线性差分方程组（nonlinear difference equation system）的时候用的一种线性化方法。

这个方法在微分方程上面也有用过，但是在宏观经济学上面一般都是采用差分方程，所以自然我们要学习的内容是如何线性化差分方程。

这看似是一个小步骤，但是很重要，我曾经麻烦三个人帮我对数线性化一个高度复杂的带有期望的(expectation operator)的非线性方程，他们分别是我导师，一个教新凯恩斯货币经济学的教授，还有个博士。

我相信他们的实力完全是可以处理这个的。

但他们三个在线性化之后，结果全部都大不相同，完全可以影响到后面用待定系数法（undetermined coefficient method）来解这个方程组的结果了，因为不同的线形化结果导致不同的函数形式（functional form），必然系数也会不同。

我问一个博士，你写论文的时候，你确定你所有对数线性化都弄对了？他说：no, of course not, but this is how business goes。

我自己写论文的时候，我觉得最悬的一个技术处理，就是对数线性化。

函数形式简单到没问题，只要一复杂起来，对数线性化过程中方程会变得很恶心，非常容易出错。

还有个问题，似乎没有任何一本教材专门给过篇幅来总结这个技术，所以我写了个notes，希望能把这个技术总结好。

我一共提供了五种方法，其实这五种方法大多数情况下可以交替使用，但是有时候不行（比如有期望的时候不能提对数）。

不同的函数形式用不同的方法，只用一种方法对付所有问题会很麻烦。

本帖最后由rastila于2012-5-6 05:03 编辑我将连续发一系列关于DSGE模型和其他相关模型的讨论贴，有关于技术的，有关于宏观经济学本身的，这是第一个。

对数线性化是在解非线性差分方程组（nonlinear difference equation system）的时候用的一种线性化方法。

第九章对数线性模型对数线性模型是用于离散型数据或整理成列联表格式的计数资料的统计分析工具。

在对数线性模型中，所有用作的分类的因素均为独立变量，列联表各单元中的例数为应变量。

对于列联表资料，通常作χ 2 检验，但χ 2 检验无法系统地评价变量间的联系，也无法估计变量间相互作用的大小，而对数线性模型是处理这些问题的最佳方法。

第一节General过程9.1.1 主要功能调用该过程可对一个或多个二维列联表资料进行非层次对数线性分析。

它只能拟合全饱和模型，即分类变量各自效应及其相互间效应均包含在对数线性模型中。

9.1.2 实例操作[例9-1]在住院病人中，研究其受教育程度与对保健服务满意程度的关系，资料整理成列联表后如下所示。

按一般情形作χ2检验，结果显示不同受教育程度的住院病人其对保健服务满意程度无差别。

但从百分比分析中可见，随受教育程度的提高，满意程度有下降的趋势；且我们还想了解受教育程度与满意程度有无交互作用和交互作用的大小。

对此，必须采用对数线性模型加以分析。

9.1.2.1 数据准备激活数据管理窗口，定义变量名：实际观察频数的变量名为freq，受教育程度和满意程度作为行、列分类变量（即独立变量），变量名分别为educ、care。

输入原始数据，结果如图9.1所示。

如同第四章Crosstab过程中所述，为使列联表的频数有效，应选Data菜单的Weight Cases...项，弹出Weight Cases对话框（图9.2），激活Weight cases by项，从变量列表中选freq点击 钮使之进入Frequency Variable框，点击OK钮即可。

图9.1 原始数据的输入图9.2 频数的加权定义9.1.2.2 统计分析激活Statistics菜单选Loglinear中的General...项，弹出General Loglinear Analysis对话框（图9.3）。

从对话框左侧的变量列表中选care，点击 钮使之进入Factor(s)框，点击Define Range...钮，弹出General Loglinear Analysis: Define Range对话框，定义分类变量care的范围，本例为1、2，故可在Minimum处键入1，在Maximum处键入2，点击Continue钮返回General Loglinear Analysis对话框。

对数线性关系对数线性关系（LogarithmicLinearRelationship）是一种常见的数学模型，它表达的是一种自然过程中发生的变化关系。

它可以表示像温度、湿度以及海洋深度等物理变化的过程，或者描述社会生活中的一些规律性。

这种关系的特点是，具有从某一点开始越来越快地变化的趋势。

但是，在变化的趋势开始减缓或稳定之前，测量值会变化得非常快，这正是这种特殊关系所特有的。

对数线性关系也称作双曲线或抛物线，它由对数函数和线性函数组成，即形式为y=Alogx+B。

其中A和B是由实验数据中得到的常数，A表示变化速率，B表示变化趋势的中心点。

由于它的增长速率渐变，所以可以用它来描述一些灵活的变化，比如财务流程中的收入增长曲线，或者更复杂的现象如山谷运行。

对数线性关系被广泛应用于许多领域，比如预测、生态学、流体力学、社会学和经济学等。

在流体力学中，它可用来分析水流的流量；在社会学中，它可以用来分析人群的分布。

对数线性关系的定义使用数学建模的方式，可以便于探究和预测特定范围内的变化情况。

对于海洋深度，可以使用该关系来预测水深的变化趋势；对于温度，可以使用它来预测温度的变化趋势；对于湿度，可以使用它来预测湿度的变化趋势。

有时，双曲线还可以用来描述非线性物理现象，如滑动摩擦和液体渗透等。

除了在物理学、生态学和流体力学中应用外，对数线性关系也被广泛应用于经济学研究中。

早期经济学家已经发现，经济数据的变化更像是双曲线，而不是线性变化。

斯托克（Stocker）等人发现，在某些阶段，增长速度加快，而在其他阶段，增长速度减缓，这正是双曲线特有的特征。

由于它的这种特点，对数线性模型可以用来更好地描述许多经济数据的变化情况，比如财政收入的增长曲线、投资额的变化趋势以及人口结构的变化趋势等。

总之，对数线性关系是一种常见的数学模型，它描述的是一种自然过程中发生的变化关系，现已被广泛应用于物理学、生态学、流体力学、社会学以及经济学等诸多领域中。

对数线性模型
对数线性模型是一种极为重要的机器学习技术，近年来在互联网领域受到了广泛的应用。

这种模型是计算机学习中用来估计连续变量之间关系和预测未来结果的有效工具。

对数线性模型可用于在互联网中建立数据库结构，收集海量数据，并将这些数据转换为有用的信息。

通过对数线性模型的分析，可以识别出许多现实世界中的事件以及它们之间的联系，可以用来预测这些事件的发生结果。

例如，对数线性模型可以用于分析用户行为，可以预测某个给定的用户会做什么，有可能做什么，并可以根据用户的行为特点以及外部环境来建议一些精准的制定营销策略，从而为企业带来了更大的收益。

此外，通过对数线性模型的分析可以有效地识别新闻文本中的关键词和潜在的对向。

应用模型，可以在新闻文本中识别关键词，并计算出该话题的潜在对向，结合更广泛的背景，可以有效地增强互联网思维，为写作者提供写作参考。

总之，对数线性模型在互联网领域成为一种基础性而又十分重要的技术，它可以有效地应用于许多数据挖掘、用户分析及机器学习领域，促进企业数据分析及决策制定，从而提高企业市场竞争力。

实验报告——线性模型与对数模型举例分析一、实验目的本实验的目的在于研究GNP 与货币是否有关系，若有关系有怎样的数量关系，用哪种模型来描述二者之间关系较为合适。

二、下面根据GNP/货币供给数据,得到的回归结果(Y=GNP ，X=货币供给):年 GNP （10亿美元） Μ2 年 GNP （10亿美元） Μ2 1973 1359.3 861.0 1981 3052.6 1795.5 1974 1472.8 908.5 1982 3166.0 1954.0 1975 1598.4 1023.2 1983 3405.7 2185.2 1976 1782.8 1163.7 1984 3772.2 2363.6 1977 1990.5 1286.7 1985 4014.9 2562.6 1978 2249.7 1389.0 1986 4240.3 2807.7 1979 2508.2 1500.2 1987 4526.7 2901.0 1980 2732.0 1633.1 平均值 2791.47 1755.70模型 截距 斜率2r双对数 0.5531 0.9882 0.9926t=（3.1652） 41.889 对数-线性 6.8616 0.00057 0.9493 （增长模型） t=（100.05） 15.597 线性-对数 -16329.0 2584.8 0.9832t=（-23.494） 27.549 线性 101.20 1.5323 0.9915 （LIV 模型） t=（1.369） 38.867a. 解释每个模型斜率的意义。

1. 双对数模型中斜率0.9882表示，货币供给每提高1个百分点，GNP 平均增加约0.98个百分点。

2. 对数―线性模型中的斜率0.00057表示，货币供给每增加1（10亿）美元，GNP 将以0.057%的速度增长。

3. 线性―对数模型中的斜率2584.8表示，货币供给每提高1个百分点，GNP 将增加25.848（10亿）美元。