第9章 含定性变量的回归模型

第9章相关与回归分析【教学内容】相关分析与回归分析是两种既有区别又有联系的统计分析方法。

本章阐述了相关关系的概念与特点;相关关系与函数关系的区别与联系;相关关系的种类;相关关系的测定方法(直线相关系数的含义、计算方法与运用);回归分析的概念与特点;回归直线方程的求解及其精确度的评价;估计标准误差的计算。

【教学目标】1、了解相关与回归分析的概念、特点和相关分析与回归分析的区别与联系；2、掌握相关分析的定性和定量分析方法；3、掌握回归模型的拟合方法、对回归方程拟合精度的测定和评价的方法。

【教学重、难点】1、相关分析与回归分析的概念、特点、区别与联系；2、相关与回归分析的有关计算公式和应用条件。

第一节相关分析的一般问题一、相关关系的概念与特点（一）相关关系的概念在自然界与人类社会中,许多现象之间是相互联系、相互制约的,表现在数量上也存在着一定的联系。

这种数量上的联系和关系究其实质,可以概括为两种不同类型,即函数关系与相关关系。

相关关系:是指现象之间客观存在的,在数量变化上受随机因素的影响,非确定性的相互依存关系。

例如,商品销售额与流通费用率之间的关系就是一种相关关系。

（二）相关关系的特点1、相关关系表现为数量相互依存关系。

2、相关关系在数量上表现为非确定性的相互依存关系。

二、相关关系的种类1、相关关系按变量的多少,可分为单相关和复相关2、相关关系从表现形态上划分,可分为直线相关和曲线相关3、相关关系从变动方向上划分,可分为正相关和负相关4、按相关的密切程度分,可分为完全相关、不完全相关和不相关三、相关分析的内容相关分析是对客观社会经济现象间存在的相关关系进行分析研究的一种统计方法。

其目的在于对现象间所存在的依存关系及其所表现出的规律性进行数量上的推断和认识,以便为回归分析提供依据。

相关分析的内容和程序是:(1)判别现象间有无相关关系(2)判定相关关系的表现形态和密切程度第二节相关关系的判断与分析一、相关关系的一般判断（一）定性分析对现象进行定性分析,就是根据现象之间的本质联系和质的规定性,运用理论知识、专业知识、实际经验来进行判断和分析。

第九章相关与回归分析习题一、单选题1．下面的函数关系是（）。

A、销售人员测验成绩与销售额大小的关系B、圆周的长度决定于它的半径C、家庭的收入和消费的关系D、数学成绩与统计学成绩的关系2．若要证明两变量之间线性相关程度是高的，则计算出的相关系数应接近于（）。

A、+1B、0C、0.5D、+1或-13．回归系数和相关系数的符号是一致的，其符号均可用来判断现象（）。

A、线性相关还是非线性相关B、正相关还是负相关C、完全相关还是不完全相关D、单相关还是复相关4．在线性相关的条件下，自变量的均方差为2，因变量均方差为5，而相关系数为0.8时，则其回归系数为( )。

A、8B、0.32C、2D、12.55．下面现象间的关系属于相关关系的是（）。

A、圆的周长和它的半径之间的关系B、价格不变条件下,商品销售额与销售量之间的关系C、家庭收入愈多,其消费支出也有增长的趋势D、正方形面积和它的边长之间的关系6．下列关系中，属于正相关关系的是（）。

A、合理限度内，施肥量和平均单产量之间的关系B、产品产量与单位产品成本之间的关系C、商品的流通费用与销售利润之间的关系D、流通费用率与商品销售量之间的关系7．相关分析是研究（）。

A、变量之间的数量关系B、变量之间的变动关系C、变量之间的相互关系的密切程度D、变量之间的因果关系8．在回归直线y=a+bx中，b<0，则x与y之间的相关系数( )。

A、r=0B、r=lC、0<r<1D、-1<r<09．在回归直线y=a+bx中，b表示（）。

A、当x增加一个单位时，y增加a的数量B、当y增加一个单位时，x增加b的数量C、当x增加一个单位时，y的平均增加量D、当y增加一个单位时，x的平均增加量10．当相关系数r=0时，表明（）。

A、现象之间完全无关B、相关程度较小C、现象之间完全相关D、无直线相关关系11．下列现象相关密切程度最高的是（）。

A、某商店的职工人数与商品销售额之间的相关系数0.87B、流通费用水平与利润率之间的相关关系为-0.94C、商品销售额与利润率之间的相关系数为0.51D、商品销售额与流通费用水平的相关系数为-0.8112．估计标准误差是反映（）。

回归模型的要素
回归模型是一种统计分析方法，用于建立变量之间的关系模型。

它基于变量之间的线性关系假设，并通过拟合数据来估计模型参数。

回归模型包含以下要素：
1. 因变量（Dependent Variable）：也称为被解释变量或目标变量，它是我们想要预测或解释的变量。

2. 自变量（Independent Variables）：也称为解释变量或预测变量，它们是用来解释或预测因变量的变量。

回归模型可以包含一个或多个自变量。

3. 线性关系（Linear Relationship）：回归模型假设因变量与自变量之间存在线性关系，即自变量的变化对因变量的影响是线性的。

4. 残差（Residuals）：在回归模型中，残差是指观测值与模型预测值之间的差异。

回归模型的目标是通过最小化残差的平方和来找到最佳拟合线。

5. 模型参数（Model Parameters）：回归模型的参数是用来描述自变量与因变量之间关系的数值。

在线性回归模型中，参数表示自变量对因变量的影响程度。

6. 截距（Intercept）：截距是回归模型中的常数项，表示在自变量为零时，因变量的预测值。

它反映了因变量在没有自变量影响时的基准水平。

通过确定回归模型的要素，并进行数据拟合和参数估计，我
们可以使用回归模型来预测或解释因变量的变化。

[经验分享] 使用eviews做线性回归分析Glossary:ls(least squares)最小二乘法R-sequared样本决定系数（R2）：值为0-1，越接近1表示拟合越好，>0.8认为可以接受，但是R2随因变量的增多而增大，解决这个问题使用来调整Adjust R-seqaured()S.E of regression回归标准误差Log likelihood对数似然比：残差越小，L值越大，越大说明模型越正确Durbin-Watson stat：DW统计量，0-4之间Mean dependent var因变量的均值S.D. dependent var因变量的标准差Akaike info criterion赤池信息量(AIC)（越小说明模型越精确）Schwarz ctiterion:施瓦兹信息量（SC）（越小说明模型越精确）Prob(F-statistic)相伴概率fitted(拟合值)线性回归的基本假设：1.自变量之间不相关2.随机误差相互独立，且服从期望为0，标准差为σ的正态分布3.样本个数多于参数个数建模方法:ls y c x1 x2 x3 ...x1 x2 x3的选择先做各序列之间的简单相关系数计算，选择同因变量相关系数大而自变量相关系数小的一些变量。

模型的实际业务含义也有指导意义，比如m1同gdp肯定是相关的。

模型的建立是简单的，复杂的是模型的检验、评价和之后的调整、择优。

模型检验：1）方程显著性检验（F检验）：模型拟合样本的效果，即选择的所有自变量对因变量的解释力度F大于临界值则说明拒绝0假设。

Eviews给出了拒绝0假设(所有系统为0的假设)犯错误(第一类错误或α错误)的概率(收尾概率或相伴概率)p 值，若p小于置信度(如0.05)则可以拒绝0假设，即认为方程显著性明显。

2）回归系数显著性检验（t检验）：检验每一个自变量的合理性|t|大于临界值表示可拒绝系数为0的假设，即系数合理。

第9章 含定性变量的回归模型思考与练习参考答案9.1 一个学生使用含有季节定性自变量的回归模型，对春夏秋冬四个季节引入4个0-1型自变量，用SPSS 软件计算的结果中总是自动删除了其中的一个自变量，他为此感到困惑不解。

出现这种情况的原因是什么？答：假如这个含有季节定性自变量的回归模型为：t t t t kt k t t D D D X X Y μαααβββ++++++=332211110其中含有k 个定量变量，记为x i 。

对春夏秋冬四个季节引入4个0-1型自变量，记为D i ，只取了6个观测值，其中春季与夏季取了两次，秋、冬各取到一次观测值，则样本设计矩阵为：⎪⎪⎪⎪⎪⎪⎪⎪⎭⎫⎝⎛=000110010110001010010010100011)(616515414313212111k k k k k k X X X X X X X X X X X X D X,显然，(X,D)中的第1列可表示成后4列的线性组合，从而(X,D)不满秩，参数无法唯一求出。

这就是所谓的“虚拟变量陷井”，应避免。

当某自变量x j 对其余p-1个自变量的复判定系数2j R 超过一定界限时，SPSS 软件将拒绝这个自变量x j 进入回归模型。

称Tol j =1-2j R 为自变量x j 的容忍度（Tolerance ），SPSS 软件的默认容忍度为0.0001。

也就是说，当2j R ＞0.9999时，自变量x j 将被自动拒绝在回归方程之外，除非我们修改容忍度的默认值。

⎪⎪⎪⎪⎪⎭⎫⎝⎛=k βββ 10β⎪⎪⎪⎪⎪⎭⎫ ⎝⎛=4321ααααα而在这个模型中出现了完全共线性，所以SPSS软件计算的结果中总是自动删除了其中的一个定性自变量。

9.2对自变量中含有定性变量的问题，为什么不对同一属性分别建立回归模型，而采取设虚拟变量的方法建立回归模型？答：原因有两个，以例9.1说明。

一是因为模型假设对每类家庭具有相同的斜率和误差方差，把两类家庭放在一起可以对公共斜率做出最佳估计；二是对于其他统计推断，用一个带有虚拟变量的回归模型来进行也会更加准确，这是均方误差的自由度更多。

回归模型的假设统计回归模型是将一组变量之间的关系拟合到一个数学方程，用于研究变量之间的关系，以及预测和分析未知变量。

回归模型可以分为：简单线性回归模型、多元线性回归模型、非线性回归模型等。

统计回归模型拟合的过程依赖于其假设，任何一个有效的回归分析需要满足以下几种假设：1.性变量和定量变量要服从正态分布。

定性变量是指只有两类特征的变量，如男性和女性；而定量变量是指可以表示为实数的变量，如身高、体重等。

定性变量和定量变量都应该服从正态分布，以保证具有最佳拟合能力。

2.变量应该独立于其他自变量。

函数参数拟合时，需要保证自变量不受其他自变量的影响，即各自变量之间应为相互独立，以保证最优拟合结果。

3.差应当呈正态分布。

残差是指实际观测值与期望观测值之间的差距，也叫回归残差。

它应当服从正态分布，以保证观测值的准确性，以及误差的有效分布。

4.差应该具有均值为零的分布特性。

根据中心极限定理，残差必须具有均值为零的分布特性，以保证准确拟合模型。

5.差应具有相同的方差。

残差应该具有相同的方差，以保证模型稳定性，以更准确地拟合模型。

以上是回归模型的几种基本假设，当模型的假设条件不满足时，回归分析的结果将不可信，无法准确预测变量之间的关系。

因此，在回归模型的构建和应用过程中，应引起重视，加以考虑假设条件，以确保拟合结果的准确性。

另外，建立回归模型时，还需要考虑其他方面的因素。

首先，要考虑变量与因变量之间的关系类型，是简单线性关系、复杂非线性关系，还是超线性关系；其次，要考虑模型的选取，普通最小二乘法、最小二乘支持向量机等；最后，还要考虑参数校正、特征选择和模型评估等因素，以保证模型表现尽可能好。

因此，在建立回归模型时，需要严格满足假设条件，同时也要充分考虑类型、选取、参数校正等其他方面因素，以获得较优的拟合结果。

完善的回归模型不仅可以有效地预测变量之间的关系，而且还可以在推理据基础上更好地制定管理决策，从而实现实际目标的有效实现。

实验报告八实验课程：回归分析实验课专业：统计学年级：姓名：学号：指导教师：完成时间：得分：教师评语：学生收获与思考：实验八含定性变量的回归模型（4学时）一、实验目的1．掌握含定性变量的回归模型的建模步骤3．运用SAS计算含定性变量的各种回归模型的各参数估计及相关检验统计量二、实验理论与方法在实际问题的研究中，经常会遇到一些非数量型的变量。

如品质变量;性别；战争与和平。

我们把这些品质变量也称为定性变量，在建立回归模型的时候我们需要考虑到这些定性变量。

定性变量的回归模型分为自变量含定性变量的回归模型和因变量是定性变量的回归模型。

自变量含有定性变量的时候，我们一般引进虚拟变量，将这些定性变量数量化。

例如研究粮食产量问题，y为粮食产量，x为施肥量，另外考虑气候问题，分为正常年份和干旱年份两种情况，这个问题数量化方法就是引入一个0-1型变量D，令D i=1 表示正常年份，D i=0表示干旱年份，粮食产量的回归模型为：yi =β+β1xi+β2Di+εi。

因变量是定性变量时，一般用logistic回归模型（分组数据的logistic回归模型，未分组数据的logistic回归模型，多类别的logistic回归模型），probit回归模型等。

三. 实验内容1．用DATA步建立一个永久SAS数据集，数据集名为xt103,数据见表21；对数据集xt103,建立y对公司规模和公司类型的回归，并对所得到的模型进行解释。

2．研制一种新型玻璃，对其做耐冲实验。

用一个小球从不同的高度h对玻璃做自由落体撞击，玻璃破碎记为y=1，玻璃未破碎记y=0.数据见表22.是对表中数据建立玻璃耐冲性对高度h的logistic回归，并解释回归方程的含义。

3．某学校对本科毕业生的去向做了一个调查，分析影响毕业去向的相关因素，结果见表23.其中毕业去向“1”=工作，“2”=读研，“3”=出国留学。

性别“1”=男生，“0”=女生。

用多类别的Logisitic回归分析影响毕业去向的因素。