下载文档原格式
第十一章 回 归 分 析本章以一元线性回归模型为重点介绍回归分析方法，对于一元线性回归模型所建立的理论与方法作适当的修改便可推广到多元线性回归模型。
§1 回归的概念一、变量之间的关系现实中，各种变量相互依赖、相互影响，存在着某种关系。
如：价格与需求量、利率与投资、收入与消费，等等。
大致可以归纳为两类关系：确定性关系（函数关系），非确定性关系（统计关系）。
1. 确定性关系：变量之间存在着某种完全确定的关系。
如：总收益Y 与产量X 之间的关系：X P Y ⋅=当价格一定时，Y 由X 完全确定。
表现在图形上，()Y X ,的所有点位于一条直线上。
一般地：()n X X X f Y ,,21= （多元函数）2. 非确定性关系：变量之间由于受到某些随机因素的影响而呈现出一种不确定的关系。
如：农业产量主要受到降雨量、施肥量、温度等的影响，但决定产量的并非完全是这些因素，还要受到许多其它因素的影响，如冰雹、蝗灾等自然灾害。
非确定性关系可以分为两大类：1) 相关关系：两个变量处于完全对等的位置，且两个变量皆为随机变量，常用相关系数来度量。
如：计量经济学成绩与统计学成绩，物价水平和股票价格，等等。
2) 回归关系：一个变量的变化是另一个变量变化的原因，而不是相反。
如：消费量Y 与可支配收入X 之间便是一种回归关系。
一般来讲，随着可支配收入的增加，消费增加，可支配收入是影响消费的主要因素，但并非唯一的因XYPX Y =素，影响消费的因素还有消费习惯、地区差异、年龄构成、宗教信仰等等。
同样收入的家庭，有的支出多，有的支出少，即使是同一家庭，其每个月的收入相同的话，各个月的支出也不会完全一样。
这样，对应于一个X 的值，Y 有多个不同的值相对应，X 与Y 呈现出不确定性的关系。
此时：()u X f Y += （u 为随机影响）表现在图形上，()Y X ,的点不是完全处于一条直线（或曲线）上，而是围绕在一条理论线的两旁变化。
十一章1. 解：回归分析是确定两种或两种以上变量间相互依赖的定量关系的一种统计分析方法，运用十分广泛。
回归分析按照涉及的变量的多少，分为一元回归和多元回归分析；在线性回归中，按照因变量的多少，可分为简单回归分析和多重回归分析；按照自变量和因变量之间的关系类型，可分为线性回归分析和非线性回归分析。
如果在回归分析中，只包括一个自变量和一个因变量，且二者的关系可用一条直线近似表示，这种回归分析称为一元线性回归分析。
如果回归分析中包括两个或两个以上的自变量，且自变量之间存在线性相关，则称为多元线性回归分析。
相关分析，相关分析是研究现象之间是否存在某种依存关系，并对具体有依存关系的现象探讨其相关方向以及相关程度，是研究随机变量之间的相关关系的一种统计方法。
相关分析和回归分析是研究客观现象之间数量联系的重要统计方法。
既可以从描述统计的角度，也可以从推断统计的角度来说明。
所谓相关分析，就是用一个指标来表明现象间相互依存关系的密切程度。
所谓回归分析，就是根据相关关系的具体形态，选择一个合适的数学模型，来近似地表达变量间的平均变化关系。
它们具有共同的研究对象，在具体应用时，相关分析需要依靠回归分析来表明现象数量相关的具体形式，而回归分析则需要依靠相关分析来表明现象数量变化的相关程度。
只有当变量之间存在着高度相关时，进行回归分析寻求其相关的具体形式才有意义。
由于相关分析不能指出变量间相互关系的具体形式，所以回归分析要对具有相关关系的变量之间的数量联系进行测定，从而为估算和预测提供了一个重要的方法。
在有关管理问题的定量分析中，推断统计加具有更加广泛的应用价值。
需要指出的是，相关分析和回归分析只是定量分析的手段。
通过相关与回归分析，虽然可以从数量上反映现象之间的联系形式及其密切程度，但是现象内在联系的判断和因果关系的确定，必须以有关学科的理论为指导，结合专业知识和实际经验进行分析研究，才能正确解决。
因此，在应用时要把定性分析和定量分析结合起来，在定性分析的基础上开展定量分析。
概率论与数理统计_回归分析第11章回归分析设x 为普通变量，Y 为随机变量。
如果当x 变化时，Y 随着x 的变化⼤体上按某种趋势变化，则称x 与Y 之间存在相关关系，即),0(~,)(2σεεN x f Y +=例如，某地⼈均收⼊x 与某种商品的消费量Y 之间的关系；森林中树⽊的断⾯直径x 与⾼度Y 之间的关系；某种商品的价格x与销售量Y 之间的关系；施⽤氮肥、磷肥、钾肥数量1x ，2x ，3x 与某种农作物产量Y 之间的关系。
在⽣产实践和科学研究中，常常有这样的问题：由实验或测量得到变量间的⼀批离散样点，要求由此建⽴变量之间的近似函数关系或得到样点之外的数据。
我们确定的函数要求在某种距离意义下的误差达到最⼩（通常⽤最⼩⼆乘法，即考虑使各数据点误差平⽅和最⼩）。
由⼀个（或⼏个）普通变量来估计或预测某个随机变量的取值时，所建⽴的数学模型及所进⾏的统计分析称为回归分析。
§11.1 ⼀元线性回归假设有⼀批关于x 与Y 的离散样点),(,),,(),,(2211n n y x y x y x集中在⼀条直线附近，说明x 与Y 之间呈线性相关关系，即),0(~,2σεεN bx a Y ++=称为⼀元线性回归模型。
⼀、模型中的参数估计 1、b a ,的估计⾸先引进记号∑∑∑∑∑=====-=-=-===ni i i xy ni i yy ni i xx ni ini iyx n y x S y n y S x n x S y n y x n x 11221221111按最⼩⼆乘法可得到xxxy S S b =? x b y a ??-= 称x b a y+=为Y 关于x 的⼀元线性回归⽅程。
2、2σ的估计)?(21?22xxyy S b S n --=σ求出关于的⼀元线性回归⽅程。
解：先画出散点图如下计算出 3985193282503.6714510======xy yy xx S S S y x n483.0?==xxxy S S b 735.2??-=-=x b y a 所求的回归⽅程是x y483.0735.2?+-=。
第11章多重线性回归分析思考与练习参考答案一、最佳选择题1.逐步回归分析中，若增加自变量的个数，则（D）。
A.回归平方和与残差平方和均增大B.回归平方和与残差平方和均减小C.总平方和与回归平方和均增大D.回归平方和增大，残差平方和减小E.总平方和与回归平方和均减小2.下面关于自变量筛选的统计学标准中错误的是（E）。
A.残差平方和（SS残差）缩小B.确定系数（R）增大2C.残差的均方（MS残差）缩小D.调整确定系数（Rad）增大2E.Cp统计量增大3.多重线性回归分析中，能直接反映自变量解释因变量变异百分比的指标为（C）。
A.复相关系数B.简单相关系数C.确定系数D.偏回归系数E.偏相关系数4.多重线性回归分析中的共线性是指（E）。
A.Y关于各个自变量的回归系数相同B.Y关于各个自变量的回归系数与截距都相同C.Y变量与各个自变量的相关系数相同D.Y与自变量间有较高的复相关E.自变量间有较高的相关性5.多重线性回归分析中，若对某一自变量的值加上一个不为零的常数K,则有（D）。
A.截距和该偏回归系数值均不变B.该偏回归系数值为原有偏回归系数值的K 倍C.该偏回归系数值会改变，但无规律D.截距改变，但所有偏回归系数值均不改变E.所有偏回归系数值均不会改变二、思考题1.多重线性回归分析的用途有哪些？答：多重线性回归在生物医学研究中有广泛的应用，归纳起来，可以包括以下几个方面：定量地建立一个反应变量与多个解释变量之间的线性关系，筛选危险因素，通过较易测量的变量估计不易测量的变量，通过解释变量预测反应变量，通过反应变量控制解释变量。
2.多重线性回归模型中偏回归系数的含义是什么？答：偏回归系数的含义是：在控制其他自变量的水平不变的情况下，该自变量每改变一个单位，反应变量平均改变的单位数。
3.请解释用于多重线性回归参数估计的最小二乘法的含义。
答：最小二乘法的含义是：残差的平方和达到最小。
4.如何判断和处理多重共线性？答：如果自变量之间存在较强的相关，则存在多重共线性。
一章1. 解：回归分析是确定两种或两种以上变量间相互依赖的定量关系的一种统计分析方法，运用十分广泛。
回归分析按照涉及的变量的多少，分为一元回归和多元回归分析；在线性回归中，按照因变量的多少，可分为简单回归分析和多重回归分析；按照自变量和因变量之间的关系类型，可分为线性回归分析和非线性回归分析。
如果在回归分析中，只包括一个自变量和一个因变量，且二者的关系可用一条直线近似表示，这种回归分析称为一元线性回归分析。
如果回归分析中包括两个或两个以上的自变量，且自变量之间存在线性相关，则称为多元线性回归分析。
相关分析，相关分析是研究现象之间是否存在某种依存关系，并对具体有依存关系的现象探讨其相关方向以及相关程度，是研究随机变量之间的相关关系的一种统计方法。
相关分析和回归分析是研究客观现象之间数量联系的重要统计方法。
既可以从描述统计的角度，也可以从推断统计的角度来说明。
所谓相关分析，就是用一个指标来表明现象间相互依存关系的密切程度。
所谓回归分析，就是根据相关关系的具体形态，选择一个合适的数学模型，来近似地表达变量间的平均变化关系。
它们具有共同的研究对象，在具体应用时，相关分析需要依靠回归分析来表明现象数量相关的具体形式，而回归分析则需要依靠相关分析来表明现象数量变化的相关程度。
只有当变量之间存在着高度相关时，进行回归分析寻求其相关的具体形式才有意义。
由于相关分析不能指出变量间相互关系的具体形式，所以回归分析要对具有相关关系的变量之间的数量联系进行测定，从而为估算和预测提供了一个重要的方法。
在有关管理问题的定量分析中，推断统计加具有更加广泛的应用价值。
需要指出的是，相关分析和回归分析只是定量分析的手段。
通过相关与回归分析，虽然可以从数量上反映现象之间的联系形式及其密切程度，但是现象内在联系的判断和因果关系的确定，必须以有关学科的理论为指导，结合专业知识和实际经验进行分析研究，才能正确解决。
因此，在应用时要把定性分析和定量分析结合起来，在定性分析的基础上开展定量分析。
第11章 一元线性回归分析11.1（1）散点图（略），产量与生产费用之间正的线性相关关系。
（2）920232.0=r（3） 检验统计量2281.24222.142=>=αt t ，拒绝原假设，相关系数显著。
11.2 （1）散点图（略）。
（2） 8621.0=r11.3 （1）0ˆβ表示当0=x 时y 的期望值。
（2）1ˆβ表示x 每变动一个单位y 平均下降0.5个单位。
（3） 7)(=y E 11.4 （1）%902=R （2）1=e s11.5 一家物流公司的管理人员想研究货物的运输距离和运输时间的关系，为此，他抽出了公司最近10(1)绘制运送距离和运送时间的散点图，判断二者之间的关系形态： (2)计算线性相关系数，说明两个变量之间的关系强度。
(3)利用最小二乘法求出估计的回归方程，并解释回归系数的实际意义。
（2）x 运送距离（km ）y 运送时间（天）x 运送距离（km ）Pearson 相关性 1.949(**) 显著性（双侧）0.000 N10 10 y 运送时间（天）Pearson 相关性 .949(**) 1显著性（双侧） 0.000 N**. 在 .01 水平（双侧）上显著相关。
有很强的线性关系。
（3）模型非标准化系数标准化系数t显著性B标准误Beta1 （常量）0.118 0.355 0.333 0.748 x 运送距离（km ）a. 因变量: y 运送时间（天）回归系数的含义：每公里增加0.004天。
(1)人均GDP作自变量，人均消费水平作因变量，绘制散点图，并说明二者之间的关系形态。
(2)计算两个变量之间的线性相关系数，说明两个变量之间的关系强度。
(3)利用最小二乘法求出估计的回归方程，并解释回归系数的实际意义。
(4)计算判定系数，并解释其意义。
(5)检验回归方程线性关系的显著性(a=0.05)。
(6)如果某地区的人均GDP 为5 000元，预测其人均消费水平。
回归分析教学大纲概述本书主要内容、特点及全书章节主要标题并附教学大纲本书基于归纳演绎的认知规律，把握统计理论的掌握能力和统计理论的应用能力的平衡，依据认知规律安排教材各章节内容。
教材不仅阐述了回归分析的基本理论和具体的应用技术，还按照认知规律适当拓宽学生思维，介绍了伴前沿回归方法。
教材采用了引例、解题思路、解题模型、概念、案例、习题、统计软件七要素合一的教材内容安排模式，有助于培养学生的统计思维与统计能力。
全书共分14章，包括绪论、一元线性回归、多元线性回归、模型诊断、自变量的问题、误差的问题、模型选择、收缩方法、非线性回归、广义线性模型、非参数回归、机器学习的回归模型、人工神经网络以及缺失数据等内容。
第1章对回归分析的研究内容和建模过程给出综述性介绍；第2章和第3章详细介绍了一元和多元线性回归的参数估计、显著性检验及其应用；第4章介绍了回归模型的诊断，对违背回归模型基本假设的误差和观测的各种问题给出了处理方法；第5章介绍了回归建模中自变量可能存在的问题及处理方法，包括自变量的误差、尺度变化以及共线性问题；第6章介绍了回归建模中误差可能存在的问题及处理方法，包括广义最小二乘估计、加权最小二乘估计；第7章介绍了模型选择方法，包括基于检验的方法、基于标准的方法；第8章介绍了模型估计的收缩方法，包括岭回归、lasso、自适应lasso、主成分法、偏最小二乘法；第9章介绍了非线性回归，包括因变量、自变量的变换以及多项式回归、分段回归、内在的非线性回归等方法；第10章介绍了广义线性模型，包括logistic回归、Softmax回归、泊松回归等；第11章介绍了非参数回归的方法，包括核估计、局部回归、样条、小波、非参数多元回归、加法模型等方法；第12章介绍了机器学习中可用于回归问题的方法，包括决策树、随机森林、AdaBoost模型等；第13章介绍了人工神经网络在回归分析中的应用；第14章介绍了常见的数据缺失问题及处理方法，包括删除、单一插补、多重插补等。
