当前位置：文档之家 › 一元线性回归模型及其假设条件

一元线性回归模型及其假设条件

  • 格式：doc
  • 大小：143.50 KB
  • 文档页数：4

1 / 4 §4.2 一元线性回归模型及其假设条件

1．理论模型

y=a+bx+ε

X是解释变量，又称为自变量，它是确定性变量，是可以控制的。是已知的。

Y是被解释变量，又称因变量，它是一个随机性变量。是已知的。

A,b是待定的参数。是未知的。

2．实际中应用的模型

xbayˆˆˆ

aˆ，bˆ，x是已知的，yˆ是未知的。

回归预测方程：xbay a,b称为回归系数。若已知自变量x的值，则通过预测方程可以预测出因变量y的值，并给出预测值的置信区间。

3．假设条件

满足条件：（1）E（）=0；（2）D（i）=σ2；（3）Cov (i,j)=0,i≠j ; (4) Cov (i,j)=0 。条件（1）表示平均干扰为0；条件（2）表示随机干扰项等方差；条件（3）表示随机干扰项不存在序列相关；条件（4）表示干扰项与解释变量无关。在假定条件（4）成立的情况下，随机变量y～N（a+bx，σ2）。一般情况下，ε～N（0，σ2）。

4．需要得到的结果

aˆ，bˆ，2

§4.3 模型参数的估计

1．估计原理

回归系数的精确求估方法有最小二乘法、最大似然法等多种，我们这里介绍最小二乘法。

估计误差或残差：yyeiii，xbayi，eeyyiiiixba （5.3—1）误差ei的大小，是衡量a、b好坏的重要标志，换句话讲，模型拟合是否成功，就看残差是否达到要求。可以看出，同一组数据，对于不同的a、b有不同的ei，所以，我们的问题是如何选取a、b使所有的ei都尽可能地小，通常用总误差来衡量。

衡量总误差的准则有：最大绝对误差最小、绝对误差的总和最小、误差的平方和最小等。

我们的准则取：误差的平方和最小。

最小二乘法：令 nininiixbayyyeiiiiQ112212 （5.3—2）使Q达到最小以估计出a、b的方法称为最小二乘法。

理论推导：微积分极值理论的拉格朗日极值法。 2 / 4

2．估计结果

niixxyxyxniiniiniiniiinnb1212111ˆ

xbynbnaniiniixyˆˆˆ11

2ˆ2nQ

nininiixbayyyeiiiiQ112212，y是y的算术平均数，x是x的算术平均数。

§4.5 回归方程的检验

一、离差平方和的分解与可决系数

当根据历史数据估计出回归预测方程后，我们要思考这样的一些问题：回归直线是否有意义？可否用于预测和控制？参与计算的两个变量x 和y是否有线性关系？若有线性关系，其关系的密切程度如何度量。

1．离差平方和的分解

第一、niyyi12表示观察值yI与其平均值的总离差平方和，用S总表示。（总变差或离差平方和）。

第二、niyyi12ˆ是总离差平方和中由回归直线方程中x的变化所引起，它的大小反映了自变量x的重要程度，称为回归平方和。用U表示。（回归变差）。

第三、niyyii12ˆ反映了不能由回归直线解释的部分，是由其他未能控制的随机干扰因素引起的。称为残差平方和。用Q表示。（剩余变差）

2．可决系数R2

S总=U+Q，1=（U/S总）+（Q/S总）；R2= U/S总=1－Q/S总表示由解释变量x的变化而引起因变量y的变差占总离差的百分比。称为可决系数。

3．相关系数

在一元线性回归中，相关系数是可决系数的平方根。 3 / 4 相关系数：是描述变量x与y之间的线性关系密切程度的一个数量指标。计算公式为：nininiiiyyxxyxiiyxr11221。

结论：第一、当rˆ=0时，变量x与y无任何线性关系，表现为（XI，YI）的散布是完全没有规则的。第二、当rˆ2=1时，所有的样本点都落在回归直线上，称变量x与y完全相关。rˆ=1是完全正相关，rˆ=-1是完全负相关。第三、一般情况是，0<︱rˆ︱<1。rˆ>0称为正相关，rˆ<0称为负相关。r<0.3,视为无相关；0.3≤r＜0.5为低度相关；0.5≤r＜0.8为显著相关；r≥0.8为高度相关。

二、回归方程的检验

1．相关系数检验法

建立回归方程前要考察rˆ的大小，以确定回归方程有无使用价值。

相关系数rˆ计算后，要进行统计检验，判别是否具有统计意义。检验方法是：根据置信度、自由度（样本数据个数—1）和自变量与因变量的总个数查相关系数表，确定临界值，若计算所得到的相关系数rˆ小于临界值，则无统计意义。反之，则有统计意义，是有效的。

2．F检验法

解释F检验法的含义。

回归方程显著性检验的含义：即检验：xbay对实际的y和x的拟合是否有统计意义。所用统计量为F={U/[Q/（n-2）]}。检验步骤是第一步计算统计量F的值；第二步根据给出的置信度α，得到临界值Fα（1，n-2）；第三步将统计量值F与临界值Fα进行比较，若统计量值F大于Fα，则认为回归方程显著，线性假设成立，有统计意义，否则回归方程没有统计意义。

实际应用中，统计软件给出了F值。

3．T检验

解释T检验法的含义。

P129 T检验法

关于bˆ=0的假设检验，有专门的t检验。在一元线性回归模型中，F检验与t检验等同。

§4.6 预测区间

1．点预测

设预测点为yx00,，则预测值为：

xyba00ˆˆˆ

2．预测置信区间

Styn0202 4 / 4 xxxxSin220011

3．控制区间

已知y0，求x0的变动范围，称为对x0的控制，我们在这里不在讲述。

§4.8 一元线性回归模型的应用

第一步，绘制散点图（计算机演示）

第二步，设立一元线性回归方程

第三步，计算回归系数

第四步，检验线性关系的显著性（包括相关系数检验、F检验、t检验）

第五步，预测（要求给出点预测和预测区间）

合集下载

基于一元线性回归分析的大坝预测模型的建立及其引用建模样本数量

基于一元线性回归分析的大坝预测模型的建立及其引用建模样本数量

工程设计施工与管理　Ｃｈｉｎａ　Ｓｃｉｅｎｃｅ＆Ｔｅｃｈｎｏｌｏｇｙ　Ｏｖｅｒｖｉｅｗ　

基于一元线性回归分析的大坝预测模型的　

建立及其引用建模样本数量对预测效果的影响　

杨颜江杨雷　（云南经纬地理信息系统工程有限公司，云南昆明６５００２８）　

【摘要】本文主要介绍一元线性回归分析的基本原理和方法，并结合实例分析。在建模过程中采用不同数量的检测数据进行建模，得出用该模　型预测变形的合理性引入变量多的模型的预测的效果较好。　【关键词】回归分析沉降预测模型　

０引言　２预报原理　

随着国内外病险坝的逐渐增多，要求实时或及时了解大坝的安　

全状况，掌握变形规律。而预测大坝沉降的方法有多种，本文主要介　

绍了检测统计模型中的一元线性回析归分析方法，并且将其运用在　

大坝变形预测分析中。　

１一元线性回归分析的基本原理和方法　

我们可以用一条直线来表示ｘ和ｙ的关系，并借助最小二乘法，　

可得到一元线性回归的回归方程［　］：　

＝ａ＋ｂｘ　（１．１）　

ａ，ｂ又叫做回归方程的回归系数。　

下面根据最小二乘法原则来确定ａ，ｂ的取值。　

对于每—个ｘａ，由Ｊ／￣／（１．１）可以确定一个回归值　＝ａ＋ｂｘａ。这　

个回归值　与实际观测值　之差　一　＝　一ａ—ｂ　，刻划了　

与回归直线　Ｉ＋呶的偏离程度。对于所有的　，若　与　的偏　

离程度越小，则直线和所有的试验点拟合得：　

Ｎ　Ｎ　Ｑ（ａ，６）＝∑　）。＝∑　一ａ－ｂｘ．）　（１．２）　

ａ＝ｌ　ｄ＝１　由最ｄ＂－乘法可知要使Ｑ达到极小值，只要对上式分别对ａ，ｂ　

求偏导，并令它们等于零，于是可以推导出ａ，ｂ的值：　

Ｎ　Ｎ　ａ＝∑　∑　

＝ｌ　ｄ＝１　Ⅳ　∑（　一　）（ｙ　一　）　

６＝　（１．３）　

∑Ｎ（　一　）。　（　・４）　

Ⅳ　Ｎ　上式中　＝∑　和歹＝∑　分别表示　、　的算术平均　

ａ＝ｌ　ａ＝ｌ　值，则式（１．３—１．４）可变为如下简单的形式：　

ａ＝Ｙ一一　（１．５）　

１１２　２０１　４年３月下第６期总第１８６期　如果回归方程通过了统计检验，而且其拟合得比较好，那么就　

线性回归模型的经典假定及检验修正

线性回归模型的经典假定及检验修正

线性回归模型的经典假定及检验、修正

一、线性回归模型的基本假定

1、一元线性回归模型

一元线性回归模型是最简单的计量经济学模型，在模型中只有一个解释变量，其一般形式是

Y=β0+β1X1+μ

其中，Y为被解释变量，X为解释变量，β0与β1为待估参数，μ为随机干扰项。

回归分析的主要目的是要通过样本回归函数（模型）尽可能准确地估计总体回归函数（模型）。为保证函数估计量具有良好的性质，通常对模型提出若干基本假设。

假设1：回归模型是正确设定的。

模型的正确设定主要包括两个方面的内容：（1）模型选择了正确的变量，即未遗漏重要变量，也不含无关变量；（2）模型选择了正确的函数形式，即当被解释变量与解释变量间呈现某种函数形式时，我们所设定的总体回归方程恰为该函数形式。

假设2：解释变量X是确定性变量，而不是随机变量，在重复抽样中取固定值。

这里假定解释变量为非随机的，可以简化对参数估计性质的讨论。

假设3：解释变量X在所抽取的样本中具有变异性，而且随着样本容量的无限增加，解释变量X的样本方差趋于一个非零的有限常数，即

∑(Xi−X̅)2ni=1n→Q,n→∞

在以因果关系为基础的回归分析中，往往就是通过解释变量X的变化来解释被解释变量Y的变化的，因此，解释变量X要有足够的变异性。对其样本方差的极限为非零有限常数的假设，旨在排除时间序列数据出现持续上升或下降的变量作为解释变量，因为这类数据不仅使大样本统计推断变得无效，而且往往产生伪回归问题。

假设4：随机误差项μ具有给定X条件下的零均值、同方差以及无序列相关

性，即

E(μi|Xi)=0

Var(μi|Xi)=σ2

Cov(μi,μj|Xi,Xj)=0, i≠j

随机误差项μ的条件零均值假设意味着μ的期望不依赖于X的变化而变化，且总为常数零。该假设表明μ与X不存在任何形式的相关性，因此该假设成立时也往往称X为外生性解释变量

随机误差项μ的条件同方差假设意味着μ的方差不依赖于X的变化而变化，且总为常数σ2。

8.2 一元线性回归模型及其应用教案

8.2 一元线性回归模型及其应用教案

8.2 一元线性回归模型及其应用

一、教学目标

知识与技能

从相关指数和残差分析角度探讨回归模型的拟合效果，以及建立回归模型的基本步骤．

过程与方法

在发现直接求回归直线方程存在缺陷的基础上，引导学生去发现解决问题的新思路——进行回归分析，进而介绍残差分析的方法和利用R2来表示解释变量对于预报变量变化的贡献率．

情感、态度与价值观

通过本节课的学习，加强数学与现实生活的联系，以科学的态度评价两个变量的相关性，掌握处理问题的方法，形成严谨的治学态度和锲而不舍的求学精神．培养学生运用所学知识解决实际问题的能力．教学中适当地利用学生的合作与交流，使学生在学习的同时，体会与他人合作的重要性．

二、教学重难点

教学重点：从残差分析、相关指数角度探讨回归模型的拟合效果，以及建立回归模型的基本步骤；

教学难点：了解评价回归效果的两个统计量：相关指数、残差和残差平方和．

三、教学过程

（一）新课导入

(幻灯片)

编号 1 2 3 4 5 6 7 8

身高/cm 165 165 157 170 175 165 155 170

体重/kg 48 57 50 54 64 61 43 59

上表是上一节课我们从某大学选取8名女大学生其身高和体重数据组成的数据表，在上一节课中我们通过数据建立了回归直线方程，并根据方程预测了身高为172 cm的女大学生的体重．当时，我们提到根据回归直线方程求得的体重数据，仅是一个估计值，其与真实值之间存在着误差，为了综合分析身高和体重的关系，我们引入了线性回归模型y＝bx＋a＋e来表示两变量之间的关系，其中e为随机变量，又称随机误差．线性回归模型y＝bx＋a＋e增加了随机误差项e，因变量y的值由自变量x和随机误差e共同确定．假设随机误差对体重没有影响，也就是说，体重仅受身高的影响，那么散点图中所有的点将完全落在回归直线上．但是，在图中，数据点并没有完全落在回归直线上．这些点散布在回归直线附近，所以一定是随机误差把这些点从回归直线上“推”开了，即自变量x只能解释部分y的变化．

第三章 一元线性回归模型

第三章 一元线性回归模型

第三章 一元线性回归模型

第一节 一元线性回归模型及其基本假设

一元线性回归模型

第二章回归分析的基本思想指出，由于总体实际上是未知的，必须根据样本回归模型估计总体回归模型，回归分析的目的就是尽量使得样本回归模型接近总体回归模型，那么采取什么方法估计样本回归模型才使得估计出的样本回归模型是总体回归模型的一个较好估计值呢？这里包括两个问题：一是采用什么方法估计样本回归模型；二是怎样验证估计出的样本回归模型是总体回归模型的一个较好估计值。这些将在接下来的内容中讲到。这一章介绍最简单的一元线性回归模型，下一章再扩展到多元线性回归模型。

一元线性回归模型及其基本假设

一、一元线性回归模型的定义

一元线性回归模型是最简单的计量经济学模型，在该一元模型中，仅仅只含有一个自变量，其一般形式为：

yi = β0 + β1xi + μi（3.1.1）

其中yi是因变量，xi是自变量，β0、β1是回归参数，μi是随机项。由于式（3.1.1）是对总体而言的，也称为总体回归模型。

随机项μ代表未被考虑到模型中而又对被解释变量y有影响的所有因素产生的总效应。

二、一元线性回归模型的基本假设

由于模型中随机项的存在使得参数β0和β1的数值不可能严格计算出来，而只能进行估计，在计量经济学中，有很多方法可以估计出这些参数值，但采用什么方法能够尽可能准确地估计出这些参数值，取决于随机项μ和自变量x的性质。因此，对随机项 μ和自变量x的统计假定以及检验这些假定是否满足的方法，在计量经济学中占有重要的地位。

估计方法中用得最多的是普通最小二乘法（Ordinary Least Squares），同样为了保证利用普通最小二乘法估计出的参数估计量具有良好的性质，也需要对模型的随机项μ和自变量x提出若干种假设。当模型中的随机项μ和自变量x满足这些假设时，普通最小二乘法就是适合的估计方法；当模型中的随机项μ和自变量x不满足这些假设时，普通最小二乘法就不是适合的方法，这时需要利用其他的方法来估计模型。所以，严格来说，这些假设并不是针对计量经济学模型的，而是针对普通最小二乘法的。