现代回归分析方法
- 格式:ppt
- 大小:4.27 MB
- 文档页数:33


第八章 回归分析方法
当人们对研究对象的内在特性和各因素间的关系有比较充分的认识时,一般用机理分析方法建立数学模型。如果由于客观事物内部规律的复杂性及人们认识程度的限制,无法分析实际对象内在的因果关系,建立合乎机理规律的数学模型,那么通常的办法是搜集大量数据,基于对数据的统计分析去建立模型。本章讨论其中用途非常广泛的一类模型——统计回归模型。回归模型常用来解决预测、控制、生产工艺优化等问题。
变量之间的关系可以分为两类:一类叫确定性关系,也叫函数关系,其特征是:一个变量随着其它变量的确定而确定。另一类关系叫相关关系,变量之间的关系很难用一种精确的方法表示出来。例如,通常人的年龄越大血压越高,但人的年龄和血压之间没有确定的数量关系,人的年龄和血压之间的关系就是相关关系。回归分析就是处理变量之间的相关关系的一种数学方法。其解决问题的大致方法、步骤如下:
(1)收集一组包含因变量和自变量的数据;
(2)选定因变量和自变量之间的模型,即一个数学式子,利用数据按照最小二乘准则计算模型中的系数;
(3)利用统计分析方法对不同的模型进行比较,找出与数据拟合得最好的模型;
(4)判断得到的模型是否适合于这组数据;
(5)利用模型对因变量作出预测或解释。
应用统计分析特别是多元统计分析方法一般都要处理大量数据,工作量非常大,所以在计算机普及以前,这些方法大都是停留在理论研究上。运用一般计算语言编程也要占用大量时间,而对于经济管理及社会学等对高级编程语言了解不深的人来说要应用这些统计方法更是不可能。MATLAB等软件的开发和普及大大减少了对计算机编程的要求,使数据分析方法的广泛应用成为可能。MATLAB统计工具箱几乎包括了数理统计方面主要的概念、理论、方法和算法。运用MATLAB统计工具箱,我们可以十分方便地在计算机上进行计算,从而进一步加深理解,同时,其强大的图形功能使得概念、过程和结果可以直观地展现在我们面前。本章内容通常先介绍有关回归分析的数学原理,主要说明建模过程中要做的工作及理由,如模型的假设检验、参数估计等,为了把主要精力集中在应用上,我们略去详细而繁杂的理论。在此基础上再介绍在建模过程中如何有效地使用MATLAB软件。没有学过这部分数学知识的读者可以不深究其数学原理,只要知道回归分析的目的,按照相应方法通过软件显示的图形或计算所得结果表示什么意思,那么,仍然可以学到用回归模型解决实际问题的基本方法。包括:一元线性回归、多元线性回归、非线性回归、逐步回归等方法以及如何利用MATLAB软件建立初步的数学模型,如何透过输出结果对模型进行分析和改进,回归模型的应用等。
逐步回归分析
逐步回归分析
1、逐步回归分析的主要思路
在实际问题中, ⼈们总是希望从对因变量有影响的诸多变量中选择⼀些变量作为⾃变量, 应⽤多元回归分析的⽅法建⽴“最优”回归⽅程以便对因变量进⾏预报或控制。所谓“最优”回归⽅程, 主要是指希望在回归⽅程中包含所有对因变量影响显著的⾃变量⽽不包含对影响不显著的⾃变量的回归⽅程。逐步回归分析正是根据这种原则提出来的⼀种回归分析⽅法。它的主要思路是在考虑的全部⾃变量中按其对的作⽤⼤⼩, 显著程度⼤⼩或者说贡献⼤⼩, 由⼤到⼩地逐个引⼊回归⽅程, ⽽对那些对作⽤不显著的变量可能始终不被引⼈回归⽅程。另外, ⼰被引⼈回归⽅程的变量在引⼊新变量后也可能失去重要性, ⽽需要从回归⽅程中剔除出去。引⼈⼀个变量或者从回归⽅程中剔除⼀个变量都称为逐步回归的⼀步, 每⼀步都要进⾏检验, 以保证在引⼈新变量前回归⽅程中只含有对影响显著的变量, ⽽不显著的变量
已被剔除。
逐步回归分析的实施过程是每⼀步都要对已引⼊回归⽅程的变量计算其偏回归平⽅和(即贡献), 然后选⼀个偏回归平⽅和最⼩的变量, 在预先给定的⽔平下进⾏显著性检验, 如果显著则该变量不必从回
归⽅程中剔除, 这时⽅程中其它的⼏个变量也都不需要剔除(因为其它的⼏个变量的偏回归平⽅和都⼤于
最⼩的⼀个更不需要剔除)。相反, 如果不显著, 则该变量要剔除, 然后按偏回归平⽅和由⼩到⼤地依次对⽅程中其它变量进⾏检验。将对影响不显著的变量全部剔除, 保留的都是显著的。接着再对未引⼈回归⽅程中的变量分别计算其偏回归平⽅和, 并选其中偏回归平⽅和最⼤的⼀个变量, 同样在给定⽔平
下作显著性检验, 如果显著则将该变量引⼊回归⽅程, 这⼀过程⼀直继续下去, 直到在回归⽅程中的变量都不能剔除⽽⼜⽆新变量可以引⼊时为⽌, 这时逐步回归过程结束。
2、逐步回归分析的主要计算步骤(1) 确定检验值
在进⾏逐步回归计算前要确定检验每个变量是否显若的检验⽔平, 以作为引⼈或剔除变量的标准。
回归分析方法
Newly compiled on November 23, 2020
第八章 回归分析方法
当人们对研究对象的内在特性和各因素间的关系有比较充分的认识时,一般用机理分析方法建立数学模型。如果由于客观事物内部规律的复杂性及人们认识程度的限制,无法分析实际对象内在的因果关系,建立合乎机理规律的数学模型,那么通常的办法是搜集大量数据,基于对数据的统计分析去建立模型。本章讨论其中用途非常广泛的一类模型——统计回归模型。回归模型常用来解决预测、控制、生产工艺优化等问题。
变量之间的关系可以分为两类:一类叫确定性关系,也叫函数关系,其特征是:一个变量随着其它变量的确定而确定。另一类关系叫相关关系,变量之间的关系很难用一种精确的方法表示出来。例如,通常人的年龄越大血压越高,但人的年龄和血压之间没有确定的数量关系,人的年龄和血压之间的关系就是相关关系。回归分析就是处理变量之间的相关关系的一种数学方法。其解决问题的大致方法、步骤如下:
(1)收集一组包含因变量和自变量的数据;
(2)选定因变量和自变量之间的模型,即一个数学式子,利用数据按照最小二乘准则计算模型中的系数;
(3)利用统计分析方法对不同的模型进行比较,找出与数据拟合得最好的模型;
(4)判断得到的模型是否适合于这组数据;
(5)利用模型对因变量作出预测或解释。
应用统计分析特别是多元统计分析方法一般都要处理大量数据,工作量非常大,所以在计算机普及以前,这些方法大都是停留在理论研究上。运用一般计算语言编程也要
占用大量时间,而对于经济管理及社会学等对高级编程语言了解不深的人来说要应用这些统计方法更是不可能。MATLAB等软件的开发和普及大大减少了对计算机编程的要求,使数据分析方法的广泛应用成为可能。MATLAB统计工具箱几乎包括了数理统计方面主要的概念、理论、方法和算法。运用MATLAB统计工具箱,我们可以十分方便地在计算机上进行计算,从而进一步加深理解,同时,其强大的图形功能使得概念、过程和结果可以直观地展现在我们面前。本章内容通常先介绍有关回归分析的数学原理,主要说明建模过程中要做的工作及理由,如模型的假设检验、参数估计等,为了把主要精力集中在应用上,我们略去详细而繁杂的理论。在此基础上再介绍在建模过程中如何有效地使用MATLAB软件。没有学过这部分数学知识的读者可以不深究其数学原理,只要知道回归分析的目的,按照相应方法通过软件显示的图形或计算所得结果表示什么意思,那么,仍然可以学到用回归模型解决实际问题的基本方法。包括:一元线性回归、多元线性回归、非线性回归、逐步回归等方法以及如何利用MATLAB软件建立初步的数学模型,如何透过输出结果对模型进行分析和改进,回归模型的应用等。
编号:05
1 回归分析教学案课前预习案
班级 姓名 学号 面批时间
【学习目标】
1、能根据给出的线性回归方程系数公式建立线性回归方程.能通过相关检验,了解回归分析的基本思想.
2、通过复习线性回归方程,探究相关性检验的基本思想.培养类比、迁移、化归的能力,解决问题的能力.
3、培养学生积极参与、大胆探索的精神.
【自学导引】
1.回归直线方程的形式: ,其中b=
a= 。当b>0时,变量x与y是 相关,当b<0
时,变量x与y是 相关.
2.我们根据一组数据可以求出回归直线方程,但不一定能反映这组数据的变化规律,因此要对X与Y作线性相关性检验,简称 。
3.对于变量X与Y随机取到的n对数据1122,,,,nnxyxyxy,则检验统计
量的样本相关系数为r= =
样本相关系数r具有性质:
①r的范围: 。
②当 线性相关程度越强;当 越接近0,线性相关程度越弱。
4.相关性检验的基本步骤
(1)作统计假设:x与Y 线性相关关系;
(2)根据 0.05与n-2在附表中查出r的一个临界值0.05r;(一般所求题目中已给出)
(3)根据样本相关系数计算公式 编号:05