回归分析

编号：05

1 回归分析教学案课前预习案

班级 姓名 学号 面批时间

【学习目标】

1、能根据给出的线性回归方程系数公式建立线性回归方程.能通过相关检验，了解回归分析的基本思想.

2、通过复习线性回归方程，探究相关性检验的基本思想.培养类比、迁移、化归的能力，解决问题的能力.

3、培养学生积极参与、大胆探索的精神.

【自学导引】

1.回归直线方程的形式： ，其中b=

a= 。当b>0时，变量x与y是 相关，当b<0

时，变量x与y是 相关.

2.我们根据一组数据可以求出回归直线方程，但不一定能反映这组数据的变化规律，因此要对X与Y作线性相关性检验，简称 。

3.对于变量X与Y随机取到的n对数据1122,,,,nnxyxyxy，则检验统计

量的样本相关系数为r= =

样本相关系数r具有性质：

①r的范围： 。

②当 线性相关程度越强；当 越接近0，线性相关程度越弱。

4.相关性检验的基本步骤

（1）作统计假设：x与Y 线性相关关系；

（2）根据 0.05与n-2在附表中查出r的一个临界值0.05r；（一般所求题目中已给出）

（3）根据样本相关系数计算公式 编号：05

回归分析

回归分析（Regression Analysis）是研究因变量y和自变量x之间数量变化规律，并通过一定的数学表达式来描述这种关系，进而确定一个或几个自变量的变化对因变量的影响程度。简约地讲，可以理解为用一种确定的函数关系去近似代替比较复杂的相关关系，这个函数称为回归函数，在实际问题中称为经验公式。回归分析所研究的主要问题就是如何利用变量X，Y的观察值（样本），对回归函数进行统计推断，包括对它进行估计及检验与它有关的假设等。

在SPSS中的“Analyze”菜单下的“Regression”项是专门用于回归分析的过程组。单击该项，将打开“Regression”的右拉式菜单，菜单包含如下几项：

1.Linear 线性回归。

2.Curve Estimation 曲线估计。

3.Binary Logistic 二元逻辑分析。

4.Multinomial Logistic 多元逻辑分析。

5.Ordinal 序数分析。

6.Probit 概率分析。

7.Nonlinear 非线性估计。

8.Weight Estimation 加权估计。

9.2-Stage Least Squares 两段最小二乘法。

本课程将介绍其中的“Linear”、“Curve Estimation”和“Nonlinear”项过程的应用。

一元回归分析

在数学关系式中只描述了一个变量与另一个变量之间的数量变化关系，则称其为一元回归分析。其回归模型为iiibxay，y称为因变量，x称为自变量，称为随机误差，a, b 称为待估计的回归参数，下标i表示第i个观测值。若给出a和b的估计量分别为baˆ,ˆ则经验回归方程：iixbayˆˆˆ，一般把iiiyyeˆ称为残差， 残差ie可视为扰动的“估计量”。

例：湖北省汉阳县历年越冬代二化螟发蛾盛期与当年三月上旬平均气温的数据如表1-1，分析三月上旬平均温度与越冬代二化螟发蛾盛期的关系。

第八章 回归分析方法

当人们对研究对象的内在特性和各因素间的关系有比较充分的认识时，一般用机理分析方法建立数学模型。如果由于客观事物内部规律的复杂性及人们认识程度的限制，无法分析实际对象内在的因果关系，建立合乎机理规律的数学模型，那么通常的办法是搜集大量数据，基于对数据的统计分析去建立模型。本章讨论其中用途非常广泛的一类模型——统计回归模型。回归模型常用来解决预测、控制、生产工艺优化等问题。

变量之间的关系可以分为两类：一类叫确定性关系，也叫函数关系，其特征是：一个变量随着其它变量的确定而确定。另一类关系叫相关关系，变量之间的关系很难用一种精确的方法表示出来。例如，通常人的年龄越大血压越高，但人的年龄和血压之间没有确定的数量关系，人的年龄和血压之间的关系就是相关关系。回归分析就是处理变量之间的相关关系的一种数学方法。其解决问题的大致方法、步骤如下：

（1）收集一组包含因变量和自变量的数据；

（2）选定因变量和自变量之间的模型，即一个数学式子，利用数据按照最小二乘准则计算模型中的系数；

（3）利用统计分析方法对不同的模型进行比较，找出与数据拟合得最好的模型；

（4）判断得到的模型是否适合于这组数据；

（5）利用模型对因变量作出预测或解释。

应用统计分析特别是多元统计分析方法一般都要处理大量数据，工作量非常大，所以在计算机普及以前，这些方法大都是停留在理论研究上。运用一般计算语言编程也要占用大量时间，而对于经济管理及社会学等对高级编程语言了解不深的人来说要应用这些统计方法更是不可能。MATLAB等软件的开发和普及大大减少了对计算机编程的要求，使数据分析方法的广泛应用成为可能。MATLAB统计工具箱几乎包括了数理统计方面主要的概念、理论、方法和算法。运用MATLAB统计工具箱，我们可以十分方便地在计算机上进行计算，从而进一步加深理解，同时，其强大的图形功能使得概念、过程和结果可以直观地展现在我们面前。本章内容通常先介绍有关回归分析的数学原理，主要说明建模过程中要做的工作及理由，如模型的假设检验、参数估计等，为了把主要精力集中在应用上，我们略去详细而繁杂的理论。在此基础上再介绍在建模过程中如何有效地使用MATLAB软件。没有学过这部分数学知识的读者可以不深究其数学原理，只要知道回归分析的目的，按照相应方法通过软件显示的图形或计算所得结果表示什么意思，那么，仍然可以学到用回归模型解决实际问题的基本方法。包括：一元线性回归、多元线性回归、非线性回归、逐步回归等方法以及如何利用MATLAB软件建立初步的数学模型，如何透过输出结果对模型进行分析和改进，回归模型的应用等。

回归分析的应用及回归分析的类型

什么是回归分析？ 正确问题的近似答案要比近似问题的精确答案更有价值 这正是回归分析所追求的目标，它是最常用的预测建模技术之一，有助于在重要情况下做出更明智的决策。 回归分析是作为数据科学家需要掌握的第一个算法。它是数据分析中最常用的预测建模技术之一。即使在今天，大多数公司都使用回归技术来实现大规模决策。

要回答“什么是回归分析”这个问题，我们需要深入了解基本面。简单的回归分析定义是一种用于基于一个或多个独立变量（X）预测因变量（Y）的技术。

经典的回归方程看起来像这样：

等式中，hθ（x）是因变量Y，X是自变量，θ0是常数，并且θ1是回归系数。 回归分析的应用

回归分析有三个主要应用： • 解释他们理解困难的事情。例如，为什么客户服务电子邮件在上一季度有所下降。 • 预测重要的商业趋势。例如，明年会要求他们的产品看起来像什么？ • 选择不同的替代方案。例如，我们应该进行PPC（按点击付费）还是内容营销活动？ 不同类型的回归分析技术

有许多可用的回归技术，不同的技术更适合于不同的问题。回归分析技术的类型基于： • 自变量的数量（1,2或更多） • 因变量的类型（分类，连续等） • 回归线的形状

主要类型的回归分析 1. 线

性

回归 线性回归是最常用的回归技术。线性回归的目的是找到一个称为Y的连续响应变量的方程，它将是一个或多个变量（X）的函数。 因此，线性回归可以在仅知道X时预测Y的值。它不依赖于任何其他因素。

Y被称为标准变量，而X被称为预测变量。线性回归的目的是通过点找到称为回归线的最佳拟合线。这就是数学线性回归公式 /等式的样子：

在上面的等式中，hθ（x）是标准变量Y，X是预测变量，θ0是常数，并且θ1是回归系数 线性回归可以进一步分为多元回归分析和简单回归分析。在简单线性回归中，仅使用一个独立变量X来预测因变量Y的值。

另一方面，在多元回归分析中，使用多个自变量来预测Y，当然，在这两种情况下，只有一个变量Y，唯一的区别在于自变量的数量。