厦大统计学课件 (1)
- 格式：pdf
- 大小：13.18 MB
- 文档页数：97
相关与回归分析
n 第一节 相关与回归分析的基本概念 n 第二节 简单线性相关与回归分析 n 第三节 多元线性相关与回归分析 n 第四节 非线性相关与回归分析
7-1
第一节 相关与回归分析的基本概念
一、函数关系与相关关系
1.函数关系
当一个或几个变量取一定的值 时，另一个变量有确定值与之 相对应，我们称这种关系为确 定性的函数关系。
（3）当变量 x 取某个值时，变 量 y 的取值可能有几个；
（4）各观测点分布在直线周围。
7-6
（相关关系）
相关关系的例子
§ 商品的消费量(y)与居民收入(x)之间的关系 § 商品的消费量(y)与物价(x)之间的关系 § 商品销售额(y)与广告费支出(x)之间的关系 § 粮食亩产量(y)与施肥量(x1) 、降雨量(x2) 、
7-11
（二）相关分析与回归分析的区别
n 1.在相关分析中，不必确定自变量和因变量； 而在回归分析中，必须事先确定哪个为自变 量，哪个为因变量，而且只能从自变量去推 测因变量，而不能从因变量去推断自变量。
n 2.相关分析不能指出变量间相互关系的具体 形式；而回归分析能确切的指出变量之间相 互关系的具体形式，它可根据回归模型从已 知量估计和预测未知量。
r Lxy Lxx Lyy
Lyy n y2 ( y)2
计算相关系数 的“积差法”
7-24
例：下表是有关15个地区某种食物需求量和地区人口 增加量的资料。
7-25
Lxy n xy x y 15 647851 3626 2261
1519379
Lxx n x2 ( x)2151067614 36262 2866334
n 反映了除 x 和 y 之间的线性关系之外的随机因 素对 y 的影响
项ut相互对应；ｎ是样本的容量。
7-35
一元线性回归模型
（概念要点）
对于只涉及一个自变量的简单线性回归模型可表
示为 yt = 1 x t
模型中，y 是 x 的线性函数(部分)加上误差项 n 线性部分反映了由于 x 的变化而引起的 y 的变化
n 误差项 t 是随机变量
7-29
二、简单线性回归分析
什么是回归分析？
（内容）
1. 从一组样本数据出发，确定变量之间的数学 关系式
2. 对这些关系式的可信程度进行各种统计检验， 并从影响某一特定变量的诸多变量中找出哪 些变量的影响显著，哪些不显著
3. 利用所求的关系式，根据一个或几个变量的 取值来预测或控制另一个特定变量的取值， 并给出这种预测或控制的精确程度
线性 回归
非线性 回归
7-33
பைடு நூலகம்
一元线性回归模型
（概念要点）
1. 当只涉及一个自变量时称为一元回归，若因变 量 y 与自变量 x 之间为线性关系时称为一元线 性回归。
2. 对于具有线性关系的两个变量，可以用一条线 性方程来表示它们之间的关系。
3. 描述因变量 y 如何依赖于自变量 x 和误差项
的方程称为回归模型。
7-34
n (一)总体回归函数 Ｙt＝β0＋β1Ｘt＋ut （7.5） u t是随机误差项，又称随机干扰项，它 是一个特殊的随机变量，反映未列入方程式 的其他各种因素对Ｙ的影响。
n (二)样本回归函数: Yt ˆ 0 ˆ1 X et （ｔ＝１，２，... n) ｅt称为残差，在概念上，ｅt与总体误差
7-18
7-19
样本相关系数的定义公式实质
2
r
xy
xy
7-20
(二)相关系数的特点
1.ｒ的取值介于－１与１之间， r 的取值范围是 [-1,1] 2.在大多数情况下，０＜|ｒ|＜１，即Ｘ与Ｙ的样本
观测值之间存在着一定的线性关系，当ｒ＞０时， Ｘ与Ｙ为正相关，当ｒ＜０时，Ｘ与Ｙ为负相关。 |ｒ|的数值愈接近于1，表示x与y直线相关程度愈 高；反之， |ｒ|的数值愈接近于0，表示x与y直 线相关程度愈低。通常判断的标准是: |ｒ|＜0.3 称为微弱相关，0.3≤ |ｒ|＜0.5称为低度相关， 0.５≤ |ｒ|＜0.8称为显著相关 ，0.8≤ |ｒ|＜
完成量（小时） 20 30 20 20 40 30 40 80 80 50 40 30 20 80 50 单位成本（元/小时） 18 16 16 15 16 15 15 14 14 15 15 16 18 14 14
完成量（小时） 20 50 20 30 50 20 50 40 20 80 40 20 50 80 30 单位成本（元/小时）16 16 18 16 15 18 15 14 16 14 15 16 14 15 15
7-2
（函数关系）
（1）是一一对应的确定关系 （2）设有两个变量 x 和 y ，
变量 y 随变量 x 一起变化， 并完全依赖于 x ，当变量 x 取某个数值时， y 依确 定的关系取相应的值，则 称 y 是 x 的函数，记为 y = f (x)，其中 x 称为自变 量，y 称为因变量 （3）各观测点落在一条线上
7-4
2. 相关关系： 当一个或几个相互联系的 变量取一定数值时，与之相对应的另一 变量的值虽然不确定，但它仍按某种规 律在一定的范围内变化。
现象之间客观存在的不严格、不确 定的数量依存关系。
7-5
变量间的关系
（相关关系）
（1）变量间关系不能用函数关 系精确表达；
（2）一个变量的取值不能由另 一个变量唯一确定；
第二节 简单线性相关与回归分析
一、相关系数及其检验 (一)相关系数的定义 1.简单相关系数：在线性条件下说明两个变
量之间相关关系密切程度的统计分析指标， 简称相关系数。
若相关系数是根据总体全部数据计算的，
称为总体相关系数，记为
若是根据样本数据计算的，则称为样本相 关系数，记为 r
7-17
Lyy n y2 ( y)2 15395039 22612 813464
r
Lxy
Lxx Lyy
1519379 2866334 813464
0.9950
7-26
计算公式还可以有：
r (x x)(y y) (x x)2(y y)2
[(x x)( y y)]/ n [ (x x)2( y y)2 ]/ n
7-3
变量间的关系
（函数关系）
函数关系的例子
§ 某种商品的销售额(y)与销售量(x)之间的关 系可表示为 y = p x (p 为单价)
§ 圆的面积(S)与半径之间的关系可表示为S =
r2
§ 企业的原材料消耗额(y)与产量(x1) 、单位产 量消耗(x2) 、原材料价格(x3)之间的关系可 表示为y = x1 x2 x3
n 3.相关分析所涉及的变量一般都是随机变量， 而回归分析中因变量是随机的，自变量则作 为研究时给定的非随机变量。
7-12
（三）相关分析与回归分析的联系
n 相关分析和回归分析有着密切的联系，它们 不仅具有共同的研究对象，而且在具体应用 时，常常必须互相补充。相关分析需要依靠 回归分析来表明现象数量相关的具体形式， 而回归分析则需要依靠相关分析来表明现象 数量变化的相关程度。只有当变量之间存在 着高度相关时，进行回归分析寻求其相关的 具体形式才有意义。
7-30
回归模型与回归方程
回归模型
1. 回答“变量之间是什么样的关系？” 2. 方程中运用
n 1 个数字的因变量(响应变量)
n 被预测的变量
n 1 个或多个数字的或分类的自变量 (解释变量)
n 用于预测的变量
3. 主要用于预测和估计
7-32
回归模型的类型
回归模型
一元回归
多元回归
线性 回归
非线性 回归
温度(x3)之间的关系 § 收入水平(y)与受教育程度(x)之间的关系 § 父亲身高(y)与子女身高(x)之间的关系
7-7
二、相关关系的种类
(1)
(2)
(3)
(4)
图中（1）、（2）为线性相关，（3）、（4）为非线性相关。
n 1.按相关关系的程度划分可分为完全相关，不完 全相关和不相关。
n 2.按相关形式划分可以分为线性相关和非线性相 关。
整理后有
完成量（小时） 20 20 20 20 20 20 20 20 20 30 30 30 30 30 40 单位成本（元/小时）15 16 16 16 16 18 18 18 18 15 15 15 16 16 14
完成量（小时） 40 40 40 40 50 50 50 50 50 50 80 80 80 80 80 单位成本（元/小时）15 15 15 16 14 14 15 15 15 16 14 14 14 14 15
n 确定显著性水平，并作出决策 • 若t>t，拒绝H0 • 若t<t，接受H0
7-28
相关系数的显著性检验（实例）
n 对前例计算的相关系数进行显著性检 (0.05)
1. 提出假设：H0： ；H1： 0
2. 计算检验的统计量
种食物需求量和地区人口增加量
7-8
3.按相关的方向划分可分为正相关和负相关
（1）正相关：两个相关现象间，当一个变量 的数值增加（或减少）时，另一个变量的数 值也随之增加（或减少），即同方向变化。 例如收入与消费的关系。
（2）负相关：当一个变量的数值增加（或减 少）时，而另一个变量的数值相反地呈减少 （或增加）趋势变化，即反方向变化。 例如物价与消费的关系。
1称为高度相关或强相关。
7-21
3.如果|ｒ|=1，则表明Ｘ与Ｙ完全线性相关， 当ｒ=1时，称为完全正相关， 而ｒ=-1时，称为完全负相关。
4.ｒ是对变量之间线性相关关系的度量。 ｒ=0只是表明两个变量之间不存在线性关系， 它并不意味着Ｘ与Ｙ之间不存在其他类型的
n 第一节 相关与回归分析的基本概念 n 第二节 简单线性相关与回归分析 n 第三节 多元线性相关与回归分析 n 第四节 非线性相关与回归分析
7-1
第一节 相关与回归分析的基本概念
一、函数关系与相关关系
1.函数关系
当一个或几个变量取一定的值 时，另一个变量有确定值与之 相对应，我们称这种关系为确 定性的函数关系。
（3）当变量 x 取某个值时，变 量 y 的取值可能有几个；
（4）各观测点分布在直线周围。
7-6
（相关关系）
相关关系的例子
§ 商品的消费量(y)与居民收入(x)之间的关系 § 商品的消费量(y)与物价(x)之间的关系 § 商品销售额(y)与广告费支出(x)之间的关系 § 粮食亩产量(y)与施肥量(x1) 、降雨量(x2) 、
7-11
（二）相关分析与回归分析的区别
n 1.在相关分析中，不必确定自变量和因变量； 而在回归分析中，必须事先确定哪个为自变 量，哪个为因变量，而且只能从自变量去推 测因变量，而不能从因变量去推断自变量。
n 2.相关分析不能指出变量间相互关系的具体 形式；而回归分析能确切的指出变量之间相 互关系的具体形式，它可根据回归模型从已 知量估计和预测未知量。
r Lxy Lxx Lyy
Lyy n y2 ( y)2
计算相关系数 的“积差法”
7-24
例：下表是有关15个地区某种食物需求量和地区人口 增加量的资料。
7-25
Lxy n xy x y 15 647851 3626 2261
1519379
Lxx n x2 ( x)2151067614 36262 2866334
n 反映了除 x 和 y 之间的线性关系之外的随机因 素对 y 的影响
项ut相互对应；ｎ是样本的容量。
7-35
一元线性回归模型
（概念要点）
对于只涉及一个自变量的简单线性回归模型可表
示为 yt = 1 x t
模型中，y 是 x 的线性函数(部分)加上误差项 n 线性部分反映了由于 x 的变化而引起的 y 的变化
n 误差项 t 是随机变量
7-29
二、简单线性回归分析
什么是回归分析？
（内容）
1. 从一组样本数据出发，确定变量之间的数学 关系式
2. 对这些关系式的可信程度进行各种统计检验， 并从影响某一特定变量的诸多变量中找出哪 些变量的影响显著，哪些不显著
3. 利用所求的关系式，根据一个或几个变量的 取值来预测或控制另一个特定变量的取值， 并给出这种预测或控制的精确程度
线性 回归
非线性 回归
7-33
பைடு நூலகம்
一元线性回归模型
（概念要点）
1. 当只涉及一个自变量时称为一元回归，若因变 量 y 与自变量 x 之间为线性关系时称为一元线 性回归。
2. 对于具有线性关系的两个变量，可以用一条线 性方程来表示它们之间的关系。
3. 描述因变量 y 如何依赖于自变量 x 和误差项
的方程称为回归模型。
7-34
n (一)总体回归函数 Ｙt＝β0＋β1Ｘt＋ut （7.5） u t是随机误差项，又称随机干扰项，它 是一个特殊的随机变量，反映未列入方程式 的其他各种因素对Ｙ的影响。
n (二)样本回归函数: Yt ˆ 0 ˆ1 X et （ｔ＝１，２，... n) ｅt称为残差，在概念上，ｅt与总体误差
7-18
7-19
样本相关系数的定义公式实质
2
r
xy
xy
7-20
(二)相关系数的特点
1.ｒ的取值介于－１与１之间， r 的取值范围是 [-1,1] 2.在大多数情况下，０＜|ｒ|＜１，即Ｘ与Ｙ的样本
观测值之间存在着一定的线性关系，当ｒ＞０时， Ｘ与Ｙ为正相关，当ｒ＜０时，Ｘ与Ｙ为负相关。 |ｒ|的数值愈接近于1，表示x与y直线相关程度愈 高；反之， |ｒ|的数值愈接近于0，表示x与y直 线相关程度愈低。通常判断的标准是: |ｒ|＜0.3 称为微弱相关，0.3≤ |ｒ|＜0.5称为低度相关， 0.５≤ |ｒ|＜0.8称为显著相关 ，0.8≤ |ｒ|＜
完成量（小时） 20 30 20 20 40 30 40 80 80 50 40 30 20 80 50 单位成本（元/小时） 18 16 16 15 16 15 15 14 14 15 15 16 18 14 14
完成量（小时） 20 50 20 30 50 20 50 40 20 80 40 20 50 80 30 单位成本（元/小时）16 16 18 16 15 18 15 14 16 14 15 16 14 15 15
7-2
（函数关系）
（1）是一一对应的确定关系 （2）设有两个变量 x 和 y ，
变量 y 随变量 x 一起变化， 并完全依赖于 x ，当变量 x 取某个数值时， y 依确 定的关系取相应的值，则 称 y 是 x 的函数，记为 y = f (x)，其中 x 称为自变 量，y 称为因变量 （3）各观测点落在一条线上
7-4
2. 相关关系： 当一个或几个相互联系的 变量取一定数值时，与之相对应的另一 变量的值虽然不确定，但它仍按某种规 律在一定的范围内变化。
现象之间客观存在的不严格、不确 定的数量依存关系。
7-5
变量间的关系
（相关关系）
（1）变量间关系不能用函数关 系精确表达；
（2）一个变量的取值不能由另 一个变量唯一确定；
第二节 简单线性相关与回归分析
一、相关系数及其检验 (一)相关系数的定义 1.简单相关系数：在线性条件下说明两个变
量之间相关关系密切程度的统计分析指标， 简称相关系数。
若相关系数是根据总体全部数据计算的，
称为总体相关系数，记为
若是根据样本数据计算的，则称为样本相 关系数，记为 r
7-17
Lyy n y2 ( y)2 15395039 22612 813464
r
Lxy
Lxx Lyy
1519379 2866334 813464
0.9950
7-26
计算公式还可以有：
r (x x)(y y) (x x)2(y y)2
[(x x)( y y)]/ n [ (x x)2( y y)2 ]/ n
7-3
变量间的关系
（函数关系）
函数关系的例子
§ 某种商品的销售额(y)与销售量(x)之间的关 系可表示为 y = p x (p 为单价)
§ 圆的面积(S)与半径之间的关系可表示为S =
r2
§ 企业的原材料消耗额(y)与产量(x1) 、单位产 量消耗(x2) 、原材料价格(x3)之间的关系可 表示为y = x1 x2 x3
n 3.相关分析所涉及的变量一般都是随机变量， 而回归分析中因变量是随机的，自变量则作 为研究时给定的非随机变量。
7-12
（三）相关分析与回归分析的联系
n 相关分析和回归分析有着密切的联系，它们 不仅具有共同的研究对象，而且在具体应用 时，常常必须互相补充。相关分析需要依靠 回归分析来表明现象数量相关的具体形式， 而回归分析则需要依靠相关分析来表明现象 数量变化的相关程度。只有当变量之间存在 着高度相关时，进行回归分析寻求其相关的 具体形式才有意义。
7-30
回归模型与回归方程
回归模型
1. 回答“变量之间是什么样的关系？” 2. 方程中运用
n 1 个数字的因变量(响应变量)
n 被预测的变量
n 1 个或多个数字的或分类的自变量 (解释变量)
n 用于预测的变量
3. 主要用于预测和估计
7-32
回归模型的类型
回归模型
一元回归
多元回归
线性 回归
非线性 回归
温度(x3)之间的关系 § 收入水平(y)与受教育程度(x)之间的关系 § 父亲身高(y)与子女身高(x)之间的关系
7-7
二、相关关系的种类
(1)
(2)
(3)
(4)
图中（1）、（2）为线性相关，（3）、（4）为非线性相关。
n 1.按相关关系的程度划分可分为完全相关，不完 全相关和不相关。
n 2.按相关形式划分可以分为线性相关和非线性相 关。
整理后有
完成量（小时） 20 20 20 20 20 20 20 20 20 30 30 30 30 30 40 单位成本（元/小时）15 16 16 16 16 18 18 18 18 15 15 15 16 16 14
完成量（小时） 40 40 40 40 50 50 50 50 50 50 80 80 80 80 80 单位成本（元/小时）15 15 15 16 14 14 15 15 15 16 14 14 14 14 15
n 确定显著性水平，并作出决策 • 若t>t，拒绝H0 • 若t<t，接受H0
7-28
相关系数的显著性检验（实例）
n 对前例计算的相关系数进行显著性检 (0.05)
1. 提出假设：H0： ；H1： 0
2. 计算检验的统计量
种食物需求量和地区人口增加量
7-8
3.按相关的方向划分可分为正相关和负相关
（1）正相关：两个相关现象间，当一个变量 的数值增加（或减少）时，另一个变量的数 值也随之增加（或减少），即同方向变化。 例如收入与消费的关系。
（2）负相关：当一个变量的数值增加（或减 少）时，而另一个变量的数值相反地呈减少 （或增加）趋势变化，即反方向变化。 例如物价与消费的关系。
1称为高度相关或强相关。
7-21
3.如果|ｒ|=1，则表明Ｘ与Ｙ完全线性相关， 当ｒ=1时，称为完全正相关， 而ｒ=-1时，称为完全负相关。
4.ｒ是对变量之间线性相关关系的度量。 ｒ=0只是表明两个变量之间不存在线性关系， 它并不意味着Ｘ与Ｙ之间不存在其他类型的
