数学建模 相关分析与回归分析 清华大学共63页

设：推销开支——x1
实际帐目数——x2 同类商品竞争数——x3 地区销售潜力——x4
第二十九页，共56页。
X= x1
11
5.5
2
2.5
31
8.0
41
3.0
51
3.0
6
2.9
7.
8.0
8.
9.0
9 10
.
4.0 6.5
11 1
5.5
12 13
1
5.0 6.0
14 1
5.0
15 16
1
3.5 8.0
17 1
问题分析：
钢材消费量--------试验指标(因变量)Y； 国民收入-----------自变量 x；
建立数据拟合函数 y = E（Y | x）= f(x)； 作拟合曲线图形分析。
第四页，共56页。
y=a+bx
钢材消费量y与国民收入x的散点图
第五页，共56页。
回归分析是研究变量间相关关系的一种统计分析。
输入：[Y,delta]=polyconf(p,x,S);Y
结果： Y= 22.5243
28.3186 27.0450 22.5243 26.0582 27.0450 24.1689
26.0582 24.1689 27.9896 19.6904
27.9896 19.6904 28.3186
拟合效果图：
假设：
1、因变量Y是随机变量，并且它服从正态分布； 2、f(x1,x2,x3,x4)是线性函数(非线性)；
模型： Y 0 1 x1 2 x2 3 x3 4 x4 ~ N (0, 2 )
第三十一页，共56页。
知识介绍
2、多元线性回归模型

不良贷款
14
12
10
8
6
4
2
0
0
100
200
300
400
贷款余额 不良贷款与贷款余额的散点图
14
12
10
8
6
4
2
0
0
20
40
贷款项目个数
不良贷款与贷款项目个数 的散点图
统计学
5.2 一元线性回归
一. 一元线性回归模型 二. 参数的最小二乘估计 三. 回归直线的拟合优度 四. 显著性检验
5 - 19
5 - 13
统计学
相关关系的描述与测度
(相关表和散点图)
5 - 14
统计学
完全正线性相关
正线性相关
5 - 15
散点图
(scatter diagram)
完全负线性相关
负线性相关
非线性相关
不相关
统计学
散点图
(例题分析)
【例】一家大型商业银行在多个地区设有分行 ，其业务主要是进行基础设施建设、国家重 点项目建设、固定资产投资等项目的贷款。 近年来，该银行的贷款额平稳增长，但不良 贷款额也有较大比例的提高，这给银行业务 的发展带来较大压力。为弄清楚不良贷款形 成的原因，希望利用银行业务的有关数据做 些定量分析，以便找出控制不良贷款的办法 。下面是该银行所属的25家分行2019年的有 关业务数据
统计学
什么是回归分析？
(Regression)
1. 从一组样本数据出发，确定变量之间的数学 关系式
2. 对这些关系式的可信程度进行各种统计检验 ，并从影响某一特定变量的诸多变量中找出 哪些变量的影响显著，哪些不显著
3. 利用所求的关系式，根据一个或几个变量的 取值来预测或控制另一个特定变量的取值， 并给出这种预测或控制的精确程度

温度(x3)之间的关系 收入水平(y)与受教育程度(x)之间的关系 父亲身高(y)与子女身高(x)之间的关系
9
相关关系的类型
相关关系
线性相关 非线性相关 完全相关 不相关
正负 相相 关关
正负 相相 关关
10
相关关系的图示

完全正线性相关




正线性相关
11
25
回归分析与相关分析的区别
1. 相关分析中，变量 x 变量 y 处于平等的地位；回 归分析中，变量 y 称为因变量，处在被解释的地 位，x 称为自变量，用于预测因变量的变化
2. 相关分析中所涉及的变量 x 和 y 都是随机变量； 回归分析中，因变量 y 是随机变量，自变量 x 可 以是随机变量，也可以是非随机的确定变量
为总体相关系数，记为
4. 若是根据样本数据计算的，则称为样本相关 系数，记为 r
13
相关关系的测度
（相关系数）
样本相关系数的计算公式
r (x x)( y y) (x x)2 (y y)2
或化简为 r
nxy x y
n x2 x2 n y2 y2
1316073323.77 12827.52 13 5226399 74572
0.9987
人均国民收入与人均消费金额之间的相关系
数为 0.9987
18
相关系数的显著性检验
（概念要点）
1. 检验两个变量之间是否存在线性相关关系
2. 等价于对回归系数 b1的检验
3. 采用 t 检验
4. 检验的步骤为
提出假设：H0： ；H1： 0
计算检验的统计量：t r n 2 ~ t(n 2)

**** *
r>0
** * * * ** **** * ** * *
**
***
r <0 表 示大体 上 Y随 着X增 加而递 减。
* * * * ** **** ** * * ** *** ** *
r<0
** **
* * * *
*** *
*** * * *
r0
*
*
*
*
* * * * * * * * *
1）假设回归方程不显著 H0：方程不显著 H1：方程显著
ˆy 2/1 y ˆ 2 / n 2 yy
2）计算回归方程的F统计量 F= 回归平方和/自由度(f1) 剩余平方和/自由度(f2)



3）给定显著性水平和两个自由度，查F分布表，得到相应临界值F
4）若F>F,拒绝H0，回归方程显著； 若FF,不能拒绝H0，x与y之间的关系不明显或无关系，回归方程不 显著
计算回归系数b的t值:
t
2
b

b
S
b
2 a y b xy / n 2 y S y S 2 2 b 2 n x x x x


1428879 ( 8 . 3 ) 4087 0 . 5175 2824500 / 12 2
模块BASE中的过程CORR可方便地用于计算变量之间的 相互关系：计算数据集FITNESS中OXYGEN，MAXPULSE， RSTPULSE三个变量和另三个变量RUNTIME，RUNPULSE， WEIGHT之间的相关系数。
以下可看出变量MAXPULSE和RUNPULSE有最大的正相关，OXYGEN 和RUNTIME负相关的绝对值最大，RSTPLUSE和WEIGHT的相关的绝 对值最小。

第一节 相关分析
一、相关关系的概念
二、相关的表现形式 三、相关关系的种类
四、相关系数的测定和应用
（一）相关系数的定义
（二）相关系数的计算
（三）相关系数的性质
（四）相关系数的显著性检验
H 1. 提出原假设
:0 即两总体不相关
0
2.选择检验统计量 t r n 2 ～ t(n2)
1 r2
n2
(yˆy) (yyˆ)2n2
二、回归分析的步骤 三、回归分析与相关分析的关系 四、简单直线回归方程的建立和求解
五、回归估计标准误差
（一）直线回归的变差
在直线回归中，实际观察值y 的大小是围绕其平均 值 y 上下波动的 y的这种波动现象称为变差。记为：
y y
第二节 回归分析
一、 二、 三、 四、 五、回归估计标准误差
第一节 相关分析
四、相关系数的测定和应用
（一）相关系数的定义
（二）相关系数的计算
（三）相关系数的性质
（四）相关系数的显著性检验
H 1. 提出原假设
:0 即两总体不相关
0
2.选择检验统计量 t r n 2 ～ t(n2)
1 r2
3.计算检验统计量t 和对应的概率度
4.决策
t (n 2) 2
(二）回归估计标准误差
1. 概念 是指实际值y 与估计值 y 之间的离差
的平方的平均数的算术平方根
2. 计算公式：
y2aybxy
SS E
n2
第二节 回归分析
一、回归分析的意义
二、回归分析的步骤 三、回归分析与相关分析的关系 四、简单直线回归方程的建立和求解 五、回归估计标准误差
六、回归模型的检验

E (Y | x) E (Y | X x) yfY | X ( y | x)dy
• 条件偏度 (The conditional skewness)
E[(Y E (Y | x)) 3 | x] S (Y | x) [Var(Y | x)]3 / 2
E[(Y E (Y | x)) 4 | x] K (Y | x) [Var(Y | x)]4 / 2
但我们往往只能得到样本数据。因此自然想到用 样本均值来估计总体均值， 并寻找样本回归函数 (SRF): mY|x=f(X) We hope the SRF is a good estimate of the PRF.
Y PRF SRF
X
A simple illustration: how to find the sample mean 表 2.1 是1960年美国1027个家庭关于收入与储蓄率 的联合频率分布. p(xi,yj) =the proportion of the 1027 families who reported the combination (X=xi and Y=yj).
Table 2.1 Joint frequency distribution of X=income and Y=saving rate
X Y 0.50 0.40 0.25 0.15 0.05 0.00 -0.05 -0.18 -0.25 p(x) 0.5 0.001 0.001 0.002 0.002 0.010 0.013 0.001 0.002 0.009 0.041 1.5 0.011 0.002 0.006 0.009 0.023 0.013 0.012 0.008 0.009 0.093 2.5 0.007 0.006 0.004 0.009 0.033 0.000 0.011 0.013 0.010 0.093 3.5 0.006 0.007 0.007 0.012 0.031 0.002 0.005 0.006 0.006 0.082 4.5 0.005 0.010 0.010 0.016 0.041 0.001 0.012 0.009 0.009 0.113 5.5 0.005 0.007 0.011 0.020 0.029 0.000 0.016 0.008 0.007 0.103 6.7 0.008 0.008 0.020 0.042 0.047 0.000 0.017 0.008 0.005 0.155 8.8 0.009 0.009 0.019 0.054 0.039 0.000 0.014 0.008 0.003 0.155 12.5 0.014 0.008 0.013 0.024 0.042 0.000 0.004 0.006 0.002 0.113 17.5 0.004 0.007 0.006 0.020 0.007 0.000 0.003 0.002 0.003 0.052

或实际场景中。
05
相关分析
相关系数的计算
计算公式
相关系数r是通过两个变量之间的样本数据计算得出的，公式为r = (n Σxy - ΣxΣy) / (√(n Σx² - (Σx)²) * √(n Σy² - (Σy)²))，其中n是样本数量，Σx和Σy分别是x和y的样本总和，Σxy是x和y的样本乘积总和。
模型的评估与检验
模型的评估指标
模型的评估指标包括均方误差 （MSE）、均方根误差
（RMSE）、决定系数（R^2） 等，用于衡量模型的预测精度。
模型的检验方法
模型的检验方法包括残差分析、 正态性检验、异方差性检验等， 用于检查模型的假设是否成立。
模型的应用与推广
通过评估和检验模型，可以确定 模型在样本数据上的表现，并进 一步将其应用到更大范围的数据
回归及相关分析ppt课件
目 录
• 回归分析概述 • 一元线性回归分析 • 多元线性回归分析 • 非线性回归分析 • 相关分析
01
回归分析概述
回归分析的定义
01
回归分析是一种统计学方法，用 于研究自变量和因变量之间的相 关关系，并建立数学模型来预测 因变量的值。
02
它通过分析数据中的变量之间的 关系，找出影响因变量的重要因 素，并确定它们之间的数量关系 。
值。
模型的评估与检验
在估计多元线性回归模型的参 数后，需要对模型进行评估和 检验，以确保模型的有效性和 可靠性。
评估模型的方法包括计算模型 的拟合优度、比较模型的预测 值与实际值等。
检验模型的方法包括检验模型 的假设是否成立、检验模型的 残差是否符合正态分布等。
04
非线性回归分析
非线性回归模型
详细描述

有最小值：
n n i 1 i 1
i
2 2 ( y a bx ) i i i
ppt课件
ˆx ˆi a ˆ b y i
6
数学建模——回归分析模型
一元线性回归模型—— a, b, 2估计
n ( xi x )( yi y ) ˆ i 1 b n ( xi x )2 i 1 ˆ ˆ y bx a
数学建模——回归分析模型
Keep focused Follow me —Jiang
ppt课件
1
数学建模——回归分析模型
• • • • • 回归分析概述 几类回归分析模型比较 一元线性回归模型 多元线性回归模型 注意点
ppt课件
2
数学建模——回归分析模型
回归分析 名词解释：回归分析是确定两种或两种以上变数 间相互赖的定量关系的一种统计分析方法。 解决问题：用于趋势预测、因果分析、优化问题 等。 几类常用的回归模型：
可决系数（判定系数） R 2 为:
可决系数越靠近1，模型对数据的拟合程度越好。 ppt课件 通常可决 系数大于0.80即判定通过检验。 模型检验还有很多方法，以后会逐步接触
15
2 e ESS RSS i R2 1 1 TSS TSS (Yi Y )2
数学建模——回归分析模型
2 i i 1
残差平 方和
13
数学建模——回归分析模型
多元线性回归模型—— 估计 j 令上式 Q 对 j 的偏导数为零，得到正规方程组，
用线性代数的方法求解，求得值为：
ˆ ( X T X )1 X TY
ˆ 为矩阵形式，具体如下： 其中 X , Y ,

数学建模 相关分析与回归分析 清华大学
1、合法而稳定的权力在使用得当时很 少遇到 抵抗。 ——塞 ·约翰 逊 2、权力会使人渐渐失去温厚善良的美 德。— —伯克
3、最大限度地行使权力总是令人反感 ；权力 不易确 定之处 始终存 在着危 险。— —塞·约翰逊 4、权力会奴化一切。——塔西佗
5、虽然权力是一头固执的熊，可是金 子可以 拉着它 的鼻子 走。— —莎士 比
谢谢！
36、自己的鞋子，自己知道紧在哪里。——西班牙
37、我们唯一不会改正的缺点是软弱。——拉罗什福科
Байду номын сангаас
xiexie! 38、我这个人走得很慢，但是我从不后退。——亚伯拉罕·林肯
39、勿问成功的秘诀为何，且尽全力做你应该做的事吧。——美华纳
40、学而不思则罔，思而不学则殆。——孔子

准差
r剩
S剩 （n r 1）
r 为进入回归模型的变量个数。上述公式表示对于任一给定 的自变量(x1, x2, xm)，所对应因变量的实际值 y 以95%的概率落 在区间 ( yˆ 2r剩，yˆ 2r剩)，即预测值 yˆ 与实际值 y之差有95%的概
率，使得 y yˆ 2r剩， 所以r剩 越小其预测精度越高。
此外，在检验得知方程是显著之后，还需检验方程中哪些变量 x1, x2 , xm
是影响 y 的重要变量，哪些是不重要变量，进而剔除不重要的变量，简化
方程，得到优化回归方程，这就是所谓的对每个变量要进行显著性检验 （t检验）
n
总离差平方和 S总 ( yi y)2 ，自由度为 n 1，如果观测值给定，S总 i 1
i 1
化对 y 的波动，其自由度为 m 。
n
记 S剩 ( yi yˆi )2 称为剩余平方和（或残差平方和），它是由实验 i1
误差以及其他因素引起的。它反映了实验误差以及其他因素对实验结果的
影响程度，其自由度为n m1。
于是
S总 S回 S剩
当 S总确定时， S剩 越小， S回 越大，则 S回 就越接近 S总，于是用 S回 是否接
一组回归系数 b1 ,b2 , bm 值。 设 b1 ,b2 , bm 分别为 0, 1, , m 的最小二乘估计值，于是
有
yˆ b0 b1x1 b2x2 bmxm
其中 yˆ 是 y 的一个最小二乘估计。
下用最小二乘法求b1 ,b2 , bm
令
1 x11 x12 x1m
4、回归分析预测法的步骤
（1）．根据预测目标，确定自变量和因变量 明确预测的具体目标，也就确定了因变量。如预测具体