第3章 回归预测方法

(3)46
步骤：
(3)47
(3)48
(3)49
正规方程组的矩阵形式
n X 1i X ki
X X

1i 2 1i

X X X
ki
X
ki
X 1i
ˆ 0 1 1 ˆ X 11 X 12 1i ki 1 2 ˆ X ki k X k1 X k 2
1997 1998 1999 2000 2001 2002 2003
5160.3 5425.1 5854.0 6280.0 6859.6 7702.8 8472.2
46.6 44.7 42.1 39.4 38.2 37.7 37.1
(3)20
(3)21
(3)22
三、一元线性回归模型的检验
进行预测是建立回归模型的目的， 只有当所建立的回归模型是正确的、显 著有效的时，才可以利用它来进行经济 预测
(3)7
• 回归分析(regression analysis)是研究一个变量 关于另一个（些）变量的具体依赖关系的计算 方法和理论。 • 其目的在于通过后者的已知或设定值，去估计 和（或）预测前者的（总体）均值。
• 两类变量；
–被解释变量（Explained Variable）或应变量 （Dependent Variable）。
上式称为样本回归方程又称为经验方程315二一元线性回归模型参数的估计316317根据微积分中求极值的原理对上式中的求偏导并令其为零得到如下方319例31以我国城市居民家庭人均可支配收入和恩格尔系数的关系为例说明回归模型参数的估计方法资料见下表320年份人均可支配收入xi恩格尔系数yi年份人均可支配收入xi恩格尔系数yi198913739545199751603466199015102542199854251447199117006538199958540421199220266530200062800394199325774503200168596382199434962500200277028377199542830501200384722371199648389488321322323进行预测是建立回归模型的目的只有当所建立的回归模型是正确的显著有效的时才可以利用它来进行经济预测324经济检验是检验估计出来的参数的符号大小是否与经济理论和实际经验相符合即是否具有经济意义

第3章回归预测方法思考与练习（参考答案）1.简要论述相关分析与回归分析的区别与联系。

答：相关分析与回归分析的主要区别：（1）相关分析的任务是确定两个变量之间相关的方向和密切程度。

回归分析的任务是寻找因变量对自变量依赖关系的数学表达式。

（2）相关分析中，两个变量要求都是随机变量，并且不必区分自变量和因变量；而回归分析中自变量是普通变量，因变量是随机变量，并且必须明确哪个是因变量，哪些是自变量；（3）相关分析中两变量是对等的，改变两者的地位，并不影响相关系数的数值，只有一个相关系数。

而在回归分析中，改变两个变量的位置会得到两个不同的回归方程。

联系为：（1）相关分析是回归分析的基础和前提。

只有在相关分析确定了变量之间存在一定相关关系的基础上建立的回归方程才有意义。

（2）回归分析是相关分析的继续和深化。

只有建立了回归方程才能表明变量之间的依赖关系，并进一步进行预测。

2.某行业8个企业的产品销售额和销售利润资料如下：根据上述统计数据:（1）计算产品销售额与利润额的相关系数；r ，说明销售额与利润额高度相关。

解：应用Excel软件数据分析功能求得相关系数0.9934（2）建立以销售利润为因变量的一元线性回归模型，并对回归模型进行显著性检验（取α＝）；解：应用Excel 软件数据分析功能求得回归方程的参数为： 7.273,0.074a b =-=据此，建立的线性回归方程为 ˆ7.2730.074Yx =-+ ① 模型拟合优度的检验由于相关系数0.9934r =，所以模型的拟合度高。

② 回归方程的显著性检验应用Excel 软件数据分析功能得0.05ˆ=450.167(1,6) 5.99F F >=,说明在α=水平下回归效果显著.③ 回归系数的显著性检验0.025ˆ=21.22(6) 2.447tt >=,说明在α=水平下回归效果显著. 实际上，一元线性回归模型由于自变量只有一个，因此回归方程的显著性检验与回归系数b 的显著性检验是等价的。

回归预测法回归预测法回归预测法是指根据预测的相关性原则，找出影响预测目标的各因素，并用数学方法找出这些因素与预测目标之间的函数关系的近似表达，再利用样本数据对其模型估计参数及对模型进行误差检验，一旦模型确定，就可利用模型，根据因素的变化值进行预测。

回归预测法一元线性回归预测法(最小二乘法)公式：Y = a + b XX----自变量Y----因变量或预测量a,b----回归系数根据已有的历史数据Xi Yi i = 1,2,3,...n ( n 为实际数据点数目)，求出回归系数 a , b为了简化计算，令 ( X1 + X2 + ... + Xn ) = 0，可以得出a , b 的计算公式如下：a = ( Y1 + Y2 +... + Yn ) / nb = ( X1 Y1 + X2 Y2 + ... + Xn Yn ) / ( X12 + X22 + ... + Xn2 )回归分析预测法的概念回归分析预测法，是在分析市场现象自变量和因变量之间相关关系的基础上，建立变量之间的回归方程，并将回归方程作为预测模型，根据自变量在预测期的数量变化来预测因变量关系大多表现为相关关系，因此，回归分析预测法是一种重要的市场预测方法，当我们在对市场现象未来发展状况和水平进行预测时，如果能将影响市场预测对象的主要因素找到，并且能够取得其数量资料，就可以采用回归分析预测法进行预测。

它是一种具体的、行之有效的、实用价值很高的常用市场预测方法。

回归分析预测法的分类回归分析预测法有多种类型。

依据相关关系中自变量的个数不同分类，可分为一元回归分析预测法和多元回归分析预测法。

在一元回归分析预测法中，自变量只有一个，而在多元回归分析预测法中，自变量有两个以上。

依据自变量和因变量之间的相关关系不同，可分为线性回归预测和非线性回归预测。

回归分析预测法的步骤1．根据预测目标，确定自变量和因变量明确预测的具体目标，也就确定了因变量。

如预测具体目标是下一年度的销售量，那么销售量Y就是因变量。

SE
n2
SSE MSE n2
1.反映实际观察值在回归直线周围的分散状况
2.对误差项u的标准差的估计，是在排除了x对y的线性 影响后，y随机波动大小的一个估计量 3.反映用估计的回归方程预测y时预测误差的大小
CHONGQING JIAOTONG UNIVERSITY
可决系数
n
(coefficient of determination)
b1
x x y y x x
2
b0 y b1 x
CHONGQING JIAOTONG UNIVERSITY
最小二乘估计(method of least squares )
1. 德国科学家Karl Gauss(1777—1855)提出用最小 化图中垂直方向的误差平方和来估计参数 2. 使因变量的观察值与估计值之间的误差平方和达 到最小来求得 b0和 b1 的方法。即
运算过程：
根据最小二乘法，可得求解 b0和 b1的公式如下
n Q b 2 ( yi b0 b1 xi ) 0 0 i 1 n Q 2 xi ( yi b0 b1 xi ) 0 i 1 b1
n
n n n xi yi xi yi i 1 i 1 b1 i 1 2 n n 2 n xi xi i 1 i 1
r
( x x )( y y ) (x x ) ( y y)
2
2
或者
r
n x x n y y
2 2 2
n xy x y
2
CHONGQING JIAOTONG UNIVERSITY

2021/3/10
34
消除多重共线性的常用方法：
（一）删除不重要的自变量 自变量之间存在共线性，说明自变量所提供的信息是重叠的，可以 删除不重要的自变量减少重复信息。 （二）追加样本信息 由于资料收集及调查的困难，追加样本信息在实践中并不容易。 （三）利用非样本先验信息 非样本先验信息主要来自经济理论分析和经验认识。 （四）改变解释变量的形式 改变解释变量的形式是解决多重共线性的一种简易方法，例如对于 横截面数据采用相对数变量，对于时间序列数据采用增量型变量。 （五）逐步回归法
2021/3/10
51
参考流程图
Hale Waihona Puke 2021/3/1052
2021/3/10
53
传统机械按键结构层图：
按
PCBA
键
开关 键
传统机械按键设计要点： 1.合理的选择按键的类型， 尽量选择平头类的按键，以 防按键下陷。 2.开关按键和塑胶按键设计 间隙建议留0.05~0.1mm，以 防按键死键。 3.要考虑成型工艺，合理计 算累积公差，以防按键手感 不良。
2021/3/10
28
3．模型检验
2021/3/10
31
2021/3/10
32
t检验的基本步骤： 首先，通过公式计算t统计量
最后，进行判断
2021/3/10
33
4．多重共性分析
在预测分析中，若两个解释变量之间存在者较强的相关，则 认为回归分析中存在多重共线性。
多重共线性可能引起以下后果： （1）参数估计的精度较低； （2）回归参数的估计值对样本容量非常敏感，不稳定； （3）不能正确判断各解释变量对y的影响是否显著。 通过计算自变量之间的相关系数矩阵和经验直觉，来判断分 析自变量之间是否存在多重共线性。

五、非线性回归预测法
• 步骤： • 1确定变量间函数的类型：理论或经验，如 果是一元非线性，可采用散点图。 • 2确定相关函数中的未知参数：最小二乘法 是最常用的方法。但在EXCEL中我们不用 具体去计算。实际应用中，往往要通过变 量变换 ，把非线性函数关系转换为线性关 系。
• • • • •
1：幂函数Y=aXb 两边取对数，得到㏑Y= b㏑X+ ㏑a 令Y′= ㏑Y, X′= ㏑X, a′=㏑a 则： Y′= a′+ bX′ 例4：试对某省近年工业产值、固定资产投 资和职工工资资料进行拟合，并选择适当 的模型加以分析。数据见表：生产函数工 作表（提示：生产函数是典型的多元幂函 数）
• 例如：某公司从1987年开始生产和销售 ABCD四种配套产品。截至2006年底的销售 数据如表data7所示，如果公司2007年计划 实现销售收入12000万元，问ABCD四种产 品大致应该生产和销售多少？ • 解：利用比例推算法预测，首先计算配套产 品之间的比例关系。观察公司若干年的销售 数据容易看出，虽然公司的销售额有了大幅 度的增长，但是四种产品的销售比例是基本 固定的。经过计算得出：ABCD四种产品的 年销售比例大致为：36.16，29.07，18.41， 16.36
总成本和总产量数据
生产期 1 2 3 4 5 6 7 总成本（ 总成本（元） 100 150 160 240 230 370 410 总产量（单位） 总产量（单位） 0 5 8 10 15 23 25
• 例1：解题步骤演示：线性回归预测模型表 • 例2：有一个大学生，毕业后用少量资金创 业，经过几年的努力，他经营的连锁餐馆 有声有色，为了进一步研究餐馆新的经营 方案，他收集了餐馆连续8个月每月用餐的 价格和平均用餐人数，数据见Excel表：回 归预测法所用数据表餐馆经营 ，估计需求 函数，并帮助小老板设计经营方案。参考 教材P163

回归预测法是一种通过分析自变量与因变量之间关系来预测未来趋势的方法。它包括一元线性回归预ห้องสมุดไป่ตู้法、多元线性回归预测法和非线性回归预测法等。一元线性回归预测法适用于两个变量数据分布呈直线趋势的情况，通过合适的参数估计方法求出模型，并根据变量关系进行预测。多元线性回归和非线性回归则适用于更复杂的变量关系。回归分析预测法的具体步骤包括选定预测的变量及影响因素、收集历史数据、分析变量间关系建立回归模型、参数估计、模型显著性检验以及利用模型进行预测。在应用回归预测法时，需要注意模型的可靠性和误差因素，以确保预测结果的准确性。此外，还需了解回归的基本概念如回归模型、随机误差项等，以便更好地理解和应用回归预测法。

残差正态性检验
用标准化残差图直观地判断误差项是否服从正态分布， 若残差正态分布成立，标准化残差也应服从正态分布； 在标准化残差图中，大约有95%的标准化残差在-2 到+2之间
标准化残差图
(例题分析)
销售收入与广告费用回归的标准化残差图
标准化残差的直方图和正态概率图 (例题分析)
销售收入与广告费用回归标准化残的直方图和正态概率图
则回归系数显著。
回本章目录
➢回归模型的显著性检验
检验假设： H0 : 回归方程不显著
H1 : 回归方程显著
检验统计量：
F
Hale Waihona Puke yyˆ yˆ2
y
2
n 2
~
F 1, n 2
检验规则：给定显著性水平 ，若 F F 1,n 2
则回归方程显著。
回本章目录
➢德宾—沃森统计量（D—W）
检验 ui 之间是否存在自相关关系。
1 n
(x0 x)2 (x x)2
0.898 0.0134 75 2.4476 0.0734
1 8
(75 28158
472 / 8)2 4722 / 8
(1.728,2.078)
回本章目录
• 例2 为研究销售收入与广告费用支出之间的关系，某医 药管理部门随机抽取20家药品生产企业，得到它们的 年销售收入和广告费用支出(万元)的数据如下。绘制 散点图描述销售收入与广告费用之间的关系
进行回归
参数的最小二乘估计 (SPSS输出结果)
参数的最小二乘估计 (例题分析)
yˆ 274.5502 5.1309x
利用回归方程进行预测
对于自变量 x 的一个给定值 x0，根据回归方程 得到因变量 y 的一个估计区间 区间估计有两种类型

1988
655
232
151960
53824
429025
1989
704
202
42208
40804
495616
合计
4720
1167
600566
175661
2190104
试配合适当的回归模型并进行显著性检验；若1990年该省回定资产投资完成额 为249亿元，当显著性水平α＝0.05时，试估计1990年国内生产总值的预测区间。
合计
2746
2964
1735
885986 301765 51682 821058 478
经济预测与决策方法
用接线性相关拟合回归预测模型。如果次年该所经费预算定为380万元， 科技人员增加到200人，预测其收入可能达到多少？
根据题意要求，此二元线性回归预测模型为：
Yˆ b0 b1 b2 X 2
7
289
311
178
96721 31684 55358 89879 51441
8
298
318
181
101124 32761 57558 94764 5393
9
304
327
184
106929 33856 60168 99408 559
10
310
341
ห้องสมุดไป่ตู้187
116281 34969 63767 108438 594
( yi yˆi )2
n2
经济预测与决策方法
实例
一元线性回归模型计算表
年份
国内生产总值y
固定资产投资完成额x
xy
单位亿元
x2
y2

回归预测一种怎样的方法
回归预测是通过建立一个数学模型来预测一个或多个连续型变量的值。

以下是一种常用的回归预测方法：
1. 线性回归（Linear Regression）：线性回归是最简单和最常用的回归方法之一。

它的目标是找到一条直线（或超平面），使得预测值与实际观测值的差别最小化。

2. 多项式回归（Polynomial Regression）：多项式回归在线性回归的基础上，引入了多次项及其交互作用，适用于非线性的问题。

3. 支持向量回归（Support Vector Regression, SVR）：SVR基于支持向量机，在线性回归的基础上加入了核函数，可以处理非线性问题。

4. 决策树回归（Decision Tree Regression）：决策树回归通过将特征空间划分为多个区域，每个区域对应一个预测值。

适用于非线性、非参数化的问题。

5. 随机森林回归（Random Forest Regression）：随机森林通过构建多棵决策树进行预测，综合多个决策树的预测结果来提高准确性。

6. 梯度提升回归（Gradient Boosting Regression）：梯度提升回归通过迭代训练多个弱分类器，并使用之前分类器的残差来训练下一个分类器，从而提高预测
准确性。

除了上述方法，还有很多其他回归预测方法，如岭回归（Ridge Regression）、LASSO回归（Least Absolute Shrinkage and Selection Operator Regression）、贝叶斯回归（Bayesian Regression）等。

根据具体问题和数据情况，选择适合的回归模型进行预测。

由最小二乘
15
OLS估计式
由正规方程 X Xβˆ = X Y
多元回归中 参数的最小二乘估计量为:
无多重共线性( X X )kk 是满秩矩阵, 其逆存在
βˆ = (X X)-1 X Y
例如只有两个解释变量时： Yi 1 2 X 2i 3i X 3i ui
βˆ 的代数式可用离差简化地表示为：
ˆ1 Y ˆ2 X 2 ˆ3 X 3
这也是多元线性回归模型，只是这时变量为lnY、 lnL、lnK
7
多元总体回归函数
条件期望表现形式：
将Y的总体条件期望表示为多个解释变量的函数，如:
E(Yi X 2i , X 3i ,X ki ) 1 2 X 2i 3 X 3i k X ki
(i 1, 2, n) 注意：这时Y总体条件期望的轨迹是K维空间的一条线 个别值表现形式： 引入随机扰动项 ui Yi E(Yi X2i , X3i Xki )
2 未知时 βˆ 的标准化变换
因 2 是未知的， 可用 ˆ 2 代替 2 去估计参数的标
准误差:
● 当为大样本时，用估计的参数标准误差对 βˆ 作标
准化变换，所得 Z 统计量仍可视为服从正态分布
●当为小样本时，用估计的参数标准误差对 βˆ 作标准
化变换，所得的 t 统计量服从 t 分布：
t*
个别值形式: Yi ˆ1 ˆ 2 X 2i ˆ 3 X 3i ˆ k X ki ei
其中 i 1, 2, n , 由于有n组样本观测值，而且都满足这样
的关系, 象这样的方程事实上有n个.
9
二、多元线性回归模型的矩阵表示
Yi 1 2 X 2i 3 X 3i k X ki ui
^
SE

第三章 回归预测法 第一节 一元线性回归预测法一元线性回归预测法是指成对的两个变量数据分布大体上呈直线趋势时，采用适当的计算方法，找到两者之间特定的经验公式，即一元线性回归模型，然后根据自变量的变化，来预测因变量发展变化的方法。

一、建立模型一元线性回归模型可表述为：i i i u x b b y ++=10，n i ,,1 =。

其中0b 、1b 是未知参数；i u 为剩余残差（或随机扰动）二、估计参数 三、进行检验 一元线性回归模型：⎩⎨⎧=++=.),0(...;,,1,210σN d i i u n i u x b b y ii i i 诸 ㈠标准误差∑=∧--=-==n i ii y y n n SSE MSE SE 12)(212 ㈡可决系数SSTSSESST SSR y yy y y y x x y y x x R ni ini ini i n i i n i i i -==--=--⎪⎭⎫⎝⎛--=∑∑∑∑∑==∧===1)()()()())((12121212212 ㈢相关系数∑∑∑===----=ni i ni ini i iy y x xy y x xr 12121)()())((说明：可查《概率论与数理统计教程》中的相关系数的临界值表。

㈣回归系数显著性检验0H ：01=b vs 1H ：01≠b ，由于，)2(~)2()2(112211---=--∧∧n t l n SSEb b n SSEl b b xxxxσσ，所以当0H 为真时，统计量)2(~)2(1--=∧n t l n SSEb t xx。

㈤F 检验（用于对回归模型作检验）0H ：回归方程不显著 vs 1H ：回归方程显著统计量)2,1(~)2()(1)(1212-=---=∑∑=∧=∧n F MSEMSRn y yy y F ni i ini i㈥德宾－沃森统计量（W D -）（用于检验i u 之间是否存在自相关关系） 如前所述，回归模型的剩余项i u 之间应该是相互独立的。

回归预测法，是分析因变量与自变量之间相互关系，用回归方程表示，根据自变量的数值变化，去预测因变量数值变化的方法。

在经济预测中，人们把预测对象当作因变量，把那些与预测对象有关的因素当作自变量，收集自变量的充分数据，应用相关分析和回归分析求得回归方程，并利用回归方程进行预测。

回归预测法中的自变量，与时间序列预测法中的自变量不相同。

后者的自变量是时间本身，而前者的自变量不是时间本身，而是其他的变量。

回归预测法中的自变量与因变量之间，有的属于因果关系，有的屑于伴随关系。

不能认为只有因果关系才能进行回归预测，实际上伴随关系也是一种相关关系，只要收集大量的足够的资料，也可以用回归预测法进行预测。

在回归预测法中，自变量不是随机的或者是给定的，这与相关分析中自变量有所区别。

相关分析中的自变量是随机的。

二、回归预测法的条件在作回归预测时必须注意下列几个问题，这些问题是提高预测准确度的条件。

(1)经济现象之间，即作为因变量与自变量之间必须有关系。

怎样剖析两者有相关关系呢？从根本上说，只有通过马克思主义政治经济学的理论分析，才能正确作出判断，正确认识经济现象之间的内在的必然联系和外部的偶然联系，不为假相关所迷惑。

因此，切不可轻视理论分析而草率运用回归预测法。

(2)因变量与自变量之间的关系必须密切，要有强相关，而自变量与另一个自变量之间的关系，必须不密切，要求弱相关或零相关。

判断相关关系密切程度的方法，可以通过绘制相关图和计算相关系数。

根据历史资料绘制的相关图能判断相关的类型。

相关图的类型如有以下几种。

①零相关图。

当自变量x与因变量y没有相关关系，称为零相关，如图10-1。

②强正相关图。

当自变量x增大时，因变量y亦随之增大，点子的分布集中，呈直线形。

故两者有强相关。

如图10-2。

③弱正相关图。

当自变量x的数值增大时，y的数值也增大，但点子的分布不集中，两者之间仅有一定相关关系，称弱正相关。

如图10-3。

④强负相关图。

当自变量x增大时，因变量y亦随之减少，点子的分布集中呈直线形，两者之间有强烈的相关关系，称强负相关。

3.1普通最小二乘法
图3-4 工作文件对话框
图3-5 工作文件窗口
3.1普通最小二乘法
工作文件窗口是EViews的子窗口，工作文件一建立就包含了两个对象，一 个是系数向量C（用来保存估计系数），另一个是残差序列RESID（实际值与 拟合值之差）。 3.建立工作对象
在工作文件窗口上选择Objects/New Object，弹出一个对象窗口，选择组 （Group）对象并命名，点击“OK”，如图3-6所示。
(Yi ˆ0 ˆ1Xi )Xi ei Xi 0
（3-10）
对式（3-9）、（3-10）进行整理得：
3.1普通最小二乘法
Yi nˆ0 ˆ1 X i （3-11）
Yi Xi ˆ0
X i ˆ1
X
2 i
（3-12）
式（3-11）和（3-12）称为正规方程，其中n是样本容量 。由这两个正规方程
式（3-15）和式（3-16）称为最小二乘估计量的离差形式。
对于最小二乘估计量（OLS估计量）ˆ0 、ˆ1 ，我们要做如下一些解释：
第一， OLS估计量 ˆ0 和 ˆ1 是由给定的样本观测值计算得到的。
第二， OLS估计量ˆ0和ˆ1 是总体参数 0 和 1 的点估计值。对于不同的样本
用最小二乘法可以计算得到不同的值，所以 ˆ0和 ˆ1 是统计量，是随机变量。
1 2 3 4 5 6 7 8 9 10 合计 平均
4000 4500 5000 5500 6000 6500 7000 7500 8000 8500 62500 6250
2687 3048 3374 3651 3772 4400 4797 4917 5526 5523 41695 4169.5
-2250 -1750 -1250 -750 -250

• 回归古典假设检验(见第四节)
残差分析; 异方差及自相关检验(DW)
24
拟合优度
• 拟合优度是指样本回归直线对观测数据 拟合的优劣程度。
• 如果全部观测值都在回归直线上，我们 就获得“完全的”拟合，但这是罕见的 情况，通常都存在一些正ei或负ei。我们 所希望的就是围绕回归直线的剩余尽可 能的小。
(基本假定)
1) 误差项ε是一个期望值为0的随机变量，即 E(ε)=0。对于一个给定的 x 值，y 的期望值
为E ( y ) =b 0+ b 1 x
2) 对于所有的 x 值，ε的方差σ2 都相同
3) 误差项ε是一个服从正态分布的随机变量，且 相互独立。即ε~N( 0 ,σ2 )
a. 独立性意味着对于一个特定的 x 值，它所对应 的ε与其他 x 值所对应的ε不相关
y
(xn ,yn)
yˆ bˆ0 + bˆ1x
(x2 ,y2)
｝
ei = yi＾-yi
(x1 ,y1) (xi , yi)
17
x
最小二乘估计式
• 根据最小二乘准则建立样本回归函数的 过程为最小二乘估计，简记OLS估计。
• 由此得到的估计值得计算式称为最小二 乘估计式。
18
双变量线性回归模型的最小二乘估计
36
▪ 包含在y里面但不能被p个自变量的线性关系
所解释的变异性
多元回归模型
(基本假定)
1. 误差项ε是一个期望值为0的随机变量，即
E()=0 2. 对于自变量x1，x2，…，xp的所有值，的
方差2都相同 3. 误差项ε是一个服从正态分布的随机变量，
即ε~N(0,2)，且相互独立
37
多元回归方程

第一，模型不可能包含所有的解释变量。 第二，模型的设定误差。 第三，测量误差的影响。 第四，其他随机因素的影响。
简单线性回归方程的形式为 y b0 b1x e ,
也称为直线回归方程。其中， b0是回归直线在y轴上的截距； b1是直线的斜率，称为回归系数，表示当x每变动一个单位 时，y的平均变动值。
x
相关但无
线性关系
-3
-2
-1
0
1
2
3
x
2、回归分析与相关分析
研究和测度两个或两个以上变量之间关系的方 法有回归分析和相关分析。
相关分析。研究两个或两个以上随机变量之 间线性依存关系的紧密程度。通常用相关系 数表示，多元相关时用复相关系数表示。
回归分析。研究某一随机变量（因变量）与 其他一个或几个普通变量（自变量）之间的 数量变动的关系。
-1
0
1
2
x
(c)
-2
-1
0
1
2
x
(d)
y 02468
y -2 -1 0 1 2
-2
-1
0
1
2
x
-3
-2
-1
0
1
2
3
x
(a)
y -2 -1 0 1 2
不相关
-3
-2
-1
0
1
2
x
(c)
y -2 -1 0 1 2
(b)
正相关
-2
-1
0
1
2
x
(d)
y 02468
y -2 -1 0 1 2
-2
-1
0
1
2
负相关
法国数学家勒让德于1806年首次发表最小二乘理论。事实上， 德国的高斯于1794年已经应用这一理论推算了谷神星的轨道， 但迟至1809年才正式发表。