一元线性回归方程

12．9 一元线性回归以前我们所研究的函数关系是完全确定的，但在实际问题中，常常会遇到两个变量之间具有密切关系却又不能用一个确定的数学式子表达，这种非确定性的关系称为相关关系。

通过大量的试验和观察，用统计的方法找到试验结果的统计规律，这种方法称为回归分析。

一元回归分析是研究两个变量之间的相关关系的方法。

如果两个变量之间的关系是线性的，这就是一元线性回归问题。

一元线性回归问题主要分以下三个方面：（1）通过对大量试验数据的分析、处理，得到两个变量之间的经验公式即一元线性回归方程。

（2）对经验公式的可信程度进行检验，判断经验公式是否可信。

（3）利用已建立的经验公式，进行预测和控制。

12．9．1 一元线性回归方程 1．散点图与回归直线在一元线性回归分析里，主要是考察随机变量y 与普通变量x 之间的关系。

通过试验，可得到x 、y 的若干对实测数据，将这些数据在坐标系中描绘出来，所得到的图叫做散点图。

例1 在硝酸钠（NaNO 3）的溶解度试验中，测得在不同温度x （℃）下，溶解于100解 将每对观察值（x i ，y i ）在直角坐标系中描出，得散点图如图12.11所示。

从图12.11可看出，这些点虽不在一条直线上，但都在一条直线附近。

于是，很自然会想到用一条直线来近似地表示x 与y 之间的关系，这条直线的方程就叫做y 对x 的一元线性回归方程。

设这条直线的方程为yˆ=a+bx 其中a 、b 叫做回归系数（y ˆ表示直线上y 的值与实际值y i 不同）。

图12.11下面是怎样确定a 和b ，使直线总的看来最靠近这几个点。

2．最小二乘法与回归方程在一次试验中，取得n 对数据（x i ，y i ），其中y i 是随机变量y 对应于x i 的观察值。

我们所要求的直线应该是使所有︱y i －yˆ︱之和最小的一条直线，其中i y ˆ=a+bx i 。

由于绝对值在处理上比较麻烦，所以用平方和来代替，即要求a 、b 的值使Q=21)ˆ(i ni iyy-∑=最小。

北京市城市居民家庭生活抽样调查表1 14 12 10 8 6 4 2 0 1976 1978 1980 1982 1984 1986 1988
Y: 人 均 收 入
x:年份
北京市城市居民家庭生活抽样调查图表 2 10 8 6 4 2 0 0 2 4 6 8
Y:人均食品支出
10 12 14 16 18
Fα (1,n-2),得否定域为F >Fα (1,n-2);
4.代入样本信息,F落入否定域则否定原假设, 线性关系显著;落入接受域则接受原假设, 线性关系不显著.
相关系数检验法: 相关系数检验法:
1.提出原假设:H0:b=0; lxy 2.选择统计量 R = lxxl yy 3.对给定的显著性水平α,查临界值rα (n-2), 得否定域为R >rα (n-2); 4.代入样本信息,R落入否定域则否定原假设,线性关 系显著;落入接受域则接受原假设,线性关系不显著.
第二节
一元线性回归方程
一 回归直线方程
两个变量之间的线性关系，其回归模型为： 两个变量之间的线性关系，其回归模型为：
yi = a + bxi + εi
ε 称为 y称为因变量，x称为自变量，
随机扰动，a,b称为待估计的回归参 数，下标i表示第i个观测值。
对于回归模型，我们假设：
εi ~ N( 0,σ ),i = 1,2,⋯,n E( εiε j ) = 0,i ≠ j
pt
qt
概率 0.25 0.50 0.25 0.25 0.50 0.25 … 0.25 0.50 0.25
qt = 11 − 4 pt+ εt
其中
这时， 这时，方程的形式为
εt
为随机变量. 为随机变量

第二节一元线性回‎归方程的建立一‎元线性回归分析是处理‎两个变量之间关系的最‎简单模型，它所研究的‎对象是两个变量之间的‎线性相关关系。

通过对‎这个模型的讨论，我们‎不仅可以掌握有关一元‎线性回归的知识，而且‎可以从中了解回归分析‎方法的基本思想、方法‎和应用。

一、问题‎的提出例2-1‎-1 为了研究氮含‎量对铁合金溶液初生奥‎氏体析出温度的影响，‎测定了不同氮含量时铁‎合金溶液初生奥氏体析‎出温度，得到表2-1‎-1给出的5组数据。

‎表2-1-1 ‎氮含量与灰铸铁初生‎奥氏体析出温度测试数‎据如果‎把氮含量作为横坐标，‎把初生奥氏体析出温度‎作为纵坐标，将这些数‎据标在平面直角坐标上‎，则得图2-1-1，‎这个图称为散点图。

‎从图2-1-1可以‎看出，数据点基本落在‎一条直线附近。

这告诉‎我们，变量X与Y的关‎系大致可看作是线性关‎系，即它们之间的相互‎关系可以用线性关系来‎描述。

但是由于并非所‎有的数据点完全落在一‎条直线上，因此X与Y‎的关系并没有确切到可‎以唯一地由一个X值确‎定一个Y值的程度。

其‎它因素，诸如其它微量‎元素的含量以及测试误‎差等都会影响Y 的测试‎结果。

如果我们要研究‎X与Y的关系，可以作‎线性拟合‎（2-‎1-1）二、最小二乘法‎原理如果把用回‎归方程计算得到的‎i值(i=1,2‎,…n)称为回归值，‎那么实际测量值y i与‎回归值i之间存在‎着偏差，我们把这(i=1,2,3,…‎,n)。

这样，我们就‎可以用残差平种偏‎差称为残差，记为e i‎方和来度‎量测量值与回归直线的‎接近或偏差程度。

残差‎平方和定义为:‎ (2-1-‎2) 所谓最小二乘‎法，就是选择a和b使‎Q(a,b)最小，即‎用最小二乘法得到的回‎归直线是在所有直‎线中与测量值残差平方‎和Q最小的一条。

由(‎2-1-2)式可知Q‎是关于a,b的二次函‎数，所以它的最小值总‎是存在的。

下面讨论的‎a和b的求法。

由此可推测：当火灾发生地离最近的消 防 站 为 10km 时 ， 火 灾 损 失 大 致 在
ˆ y 10.279 49.19 59.369（千元） 当火 ；
灾发生地离最近的消防站为 2km 时，火灾损 失大致在 20.117（千元）
三、0，1的性质


1, 线性
1
(x x ) y
为 y 关于 x 的一元线性经验回归方程 （简称为回归直
ˆ 线方程） 0 为截距， 1 为经验回归直线的斜率。 ， ˆ
引进矩阵的形式：
y1 1 x1 1 0 y2 1 x2 2 设 y ， X ， ， 1 y 1 x n n n
变量之间具有密切关联 而又不能由一个或某一些变 量唯一确定另外一个变量的 关系称为变量之间的相关关 系.
y
y f ( x)
y
Y f (X )
0
(a) 函数关系
x
0
(b) 统计关系
x
种类
正相关 负相关
一元相关 多元相关
线性相关 曲线相关
y
y
y
y
正相关
x
负相关
x
曲线相关
x
不相关
x
例 2 城镇居民的收入与消费支出之间有很大的关 联，居民的收入提高了，消费也随之潇洒，但居民的 收入不能完全确定消费，人们的消费支出受到不同年 龄段的消费习惯的影响，也受到不同消费理念的影响。 因此居民的收入 x 与消费支出 y 就呈现出某种不确定 性。 我们将上海市城镇居民可支配收入与支出的数据 （1985 年~2002 年）用散点图表示，可以发现居民的 收入 x 与消费支出 y 基本上呈现线性关系，但并不完 全在一条直线上。 附数据与图形。

ndiv = 248 .8055 + 0 .206553 * Atprofits se = ( 31 .89255 )( 0 .049390 ) t = ( 7 .801368 )( 4 .182100 ) p = ( 0 . 00000 )( 0 .00060 ), R 2 = 0 .507103
Gleiser检验与Park检验存在同样的弱点。
(9.3) (9.4) (9.5)
9.4 异方差的诊断－方法4：怀特(White)检验法
Yi = B1 + B 2 X 2 i + B3 X 3 i + u i
2、做如下辅助回归： (9.6) (9.7)
1、首先用普通最小二乘法估计方程(9.6)，获得残差ei
E(Y|X)=α+β*X Y
＋u ＋u －u －u －u ＋u
0
同方差(homoscedasticity)
X 0
E(Y|X)=α+β*X
异方差(heteroscedasticity)
X
一元线性回归分析－回归的假定条件
假定5 无自相关假定，即两个误差项之间不相关。 Cov（ui,uj） = 0。
ui
9.2 异方差的性质
例9.1 美国创新研究：销售对研究与开发的影响 ^ R&D ＝ 266.2575 + 0.030878*Sales se＝(1002.963) (0.008347) t ＝(0.265471) (3.699508) p ＝(0.7940) R2 ＝ 0.461032 从回归结果可以看出： （1）随着销售额的增加，R&D也逐渐增加，即销售 额每增加一百万美元，研发相应的增加3.1 万美元。 （2）随着销售额的增加，R&D支出围绕样本回归线 的波动也逐渐变大，表现出异方差性。 (0.0019)

(n

2)
S2 ˆ0
2 ˆ0
:
2(n 2)
S 2 ˆ1

S2
n
（Xt X )2
t 1

(n

2)
S2 ˆ1
2 ˆ1
:
2(n 2)
所以根据t分布的定义，有
ˆ0 0 ~ t(n 2), ˆ1 1 ~ t(n 2)
Sˆ0
Sˆ1
进而得出了0的置信水平为1-区间估计为
et Yt Yˆt称为残差，与总体的误差项ut对应，n为样 本的容量。
样本回归函数与总体回归函数区别
1、总体回归线是未知的，只有一条。样本回归线是根据样本数 据拟合的，每抽取一组样本，便可以拟合一条样本回归线。
2、总体回归函数中的β0和β1是未知的参数，表现为常数。而样
本回归函数中的 ˆ0和是ˆ1 随机变量，其具体数值随所抽取
S 44.0632
Sef S
1 1 n
( X f X )2
n
45.543
( Xt X )2
t 1
所求置信区间为：(188.6565 97.6806)
回归分析的SPSS实现
“Analyze->Regression->Linear”

0
n

2 t1 Xt (Yt ˆ0 ˆ1 Xt ) 0


nˆ0

n
ˆ1
t 1
Xt
n
Yt
t 1
n
n
n


ˆ0
t 1
Xt
ˆ1
t 1
X
2 t

一元线性回归手工法：⎪⎩⎪⎨⎧−−=−=22110ˆˆˆx x y x xy x y βββ 或 ()()()∑∑==−−−=ni ini i ix xy y x x1211ˆβini i n i ini ini iy x n xy x n x y n y x n x ∑∑∑∑========1122111111 此时可以令Y Y y X X x i i i i −=−= , （离差）则∑∑=21ˆiii xy x β（经验）回归方程为: )(ˆˆˆˆ110x x y x y −+=+=βββ 程序法：1．确定回归系数的点估计值：b=regress( Y , X ) 对一元线性回归，取p =1即可01ˆˆˆp b βββ⎡⎤⎢⎥⎢⎥=⎢⎥⎢⎥⎢⎥⎣⎦M 12n Y Y Y Y ⎡⎤⎢⎥⎢⎥=⎢⎥⎢⎥⎣⎦M 111212122212111...p p n n np x x x x x x X x x x ⎡⎤⎢⎥⎢⎥=⎢⎥⎢⎥⎢⎥⎣⎦L L M M M M程序数据的输入可以参考如下：x=[143 145 146 147 149 150 153 154 155 156 157 158 159 160 162 164]'; X=[ones(16,1) x];Y=[88 85 88 91 92 93 93 95 96 98 97 96 98 99 100 102]';2．回归分析及检验：[b,bint,r,rint,stats]=regress(Y ,X)b,bint,stats得结果：b = bint =-16.0730 -33.7071 1.5612 0.7194 0.6047 0.8340 stats =0.9282 180.9531 0.0000即7194.0ˆ,073.16ˆ10=−=ββ；0ˆβ的置信区间为[-33.7017，1.5612], 1ˆβ的置信区间为[0.6047,0.834]; r 2=0.9282, F =180.9531, p =0.0000 p <0.05, 可知回归模型 y =-16.073+0.7194x 成立.这个程序可以进行，第一步的拟合优度与相关系数检验， 第三步的方程的整体性检验（F 检验） ，因此第一步的拟合优度 r 平方已算出就根据 r 2 =1意味着完全拟合，r 2 =0意味着被解释变量与解释变量之间没有线性关系，0< r 2 <1时，r 2越接近于1拟合效果越好。

i 1
n
xi x
2 ( x x ) i i 1
n
( 0 1 xi ) 1
(4.28)
2 ˆ ( x x ) 0, ( x x ) x ( x x ) i i i 证得 1是 1 的无偏估计，其中用到 i ˆ 同理可证 是 0 的无偏估计。
2 (4.9) ˆ ˆ min ( y x ) ( y x ) ˆ ˆ i 0 1 i i 0 1 i Q( 0 , 1 ) ,
n
2
n
ˆ0 , ˆ1 就成为回归参数 0 ， 1 的 • 依照(4.9)式求出的 最小二乘估计。称
xi x
i 1 i 1
其中 ( x
i 1
是 yi 的常数，所以 1 是 yi 的线性组合。同理可 以证明 0是 yi 的线性组合。 ˆ , ˆ 亦为 因为 y i 为随机变量，所以作为 yi 的线性组合， 0 1 随机变量，因此各自有其概率分布、均值、方差、标准差及两 者的协方差。
0
无偏估计的意义是。如果屡次变更数据，反复求 0 , 1 的 估计值，这两个估计值没有高估或低估的系统趋势，他们的 平均值将趋于 0 , 1 。 ˆ ˆ x ) x E y ˆi ) E ( E( y 0 1 i 0 1 i 进一步有， ，表明回归值 是 的无偏估计，也说明 与真实值 的平均值是相同的。
(4.2)
• 这里 E ( )表示 差。
的数学期望，var( )表示
的方
• 对(4.1)式两端求期望，得 E( y) 0 1 x (4.3) 称(4.3)式为回归方程。 • 一般情况下，我们所研究的某个实际 问题，获得的n组样本观测值

LOGO
三、一元线性回归模型中随机项的假定
( xi , yi )，i,j=1,2,3,…,n后，为了估计（3.1.5） 在给定样本观测值（样本值） 式的参数 0和 1 ，必须对随机项做出某些合理的假定。这些假定通常称 为古典假设。
假设1、解释变量X是确定性变量，不是随机变量； 假设2、随机误差项具有零均值、同方差和不序列相关性： E(i)=0 Var (i)=2 i=1,2, …,n i=1,2, …,n
ˆ i ) ( y i 0 1 xi ) 2 Q（ 0，1） ( yi y
2 i 1 i 1 n n
（3.2.3）
ˆ ， ˆ ，使式 所谓最小二乘法，就是寻找参数 0,，1 的估计值 0 1 ˆ ， ˆ 满足： （3.2.3）定义的离差平方和最小，即寻找 0 1
y 1 x
2 y 0 2 x
LOGO
二是被解释变量x与参数 之间为线性关系，即参数 仅以一次方的 形式出现在模型之中。用数学语言表示为：
y 1 0
y 0 2 0
2
y x 1
2 y 0 2 1
在经济计量学中，我们更关心被解释变量y与参数
之间的线性关系。因
第三章 一元线性回归
3.1 一元线性回归模型 3.2 回归参数 0，1 的估计 3.3 最小二乘估计的性质 3.4 回归方程的显著性检验
3.5 预测和控制
LOGO
3.1 一元线性回归模型
一、回归模型的一般形式
1、变量间的关系 经济变量之间的关系，大体可分为两类：
（1）确定性关系或函数关系：变量之间有唯一确定性的函数关 系。其一般表现形式为：
对于总体回归模型，
y f ( x1, x2 ,, xk ) u

9--36
判定系数与回归估计标准差的计算
根据前述计算公式计算判定系数与回归估计标准差 ，需先根据样本回归方程计算出 X 的各观测值 xi 对 应的回归估计值 yi ，计算过程比较繁琐。
借助于 EXCEL 的“回归”分析工具可轻松得到其数 值。显示在 EXCEL 的回归输出结果的第一部分
判定系数（ R Square ）
也称为可解释的平方和。
3. 残差平方和（ SSE 、 Q ）
反映除 x 以外的其他因素对 y 取值的影 响，
9--29
可决系数（判定系数 r2 或
R2 ）
1. 可决系数 = 回归平方和占总离差平方和的
比例
r2
SSR SST
ቤተ መጻሕፍቲ ባይዱ
回归平方和 总离差平方和
1
残差平方和 总离差平方和
综合度量回归方程对样本观测值拟合优度， 衡量变量之间的相关程度。
称为古典线性回归模型。
9--12
2. 样本回归方程（ SRF ）
实际中只能通过样本信息去估计总体回归方程的参 数。
一
元
线
性回归的
yˆi ˆ
样
本ˆx回i
归
方
a
程
的形
bxi
式
：
ˆ a, ˆ b 是样本回归方程的截距和斜率
yˆ ； i 是与 xi 相对应的 Y 的条件均值的估计 ； 9--13
样本回归方程与总体回归方程之关系
i 1
n2
�n ( yi yˆi ) 2
i 1
n2
9--34
回归估计标准差的作用
1. 反映实际观察值在回归直线周围的分散状 况；反映因变量各实际值与其回归估计值之

从统计学看线性回归（1）——⼀元线性回归⽬录1. ⼀元线性回归模型的数学形式2. 回归参数β0 , β1的估计3. 最⼩⼆乘估计的性质 线性性 ⽆偏性 最⼩⽅差性⼀、⼀元线性回归模型的数学形式 ⼀元线性回归是描述两个变量之间相关关系的最简单的回归模型。

⾃变量与因变量间的线性关系的数学结构通常⽤式（1）的形式：y = β0 + β1x + ε (1)其中两个变量y与x之间的关系⽤两部分描述。

⼀部分是由于x的变化引起y线性变化的部分，即β0+ β1x，另⼀部分是由其他⼀切随机因素引起的，记为ε。

该式确切的表达了变量x与y之间密切关系，但密切的程度⼜没有到x唯⼀确定y的这种特殊关系。

式（1）称为变量y对x的⼀元线性回归理论模型。

⼀般称y为被解释变量（因变量），x为解释变量（⾃变量），β0和β1是未知参数，成β0为回归常数，β1为回归系数。

ε表⽰其他随机因素的影响。

⼀般假定ε是不可观测的随机误差，它是⼀个随机变量，通常假定ε满⾜：（2）对式（1）两边求期望，得E(y) = β0 + β1x, （3）称式（3）为回归⽅程。

E(ε) = 0 可以理解为ε对 y 的总体影响期望为 0，也就是说在给定 x 下，由x确定的线性部分β0 + β1x 已经确定，现在只有ε对 y 产⽣影响，在 x = x0，ε = 0即除x以外其他⼀切因素对 y 的影响为0时，设 y = y0，经过多次采样，y 的值在 y0 上下波动（因为采样中ε不恒等于0），若 E(ε) = 0 则说明综合多次采样的结果，ε对 y 的综合影响为0，则可以很好的分析 x 对 y 的影响（因为其他⼀切因素的综合影响为0，但要保证样本量不能太少）；若 E(ε) = c ≠ 0，即ε对 y 的综合影响是⼀个不为0的常数，则E(y) = β0 + β1x + E(ε)，那么 E(ε) 这个常数可以直接被β0 捕获，从⽽变为公式（3）；若 E(ε) = 变量，则说明ε在不同的 x 下对 y 的影响不同，那么说明存在其他变量也对 y 有显著作⽤。

2.F检：是对全部回归系数进行一次性显著性检验
（方程显著性检验）
其 表 达 式 为 ：F

Hale Waihona Puke S余S回 / m/（n m 1）
回归模型显著性检验步骤为：
(1) 根据α以及分子(m)和分母(n-m-1)的自由度，查
F分布表得临界值Fc ；
(2)作出判断
①当F>Fc(α,m,n-m-1),
则回归模型具有显著水平，x和y之间的变化是符
年 份
人均收入（元） 人均消费(元）
1980
480
420
1984
640
580
1981
510
450
1985
780
620
1982
545
490
1986
760
680
1983
590
530
在表中，x—人平均收入，y—人平均消费支出。
从表中可知，x和y呈现线性规律，设回归线性方程为：
ŷi=a+bx
(1)
由（1）可得到x和y之间的定量关系表示为：
其中：x xi —自变量的平均值； n
y yi —因变量的平均值。 n
（8）
五、可靠性检验
为了避免误差过大，确定a和b之后，在允许误差
的情况，进行可靠性检验。
1.R检验
检验x 与y之间的线性相关的程度。
其数学表达式为： R
n xy- x y
n x2 ( x)2 n y2 ( y)2
三、回归参数估计
由一组观察值 画出散点图,如右图所
示,这样的直线可画出很多条,而回归直 线只有一条，因为只有回归直线最接近 实际观察值。要拟合一条最理想的回归 直线，就要确定a和b。确定a和b的 方法有多种，其中应用最多的是最小二 乘法。

y 4000 3000 2000 1000
· · ·· ·· · · ·· ·
2 4 6 8 10
o线附 近, 这告诉我们变量x和y之间大致可看作线 性关系. 从图中还看到, 这些点又不完全在 一条直线上, 这表明x和y的关系并没有确切 到给定x就可以唯一确定y的程度.
其原因在于人有较大的个体差异, 因而身高 和体重的关系, 是既密切但又不能完全确定 的函数关系.
类似的变量间的关系在大自然和社会中 屡见不鲜.
例如 , 小麦的穗长与穗重的关系 ; 某班学生最 后一次考试分数与第一次考试分数的关系;温 度、降雨量与农作物产量间的关系;人的年龄 与血压的关系;最大积雪深度与灌溉面积间的 关系;家庭收入与支出的关系等等.
这种大量存在的变量间既互相联系但又不 是完全确定的关系，称为相关关系. 从数量的角度去研究这种关系，是数 理统计的一个任务. 这包括通过观察和试 验数据去判断变量之间有无关系，对其关 系大小作出数量上的估计 , 对互有关系的 变量通过其一去推断和预测其它,等等. 回归分析就是研究相关关系的一种重 要的数理统计方法.
V=I. R
以上两例的共同点在于，三个量中任意 两个已知，其余一个就可以完全确定. 也就 是说，变量之间存在着确定性的关系，并且 可以用数学表达式来表示这种关系. 然而，在大量的实际问题中，变量之 间虽有某种关系，但这种关系很难找到一 种精确的表示方法来描述.
例如,人的身高与体重之间有一定的关系, 知道一个人的身高可以大致估计出他的体重, 但并不能算出体重的精确值.
y=a+bx+ε, ε ～N(0， )
2
(1)
现对模型(1)中的变量x , y进行了n次独 立观察, 得样本 (x1,y1),…,(xn,yn) (3)

一元线性回归方程式为：y=a+b x
b=n∑xy−∑x∑y n∑x2−(∑x)2
a=y̅−bx̅
其中a、b都是待定参数，可以用最小二乘法求得。

（最小平方法）b表示直线的斜率，又称为回归系数。

n表示所有数据的项数。

∑x表示所有x的求和
∑y表示所有y的求和
∑xy表示所有xy的求和
∑x2表示所有x2的求和
(∑x)2表示∑x的平方，即所有x的求和再求平方。

x̅表示所有x的平均数
y̅表示所有y的平均数
答题解法如下：
解：（答：）相关数据如下表：
根据公式b=n∑xy−∑x∑y
n∑x2−(∑x)2
得：
b=6∗1481−21∗426
6∗79−212=8886−8946
474−441
=−60
33
=-1.82
根据公式a=y̅−bx̅得：
a=71−(−1.82)∗3.5=71-(-6.37)=71+6.37=77.37
代入方程式y=a+b x得：
y=77.37+（-1.82）x=77.37-1.82 x
已知7月份产量为7000件，则x=7（千件），代入得：
y=77.37-1.82 x=77.37-1.82*7=77.37-12.74=64.63（元）
根据一元回归方程（最小乘法或最小平方法），当7月份产量为7000件时，其单位成本为64.63元。

一元线性回归方程公式
一元线性回归方程公式：
y = ax + b
元线性回归方程反映一个因变量与一个自变量之间的线性关系，当直线方程Y'=a+bx的a和b确定时，即为一元回归线性方程。

经过相关分析后，在直角坐标系中将大量数据绘制成散点图，这些点不在一条直线上，但可以从中找到一条合适的直线，使各散点到这条直线的纵向距离之和最小，这条直线就是回归直线，这条直线的方程叫作直线回归方程。

注意：一元线性回归方程与函数的直线方程有区别，一元线性回归方程中的自变量X对应的是因变量Y的一个取值范围。

1。

第十三讲简单线性相关（一元线性回归分析）对于两个或更多变量之间的关系，相关分析考虑的只是变量之间是否相关、相关的程度，而回归分析关心的问题是：变量之间的因果关系如何。

回归分析是处理一个或多个自变量与因变量间线性因果关系的统计方法。

如婚姻状况与子女生育数量，相关分析可以求出两者的相关强度以及是否具有统计学意义，但不对谁决定谁作出预设，即可以相互解释，回归分析则必须预先假定谁是因谁是果，谁明确谁为因与谁为果的前提下展开进一步的分析。

一、一元线性回归模型及其对变量的要求（一）一元线性回归模型1、一元线性回归模型示例两个变量之间的真实关系一般可以用以下方程来表示：Y=A+BX+方程中的 A 、B 是待定的常数，称为模型系数，是残差，是以X预测Y 产生的误差。

两个变量之间拟合的直线是：y a bxy 是y的拟合值或预测值，它是在X 条件下 Y 条件均值的估计a 、b 是回归直线的系数，是总体真实直线距，当自变量的值为0 时，因变量的值。

A、B 的估计值， a 即 constant 是截b 称为回归系数，指在其他所有的因素不变时，每一单位自变量的变化引起的因变量的变化。

可以对回归方程进行标准化，得到标准回归方程：y x为标准回归系数，表示其他变量不变时，自变量变化一个标准差单位（ Z XjXj），因变量 Y 的标准差的平均变化。

S j由于标准化消除了原来自变量不同的测量单位，标准回归系数之间是可以比较的，绝对值的大小代表了对因变量作用的大小，反映自变量对Y 的重要性。

（二）对变量的要求：回归分析的假定条件回归分析对变量的要求是：自变量可以是随机变量，也可以是非随机变量。

自变量 X 值的测量可以认为是没有误差的，或者说误差可以忽略不计。

回归分析对于因变量有较多的要求，这些要求与其它的因素一起，构成了回归分析的基本条件：独立、线性、正态、等方差。

（三）数据要求模型中要求一个因变量，一个或多个自变量（一元时为 1 个自变量）。

一元线性回归模型1．一元线性回归模型有一元线性回归模型（统计模型）如下，y t = 0 + 1 x t + u t上式表示变量y t 和x t之间的真实关系。

其中y t 称被解释变量（因变量），x t称解释变量（自变量），u t称随机误差项， 0称常数项， 1称回归系数（通常未知）。

上模型可以分为两部分。

（1）回归函数部分，E(y t) = 0 + 1 x t,（2）随机部分，u t。

图2.1 真实的回归直线这种模型可以赋予各种实际意义，收入与支出的关系；如脉搏与血压的关系；商品价格与供给量的关系；文件容量与保存时间的关系；林区木材采伐量与木材剩余物的关系；身高与体重的关系等。

以收入与支出的关系为例。

假设固定对一个家庭进行观察，随着收入水平的不同，与支出呈线性函数关系。

但实际上数据来自各个家庭，来自各个不同收入水平，使其他条件不变成为不可能，所以由数据得到的散点图不在一条直线上（不呈函数关系），而是散在直线周围，服从统计关系。

随机误差项u t中可能包括家庭人口数不同，消费习惯不同，不同地域的消费指数不同，不同家庭的外来收入不同等因素。

所以在经济问题上“控制其他因素不变”是不可能的。

回归模型的随机误差项中一般包括如下几项内容，（1）非重要解释变量的省略，（2）人的随机行为，（3）数学模型形式欠妥，（4）归并误差（粮食的归并）（5）测量误差等。

回归模型存在两个特点。

（1）建立在某些假定条件不变前提下抽象出来的回归函数不能百分之百地再现所研究的经济过程。

（2）也正是由于这些假定与抽象，才使我们能够透过复杂的经济现象，深刻认识到该经济过程的本质。

通常线性回归函数E(y t) = 0 + 1 x t是观察不到的，利用样本得到的只是对E(y t) = 0 + 1 x t 的估计，即对 0和 1的估计。

在对回归函数进行估计之前应该对随机误差项u t做出如下假定。

(1) u t 是一个随机变量，u t 的取值服从概率分布。