回归分析1

4 随机误差
由人们无法控制且难以解释的干 扰所导致的误差作为随机误差归入随 机误差项.
线性回归模型的一般形式为
y 0 1x1 2 x2 L p xp
其中0，1，2，L
，
为未知参数（称为回归参数）
p
如果（xi1,xi2,L ,xip;yi）,i=1,2,L ,n是变量
（x1,x2,L ,xp;y）的一组观测值，则线性回归模型的 数据形式可表示为
数据整理不仅要把一些数据进行换 算，差分，甚至将数据标准化，有时也要 剔除一些“异常值”或利用插值的方法补 齐空缺的数据。
（三）确定理论回归模型 的数学形式
要确定回归模型的数学形式，我们首
先 应 将 收 集 的 样 本 数 据 绘 制 关 于 yi 与 xi (i 1, 2,L , n) 的样本散点图。根据散点
yi 0 1xi1 2 xi2 L p xip i , i 1, 2,L , n
为了估计模型参数的需要,一般线 性回归模型应满足以下几个基本假设:
1
解释变量 x1, x2,L
,
x
是非随机变量；
p
2 高斯-马尔可夫条件(简称G-M条件)
E（i）=0,i=1,2,L ,n
Cov(
i
,j
)=
民的收入 x 与消费支出 y 就呈现出某种不确
定性。
我们将上海市城镇居民可支配收入与支 出的数据（1985 年~2001 年）用散点图表示，
可以发现居民的收入 x 与消费支出 y 基本上
呈现线性关系，但并不完全在一条直线上。 附数据与图形。
年份
1985 1986 1987 1988 1989 1990 1991 1992 1993
第一章 回归分析概述

1 165 48 2 165 57 3 157 50 4 170 54 5 175 64 6 165 61 7 155 43 8 170 59
求根据女大学生的身高预报体重的回归方程，并 预报一名身高为172ｃｍ的女大学生的体重.
例1
从某大学中随机选出8名女大学生……
解：由于问题中要求根据身高预报体重，因此选取
61 (0.849 165 85.712) 6.627
0.849 x 85.712 y
编 号 身 高 体 重 1 165 48 2 165 57 3 157 50 4 170 54 5 175 64 6 165 61 7 155 43 8 170 59
残差平方和
把每一个残差所得的值平方后加起来，用数学符号表示为： n ( yi i ) 2 称为残差平方和 y
结合例1除了身高影响体重外的其他因素是不可测量的，不能希望有某种方法获 取随机误差的值以提高预报变量的估计精度，但却可以估计预报变量观测值中所 包含的随机误差，这对我们查找样本数据中的错误和模型的评价极为有用，因此 在此我们引入残差概念。

残差
数据点和它在回归直线上相应位置的差异 ei =yi 称为 yi 相应于点（xi，yi ） 的残差。 例：编号为6的女大学生，计算随机误差的效应（残差）
身 高 与 体 重 残 差 图
异 常 点
• 错误数据 • 模型问题
误差与残差，这两个概念在某程度上具有很大的相似性， 都是衡量不确定性的指标，可是两者又存在区别。 误差与测量有关，误差大小可以衡量测量的准确性，误差 越大则表示测量越不准确。误差分为两类：系统误差与 随机误差。其中，系统误差与测量方案有关，通过改进测 量方案可以避免系统误差。随机误差与观测者，测量工具， 被观测物体的性质有关，只能尽量减小，却不能避免。 残差――与预测有关，残差大小可以衡量预测的准确性。 残差越大表示预测越不准确。残差与数据本身的分布特性， 回归方程的选择有关。

应用回归分析实验报告1应用回归分析实验报告日期:20 14 年月日班级 13应用统计姓名刘金兴学号 2013154020 实验利用spss软件对销售收入y和广告费用x进行回归分析名称问题背景描述:为了调查某广告对销售收入的影响，某商店记录了5个月的销售收入y(万元)和广告费用x(万元)，数据见表2.6:表2.6:月份 1 2 3 4 5x 1 2 3 4 5y 10 10 20 20 40实验目的:学会初步使用spss软件和利用spss软件进行简单的回归分析。

实验原理与数学模型:由散点图我们看到，随着广告费用x(万元)的增加，销售收入y(万元)也随之增加，而且5个样本点大致分布在一条直线的周围。

因此，用直线回归模型去描述它们是合适的。

故可以采用一元线性回归模型。

实验所用软件及版本:IBM SPSS 19.0主要内容(要点):(1) 画散点图。

(2) X与y之间是否大致呈线性关系,(3) 用最小二乘估计求出回归方程。

,(4) 求回归标准误差。

ˆˆˆ(5) 给出与的置信度为,,,的区间估计。

,,01(6) 计算,与,的决定系数。

(7) 对回归方程作方差分析。

,(8) 作回归系数1的显著性检验。

(9) 作相关系数的显著性检验。

(10) 对回归方程作残差图并作相应的分析。

(11) 求当广告费用为,.,万元时，销售收入将达到多少，并给出置信度为%95的置信区间。

实验过程记录(含基本步骤、主要程序清单及异常情况记录等):(1)散点图如图所示:(2)由散点图可得，x与y之间大致呈线性关系。

(3)利用spss软件对数据进行分析得下表:a系数非标准化系数标准系数模型 B 标准误差试用版 t Sig. 1 (常量) -1.000 6.351 -.157 .885x 7.000 1.915 .904 3.656 .035 a. 因变量: yy,,1,7x由表可得，用最小二乘估计求出的回归方程为:ˆ (4)求回归标准误差 : 模型汇总标准估计的误模型 R R 方调整 R 方差a1 .904 .817 .756 6.05530a. 预测变量: (常量), x。

∑
y t2
安徽大学经济学院
计量经济学讲义
4.6 多元回归的假设检验
虽然R2度量了估计回归直线的拟合优度，但是R2本身 却不能判定估计的回归系数是否是统计显著的，即是否 显著不为零。有的回归系数可能是显著的，有些可能不 是。如何判断呢？ 与一元回归模型相同，如果用真实的但不可观察的σ2 的无偏估计量代替σ2，则OLS估计量服从自由度为 n－3 的 t 分布，而不是正态分布。
2
可以证明：
ESS = b 2 ∑ y t x 2 t + b 3 ∑ y t x 3 t RSS = R =
2
20
(4.19) (4.20) (4.21)
∑ b ∑
2
y t2 −b 2 ∑ y t x 2 t − b 3 ∑ y t x 3 t y t x 2 t + b3 ∑ y t x 3 t
15
安徽大学经济学院
计量经济学讲义
4.4 OLS估计量的方差与标准误
计算标准误的目的：（1）建立真实参数的置信区间； （2）检验统计假设。
var (b 2 ) = se ( b 2 ) =
(∑
x
2 2t
)(∑
∑
x
2 3t
) − (∑
x 32t
x 2t x3t )
2
⋅σ
2
(4.12) (4.13)
var( b 2 )
(4.26)
在给定显著性水平下，检验B2的置信区间是否包含0，若没有 拒绝原假设，否则接受原假设。
24
安徽大学经济学院
计量经济学讲义
4.7.2 显著性检验法
2、显著性检验法：检验H0：B2＝0，H1：B2
≠0