回归方程及回归系数的显著性检验教程文件

实验二：多元线性回归模型的估计、回归系数和回归方程的检验、标准化回归方程、预测实验题目：研究货运总量y（万吨）与工业总产量x1(亿元)，农业总产值x2（亿元），居民非商品支出x3（亿元）的关系。

数据如表：1.计算y,x1,x2,x3的相关系数矩阵；2.求y关于x1,x2,x3的三元线性回归方程；3.对所求得的方程作拟合度检验4.对回归方程作显著性检验；5.对每一个回归系数作显著性检验；6.如果有的回归系数没有通过显著性检验，将其剔除，重新建立回归方程，再作回归方程的显著性检验和回归系数的显著性检验；7.求出新回归方程的每一个回归系数的置信水平为９５％的置信区间；8.求标准化回归方程；9.求当x01=75,x1=42, x2=3.1时的y的预测值，给定置信水平为95%，用SPSS 软件计算精确置信区间，手工计算近似预测区间？10 结合回归方程对问题作一些基本分析。

数据如下：y x1 x2 x31607035 1.02607540 2.42106540 2.02657442 3.02407238 1.22206845 1.52757842 4.01606636 2.02757044 3.22506542 3.0实验目的：掌握多元线性回归模型的估计、回归系数和回归方程的检验、标准化回归方程、预测SPSS主要操作：操作步骤类似于一元线性回归模型的方法SPSS输出结果及答案：1:y,x1,x2,x3的相关系数矩阵如下表：由上述输出结果知：y=-348.280+3.754x1+7.101x2+12.447x3 3模型汇总b模型R R 方调整 R 方标准估计的误差1 .898a.806 .708 23.44188a. 预测变量: (常量), 居民非商品支出X3（亿元）, 工业总产值X1（亿元）, 农业总产值X2（亿元）。

b. 因变量: 货运总量Y（万吨）由上述输出结果知：调整R square=0.708,拟合的较好4Anova b模型平方和df 均方 F Sig.1 回归13655.370 3 4551.790 8.283 .015a残差3297.130 6 549.522总计16952.500 9a. 预测变量: (常量), 居民非商品支出X3（亿元）, 工业总产值X1（亿元）, 农业总产值X2（亿元）。

回归方程及回归系数验检性著显的．3 回归方程及回归系数的显著性检验§１、回归方程的显著性检验回归平方和与剩余平方和(1)是否确实存在线性关系呢？这, 回归效果如何呢？因变量与自变量建立回归方程以后我们要进一步研究因变量, 取值的变化规律。

的每是需要进行统计检验才能加以肯定或否定, 为此常用该次观侧值每次观测值的变差大小, 次取值是有波动的, 这种波动常称为变差,次观测值的总变差可由而全部, 的差(称为离差)来表示与次观测值的平均值总的离差平方和,: 其中它反映了自变量称为回归平方和 , 是回归值与均值之差的平方和,。

)为自变量的个数的波动的变化所引起的, 其自由度(,), 是实测值与回归值之差的平方和或称残差平方和称为剩余平方和(的自由度为其自由度。

总的离差平方和。

它是由试验误差及其它因素引起的,,, 是确定的即, 如果观测值给定则总的离差平方和是确定的, 因此大则反之小,或者, 与, 大所以且回归平方和都可用来衡量回归效果, 越大则线性回归效果越显著小则如果越小回归效果越显著, ; 则线性回大, 说剩余平方和0, ＝如果则回归超平面过所有观测点归效果不好。

复相关系数(2)人们也常引用无量纲指标, 为检验总的回归效果, (3.1)或．, (3.2)称为复相关系数。

因为回归平方和实际上是反映回归方程中全部自变量的“方差贡献”, 因此因此的相关程度。

显然, 就是这种贡献在总回归平方和中所占的比例表示全部自变量与因变量因此它可以作为检验总的回归效果的一个指标。

但, 回归效果就越好, 。

复相关系数越接近１常有较大的并不很大时, 相对于,与回归方程中自变量的个数及观测组数有关, 当应注意一般认为应取, 的适当比例的５到10至少为倍为宜。

值与, 因此实际计算中应注意检验(3)就是要检验假设, 是否存在线性关系要检验与, (3.3)应用统计量否则认为线性关系显著。

检验假设无线性关系, 与成立时当假设, 则, (3.4)它服从自由度为即及的分布, , 这是两个方差之比, (3.5)应有则当给定检验水平成立, α下, 可检验回归的总体效果。

回归方程的显著性检验： （1）在模型上做假设：建立回归方程的目的是寻找Y 的均值随a 的变化规律，即找出回归方程a Y 0=＋x a 11＋x a 22＋x a 33＋x a 44＋x a 55。

如果错误!未找到引用源。

=0,那么不管错误!未找到引用源。

如何变化，Y 不随a 的变化做任何改变，那么这时所求的回归方程是没有意义的。

，此时的回归方程是不显著的。

如果错误!未找到引用源。

，x x 51...≠0那么a 变化时，Y 随x 的作回归变化，那么这时求得的回归方程是有意义的，此时是显著地。

综上，对回归方程是否有意义作判断就要作如下的显著性检验：H：x x 51...全为0 H1：x x 51...不全为0拒绝错误!未找到引用源。

表示回归方程是显著的。

对最终求得的回归方程：x x x x Y 5421092.18833.19111.0363.026.574++-+-= 进行F 检验。

（2）找出统计量：数据总的波动用总偏差平方和用2131))((∑=-=i iyave ST y表示，引起各Yave 不同的原因主要有两个因素：其一是错误!未找到引用源。

可能不真，Y 随a 的变化而变化，从而在每一个a 的观测值处的回归值不同，其波动用回归平方和2131i yave ypre SR ∑=-=））（（表示，其二是其他一切因素，包括随机误差、a 对y 的非线性影响等，这样在得到回归值以后，y 的观测值与回归值之间还有差距，这可用残差平方和2131i iypre SE y ∑=-=））（（表示。

（3）F 值的计算由定理：设y 1321....y y ，错误!未找到引用源。

相互独立，且),...(~255110σx a x a a yi i iN +++，I = 1， (13)则在上述记号下，有 ①）（1n ~SE 22-χσ②若H 0成立，则有）（p ~SE22χσ，（p 为回归参数的个数） ③SR 与SE ，yave 独立。

.3 回归方程及回归系数的显著性检验§１、回归方程的显著性检验回归平方和与剩余平方和(1)与自变量, 是否确实存在线性关系呢？这回归效果如何呢？因变量建立回归方程以后我们要进一步研究因变量, 为此, 取值的变化规律。

的每次是需要进行统计检验才能加以肯定或否定常用该次观侧值, 每次观测值是有波动的, 这种波动常称为变差, 的变差大小取值而全部次观测值的总变差可由总的来表示, 的差(称为离差与次观测值的平均值)离差平方和,: 其中与均值之差的平方和, , 是回归值它反映了自变量称为回归平方和。

(其自由度为自变量的个数)的变化所引起的的波动,与回归值之差的平方和是实测值, 称为剩余平方和(或称残差平方和), 它的自由度为其自由度。

是由试验误差及其它因素引起的, 。

总的离差平方和,反之因此, 即小大则是确定的, , 如果观测值给定 , 是确定的则总的离差平方和且回归平方和越大则线性回归效果越显著, 小则大, 所以与, 或者说剩都可用来衡量回归效果如果; ＝如果0, 越小回归效果越显著则线性回归效果大, 余平方和, 则回归超平面过所有观测点不好。

复相关系数(2)人们也常引用无量纲指标为检验总的回归效果,, (3.1)或1 / 6., (3.2)称为复相关系数。

因为回归平方和实际上是反映回归方程中全部自变量的“方差贡献”, 因此就因此。

是这种贡献在总回归平方和中所占的比例显然, 表示全部自变量与因变量的相关程度。

, , 因此它可以作为检验总的回归效果的一个指标。

但应注意与复相关系数越接近１, 回归效果就越好因此实际值相对于并不很大时, 及观测组数回归方程中自变量的个数有关, , 当常有较大的一般认为应取的５到计算中应注意的适当比例倍为宜。

, 与10至少为检验(3)要检验与是否存在线性关系, 就是要检验假设, (3.3)应用统计量当假设无线性关系, 成立时, 否则认为线性关系显著。

检验假设则与, (3.4)它服从自由度为及这是两个方差之比的分布, 即,, (3.5)应有统计量下, 用此统计量, 成立则当给定检验水平可检验回归的总体效果。

§3 回归方程及回归系数的显著性检验１、回归方程的显著性检验(1) 回归平方和与剩余平方和建立回归方程以后, 回归效果如何呢因变量与自变量是否确实存在线性关系呢这是需要进行统计检验才能加以肯定或否定, 为此, 我们要进一步研究因变量取值的变化规律。

的每次取值是有波动的, 这种波动常称为变差, 每次观测值的变差大小, 常用该次观侧值与次观测值的平均值的差(称为离差)来表示, 而全部次观测值的总变差可由总的离差平方和,其中:称为回归平方和, 是回归值与均值之差的平方和, 它反映了自变量的变化所引起的的波动, 其自由度(为自变量的个数)。

称为剩余平方和(或称残差平方和), 是实测值与回归值之差的平方和, 它是由试验误差及其它因素引起的, 其自由度。

总的离差平方和的自由度为。

如果观测值给定, 则总的离差平方和是确定的, 即是确定的, 因此大则小, 反之, 小则大, 所以与都可用来衡量回归效果, 且回归平方和越大则线性回归效果越显著, 或者说剩余平方和越小回归效果越显著, 如果＝0, 则回归超平面过所有观测点; 如果大, 则线性回归效果不好。

(2) 复相关系数为检验总的回归效果, 人们也常引用无量纲指标,或,称为复相关系数。

因为回归平方和实际上是反映回归方程中全部自变量的“方差贡献”, 因此就是这种贡献在总回归平方和中所占的比例, 因此表示全部自变量与因变量的相关程度。

显然。

复相关系数越接近１, 回归效果就越好, 因此它可以作为检验总的回归效果的一个指标。

但应注意, 与回归方程中自变量的个数及观测组数有关, 当相对于并不很大时, 常有较大的值, 因此实际计算中应注意与的适当比例, 一般认为应取至少为的５到10倍为宜。

(3) 检验要检验与是否存在线性关系, 就是要检验假设,当假设成立时, 则与无线性关系, 否则认为线性关系显著。

检验假设应用统计量,这是两个方差之比, 它服从自由度为及的分布, 即,用此统计量可检验回归的总体效果。

回归方程的效果的检验1.方程显著性检验(F 检验)F 检验是以方差分析为基础,对回归总体线性关系是否显著的一种假设检验,是解释模型中被解释变量与所有解释变量之间的线性关系在总体上是否显著的方法利用F 统计量进行总体线性显著性检验的步骤如下:(1)提出关于P 个总体参数的假设H0:b0=b1=b2=…=bp=0(2)构造统计量(3)检验 给定显著性水平α,查F 分布表若F>F α,拒绝H0,表明回归总体有显著性关系.若F<F α,接受原假设,表明不存在线性关系2.参数显著性检验参数显著性检验,是对每个解释变量进行检验.如果解释变量对被解释变量的影响不显著,应从模型中删除,如果解释变量对被解释变量的影响显著,应保留在模型中.利用t 统计量进行参数显著性检验的步骤如下:(1)对总体参数提出假设:H0:bi=0(2)构造统计量:(3)检验 对给定α,若︱t ︱>t α /2,说明拒绝原假设；若︱t ︱<t α /2,则接受原假设.如果一次t 检验后,模型中存在多个不重要变量,一般是将t 值最小的变量删除掉,再重是(X`X)-1主对角线上第i+1个元素3、复相关系数和偏相关系数复相关系数R 是由ESS 和TSS 构造的统计量，用来表示回归方程对原有数据拟合程度的好坏，衡量作为一个整体的x1,x2,…,xp 与y 的线性关系的大小。

回归方程的拟合优度检验就是要检验样本数据点聚集在回归直线周围的密集程度，从而评价回归方程对样本数据的代表程度。

由判定系数R2来实现。

实际中，随着自变量个数的不断增加，必然会使得R2不断变化，于是出现的问题是，R2变化是由于数学习性决定的，还是确实是由于引入了好的变量进入方程而造成的。

因此在作拟合优度检验的判定时，一般采用调整的R2，以消除自变量的个数以及样本量的大小对R2的影响。

其它变量被固定后，计算任意两个变量之间的相关系数，这种相关系数称为偏相关系数。