线性回归的显著性检验
- 格式:doc
- 大小:206.00 KB
- 文档页数:3
线性回归的显著性检验
1.回归方程的显著性
在实际问题的研究中,我们事先并不能断定随机变量y 与变量p x x x ,,,21 之间确有线性关系,在进行回归参数的估计之前,我们用多元线性回归方程去拟合随机变量y 与变量p x x x ,,,21 之间的关系,只是根据一些定性分析所作的一种假设。因此,和一元线性回归方程的显著性检验类似,在求出线性回归方程后,还需对回归方程进行显著性检验。
设随机变量Y 与多个普通变量p x x x ,,,21 的线性回归模型为
p p x b x b b Y 110
其中 服从正态分布),0(2 N
对多元线性回归方程的显著性检验就是看自变量若接受p x x x ,,,21 从整体上对随机变量y 是否有明显的影响。为此提出原假设
0,,0,0:210 p b b b H
如果0H 被接受,则表明随机变量y 与p x x x ,,,21 的线性回归模型就没有意义。通过总离差平方和分解方法,可以构造对0H 进行检验的统计量。正态随机变量
n y y y ,,,21 的偏差平方和可以分解为:
n
i i i n i i n
i n i i i i i
y y y y y y y
y y y
1
21
2
1
1
2
2
)ˆ()ˆ()ˆˆ()( n
i i T y y S 12
)(为总的偏差平方和, n
i i R y y
S 1
2)ˆ(为回归平方和, n
i i i E y
y S 1
2)ˆ(为残差平方和。因此,平方和分解式可以简写为:
E R T S S S
回归平方和与残差平方和分别反映了0 b 所引起的差异和随机误差的影响。构造F 检验统计量则利用分解定理得到:
)
1(
p n Q p
Q F E R
在正态假设下,当原假设0,,0,0:210 p b b b H 成立时,F 服从自由度为)1,( p n p 的F 分布。
对于给定的显著水平 ,当F 大于临界值)1,( p n p 时,拒绝0H ,说明回归方程显著,y x 与有显著的线性关系。
实际应用中,我们还可以用复相关系数来检验回归方程的显著性。复相关系数R 定义为:
T
R
S S R
平方和分解式可以知道,复相关系数的取值范围为10 R 。R 越接近1表明E S 越小,回归方程拟合越好。 2.回归系数的显著性
若方程通过显著性检验,仅说明p b b b b ,,,210不全为零,并不意味着每个自变量对y 的影响都显著,所以就需要我们对每个自变量进行显著性检验。若某个系数0 j b ,则j x 对y 影响不显著,因此我们总想从回归方程中剔除这些次要的,无关的变量。检验i x 是否显著,等于假设
p j b H j j ,,2,1,0:0
已知])(,[~ˆ12 X X B N B ,p j i c X X ij ,,2,1,0,)(1 )(记,可知
],[~ˆ2 ij
j j c b N b ,,,2,1,0p j 据此可构造t 统计量
jj j j c b t ˆ
其中回归标准差为
n
i i i n i i y y p n e p n 1
212
)ˆ(1111 当原假设0:0 j j b H 成立时,则j t 统计量服从自由度为1 p n 的t 分布,给定显著性水平 ,当 t t j 时拒绝原假设0:0 j j b H ,认为j x 对y 影响显著,当
2 t t j 时,接受原假设0:0 j j b H ,认为j x 对y 影响不显著。