第2章课后习题参考答案

第二章 一元线性回归分析

思考与练习参考答案

2.1 一元线性回归有哪些基本假定?

答： 假设1、解释变量X是确定性变量，Y是随机变量；

假设2、随机误差项ε具有零均值、同方差和不序列相关性：

E(εi)=0 i=1,2, …,n

Var (εi)=2 i=1,2, …,n

Cov(εi, εj)=0 i≠j i,j= 1,2, …,n

假设3、随机误差项ε与解释变量X之间不相关：

Cov(Xi, εi)=0 i=1,2, …,n

假设4、ε服从零均值、同方差、零协方差的正态分布

εi~N(0, 2 ) i=1,2, …,n

2.2 考虑过原点的线性回归模型

Yi=β1Xi+εi i=1,2, …,n

误差εi（i=1,2, …,n）仍满足基本假定。求β1的最小二乘估计

解：

得：

2.3 证明（2.27式），ei =0 ，eiXi=0 。

证明：

其中： niiiniXYYYQ121021))ˆˆ(()ˆ(21112)ˆ()ˆ(iniiniiieXYYYQ0)ˆ(2ˆ111iiniieXXYQ)()(ˆ1211niiniiiXYX01ˆˆˆˆiiiiiYXeYY

即： ei =0 ，eiXi=0

2.4回归方程E（Y）=β0+β1X的参数β0，β1的最小二乘估计与最大似然估计在什么条件下等价?给出证明。

答：由于εi~N(0, 2 ) i=1,2, …,n

所以Yi=β0 + β1Xi + εi~N（β0+β1Xi , 2 )

最大似然函数：

使得Ln（L）最大的0ˆ，1ˆ就是β0，β1的最大似然估计值。

同时发现使得Ln（L）最大就是使得下式最小，

上式恰好就是最小二乘估计的目标函数相同。值得注意的是：最大似然估计是在εi~N(0, 2 )的假设下求得，最小二乘估计则不要求分布假设。

所以在εi~N(0, 2 ) 的条件下， 参数β0，β1的最小二乘估计与最大似然估计等价。 niiiniXYYYQ121021))ˆˆ(()ˆ(0100ˆˆQQ})],([21exp{)2()(),,(2010122/21210iininiiniXYYfL2010122210)],([21)2ln(2)},,({iiniXYnLLn2.5 证明0ˆ是β0的无偏估计。

证明：)1[)ˆ()ˆ(1110niixxiniiYLXXXYnEXYEE

)] )(1([])1([1011iixxiniixxiniXLXXXnEYLXXXnE

01010)()1(])1([ixxiniixxiniELXXXnLXXXnE

2.6 证明

证明：

)] ()1([])1([)ˆ(102110iixxiniixxiniXVarLXXXnYLXXXnVarVar

222212]1[])(2)1[(xxxxixxiniLXnLXXXnLXXXn

2.7 证明平方和分解公式：SST=SSE+SSR

证明：

2.8 验证三种检验的关系，即验证：

（1）21)2(rrnt

（2）2221ˆˆ)2/(1/tLnSSESSRFxx

证明：（1） )1()1()ˆ(2221220xxniiLXnXXXnVarniiiiniiYYYYYYSST1212]ˆ()ˆ[niiiniiiiniiYYYYYYYY12112)ˆˆ)(ˆ2ˆSSESSR)YˆYYYˆn1i2iin1i2i22ˆˆ22ˆ((2))(2)ˆ1yyxxyyxxxxxxrLLrLLnrnrtSSELnSSEnSSESSTLr

（2）

22222011111111ˆˆˆˆˆˆ()()(())(())nnnniiiixxiiiiSSRyyxyyxxyxxL2212ˆ/1ˆ/(2)xxLSSRFtSSEn

2.9 验证（2.63）式：2211)L)xx(n()e(Varxxii

证明：

0112222222ˆˆˆvar()var()var()var()2cov(,)ˆˆˆvar()var()2cov(,())()()11[]2[]()1[1]iiiiiiiiiiiiixxxxixxeyyyyyyyxyyxxxxxxnLnLxxnL

其中：222221111))(1()(1))(,()()1,())(ˆ,(),())(ˆ,(xxixxiniixxiiiniiiiiiiiLxxnLxxnyLxxyCovxxynyCovxxyCovyyCovxxyyCov

2.10 用第9题证明是2的无偏估计量

证明：

2221122112211ˆˆ()()()22()111var()[1]221(2)2nniiiinniiiixxEEyyEennxxennnLnn

2ˆ22nei2.11 验证决定系数与F值之间的关系式

22nFFr

证明：

211/121/(/(2))1221SSRSSRrSSTSSRSSESSESSRnSSRSSEnFnFnF

2.14 为了调查某广告对销售收入的影响，某商店记录了5个月的销售收入y（万元）和广告费用x（万元），数据见表2.6，要求用手工计算：

表2.6

月份 1 2 3 4 5

X 1 2 3 4 5

Y 10 10 20 20 40

（1） 画散点图（略）

（2） X与Y是否大致呈线性关系？

答：从散点图看，X与Y大致呈线性关系。

（3） 用最小二乘法估计求出回归方程。

计算表

X Y 2)(XXi 2)(YYi ))((YYXXii iYˆ 2)ˆ(YYi 2)ˆ(iiYY

1 10 4 100 20 6 （-14）2 （-4）2

2 10 1 100 10 13 （-7）2 （3）2

3 20 0 0 0 20 0 0

4 20 1 0 0 27 72 72

5 40 4 400 40 34 142 （-6）2

和15 100 和Lxx=10 Lyy=600 和Lxy=70 和100 SSR=490 SSE=110

均3 均20 均20

回归方程为：

（4） 求回归标准误差

先求SSR（Qe）见计算表。

所以

（5） 给出

的置信度为95%的区间估计；

由于(1-)的置信度下， 的置信区间是

查表可得

915.110667.36ˆ2ˆ1xxLS

所以

的95%的区间估计为：（7—3.182*1.915，7+3.182*1.915），即（0.906,13.094）。

351.6)102551(667.36)1(ˆ22ˆ0xxLXnS

所以 的95%的区间估计为：（-1-3.182*6.351，-1+3.182*6.351），

即（-21.211, 19.211）。^0的置信区间包含0，表示^0不显著。

（6） 计算x和y的决定系数

说明回归方程的拟合优度高。

（7） 对回归方程作方差分析

方差分析表

方差来源 平方和 自由度 均方 F值

SSR 490 1 490 13.364

SSE 110 3 36.667

SST 600 4

F值=13.364>F0.05(1,3)=10.13(当n1=1,n2=8时，α=0.05查表得对应的值为10.13),所以拒绝原假设，说明回归方程显著。

.17320ˆˆ,71070ˆ101XYLLxxxyXXY71ˆˆˆ10.055.631102ˆnQe10ˆ,ˆ22ˆˆˆˆ(,)iiiitstsiˆ182.3)3()2(025.02/tnt1ˆ0ˆ817.06004902yyLSSRSSTSSRR（8） 做回归系数β1的显著性检验

H0: β1=0

656.3915.1/7/ˆ1ˆ1St

t值=3.656>t0.05/2(3)=3.182,所以拒绝原假设，说明x对Y有显著的影响。

（9） 做相关系数R的显著性检验

R值=0.904>R0.05(3)=0.878,所以接受原假设，说明x和Y有显著的线性关系。

（10）对回归方程作残差图并作相应的分析

残差图(略) .从残差图上看出，残差是围绕e=0在一个固定的带子里随机波动，基本满足模型的假设ei~N(0, 2 ), 但由于样本量太少, 所以误差较大.

（11） 求广告费用为4.2万元时,销售收入将达到多少?并给出置信度为95%的置信区间.

解: 当X0=4.2时,

所以广告费用为4.2万元时, 销售收入将达到28.4万元.

由于置信度为1-α时，Y0估计值的置信区间为:

)1044.1511(667.36)(11(ˆ202ˆ00xxYYLXXnS

所以求得Y0的95%的置信区间为: [6.05932 ,50.74068]

预测误差较大. 00202ˆ000ˆ0ˆˆYYYYStYYStY904.0817.02SSTSSRRR4.282.471ˆˆˆ0100XY