《应用回归分析》
模型选择
问题：
对于模型
e x x x y ++++=3322110ββββ，其中01213210=-===ββββ，，，
用随机数的方法产生40=n 组数据，要求
]10,10[~-U x ik ，321，，=k ，n i ,,1 =；)1,0(~N e i ；
并且i y 由
i i i i i e x x x y ++++=3322110ββββ
得出。对于这40组随机数据)(321i i i i x x x y ，，，，n i ,,1 =，我们建立了以下四种模型：
①．e x y ++=110ββ ②．e x x y +++=22110βββ ③．e x x y +++=33110βββ ④．e x x x y ++++=3322110ββββ
运用我们所学的模型选择的准则在①~④中选出最佳模型。
一、产生随机数
对于这个问题，我们首先要解决的是根据原模型及给定的参数分布产生问题要求的40组随机数)(321i i i i x x x y ，，，，n i ,,1 =。
我们知道在Matlab 中，可以利用rand R =这个函数来产生一个[0,1]上的随机
数，并且R 是来自[0,1]的均匀分布，即]1,0[~U R ；我们利用),(k n rand R =就可以得到一个n 行k 列的来自均匀分布]1,0[U 的随机数组成的矩阵。由此我们可以想到，利用)3,40(*2010rand R -=，我们就可以得到ik x ，321，，=k ，40:1=i ，我们在它的左侧加入全为1的一列，保存在X 中。
我们要运用林德贝格-勒维中心极限定理通过均匀分布]1,0[U 的随机数来产生)1,0(N 上的随机数。]1,0[U 的期望和方差分别为1/2和1/12，所以12个相互独立的]1,0[U 和的期望和方差分别为6和1。因此只要产生12个]1,0[U 上的随机数
1221x x x ，，， ，计算61221-+++x x x 就得到一个来自)1,0(N 的随机数。
??????
?????????????????????????
????????????????????????????????????????????????????????????????
???????????????????????????????= 6.57758
7.33658
6.043801
-9.98161 8.33060 -3.974921 7.43971 -6.50628 3.316741 6.43735 1.35217 -7.818451 -3.33056 0.92405 -8.074411 -3.96211 -6.00661 -4.300741 -0.78253 -2.97983 -5.581031 -3.32678 -9.45949 0.116521 -4.02198 -0.37190 -3.075151 3.97090 -3.19211 7.864761 -9.66105 7.00269 -4.424551 1.64512 -4.44879 7.268941 -8.85474 -6.35094 -3.594561 -0.95742 -6.36297 3.292861 1.54329 8.06540 4.762581 4.61761 -0.43300 8.025751 -4.75716 8.57109 -5.923681 8.94646 9.15138 -8.265741 -8.40664 -3.63944 -7.703361 -9.03261 8.80762 9.245221 3.21013 0.57823 -9.759641 0.20625 -0.00943 2.651271 6.03763 -4.25389 2.089701 2.55181 -9.57361 -3.582711 7.87567 6.64146 -2.481201 6.65663 0.20197 0.222051 -9.68127 9.42652 5.368111 9.69026 -7.73024 -0.422721 1.36698 5.20136 -0.936111 4.16032 6.34155 -9.261771 -2.55947 -1.53443 0.823021 -3.13720 -6.10979 5.254331 1.66401 -7.18885 -1.570501 -0.53752 -2.35333 0.227821 2.01484 -2.19733 -4.606621 8.79058 -8.09444 -8.577081 -6.06729 0.40156 9.415591 -6.62759 -0.00045 -6.020291 2.18124 -4.88149 4.750361 6.53223 9.38918 8.289681X
???????????????????????????????????????????????????????????????????????????????????????????????
???????????????????????????????= 1.94561- 0.11329
1.91706- 1.05981- 1.70961- 1.63332- 0.02059 1.39188
0.33701- 1.70400 0.39874
- 0.12503- 0.71357 1.07546 1.27977- 1.71660- 2.44547- 0.48189
- 0.06311- 0.44931 0.58418 0.44250- 0.43223 0.80124 0.51016
- 1.03410 1.01522 0.27733- 1.70398- 1.32851 0.81793- 1.93206
- 0.94875 0.55324
0.80141 0.12487 1.73962 0.71993
1.72776- 0.21794e ??
??
?
???
???
??
??
?
??
?
?
?
?
?
????
???
???
?
?
?
??
??
?
?
?
?
???
?
?
??
?
??
?
??
?
????
????????????????????????????????????????????????????????????????= 3.80542 15.16715- 12.22270 17.04888- 17.78247
- 3.22819
- 7.16165- 12.08441 5.11540
- 21.62563 15.25053- 19.86164 0.87539 15.02416 1.17998 15.76790 21.86391
- 25.16474- 10.83039
- 11.13213 18.51333- 5.86947 9.86551
4.20943 11.11402- 2.27622 3.32493 7.60748 7.77756
- 22.53658
- 3.36255 15.68638 5.99659 4.36221 5.21450- 7.93485
- 21.16925 10.32021- 13.65443
8.40813Y
因此我们得到了40组数据)(321i i i i e x x x ，，，，40,,1 =i ，将其代入模型
i i i i i e x x x y ++++=3322110ββββ
就得到了上页中以矩阵形式表示的40组随机数)(321i i i i x x x y ，，，，40,1， =i 。
二、模型选择准则
这里我们有五种模型选取准则：
1、平均平方和准则
对于一个选模型，假设模型中含有p 个回归变量，记：
p p SSE p
n MS -=
1
其中p SSE 是在此选模型下的残差平方和。计算多个选模型的p MS ，我们认为
p MS 越小的模型效果越好。
2、p G 准则
同样的，我们对选模型计算：
p n SSE G p p 2?2+-=
σ
其中2?σ
是全模型下的2σ的最小二乘估计。p G 越小，模型效果越好。
3、AIC 准则
n Y Y Y ，，， 21是一个样本，记含有k 个参数的模型的似然函数为
)|(1k Y Y L ，， θ，θ的MLE 为θ?，则AIC 准则要求
k Y Y L AIC k -=)|?(ln 1，， θ
的值越大，选模型的效果越好。进一步地，在线性模型场合，我们有
p SSE n
AIC p +=
ln 2
的值越小越好。
4、CV 准则
将40组原始数据的第i 组数据删去，利用剩下的39组数据对选模型进行最
小二乘估计，将第i 组数据)(321i i i x x x ，，代入模型中得出i y
?。对i=1，2，…，40重复进行上述操作40次，最后计算
21
)?(1i n
i i y
y n CV -=∑= CV 越小，选模型效果越好。
5、BIC 准则
n p SSE BIC p log ?2+=
σ
其中2?σ
是全模型下的2σ的最小二乘估计，BIC 越小，选模型效果越好。 三、模型选择
在以上几种准则中需要用到全模型下的一些数据，所以我们先就全模型即第
④种模型进行分析。
1、全模型 e x x x y ++++=3322110ββββ
将所有数据导入到Minitab 软件中，可以得到：
?????
???????--=02939.003598.100381.28339.0?β
，5.49=SSE ，37569.1?2=σ 由此，
32102939.003598.100381.28339.0x x x y --+=
33784.11
1=-=-=
SSE p
n SSE p n MS p p 98183.12?2
=+-=
p n SSE G p p σ
03945.81ln 2
=+=
p SSE n
AIC p 在Matlab 中利用循环可以求得CV ，定义一个1?n 阶的1Y 用以保存每次得到的
i y
?，并且输入如下循环语句： >> for i=1:40
A=X; B=Y;
A1=A(i,:); B1=B(i,:);
A(i,:)=[]; B(i,:)=[]; R=regress(B,A); Y0=A1*R; Y1(i,1)=Y0; A=X; B=Y; end
于是得到：
52538.1)?(121
=-=∑=i n
i i y
y n CV 78801.40log ?2=+=n p SSE BIC p σ
2、选模型① e x y ++=110ββ
将X 的第3、4列删去，然后和上面一样我们可以得到：
??
?
???=9630.1961.0?β，3.1566=p SSE
由此，
19630.1961.0x y +=
16154.401
=-=
p p SSE p
n MS 552.11002?2
=+-=
p n SSE G p p σ
1294.148ln 2
=+=
p SSE n
AIC p 27734.43)?(121
=-=∑=i n
i i y
y n CV （只需将上述循环中的第二行改为A=X(:,[1 2]); B=Y; 即可）
154.1140log ?2=+=
n p SSE BIC p σ
3、选模型② e x x y +++=22110βββ
删去X 中的第4列，进行回归，得到：
??
??
?
?????-=03221.100337.28281.0?β，7.50=p SSE 所以
2103221.100337.28281.0x x y -+=
33421.11
=-=
p p SSE p
n MS
85412.02?2=+-=
p n SSE G p p σ
51852.80ln 2
=+=
p SSE n
AIC p
50043.1)?(121
=-=∑=i n
i i y
y n CV 05823.40log ?2
=+=
n p SSE BIC p σ
4、选模型③ e x x y +++=33110βββ
删去X 中的第3列，用同样的方法回归，得：
??
??
?
?????=1101.09619.1937.0?β，1549.9 =p SSE 所以
311101.09619.1937.0x x y ++=
40.786841
=-=
p p SSE p
n MS 1090.63102?2=+-=
p n SSE G p p σ
148.9189ln 2
=+=
p SSE n
AIC p 7901.45)?(121
=-=∑=i n
i i y
y n CV
1129.835log ?2
=+=
n p SSE BIC p σ
四、结论
将上述四种模型计算所得的BIC CV AIC G MS p p ，，，，数据统计到同一表
格中进行直观比较。
p MS
p G
AIC CV BIC 模型1 40.16153 1100.552 148.1294
43.27734 1140.154 模型2 1.33421 0.85411 80.51851 1.50043 40.05823 模型3 40.78684 1090.6310 148.9189 45.7901 1129.835 模型4 1.33784 1.98183
81.03945
1.52538
40.78801
从上表我们可以直观地看出选模型②的各项指数都是最小的，因此我们断言，在以上四种模型中，模型②的效果最好。
在最初产生随机数y 的模型e x x x y ++++=3322110ββββ里，03=β，因而我们的原始数据里3x 的影响是几乎可以忽略的，所以我们得出模型②的效果最好这一结论是可信的。
1. 表1列出了某地区家庭人均鸡肉年消费量Y 与家庭月平均收入X ，鸡肉价格P 1，猪肉价格P 2与牛肉价格P 3的相关数据。 年份 Y/千 克 X/ 元 P 1/(元/千克) P 2/(元/千克) P 3/(元/千克) 年份 Y/千克 X/元 P 1/(元/ 千克) P 2/(元/ 千克) P 3/(元/千克) 1980 2.78 397 4.22 5.07 7.83 1992 4.18 911 3.97 7.91 11.40 1981 2.99 413 3.81 5.20 7.92 1993 4.04 931 5.21 9.54 12.41 1982 2.98 439 4.03 5.40 7.92 1994 4.07 1021 4.89 9.42 12.76 1983 3.08 459 3.95 5.53 7.92 1995 4.01 1165 5.83 12.35 14.29 1984 3.12 492 3.73 5.47 7.74 1996 4.27 1349 5.79 12.99 14.36 1985 3.33 528 3.81 6.37 8.02 1997 4.41 1449 5.67 11.76 13.92 1986 3.56 560 3.93 6.98 8.04 1998 4.67 1575 6.37 13.09 16.55 1987 3.64 624 3.78 6.59 8.39 1999 5.06 1759 6.16 12.98 20.33 1988 3.67 666 3.84 6.45 8.55 2000 5.01 1994 5.89 12.80 21.96 1989 3.84 717 4.01 7.00 9.37 2001 5.17 2258 6.64 14.10 22.16 1990 4.04 768 3.86 7.32 10.61 2002 5.29 2478 7.04 16.82 23.26 1991 4.03 843 3.98 6.78 10.48 （1） 求出该地区关于家庭鸡肉消费需求的如下模型： 01213243ln ln ln ln ln Y X P P P u βββββ=+++++ （2） 请分析，鸡肉的家庭消费需求是否受猪肉及牛肉价格的影响。 先做回归分析，过程如下： 输出结果如下：
新疆财经大学 实验报告 课程名称：统计学 实验项目名称：回归模型分析 姓名： lili 学号： 20000000 班级：工商2011-2班 指导教师： 2014 年5 月
新疆财经大学实验报告
附:实验数据。
1、作散点图,加趋势线， 2、建立回归模型（用公式编辑器写），对模型进行统计检验。解释模型意义SUMMARY OUTPUT 回归统计 Multiple R 0.974111881 R Square 0.948893956 Adjusted R Square 0.947131679 标准误差527.4648386 观测值31 方差分析 df SS MS F Significance F 回归分析 1 149806425.5 149806426 538.4476 2.82E-20 残差29 8068355.522 278219.156 总计30 157874781.1 Coefficients 标准误差t Stat P-value Lower 95% Upper 95% Intercept 121.5246471 365.0193913 0.33292655 0.741585 -625.024 X Variable 1 1.270433698 0.054749518 23.2044728 2.82E-20 1.158458
RESIDUAL OUTPUT 观测值预测 Y 残差标准残差 1 14252.56 -369.959 -0.71338 2 10116.66 196.2382 0.378401 3 7032.43 206.6701 0.398516 4 6607.597 412.4032 0.795225 5 7006.005 6.895144 0.013296 6 7843.094 -602.494 -1.16177 7 7098.874 -93.6736 -0.18063 8 6493.004 185.8963 0.358458 9 14147.49 720.0062 1.388367 10 8644.356 618.1438 1.191949 11 12461.12 717.8799 1.384267 12 6555.382 244.618 0.47169 13 9467.216 532.2839 1.026388 14 6365.198 536.2019 1.033943 15 7832.295 567.6051 1.094497 16 6399.5 526.5002 1.015235 17 7697.502 -375.502 -0.72407 18 7871.17 -171.17 -0.33006 19 12363.8 16.59511 0.032 20 7443.669 341.3307 0.658178 21 7111.959 147.341 0.284113 22 9164.599 -1070.9 -2.06498 23 7490.04 -448.14 -0.86414 24 6408.901 160.099 0.308714 25 7774.109 -130.509 -0.25166 26 10342.54 -1577.04 -3.04097 27 7362.997 -462.997 -0.89278 28 6852.282 -195.082 -0.37617 29 6982.121 -236.821 -0.45665 30 6893.317 -362.817 -0.69961 31 7260.6 -39.5998 -0.07636 y=β0+β1x y=121.225+1.27X 3、求相关系数与方向说明数意 根据以上的结果，0《r≤1,这表明x与y之间正线性相关，因为r=0.9741可视为高度相关；
第二章 简单线性回归模型 一、单项选择题： 1、回归分析中定义的（ B ）。 A 、解释变量和被解释变量都是随机变量 B 、解释变量为非随机变量，被解释变量为随机变量 C 、解释变量和被解释变量都为非随机变量 D 、解释变量为随机变量，被解释变量为非随机变量 2、最小二乘准则是指使（ D ）达到最小值的原则确定样本回归方程。 A 、1?()n t t t Y Y =-∑ B 、1?n t t t Y Y =-∑ C 、?max t t Y Y - D 、21?()n t t t Y Y =-∑ 3、下图中“{”所指的距离是（ B ）。 A 、随机误差项 i 、?i Y 的离差 4、参数估计量?β是i Y 的线性函数称为参数估计量具有( A )的性质。 A 、线性 B 、无偏性 C 、有效性 D 、一致性 5、参数β的估计量β?具备有效性是指（ B ）。 A 、0)?(=βVar B 、)?(βVar 为最小 C 、0?=-ββ D 、)?(ββ-为最小 6、反映由模型中解释变量所解释的那部分离差大小的是( B )。 A 、总体平方和 B 、回归平方和 C 、残差平方和 D 、样本平方和 7、总体平方和TSS 、残差平方和RSS 与回归平方和ESS 三者的关系是（ B ）。 A 、RSS=TSS+ESS B 、TSS=RSS+ESS C 、ESS=RSS-TSS D 、ESS=TSS+RSS 8、下面哪一个必定是错误的（ C ）。 A 、 i i X Y 2.030?+= ，8.0=XY r B 、 i i X Y 5.175?+-= ，91.0=XY r C 、 i i X Y 1.25?-=，78.0=XY r D 、 i i X Y 5.312?--=，96.0-=XY r 9、产量（X ，台）与单位产品成本（Y ，元/台）之间的回归方程为?356 1.5Y X =-，这说明（ D ）。 A 、产量每增加一台，单位产品成本增加356元 B 、产量每增加一台，单位产品成本减少1.5元 C 、产量每增加一台，单位产品成本平均增加356元 D 、产量每增加一台，单位产品成本平均减少1.5元 10、回归模型i i i X Y μββ++=10，i = 1，…，25中，总体方差未知，检验010=β：H 时，所用的检验统计量1?1 1?βββS -服从（ D ）。 A 、）（22-n χ B 、）（1-n t C 、）（12-n χ D 、）（2-n t 11、对下列模型进行经济意义检验，哪一个模型通常被认为没有实际价值的（ B ）。 A 、i C （消费）i I 8.0500+=（收入） B 、di Q （商品需求）i I 8.010+=（收入）i P 9.0+（价格） C 、si Q （商品供给）i P 75.020+=（价格） D 、i Y （产出量）6.065.0i K =（资本）4.0i L （劳动） 12、进行相关分析时，假定相关的两个变量( A )。 X 1?β+ i Y
2 经典线性回归模型 §2.1 概念与记号 1．线性回归模型是用来描述一个特定变量y 与其它一些变量x 1，…，x p 之间的关系。 2． 称特定变量y 为因变量 （dependent variable ）、 被解释变量 （explained variable ）、 响应变量（response variable ）、被预测变量（predicted variable ）、回归子 （regressand ）。 3．称与特定变量相关的其它一些变量x 1，…，x p 为自变量（independent variable ）、 解释变量（explanatory variable ）、控制变量（control variable ）、预测变量 （predictor variable ）、回归量（regressor ）、协变量（covariate ）。 4．假定我们观测到上述这些变量的n 组值：( ) ip i i x x y , , , 1 L (i=1，…，n)。称 这n 组值为样本（sample ）或数据（data ）。 §2.2 经典线性回归模型的假定 假定 2.1（线性性(linearity)） i ip p i i x x y e b b b + + + + = L 1 1 0 (i=1，…，n)。 （2.1） 称方程（2.1）为因变量y 对自变量x 1，…，x p 的线性回归方程（linear regression equation ），其中 ( ) p ， k k , , 1 0 L = b 是待估的未知参数（unknown parameters ）， ( ) n i i , , 1 L = e 是满足一定限制条件的无法观测的误差项（unobserved error term ） 。称自 变量的函数 ip p i x x b b b + + + L 1 1 0 为回归函数（regression function ）或简称为回归 （regression ）。称 0 b 为回归的截距(ntercept)，称 ( ) p k k , , 1 L = b 为自变量的回归系数 （regression coefficients ） 。某个自变量的回归系数表示在其它条件保持不变的情况下，
SPSS—非线性回归(模型表达式)案例解析 2011-11-16 10:56 由简单到复杂，人生有下坡就必有上坡，有低潮就必有高潮的迭起，随着SPSS 的深入学习，已经逐渐开始走向复杂，今天跟大家交流一下，SPSS非线性回归，希望大家能够指点一二！ 非线性回归过程是用来建立因变量与一组自变量之间的非线性关系，它不像线性模型那样有众多的假设条件，可以在自变量和因变量之间建立任何形式的模型非线性，能够通过变量转换成为线性模型——称之为本质线性模型，转换后的模型，用线性回归的方式处理转换后的模型，有的非线性模型并不能够通过变量转换为线性模型，我们称之为：本质非线性模型 还是以“销售量”和“广告费用”这个样本为例，进行研究，前面已经研究得出：“二次曲线模型”比“线性模型”能够更好的拟合“销售量随着广告费用的增加而呈现的趋势变化”，那么“二次曲线”会不会是最佳模型呢？ 答案是否定的，因为“非线性模型”能够更好的拟合“销售量随着广告费用的增加而呈现的变化趋势” 下面我们开始研究： 第一步：非线性模型那么多，我们应该选择“哪一个模型呢？” 1：绘制图形，根据图形的变化趋势结合自己的经验判断，选择合适的模型 点击“图形”—图表构建程序—进入如下所示界面：
点击确定按钮，得到如下结果：
放眼望去, 图形的变化趋势，其实是一条曲线，这条曲线更倾向于"S" 型曲线，我们来验证一下，看“二次曲线”和“S曲线”相比，两者哪一个的拟合度更高！ 点击“分析—回归—曲线估计——进入如下界面
在“模型”选项中，勾选”二次项“和”S" 两个模型，点击确定，得到如下结果： 通过“二次”和“S “ 两个模型的对比，可以看出S 模型的拟合度明显高于
一元线性回归模型案例分析 一、研究的目的要求 居民消费在社会经济的持续发展中有着重要的作用。居民合理的消费模式和居民适度的消费规模有利于经济持续健康的增长，而且这也是人民生活水平的具体体现。改革开放以来随着中国经济的快速发展，人民生活水平不断提高，居民的消费水平也不断增长。但是在看到这个整体趋势的同时，还应看到全国各地区经济发展速度不同，居民消费水平也有明显差异。例如，2002年全国城市居民家庭平均每人每年消费支出为6029.88元, 最低的黑龙江省仅为人均4462.08元，最高的上海市达人均10464元，上海是黑龙江的2.35倍。为了研究全国居民消费水平及其变动的原因，需要作具体的分析。影响各地区居民消费支出有明显差异的因素可能很多，例如，居民的收入水平、就业状况、零售物价指数、利率、居民财产、购物环境等等都可能对居民消费有影响。为了分析什么是影响各地区居民消费支出有明显差异的最主要因素，并分析影响因素与消费水平的数量关系，可以建立相应的计量经济模型去研究。 二、模型设定 我们研究的对象是各地区居民消费的差异。居民消费可分为城市居民消费和农村居民消费，由于各地区的城市与农村人口比例及经济结构有较大差异，最具有直接对比可比性的是城市居民消费。而且，由于各地区人口和经济总量不同，只能用“城市居民每人每年的平均消费支出”来比较，而这正是可从统计年鉴中获得数据的变量。所以模型的被解释变量Y 选定为“城市居民每人每年的平均消费支出”。 因为研究的目的是各地区城市居民消费的差异，并不是城市居民消费在不同时间的变动，所以应选择同一时期各地区城市居民的消费支出来建立模型。因此建立的是2002年截面数据模型。 影响各地区城市居民人均消费支出有明显差异的因素有多种，但从理论和经验分析，最主要的影响因素应是居民收入，其他因素虽然对居民消费也有影响，但有的不易取得数据，如“居民财产”和“购物环境”；有的与居民收入可能高度相关，如“就业状况”、“居民财产”；还有的因素在运用截面数据时在地区间的差异并不大，如“零售物价指数”、“利率”。因此这些其他因素可以不列入模型，即便它们对居民消费有某些影响也可归入随即扰动项中。为了与“城市居民人均消费支出”相对应，选择在统计年鉴中可以获得的“城市居民每人每年可支配收入”作为解释变量X。 从2002年《中国统计年鉴》中得到表2.5的数据: 表2.52002年中国各地区城市居民人均年消费支出和可支配收入
回归模型结果分析 为了提高回归模型的准确性，上文中我们分别按月份、颜色比、退偏振比三种情况进行回归建模，从以上的分析结果看来，按月份划分建立的回归模型反演效果较好。为了更好地对不同情况下得到的回归模型及反演结果进行对比，我们把相同情况下得到的所有反演结果表示在一张图上，并与相应的太阳光度计观测值进行对比分析。 （a）
（b） （c）
图4.1 图4.1中（a）、（b）、（c）三幅图为分别按月份、颜色比和退偏振比建立回归模型后得出的所有颗粒物体积浓度的反演结果与相应太阳光度计观测值的对比分析图。图（a）数据的样本容量为250，图（b）和图（c）的样本容量为150，虽然图（a）样本容量多，但是与图（b）和图（c）相比，图（a）中数据更为集中，大部分数据的反演结果与太阳光度计观测值接近，出现误差的数据少且误差小，图（c）的反演结果略优于图（b），总体来说按月份建立的颗粒物体积浓度的回归模型最准确，而按颜色比建立的回归模型准确性较差。 （a）
（b） （c）图4.2
图4.2中(a)、（b）、（c）三幅图为分别按月份、颜色比和退偏振比建立回归模型后得出的所有有效粒子半径的反演结果与相应太阳光度计观测值的对比分析图。图（a）样本容量较多且数据比较集中，但有一部分数据反演结果明显偏小，严重影响了回归模型的准确性，图（b）数据较离散，部分数据误差大，线性相关系数较小，图（c）个别数据误差大，虽然数据集中程度没有图（a）好。但是数据横纵坐标的差异比其他两幅图小。在确定最优样本容量时，我们发现随着样本容量的增加，线性相关系数减小，所以在无法统一样本容量且线性相关系数差异不大的情况下无法确定在哪种情况下建立的回归模型最准确。所以在建立有效粒子半径的回归模型时，我们可以按月份建立回归模型，也可以按退偏振比建立回归模型。
常见非线性回归模型 1.简非线性模型简介 非线性回归模型在经济学研究中有着广泛的应用。有一些非线性回归模型可以通 过直接代换或间接代换转化为线性回归模型,但也有一些非线性回归模型却无 法通过代换转化为线性回归模型。 柯布—道格拉斯生产函数模型 y AKL 其中L和K分别是劳力投入和资金投入, y是产出。由于误差项是可加的, 从而也不能通过代换转化为线性回归模型。 对于联立方程模型,只要其中有一个方程是不能通过代换转化为线性,那么这个联立方程模型就是非线性的。 单方程非线性回归模型的一般形式为 y f(x1,x2, ,xk; 1, 2, , p) 2.可化为线性回归的曲线回归 在实际问题当中，有许多回归模型的被解释变量y与解释变量x之间的关系都不是线性的，其中一些回归模型通过对自变量或因变量的函数变换可以转化为
线性关系，利用线性回归求解未知参数，并作回归诊断。如下列模型。 （1）y 0 1e x （2）y 0 1x2x2p x p （3）y ae bx (4)y=alnx+b 对于（1）式，只需令x e x即可化为y对x是线性的形式y01x，需要指出的是，新引进的自变量只能依赖于原始变量，而不能与未知参数有关。 对于（2）式，可以令x1=x,x2=x2,?,x p=x p,于是得到y关于x1,x2,?, x p 的线性表达式y 0 1x12x2 pxp 对与（3）式，对等式两边同时去自然数对数，得lnylnabx ,令 y lny, 0 lna, 1 b，于是得到y关于x的一元线性回归模型： y 0 1x。 乘性误差项模型和加性误差项模型所得的结果有一定差异，其中乘性误差项模型认为yt本身是异方差的，而lnyt是等方差的。加性误差项模型认为yt是等 方差的。从统计性质看两者的差异，前者淡化了y t值大的项（近期数据）的作用， 强化了y t值小的项（早期数据）的作用，对早起数据拟合得效果较好，而后者则 对近期数据拟合得效果较好。 影响模型拟合效果的统计性质主要是异方差、自相关和共线性这三个方面。 异方差可以同构选择乘性误差项模型和加性误差项模型解决，必要时还可以使用 加权最小二乘。
案例分析报告（2014——2015学年第一学期） 课程名称：预测与决策 专业班级：电子商务1202 学号： 2204120202 学生姓名：陈维维 2014 年 11月
案例分析（一元线性回归模型） 我国城镇居民家庭人均消费支出预测 一、研究目的与要求 居民消费在社会经济的持续发展中有着重要的作用，居民合理的消费模式和居民适度的消费规模有利于经济持续健康的增长，而且这也是人民生活水平的具体体现。从理论角度讲，消费需求的具体内容主要体现在消费结构上，要增加居民消费，就要从研究居民消费结构入手，只有了解居民消费结构变化的趋势和规律，掌握消费需求的热点和发展方向，才能为消费者提供良好的政策环境，引导消费者合理扩大消费，才能促进产业结构调整与消费结构优化升级相协调，才能推动国民经济平稳、健康发展。例如，2008年全国城镇居民家庭平均每人每年消费支出为11242.85元，最低的青海省仅为人均8192.56元，最高的上海市达人均19397.89元，上海是黑龙江的2.37倍。为了研究全国居民消费水平及其变动的原因，需要作具体的分析。影响各地区居民消费支出有明显差异的因素可能很多，例如，零售物价指数、利率、居民财产、购物环境等等都可能对居民消费有影响。为了分析什么是影响各地区居民消费支出有明显差异的最主要因素，并分析影响因素与消费水平的数量关系，可以建立相应的计量经济模型去研究。 二、模型设定 我研究的对象是各地区居民消费的差异。居民消费可分为城镇居民消费和农村居民消费，由于各地区的城镇与农村人口比例及经济结构有较大差异，最具有直接对比可比性的是城市居民消费。而且，由于各地区人口和经济总量不同，只能用“城镇居民每人每年的平均消费支出”来比较，而这正是可从统计年鉴中获得数据的变量。 所以模型的被解释变量Y选定为“城镇居民每人每年的平均消费支出”。 因为研究的目的是各地区城镇居民消费的差异，并不是城镇居民消费在不同时间的变动，所以应选择同一时期各地区城镇居民的消费支出来建立模
多元线性回归模型案例分析 ——中国人口自然增长分析一·研究目的要求 中国从1971年开始全面开展了计划生育,使中国总和生育率很快从1970年的降到1980年,接近世代更替水平。此后，人口自然增长率（即人口的生育率）很大程度上与经济的发展等各方面的因素相联系，与经济生活息息相关，为了研究此后影响中国人口自然增长的主要原因，分析全国人口增长规律，与猜测中国未来的增长趋势，需要建立计量经济学模型。 影响中国人口自然增长率的因素有很多，但据分析主要因素可能有：（1）从宏观经济上看，经济整体增长是人口自然增长的基本源泉；（2）居民消费水平，它的高低可能会间接影响人口增长率。(3)文化程度，由于教育年限的高低，相应会转变人的传统观念，可能会间接影响人口自然增长率（4）人口分布，非农业与农业人口的比率也会对人口增长率有相应的影响。 二·模型设定 为了全面反映中国“人口自然增长率”的全貌，选择人口增长率作为被解释变量，以反映中国人口的增长；选择“国名收入”及“人均GDP”作为经济整体增长的代表；选择“居民消费价格指数增长率”作为居民消费水平的代表。暂不考虑文化程度及人口分布的影响。 从《中国统计年鉴》收集到以下数据（见表1）： 表1 中国人口增长率及相关数据
， 设定的线性回归模型为： 1222334t t t t t Y X X X u ββββ=++++ 三、估计参数 利用EViews 估计模型的参数，方法是： 1、建立工作文件：启动EViews ，点击File\New\Workfile ，在对 话框“Workfile Range ”。在“Workfile frequency ”中选择“Annual ” (年 年份 @ 人口自然增长率 （%。） 国民总收入 （亿元） 居民消费价格指数增长 率（CPI ）% 人均GDP （元） 1988 15037 1366 1989 … 17001 18 1519 1990 18718 1644 1991 【 21826 1893 1992 26937 2311 1993 . 35260 2998 1994 48108 4044 1995 — 59811 5046 1996 70142 5846 1997 ~ 78061 6420 1998 83024 6796 1999 【 88479 7159 2000 98000 7858 2001 [ 108068 8622 2002 119096 9398 2003 ： 135174 10542 2004 159587 12336 2005 、 184089 14040 2006 213132 16024
第四章 多元线性回归模型 在一元线性回归模型中，解释变量只有一个。但在实际问题中，影响因变量的变量可能不止一个，比如根据经济学理论，人们对某种商品的需求不仅受该商品市场价格的影响，而且受其它商品价格以及人们可支配收入水平的制约；影响劳动力劳动供给意愿（用劳动参与率度量）的因素不仅包括经济形势（用失业率度量），而且包括劳动实际工资；根据凯恩斯的流动性偏好理论，影响人们货币需求的因素不仅包括人们的收入水平，而且包括利率水平等。当解释变量的个数由一个扩展到两个或两个以上时，一元线性回归模型就扩展为多元线性回归模型。本章在理论分析中以二元线性回归模型为例进行。 一、预备知识 （一）相关概念 对于一个三变量总体，若由基础理论，变量21,x x 和变量y 之间存在因果关系，或21,x x 的变异可用来解释y 的变异。为检验变量21,x x 和变量y 之间因果关系是否存在、度量变量21,x x 对变量y 影响的强弱与显著性、以及利用解释变量21,x x 去预测因变量y ，引入多元回归分析这一工具。 将给定i i x x 21,条件下i y 的均值 i i i i i x x x x y E 2211021),|(βββ++= （4.1） 定义为总体回归函数（Population Regression Function,PRF ）。定义),|(21i i i i x x y E y -为误差项（error term ）,记为i μ，即),|(21i i i i i x x y E y -=μ，这样i i i i i x x y E y μ+=),|(21，或 i i i i x x y μβββ+++=22110 （4.2） （4.2）式称为总体回归模型或者随机总体回归函数。其中，21,x x 称为解释变量（explanatory variable ）或自变量（independent variable ）；y 称为被解释变量（explained variable ）或因变量（dependent variable ）；误差项μ解释了因变量的变动中不能完全被自变量所解释的部分。 在总体回归模型（4.2）中参数210,,βββ是未知的，i μ是不可观察的，统计计量分析的目标之一就是估计模型的未知参数。给定一组随机样本n i x x y i i i ,,2,1),,,(21 =，对（4.1）式进行估计，若21021,,),,|(βββi i i x x y E 的估 计量分别记为^2^1^0^,,,βββi y ，则定义（4.3）式为样本回归函数 i i i x x y 2^ 21^1^0^βββ++= （n i ,,2,1 =） （4.3） 注意，样本回归函数随着样本的不同而不同，也就是说^2^1^0,,βββ是随机变量，它们的随机性是由于i y 的随机性（同一组),(21i i x x 可能对应不同的i y ）、21,x x 各
经典线性回归模型的诊断与修正下表为最近20年我国全社会固定资产投资与GDP的统计数据：1 年份国内生产总值（亿元）GDP 全社会固定资产投资（亿元）PI 1996 71813.6 22913.5 1997 79715 24941.1 1998 85195.5 28406.2 1999 90564.4 29854.7 2000 100280.1 32917.7 2001 110863.1 37213.49 2002 121717.4 43499.91 2003 137422 55566.61 2004 161840.2 70477.43 2005 187318.9 88773.61 2006 219438.5 109998.16 2007 270232.3 137323.94 2008 319515.5 172828.4 2009 349081.4 224598.77 2010 413030.3 251683.77 2011 489300.6 311485.13 2012 540367.4 374694.74 2013 595244.4 446294.09 1数据来源于国家统计局网站年度数据
1、普通最小二乘法回归结果如下： 方程初步估计为： GDP=75906.54+1.1754PI (32.351) R2=0.9822F=1046.599 DW=0.3653 2、异方差的检验与修正 首先，用图示检验法，生成残差平方和与解释变量PI的散点图如下：
从上图可以看出，残差平方和与解释变量的散点图主要分布在图形的下半部分，有随PI的变动增大的趋势，因此，模型可能存在异方差。但是否确定存在异方差，还需作进一步的验证。 G-Q检验如下： 去除序列中间约1/4的部分后，1996-2003年的OLS估计结果如下所示：
线性回归模型的研究毕业论文 1 引言 回归分析最早是由19世纪末期高尔顿（Sir Francis Galton）发展的。1855年，他发表了一篇文章名为“遗传的身高向平均数方向的回归”，分析父母与其孩子之间身高的关系，发现父母的身高越高或的其孩子也越高，反之则越矮。他把儿子跟父母身高这种现象拟合成一种线性关系。但是他还发现了个有趣的现象，高个子的人生出来的儿子往往比他父亲矮一点更趋向于平均身高，矮个子的人生出来的儿子通常比他父亲高一点也趋向于平均身高。高尔顿选用“回归”一词，把这一现象叫做“向平均数方向的回归”。于是“线形回归”的术语被沿用下来了。 回归分析中，当研究的因果关系只涉及因变量和一个自变量时，叫做一元回归分析；当研究的因果关系涉及因变量和两个或两个以上自变量时，叫做多元回归分析。此外，回归分析中，又依据描述自变量与因变量之间因果关系的函数表达式是线性的还是非线性的，分为线性回归分析和非线性回归分析。按照参数估计方法可以分为主成分回归、偏最小二乘回归、和岭回归。 一般采用线性回归分析，由自变量和规定因变量来确定变量之间的因果关系，从而建立线性回归模型。模型的各个参数可以根据实测数据解。接着评价回归模型能否够很好的拟合实际数据；如果不能够很好的拟合，则重新拟合；如果能很好的拟合，就可以根据自变量进行下一步推测。 回归分析是重要的统计推断方法。在实际应用中，医学、农业、生物、林业、金融、管理、经济、社会等诸多方面随着科学的发展都需要运用到这个方法。从而推动了回归分析的快速发展。 2 回归分析的概述 2.1 回归分析的定义 回归分析是应用极其广泛的数据分析方法之一。回归分析（regression analysis)是确定两种或两种以上变数间相互依赖的定量关系的一种统计分析方法。 2.2 回归分析的主要容
案例分析报告 （2014——2015学年第一学期） 课程名称：预测与决策 专业班级：电子商务1202 学号： 2204120202 学生姓名：陈维维 2014 年 11月 案例分析（一元线性回归模型） 我国城镇居民家庭人均消费支出预测 一、研究目的与要求 居民消费在社会经济的持续发展中有着重要的作用，居民合理的消费模式和居民适度的消费规模有利于经济持续健康的增长，而且这也是人民生活水平的具体体现。从理论角度讲，消费需求的具体内容主要体现在消费结构上，要增加居民消费，就要从研究居民消费结构入手，只有了解居民消费结构变化的趋势和规律，掌握消费需求的热点和发展方向，才能为消费者提供良好的政策环境，引导消费者合理扩大消费，才能促进产业结构调整与消费结构优化升级相协调，才能推动国民经济平稳、健康发展。例如，2008年全国城镇居民家庭平均每人每年消费支出为11242.85元，?最低的青海省仅为人均8192.56元，最高的上海市达人均19397.89元，上海是黑龙江的2.37倍。为了研究全国居民消费水平及其变动的原因，需要作具体的分析。影响各地区居民消费支出有明显差异的因素可能很多，例如，零售物价指数、利率、居民财产、购物环境等等都可能对居民消费有影响。为了分析什么是影响各地区居民消费支出有明显差异的最主要因素，并分析影响因素与消费水平的数量关系，可以建立相应的计量经济模型去研究。 二、模型设定?
我研究的对象是各地区居民消费的差异。居民消费可分为城镇居民消费和农村居民消费，由于各地区的城镇与农村人口比例及经济结构有较大差异，最具有直接对比可比性的是城市居民消费。而且，由于各地区人口和经济总量不同，只能用“城镇居民每人每年的平均消费支出”来比较，而这正是可从统计年鉴中获得数据的变量。 所以模型的被解释变量Y选定为“城镇居民每人每年的平均消费支出”。 因为研究的目的是各地区城镇居民消费的差异，并不是城镇居民消费在不同时间的变动，所以应选择同一时期各地区城镇居民的消费支出来建立模型。因此建立的是2008年截面数据模型。影响各地区城镇居民人均消费支出有明显差异的因素有多种，但从理论和经验分析，最主要的影响因素应是居民收入，其他因素虽然对居民消费也有影响，但有的不易取得数据，如“居民财产”和“购物环境”；有的与居民收入可能高度相关，如“就业状况”、“居民财产”；还有的因素在运用截面数据时在地区间的差异并不大，如“零售物价指数”、“利率”。因此这些其他因素可以不列入模型，即便它们对居民消费有某些影响也可归入随即扰动项中。 为了与“城镇居民人均消费支出”相对应，选择在统计年鉴中可以获得的“城市居民每人每年可支配收入”作为解释变量X。 以下是2008年各地区城镇居民人均年消费支出和可支配收入表
简述回归分析的概念与特点 回归分析（regression analysis)是确定两种或两种以上变数间相互依赖的定量关系的一种统计分析方法。运用十分广泛，回归分析按照涉及的自变量的多少，可分为一元回归分析和多元回归分析；按照自变量和因变量之间的关系类型，可分为线性回归分析和非线性回归分析。如果在回归分析中，只包括一个自变量和一个因变量，且二者的关系可用一条直线近似表示，这种回归分析称为一元线性回归分析。如果回归分析中包括两个或两个以上的自变量，且因变量和自变量之间是线性关系，则称为多元线性回归分析。 方差齐性 线性关系 效应累加 变量无测量误差 变量服从多元正态分布 观察独立 模型完整（没有包含不该进入的变量、也没有漏掉应该进入的变量） 误差项独立且服从（0,1）正态分布。 现实数据常常不能完全符合上述假定。因此，统计学家研究出许多的回归模型来解决线性回归模型假定过程的约束。 研究一个或多个随机变量Y1 ，Y2 ，…，Yi与另一些变量X1、X2，…，Xk之间的关系的统计方法。又称多重回归分析。通常称Y1，Y2，…，Yi为因变量，X1、X2，…，Xk为自变量。回归分析是一类数学模型，特别当因变量和自变量为线性关系时，它是一种特殊的线性模型。最简单的情形是一个自变量和一个因变量，且它们大体上有线性关系，这叫一元线性回归，即模型为Y＝a＋bX＋ε，这里X是自变量，Y是因变量，ε是随机误差，通常假定随机误差的均值为0，方差为σ^2（σ^2大于0）σ2与X的值无关。若进一步假定随机误差遵从正态分布，就叫做正态线性模型。一般的情形，差有k个自变量和一个因变量，因变量的值可以分解为两部分：一部分是由自变量的影响，即表示为自变量的函数，其中函数形式已知，但含一些未知参数；另一部分是由于其他未被考虑的因素和随机性的影响，即随机误差。当函数形式为未知参数的线性函数时，称线性回归分析模型；当函数形式为未知参数的非线性函数时，称为非线性回归分析模型。当自变量的个数大于1时称为多元回归，当因变量个数大于1时称为多重回归。 回归分析的主要内容为：①从一组数据出发确定某些变量之间的定量关系式，即建立数学模型并估计其中的未知参数。估计参数的常用方法是最小二乘法。②对这些关系式的可信程度进行检验。③在许多自变量共同影响着一个因变量的关系中，判断哪个（或哪些）自变量的影响是显著的，哪些自变量的影响是不显著的，将影响显著的自变量选入模型中，而剔除影响不显著的变量，通常用逐步回归、向前回归和向后回归等方法。④利用所求的关系式对某一生产过程进行预测或控制。回归分析的应用是非常广泛的，统计软件包使各种回归方法计算十分方便。
线性回归模型 1.回归分析 回归分析研究的主要对象是客观事物变量之间的统计关系，它是建立在对客观事物进行大量试验和观察的基础上，用来寻找隐藏在那些看上去是不确定的现象中的统计规律性的方法。回归分析方法是通过建立模型研究变量间相互关系的密切程度、结构状态及进行模型预测的一种有效工具。 2.回归模型的一般形式 如果变量x_1,x_2,…,x_p与随机变量y之间存在着相关关系，通常就意味着每当x_1,x_2,…,x_p取定值后，y便有相应的概率分布与之对应。随机变量y与相关变量x_1,x_2,…,x_p之间的概率模型为 y = f(x_1, x_2,…,x_p) + ε（1） f(x_1, x_2,…,x_p)为变量x_1,x_2,…,x_p的确定性关系，ε为随机误差项。由于客观经济现象是错综复杂的，一种经济现象很难用有限个因素来准确说明，随机误差项可以概括表示由于人们的认识以及其他客观原因的局限而没有考虑的种种偶然因素。 当概率模型（1）式中回归函数为线性函数时，即有 y = beta_0 + beta_1*x_1 + beta_2*x_2 + …+ beta_p*x_p +ε (2) 其中，beta_0，…,beta_p为未知参数，常称它们为回归系数。当变量x个数为1时，为简单线性回归模型，当变量x个数大于1时，为多元线性回归模型。 3.回归建模的过程 在实际问题的回归分析中，模型的建立和分析有几个重要的阶段，以经济模型的建立为例：
（1）根据研究的目的设置指标变量 回归分析模型主要是揭示事物间相关变量的数量关系。首先要根据所研究问题的目的设置因变量y，然后再选取与y有关的一些变量作为自变量。通常情况下，我们希望因变量与自变量之间具有因果关系。尤其是在研究某种经济活动或经济现象时，必须根据具体的经济现象的研究目的，利用经济学理论，从定性角度来确定某种经济问题中各因素之间的因果关系。（2）收集、整理统计数据 回归模型的建立是基于回归变量的样本统计数据。当确定好回归模型的变量之后，就要对这些变量收集、整理统计数据。数据的收集是建立经济问题回归模型的重要一环，是一项基础性工作，样本数据的质量如何，对回归模型的水平有至关重要的影响。 （3）确定理论回归模型的数学形式 当收集到所设置的变量的数据之后，就要确定适当的数学形式来描述这些变量之间的关系。绘制变量y_i与x_i（i = 1,2,…,n）的样本散点图是选择数学模型形式的重要手段。一般我们把（x_i,y_i）所对应的点在坐标系上画出来，观察散点图的分布状况。如果n个样本点大致分布在一条直线的周围，可考虑用线性回归模型去拟合这条直线。 （4）模型参数的估计 回归理论模型确定之后，利用收集、整理的样本数据对模型的未知参数给出估计是回归分析的重要内容。未知参数的估计方法最常用的是普通最小二乘法。普通最小二乘法通过最小化模型的残差平方和而得到参数的估计值。即 Min RSS = ∑（y_i – hat(y_i）)^2 = 其中，hat(y_i)为因变量估计值，hat(beta_i)为参数估计值。 （5）模型的检验与修改 当模型的未知参数估计出来后，就初步建立了一个回归模型。建立回归模型的目的是应用它来研究经济问题，但如果直接用这个模型去做预测、控制和分析，是不够慎重的。因为这个模型是否真正揭示了被解释变量与解释变量之间的关系，必须通过对模型的检验才能决定。统计检验通常是对回归方程的显著性检验，以及回归系数的显著性检验，还有拟合优度的检验，随机误差项的序列相关检验，异方差性检验，解释变量的多重共线性检验等。 如果一个回归模型没有通过某种统计检验，或者通过了统计检验而没有合理的经济意义，就需要对回归模型进行修改。 （6）回归模型的运用 当一个经济问题的回归模型通过了各种统计检验，且具有合理的经济意义时，就可以运用这个模型来进一步研究经济问题。例如，经济变量的因素分析。应用回归模型对经济变量之间的关系作出了度量，从模型的回归系数可发现经济变量的结构性关系，给出相关评价的一些量化依据。 在回归模型的运用中，应将定性分析和定量分析有机结合。这是因为数理统计方法只是从事物的数量表面去研究问题，不涉及事物的规定性。单纯的表面上的数量关系是否反映事物的本质这本质究竟如何必须依靠专门学科的研究才能下定论。 Lasso 在多元线性回归中，当变量x_1,x_2,…,x_3之间有较强的线性相关性，即解释变量间出现严重的多重共线性。这种情况下，用普通最小二乘法估计模型参数，往往参数估计方差太大，使普通最小二乘的效果变得很不理想。为了解决这一问题，可以采用子集选择、压缩估计或降维法，Lasso即为压缩估计的一种。Lasso可以将一些增加了模型复杂性但与模型无关的
实验一：简单线性回归模型的建立与分析应用 【实验目的】 1、熟悉计量经济学软件包EViews的界面和基本操作； 2、掌握计量经济学分析实际经济问题的具体步骤； 3、掌握简单线性回归模型的参数估计、统计检验、预测的基本操作方法； 4、理解简单线性回归模型中参数估计值的经济意义。 【实验类型】综合型 【实验软硬件要求】计量经济学软件包EViews、微型计算机 【实验内容】 为研究深圳市地方预算内财政收入（Y）与地区生产总值（X）的关系，建立简单线性回归模型，现根据深圳市统计局网站的相关信息，得到统计数据如下表： 请按照下列步骤完成实验一，每个步骤要写出操作过程： （1）打开EViews，新建适当的工作文件夹； 打开Eviews后，依次点击File－New－Workfile，新建一个时间序列数据（Dated-regular frequencied）类型的文件，频率选择年度（Annual），键入起止日期1990-2008（如图一），点击ok，新建工作文件夹完成（如图二）
（图一） （图二） （2）在工作文件夹中新建变量X和Y，并输入数据； 依次点击Objects－New Object，对象类型选择序列（Series），并输入序列名Y（如图三），点击OK，重复以上操作，新建系列对象X。新建系列对象完成后如（图四） 按住ctrl并同时选定X和Y，用鼠标右击选择open—as group，点击Edit ＋/－开始编辑，输入数据，数据输入完毕再点击Edit＋/－一次。数据输入后如（图五）。
（图三） （图四）
（图五） （3）生成X和Y的自然对数序列，保存在工作文件夹中，命名为lnX和lnY； 依次点击Objects－Generate Sereies，出现Generate Series by Equation 窗口，在Enter equation窗口中输入公式：lnY=log(Y)点击ok，重复以上操作，输入：lnX=log(X) 创建序列lnX。（如图六） （图六） （4）求X和Y的描述统计量的值，写出操作过程并画出相应表格； 依次点击Quick－Group Statistics—Descriptive Statistics－Common sample，打开Series List窗口，输入x y，点击ok，输出结果（如图七）