三、研究方法
本文采取多元线性回归的方法来设定并建立模型，再利用逐步回归来对变量予以确认和剔除。逐步回归是通过筛选，挑选偏回归平方和贡献最大的因子建立回归方程，在决定是否引入一个新的因素时，回归方程要用方差比进行显着性检验。如果判别该影响因子通过显着性检验，那么可选入方程中，否则就不应该进入到回归方程，回归方程中剔除一个变量的标准也是用方差比进行显着性检验剔除偏回归平方和贡献最小的变量，无论是入选回归方程还是从回归方程中剔除符合条件的选入项和剔除项为止，逐步回归的方法剔除了对因变量影响小的因素减小了分析问题的难度，提高了计算效率和回归方程的稳定性有较好的预测精度。
运用多元线性回归预测的基本思路是在确定因变量和多个自变量以及它们之间的关系后，通过设定自变量参数的回归方程对因变量进行预测。具体如下:
式中:Y表示为粮食总产量，C和a为回归系数，C、a是待定参数，X为所选取的影响因素.多元线性回归方法可分为强行进入法、消去法、向前选择法、向后剔除法和逐步进入法等，本文运用SPSS22.0软件，对选择的自变量全部进入回归模型，即强行进入法进行预测。该模型的优点是方法简单、预测速度快、外推性好等。
四、分析与结果
本文选取6个解释变量，研究河南省粮食产量y，解释变量为:X1粮食播种面积，X2农业从业人，X3农用机械总动力，X4农田有效灌溉面积，X5化肥施用折纯量，X6农村用电量。以河南省粮食产量为因变量，以如上6个解释变量为自变量做多元线性回归（数据选取2014年《河南统计年鉴》，见附录一）。
用SPSS做变量的相关分析，从相关矩阵（表4-1）中可以看出y与自变量的相关系数大多都在0.9以上，说明所选择变量与y高度线性相关，用y与自变量做多元线性回归是合适的。
用SPSS 做变量系数分析（表4-2）
表4-2系数
B 标准错误 Beta
T 显着性 （常数）
-6733.268 3146.969 -2.140
.041 X1 8.315 2.765 .262 3.007 .006 X2 .155 .296 .121 .524 .604 X3 -.199 .105 -.607 -1.901 .068 X4 2.619 2.687 .169 .974 .338 X5 5.770 2.492 1.047 2.315 .028 X6
1.086
5.174
.089
.210
.835
从（表4-2）中可以得到解释变量与因变量之间的方程为：
表4-3变异数分析
平方和 df 平均值平方 F 显着性 回归
6
6785344.021 165.292
.000
残差
1149417.679
28 41050.631
X1 1 .687 .965 .918 .927 .970 .978 X2 .687 1 .686 .456 .448 .731 .616 X3 .965 .686 1 .946 .930 .990 .985 X4 .918 .456 .946 1 .961 .921 .960 X5 .927 .448 .930 .961 1 .901 .965 X6 .970 .731 .990 .921 .901 1 .979 y
.978
.616
.985
.960
.965
.979
1
从（表4-3）中发现F=165.292，说明6个自变量整体对因变量y产生显着线性影响。但从表(4-2)中不难发现农业从业人员、农田有效灌溉面积、农村用电量的P值较大，说明方程某些解释变量并不显着，对没有通过检验的回归系数，在一定程度上说明他们对应的自变量在方程中可有可无，一般为了使模型简化，需要剔除不显着的自变量，重新建立回归方程。而且粮食播种面积、农业从业人员、农田有效灌溉面积、化肥施用折纯量、农村用电量对国民总收入起正影响，农用机械总动力却对国民总收入起负影响，与常识相违背，可能存在多重共线性。
应用SPSS进行异方差性检验。用斯皮尔曼相关系数检验异方差性也就是检验随机误差项的方差与解释变量观测值之间的相关性。若相关系数较高，则存在异方差性，则不能通过异方差性检验，此时可能会导致参数OLS估计的方差增大，t检验失效，预测精度降低。
从表4-4中发现残差绝对值预与解释变量的皮尔逊相关系数最高为0.303，不能认为残差绝对值与解释变量显着相关。所以不存在异方差性。
应用SPSS进行自相关检验。检验自相关性就是检验针对不同的样本点与随
机误差项之间是否不相关。如果存在某种相关性，则认为出现了序列相关性。若存在自相关性，参数估计量仍然是线性的、无偏的，但非有效；OLS估计量的被估方差是有偏的且会被低估，因而会使相应的t值变大；甚至模型的t和F统计
检验失效；导致最小二乘估计量对抽样波动非常敏感。
首先用杜宾和沃特森检验法来判断其是否存在自相关性。
表4-6系数
B 标准错误Beta 允差VIF
（常数）
-6733.268 3146.969 -2.140 .041
X1 8.315 2.765 .262 3.007 .006 .129 7.731 X2 .155 .296 .121 .524 .604 .018 54.325 X3 -.199 .105 -.607 -1.901 .068 .010 103.768 X4 2.619 2.687 .169 .974 .338 .032 30.852 X5 5.770 2.492 1.047 2.315 .028 .005 208.612 X6 1.086 5.174 .089 .210 .835 .005 182.444 从表4-6中可以发现X1粮食播种面积的VIF明显小于10，说明存在共线性。由于模型存在多重共线性，我们对模型进行调整，应用SPSS进行逐步回归来消除多重共线性。
（常数）
-1945.921 1136.720 -1.712 .097
X1 4.921 .223 .893 22.038 .000
X5 4.360 1.287 .137 3.388 .002
剔除变量x2，x3，x4，x6后的984
R2=可知解释变量与因变量x1粮食播种面积，
.0
x5化肥施用折纯量之间的相关系数967
R2=，两者高度相关，说明拟合程度很
.0
高。从表4-7中发现P值都小于0.5，说明通过显着性检验。最终得到最优回归方程为：
通过影响粮食产量因素的多元线性回归分析，最后得到确定的模型表明河南粮食产量受粮食播种面积和化肥施用量的影响最大。在化肥施用量保持不变的情况下，粮食播种面积每增加1个单位，将带来粮食产量增加4.921个单位，在粮食播种面积保持不变的情况下，化肥施用量每增加1个单位，会使粮食产量增加4.36个单位。要想提高河南粮食的产量，可以从提高粮食播种面积和化肥施用量下手。
（注：可编辑下载，若有不当之处，请指正，谢谢!）
SPSＳ统计分析 多元线性回归分析方法操作与分析 实验目得： 引入1998~2０08年上海市城市人口密度、城市居民人均可支配收入、五年以上平均年贷款利率与房屋空置率作为变量，来研究上海房价得变动因素。 实验变量: 以年份、商品房平均售价(元／平方米)、上海市城市人口密度(人/平方公里)、城市居民人均可支配收入(元)、五年以上平均年贷款利率(%)与房屋空置率（％)作为变量。 实验方法：多元线性回归分析法 软件:spsｓ１9、0 操作过程: 第一步:导入Ｅxceｌ数据文件 1.open daｔａｄoｃumenｔ——ｏpeｎ datａ——ｏpen; 2、Ｏpening exｃel dａta ｓourcｅ——ＯＫ、
第二步: 1、在最上面菜单里面选中Ａnalyze——Ｒegｒesｓｉｏn——Ｌiｎear ，Ｄｅpenｄenｔ(因变量)选择商品房平均售价,Indepｅｎdeｎts（自变量)选择城市人口密度、城市居民人均可支配收入、五年以上平均年贷款利率、房屋空置率；Methoｄ选择Sｔｅpｗｉse、 进入如下界面: 2、点击右侧Staｔiｓｔｉcs，勾选ReｇressiｏｎCｏｅｆｆiｃｉｅｎts（回归系数)选项组中得Esｔiｍates；勾选Ｒeｓｉｄuaｌs(残差)选项组中得Durｂiｎ-Watson、Casewise diagnoｓtｉｃｓ默认;接着选择Ｍｏdel fit、Collinｅａritｙdiａgｎｏticｓ;点击Conｔiｎuｅ、
3、点击右侧Pｌoｔs,选择*ZPRED(标准化预测值)作为纵轴变量，选择DEPENDＮT(因变量)作为横轴变量;勾选选项组中得Standarｄiｚed Resi ｄｕal Ｐlots(标准化残差图)中得Hiｓｔｏgrａm、Normal probabｉlity ploｔ;点击Ｃｏntinue、 4、点击右侧Savｅ,勾选Ｐｒｅdiｃted Vanｉueｓ（预测值)与Reｓｉｄu ａｌs（残差)选项组中得Ｕｎsｔａnｄarｄized;点击Cｏntinue、
SPSS 统计分析 多元线性回归分析方法操作与分析 实验目的： 引入1998~2008年上海市城市人口密度、城市居民人均可支配收入、五年以上平均年贷款利率和房屋空置率作为变量，来研究上海房价的变动因素。 实验变量： 以年份、商品房平均售价（元/平方米）、上海市城市人口密度(人/平方公里)、城市居民人均可支配收入(元)、五年以上平均年贷款利率(%)和房屋空置率(%)作为变量。 实验方法：多元线性回归分析法 软件：spss19.0 操作过程： 第一步：导入Excel数据文件 1.open data document——open data——open； 2. Opening excel data source——OK.
第二步： 1.在最上面菜单里面选中Analyze——Regression——Linear ，Dependent（因变量）选择商品房平均售价，Independents（自变量）选择城市人口密度、城市居民人均可支配收入、五年以上平均年贷款利率、房屋空置率；Method 选择Stepwise. 进入如下界面： 2.点击右侧Statistics，勾选Regression Coefficients（回归系数）选项组中的Estimates；勾选Residuals（残差）选项组中的Durbin-Watson、Casewise diagnostics默认；接着选择Model fit、Collinearity diagnotics；点击Continue.
3.点击右侧Plots，选择*ZPRED（标准化预测值）作为纵轴变量，选择DEPENDNT（因变量）作为横轴变量；勾选选项组中的Standardized Residual Plots（标准化残差图）中的Histogram、Normal probability plot；点击Continue. 4.点击右侧Save，勾选Predicted Vaniues（预测值）和Residuals（残差）选项组中的Unstandardized；点击Continue.
逐步回归分析的基本思想 在实际问题中, 人们总是希望从对因变量y有影响的诸多变量中选择一些变量作为自变量, 应用多元回归分析的方法建立“最优”回归方程以便对因变量y进行预报或控制。所谓“最优”回归方程, 主要是指希望在回归方程中包含所有对因变量y影响显著的自变量而不包含对影响不显著的自变量的回归方程。逐步回归分析正是根据这种原则提出来的一种回归分析方法。它的主要思路是在考虑的全部自变量中按其对y的作用大小, 显著程度大小或者说贡献大小, 由大到小地逐个引入回归方程, 而对那些对作用不显著的变量可能始终不被引人回归方程。另外, 己被引人回归方程的变量在引入新变量后也可能失去重要性, 而需要从回归方程中剔除出去。引人一个变量或者从回归方程中剔除一个变量都称为逐步回归的一步, 每一步都要进行F检验, 以保证在引人新变量前回归方程中只含有对y 影响显著的变量, 而不显著的变量已被剔除。 逐步回归分析的实施过程是每一步都要对已引入回归方程的变量计算其偏回归平方和(即贡献), 然后选一个偏回归平方和最小的变量, 在预先给定的水平下进行显著性检验, 如果显著则该变量不必从回归方程中剔除, 这时方程中其它的几个变量也都不需要剔除(因为其它的几个变量的偏回归平方和都大于最小的一个更不需要剔除)。相反, 如果不显著, 则该变量要剔除, 然后按偏回归平方和由小到大地依次对方程中其它变量进行检验。将对影响不显著的变量全部剔除, 保留的都是显著的。接着再对未引人回归方程中的变量分别计算其偏回归平方和, 并选其中偏回归平方和最大的一个变量, 同样在给定水平下作显著性检验, 如果显著则将该变量引入回归方程, 这一过程一直继续下去, 直到在回归方程中的变量都不能剔除而又无新变量可以引入时为止, 这时逐步回归过程结束。 在供选择的m个自变量中，依各自变量对因变量作用的大小，即偏回归平方和（partial regression sum of squares）的大小，由大到小把自变量依次逐个引入。每引入一个变量，就 ≤时，将该自变量引入回归方程。新变量引入回归方程后，对方对它进行假设检验。当Pα 程中原有的自变量也要进行假设检验，并把贡献最小且退化为不显著的自变量逐个剔出方程。因此逐步回归每一步（引入一个自变量或剔除一个自变量）前后都要进行假设检验，直至既没有自变量能够进入方程，也没有自变量从方程中剔除为止。回归结束，最后所得方程即为所求得的“最优”回归方程。 逐步回归分析的特点：双向筛选，即引入有意义的变量（前进法），剔除无意义变量（后退法） 多元线性回归的应用 1．影响因素分析 2．估计与预测用回归方程进行预测时，应选择 具有较高2 R值的方程。 3．统计控制指利用回归方程进行逆估计，即通 过控制自变量的值使得因变量Y为 给定的一个确切值或者一个波动范 围。此时，要求回归方程的2R值要 大，回归系数的标准误要小。 1．样本含量 应注意样本含量n与自变量个数m的比例。通常，
对多元线性回归模型的各种检验方法 对于形如 u X X X Y k k +++++=ββββ 22110 （1） 的回归模型，我们可能需要对其实施如下的检验中的一种或几种检验： 一、 对单个总体参数的假设检验：t 检验 在这种检验中，我们需要对模型中的某个（总体）参数是否满足虚拟假设0 H ：j j a =β，做出具有统计意义（即带有一定的置信度）的检验，其中j a 为某个给定的已知数。特别是，当j a =0时，称为参数的（狭义意义上的）显著性检验。如果拒绝0H ，说明解释变量j X 对 被解释变量Y 具有显著的线性影响，估计值j β?才敢使 用；反之，说明解释变量j X 对被解释变量Y 不具有显 著的线性影响，估计值j β?对我们就没有意义。具体检验 方法如下： （1） 给定虚拟假设 0H ：j j a =β；
（2） 计算统计量 )?(?)?()(?j j j j j j Se a Se E t βββββ-=-= 的数值； 11?)?(++-==j j jj jj j C C Se 1T X)(X ，其中σβ （3） 在给定的显著水平α下（α不能大于1.0即 10%，也即我们不能在置信度小于90%以下的前提下做结论），查出双尾t （1--k n ）分布的临界值2/αt ； （4） 如果出现 2/αt t >的情况，检验结论为拒绝 0H ；反之，无法拒绝0H 。 t 检验方法的关键是统计量 )?(?j j j Se t βββ-=必须服从已 知的t 分布函数。什么情况或条件下才会这样呢？这需要我们建立的模型满足如下的条件（或假定）： （1） 随机抽样性。我们有一个含n 次观测的随机样(){}n i Y X X X i ik i i ,,2,1:,,,,21 =。这保证了误差u 自身的随机性，即无自相关性，
多元线性回归的计算方法 摘要 在实际经济问题中，一个变量往往受到多个变量的影响。例如，家庭 消费支出，除了受家庭可支配收入的影响外，还受诸如家庭所有的财富、物价水平、金融机构存款利息等多种因素的影响，表现在线性回归模型中的解释变量有多个。这样的模型被称为多元线性回归模型。 多元线性回归的基本原理和基本计算过程与一元线性回归相同，但由 于自变量个数多，计算相当麻烦，一般在实际中应用时都要借助统计软件。这里只介绍多元线性回归的一些基本问题。 但由于各个自变量的单位可能不一样，比如说一个消费水平的关系式中，工资水平、受教育程度、职业、地区、家庭负担等等因素都会影响到消费水平，而这些影响因素（自变量）的单位显然是不同的，因此自变量前系数的大小并不能说明该因素的重要程度，更简单地来说，同样工资收入，如果用元为单位就比用百元为单位所得的回归系数要小，但是工资水平对消费的影响程度并没有变，所以得想办法将各个自变量化到统一的单位上来。前面学到的标准分就有这个功能，具体到这里来说，就是将所有变量包括因变量都先转化为标准分，再进行线性回归，此时得到的回归系数就能反映对应自变量的重要程度。这时的回归方程称为标准回归方程，回归系数称为标准回归系数，表示如下： Zy=β1Zx1+β2Zx2+…+βkZxk 注意，由于都化成了标准分，所以就不再有常数项a 了，因为各自变量都取平均水平时，因变量也应该取平均水平，而平均水平正好对应标准分0，当等式两端的变量都取0时，常数项也就为0了。 多元线性回归模型的建立 多元线性回归模型的一般形式为 Yi=β0+β1X1i+β2X2i+…+i i i i h x υβ+ =1,2,…,n 其中 k 为解释变量的数目，j β=（j=1,2,…,k)称为回归系数 （regression coefficient)。上式也被称为总体回归函数的随机表达式。它的非随机表达式为 E(Y∣X1i,X2i,…Xki,)=β0+β1X1i+β2X2i+…+βkXki βj 也被称为偏回归系数（partial regression coefficient) 多元线性回归的计算模型
SPSS 统计分析 欧阳歌谷（2021.02.01） 多元线性回归分析方法操作与分析 实验目的： 引入1998~2008年上海市城市人口密度、城市居民人均可支配收入、五年以上平均年贷款利率和房屋空置率作为变量，来研究上海房价的变动因素。 实验变量： 以年份、商品房平均售价（元/平方米）、上海市城市人口密度(人/平方公里)、城市居民人均可支配收入(元)、五年以上平均年贷款利率(%)和房屋空置率(%)作为变量。 实验方法：多元线性回归分析法 软件：spss19.0 操作过程： 第一步：导入Excel数据文件 1.open data document——open data——open； 2. Opening excel data source——OK. 第二步： 1.在最上面菜单里面选中Analyze——Regression——Linear ，Dependent（因变量）选择商品房平均售价，Independents（自变量）选择城市人口密度、城市居民人均可支配收入、五年以上平均年贷款利率、房屋空置率；Method选择Stepwise. 进入如下界面： 2.点击右侧Statistics，勾选Regression Coefficients（回归系数）选项组中的Estimates；勾选Residuals（残差）选项组中的Durbin-Watson、Casewise diagnostics默认；接着选择Model fit、Collinearity diagnotics；点击Continue. 3.点击右侧Plots，选择*ZPRED（标准化预测值）作为纵轴变量，选择DEPENDNT（因变量）作为横轴变量；勾选选项组中的Standardized Residual Plots（标准化残差图）中的Histogram、Normal probability plot；点击Continue. 4.点击右侧Save，勾选Predicted Vaniues（预测值）和Residuals （残差）选项组中的Unstandardized；点击Continue. 5.点击右侧Options，默认，点击Continue.
逐步回归分析 １、逐步回归分析的主要思路 在实际问题中, 人们总是希望从对因变量有影响的诸多变量中选择一些变量作为自变量, 应用多元回归分析的方法建立“最优”回归方程以便对因变量进行预报或控制。所谓“最优”回归方程, 主要是指希望在回归方程中包含所有对因变量影响显著的自变量而不包含对影响不显著的自变量的回归方程。逐步回归分析正是根据这种原则提出来的一种回归分析方法。它的主要思路是在考虑的全部自变量中按其对的作用大小, 显著程度大小或者说贡献大小, 由大到小地逐个引入回归方程, 而对那些对作用不显著的变量可能始终不被引人回归方程。另外, 己被引人回归方程的变量在引入新变量后也可能失去重要性, 而需要从回归方程中剔除出去。引人一个变量或者从回归方程中剔除一个变量都称为逐步回归的一步, 每一步都要进行检验, 以保证在引人新变量前回归方程中只含有对影响显著的变量, 而不显著的变量 已被剔除。 逐步回归分析的实施过程是每一步都要对已引入回归方程的变量计算其偏回归平方和(即贡献), 然后选一个偏回归平方和最小的变量, 在预先给定的水平下进行显著性检验, 如果显著则该变量不必从回 归方程中剔除, 这时方程中其它的几个变量也都不需要剔除(因为其它的几个变量的偏回归平方和都大于 最小的一个更不需要剔除)。相反, 如果不显著, 则该变量要剔除, 然后按偏回归平方和由小到大地依次对方程中其它变量进行检验。将对影响不显著的变量全部剔除, 保留的都是显著的。接着再对未引人回归方程中的变量分别计算其偏回归平方和, 并选其中偏回归平方和最大的一个变量, 同样在给定水平 下作显著性检验, 如果显著则将该变量引入回归方程, 这一过程一直继续下去, 直到在回归方程中的变量都不能剔除而又无新变量可以引入时为止, 这时逐步回归过程结束。 ２、逐步回归分析的主要计算步骤 (1) 确定检验值 在进行逐步回归计算前要确定检验每个变量是否显若的检验水平, 以作为引人或剔除变量的标准。 检验水平要根据具体问题的实际情况来定。一般地, 为使最终的回归方程中包含较多的变量, 水平不宜取得过高, 即显著水平α不宜太小。水平还与自由度有关, 因为在逐步回归过程中, 回归方程中所含的变量的个数不断在变化, 因此方差分析中的剩余自由度也总在变化, 为方便起见常按计算自由度。为原始数据观测组数, 为估计可能选人回归方程的变量个数。例如, 估计可能有2～3个变量选入回归方程, 因此取自由度为15-3-1＝11, 查分布表, 当α＝0.1, 自由度, 时, 临界值, 并且在引入变量时, 自由度取, , 检验的临界值记, 在剔除
第6节逐步回归分析 逐步回归分析实质上就是建立最优的多元线性回归方程，显然既实用而应用又最广泛。 6.1逐步回归分析概述 1 概念 逐步回归模型是以已知地理数据序列为基础，根据多元回归分析法和求解求逆紧凑变换法及双检验法而建立的能够反映地理要素之间变化关系的最优回归模型。 逐步回归分析是指在多元线性回归分析中，利用求解求逆紧奏变换法和双检验法，来研究和建立最优回归方程的并用于地理分析和地理决策的多元线性回归分析。它实质上就是多元线性回归分析的基础上派生出一种研究和建立最优多元线性回归方程的算法技巧。主要含义如下： 1）逐步回归分析的理论基础是多元线性回归分析法； 2）逐步回归分析的算法技巧是求解求逆紧奏变换法； 3）逐步回归分析的方法技巧是双检验法，即引进和剔除检验法； 4）逐步回归分析的核心任务是建立最优回归方程； 5）逐步回归分析的主要作用是降维。 主要用途：主要用于因果关系分析、聚类分析、区域规划、综合评价等等。 2 最优回归模型
1）概念 最优回归模型是指仅包含对因变量有显著影响的自变量的回归方程。逐步回归分析就是解决如何建立最优回归方程的问题。 2）最优回归模型的含义 最优回归模型的含义有两点： （1）自变量个数 自变量个数要尽可能多，因为通过筛选自变量的办法，选取自变量的个数越多，回归平方和越大，剩余平方和越小，则回归分析效果就越好，这也是提高回归模型分析效果的重要条件。 （2）自变量显著性 自变量对因变量y 有显著影响，建立最优回归模型的目的主要是用于预测和分析，自然要求自变量个数尽可能少，且对因变量y 有显著影响。若自变量个数越多，一方面预测计算量大，另一方面因n 固定，所以 Q S k n Q →--1 增大，即造成剩余标准差增大，故要求自变量个数要适 中。且引入和剔除自变量时都要进行显著性检验，使之达到最优化状态，所以此回归方程又称为优化模型。 3 最优回归模型的选择方法 最优回归模型的选择方法是一种经验性发展方法，主要有以下四种： (1）组合优选法 组合优选法是指从变量组合而建立的所有回归方程中选取最优着。其具体过程是：
第二章 多元回归分析方法及其程序实现 在生产过程和科学实验中，我们经常是需要研究变量与变量间的关系。变量间的关系，总的来说可分为两种，即函数关系和相关关系。 当变量间的关系为确定性关系，即对于一个变量的每一个值都有另一个变量的一个或几个完全确定的值与它对应，我们就说变量间存在函数关系，对两个变量的函数关系可表示为，一旦变量间的函数关系建立，事物发展变化的规律就随之确定。由此可以看出，建立变量间的函数关系，研究函数关系在生产实践中就显得特别重要。 然而在许多实际问题中，由于各种关系错综复杂，要精确的建立变量间的数学表达式又特别困难，同时很多工程问题的变量之间还受到其它偶然因素的影响，使它们之间的关系具有不确定性，因此在这种情况下要建立准确的数学关系是不可能的，该如何解决这个问题呢? 回归分析方法就是在大量试验观测数据的基础上，找出这些变量之间的内部规律性，从而定量地建立一个变量和另外多个变量之间的统计关系的数学表达式。因此简单地说，回归分析就是研究一个变量与其它变量间关系的一种统计方法。 回归分析中被回归的变量称为因变量，影响变化的其它变量称为自变量。如果自变量只有一个，称为一元回归；如果自变量是两个或者以上，则称为多元回归；如果与，间的关系是线性的，则称线性回归，否则称非线性回归。 § 2.1 多元线性回归数学模型建立 §2.1.1 模型的建立 设随机变量与个自变量存在线性关系： （2.1） （2.1）式称为回归方程，其中称为回归系数。为随机变量，称为随机误差，它可理解为无法用表示的其它各种随机因素造成的误差。我们的问题是要用 来估计随机变量的均值，即 这里假定。 是与无关的待定常数。 设有组样本观测值数据 ………………………… 其中表示第次试验或第个样本关于变量的观测值，于是有 …… （2.2） 其中为个待定参数，为个相互独立的且服从同一正态分布的随机变量，（2.2）式称为多元（元）线性回归数学模型。 （2.2）式亦可写成矩阵形式，设 )(x f y =y y m x x x ,,,21 y 1x m x x ,,2 y m m x x x ,,,21 εββββ+++++=m m x x x y 22110m ββββ,,,,210 εy m x x x ,,,21 m m x x x ββββ +++22110y )(y E m m x x x y E ββββ++++= 22110)()),((~),,0(~22σσεy E N y N 210,,,,σβββm m x x x ,,,21 n 2 22221 1112 11y x x x y x x x m m n nm n n y x x x 21ij x i i j x 2 2222211021112211101εββββεββββ++++=++++=m m m m x x x y x x x y n nm nm n n n x x x y εββββ++++= 22110m ββββ,,,,210 1+m n εεε,,,21 n ),0(2σN m
前面我们介绍了通过回归的基本思想是将变量逐一引入回归方程，先建立与y相关最密切的一元线性回归方程，然后再找出第二个变量，建立二元线性回归方程，…。在每一步中都要对引入变量的显著性作检验，仅当其显著时才引入，而每引入一个新变量后，对前面已引进的变量又要逐一检验，一旦发现某变量变得不显著了，就要将它剔除。这些步骤反复进行，直到引入的变量都是显著的而没有引入的变量都是不显著的时，就结束挑选变量的工作，利用所选变量建立多元线性回归方程。为实现上述思想，我们必须在解方程组的同时，求出其系数矩阵的逆矩阵。为节约内存，计算过程中在消去x k时用了如下变换公式——求解求逆紧凑变换。 一、求解求逆紧凑变换 求解求逆紧凑变换记作L k，其基本变换关系式为： (2-3-30) 当对(2-3-27)的增广矩阵 (2-3-31) 依次作L1，L2，…，L m-1变换后，所得矩阵的前m-1列，便是系数矩阵的逆矩阵，最后一列便是(2-3-27)的解，即
求解求逆紧凑变换具有以下性质： (1) 若对作了L k1, L k2，…，L k L变换，则得如下子方程组 (2-3-32) 的解及相应的系数矩阵的逆矩阵，其中k1,k2,…,k l互不相同，若记 L k1L k2…L k l，则 (2-3-33) ,j=1,2,…,l (2) L i L j=L j L i，即求解求逆紧凑变换结果与变换顺序无关。 (3) L k L k= (4) 若，ij=1,2,…,m-1,记 L k1L k2…L k l 则中的元素具有以下性质： 式中上行为对作了变换L i，L j或两个变换均未作过；下行为对作过变换L i和L j之一。
逐步回归分析 在自变量很多时，其中有的因素可能对应变量的影响不是很大，而且x之间可能不完全相互独立的，可能有种种互作关系。在这种情况下可用逐步回归分析，进行x因子的筛选，这样建立的多元回归模型预测效果会更较好。 逐步回归分析，首先要建立因变量y与自变量x之间的总回归方程，再对总的方程及每—个自变量进行假设检验。当总的方程不显著时，表明该多元回归方程线性关系不成立； 而当某—个自变量对y影响不显著时，应该把它剔除，重新建立不包含该因子的多元回归方程。筛选出有显著影响的因子作为自变量，并建立“最优”回归方程。 回归方程包含的自变量越多，回归平方和越大，剩余的平方和越小，剩余均方也随之较小，预测值的误差也愈小，模拟的效果愈好。但是方程中的变量过多，预报工作量就会越大，其中有些相关性不显著的预报因子会影响预测的效果。因此在多元回归模型中，选择适宜的变量数目尤为重要。 逐步回归在病虫预报中的应用实例: 以陕西省长武地区1984~1995年的烟蚜传毒病情资料、相关虫情和气象资料为例（数据见DATA6.xls），建立蚜传病毒病情指数的逐步回归模型，说明逐步回归分析的具体步骤。影响蚜传病毒病情指数的虫情因子和气象因子一共有21个，通过逐步回归，从中选出对病情指数影响显著的因子，从而建立相应的模型。对1984~1995年的病情指数进行回检，然后对1996~1998年的病情进行预报，再检验预报的效果。 变量说明如下： y：历年病情指数 x1：前年冬季油菜越冬时的蚜量(头/株) x2：前年冬季极端气温 x3：5月份最高气温 x4：5月份最低气温 x11：5月份均温 x12：5月份降水量 x13：6月份均温 x14：6月份降水量 x15：第一次蚜迁高峰期百株烟草有翅蚜量
多元回归分析法的介绍及具体应用
————————————————————————————————作者: ————————————————————————————————日期： ?
多元回归分析法的介绍及具体应用 在数量分析中，经常会看到变量与变量之间存在着一定的联系。要了解变量之间如何发生相互影响的,就需要利用相关分析和回归分析。回归分析的主要类型:一元线性回归分析、多元线性回归分析、非线性回归分析、曲线估计、时间序列的曲线估计、含虚拟自变量的回归分析以及逻辑回归分析等。这里主要讲的是多元线性回归分析法。 1. 多元线性回归的定义 说到多元线性回归分析前，首先介绍下医院回归线性分析,一元线性回归分析是在排除其他影响因素或假定其他影响因素确定的条件下,分析某一个因素（自变量)是如何影响另一事物(因变量）的过程,所进行的分析是比较理想化的。其实，在现实社会生活中,任何一个事物(因变量）总是受到其他多种事物（多个自变量)的影响。 一元线性回归分析讨论的回归问题只涉及了一个自变量,但在实际问题中，影响因变量的因素往往有多个。例如，商品的需求除了受自身价格的影响外，还要受到消费者收入、其他商品的价格、消费者偏好等因素的影响;影响水果产量的外界因素有平均气温、平均日照时数、平均湿度等。 因此,在许多场合,仅仅考虑单个变量是不够的,还需要就一个因变量与多个自变量的联系来进行考察,才能获得比较满意的结果。这就产生了测定多因素之间相关关系的问题。 研究在线性相关条件下,两个或两个以上自变量对一个因变量的数量变化关系，称为多元线性回归分析，表现这一数量关系的数学公式,称为多元线性回归模型。 多元线性回归模型是一元线性回归模型的扩展，其基本原理与一元线性回归模型类似,只是在计算上更为复杂，一般需借助计算机来完成。 ２. 多元回归线性分析的运用 具体地说,多元线性回归分析主要解决以下几方面的问题。 （1)、确定几个特定的变量之间是否存在相关关系,如果存在的话,找出它们
Excel在多元回归预测分析教学中的应用 王斌会（暨南大学经济学院） Excel电子表格软件是微软办公软件组的核心应用程序之一，它功能强大，操作简单，适用范围广，普遍应用于报表处理、数学运算、工程计算、财务处理、统计分析、图表制作等各个方面。其数据分析模块简单直观，操作方便，是进行统计学教学的首选软件。 统计学中的回归预测分析具有普遍的实用意义，但变量之间关系分析及计算繁杂，而借助Excel可方便高效地研究其数量变动关系，完成其繁杂的计算分析过程。 根据回归预测中的实例，借助Excel进行相关分析，判断出其相关程度，并在此基础上建立回归模型，最后用Excel完成计算分析、统计检验及预测，使回归预测分析的计算过程更简捷，统计预测方法更为实用。 直线回归分析是研究一个应变量与一个自变量间呈直线趋势的数量关系。在实际中，常会遇到一个应变量与多个自变量数量关系的问题。一个应变量与多个自变量间的这种线性数量关系可以用多元线性回归方程来表示。 式中b0相当于直线回归方程中的常数项a，bi（i=1,2,……m）称为偏回归系数，其意义为当其它自变量对应变量的线性影响固定时，bi反映了第i个自变量xi对应变量y线性影响的度量。 〔例〕财政收入多因素分析 在一定时期内，财政收入规模大小受许多因素的影响，如国民生产总值大小、社会从业人员多少、税收规模大小、税率高低因素等。本例仅取四个变量作为解释变量，分析它们对财政收入的影响程度。 t:年份，y:财政收入(亿元)，xl:税收(亿元)，x2:国民生产总值(亿元)，x3:其他收入(亿元)，x4:社会从业人数(万人)。 数据来自中国统计出版社出版的《中国统计年鉴》，数据时限为1978-1995年，见下图1所示。按下列步骤使用Excel“回归”分析工具： 1.输数据:将数据输入A1:F19单元格。数据为19行6列，分别记每列变量名为t、y、x1、x2、x3、x4 该工具正常情况在“工具/数据分析”。 ★如果你的Excel里没有，请点“工具/加载宏”，勾选“分析工具库”和“分析数据库—VBA函数”。 ★如果加载宏里也没有，请你重新安装Office,并选择完全安装即可。
三、研究方法 本文采取多元线性回归的方法来设定并建立模型，再利用逐步回归来对变量予以确认和剔除。逐步回归是通过筛选，挑选偏回归平方和贡献最大的因子建立回归方程，在决定是否引入一个新的因素时，回归方程要用方差比进行显著性检验。如果判别该影响因子通过显著性检验，那么可选入方程中，否则就不应该进入到回归方程，回归方程中剔除一个变量的标准也是用方差比进行显著性检验 剔除偏回归平方和贡献最小的变量，无论是入选回归方程还是从回归方程中剔除符合条件的选入项和剔除项为止，逐步回归的方法剔除了对因变量影响小的因素 减小了分析问题的难度，提高了计算效率和回归方程的稳定性有较好的预测精度。 运用多元线性回归预测的基本思路是在确定因变量和多个自变量以及它们之间的关系后，通过设定自变量参数的回归方程对因变量进行预测。具体如下: n n 2211X a ++ X a + X a +C = Y 式中: Y 表示为粮食总产量，C 和a 为回归系数，C 、a 是待定参数，X 为所选取的影响因素.多元线性回归方法可分为强行进入法、消去法、向前选择法、向后剔除法和逐步进入法等，本文运用SPSS22.0 软件，对选择的自变量全部进入回归模型，即强行进入法进行预测。该模型的优点是方法简单、预测速度快、外推性好等。 四、分析与结果 本文选取6个解释变量，研究河南省粮食产量y ，解释变量为:X1粮食播种面积，X2农业从业人，X3农用机械总动力，X4农田有效灌溉面积，X5化肥施用折纯量，X6农村用电量。以河南省粮食产量为因变量，以如上6个解释变量为自变量做多元线性回归（数据选取2014年《河南统计年鉴》，见附录一）。 用SPSS 做变量的相关分析，从相关矩阵（表4-1）中可以看出y 与自变量的相关系数大多都在0.9以上，说明所选择变量与y 高度线性相关，用y 与自变量做多元线性回归是合适的。 表4-1相关 X1 X2 X3 X4 X5 X6 y X1 1 .687 .965 .918 .927 .970 .978 X2 .687 1 .686 .456 .448 .731 .616 X3 .965 .686 1 .946 .930 .990 .985 X4 .918 .456 .946 1 .961 .921 .960 X5 .927 .448 .930 .961 1 .901 .965 X6 .970 .731 .990 .921 .901 1 .979
统计学多元回归分析方法
————————————————————————————————作者：————————————————————————————————日期：
多元线性回归分析 在数量分析中，经常会看到变量与变量之间存在着一定的联系。要了解变量之间如何发生相互影响的，就需要利用相关分析和回归分析。回归分析的主要类型：一元线性回归分析、多元线性回归分析、非线性回归分析、曲线估计、时间序列的曲线估计、含虚拟自变量的回归分析以及逻辑回归分析等。 1.1 回归分析基本概念 相关分析和回归分析都是研究变量间关系的统计学课题。在应用中，两种分析方法经常相互结合和渗透，但它们研究的侧重点和应用面不同。 在回归分析中，变量y称为因变量，处于被解释的特殊地位；而在相关分析中，变量y与变量x处于平等的地位，研究变量y与变量x的密切程度和研究变量x与变量y的密切程度是一样的。 在回归分析中，因变量y是随机变量，自变量x可以是随机变量，也可以是非随机的确定变量；而在相关分析中，变量x和变量y都是随机变量。 相关分析是测定变量之间的关系密切程度，所使用的工具是相关系数；而回归分析则是侧重于考察变量之间的数量变化规律，并通过一定的数学表达式来描述变量之间的关系，进而确定一个或者几个变量的变化对另一个特定变量的影响程度。 具体地说，回归分析主要解决以下几方面的问题。 （1）通过分析大量的样本数据，确定变量之间的数学关系式。
（2）对所确定的数学关系式的可信程度进行各种统计检验，并区分出对某一特定变量影响较为显著的变量和影响不显著的变量。 （3）利用所确定的数学关系式，根据一个或几个变量的值来预测或控制另一个特定变量的取值，并给出这种预测或控制的精确度。 作为处理变量之间关系的一种统计方法和技术，回归分析的基本思想和方法以及“回归（Regression）”名称的由来都要归功于英国统计学F·Galton（1822～1911）。 在实际中，根据变量的个数、变量的类型以及变量之间的相关关系，回归分析通常分为一元线性回归分析、多元线性回归分析、非线性回归分析、曲线估计、时间序列的曲线估计、含虚拟自变量的回归分析和逻辑回归分析等类型。 1.2 多元线性回归 1.2.1 多元线性回归的定义 一元线性回归分析是在排除其他影响因素或假定其他影响因素确定的条件下，分析某一个因素（自变量）是如何影响另一事物（因变量）的过程，所进行的分析是比较理想化的。其实，在现实社会生活中，任何一个事物（因变量）总是受到其他多种事物（多个自变量）的影响。 一元线性回归分析讨论的回归问题只涉及了一个自变量，但在实际问题中，影响因变量的因素往往有多个。例如，商品的需求除了受自身价格的影响外，还要受到消费者收入、其他商品的价格、消费者偏好等因素的影响；影响水果产量的外界因素有平均气温、平均日照
多元线性回归分析 在数量分析中，经常会看到变量与变量之间存在着一定的联系。要了解变量之间如何发生相互影响的，就需要利用相关分析和回归分析。回归分析的主要类型：一元线性回归分析、多元线性回归分析、非线性回归分析、曲线估计、时间序列的曲线估计、含虚拟自变量的回归分析以及逻辑回归分析等。 1.1 回归分析基本概念 相关分析和回归分析都是研究变量间关系的统计学课题。在应用中，两种分析方法经常相互结合和渗透，但它们研究的侧重点和应用面不同。 在回归分析中，变量y称为因变量，处于被解释的特殊地位；而在相关分析中，变量y与变量x处于平等的地位，研究变量y与变量x的密切程度和研究变量x与变量y的密切程度是一样的。 在回归分析中，因变量y是随机变量，自变量x可以是随机变量，也可以是非随机的确定变量；而在相关分析中，变量x和变量y都是随机变量。 相关分析是测定变量之间的关系密切程度，所使用的工具是相关系数；而回归分析则是侧重于考察变量之间的数量变化规律，并通过一定的数学表达式来描述变量之间的关系，进而确定一个或者几个变量的变化对另一个特定变量的影响程度。 具体地说，回归分析主要解决以下几方面的问题。 （1）通过分析大量的样本数据，确定变量之间的数学关系式。 （2）对所确定的数学关系式的可信程度进行各种统计检验，并区分出对某一特定变量影响较为显著的变量和影响不显著的变量。 （3）利用所确定的数学关系式，根据一个或几个变量的值来预测或控制另一个特定变量的取值，并给出这种预测或控制的精确度。 作为处理变量之间关系的一种统计方法和技术，回归分析的基本思想和方法以及“回归（Regression）”名称的由来都要归功于英国统计学F·Galton（1822～1911）。 在实际中，根据变量的个数、变量的类型以及变量之间的相关关系，回归分析通常分为一元线性回归分析、多元线性回归分析、非线性回归分析、曲线估计、时间序列的曲线估计、含虚拟自变量的回归分析和逻辑回归分析等类型。 1.2 多元线性回归 1.2.1 多元线性回归的定义 一元线性回归分析是在排除其他影响因素或假定其他影响因素确定的条件下，分析某一个因素（自变量）是如何影响另一事物（因变量）的过程，所进行的分析是比较理想化的。其实，在现实社会生活中，任何一个事物（因变量）总是受到其他多种事物（多个自变量）的影响。 一元线性回归分析讨论的回归问题只涉及了一个自变量，但在实际问题中，影响因变量的因素往往有多个。例如，商品的需求除了受自身价格的影响外，还要受到消费者收入、其他商品的价格、消费者偏好等因素的影响；影响水果产量的外界因素有平均气温、平均日照时数、平均湿度等。 因此，在许多场合，仅仅考虑单个变量是不够的，还需要就一个因变量与多个自变量的联系来进行考察，才能获得比较满意的结果。这就产生了测定多因素之间相关关系的问题。 研究在线性相关条件下，两个或两个以上自变量对一个因变量的数量变化关
操作步骤 1.建立工作文件 (1)建立数据的exel电子表格 （2）将电子表格数据导入eviews File-open-foreign data as workfile，得到数据的Eviews工作文件和数据序列表。
2.计算变量间的相关系数 在窗口中输入命令：cor coilfuture dow shindex nagas opec ueurope urmb，点击回车键，得到各序列之间的相关系数。结果表明Coilfuture数列与其他数列存在较好的相关关系。 3.时间序列的平稳性检验 （1）观察coilfuture序列趋势图 在eviews中得到时间序列趋势图，在quick菜单中单击graph，在series list对话框中输入序列名称coilfuture，其他选择默认操作。图形表明序列随时间变化存在上升趋势。
（2）对原序列进行ADF平稳性检验 quick-series statistics-unit root test，在弹出的series name对话框中输入需要检验的序列的名称，在test for unit root in 选择框中选择level，得到原数据序列的ADF检验结果，其他保持默认设置。
得到序列的ADF平稳性检验结果，检测值0.97大于所有临界值，则表明序列不平稳。以此方法，对各时间序列依次进行ADF检验，将检验值与临界值比较，发现所有序列的检验值均大于临界值，表明各原序列都是非平稳的。 （3）时间序列数据的一阶差分的ADF检验 quick-series statistics-unit root test，在series name对话框中输入需要检验的序列的名称，在test for unit root in 选择框中选择1nd difference，对其一阶差分进行平稳性检验，其他保持默认设置。
. 三、研究方法 本文采取多元线性回归的方法来设定并建立模型，再利用逐步回归来对变量予以确认和剔除。逐步回归是通过筛选，挑选偏回归平方和贡献最大的因子建立回归方程，在决定是否引入一个新的因素时，回归方程要用方差比进行显著性检验。如果判别该影响因子通过显著性检验，那么可选入方程中，否则就不应该进入到回归方程，回归方程中剔除一个变量的标准也是用方差比进行显著性检验 剔除偏回归平方和贡献最小的变量，无论是入选回归方程还是从回归方程中剔除符合条件的选入项和剔除项为止，逐步回归的方法剔除了对因变量影响小的因素减小了分析问题的难度，提高了计算效率和回归方程的稳定性有较好的预测精度。运用多元线性回归预测的基本思路是在确定因变量和多个自变量以及它们之间 的关系后，通过设定自变量参数的回归方程对因变量进行预测。具体如下: Xa+?+aaX +X CY =+n121n2式中: Y 表示为粮食总产量，C和a为回归系数，C、a 是待定参数，X为所选取的影响因素.多元线性回归方法可分为强行进入法、消去法、向前选择法、向后剔除法和逐步进入法等，本文运用SPSS22.0 软件，对选择的自变量全部进入回归模型，即强行进入法进行预测。该模型的优点是方法简单、预测速度快、外推性好等。 四、分析与结果 本文选取6个解释变量，研究河南省粮食产量y，解释变量为:X1粮食播种面积， X2农业从业人，X3农用机械总动力，X4农田有效灌溉面积，X5化肥施用折纯量，X6农村用电量。以河南省粮食产量为因变量，以如上6个解释变量为自变量做 多元线性回归（数据选取2014年《河南统计年鉴》，见附录一）。 用SPSS做变量的相关分析，从相关矩阵（表4-1）中可以看出y与自变量的相 关系数大多都在0.9以上，说明所选择变量与y高度线性相关，用y与自变量做多元线性回归是合适的。 表4-1 相关 X1 X2 X3 X4 X5 X6 y 1 / 5 . .970.965 .918 .927 .978.687 X1 1 .616 1 .448.686 .731.456X2 .687 .990.930 .946.686 X3 1 .985.965 .9611 .918.946 .456X4 .960.921 .448 1 .965.961 .901X5 .930.927 .901 .970.731 X6 .990 .9791 .921 1 .979.965.960.616 y
线性回归分析的SPSS操作 本节内容主要介绍如何确定并建立线性回归方程。包括只有一个自变量的一元线性回归和和含有多个自变量的多元线性回归。为了确保所建立的回归方程符合线性标准，在进行回归分析之前，我们往往需要对因变量与自变量进行线性检验。也就是类似于相关分析一章中讲过的借助于散点图对变量间的关系进行粗略的线性检验，这里不再重复。另外，通过散点图还可以发现数据中的奇异值，对散点图中表示的可能的奇异值需要认真检查这一数据的合理性。 一、一元线性回归分析 1．数据 以本章第三节例3的数据为例，简单介绍利用SPSS如何进行一元线性回归分析。数据编辑窗口显示数据输入格式如下图7-8（文件7-6-1.sav）： 图7-8：回归分析数据输入 2．用SPSS进行回归分析，实例操作如下： 2.1.回归方程的建立与检验 （1）操作 ①单击主菜单Analyze / Regression / Linear…，进入设置对话框如图7-9所示。从左边变量表列中把因变量y选入到因变量（Dependent）框中，把自变量x选入到自变量（Independent）框中。在方法即Method一项上请注意保持系统默认的选项Enter，选择该项表示要求系统在建立回归方程时把所选中的全部自变量都保留在方程中。所以该方法可命名为强制进入法（在多元回归分析中再具体介绍这一选项的应用）。具体如下图所示：
图7-9 线性回归分析主对话框 ②请单击Statistics…按钮，可以选择需要输出的一些统计量。如Regression Coefficients(回归系数)中的Estimates，可以输出回归系数及相关统计量，包括回归系数B、标准误、标准化回归系数BETA、T值及显著性水平等。Model fit项可输出相关系数R，测定系数R2，调整系数、估计标准误及方差分析表。上述两项为默认选项，请注意保持选中。设置如图7-10所示。设置完成后点击Continue返回主对话框。 图7-10：线性回归分析的Statistics选项图7-11：线性回归分析的Options选项 回归方程建立后，除了需要对方程的显著性进行检验外，还需要检验所建立的方程是否违反回归分析的假定，为此需进行多项残差分析。由于此部分内容较复杂而且理论性较强，所以不在此详细介绍，读者如有兴趣，可参阅有关资料。 ③用户在进行回归分析时，还可以选择是否输出方程常数。单击Options…按钮，打开它的对话框，可以看到中间有一项Include constant in equation可选项。选中该项可输出对常数的检验。在Options对话框中，还可以定义处理缺失值的方法和设置多元逐步回归中变量进入和排除方程的准则，这里我们采用系统的默认设置，如图7-11所示。设置完成后点击Continue返回主对话框。 ④在主对话框点击OK得到程序运行结果。