文献综述
信息与计算科学
多元线性回归预测
回归分析最早是19世纪末期高尔顿（Sir Francis Galton）所发展. 高尔顿是生物统计学
派的奠基人, 他的表哥达尔文的巨著《物种起源》问世以后, 触动他用统计方法研究智力进化问题, 统计学上的“相关”和“回归”的概念也是高尔顿第一次使用的.
在1877-1889的十多年里, 高尔顿得出了一个数学公式. 这个公式用来度量孩子们的身高与父母平均身高之间的关系.根据统计测定, 假如父母的身高是在人类平均身高上下y英
寸, 则他们的子女的平均身高是在人类平均身高2
y英寸. 他发现了一个规律即子女的平均
3
高度有回归到人类总平均高度的倾向, 这就是著名的“回归法则”[1].
回归分析（regression analysis)是确定两种或两种以上变量间相互依赖的定量关系的一种统计分析方法. 运用十分广泛, 回归分析按照涉及的自变量的多少,可分为一元回归分析和多元回归分析; 按照自变量和因变量之间的关系类型,可分为线性回归分析和非线性回归分析. 如果在回归分析中,只包括一个自变量和一个因变量,且二者的关系可用一条直线近似表示,这种回归分析称为一元线性回归分析. 如果回归分析中包括两个或两个以上的自变量, 且因变量和自变量之间是线性关系,则称为多元线性回归分析[24] .
回归分析的主要内容是:
（1）从一组数据出发,确定这些变量之间的定量关系式;
（2）对这些关系式的可信程度进行统计检验;
（3）从影响着某一个量的许多变量中, 判断哪些变量的影响是显著的,哪些是不显著的;
（4）利用所求得的关系式对生产过程进行预报和控制;
（5）近代有出现,根据回归的分析方法特别是进行预报和控制所提出的要求,选择试验点,对试验点进行某种设计;
（6）寻求点数较少,且具有较好统计性质的回归设计方法.
回归分析是研究随机现象中变量之间关系的一种数理统计方法. 近年来, 回归分析方法广泛的应用生物学, 心理学, 教育学, 经济学, 医学等各个方面. 尤其是应用多元回归进行
经济预测, 已在生产实践, 科学管理和科学研究中取得了一定成效. 例如, 产量与成本可以用线性回归方程式表示他们之间的关系, 按照计划成本的要求达到控制一定数量的产量. 铁路运输量的多少与工农业产值有密切关系, 应用多元回归分析, 可以根据一定时期的工农业总产值预测运输量, 作为运输部门进行计划调度的依据. 回归分析不仅在工农业预测方面有着重要的作用,在其他各个方面也有很大作用, 比如在医学发面.复旦大学用Logistic 回归分析评价简易无创模型预测乙型肝炎相关肝硬化.还有在地质土木方面的.
上海大学的粉质粘土图像纹理参数的多元线性回归分析及其工程应用: 由二维小波技术分析粉质粘土图像的纹理特征, 获得小波能量参数与粉质粘土工程性质指标的多元线性回归方程.在考虑拍摄条件下(光照,拍摄距离等),现场勘查并拍摄粉质粘土照片.将这些彩色照片转化为灰度图,在二尺度小波分解水平下得到反映粉质粘土图像纹理特征的9个能量参数,并将这些参数与对应土样的11个工程性质指标进行多元线性回归.在此基础上对2个土样的工程性质指标进行了预测.结果表明,文中提出的粉质粘土的小波能量参数与传统工程性质指标具有较好的对应关系,可以为现场快速确定粉质粘土的工程性质指标提供一个新的途径[5].
另外在经济方面,中南大学数学科学与计算技术学院的“固定资产投资与经济增长关系的回归分析”一文也是回归分析的一个很好的应用.该文讲述了以下理论: 根据经济增长理论,资乘数理论表明,投资增加可以引致国内生产总值的成倍增加.固定资产投资对经济增长不仅具有直接的拉动作用,而且扩大投资会拉动对原材料、生产设备、劳动力等的需求,从而拉动与投资活动相关行业的产出和消费需求的增长.文中选取1985年到2005年的数据,通过建立回归模型,对固定资产投资与GDP的关系进行实证分析[6].
今天, 回归设计的内容已相当丰富, 有回归的正交设计, 回归的旋转设计, 回归的D-最优设计等. 在这些设计的基础上, 人们还进一步研究各种“最优设计”的标准, 从而可以评
-.定各种设计的好坏, 以利于探索新的设计方案[710]
参考文献
[1]郑德如.回归分析和相关分析[M].上海: 上海人民出版社, 1983: 2-96
[2]杨巍,张莉莉.多元线性回归分析在经济林产品需求预测中的应用[D].河北林国研究.
2009, 1(24): 1-6.
[3]上海师范大学数学系.回归分析及其实验设计[M].上海:上海教育出版社, 1978: 1-5.
[4]翟文信,徐金明,张学明,谢建强.粉质粘土图像纹理参数的多元线性回归分析及其工
程应用[D].水文地质工程地质,2009, 1(1): 1-6.
[5]张占卿,曹婕,陆伟,史连国. Logistic回归分析评价简易无创模型预测乙型肝炎相关
肝硬化[D].武汉大学学报(医学版),2009, 1(30): 1-4.
[6]孟露露.固定资产投资与经济增长关系的回归分析[D]. 社科论坛, 2009, 1(21): 1-4.
[7]Panov V.G., Varaksin A.N. Relation between the coefficient of simple and multiple
regression models[D]. Mathematical Journal, V ol.51, No.1: 162–167.
[8]王淑芝,纪跃芝.经济预测方法及应用[D].现代情报,2004, 6(12): 3-6.
[9]周丹.中国各地区房地产业发展影响因素的逐步回归分析[D].商场现代化, 2009,
1(22): 1-4.
[10]申振东,佘重阳.旅游业对我国社会经济贡献的回归分析[D].商场现代化, 2009,
1(27): 1-6.
数学与统计学院实验报告 院（系）：数学与统计学学院学号：姓名： 实验课程：计量经济学指导教师: 实验类型（验证性、演示性、综合性、设计性）：综合性 实验时间：2017年 3 月 1 日 一、实验课题 一元线性回归预测模型 二、实验目的和意义 用回归模型预测木材剩余物 （1）用Eviews软件建立y关于x的回归方程，并对模型和参数做假设检验； （2）求y t的点预测和平均木材剩余物产出量E(y t)的置信区间预测。 （3）假设乌伊岭林业局2000年计划采伐木材20万m3，求木材剩余物的点预测值。 三、解题思路 1、录非结构型的数据； 2、进行描述性统计，列出回归模型；通过看t、f等统计量，检验回归模型是否正确 3、运用forecast进行内预测（1-16样本），可以得到yf的点预测；再运用[yf+se]、[yf-se]进行区间估计（运用excel操作） 4、将样本范围改到17个，令x=20，运用forecast进行外预测（17-17） 四、实验过程记录与结果
翠峦11.69 32.7 乌马河 6.8 17 美溪9.69 27.3 大丰7.99 21.5 南岔12.15 35.5 带岭 6.8 17 朗乡17.2 50 桃山9.5 30 双丰 5.52 13.8 2、用Eviews软件建立y关于x的回归方程，并对模型和参数做假设检验；
模型为：y=0.404280x-0.762928 通过上表t、f统计量的p值<0.05，以及残差图基本在两倍标准差的范围内波动，可以得出该模型通过原假设。 3、求yt的点预测和平均木材剩余物产出量E(yt)的置信区间预测。Yt的点估计：
1. 表1列出了某地区家庭人均鸡肉年消费量Y 与家庭月平均收入X ，鸡肉价格P 1，猪肉价格P 2与牛肉价格P 3的相关数据。 年份 Y/千 克 X/ 元 P 1/(元/千克) P 2/(元/千克) P 3/(元/千克) 年份 Y/千克 X/元 P 1/(元/ 千克) P 2/(元/ 千克) P 3/(元/千克) 1980 2.78 397 4.22 5.07 7.83 1992 4.18 911 3.97 7.91 11.40 1981 2.99 413 3.81 5.20 7.92 1993 4.04 931 5.21 9.54 12.41 1982 2.98 439 4.03 5.40 7.92 1994 4.07 1021 4.89 9.42 12.76 1983 3.08 459 3.95 5.53 7.92 1995 4.01 1165 5.83 12.35 14.29 1984 3.12 492 3.73 5.47 7.74 1996 4.27 1349 5.79 12.99 14.36 1985 3.33 528 3.81 6.37 8.02 1997 4.41 1449 5.67 11.76 13.92 1986 3.56 560 3.93 6.98 8.04 1998 4.67 1575 6.37 13.09 16.55 1987 3.64 624 3.78 6.59 8.39 1999 5.06 1759 6.16 12.98 20.33 1988 3.67 666 3.84 6.45 8.55 2000 5.01 1994 5.89 12.80 21.96 1989 3.84 717 4.01 7.00 9.37 2001 5.17 2258 6.64 14.10 22.16 1990 4.04 768 3.86 7.32 10.61 2002 5.29 2478 7.04 16.82 23.26 1991 4.03 843 3.98 6.78 10.48 （1） 求出该地区关于家庭鸡肉消费需求的如下模型： 01213243ln ln ln ln ln Y X P P P u βββββ=+++++ （2） 请分析，鸡肉的家庭消费需求是否受猪肉及牛肉价格的影响。 先做回归分析，过程如下： 输出结果如下：
多元线性回归分析预测法 (重定向自多元线性回归预测法) 多元线性回归分析预测法（Multi factor line regression method，多元线性回归分析法） [编辑] 多元线性回归分析预测法概述 在市场的经济活动中，经常会遇到某一市场现象的发展和变化取决于几个影响因素的情况，也就是一个因变量和几个自变量有依存关系的情况。而且有时几个影响因素主次难以区分，或者有的因素虽属次要，但也不能略去其作用。例如，某一商品的销售量既与人口的增长变化有关，也与商品价格变化有关。这时采用一元回归分析预测法进行预测是难以奏效的，需要采用多元回归分析预测法。 多元回归分析预测法，是指通过对两上或两个以上的自变量与一个因变量的相关分析，建立预测模型进行预测的方法。当自变量与因变量之间存在线性关系时，称为多元线性回归分析。 [编辑] 多元线性回归的计算模型[1] 一元线性回归是一个主要影响因素作为自变量来解释因变量的变化，在现实问题研究中，因变量的变化往往受几个重要因素的影响，此时就需要用两个或两个以上的影响因素作为自变量来解释
因变量的变化，这就是多元回归亦称多重回归。当多个自变量与因变量之间是线性关系时，所进行的回归分析就是多元性回归。 设y为因变量，为自变量，并且自变量与因变量之间为线性关系时，则多元线性回归模型为： 其中，b0为常数项，为回归系数，b1为固定时，x1每增加一 个单位对y的效应，即x1对y的偏回归系数；同理b2为固定时，x2每增加一个单位对y的效应，即，x2对y的偏回归系数，等等。如果两个自变量x1,x2同一个因变量y呈线相关时，可用二元线性回归模型描述为： 其中，b0为常数项，为回归系数，b1为固定时，x2每增加一 个单位对y的效应，即x2对y的偏回归系数，等等。如果两个自变量x1,x2同一个因变量y呈线相关时，可用二元线性回归模型描述为： y = b0 + b1x1 + b2x2 + e 建立多元性回归模型时，为了保证回归模型具有优良的解释能力和预测效果，应首先注意自变量的选择，其准则是： (1)自变量对因变量必须有显著的影响，并呈密切的线性相关； (2)自变量与因变量之间的线性相关必须是真实的，而不是形式上的； (3)自变量之彰应具有一定的互斥性，即自变量之彰的相关程度不应高于自变量与因变量之因的相关程度； (4)自变量应具有完整的统计数据，其预测值容易确定。 多元性回归模型的参数估计，同一元线性回归方程一样，也是在要求误差平方和()为最小的前提下，用最小二乘法求解参数。以二线性回归模型为例，求解回归参数的标准方程组为 解此方程可求得b0,b1,b2的数值。亦可用下列矩阵法求得
多元线性回归统计预测模型 摘要:本文以多元统计分析为理论基础，在对数据进行统计分析的基础上建立多元线性回归模型并对未知量作出预测,为相关决策提供依据和参考。重点介绍了模型中参数的估计和自变量的优化选择及简单应用举例。 关键词：统计学;线性回归;预测模型 一．引言 多元线性回归统计预测模型是以统计学为理论基础建立数学模型，研究一个随机变量Ｙ与两个或两个以上一般变量X 1,X ２，…,Xp 之间相依关系,利用现有数据,统计并分析，研究问题的变化规律，建立多元线性回归的统计预测模型,来预测未来的变化情况。它不仅能解决一些随机的数学问题,而且还可以通过建立适当的随机模型进而解决一些确定的数学问题,为相关决策提供依据和参考。 目前统计学与其他学科的相互渗透为统计学的应用开辟新的领域。并被广泛的应用在各门学科上,从物理和社会科学到人文科学，甚至被用来工业、农业、商业及政府部门。而多元线性回归是多元统计分析中的一个重要方法,被应用于众多自然科学领域的研究中。多元线性回归分析作为一种较为科学的方法,可以在获得影响因素的前提下，将定性问题定量化，确定各因素对主体问题的具体影响程度。 二.多元线性回归的基本理论 多元线性回归是多元统计分析中的一个重要方法，被广泛应用于众多自然科学领域的研究中。多元线性回归分析的基本任务包括:根据因变量与多个自变量的实际观测值建立因变量对多个自变量的多元线性回归方程；检验、分析各个自变量对因自变量的综合线性影响的显著性；检验、分析各个自变量对因变量的单纯线性影响的显著性，选择仅对因变量有显著线性影响的自变量，建立最优多元线性回归方程;评定各个自变量对因变量影响的相对重要性以及测定最优多元线性回归方程的偏离度等。由于多数的多元非线性回归问题都可以化为多元线性回归问题,所以这里仅讨论多元线性回归。许多非线性回归和多项式回归都可以化为多元线性回归来解决,因而多元线性回归分析有着广泛的应用。 2.1 多元线性回归模型的一般形式 设随机变量y 与一般变量12,, ,p x x x 线性回归模型为 01122...p p y x x x ββββε=+++++ （2.1） 模型中Ｙ为被解释变量(因变量）,而12,,,p x x x 是p 个可以精确测量并可控制的一般变 量，称为解释变量（自变量）。p ＝1时，(２.1)式即为一元线性回归模型，p 大于2时，(2.1)
§2.5 一元线性回归模型的置信区间与预测 多元线性回归模型的置信区间问题包括参数估计量的置信区间和被解释变量预测值的置信区间两个方面，在数理统计学中属于区间估计问题。所谓区间估计是研究用未知参数的点估计值（从一组样本观测值算得的）作为近似值的精确程度和误差范围，是一个必须回答的重要问题。 一、参数估计量的置信区间 在前面的课程中，我们已经知道，线性回归模型的参数估计量^ β是随机变量 i y 的函数，即：i i y k ∑=1 ?β，所以它也是随机变量。在多次重复抽样中，每次 的样本观测值不可能完全相同，所以得到的点估计值也不可能相同。现在我们用参数估计量的一个点估计值近似代表参数值，那么，二者的接近程度如何？以多大的概率达到该接近程度？这就要构造参数的一个区间，以点估计值为中心的一个区间（称为置信区间），该区间以一定的概率（称为置信水平）包含该参数。 即回答1β以何种置信水平位于() a a +-1 1?,?ββ之中，以及如何求得a 。 在变量的显著性检验中已经知道 ) 1(~^ ^ ---= k n t s t i i i βββ (2.5.1) 这就是说，如果给定置信水平α-1，从t 分布表中查得自由度为(n-k-1)的临界值2 αt ，那么t 值处在()2,ααt t -的概率是α-1。表示为 α αα-=<<-1)(2 2 t t t P 即
α ββαβα-=<-< -1)(2 ^ 2 ^ t s t P i i i α ββββαβα-=?+<
matlab建立多元线性回归模型并进行显着性检验及预测问题 例子; x=[143 145 146 147 149 150 153 154 155 156 157 158 159 160 162 164]'; X=[ones(16,1) x]; 增加一个常数项Y=[88 85 88 91 92 93 93 95 96 98 97 96 98 99 100 102]'; [b,bint,r,rint,stats]=regress(Y,X) 得结果：b = bint = stats = 即对应于b的置信区间分别为[，]、[,]; r2=, F=, p= p<, 可知回归模型y=+ 成立. 这个是一元的，如果是多元就增加X的行数！ function [beta_hat,Y_hat,stats]=regress(X,Y,alpha) % 多元线性回归(Y=Xβ+ε)MATLAB代码 %？ % 参数说明 % X：自变量矩阵，列为自变量，行为观测值 % Y：应变量矩阵，同X % alpha：置信度，[0 1]之间的任意数据 % beta_hat：回归系数 % Y_beata：回归目标值，使用Y-Y_hat来观测回归效果 % stats：结构体，具有如下字段 % =[fV,fH]，F检验相关参数，检验线性回归方程是否显着 % fV：F分布值，越大越好，线性回归方程越显着 % fH：0或1，0不显着；1显着(好) % =[tH,tV,tW]，T检验相关参数和区间估计，检验回归系数β是否与Y有显着线性关系 % tV：T分布值，beta_hat(i)绝对值越大,表示Xi对Y显着的线性作用% tH：0或1，0不显着；1显着 % tW：区间估计拒绝域，如果beta(i)在对应拒绝区间内，那么否认Xi对Y显着的线性作用 % =[T,U,Q,R]，回归中使用的重要参数 % T：总离差平方和，且满足T=Q+U % U：回归离差平方和 % Q：残差平方和 % R∈[0 1]：复相关系数，表征回归离差占总离差的百分比，越大越好% 举例说明 % 比如要拟合y=a+b*log(x1)+c*exp(x2)+d*x1*x2，注意一定要将原来方程线化% x1=rand(10,1)*10; % x2=rand(10,1)*10; % Y=5+8*log(x1)+*exp(x2)+*x1.*x2+rand(10,1); % 以上随即生成一组测试数据 % X=[ones(10,1) log(x1) exp(x2) x1.*x2]; % 将原来的方表达式化成Y=Xβ，注意最前面的1不要丢了
一元线性回归在公司加班制度中的应用 院（系）： 专业班级： 学号姓名： 指导老师： 成绩： 完成时间：
一元线性回归在公司加班制度中的应用 一、实验目的 掌握一元线性回归分析的基本思想和操作，可以读懂分析结果，并写出回归方程，对回归方程进行方差分析、显著性检验等的各种统计检验 二、实验环境 SPSS21.0 windows10.0 三、实验题目 一家保险公司十分关心其总公司营业部加班的程度，决定认真调查一下现状。经10周时间，收集了每周加班数据和签发的新保单数目，x 为每周签发的新保单数目，y 为每周加班时间（小时），数据如表所示 y 3.5 1.0 4.0 2.0 1.0 3.0 4.5 1.5 3.0 5.0 2. x 与y 之间大致呈线性关系？ 3. 用最小二乘法估计求出回归方程。 4. 求出回归标准误差σ∧ 。 5. 给出0 β∧与1 β∧ 的置信度95%的区间估计。 6. 计算x 与y 的决定系数。 7. 对回归方程作方差分析。 8. 作回归系数1 β∧ 的显著性检验。 9. 作回归系数的显著性检验。 10.对回归方程做残差图并作相应的分析。
11.该公司预测下一周签发新保单01000 x=张，需要的加班时间是多少？ 12.给出0y的置信度为95%的精确预测区间。 13.给出 () E y的置信度为95%的区间估计。 四、实验过程及分析 1.画散点图 如图是以每周加班时间为纵坐标，每周签发的新保单为横坐标绘制的散点图，从图中可以看出，数据均匀分布在对角线的两侧，说明x和y之间线性关系良好。 2.最小二乘估计求回归方程
用SPSS 求得回归方程的系数01,ββ分别为0.118,0.004，故我们可以写出其回归方程如下： 0.1180.004y x =+ 3.求回归标准误差σ∧ 由方差分析表可以得到回归标准误差：SSE=1.843 故回归标准误差： 2= 2SSE n σ∧-，2σ∧=0.48。 4.给出回归系数的置信度为95%的置信区间估计。 由回归系数显著性检验表可以看出，当置信度为95%时：
多元线性回归模型案例分析 ——中国人口自然增长分析一·研究目的要求 中国从1971年开始全面开展了计划生育,使中国总和生育率很快从1970年的5.8降到1980年2.24,接近世代更替水平。此后，人口自然增长率（即人口的生育率）很大程度上与经济的发展等各方面的因素相联系，与经济生活息息相关，为了研究此后影响中国人口自然增长的主要原因，分析全国人口增长规律，与猜测中国未来的增长趋势，需要建立计量经济学模型。 影响中国人口自然增长率的因素有很多，但据分析主要因素可能有：（1）从宏观经济上看，经济整体增长是人口自然增长的基本源泉；（2）居民消费水平，它的高低可能会间接影响人口增长率。(3)文化程度，由于教育年限的高低，相应会转变人的传统观念，可能会间接影响人口自然增长率（4）人口分布，非农业与农业人口的比率也会对人口增长率有相应的影响。 二·模型设定 为了全面反映中国“人口自然增长率”的全貌，选择人口增长率作为被解释变量，以反映中国人口的增长；选择“国名收入”及“人均GDP”作为经济整体增长的代表；选择“居民消费价格指数增长率”作为居民消费水平的代表。暂不考虑文化程度及人口分布的影响。 从《中国统计年鉴》收集到以下数据（见表1）： 表1 中国人口增长率及相关数据
设定的线性回归模型为： 1222334t t t t t Y X X X u ββββ=++++ 三、估计参数 利用EViews 估计模型的参数，方法是： 1、建立工作文件：启动EViews ，点击File\New\Workfile ，在对 话框“Workfile Range ”。在“Workfile frequency ”中选择“Annual ” (年度)，并在“Start date ”中输入开始时间“1988”，在“end date ”中输入最后时间“2005”，点击“ok ”，出现“Workfile UNTITLED ”工作框。其中已有变量：“c ”—截距项 “resid ”—剩余项。在“Objects ”菜单中点击“New Objects”，在“New Objects”对话框中选“Group”，并在“Name for Objects”上定义文件名，点击“OK ”出现数据编辑窗口。 年份 人口自然增长率 （%。） 国民总收入（亿元） 居民消费价格指数增长 率（CPI ）% 人均GDP （元） 1988 15.73 15037 18.8 1366 1989 15.04 17001 18 1519 1990 14.39 18718 3.1 1644 1991 12.98 21826 3.4 1893 1992 11.6 26937 6.4 2311 1993 11.45 35260 14.7 2998 1994 11.21 48108 24.1 4044 1995 10.55 59811 17.1 5046 1996 10.42 70142 8.3 5846 1997 10.06 78061 2.8 6420 1998 9.14 83024 -0.8 6796 1999 8.18 88479 -1.4 7159 2000 7.58 98000 0.4 7858 2001 6.95 108068 0.7 8622 2002 6.45 119096 -0.8 9398 2003 6.01 135174 1.2 10542 2004 5.87 159587 3.9 12336 2005 5.89 184089 1.8 14040 2006 5.38 213132 1.5 16024
SPSS--回归-多元线性回归模型案例解析！(一） 多元线性回归，主要是研究一个因变量与多个自变量之间的相关关系，跟一元回归原理差不多，区别在于影响因素（自变量）更多些而已，例如：一元线性回归方程为： 毫无疑问，多元线性回归方程应该为： 上图中的x1, x2, xp分别代表“自变量”Xp截止，代表有P个自变量，如果有“N组样本，那么这个多元线性回归，将会组成一个矩阵，如下图所示： 那么，多元线性回归方程矩阵形式为： 其中：代表随机误差，其中随机误差分为：可解释的误差和不可解释的误差，随机误差必须满足以下四个条件，多元线性方程才有意义（一元线性方程也一样） 1：服成正太分布，即指：随机误差必须是服成正太分别的随机变量。 2：无偏性假设，即指：期望值为0 3：同共方差性假设，即指，所有的随机误差变量方差都相等 4：独立性假设，即指：所有的随机误差变量都相互独立，可以用协方差解释。 今天跟大家一起讨论一下，SPSS---多元线性回归的具体操作过程，下面以教程教程数据为例，分析汽车特征与汽车销售量之间的关系。通过分析汽车特征跟汽车销售量的关系，建立拟合多元线性回归模型。数据如下图所示：
点击“分析”——回归——线性——进入如下图所示的界面：
将“销售量”作为“因变量”拖入因变量框内，将“车长，车宽，耗油率，车净重等10个自变量拖入自变量框内，如上图所示，在“方法”旁边，选择“逐步”，当然，你也可以选择其它的方式，如果你选择“进入”默认的方式，在分析结果中，将会得到如下图所示的结果：（所有的自变量，都会强行进入） 如果你选择“逐步”这个方法，将会得到如下图所示的结果：（将会根据预先设定的“F统计量的概率值进行筛选，最先进入回归方程的“自变量”应该是跟“因变量”关系最为密切，贡献最大的，如下图可以看出，车的价格和车轴跟因变量关系最为密切，符合判断条件的概率值必须小于0.05，当概率值大于等于0.1时将会被剔除）
多元线性回归预测 在预测中，当预测对象y 受到多个因素m x x x ,,,21 影响时，如果各个影响因素j x （m j ,,2,1 =）与y 的相关关系可以同时近似地线性表示，这时则可以建立多元线性回归模型来进行分析和预测。 假定因变量y 与自变量),,2,1(m j x j =之间的关系可表示为 i mi m i i i x b x b x b b y ε+++++= 22110 （2-22） n i ,,2,1 =（样本序号） 其中0b 、j b ),,2,1(m j =——模型回归系数；i ε为除自变量j x ),,2,1(m j =的影响之外对i y 产生影响的随机变量，即随机误差。该结论基于以下的假设： 随机误差i ε的期望值为零，),,2,1(0)(n i E i ==ε； 方差的期望值为一常数2σ，),,2,1()(22n i E i ==σε； 各随机误差项是互不相关的，即协方差的数学期望值为零，0),(=j i E εε ),,,2,1,(j i n j i ≠= 当以上假设得到满足时，式（2-22）便称为多元线性回归预测模型，这时可写成 ),,2,1(?22110n i x b x b x b b y mi m i i i =?++++= （2-23） 和一元线性回归预测模型一样，多元线性回归预测模型建立时也采用最小二 二乘法估计模型参数，但具体估计时有二种算法，分述如下。 一、多元线性回归预测模型的一般算法 1．建立模型 改写式（2-22） 得 ),,2,1(?n i y y i i i =-=ε 方差和Q 为
2 1 221102212 )()?(mi m n i i i i n i i i n i i x b x b x b b y y y Q -----=-==∑∑∑=== ε 根据最小二乘法原理，欲估计参数),,2,1(m i b i =，要满足条件： ?????? ?????=------=??=------=??=------=??0)(Σ20)(Σ20)(Σ2221102211011 221100mi m i i i mi m mi m i i i i mi m i i i x b x b x b b y x b Q x b x b x b b y x b Q x b x b x b b y b Q 整理上式可得到： ?? ???? ?=++++=++++=++++i mi mi m i mi i mi mi i i mi i m i i t i i mi m i i y x x b x x b x x b x b y x x x b x x b x b x b y x b x b x b nb ΣΣΣΣΣΣΣΣΣΣΣΣΣΣ222110112122 111022,110 而对于各变量的样本平均值，其误差平方和为： ??? ? ? ? ??? -=--==--==∑∑∑===n i i yy n i i j ji yj jy n i k ki j ji kj jk y y s y y x x s s x x x x s s 12 11 ) ())(() )(( （2-25） ),,2,1,(k k j = 式中 ∑==n i ji j x n x 1 1 ∑==n i i y n y 1 1 利用（2-24）式，将方程组（2-25）可改写为
楚雄师范学院 2012年数学建模竞赛 第一次实战训练（一）第一题论文 题目多元非线性回归拟合模型 姓名郜红霞杨环刘发稳 2012年8月20日
多元非线性回归拟合模型 摘要：本文推论了多元非线性数据拟合的通用数学模型,利用最小二乘法和极值原理,导出求解多元非线性回归方程的规范方程组。并用矩阵形式对规范方程组进行表述,在所表述的诸矩阵中,结构矩阵是其基础。用它可方便地转化出其他矩阵,这将大大简化程序的编制和规范方程组的解算。计算机根据输入数据自变量的个数和实验所作次数的多少,求解出相应的多元非线性回归方程及其评估方程质量的数据。 关键字：规范方程；非线性回归方程；最小二乘法；结构矩阵；极值原理；对称矩阵；数据分析；计算机拟合；矩阵形式自变量。
1 问题重述
要求：1.检验强影响点； 2.正态性检验； 3.相关性检验； 4.自变量的多重共线性检验； 5.残差的相关性分析，模型的合理分析。 x=（470 81 82 50 13.7 225）'。 6.预测 2 问题分析 先建立基础的多元线性回归方程，以初步确定输入变量与输出变量的关系，若预测效果不理想，则需要对方程进行进一步优化，考虑建立非线性回归方程模型或其他更优模型，反复进行判断和优化，最后得到较理想的预测方程。并用一定的评价标准对得出的预测方程进行判定，最后，用实验数据对模型预测的精度进行验证。 3 基本假设与符号说明
Q 残差平方和 E 拟合误差 ε 无偏估计值 2s 方差 R 复相关系数 SE 标准误差 4 模型建立 3.1 问题分析 3.2 模型建立 （1）我们先假设输入变量和输出变量之间的关系是线性函数关系，建立多元线性回归模型。 {) ,0(~ (2) ' '110'σεε βββN x x Y m m ++++= (2)为了在研究两个指定变量之间的相关关系的同时，控制可能对其产生影 响的其他变量，我们在研究任意两个输入变量的相互作用的判断中，运用了偏相关分析先对任意两个输入变量之间是否有交互作用进行判断。 设随机变量X 、Y 、Z 之间彼此存在着相关关系，为了研究X 和Y 之间的关系，就必须在假定Z 不变的条件下，计算和Y 的偏相关系数，记为z xy r .。 在考察多个变量时，i X （i =1，2...，p ）之间的p-1阶偏相关关系可由如下的递推式定义： 2 ) 1)...(1)(1...(12.2 ) 1...(1 2.0) 1)...(1)(1...(12.0)1...(12.0)1)...(1)(1...(12.0)...1)(1...(12.011-+---+---+-+---= p i i ip p p p i i ip p ip p i i i p i i i r r r r r r 计算得出输出变量的相关性检验。 （3）我们建立部分多元非线性回归模型，来判断在Y 与i X 的模型中有交互
matlab建立多元线性回归模型并进行显著性检 验及预测问题 例子; x=[143 145 146 147 149 150 153 154 155 156 157 158 159 160 162 164]'; X=[ones(16,1) x]; 增加一个常数项 Y=[88 85 88 91 92 93 93 95 96 98 97 96 98 99 100 102]'; [b,bint,r,rint,stats]=regress(Y,X) 得结果：b = bint = stats = 即对应于b的置信区间分别为[，]、[,]; r2=, F=, p= p<, 可知回 归模型 y=+ 成立. 这个是一元的，如果是多元就增加X的行数！ function [beta_hat,Y_hat,stats]=regress(X,Y,alpha) % 多元线性回归(Y=Xβ+ε)MATLAB代码 % % 参数说明 % X：自变量矩阵，列为自变量，行为观测值 % Y：应变量矩阵，同X % alpha：置信度，[0 1]之间的任意数据 % beta_hat：回归系数 % Y_beata：回归目标值，使用Y-Y_hat来观测回归效果 % stats：结构体，具有如下字段 % =[fV,fH]，F检验相关参数，检验线性回归方程是否显著 % fV：F分布值，越大越好，线性回归方程 越显著 % fH：0或1，0不显著；1显著(好) % =[tH,tV,tW]，T检验相关参数和区间估计，检验回归系数β是 否与Y有显著线性关系 % tV：T分布值，beta_hat(i)绝对值越大, 表示Xi对Y显著的线性作用 % tH：0或1，0不显著；1显著 % tW：区间估计拒绝域，如果beta(i)在对 应拒绝区间内，那么否认Xi对Y显著的线性作用 % =[T,U,Q,R]，回归中使用的重要参数 % T：总离差平方和，且满足T=Q+U % U：回归离差平方和 % Q：残差平方和 % R∈[0 1]：复相关系数，表征回归离差占总 离差的百分比，越大越好 % 举例说明 % 比如要拟合 y=a+b*log(x1)+c*exp(x2)+d*x1*x2，注意一定要将原来方程 线化 % x1=rand(10,1)*10;
企业销售额影响因素分析及回归模型学号：1003131014 姓名：李绍林班级：10级人力资源管理 一、问题提出 （一）研究问题： 随着市场经济的进一步发展，也加剧了企业在市场运行中的不确定性，如何在复杂多变的市场中占据主导，如何在经济流通的过程中，充分利用各种有利的因素，来确保企业销售额的增长，如何控制经济流通中的各项开支，如何组合来服务于企业销售额的增长。因此，在这里通过分析某家公司的企业销售状况，试图研究影响企业销售额的各因素及其之间的关系，建立企业销售额及其因素的回归模型，并进行经济分析。（二）数据来源 某企业开支与销售额关系表：
二、定性分析 为了研究企业销售额的影响因素，我们对相关数据进行简单的定性分析，并各因素同因变量的相关关系做了一个简单的预测。 个人可支配收入反映一个地区或市场上消费者的购买能力，单独来看，应与企业的销售额呈正相关关系，即企业产品的目标市场群体的个人可支配收入起高，企业所能获得的销售额也会相应提高。 商业回扣是企业为了改善销售商之间的关系，同时加强同销售商之间的合作，通过商业回扣的方式来吸引销售商，商业回扣作为企业的一个重要的营销策略，这也会减少企业的利润，商业回扣作为影响企业销售额的重要因素，商业回扣投入情况同企业的销售额多少有一定的关系。 商品价格能够通过企业产品的需求来影响企业的销售量，两者共同作用于企业的销售额，是影响企业销售额的一个关系因子。如何制定价格策略来提高企业的销售额，具有重要的现实意义。 研究与发展经费反映企业的研发能力和对市场的捕捉能力，能够适应市场需求来适应开发新的产品，不断开拓新的市场，提高产品的质量和水平，这能够为企业的扩大市场份额和企业销售额的提高。 广告费用是企业为了对产品进行推广和让消费者更好地了解产品和创造需求，引导消费者的购买欲望，同时有利于树立产品和企业的形象。当然广告费用的支出也是影响企业销售额的一个重要因子。 销售费用是企业为了产品的销售在产品的流通和销售过程中发生的一系列费用的总和，其与企业的销售额有一定的关系。 因此，我们选择企业的销售额作为被解释变量y ，选取个人可支配收入、商业回扣、商品价格、研究与发展经费、广告费、销售费作为解释变量，分别设其为x1、x2、x3、x4、x5、x6 。 三、相关分析 （一）数据基本描述 Descriptive Statistics
多元线性回归分析模型 企业销售额影响因素分析及回归模型 学号:1003131014 姓名:李绍林班级:10级人力资源管理 一、问题提出 (一) 研究问题: 随着市场经济的进一步发展，也加剧了企业在市场运行中的不确定性，如何在复杂多变的市场中占据主导，如何在经济流通的过程中，充分利用各种有利的因素，来确保企业销售额的增长，如何控制经济流通中的各项开支，如何组合来服务于企业销售额的增长。因此，在这里通过分析某家公司的企业销售状况，试图研究影响企业销售额的各因素及其之间的关系，建立企业销售额及其因素的回归模型，并进行经济分析。 (二) 数据来源 某企业开支与销售额关系表: 序号个人可支配商业回商品价研究与发展广告费销售费年销售额 收入(X1) 扣(X2) 格(X3) 经费(X4) (X5) (X6) (Y) 1 328 123 77.14 19.60 87.51 210.60 4787.36 2 412 149 78.2 3 35.7 4 26.49 258.0 5 4647.01 3 417 120 80.6 4 34.92 83.18 257.40 5512.13 4 418 13 5 78.59 34.69 74.47 269.75 5035.62 5 429 125 74.1 6 11.3 7 83.29 217.75 5095.48 6 441 120 79.85 15.50 50.05 267.15 4800.97 7 455 126 77.93 21.59 94.63 232.70 5315.63 8 461 132 82.28 26.54 91.22 266.50 5272.21 9 462 112 73.20 14.84 92.51 282.75 5711.86
第三章 多元线性回归分析 主要内容： ? 多元线性回归模型 ? 多元线性回归模型的参数估计 ? 多元线性回归模型的统计检验 ? 多元线性回归模型的预测 ? 案例 3.1 多元线性回归模型 一、多元线性回归模型 多元线性回归模型:表现在线性回归模型中的解释变量有多个。 一般表现形式： i ki k i i i u X X X Y +++++=ββββ 22110 i=1，2，…，n 其中:k 为解释变量的数目，j β称为回归参数（regression coefficient ）。 ki k i i ki i i i X X X X X X Y E ββββ+???+++=2211021),,|( 经济解释：j β也被称为偏回归系数，表示在其他解释变量保持不变的情况下，j X 每变化1个单位时， Y 的均值E(Y)的变化; 或者说j β给出了j X 的单位变化对Y 均值的“直接”或“净”（不含其他变量）影响。 样本回归函数：用来估计总体回归函数 i =1,2…,n 其随机表示式: i e 称为残差或剩余项(residuals)，可看成是总体回归函数中随机扰动项i u 的近似替代。 i ki ki i i i e X X X Y +++++=ββββ????22110 ki ki i i i X X X Y ββββ?????22110++++=
§3.2 多元线性回归模型的估计 一、普通最小二乘估计 对于随机抽取的n 组观测值 对样本回归函数： i=1,2…n 根据最小二乘原理，参数估计值应该是下列方程组的解 ∑∑∑===+???+++-=-==???????? ?????????=?? =?? =?? =?? n i ki k i i i n i n i i i i k X X X Y Y Y e Q Q Q Q Q 1 2 2211011 22 210))????(()?(0?0?0?0?ββββββββ其中 即 Y X X X '='β?)( 由于X X '满秩，故有 Y X X X ''=-1)(?β 随机误差项μ的方差σ的无偏估计 可以证明，随机误差项u 的方差的无偏估计量为 二、参数估计量的性质 在满足基本假设的情况下，其结构参数β的普通最小二乘估计、最大或然估计及矩估计仍具有：线性性、无偏性、有效性。 1、 线性 CY Y X X X =''=-1)(?β 其中,C =X X X ''-1 )( 为一仅与固定的X 有关的行向量 2、无偏性 3、有效性（最小方差性） 参数估计量β ?的方差-协方差矩阵 β μX X X βμX βX X X Y X X X β 11=''+=+''=''=---)()())()(())(()?(1E E E E 11 ?2 2 --'= --=∑k n k n e i e e σ Ki ki i i i X X X Y ββββ?????22110++++= k j n i X Y ji i ,2,1,0,,,2,1),,(==
线性回归分析的SPSS操作 本节内容主要介绍如何确定并建立线性回归方程。包括只有一个自变量的一元线性回归和和含有多个自变量的多元线性回归。为了确保所建立的回归方程符合线性标准，在进行回归分析之前，我们往往需要对因变量与自变量进行线性检验。也就是类似于相关分析一章中讲过的借助于散点图对变量间的关系进行粗略的线性检验，这里不再重复。另外，通过散点图还可以发现数据中的奇异值，对散点图中表示的可能的奇异值需要认真检查这一数据的合理性。 一、一元线性回归分析 1．数据 以本章第三节例3的数据为例，简单介绍利用SPSS如何进行一元线性回归分析。数据编辑窗口显示数据输入格式如下图7-8（文件7-6-1.sav）： 图7-8：回归分析数据输入 2．用SPSS进行回归分析，实例操作如下： 2.1.回归方程的建立与检验 （1）操作 ①单击主菜单Analyze / Regression / Linear…，进入设置对话框如图7-9所示。从左边变量表列中把因变量y选入到因变量（Dependent）框中，把自变量x选入到自变量（Independent）框中。在方法即Method一项上请注意保持系统默认的选项Enter，选择该项表示要求系统在建立回归方程时把所选中的全部自变量都保留在方程中。所以该方法可命名为强制进入法（在多元回归分析中再具体介绍这一选项的应用）。具体如下图所示：
图7-9 线性回归分析主对话框 ②请单击Statistics…按钮，可以选择需要输出的一些统计量。如Regression Coefficients(回归系数)中的Estimates，可以输出回归系数及相关统计量，包括回归系数B、标准误、标准化回归系数BETA、T值及显著性水平等。Model fit项可输出相关系数R，测定系数R2，调整系数、估计标准误及方差分析表。上述两项为默认选项，请注意保持选中。设置如图7-10所示。设置完成后点击Continue返回主对话框。 图7-10：线性回归分析的Statistics选项图7-11：线性回归分析的Options选项 回归方程建立后，除了需要对方程的显著性进行检验外，还需要检验所建立的方程是否违反回归分析的假定，为此需进行多项残差分析。由于此部分内容较复杂而且理论性较强，所以不在此详细介绍，读者如有兴趣，可参阅有关资料。 ③用户在进行回归分析时，还可以选择是否输出方程常数。单击Options…按钮，打开它的对话框，可以看到中间有一项Include constant in equation可选项。选中该项可输出对常数的检验。在Options对话框中，还可以定义处理缺失值的方法和设置多元逐步回归中变量进入和排除方程的准则，这里我们采用系统的默认设置，如图7-11所示。设置完成后点击Continue返回主对话框。 ④在主对话框点击OK得到程序运行结果。
SPSS--回归-多元线性回归模型案例解析！(一) 多元线性回归,主要就是研究一个因变量与多个自变量之间的相关关系,跟一元回归原理差不多,区别在于影响因素(自变量)更多些而已,例如:一元线性回归方程 为: 毫无疑问,多元线性回归方程应该 为: 上图中的 x1, x2, xp分别代表“自变量”Xp截止,代表有P个自变量,如果有“N组样本,那么这个多元线性回归,将会组成一个矩阵,如下图所示: 那么,多元线性回归方程矩阵形式为: 其中:代表随机误差, 其中随机误差分为:可解释的误差与不可解释的误差,随机误差必须满足以下四个条件,多元线性方程才有意义(一元线性方程也一样) 1:服成正太分布,即指:随机误差必须就是服成正太分别的随机变量。 2:无偏性假设,即指:期望值为0 3:同共方差性假设,即指,所有的随机误差变量方差都相等 4:独立性假设,即指:所有的随机误差变量都相互独立,可以用协方差解释。 今天跟大家一起讨论一下,SPSS---多元线性回归的具体操作过程,下面以教程教程数据为例,分析汽车特征与汽车销售量之间的关系。通过分析汽车特征跟汽车销售量的关系,建立拟合多元线性回归模型。数据如下图所示:
点击“分析”——回归——线性——进入如下图所示的界面:
将“销售量”作为“因变量”拖入因变量框内, 将“车长,车宽,耗油率,车净重等10个自变量拖入自变量框内,如上图所示,在“方法”旁边,选择“逐步”,当然,您也可以选择其它的方式,如果您选择“进入”默认的方式,在分析结果中,将会得到如下图所示的结果:(所有的自变量,都会强行进入) 如果您选择“逐步”这个方法,将会得到如下图所示的结果:(将会根据预先设定的“F统计量的概率值进行筛选,最先进入回归方程的“自变量”应该就是跟“因变量”关系最为密切,