多项式回归分析的例子
例如, 不能用变量代换的方法将其转换为可按线性模型方式分析的模型, 需要使用多项式回归分析方法, 令, , , 则模型变换为
, 即可按线性模型方式进行分析。
若回归方程是下面这样拟合的非线性方程:
, (1)
其中所有的都是自变量的已知函数而不包括任何未知参数, 若令
,
,
…………………
,
则式(1)可写成
,
从而可按多元线性回归方式进行分析处理。
多项式回归在回归问题中占特殊的地位, 因为任何函数至少在一个比较小的邻域内可用多项式任意逼近, 因此通常在比较复杂的实际问题中, 可以不问与诸因素的确切关系如何, 而用多项式回归(当然首先应试用最简单的一次多项式即线性回归)进行分析和计算。
例在某化合物的合成试验中, 为了提高产量, 选取了原料配比()、溶剂量()和反应时间()三个因素, 试验结果如表１所示, 请用多项式回归模型拟合试验数据(显著性水平等于0.05)。
表１
(
若收率()与原料配比()、溶剂量()和反应时间()三个因素之间的函数关系近似满足二次回归模型: , (其中溶剂用量对作用很小, 建模时可以不考虑), 按表２数据进行数据输入:
表２
)^2()
本软件给出的回归分析有关的结果如下(与回归分析无关的内容未列出):
指标名称: 收率单位: ?
因素１名称: 时间单位: ?
因素２名称: 时间^2 单位: ?
因素３名称: 配比×时间单位: ?
------------------- 多元回归分析 -------------------
回归分析采用全回归法, 显著性水平α＝0.05
拟建立回归方程:
ｙ = b(0) + b(1)*Ｘ(1) + b(2)*Ｘ(2) + b(3)*Ｘ(3)
回归系数 b(i):
b(0)＝ 5.79e-2
b(1)＝ 0.252
b(2)＝-6.48e-2
b(3)＝ 2.83e-2
标准回归系数 B(i):
B(1)＝ 2.62
B(2)＝-2.76
B(3)＝ 1.02
复相关系数Ｒ＝0.9838
决定系数Ｒ^2＝0.9679
修正的决定系数Ｒ^2a＝0.9518
回归方程显著性检验:
变量分析表
样本容量Ｎ＝７, 显著性水平α＝0.05, 检验值Ｆt＝30.14, 临界值Ｆ(0.05,3,3)＝9.277, Ｆt＞Ｆ(0.05,3,3), 回归方程显著。
剩余标准差ｓ＝2.63e-2
回归系数检验值:
ｔ检验值(df＝3):
ｔ(1)＝ 5.313
ｔ(2)＝-5.033
ｔ(3)＝ 4.862
Ｆ检验值(df1＝1, df2＝3):
Ｆ(1)＝ 28.22
Ｆ(2)＝ 25.33
Ｆ(3)＝ 23.64
偏回归平方和 U(i):
U(1)＝1.96e-2
U(2)＝1.76e-2
U(3)＝1.64e-2
偏相关系数ρ(i):
ρ1,23＝ 0.9507
ρ2,13＝-0.9456
ρ3,12＝ 0.9420
各方程项对回归的贡献(按偏回归平方和降序排列):
U(1)＝1.96e-2, U(1)/U＝31.2%
U(2)＝1.76e-2, U(2)/U＝28.0%
U(3)＝1.64e-2, U(3)/U＝26.1%
第３方程项[Ｘ(3)]对回归的贡献最小, 对其进行显著性检验:
检验值Ｆ(3)＝23.64, 临界值Ｆ(0.05,1,3)＝10.13,
Ｆ(3)＞Ｆ(0.05,1,3), 此方程项显著。
残差分析:
残差分析表
------------------ 回归分析结束 ------------------
以上分析的结果即是建立了的回归方程, 它在显著性水平α＝0.05上是显著的。
包含此例子的均匀设计数据文件为 MultinomialReg.udc。
中国税收增长的分析 一、研究的目的要求 改革开放以来，随着经济体制的改革深化和经济的快速增长，中国的财政收支状况发生了很大的变化，中央和地方的税收收入1978年为519.28亿元到2002年已增长到17636.45亿元25年间增长了33倍。为了研究中国税收收入增长的主要原因，分析中央和地方税收收入的增长规律，预测中国税收未来的增长趋势，需要建立计量经济学模型。 影响中国税收收入增长的因素很多，但据分析主要的因素可能有：（1）从宏观经济看，经济整体增长是税收增长的基本源泉。（2）公共财政的需求，税收收入是财政的主体，社会经济的发展和社会保障的完善等都对公共财政提出要求，因此对预算指出所表现的公共财政的需求对当年的税收收入可能有一定的影响。（3）物价水平。我国的税制结构以流转税为主，以现行价格计算的DGP等指标和和经营者收入水平都与物价水平有关。（4）税收政策因素。我国自1978年以来经历了两次大的税制改革，一次是1984—1985年的国有企业利改税，另一次是1994年的全国范围内的新税制改革。税制改革对税收会产生影响，特别是1985年税收陡增215.42%。但是第二次税制改革对税收的增长速度的影响不是非常大。因此可以从以上几个方面，分析各种因素对中国税收增长的具体影响。 二、模型设定 为了反映中国税收增长的全貌，选择包括中央和地方税收的‘国家财政收入’中的“各项税收”（简称“税收收入”）作为被解释变量，以放映国家税收的增长；选择“国内生产总值（GDP）”作为经济整体增长水平的代表；选择中央和地方“财政支出”作为公共财政需求的代表；选择“商品零售物价指数”作为物价水平的代表。由于税制改革难以量化，而且1985年以后财税体制改革对税收增长影响不是很大，可暂不考虑。所以解释变量设定为可观测“国内生产总值（GDP）”、“财政支出”、“商品零售物价指数” 从《中国统计年鉴》收集到以下数据 财政收入（亿元） Y 国内生产总值(亿 元） X2 财政支出（亿 元） X3 商品零售价格指 数（%) X4 1978519.283624.11122.09100.7 1979537.824038.21281.79102 1980571.74517.81228.83106
多项式回归、非线性回归模型 关键词：回归方程的统计检验、拟合优度检验、回归方程的显著性检验、F 检验、回归系数的显著性检验、残差分析、一元多项式回归模型、一元非线性回归模型 一、回归方程的统计检验 1. 拟合优度检验 1. 概念介绍 SST 总离差平方和total SSR 回归平方和regression SSE 剩余平方和error ∑∑∑∑====--= --- =n i i i n i i i n i i i n i i i y y y y y y y y R 1 2 1 2 12 12 2)()?()()?(1 2. 例题1 存在四点(-2,-3)、(-1,-1)、(1,2)、(4,3)求拟合直线与决定系数。 2. 回归方程的显著性检验 ) 2/()2/()?()?(1 212 -= ---= ∑∑==n SSE SSA n y y y y F n i i i n i i i 例6（F 检验） 在合金钢强度的例1中，我们已求出了回归方程，这里考虑关于回归方程的显著性检验，经计算有： 表5 X 射线照射次数与残留细菌数的方差分析表 这里值很小，因此，在显著性水平0.01下回归方程是显著的。 3. 回归系数的显著性检验 4. 残差分析 二、一元多项式回归模型
模型如以下形式的称为一元多项式回归模型： 0111a x a x a x a y n n n n ++++=-- 例1（多项式回归模型） 为了分析X 射线的杀菌作用，用200千伏的X 射线来照射细菌，每次照射6分钟，用平板计数法估计尚存活的细菌数。照射次数记为t ，照射后的细菌数为y 见表1。试求： （1）给出y 与t 的二次回归模型。 （2）在同一坐标系内作出原始数据与拟合结果的散点图。 （3）预测16=t 时残留的细菌数。 （4）根据问题的实际意义，你认为选择多项式函数是否合适？ 表1 X 射线照射次数与残留细菌数 程序1 t=1:15; y=[352 211 197 160 142 106 104 60 56 38 36 32 21 19 15]; p=polyfit(t,y,2)%作二次多项式回归 y1=polyval(p,t);%模型估计与作图 plot(t,y,'-*',t,y1,'-o');%在同一坐标系中做出两个图形 legend('原始数据','二次函数') xlabel('t(照射次数)')%横坐标名 ylabel('y(残留细菌数)')%纵坐标名 t0=16; yc1=polyconf(p,t0)%预测t0=16时残留的细菌数，方法1 yc2=polyval(p,t0)%预测t0=16时残留的细菌数，方法2 即二次回归模型为： 8967.3471394.519897.121+-=t t y
25. 非线性回归 现实世界中严格的线性模型并不多见，它们或多或少都带有某种程度的近似；在不少情况下，非线性模型可能更加符合实际。 对变量间非线性相关问题的曲线拟合，处理的方法主要有： （1）首先确定非线性模型的函数类型，对于其中可线性化问题则通过变量变换将其线性化，从而归结为前面的多元线性回归问题来解决； （2）若实际问题的曲线类型不易确定时，由于任意曲线皆可由多项式来逼近，故常可用多项式回归来拟合曲线； （3）若变量间非线性关系式已知（多数未知），且难以用变量变换法将其线性化，则进行数值迭代的非线性回归分析。 （一）可变换为线性的非线性回归
在很多场合，可以对非线性模型进行线性化处理，尤其是可变换为线性的非线性回归，运用最小二乘法进行推断，对线性化后的线性模型，可以应用REG过程步进行计算。 例1 有实验数据如下： 试分别采用指数回归（y =ae bx）方法进行回归分析。 代码： data exam25_1; input x y; cards; 1.1 109.95 1.2 40.45 1.3 20.09 1.4 24.53 1.5 11.02 1.6 7.39 1.7 4.95 1.8 2.72 1.9 1.82 2 1.49 2.1 0.82 2.2 0.3 2.3 0.2 2.4 0.22 ; run; proc sgplot data = exam25_1; scatter x = x y = y; run; proc corr data = exam25_1; var x y; run;
data new1; set exam25_1; v = log(y); run; proc sgplot data = new1; scatter x = x y = v; title'变量代换后数据'; run; proc reg data = new1; var x v; model v = x; print cli; title'残差图'; plot residual. * predicted.; run; data new2; set exam25_1; y1 = 14530.28*exp(-4.73895*x); run; proc gplot data = new2; plot y*x=1 y1*x=2 /overlay; symbol v=dot i=none cv=red; symbol2i=sm color=blue; title'指数回归图'; 运行结果：
多项式回归分析的例子 例如, 不能用变量代换的方法将其转换为可按线性模型方式分析的模型, 需要使用多项式回归分析方法, 令, , , 则模型变换为 , 即可按线性模型方式进行分析。 若回归方程是下面这样拟合的非线性方程: , (1) 其中所有的都是自变量的已知函数而不包括任何未知参数, 若令 , , ………………… , 则式(1)可写成 , 从而可按多元线性回归方式进行分析处理。 多项式回归在回归问题中占特殊的地位, 因为任何函数至少在一个比较小的邻域内可用多项式任意逼近, 因此通常在比较复杂的实际问题中, 可以不问与诸因素的确切关系如何, 而用多项式回归(当然首先应试用最简单的一次多项式即线性回归)进行分析和计算。 例在某化合物的合成试验中, 为了提高产量, 选取了原料配比()、溶剂量()和反应时间()三个因素, 试验结果如表１所示, 请用多项式回归模型拟合试验数据(显著性水平等于0.05)。 表１ (
若收率()与原料配比()、溶剂量()和反应时间()三个因素之间的函数关系近似满足二次回归模型: , (其中溶剂用量对作用很小, 建模时可以不考虑), 按表２数据进行数据输入: 表２ )^2() 本软件给出的回归分析有关的结果如下(与回归分析无关的内容未列出): 指标名称: 收率单位: ? 因素１名称: 时间单位: ? 因素２名称: 时间^2 单位: ? 因素３名称: 配比×时间单位: ? ------------------- 多元回归分析 ------------------- 回归分析采用全回归法, 显著性水平α＝0.05 拟建立回归方程: ｙ = b(0) + b(1)*Ｘ(1) + b(2)*Ｘ(2) + b(3)*Ｘ(3) 回归系数 b(i): b(0)＝ 5.79e-2 b(1)＝ 0.252 b(2)＝-6.48e-2 b(3)＝ 2.83e-2 标准回归系数 B(i):
企业管理 对居民消费率影响因素的探究 ---以湖北省为例改革开放以来,我国经济始终保持着高速增长的趋势,三十多年间综合国力得到显著增强,但我国居民消费率一直偏低,甚至一直有下降的趋势。居民消费率的偏低必然会导致我国内需的不足,进而会影响我国经济的长期健康发展。 本模型以湖北省1995年-2010年数据为例，探究各因素对居民消费率的影响及多元关系。（注：计算我国居民的消费率,用居民的人均消费除以人均GDP,得到居民的消费率）。通常来说，影响居民消费率的因素是多方面的，如:居民总收入，人均GDP，人口结构状况1（儿童抚养系数，老年抚养系数），居民消费价格指数增长率等因素。 总消费(C:亿元) 总GDP（亿元）消费率(%) 1995 1095.97 2109.38 51.96 1997 1438.12 2856.47 50.35 2000 1594.08 3545.39 44.96 2001 1767.38 3880.53 45.54 2002 1951.54 4212.82 46.32 2003 2188.05 4757.45 45.99 2004 2452.62 5633.24 43.54 2005 2785.42 6590.19 42.27 2006 3124.37 7617.47 41.02 2007 3709.69 9333.4 39.75 2008 4225.38 11328.92 37.30 1.人口年龄结构一种比较精准的描述是：儿童抚养系数(0-14岁人口与 15-64岁人口的比值)、老年抚养系数(65岁及以上人口与15-64岁人口的比值〉或总抚养系数(儿童和老年抚养系数之和)。0-14岁人口比例与65岁及以上人口比例可由《湖北省统计年鉴》查得。
多元回归分析案例 计量经济学案例分析 多元回归分析案例 学院: 数理学院 班级: 数学092班 学号: 094131230 姓名: 徐冬梅 摘要:为了研究此后影响中国人口自然增长的主要原因，分析全国人口增长规律，与猜测中国未来的增长趋势，用Eviews软件对相关数据进行了多元回归分析，得出了相关结论 关键词:多元回归分析 ,Evicews软件, 中国人口自然增长; 一、建立模型 为了全面反映中国“人口自然增长率”的全貌，选择人口自然增长率作为被解释变量，以反映中国人口的增长;选择“国名收入”及“人均GDP”作为经济整体增长的代表;选择“居民消费价格指数增长率”作为居民消费水平的代表。国名总收入，居民消费价格指数增长率，人均GDP作为解释变量暂不考虑文化程度及人口分布的影响。 通过对表1的数据进行分析，建立模型。其模型表达式为: (i=1，2，,3) Y,,，,X，,X，,X，ui11i22i33ii 其中Y表示人口自然增长率，X 表示国名总收入，X表示居民消费价格指12 数增长率，X表示人均GDP，根据以往经验和对调查资料的初步分析可知，Y与3
X，X，X3呈线性关系，因此建立上述三元线性总体回归模型。Xi则表示各解12 释变量对税收增长的贡献。μi表示随机误差项。通过上式，我们可以了解到，每个解释变量增长,亿元，粮食总产值会如何变化，从而进行财政收入预测。相关数据: 表1 国民总收居民消费价人口自然增人均GDP年份入(亿元)格指数增长长率(%。)Y (元)X3 X1 率(CPI)%X2 1988 15.73 15037 18.8 1366 1989 15.04 17001 18 1519 1990 14.39 18718 3.1 1644 1991 12.98 21826 3.4 1893 1992 11.6 26937 6.4 2311 1993 11.45 35260 14.7 2998 1994 11.21 48108 24.1 4044 1995 10.55 59811 17.1 5046 1996 10.42 70142 8.3 5846 1997 10.06 78061 2.8 6420 1998 9.14 83024 -0.8 6796 1999 8.18 88479 -1.4 7159 2000 7.58 98000 0.4 7858 2001 6.95 108068 0.7 8622 2002 6.45 119096 -0.8 9398 2003 6.01 135174 1.2 10542 2004 5.87 159587 3.9 12336
我国农民收入影响因素的回归分析 本文力图应用适当的多元线性回归模型,对有关农民收入的历史数据和现状进行分析,探讨影响农民收入的主要因素,并在此基础上对如何增加农民收入提出相应的政策建议。?农民收入水平的度量常采用人均纯收入指标。影响农民收入增长的因素是多方面的，既有结构性矛盾因素，又有体制性障碍因素。但可以归纳为以下几个方面：一是农产品收购价格水平。二是农业剩余劳动力转移水平。三是城市化、工业化水平。四是农业产业结构状况。五是农业投入水平。考虑到复杂性和可行性，所以对农业投入与农民收入，本文暂不作讨论。因此，以全国为例，把农民收入与各影响因素关系进行线性回归分析，并建立数学模型。 一、计量经济模型分析 (一)、数据搜集 根据以上分析，我们在影响农民收入因素中引入7个解释变量。即：2x -财政用于农业的支出的比重，3x -第二、三产业从业人数占全社会从业人数的比重，4x -非农村人口比重，5x -乡村从业人员占农村人口的比重，6x -农业总产值占农林牧总产值的比重，7x -农作物播种面积，8x —农村用电量。
资料来源《中国统计年鉴2006》。 (二)、计量经济学模型建立 我们设定模型为下面所示的形式： 利用Eviews 软件进行最小二乘估计，估计结果如下表所示： DependentVariable:Y Method:LeastSquares Sample: Includedobservations:19 Variable Coefficient t-Statistic Prob. C X1 X3 X4 X5 X6 X7 X8 R-squared Meandependentvar AdjustedR-squared 表1最小二乘估计结果 回归分析报告为： () ()()()()()()()()()()()()()()() 2345678 2? -1102.373-6.6354X +18.2294X +2.4300X -16.2374X -2.1552X +0.0100X +0.0634X 375.83 3.7813 2.066618.37034 5.8941 2.77080.002330.02128 -2.933 1.7558.820900.20316 2.7550.778 4.27881 2.97930.99582i Y SE t R ===---=230.99316519 1.99327374.66 R Df DW F ====二、计量经济学检验 (一)、多重共线性的检验及修正 ①、检验多重共线性 (a)、直观法 从“表1最小二乘估计结果”中可以看出，虽然模型的整体拟合的很好，但是x4x6
计量经济学案例分析 多元回归分析案例 学院：数理学院 班级：数学092班 学号： 094131230 姓名：徐冬梅
摘要：为了研究此后影响中国人口自然增长的主要原因，分析全国人口增长规律，与猜测中国未来的增长趋势，用Eviews 软件对相关数据进行了多元回归分析，得出了相关结论 关键词：多元回归分析 ,Evicews 软件, 中国人口自然增长； 一、 建立模型 为了全面反映中国“人口自然增长率”的全貌，选择人口自然增长率作为被解释变量，以反映中国人口的增长；选择“国名收入”及“人均GDP ”作为经济整体增长的代表；选择“居民消费价格指数增长率”作为居民消费水平的代表。国名总收入，居民消费价格指数增长率，人均GDP 作为解释变量暂不考虑文化程度及人口分布的影响。 通过对表1的数据进行分析，建立模型。其模型表达式为： i i i i i u X X X Y ++++=332211ββββ （i=1，2，,3） 其中Y 表示人口自然增长率，X 1 表示国名总收入，X 2表示居民消费价格指数增长率，X 3表示人均GDP ，根据以往经验和对调查资料的初步分析可知，Y 与X 1，X 2 ，X3呈线性关系，因此建立上述三元线性总体回归模型。Xi 则表示各解释变量对税收增长的贡献。μi 表示随机误差项。通过上式，我们可以了解到，每个解释变量增长１亿元，粮食总产值会如何变化，从而进行财政收入预测。 相关数据： 表1 年份 人口自然增长率（%。)Y 国民总收 入（亿元） X1 居民消费 价格指数增长率（CPI ）%X2 人均GDP （元）X3 1988 15.73 15037 18.8 1366 1989 15.04 17001 18 1519 1990 14.39 18718 3.1 1644 1991 12.98 21826 3.4 1893 1992 11.6 26937 6.4 2311 1993 11.45 35260 14.7 2998 1994 11.21 48108 24.1 4044 1995 10.55 59811 17.1 5046 1996 10.42 70142 8.3 5846 1997 10.06 78061 2.8 6420 1998 9.14 83024 -0.8 6796 1999 8.18 88479 -1.4 7159 2000 7.58 98000 0.4 7858 2001 6.95 108068 0.7 8622 2002 6.45 119096 -0.8 9398 2003 6.01 135174 1.2 10542 2004 5.87 159587 3.9 12336 2005 5.89 184089 1.8 14040 2006 5.38 213132 1.5 16024 2007 5.24 235367 1.7 17535 2008 5.45 277654 1.9 19264
多元线性回归模型案例分析 ——中国人口自然增长分析一·研究目的要求 中国从1971年开始全面开展了计划生育,使中国总和生育率很快从1970年的5.8降到1980年2.24,接近世代更替水平。此后，人口自然增长率（即人口的生育率）很大程度上与经济的发展等各方面的因素相联系，与经济生活息息相关，为了研究此后影响中国人口自然增长的主要原因，分析全国人口增长规律，与猜测中国未来的增长趋势，需要建立计量经济学模型。 影响中国人口自然增长率的因素有很多，但据分析主要因素可能有：（1）从宏观经济上看，经济整体增长是人口自然增长的基本源泉；（2）居民消费水平，它的高低可能会间接影响人口增长率。(3)文化程度，由于教育年限的高低，相应会转变人的传统观念，可能会间接影响人口自然增长率（4）人口分布，非农业与农业人口的比率也会对人口增长率有相应的影响。 二·模型设定 为了全面反映中国“人口自然增长率”的全貌，选择人口增长率作为被解释变量，以反映中国人口的增长；选择“国名收入”及“人均GDP”作为经济整体增长的代表；选择“居民消费价格指数增长率”作为居民消费水平的代表。暂不考虑文化程度及人口分布的影响。 从《中国统计年鉴》收集到以下数据（见表1）： 表1 中国人口增长率及相关数据
设定的线性回归模型为： 1222334t t t t t Y X X X u ββββ=++++ 三、估计参数 利用EViews 估计模型的参数，方法是： 1、建立工作文件：启动EViews ，点击File\New\Workfile ，在对 话框“Workfile Range ”。在“Workfile frequency ”中选择“Annual ” (年度)，并在“Start date ”中输入开始时间“1988”，在“end date ”中输入最后时间“2005”，点击“ok ”，出现“Workfile UNTITLED ”工作框。其中已有变量：“c ”—截距项 “resid ”—剩余项。在“Objects ”菜单中点击“New Objects”，在“New Objects”对话框中选“Group”，并在“Name for Objects”上定义文件名，点击“OK ”出现数据编辑窗口。 年份 人口自然增长率 （%。） 国民总收入（亿元） 居民消费价格指数增长 率（CPI ）% 人均GDP （元） 1988 15.73 15037 18.8 1366 1989 15.04 17001 18 1519 1990 14.39 18718 3.1 1644 1991 12.98 21826 3.4 1893 1992 11.6 26937 6.4 2311 1993 11.45 35260 14.7 2998 1994 11.21 48108 24.1 4044 1995 10.55 59811 17.1 5046 1996 10.42 70142 8.3 5846 1997 10.06 78061 2.8 6420 1998 9.14 83024 -0.8 6796 1999 8.18 88479 -1.4 7159 2000 7.58 98000 0.4 7858 2001 6.95 108068 0.7 8622 2002 6.45 119096 -0.8 9398 2003 6.01 135174 1.2 10542 2004 5.87 159587 3.9 12336 2005 5.89 184089 1.8 14040 2006 5.38 213132 1.5 16024
SPSS--回归-多元线性回归模型案例解析！(一） 多元线性回归，主要是研究一个因变量与多个自变量之间的相关关系，跟一元回归原理差不多，区别在于影响因素（自变量）更多些而已，例如：一元线性回归方程为： 毫无疑问，多元线性回归方程应该为： 上图中的x1, x2, xp分别代表“自变量”Xp截止，代表有P个自变量，如果有“N组样本，那么这个多元线性回归，将会组成一个矩阵，如下图所示： 那么，多元线性回归方程矩阵形式为： 其中：代表随机误差，其中随机误差分为：可解释的误差和不可解释的误差，随机误差必须满足以下四个条件，多元线性方程才有意义（一元线性方程也一样） 1：服成正太分布，即指：随机误差必须是服成正太分别的随机变量。 2：无偏性假设，即指：期望值为0 3：同共方差性假设，即指，所有的随机误差变量方差都相等 4：独立性假设，即指：所有的随机误差变量都相互独立，可以用协方差解释。 今天跟大家一起讨论一下，SPSS---多元线性回归的具体操作过程，下面以教程教程数据为例，分析汽车特征与汽车销售量之间的关系。通过分析汽车特征跟汽车销售量的关系，建立拟合多元线性回归模型。数据如下图所示：
点击“分析”——回归——线性——进入如下图所示的界面：
将“销售量”作为“因变量”拖入因变量框内，将“车长，车宽，耗油率，车净重等10个自变量拖入自变量框内，如上图所示，在“方法”旁边，选择“逐步”，当然，你也可以选择其它的方式，如果你选择“进入”默认的方式，在分析结果中，将会得到如下图所示的结果：（所有的自变量，都会强行进入） 如果你选择“逐步”这个方法，将会得到如下图所示的结果：（将会根据预先设定的“F统计量的概率值进行筛选，最先进入回归方程的“自变量”应该是跟“因变量”关系最为密切，贡献最大的，如下图可以看出，车的价格和车轴跟因变量关系最为密切，符合判断条件的概率值必须小于0.05，当概率值大于等于0.1时将会被剔除）
正交回归（正交多项式回归） 多项式回归虽然是一种有效的统计方法，但这种方法存在着两个缺点：一是计算量较大，特别是当自变量个数较多，或者自变量幂较高时，计算量迅速增加；二是回归系数间存在着相关性，从而剔除一个变量后还必须重新计算求出回归系数。 当自变量x的取值是等间隔时，我们可以利用正交性原理有效地克服上述缺点。这种多项式回归方法就是本节将要介绍的正交多项式回归。 一、正交多项式回归的数学模型 设变量y和x的n组观测数据服从以下k次多项式 (2-4-17) 令 (2-4-18) …分别是x的一次、二次,…k次多项式，a ij是一些适当选择的常数，如何选择将在下面讨论(i=1,2,…，n)。将(2-4-18)式代入(2-4-17)式，则有 (2-4-19) 比较(2-4-19)和(2-4-17)式可知，二者系数间存在简单的函数关系，只要求出，就可以求出。 若把…看作新的自变量，则(2-4-19)式就成为一个k元线性模型，其结构矩阵为
(2-4-20) 正规方程为 (2-4-21) (2-4-22) 其中 在上节中我们遇到的困难是解正规方程系数矩阵的工作量太大，如果我们有办法使其对角线上的元素不为零，而其余元素均为零，那么计算就大大简化了，而且同时消去了系数间的相关性。 对于…我们可以通过选择系数a10,a21,a20,…,a k,k-,…,a k0使得 i (2-4-23) （2-4-24）
则正规方程组为 (2-4-29) 回归系数为 (2-4-30) 满足(2-4-23)和(2-4-24)式的多项式组…我们称之为正交多项式。显然这里关键的问题是如何找出一组正交多项式。换言之，就是如何选择系数a10,a21,a20,…,a k,k-i,…,a k0使(2-4-23)和(2-4-24)式成立。 在正交多项式回归中自变量的选择是等间隔的，设间隔为h,x0=a, 则 (2-4-31)
某农场负责人认为早稻收获量（y ：单位为kg/公顷）与春季降雨（x 1：单位为mm ）和春季温度(x 2：单位为℃)有一定的联系，通过7组试验获得了相关的数据。利用Excel 得到下面的回归结果（α=0.1）： 方差分析表 （2）写出早稻收获量与春季降雨量、春季温度的多元线性回归方程，并解释各回归系数的意义。 （3）检验回归方程的线性关系是否显著？ （4）检验各回归系数是否显著？ （5）计算判定系数2 R ，并解释它的实际意义。 （6）计算估计标准误差Se ，并解释它的实际意义。 （每个空格为0.5分） -----3分 2、设总体回归模型为Y ＝1 2 1 2 x x αεββ+ ++ 估计回归方程为y ?＝1 2 1 2 ???x x αββ++，由EXCEL 输出结果可知，y ?＝120.3914.92218.45-++x x ，回归系数1 ?β 的意义指在温度不变的条件下，当降雨量每增加1mm ，早稻收获量平均增加14.92kg/公顷；回归系数 2 ?β 的意义指在降雨量不变的条件下， 当温度增加1℃，早稻收获量平均增加218.45kg/公顷。 ---5分
3、由于p 值=0.000075＜α=0.05，则拒绝原假设，即表明回归方程的线性关系是显著的。 ---2分 4、由于各回归系数的P 值均小于α（0.05），所以各回归系数是显著的。 ---2分 5、 2 13878495.67 0.9914000000 = ==SSR SST R ，表示早稻收获量的总变异中有99%的部分可以由降雨量、温度的联合变动来解释。 ---4分 6、 174.29= ===e S （k 为自变量个数） ，是总体回归模型中随机扰动项ε的标准差的无偏估计量，用来衡量回归方程拟合程度的分析指标，e S 越大， 拟合程度越低；e S 越小，拟合程度越高. ---4分
第三十四课 非线性回归分析 现实世界中严格的线性模型并不多见，它们或多或少都带有某种程度的近似；在不少情况下，非线性模型可能更加符合实际。由于人们在传统上常把“非线性”视为畏途，非线性回归的应用在国内还不够普及。事实上，在计算机与统计软件十分发达的令天，非线性回归的基本统计分析已经与线性回归一样切实可行。在常见的软件包中（诸如SAS 、SPSS 等等），人们已经可以像线性回归一样，方便的对非线性回归进行统计分析。因此，在国内回归分析方法的应用中，已经到了“更上一层楼”，线性回归与非线性回归同时并重的时候。 对变量间非线性相关问题的曲线拟合，处理的方法主要有： ● 首先决定非线性模型的函数类型，对于其中可线性化问题则通过变量变换将其线 性化，从而归结为前面的多元线性回归问题来解决。 ● 若实际问题的曲线类型不易确定时，由于任意曲线皆可由多项式来逼近，故常可 用多项式回归来拟合曲线。 ● 若变量间非线性关系式已知（多数未知），且难以用变量变换法将其线性化，则进 行数值迭代的非线性回归分析。 一、 可变换成线性的非线性回归 在实际问题中一些非线性回归模型可通过变量变换的方法化为线性回归问题。例如，对非线性回归模型 ()t i t i t i t ix b ix a y εα+++=∑=2 1 0sin cos (34.1) 即可作变换 t t t t t t t t x x x x x x x x 2sin ,2cos ,sin ,cos 4321==== 将其化为多元线性回归模型。一般地，若非线性模型的表达式为 ()()()t m m t t t x g b x g b x g b b y ++++= 22110 (34.2) 则可作变量变换 ()()() t m m t t t t t x g x x g x x g x ===* 2*21*1,,, (34.3) 将其化为线性回归模型的表达式，从而用前面线性模型的方法来解决，其中(34.3)中的x t 也 可为自变量构成的向量。 这种变量变换法也适用于因变量和待定参数 b i 。如 ()[]1exp 2132211-++=t t t t t x x b x b x b a y (34.4) 时上式两边取对数得 ()1ln ln 2132211-+++=t t t t t x x b x b x b a y (34.5) 现作变换 1,ln ,ln 2130*-===t t t t t x x x a b y y (34.6) 则可得线性表达式
回归分析MATLAB 工具箱 一、多元线性回归 多元线性回归：p p x x y βββ+++=...110 1、确定回归系数的点估计值： 命令为：b=regress(Y , X ) ①b 表示???? ?? ????????=p b βββ?...??10 ②Y 表示????????????=n Y Y Y Y (2) 1 ③X 表示??? ??? ????? ???=np n n p p x x x x x x x x x X ...1......... .........1 (12) 1 22221 11211 2、求回归系数的点估计和区间估计、并检验回归模型： 命令为：[b, bint,r,rint,stats]=regress(Y ,X,alpha) ①bint 表示回归系数的区间估计. ②r 表示残差. ③rint 表示置信区间. ④stats 表示用于检验回归模型的统计量,有三个数值：相关系数r 2、F 值、与F 对应的概率p. 说明：相关系数2 r 越接近1,说明回归方程越显著；)1,(1-->-k n k F F α时拒绝0H ,F 越大,说明回归方程越显著；与F 对应的概率p α<时拒绝H 0,回归模型成立. ⑤alpha 表示显著性水平(缺省时为0.05) 3、画出残差及其置信区间. 命令为：rcoplot(r,rint) 例1.如下程序. 解：(1)输入数据. x=[143 145 146 147 149 150 153 154 155 156 157 158 159 160 162 164]'; X=[ones(16,1) x]; Y=[88 85 88 91 92 93 93 95 96 98 97 96 98 99 100 102]'; (2)回归分析及检验. [b,bint,r,rint,stats]=regress(Y ,X) b,bint,stats 得结果：b = bint =
国际旅游外汇收入是国民经济发展的重要组成部分，影响一个国家或地区旅游收入的因素包括自然、文化、社会、经济、交通等多方面的因素，本例研究第三产业对旅游外汇收入的影响。《中国统计年鉴》把第三产业划分为12个组成部分，分别为x1农林牧渔服务业,x2地质勘查水利管理业,x3交通运输仓储和邮电通信业,x4批发零售贸易和餐饮业,x5金融保险业,x6房地产业,x7社会服务业,x8卫生体育和社会福利业，x9教育文化艺术和广播,x10科学研究和综合艺术,x11党政机关，x12其他行业。采用1998年我国31 个省、市、自治区的数据，以国际旅游外汇收入（百万美元）为因变量y，以如上12 个行业为自变量做多元线性回归，其中自变量单位为亿元人民币。即样本量n=31，变量p=12。 利用SPSS软件对数据进行处理，输出： 图1 输入/移除变量 图1即输入了所有模型中的变量，分别为 x1：农林牧渔服务业 x2：地质勘查水利管理业 x3：交通运输仓储和邮电通信业 x4：批发零售贸易和餐饮业 x5：金融保险业 x6：房地产业 x7：社会服务业 x8：卫生体育和社会福利业 x9：教育文化艺术和广播 x10：科学研究和综合艺术 x11：党政机关 x12：其他行业
图2 模型概述 即回归方程对样本观测值的拟合程度，复相关系数R=0.875，决定系数R 2=0.935。由决定系数接近1，得出回归拟合的效果较好，但是并不能作为严格的显著性检验。由R 2决定模型优劣时需慎重，尤其是样本量与自变量个数接近时。 图3 回归方程显著性的F 检验 F=10.482，F α(n,n-p-1)=F α(30,18)=2.11（α=0.05），P 值=0.000，表明回归方程高度显著，即12个自变量整体对因变量y 产生显著线性影响。但是并不能说明回归方程中所有自变量都对因变量y 有显著影响，因此还要对回归系数进行检验。 图4 回归系数的显著性t 检验（t 0.05（20）=1.725） y 对12个自变量的线性回归方程为： 1234 5678 9101112y 205.388 1.438 2.622 3.2970.9465.521 4.068 4.16215.40417.3389.15510.536 1.37x x x x x x x x x x x x =--++--++-++-+
正交多项式拟合在解决实际问题的应用为了避免正规矩阵的“病态”问题，提出了正交多项式拟合方法。尤其是实际工作中的误差是不可避免的，而正交多项式拟合能够更好的考虑到自变量和因变量的误差，拟合出来的曲线更合理，也更便于计算机实现。 正交多项式拟合的实用性和一般性使得它在工程项目，机械制造，甚至人工智能等领域应用广泛，先简要介绍其中的几个方面。 1、边缘识别是利用数字图像法检测结构变形的一种方法，其中一种是需要多项式拟合，且拟合的精度决定了识别的精度，为提高拟合精度，就需要高次多项式，但又会产生“病态”，因此采用正交多项式拟合方法就十分必要了。将基于正交多项式拟合的边缘识别应用到梁变形检测中，拟合程度高，检测效果好。 2、提高零炮检距地震道的拟合精度是保幅地震资料处理的关键环节之一。相对于常规地震叠加技术，二阶多项式拟合技术能够提高零炮检距地震道的拟合精度。但是不同时刻地层反射信号的A VO特性是变化的，仅仅利用二阶多项式来实现零炮检距地震道拟合是达不到精度要求的。采用正交多项式描述CMP道集上不同时刻地层反射信号的A VO特性，建立正交多项式系数谱;并根据SVD估计有效波的能量，自适应地确定不同时刻拟合零炮检距地震道信号所需的阶次，实现高精度的零炮检距地震道拟合。合成记录和实际数据的处理表明该方法能够有效地减小零炮检距地震道拟合误差，提高拟合精度。 3、水泵性能曲线一般是用图表或曲线图给出，但在水泵选型或泵站经济运行中，常常有必要知道水泵性能曲线的函数表达式。对此，可以根据试验数据或性能图上的数据进行拟合。目前，在水泵性能曲线拟合中较常用的一般多项式的最小二乘拟合，需要求解一非线性方程组，增加了数据存贮量，而且在多项式次数较高时方程容易出现病态。如果采用正交多项式，则对n组数据，可以一直拟合到n-1次多项式而结果仍然稳定，因此提出对离心泵性能曲线的等流量间距的正交多项式回归法。 采用Forsythe递推法生成正交多项式，根据显著性检验来确定拟合的多项式次数，并在计算中佐以作图程序来进行直观分析。并证明了这种方法的实用性。 采用正交多项式并最终转化为一般多项式来拟合水泵性能曲线，避免了解联立方程组的繁琐和不稳定性，并根据数据分析来确定多项式的次数m，使m的取值不受人为经验限制。另外，各正交多项式之间互相正交，增减(最高)项次时，低次项的拟合系数并不改变，这就避免了重复计算。
多元回归分析 在大多数的实际问题中，影响因变量的因素不是一个而是多个，我们称这类回问题为多元回归分析。可以建立因变量y与各自变量x j(j=1,2,3,…,n)之间的多元线性回归模型： 其中：b0是回归常数；b k(k=1,2,3,…,n)是回归参数；e是随机误差。 多元回归在病虫预报中的应用实例: 某地区病虫测报站用相关系数法选取了以下4个预报因子；x1为最多连续10天诱蛾量(头)；x2为4月上、中旬百束小谷草把累计落卵量(块)；x3为4月中旬降水量(毫米)，x4为4月中旬雨日(天)；预报一代粘虫幼虫发生量y（头/m2）。分级别数值列成表2-1。 预报量y：每平方米幼虫0~10头为1级，11~20头为2级，21~40头为3级，40头以上为4级。 预报因子：x1诱蛾量0~300头为l级，301~600头为2级，601~1000头为3级，1000头以上为4级；x2卵量0~150块为1级，15l~300块为2级，301~550块为3级，550块以上为4级；x3降水量0~10.0毫米为1级，10.1~13.2毫米为2级，13.3~17.0毫米为3级，17.0毫米以上为4级；x4雨日0~2天为1级，3~4天为2级，5天为3级，6天或6天以上为4级。 表2-1 x1 x2 x3 x4 y 年蛾量级别卵量级别降水量级别雨日级别幼虫密 度 级别 1960 1022 4 112 1 4.3 1 2 1 10 1 1961 300 1 440 3 0.1 1 1 1 4 1 1962 699 3 67 1 7.5 1 1 1 9 1 1963 1876 4 675 4 17.1 4 7 4 55 4 1965 43 1 80 1 1.9 1 2 1 1 1 1966 422 2 20 1 0 1 0 1 3 1 1967 806 3 510 3 11.8 2 3 2 28 3
常见非线性回归模型 1.简非线性模型简介 非线性回归模型在经济学研究中有着广泛的应用。有一些非线性回归模型可以通过直接代换或间接代换转化为线性回归模型, 但也有一些非线性回归模型却无法通过代换转化为线性回归模型。 柯布—道格拉斯生产函数模型 εβα+=L AK y 其中 L 和 K 分别是劳力投入和资金投入, y 是产出。由于误差项是可加的, 从而也不能通过代换转化为线性回归模型。 对于联立方程模型, 只要其中有一个方程是不能通过代换转化为线性, 那么这个联立方程模型就是非线性的。 单方程非线性回归模型的一般形式为 εβββ+=),,,;,,,(2121p k x x x f y ΛΛ 2.可化为线性回归的曲线回归 在实际问题当中，有许多回归模型的被解释变量y 与解释变量x 之间的关系都不是线性的，其中一些回归模型通过对自变量或因变量的函数变换可以转化为
线性关系，利用线性回归求解未知参数，并作回归诊断。如下列模型。 （1）εββ++=x e y 10 （2）εββββ+++++=p p x x x y Λ2210 （3）ε+=bx ae y (4)y=alnx+b 对于（1）式，只需令x e x ='即可化为y 对x '是线性的形式εββ+'+=x y 10，需要指出的是，新引进的自变量只能依赖于原始变量，而不能与未知参数有关。 对于（2）式，可以令1x =x ,2x =2x ,…, p x =p x ,于是得到y 关于1x ,2x ,…, p x 的线性表达式εββββ+++++=p p x x x y Λ22110 对与（3）式，对等式两边同时去自然数对数，得ε++=bx a y ln ln ,令 y y ln =',a ln 0=β,b =1β，于是得到y '关于x 的一元线性回归模型： εββ++='x y 10。 乘性误差项模型和加性误差项模型所得的结果有一定差异，其中乘性误差项模型认为t y 本身是异方差的，而t y ln 是等方差的。加性误差项模型认为t y 是等方差的。从统计性质看两者的差异，前者淡化了t y 值大的项（近期数据）的作用，强化了t y 值小的项（早期数据）的作用，对早起数据拟合得效果较好，而后者则对近期数据拟合得效果较好。 影响模型拟合效果的统计性质主要是异方差、自相关和共线性这三个方面。异方差可以同构选择乘性误差项模型和加性误差项模型解决，必要时还可以使用加权最小二乘。
本次教程的主要内容包含： 一、多元线性回归 2# 多元线性回归：regress 二、多项式回归 3# 一元多项式：polyfit或者polytool 多元二项式：rstool或者rsmdemo 三、非线性回归 4# 非线性回归：nlinfit 四、逐步回归 5# 逐步回归：stepwise 一、多元线性回归 多元线性回归： 1、b=regress(Y, X ) 确定回归系数的点估计值
2、[b, bint,r,rint,stats]=regress(Y,X,alpha)求回归系数的点估计和区间估计、并检验回归模型 ①bint表示回归系数的区间估计. ②r表示残差 ③rint表示置信区间 ④stats表示用于检验回归模型的统计量,有三个数值：相关系数r2、F值、与F对应的概率p 说明：相关系数r2越接近1，说明回归方程越显著；时拒绝H0，F越大，说明回归方程越显著；与F对应的概率p<α时拒绝H0 ⑤alpha表示显著性水平(缺省时为0.05) 3、rcoplot(r,rint)画出残差及其置信区间 具体参见下面的实例演示 4、实例演示，函数使用说明 (1)输入数据 1.>>x=[143 145 146 147 149 150 153 154 155 156 157 158 159 160 162 164]'; 2.>>X=[ones(16,1) x]; 3.>>Y=[88 85 88 91 92 93 93 95 96 98 97 96 98 99 100 102]'; 复制代码 (2)回归分析及检验 1. >> [b,bint,r,rint,stats]=regress(Y,X) 2. 3. b = 4. 5. -1 6.0730 6.0.7194 7. 8. 9.bint =