《非线性回归模型》PPT课件

可以根据理论分析或过去的实际经验事先确定； 不能根据理论或过去积累的经验确定时，根据实际资料作散点图，从其
分布形状选择适当的曲线来配合。
2、确定相关函数中的未知参数
最小二乘法是确定未知参数最常用的方法。
选择合适的曲线类型不是一件轻而易举的工作，主要依靠专 业知识和经验，也可以通过计算剩余均方差来确定。
对于此类模型，可以直接通过变量代换将其化为 线性模型。
换元过程和参数估计法如表6.2.1所示。
8
表6.2.1 代换
直接换元法的变量
9
例6.2.1：设某商店1991—2000年的商品流通费用率和商 品零售额资料如表6.2.2所示。根据表中资料，配合适当 的回归模型分析商品零售额与流通费用率的关系，若2001 年该商店商品零售额为36.33万元，试预测2001年的商品 流通费用额。
由于这类模型的因变量没有变形，所以可以直接采用最小二乘 法估计回归系数并进行检验和预测。
第二类，间接代换型
这类非线性回归模型经常通过对数变形代换间接地化为线性回 归模型。如式(6.1.5)、式(6.1.6)和式(6.1.7)。
6
由于这类模型在对数变形代换过程中改变了因变量的形态，使 得变形后模型的最小二乘估计失去了原模型的残差平方和为最 小的意义，从而估计不到原模型的最佳回归系数，可能造成回 归模型与原数列之间的较大偏差。
Y f ( X1, X 2, , X k ;b1, b2, , bp ) v
(6.4.1)
式中：k—自变量的个数；p—待估计参数的个数；f—非线性函数。
利用泰勒级数展开式，将模型(6.4.1)展开为泰勒级数，进行 逐次线性逼近，其步骤如下：
(1)给定参数
值
b1, b2, , bp
的初始 ，将非b1线0, b性20,函数, bpf0，按照给定的初
第三类，非线性型
这类非线性回归模型属于不可线性化的非线性回归模型。如式 (6.1.8)和式(6.1.9)。
第一类和第二类非线性回归模型相对于第三类，又称 为可线性化的非线性回归模型。
7
§6.2 直接换元法
对于式(6.1.1)、式(6.1.2)、式(6.1.3)和式 (6.1.4)所示的非线性回归模型，虽然包含有非线 性变量，但因变量与待估计参数之间的关系却是 线性的。
第六章 非线性回归模型
§6.1 非线性回归模型的形式及其分类 §6.2 直接换元法 §6.3 间接换元法 §6.4 非线性回归模型的线性逼近
1
§6.1 非线性回归模型的形式 及其分类
在社会现实经济生活中，很多现象之间的关系并不是线性 关系，对这种类型现象的分析预测一般要应用非线性回归 预测或曲线回归预测。
0.045199 10 268.58 (51.0)2 1.9578
由于商品零售额增加，流通费用率呈下降趋势，两者之间为负相关关系， 故相关系数取负值-0.989 8，说明两者高度相关，用双曲线回归模型 配合进行预测是可靠的。
第五步，预测。
将2001年该商店零售额36.33万元代入模型，得2001年流通费用率为：
正确应用回归分析预测时应注意：
用定性分析判断现象之间的依存关系； 避免回归预测的任意外推； 应用合适的数据资料。
22
感谢下 载
始值
b10, b20,展,开bp为0 泰勒级数，即
Y f ( X1, X 2, , X k ;b10, b20, , bp0 )
p
i 1
f ( bi
)bi0 (bi
bi0 )
1 2
p i 1
2 f ( bi2
)bi0 (bi
b0 )2
v
(6.4.2)
19
取(6.4.2)右边的前两项，略去f展开式第三项及以后的所有 高阶项，即可得到非线性模型的一个线性近似。即
17
泰勒级数：
定理：设函数 f (x) 在点x0的某一邻U域(x0)
内具有各阶
导数f (，x)则
在该邻域内能展开成泰勒级数的充分必
要条件是 泰勒公Rn式(x)中的n余项
当
时
的极限为零。
f (x)
函数
f (x)
f
(x0 )
在f (xx00)的(x某 x一0) 邻f域2(!x的0) n(x阶泰x0)勒2 公式 为f (nn：)(!x0)
3
常见的非线性回归模型有以下几种：
(1)双曲线模型，其方程式为
yi
1
2
1 xi
ui
(2)多项式模型，其方程式为
(6.1.1)
yi 1 2xi 3xi2 n ui
(3)对数模型，其方程式为
(6.1.2)
yi 1 2 ln xi ui
(4)三角函数模型，其方程式为
(6.1.3)
yi 1 2 sin xi ui (6.1.4)
4
(5)指数模型，其方程式为
yi =abxi ui y e0 1x1i 2x2i ui
i
(6.1.5) (6.1.6)
(6)幂函数模型，其方程式为
yi axib ui (6.1.7)
(7)罗吉斯曲线，其方程式为
yi
0 1xi
1 e e0 1xi
Y f ( X1, X 2, , X k ;b10, b20, , bp0)
p

i 1
f bi0 ( bi
)bi 0
p i 1
f bi ( bi
)bi 0
v
(6.4.3)
(2)对(6.4.3)利用OLS估计出一组参 bˆ11,bˆ21, ,bˆp1
数
。
bˆ11,bˆ21, ,bˆp1
(3)重复步骤(1)和(2)中的过程，以
(6.1.5) (6.1.5)
yi axib ui yi axi eb ui
(6.1.7) (6.1.7)
对式(6.1.5’)、式(6.1.6)和式(6.1.7’)两边取对
数，得
ln yi ln a ln b xi ui
(6.3.1)
ln yi 0 1x1i 2x2i ui (6.3.2)
ui
(6.1.8)
(8)修正指数增长曲线，其方程式为
yi a br xi ui (6.1.9)
5
根据非线性回归模型线性化的不同性质，上述模型一般可 以分成三种类型：
第一类，直接换元型
这类非线性回归模型通过简单的变量换元可直接化为线性回归 模型。如式(6.1.1)、式(6.1.2)、式(6.1.3)和式(6.1.4) 。
对此类模型，通常可通过对回归方程两边取对数将其化为 可以直接换元的形式。
这种先取对数再进行变量代换的方法称为间接换元法。 为使取对数后回归方程的形式更为简捷，不妨适当变换式
(6.1.5)和式(6.1.7)中随机扰动项的形式，将式(6.1.5) 和式(6.1.7)改写为：
14
yi =abxi ui yi abxi eui
解：
第一步，绘制散点图(见图6.2.1)。从图中可以清楚地看到：随着商品零 售额的增加，流通费用率有不断下降的趋势，呈双曲线形状。
10
11
第二步，建立双曲线模型。即
令
xi
1 xi
得
yi
1
2
1 xi
ui
yi 1 2 xi ui
第三步，用OLS法估计参数。即
n
2
n
xiyi xi2 (
通过变量代换，可以将很多的非线性回归转化为线性回归。 因而，可以用线性回归方法解决非线性回归预测问题。
非线性回归模型按变量个数也可以分为：一元非线性回归 模型和多元非线性回归模型。
2
曲线的形式也因实际情况不同而有多种形式。配曲线问题主 要包括： 1、选配拟合曲线（即确定变量间函数的类型）：
y 2.5611 42.8726
1
3.74%
36.33
故2001年该商店商品流通费用总额预测值为：
36.33×3.74％=1.358 7万元
13
§6.3 间接换元法
对于式(6.1.5)、式(6.1.6)和式(6.1.7)所示的非线性回 归模型，因变量与待估计参数之间的关系也是非线性的， 因此不能通过直接换元化为线性模型。
(x
x0 )n
Rn (x)
拉格朗日型余项Rn (x)
f (n1) ( )
(n 1)!
(x
x0 )n1,
是x与x0之间的某个值
f (x)
函数
f (x)
f
(x0) 的 f泰(x勒0)(级x 数x0为) ：f 2(!x0 ) (x x0)2
f
(n) ( x0 ) n!
(x
x0 )n
18
给定一般的非线性函数模型为 ：
ln yi ln a b ln xi ui
(6.3.3)
式(6.3.1)、式(6.3.2)和式(6.3.3)皆可经过适当的换元直
接化为线性回归方程。 15
例6.3.1：柯布—道格拉斯(Cobb-Douglas)生产函数模型
y AK L eu
(6.3.4)
就是一个可以线性化的模型。其中α为资金投入的弹性系数， β为劳动力投入的弹性系数。
与
相等或充分接近，即 对于事先给
定的小正数
，有
^^
bin bi,n1
^
,i 1, 2,, p
bi ,n 1
(6.4.4)
成立，则停止。
(5)如(4)中所得的参数点列不收敛，这时返回(1)，选取
21
一组新的初始参数值，重新进行逐次线性逼近。
应用回归预测法时应注意的问题
应用回归预测法时应首先确定变量之间是否存在相关 关系。如果变量之间不存在相关关系，对这些变量应 用回归预测法就会得出错误的结果。