可线性化的一元非线性回归讲解
- 格式:ppt
- 大小:1.15 MB
- 文档页数:31
第二篇回归分析与相关分析第7章可线性化的非线性回归线性模型在现实中其实是较少出现的,大量的规律都表现为非线性模型。
线性模型的价值与其说在于处理线性问题,毋宁说在于处理线性化的非线性模型,或者说近似拟合相互作用不太强烈非线性系统。
在实际工作中,我们会遇到许多简单而又实用的非线性模型,这些模型都可以通过某种数学变换转换为线性关系,从而利用最小二乘技术进行回归运算。
比较常见的有指数模型、对数模型、幂指数模型、双曲线模型、抛物线模型、正态分布模型,等等。
下面逐一举例说明。
§7.1 线性与非线性非线性是相对于线性关系而言的。
当变量数目一定的时候,线性关系只有一种,而非线性关系各式各样,千变万化。
传统的科学理论主要是基于线性理论建立起来的,非线性科学的兴起历史并不长久。
虽然非线性理论年龄尚幼,但简单的非线性关系的应用却历史悠久。
首先需要区别函数y=f(x)对自变量x的依赖关系。
对于一个变量而言,线性形式为=,bxy+a这是只有一个自变量的一次多项式表达,式中a、b为参数,表现为常数形式。
如果多项式出现大于1的幂次,就是非线性函数。
最简单的非线性函数之一是抛物线,这是一种二次多项式=2,cy++axbx式中a、b、c为参数。
一般函数为f=,yμ(x),式中μ为参量集。
我们可以从如下方面理解线性关系和非线性关系的区别。
第一,线性是简单的比例关系,而非线性则是对简单比例关系的偏离。
有位学者打了一个通俗的比方,线性就是水涨船高,多多益善;非线性就是过犹不及,物极必反。
以三次曲线为例,该曲线是对线性关系的局部偏离,科学上称之为“微扰”或者“摄动”。
第二,线性关系表明各个变量之间互不相干,独立贡献,非线性关系则意味着相互作用。
线性关系暗示各个变量可以相互叠加,对于非线性而言,暗示整体不等于部分之和。
因此,线性回归要求各个自变量彼此独立,因为最小二乘技术主要是基于线性思想发展的一种参数求解方法。
第三,线性关系意味着信号的频率成分不变,而非线性关系则暗示频率结构发生变化。
⼀元⾮线性回归⼀元⾮线性回归有时,回归函数并⾮是⾃变量的线性函数,但通过变换可以将之化为线性函数,从⽽利⽤⼀元线性回归对其分析,这样的问题是⾮线性回归问题。
为了检验X射线得到杀菌作⽤。
⽤200kv的X射线照射杀菌,每次照射6分钟,照射次数为x,照射后所剩的细菌数为y,下表是⼀组试验结果x y x y x y1 783 815415282 621 912916203 433 1010317164 431 117218125 287 12501996 251 13432077 175 1431根据经验知道y关于x的曲线回归⽅程如bxyae试给出具体的回归⽅程,并对其对应的决定系数R^2和剩余标准差s。
⼀、⾸先描出数据的散点图,如下图散点图呈现出⼀个明显的向下且下凸的趋势,可能选择的函数关系很多,⽐如我们可以给出如下三个曲线函数:1.1bay x=+(1)2.baxy=(2)3.bxy ae=(3)⼆、参数估计1.为了能采⽤⼀元线性回归分析⽅法,我们做如下变换yv ln=u=x则(1)式的曲线图就化为如下的散点图u i∑= 3655 i v ∑=87.22497u =182.75 v =4.3612482ui∑=1611149 u i i v ∑=21281.692nu =667951.3 nuv =15940.36uu l = 943197.8 uv l =5341.3291B =uuuvl l =130.9375 0B=v - B1=-388.301得出⽅程v=-388.301+130.9375x四、结束语对于可化为线性模型的回归问题,⼀般先将其化为线性模型,然后再⽤最⼩⼆乘法求出参数的估计值,最后再经过适当的变换,得到所求回归曲线。
在熟练掌握最⼩⼆乘法的情况下,解决上述问题的关键是确定曲线类型和怎样将其转化为线性模型。
确定曲线类型⼀般从两个⽅⾯考虑:⼀是根据专业知识,从理论上推导或凭经验推测、⼆是在专业知识⽆能为⼒的情况下,通过绘制和观测散点图确定曲线⼤体类型。
第五章回归分析第一节一元线性回归中的参数估第二节一元线性回归中的假设检第三节可线性化的一元非线性回归第四节多元线性回归中的参数估计有时两个变量之间的关系可以不是直线(或线性)的相关关系,而是某种曲线(或非线性)的相关关系。
例1 出钢时所用的盛钢水的钢包,由于钢水对耐火材料的浸蚀,容积不断增大。
我们希望找到使用次数增大的容积之间的关系y 与之间的关系。
x 对一钢包作试验,测得的数据列于下表:表5-2使用次数增大容积使用次数增大容积2 6.421010.498201059x y x y 38.201110.5949.581210.6059.501310.8069.701410.60710.001510.90993107689.931610.7699.99画散点图,从图上我们看到开始浸蚀速度快然后逐渐减慢而从图上我们看到,开始浸蚀速度快,然后逐渐减慢,而x点的分布越来越接近于一条平行于轴的直线,因此钢包容积不会无限增加。
显然,将此例看成一元线性回归是不合适的。
这显然,将此例看成元线性回归是不合适的。
这种需要配曲线的情况就是非线性回归或曲线回归。
此例中应该怎样配曲线呢?配曲线的一般方法如下:先对两个变量和作次试验观察得画出点图根据点图x y n 12,画出点图,根据点图确定需配曲线的类型。
通常选择下面六类曲线之一:(),,1,2,,i i x y i n = (1)双曲线(2)幂函数曲线1ba =+,0,by ax x =>其中0a >y x(3)指数曲线(4)倒指数曲线bxbxy ae=其中0a >y ae=其中0a >(5)对数曲线(6)S 型曲线1=log ,y a b x =+0x >xy a be-+然后,由对试验数据确定每一类曲线的未知参数与n a 。
采用的方法是通过变量代换把非线性回归化成线b 性回归,即采用非线性回归线性化的方法。
下面介绍三类曲线线性化的具体方法三类曲线线性化的具体方法。