SAS统计之第六章非线性回归

非线性回归一、可化为线性回归的曲线回归在实际问题当中，有许多回归模型的被解释变量y 与解释变量x 之间的关系都不是线性的，其中一些回归模型通过对自变量或因变量的函数变换可以转化为线性关系，利用线性回归求解未知参数，并作回归诊断。

如下列模型。

εββ++=x e y 10-------（1） εββββ+++++=p p x x x y 2210--------（2）εe ae y bx =--------------------（3） ε+=bx ae y -------------（4）对于（1）式，只需令x e x ='即可化为y 对x '是线性的形式εββ+'+=x y 10，需要指出的是，新引进的自变量只能依赖于原始变量，而不能与未知参数有关。

对于（2）式，可以令1x =x ,2x =2x ,…, p x =p x ,于是得到y 关于1x ,2x ,…, p x 的线性表达式εββββ+++++=p p x x x y 22110对与（3）式，对等式两边同时去自然数对数，得ε++=bx a y ln ln ,令 y y ln =',a ln 0=β,b =1β，于是得到y '关于x 的一元线性回归模型： εββ++='x y 10。

对于（4）式，当b 未知时，不能通过对等式两边同时取自然数对数的方法将回归模型线性化，只能用非线性最小二乘方法求解。

回归模型（3）可以线性化，而（4）不可以线性化，两个回归模型有相同的回归函数bx ae ，只是误差项ε的形式不同。

（3）式的误差项称为乘性误差项，（4）式的误差项称为加性误差项。

因而一个非线性回归模型是否可以线性化，不仅与回归函数的形式有关，而且与误差项的形式有关，误差项的形式还可以有其他多种形式。

乘性误差项模型和加性误差项模型所得的结果有一定差异，其中乘性误差项模型认为t y 本身是异方差的，而t y ln 是等方差的。

非线性回归分析简介在统计学和机器学习领域，回归分析是一种重要的数据分析方法，用于研究自变量和因变量之间的关系。

在实际问题中，很多情况下自变量和因变量之间的关系并不是简单的线性关系，而是呈现出一种复杂的非线性关系。

因此，非线性回归分析应运而生，用于描述和预测这种非线性关系。

本文将介绍非线性回归分析的基本概念、方法和应用。

一、非线性回归分析概述1.1 非线性回归模型在回归分析中，最简单的模型是线性回归模型，即因变量和自变量之间的关系可以用一个线性方程来描述。

但是在实际问题中，很多情况下因变量和自变量之间的关系并不是线性的，而是呈现出曲线、指数、对数等非线性形式。

这时就需要使用非线性回归模型来拟合数据，通常非线性回归模型可以表示为：$$y = f(x, \beta) + \varepsilon$$其中，$y$为因变量，$x$为自变量，$f(x, \beta)$为非线性函数，$\beta$为参数向量，$\varepsilon$为误差项。

1.2 非线性回归分析的优势与线性回归相比，非线性回归分析具有更强的灵活性和适用性。

通过使用适当的非线性函数，可以更好地拟合实际数据，提高模型的预测能力。

非线性回归分析还可以揭示数据中潜在的复杂关系，帮助研究人员更好地理解数据背后的规律。

1.3 非线性回归分析的挑战然而，非线性回归分析也面临一些挑战。

首先，选择合适的非线性函数是一个关键问题，需要根据实际问题和数据特点进行合理选择。

其次，非线性回归模型的参数估计通常比线性回归模型更复杂，需要使用更为复杂的优化算法进行求解。

因此，在进行非线性回归分析时，需要谨慎选择模型和方法，以确保结果的准确性和可靠性。

二、非线性回归分析方法2.1 常见的非线性回归模型在实际应用中，有许多常见的非线性回归模型，常用的包括多项式回归模型、指数回归模型、对数回归模型、幂函数回归模型等。

这些模型可以根据实际问题的特点进行选择，用于描述和预测自变量和因变量之间的非线性关系。

非线性回归分析简介非线性回归分析是一种用于建立非线性关系模型的统计方法。

与线性回归不同，非线性回归可以更好地拟合非线性数据，提供更准确的预测结果。

在许多实际问题中，数据往往呈现出非线性的趋势，因此非线性回归分析在实际应用中具有广泛的应用价值。

一、非线性回归模型的基本形式非线性回归模型的基本形式可以表示为：y = f(x, β) + ε其中，y是因变量，x是自变量，β是模型参数，f(x, β)是非线性函数，ε是误差项。

非线性函数可以是任意形式的函数，如指数函数、对数函数、幂函数等。

二、非线性回归模型的参数估计与线性回归不同，非线性回归模型的参数估计不能直接使用最小二乘法。

常见的非线性回归参数估计方法有以下几种：1. 非线性最小二乘法（NLS）非线性最小二乘法是一种常用的参数估计方法，它通过最小化残差平方和来估计模型参数。

具体而言，通过迭代的方式不断调整参数，使得残差平方和最小化。

2. 非线性广义最小二乘法（GNLS）非线性广义最小二乘法是对非线性最小二乘法的改进，它在最小化残差平方和的同时，还考虑了误差项的方差结构。

通过引入权重矩阵，可以更好地处理异方差性的数据。

3. 非线性加权最小二乘法（WNLS）非线性加权最小二乘法是对非线性广义最小二乘法的进一步改进，它通过引入加权矩阵，对不同数据点赋予不同的权重。

可以根据数据的特点，调整权重矩阵，提高模型的拟合效果。

三、非线性回归模型的评估指标在进行非线性回归分析时，需要对模型进行评估，以确定模型的拟合效果。

常见的评估指标有以下几种：1. 残差分析残差分析是一种常用的评估方法，通过分析残差的分布情况，判断模型是否符合数据的分布特征。

如果残差呈现随机分布，说明模型拟合效果较好；如果残差呈现一定的规律性，说明模型存在一定的问题。

2. 决定系数（R-squared）决定系数是衡量模型拟合优度的指标，其取值范围为0到1。

决定系数越接近1，说明模型对数据的解释能力越强；决定系数越接近0，说明模型对数据的解释能力越弱。

非线性回归分析
非线性回归分析是一种分析异种资料之间的、结果变量不能用简单线性回归方法分析
的关系的统计技术。

它弥补了线性回归分析不能有效应用于某些呈非线性关系的数据组合。

非线性回归分析用来描述两个或多个变量之间的相关关系，当这种关系不是以线性方式表
示出来而且也不容易转化成一个简单的线性模型时，就需要使用非线性回归分析来评估这
种关系。

非线性回归主要解决的是自变量和因变量之间的相互关系，它可以用来进行数据
分析，建立非线性模型，对模型的准确性进行验证，并且可以对系统带有非线性特征的数
据系统进行有效控制。

非线性回归分析非常有效，特别是在虚拟验证中，表现比线性回归分析要好。

它可以
解决多种形式，灵活性和可靠性都较高，适用于非线性数据分析，同时能够用于解决复杂
系统间的互动关系。

使用此方法，可以解释出复杂系统的新特征，可以提供基于数学的标
准化算法，以及定义具有可靠性的度量标准。

非线性回归分析比线性回归分析更灵活和实用，也更复杂。

但非线性回归分析也有一
些缺点，其中最大的缺陷是模型的复杂度对计算机压力要求较高，它数据精度、特征复杂
度要求较高，如果数据不够准确，它都会给出不准确的结果。

而且它也需要更多的参数来
计算，这也增加了计算量。

因此，要想使用这项技术来正确估算和预测复杂的非线性数据，应当选择性能更好的计算机，拥有更多内存，准确的数据特征和足够的参数分析等来支持
分析。

非线性回归分析非线性回归分析是一种在统计学中用于拟合数据的技术，它可以帮助我们辨别数据之间的关系，并预测出未来可能发生的趋势。

非线性回归分析基于一般归纳推理，它是一种统计技术，能够从观测数据中取出一条不存在明显公式的非线性模型。

纳推理使用具有不同特征的实际案例（即观测数据）来推断或判断某种趋势或不确定事件的可能结果，从而避免不必要的误差，也无需耗费过多时间去建模或拟合数据。

纳推理基于观测到的现象，因此可以提供比传统统计学研究中更详细的描述。

非线性回归分析可以用来识别特定变量之间可能存在的隐含关系，并使用这些隐含关系来预测某种特定变量的行为趋势。

此，非线性回归分析被广泛应用于工业，经济，医疗，环境和许多其他领域，从而帮助人们对未来的趋势进行准确的分析和预测。

在运行非线性回归分析之前，首先要弄清楚变量之间的关系，并确定拟合的数据模式。

设我们正在研究人口增长与某地区的GDP之间的关系，我们可以建立一个非线性模型，来推测出GDP随着人口增长而发生变化的趋势。

当需要拟合非线性数据模式时，我们需要使用不同的算法。

常，可以使用最小二乘法或最小平方法来拟合数据，这种方法能够有效解决拟合问题。

有其他一些算法可以用来拟合非线性数据，例如支持向量机、神经网络以及粒子群优化算法。

此外，可以使用数据挖掘技术来检测非线性回归分析中可能存在的模式和趋势，也可以使用因子分析和多元统计分析来检验研究假设。

总而言之，非线性回归分析是一种重要的数据分析方法，它可以帮助我们识别出特定变量之间的隐含关系，并运用这些关系来准确预测未来的发展趋势，可以极大提高从复杂数据中寻找潜在规律的成功率。

外，不同的拟合算法和数据挖掘技术可以被用来构建和完善非线性模型，从而更好地提取数据上的规律和趋势。

但是，在运行非线性回归分析之前，也需要先进行相应的模型检验，以确保数据模型的准确性。

统计学中的非线性回归分析简介统计学是一门应用数学领域，涉及数据收集、整理、分析和解释的方法和技巧。

回归分析是其中的一种重要方法，用于探索变量之间的关系。

本文将重点讨论统计学中的非线性回归分析，介绍其基本原理、方法和应用。

一、非线性回归分析的概念回归分析是研究自变量和因变量之间关系的统计方法。

与线性回归分析不同，非线性回归分析允许自变量和因变量之间存在非线性的关系。

在现实生活中，许多变量之间的关系并不能用简单的直线来表示，而是需要更复杂的函数来描述。

二、非线性回归模型的建立在非线性回归分析中，我们需要建立一个数学模型来描述自变量和因变量之间的关系。

常见的非线性回归模型包括指数函数模型、对数函数模型、幂函数模型等。

根据实际情况和数据特点，选择合适的模型对数据进行拟合和分析。

三、非线性回归模型的参数估计与线性回归分析类似，非线性回归分析也需要对模型的参数进行估计。

但由于非线性回归模型的复杂性，参数估计通常需要借助迭代算法，如最小二乘法、牛顿法或拟牛顿法等。

四、非线性回归模型的评估在建立了非线性回归模型并估计了参数之后，需要对模型的拟合程度进行评估。

常用的评估指标包括残差平方和、决定系数、标准误差等。

这些指标可以帮助我们判断模型是否合理，确定模型的预测能力和稳定性。

五、非线性回归分析的应用非线性回归分析在统计学中有着广泛的应用。

它可以用于解决生物医学、工程学、经济学等领域中实际问题，如药物剂量反应关系研究、曲线拟合、产品市场需求预测等。

非线性回归分析的结果可以为决策者提供有关变量关系和趋势的重要信息。

六、总结非线性回归分析是统计学中一种重要的方法，可以用来研究变量之间的非线性关系。

通过建立合适的模型并估计参数，我们能够更好地理解数据背后的规律，并进行有效的预测与决策。

在实际应用中，我们要根据具体问题选择合适的模型和评估指标，确保分析结果的准确性和可靠性。

本文介绍了统计学中的非线性回归分析的基本概念、模型建立、参数估计、评估指标和实际应用。

非线性回归NLIN过程NLIN过程是SAS系统中专门用于实现非线性回归的过程。

由于非线性模型要比线性模型更难作出估计，因此对于某些模型，NLIN过程并不能保证进行成功的拟合。

NLIN 过程的语句格式为：PROC NLIN DATA=数据集名<选项>；MODEL因变量名=表达式；PARAMETERS参数名=值；BOUNDS表达式；DER.参数名=表达式；DER.参数名.参数名=表达式RUN；其中PROC语句、MODEL语句和PARAMERERS语句是必须的，其他语句可根据永辉以及模型的需要而进行选用。

语句说明（1）PROC语句用于规定运行NLIN过程，并制定要分析的数据集名。

选项有：METHOD=选项---规定NLIN过程使用的迭代方法。

AMERHOD=选项---规定迭代过程中所使用（2）MODEL语句用于规定因变量和要拟合的模型表达式。

（3）PARAMERERS语句用于规定模型中的参数名，以及它们的初始值。

（4）BOUNDS语句用于限定参数估计的范围。

（5）DER语句用来规定对参数的一阶或二阶导数的表达式。

对变量间非线性相关问题的曲线拟合，先决定非线性模型的函数类型，处理的方法主要有：当实际问题的曲线类型不易确定时，由于任意曲线都可由多项式来逼近，因此经常用多项式回归来近似拟合曲线对于可线性化的问题则通过变量代换将其线性化，从而归结为前面的多元线性回归问题来解决。

若变量间的非线性关系式已知，且难以用变量代换法将其线性化，则进行数值迭代的非线性回归分析。

1、非线性回归proc nlin过程对于不能线性化的非线性模型，在SAS系统中可通过proc nlin 过程来实现相应的计算。

Proc nlin 过程采用最小二乘法及迭代估计法来建立一个非线性模型。

用户一般须自定参数的名字、参数的启动值、非线性的模型与迭代估计所用的方法；若用户不指明，则默认为高斯-牛顿迭代法。

Proc nlin 过程的主要控制语句：PROC NLIN <options>；MODEL dependent=expression;PARAMETERS parameter=values<parameter=values,……>;BOUNDS inequality<,……, inequality>;ID variables;OUTPUT OUT=SAS-data-set keyword=names<,……, keyword=names>;BY variables;RUN;Proc nlin 语句选项列表中的主要选项outset=数据集名-----指定存放参数估计的每步迭代结果的数据集名。

非线性回归数学知识点总结非线性回归分析通常基于统计原理和方法，通过对观测数据的分析来估计模型参数，从而找到自变量和因变量之间的关系。

对于不同类型的非线性关系，可以采用不同的非线性回归模型来进行分析。

本篇文章将从以下几个方面来总结非线性回归的相关数学知识点：非线性回归模型的基本概念、非线性回归模型的参数估计、非线性回归模型的假设检验、非线性回归模型的模型选择和验证等。

1. 非线性回归模型的基本概念非线性回归模型是一种描述自变量和因变量之间非线性关系的数学模型。

非线性回归模型通常可以表示为如下形式：Y = f(X,θ) + ε其中，Y是因变量，X是自变量，f()是非线性函数，θ是模型参数，ε是误差项。

在实际问题中，我们可以根据问题的特点选择合适的非线性函数f()来描述自变量和因变量之间的关系。

比如，如果我们观测到因变量Y与自变量X之间存在指数关系，那么我们可以选择指数函数来描述这种关系。

如果我们观测到因变量Y与自变量X之间存在对数关系，我们可以选择对数函数来描述这种关系。

2. 非线性回归模型的参数估计在实际问题中，我们通常需要通过观测数据来估计非线性回归模型的参数。

参数估计的目标是求解模型参数θ的值，使得模型与观测数据的拟合程度最好。

参数估计的方法通常包括最小二乘法、最大似然估计、贝叶斯方法等。

其中，最小二乘法是应用最广泛的一种参数估计方法。

最小二乘法的基本思想是求解参数θ，使得模型预测值与观测数据的残差平方和最小。

3. 非线性回归模型的假设检验在参数估计之后，我们通常需要对非线性回归模型的拟合效果进行假设检验。

假设检验的目的是判断模型的拟合程度是否显著。

在假设检验中，通常会进行F检验、t检验、残差分析等。

F检验是用来判断整个模型的符合程度，t检验是用来判断模型参数的显著性。

残差分析是用来检验模型对观测数据的拟合程度。

4. 非线性回归模型的模型选择和验证在实际问题中，我们通常会遇到多个可能的非线性回归模型。

第6章、非线性回归前面所学的多元线性回归，假定被解释变量与解释变量之间是线性关系。

本章的非线性回归，就放松了这个假定。

例如：CES 生产函数（constant elasticity of substitution ）()(1)y KLλρρργδδ---=+-§1、可以线性化的非线性回归模型1、本质上是线性回归模型的非线性回归模型 原模型 变换模型1y a bx=+ '1/,'y y x x ==y =2','y y x x== 2y a bx cx =++ 222','y y x x ==ln y a b x =+'l n x x =23y a bx cx dx =+++ 22323',','y y x x x x ===by ax = 12'ln ,'ln ,ln ,y y x x a b ββ==== bxy ae= 12'ln ,',ln ,y y x x a b ββ====3(1)xy k ae-=- 1/31/312',',,x y y x e k akββ-====-例子：我们已经多次接触的CD 函数。

y AL Kαβ=ln ln ln ln y A L Kαβ=++Eviews ：ls log(x) c log(l1) log(k1)Dependent Variable: LOG(X) Method: Least SquaresDate: 11/11/04 Time: 20:30 Sample: 1929 1967Included observations: 39Variable Coefficient Std. Error t-Statistic Prob. C -3.937714 0.236999 -16.61488 0.0000 LOG(L1) 1.450786 0.083228 17.43137 0.0000 LOG(K1)0.3838080.0480187.9930350.0000R-squared 0.994627 Mean dependent var 5.687449 Adjusted R-squared 0.994329 S.D. dependent var 0.460959 S.E. of regression 0.034714 Akaike info criterion -3.809542 Sum squared resid 0.043382 Schwarz criterion -3.681576 Log likelihood 77.28607 F-statistic 3332.181 Durbin-Watson stat 0.858080 Prob(F-statistic) 0.000000 或者：先转化为新的序列，然后对新的序列进行多元线性回归。

第22卷第1期大　学　数　学Vol.22,№.1 2006年2月COLL EGE MA T H EMA TICS Feb.2006应用SA S解非线性回归问题韩汉鹏(华南热带农业大学基础学院,海南儋州571737) [摘　要].应用SAS/STA T估计非线性回归模型中的参数.首先,通过变量代换,把可以线性化的非线性回归模型化为线性回归模型,并用普通最小二乘法、主成分分析法和偏最小二乘法求模型中的参数和回归模型.其次,通过改良的高斯—牛顿迭代法来估计Logistic模型和Compertz模型中的参数.[关键词]非线性回归模型;主成分分析;偏最小二乘回归法;改良高斯—牛顿迭代法;SAS/STA T[中图分类号]O212 [文献标识码]B [文章编号]167221454(2006)01200042051　引 言线性回归分析被应用于许多领域,取得了可喜的成绩.然而,在自然科学中严格的线性模型并不多见.由于非线性回归分析计算繁杂,因而传统上把非线性回归视为畏途,使之应用受到限制.随着大型统计软件SAS等的出现,非线性回归的统计分析也可以像线性回归一样切实可行.本文讨论应用SAS/STA T求解非线性回归的若干问题.2　可线性化的非线性回归分析在实际应用中,许多回归模型的被解释变量与解释变量之间的关系并不是线性的,但被解释变量与未知参数之间的关系却是线性的.于是,有关被解释变量对解释变量的非线性回归分析可以通过变量代换转化成对解释变量也是线性回归分析的情形.2.1　非线性模型已知的情形一块土地的立地指数是用来描述该土地上林木生产潜力的一种方法,它是以造林年数和优势木平均高为基础的立地指数方程H=L exp(b-(-1/A+1/20)).表1中给出了两种不同立地类型林分的观测数据共25次(见表1).现建立每一类型林分的立地指数方程.表1　部分林木样地测高材料类型111111111111样地111222333444年龄2224288121481012252628树高12.613.014.05.56.87.211.713.714.322.222.322.6类型2222222222222样地1111222333444年龄101112142226278912252629树高15.116.016.917.013.414.414.85.36.78.211.612.213.5这是一个可线性化的非线性回归模型,两边取对数得y=a+bx,其中y=ln H,a=ln L,x=1/20-1/A.应用统计软件SAS先求第一类型林分的立地指数方程,程序如下:　[收稿日期]2005201218data han1;　inp ut A H @@;　x =1/20-1/A ;　y =log (H );　cards22　12.6　24　13.0　28　14.0　8　5.5　12　6.8　14　7.2　8　11.7　10　13.712　14.3　25　22.2　26　22.3　28　22.6;proc reg ;　model y =x ;　run ;　部分输出结果如下:Source F Value Pr >F Variable Estimate t Value Pr >|t|Model 7.150.0233Intercept 2.6980921.66<.0001Errorx8.812372.670.0233 由以上结果可得b =8.81237,a =ln L =2.69809,即L =14.85,y =14.85+8.81237x.同理可得第二类型林分立地指数方程为y =2.60467+6.13084x.于是,两种类型林分立地指数和长势变化率的差异检验,就是两条回归直线的共截距性和平行性的检验,其实质上是单因子完全随机试验的协方差分析.2.2　非线性回归模型未知的情形表2为一只红铃虫的产卵数与温度的数据,试根据这些数据拟合适当的模型.表2　产卵数与温数的数据表温度x 21232527293235产卵数y711212466115325 根据经验可用指数方程y =β0e β1x和二次方程y =β0+β1x 2进行拟合.先进行线性化u =a +β1x ,其中u =ln y ,a =ln β0和y =β0+β1t ,其中t =x 2.SAS 程序如下:data han2;　inp ut x y @@;　u =log (y );　t =x 332;　cards ;21　7　23　11　25　21　27　24　29　66　32　115　35　325;proc reg ;　model u =x ;　model y =t ;　run ;　部分输出结果如下:Dependent Variable :u Dependent Variable :y Source F Value Pr >F Source F Value Pr >F Model 333.87<.0001Model 20.290.0064R -Square 0.9852R -Square 0.8023Variable Estimate t Value Pr >|t|Variable Estimate t Value Pr >|t|Intercept -3.84917-9.300.0002Intercept -202.54342-3.050.0284X0.2720318.27<.0001t0.366984.500.0064 结果显示两个回归方程都显著.由拟合优度R 2值可知,用指数方程进行拟合比用二次方程好,其中β0=e -3.84917=0.0214,β1=0.27203,回归方程y =0.0214e0.27203x.2.3　单因子试验反应曲线的拟合单因子试验设计中,因子的合理值范围可通过配合反应曲线进行讨论.如果因子有a 个水平,则有可能配合最高为a -1阶的多项式.在人造纤维拉力强度试验中,纤维中的棉花百分率是影响拉力强度的因素,因子水平与试验结果见表3.下面用多项式回归、主成分分析和偏最小二乘法进行讨论.因回归分析显示4次项不显著,故可配合3次多项式.在以下的S A S 程序中,z 1=x ,z 2=x 2,z 3=x 3.5第1期 韩汉鹏:应用SAS 解非线性回归问题表3　纤维拉力强度数据表棉花百分率(%)观察值1234515771511920121712181825141818191930192522192335710111511 data han3;　inp ut　y　z1　z2　z3　@@;　cards;;(数据集输入略)proc pls cv=one out model=had4met hod=simples;model　y=z1　z2　z3;　run;proc　reg　data=han3　outest=han5;model　y=z1　z2　z3/pcomit=1　outvif;　run;proc　reg　data=han3;model　y=z1　z2　z3;　p roc　print;　run;以上程序之偏最小二乘法、主成分回归和多项式回归的主要输出结果如下:Obs LV T YPE z1z2z3X y Y13SIM......2.CEN TER256759375.15.04.3.SCAL E7.2169363.36114504.62.5.1517.93B-12.623933.956-21.41..model type depvar ridge pcomit rmse Intercept z1z2z3y model1parms y.. 3.0483962.6114-9.01140.48143-0.0076-1 Variable Parameter Estimate St d Error t Value Pr>|t|Intercept62.6114339.75744 1.570.1302 z19.01143 5.19661-1.730.0976z20.481430.21605 2.230.0369z30.00760.00287-2.640.0152 由输出结果可得z1-25 7.2169×(-12.6239)+z2-675363.361×33.956+z3-1937514504.62×(-21.4)=y-15.045.1517,化简得y=62.6287-9.0114z1+0.4814z2-0.0076z3,此为偏最小二乘法建立的回归方程.主成分分析和多项式回归建立的方程为y=62.6114-9.0114z1+0.48143z2-0.0076z3.此例利用主成分分析和多项式进行建模的结果相同.但应注意,主成分分析提取的主成分,因其只考虑对自变量的综合能力,完全撇开对因变量的影响,这就导致主成分虽然能很好地概括自变量集中的信息,却往往对因变量缺乏解释能力.相比之下,偏最小二乘法在自变量集中提取主成分时,既能很好地概括自变量集中的信息,又对因变量有最强的解释能力.因此,当自变量集存在较强的共线性时,用偏最小二乘法建模比主成分建模要好.6大　学　数　学 第22卷3　不可线性化的非线性回归分析当非线性回归分析没有现成的模型时,可通过刻画一个与数据性态相似的模型来表示之.如果数据单调上升趋于某一渐近线,那么Michaelis 2Menten 模型、指数增长模型或者Logistic 模型也许是合适的;如果数据有峰值但随后衰减于消失,那么双指数模型、分母含有二次项的Michaelis 2Menten 模型或者Gamma 函数也许是合适的.雷雪芹博士在研究河南斗鸡与肉鸡杂交改良效果的试验中,对杂交鸡的生长发育结果用数学模型进行拟合,寻求最佳生长模型.现取其中一组数据(见表4)进行拟合.表4　斗鸡与肉鸡杂交改良数据表(重量单位:g )周龄初生123456789101112体重43.65109.86187.21312.67496.58707.65960.251238.751560.001824.922199.002438.892737.71 根据经验,可选用Logistic 曲线y =B1+a e -kt和Compertz 曲线y =B e -b e-kt来进行拟合.先对Logistic 曲线进行线性化,得ln a -kt =ln B -yy.由试验数据取B =3000,用线性回归求a ,k 初值,SAS 程序如下:data han6;　inp ut t y @@;　w =3000-y ;　z =log (w/y );　cards ;0　43.65　1　109.86　2　187.21　3　312.67　4　496.58　5　707.65　6　960.257　1238.75　8　1560.00　9　1824.29　10　2199.00　11　2438.89　12　2737.71;proc reg ;　model z =t ;　run ;　部分输出结果如下:Source Sum of Squares Mean Square F Value Pr >F Model 44.4367644.436761150.75<.0001Error 0.424770.03862Variable Parameter EstimateSt d Error t Value Pr >|t|Intercept3.803240.1030036.93<.0001t-0.494120.01457-33.92<.0001 由以上结果可得,k =0.4941,ln a =3.80324,即a =44.8463以B ,a ,k 的值作为拟合初值,应用非线性参数估计之高斯—牛顿迭代法,SAS/STA T 编程如下:data han7;　inp ut t y @@;　cards ;0　43.65　1　109.86　2　187.21　3　312.67　4　496.58　5　707.65　6　960.257　1238.75　8　1560.00　9　1824.29　10　2199.00　11　2438.89　12　2737.71;proc nlin met hod =gauss ;parms b =3000to 3265by 50　a =44.8463to 64by 5　k =0.4941to 0.53by 0.01;temp =1+a 3exp (-k 3t );　model y =b/(1+a 3exp (-k 3t ));　der.b =1/temp ;der.a =-exp (-k 3t )3b/temp 332;　der.k =exp (-k 3t )3b 3a 3t/temp 332;　run ;程序的部分输出结果如下:Source Sum of Squares Mean Square F Value Pr >F Regressio n 2737355191245175169.32<.0001Residual 17651.31765.1Corrected Total105043587第1期 韩汉鹏:应用SAS 解非线性回归问题Parameter Estimate St d Error App roximate 95%Confidence Limit sb 3260.4118.32996.73524.1a 30.5351 2.566924.815536.2546k0.41480.01820.37430.4553由结果得y =3260.4÷(1+30.5351e -0.4148t ,拟合优度R 2=1-17651.3÷10504358=0.99832.同理,对于Compertz 曲线,可得方程y =4810.076e -4.592e -0.1747t,拟合优度R 2=0.99971.由两曲线的R 2值可知,选用Compertz 曲线y =4810.076e -4.592e -0.1747t进行拟合效果更好.[参　考　文　献][1]　唐守正,李勇.生物数学模型的统计学基础[M ].北京:科学出版社,2002.[2]　袁志发,周静.多元统计分析[M ].北京:科学出版社,2002.[3]　高惠璇.实用统计方法与SAS 系统[M ].北京:北京大学出版社,2001.[4]　彭昭英.世界统计与分析全才SAS 系统应用开发指南[M ].北京:北京希望电子出版社,2000.[5]　周纪芗.回归分析[M ].上海:华东师范大学出版社,1993.The Application of SAS/STAT on Nonlinear R egressionH A N H an 2peng(South China University of Tropic Agricultural ,Hainan DanZhou 571737,China )Abstract :We use SAS/STA T program to estimate nonlinear regression model parameters.The first ,we transform nonlinear regression model into linear model with transformed variables and estimate model parameters by used the methods of ordinary least squares ,principal component analysis and partial least squares regression ,from which the model parameters and the regression line itself can be estimated.The second ,we use modified G auss 2Newton iterative procedure to estimate Logistic and Compertz model parameters.K ey w ords :nonlinear regression model ;principal component analysis ;partial least squares regression ;modified G auss 2Newton iterative procedure ;SAS/STA T8大　学　数　学 第22卷。

统计学中的非线性回归方法统计学是一门研究数据收集、整理、分析和解释的学科，而回归分析是其中的一个重要概念。

回归分析旨在通过对自变量和因变量之间的关系进行建模，以预测未来的观测结果。

在经典的线性回归方法中，我们假设自变量和因变量之间存在一种线性关系。

然而，在现实中，很多情况下变量之间的关系并不是严格的线性，而是呈现出非线性的特点。

因此，为了更准确地描述变量之间的关系，统计学中发展了许多非线性回归方法。

一、多项式回归多项式回归是一种常见的非线性回归方法。

它通过引入高次多项式来拟合数据的非线性趋势。

例如，如果我们的数据呈现出抛物线的形状，那么我们可以使用二次多项式来拟合这个数据集。

一般而言，多项式回归可以通过引入更高次的多项式来适应更复杂的非线性关系。

二、指数回归指数回归是一种适用于自变量和因变量之间呈指数关系的非线性回归方法。

当自变量以指数形式增长或减少时，使用指数回归可以更好地描述这种关系。

例如，在描述人口增长、物质衰减等现象时，指数回归可以提供更准确的预测。

三、对数回归对数回归是一种适用于自变量和因变量之间呈对数关系的非线性回归方法。

对于以指数形式增长的自变量和因变量，通过将它们取对数，可以将其转化为线性的关系。

对数回归在许多领域中具有广泛的应用，例如经济学中的收入和消费关系研究。

四、幂函数回归幂函数回归是一种适用于自变量和因变量之间呈幂函数关系的非线性回归方法。

当自变量和因变量之间的关系呈现出非线性且不可逆的特点时，幂函数回归可以提供更好的拟合。

例如，在研究物种数量和地理分布关系时，幂函数回归可以更好地描述不同物种数量随地理距离增加的变化情况。

总结：统计学中的非线性回归方法为我们提供了更多灵活的工具来描述变量之间的复杂关系。

多项式回归、指数回归、对数回归和幂函数回归等方法，都能够对非线性关系进行更准确的建模和预测。

通过选择合适的非线性回归方法，我们可以更好地理解和解释数据，并做出更准确的预测。

第六章 非线性回归模型经济模型本来就存在许多非线性形式，我们在引言与第一章就曾经处理过“可以线性化的非线性模型”，即经过简单函数变换后可以化为一元或多元线性回归模型的非线性回归模型。

但是在一般情况下，非线性模型难以精确地线性化，这就需要予以特别的考虑。

一般的非线性回归模型可以表示为()εβ+=,X f Y（6.0.1）这里X 是可观察的独立随机变量，β是待估的参数向量，Y 是独立观察变量，它的均值依赖于X 与β，ε是随机误差。

函数形式f （• ）是已知的。

Cobb-Douglas 生产函数是非线性回归模型的典型例子：εββ+=21K aL Q（6.0.2）这里Q 是经济部门的产出，L 是劳动力投入，K 是资本投入，待估参数是α，β1与β2。

定 义Y=Q ，X ′=(L,K)，β=(α，β1,β2)′，以及()2111,βββK aL X f =，则Cobb-Douglas 生产函数就可以写为(6.0.1)的形式。

另一个例子是消费函数εβββ++=321Y C（6.0.3）这里Y 是居民收入，C 是居民消费。

其中参数β3的估计问题就很有必要。

如果贸然假定β3=1，那就是线性函数了，可是实际资料也许会否定β3=1。

有些经济模型到底能不能线性化，取决于误差项的假定。

例如Cobb-Douglas 生产函数，如果将误差假定为与函数部分相乘，即εββe K aL Q 21=（6.0.4）则取对数后可以线性化：εββα+++=K L Q ln ln ln ln 21（6.0.5）另一方面，有些线性回归模型也可以视为非线性问题，例如广义最小二乘问题()()ψ==+=2 ,0 ,σεεεβVar E X Y（6.0.6）的极大似然估计就可以被看作非线性问题。

本章就讨论这些非线性回归模型的性质与计算问题，涉及到一些大样本理论，介绍了非线性强度度量的几何意义。

作为特别的非线性回归模型，重点是介绍了增长曲线模型与失效率模型。

课程名称实用统计软件实验项目名称非线性回归分析实验成绩指导老师(签名 ) 日期 2011—9-23一．实验目的1．掌握非线性回归的基本原理和算法；2．能够用SPSS软件应用非线性回归模型解决实际问题。

二。

实验内容与要求1．根据数据金属强度测试。

sav利用曲线参数估计法分析金属强度(y）与温度（x）之间的关系。

2．实现书上 P189 中的研究问题。

第一步要选中所有的模型，然后根据R-square 和拟合曲线标准选择模型！并且要预测到2010年的数据！三．实验步骤1．模型选择(标准:R—square 以及拟合曲线的比较）2．所选择模型的拟合优度（R-square、拟合曲线)3．所选择模型的回归方程(回归系数的估计值）4．所选择模型的检验问题(模型方差分析表：模型显著性F检验、回归系数非零T检验）5．保存关心的统计数据（预测值、残差值、预测值的置信区间）具体操作参见课件非线性回归分析.PPT四。

实验结果（数据与图形）与分析1.Model Summary and Parameter Estimates Dependent Variable:强度EquationModel Summary Parameter EstimatesR Square F df1df2Sig.Constant b1b2b3Linear.67412.39116。

013.719-。

002Logarithmic.92573.71216。

000 2.518-。

424Inverse。

983346。

05116。

000—。

09155.466Quadratic.94441。

91025。

001 1.171-.0068.416E—6Cubic.993186。

30234。

000 1.485-。

0123。

409E—5-3.144E-8 Compound。

992760。

86116.000 1.324。

991Power。

93281。

77216.0002。

136E3-1.833S.69313.53516.010-3。