最新常见非线性回归模型

非线性回归模型概述

在统计学和机器学习领域中，回归分析是一种重要的数据建模技术，用于研究自变量和因变量之间的关系。在实际问题中，很多情况下自变量和因变量之间的关系并不是简单的线性关系，而是呈现出复杂的非线性关系。为了更准确地描述和预测这种非线性关系，非线性回归模型应运而生。

一、什么是非线性回归模型

非线性回归模型是指自变量和因变量之间的关系不是线性的数学模型。在非线性回归模型中，因变量的变化不是随着自变量的线性变化而变化，而是通过非线性函数的变化来描述二者之间的关系。非线性回归模型可以更好地拟合实际数据，提高模型的预测准确性。

二、非线性回归模型的形式

非线性回归模型的形式可以是各种各样的，常见的非线性回归模型包括多项式回归模型、指数回归模型、对数回归模型、幂函数回归模型、逻辑回归模型等。这些非线性回归模型可以通过引入非线性函数来描述自变量和因变量之间的关系，从而更好地拟合数据。

1. 多项式回归模型

多项式回归模型是一种常见的非线性回归模型，其形式为：

$$

y = \beta_0 + \beta_1x + \beta_2x^2 + \beta_3x^3 + ... + \beta_nx^n + \varepsilon

$$

其中，$y$为因变量，$x$为自变量，$\beta_0, \beta_1,

\beta_2, ..., \beta_n$为回归系数，$n$为多项式的阶数，$\varepsilon$为误差。

2. 指数回归模型

指数回归模型是描述因变量和自变量之间呈指数关系的非线性回归模型，其形式为：

$$

y = \beta_0 + \beta_1e^{\beta_2x} + \varepsilon

$$

其中，$y$为因变量，$x$为自变量，$\beta_0, \beta_1, \beta_2$为回归系数，$e$为自然对数的底，$\varepsilon$为误差。

1

多项式回归、非线性回归模型

关键词：回归方程的统计检验、拟合优度检验、回归方程的显著性检验、F检验、回归系数的显著性检验、残差分析、一元多项式回归模型、一元非线性回归模型

一、回归方程的统计检验

1. 拟合优度检验

1. 概念介绍

SST总离差平方和total

SSR回归平方和regression

SSE剩余平方和error

niiiniiiniiiniiiyyyyyyyyR121212122)()ˆ()()ˆ(1

2. 例题1

存在四点(-2,-3)、(-1,-1)、(1,2)、(4,3)求拟合直线与决定系数。

2. 回归方程的显著性检验

)2/()2/()ˆ()ˆ(1212nSSESSAnyyyyFniiiniii

例6（F检验）

在合金钢强度的例1中，我们已求出了回归方程，这里考虑关于回归方程的显著性检验，经计算有：

表5 X射线照射次数与残留细菌数的方差分析表

来源 平方和 自由度 均方 比 值

回归 34.327RS 184.94 0.0000

残差

总计

这里值很小，因此，在显著性水平0.01下回归方程是显著的。

3. 回归系数的显著性检验

4. 残差分析

二、一元多项式回归模型 Fp1Rf34.327RMS72.17eS10ef77.1eMS06.345TS11Tf2

模型如以下形式的称为一元多项式回归模型：

0111axaxaxaynnnn

例1（多项式回归模型）

为了分析X射线的杀菌作用，用200千伏的X射线来照射细菌，每次照射6分钟，用平板计数法估计尚存活的细菌数。照射次数记为t，照射后的细菌数为y见表1。试求：

（1）给出y与t的二次回归模型。

（2）在同一坐标系内作出原始数据与拟合结果的散点图。

（3）预测16t时残留的细菌数。

（4）根据问题的实际意义，你认为选择多项式函数是否合适？

多元：

多元，一个词语，在社会科学中，指不同种族、民族、宗教或社会群体在一个共同文明体或共同社会的框架下，持续并自主地参与及发展自有传统文化或利益。在多元社会中，不同族群相互间展示尊重与容纳，从而使他们可以安乐共存、相互间没有冲突或同化。许多人认为多元是现代社会的最重要特征之一，也是科学、社会、经济等发展的关键性推动力量。

在多元社会的观念下，社会反对任何歧视的政策，认为在多元的社会文化中，任何人不论性别、种族、民族、宗教、身心障碍、性倾向或性别认同等，都不应有任何歧视或差别对待，多元社会应互相包容和彼此尊重，任何人的自由意见和立场都必须尊重。多元的社会是对自由的保障。

多元化：指事物的发展，到了一个很丰富的境界，有多种分类，多种行业。结合史实的话，近代文明的多元化，则表现的是西学东渐的过程。包括信仰、文化、习俗、思维的差异，也叫转型的差异，产生这一原因的是人对周围的变化有不同的感受，有领悟能力的差异、思维习惯的差异、认识水平的差异。这样的差异结合上实际，就呈现出多元。比如，在信仰上，很多人转信基督教。在文化上，有人脱下了马褂换上了西装。在习俗上，有人吃西餐和喝咖啡。在思维上，人人平等，结婚自由。但是这样必定遭到一些人反对。他们习惯以往的生活。就比如在思维上，他们认为人有三六九等，结婚应该听父母的。由此产生的分歧，对同一事物产生不同的看法。

多元非线性回归：

在多元回归分析中，不是线性函数的回归方程。方程中的因变量是随机变量，它与方程中其他变量（普通变量）之间的关系称为多元非线性回归关系。

多元非线性回归分析：

多元非线性回归分析是指包含两个以上变量的非线性回归模型。对多元非线性回归模型求解的传统做法，仍然是想办法把它转化成标准的线性形式的多元回归模型来处理。有些非线性回归模型，经过适当的数学变换，便能得到它的线性化的表达形式，但对另外一些非线性回归模型，仅仅做变量变换根本无济于事。属于前一情况的非线性回归模型，一般称为内蕴的线性回归，而后者则称之为内蕴的非线性回归。

第２５卷第１期　２０１３年３月　湖南文理学院学报（自然科学版）　Ｊｏｕｒｎａｌ　ｏｆ　Ｈｕｎａｎ　Ｕｎｉｖｅｒｓｉｔｙ　ｏｆ　Ａｒｔｓ　ａｎｄ　Ｓｃｉｅｎｃｅ（Ｎａｔｕｒａｌ　Ｓｃｉｅｎｃｅ　Ｅｄｉｔｉｏｎ）　Ｖ＿０１．２５　ＮＯ．１　Ｍａｒ．２Ｏ１３　

ｄｏｉ：１０．３９６９￣．ｉｓｓｎ．１６７２－６１４６．２０１３．０１．００３　

部分非线性回归模型的非线性度量　

肖　兵　

（湖南文理学院数学与计算科学学院，湖南常德，４１５０００）　

摘要：利用传统曲率理论度量回归模型的非线性程度，分析其缺陷，并对几类实例模型进行探讨，进而提　出基于局部近似的新度量方法，在一定程度上弥补了传统方法的缺陷；还研究了模型参数基于局部线性近似　

的最小二乘估计的渐进性质及其求法中迭代初值的选取和改进方向．　关键词：非线性度量；固有曲率；参数效应曲率；局部曲率　中图分类号：Ｏ　２１２．１　文章编号：１６７２．６１４６（２０１３）０１．００１０．０４　

Ａ　ｍｅａｓｕｒｅ　ｏｆ　ｎｏｎ－—ｌｉｎｅａｒｉｔｙ　ｏｆ　ｐａｒｔｉａｌｌｙ　ｎｏｎ・－ｌｉｎｅａｒ　ｒｅｇｒｅｓｓｉｏｎ　ｍｏｄｅｌｓ　

ＸＩＡＯ　Ｂｉｎｇ　

（Ｍａｔｈｅｍａｔｉｃｓ　ａｎｄ　Ｃｏｍｐｕｔａｔｉｏｎａｌ　Ｓｃｉｅｎｃｅ，Ｈｕｎａｎ　Ｕｎｉｖｅｒｓｉｔｙ　ｏｆＡｒｔｓ　ａｎｄ　Ｓｃｉｅｎｃｅ，Ｃｈａｎｇｄｅ　４１５０００，Ｃｈｉｎａ）　

Ａｂｓｔｒａｃｔ：Ｂａｓｅｄ　ｏｎ　ｃｌａｓｓｉｃａｌ　ｍｅｔｈｏｄｓ　ｏｆ　ｔｈｅ　ｎｏｎ—ｌｉｎｅａｒｉｔｙ　ｐｒｏｐｅ￣ｙ　ｏｆ　ｔｈｅ　ｎｏｎ－ｌｉｎｅａｒｉｔｙ　ｒｅｇｒｅｓｓｉｏｎ　ｍｏｄｅｌ，ａｎａｌｙｓｉｓ　ｏｆ　ｉｔｓ　ｌｉｍｉｔａｔｉｏｎ　ｉｓ　ｍａｄｅ．Ｔｈｉｓ　ｐａｐｅｒ　ｐｒｏｍｏｔｅｓ　ａ　ｎｅｗ　ｍｅｔｈｏｄ　ａｂｏｕｔ　ｌｏｃａｌ　ａｐｐｒｏｘｉｍａｔｉｏｎ　ｔｈｒｏｕｇｈ　ｔｈｅ　ｄｉｓｃｕｓｓｉｏｎ　ｆｏｒ　ｔｈｅ　ｃｏｎｖｅｒｇｅｎｃｅ　ｏｆ　ｓｏｍｅ　ｍｏｄｅｌｓ，ｗｈｉｃｈ　ｒｅｍｅｄｙ　ｔｈｅ　ｄｅｆｅｃｔ　ｏｆ　ｔｈｅ　ｔｒａｄｉｔｉｏｎａｌ　ｗａｙｓ．Ｔｈｅ　ａｓｙｍｐｔｏｔｉｃ　ｐｒｏｐｅｒｔｙ　ｏｆ　ｌｅａｓｔ　ｓｑｕａｒｅ　ｅｓｔｉｍａｔｏｒ　ａｎｄ　ｔｈｅ　ｍｅｔｈｏｄ　ｏｆ　ｉｔｅｒａｔｉｖｅ　ｉｎｉｔｉａｌ　ｖａｌｕｅ　ｓｅｌｅｃｔｉｏｎ　ａｒｅ　ｓｔｕｄｉｅｄ．Ａｎｄ　ａ　ｎｅｗ　ｔｒｅｎｄ　ｆｏｒ　ｔｈｅ　ｍｅｔｈｏｄ　ｔｏ