【精品】Matlab多变量回归分析教程

matlab多元线性回归Matlab多元线性回归是利用矩阵运算和统计学方法，来建立一个若干变量之间的线性关系模型。

Matlab可以实现多元线性回归，最常用的方法是最小二乘法（OrdinaryLeast Squares ，OLS）。

下面我们拟定一个多元线性回归问题，看看Matlab的意图如何解决它。

假设现在需要研究三个变量（X1，X2，X3）与输出Y的关系，则可以将Y与这三个变量的关系模型用下式表示：Y=β0+β1X1+β2X2+β3X3其中β0,β1,β2,β3等参数均未知，但是可以根据实验数据估计。

Matlab使用regress函数来实现多元线性回归，算法思想是为所有变量设定一组备用变量，然后拟合出令这些变量与被解释变量之间的最佳关系，从而实现多元回归模型的建立。

以上面那个例子来说，可以将X1，X2，X3的备用变量表示如：X1=1,X2=1,X3=1然后，可以建立如下的解释变量矩阵：Y=1×1+X1×X2+X2×X3+X3×1 ，注意第一行、第一列都是1，这是因为要拟合的模型中右侧的常数项，也就是β0。

一旦矩阵X（X表示解释变量组成的矩阵）和向量Y（被解释变量）建立完成，就可以使用Matlab中提供的regress函数了：[B,BINT,R,RINT,STATS]=regress(Y,X),其中B就是回归系数（参数β0,β1,β2,β3），BINT是该参数的置信区间，R是残差，RINT是拟合的置信区间，STATS包含 R2等其他统计量。

有了这些参数，就可以代入给定的回归模型，去预测Y的值，从而实现多元线性回归的目的。

Matlab多元线性回归可以更轻松便捷地实现复杂多变量间的相关性分析。

但是，在实际应用中，选取最优变量组以及其他模型调整是非常重要的，要仔细考虑实际问题所具有的特色，去尝试多种模型，才能得到最佳结果。

利用MATLAB进行回归分析一、实验目的：1．了解回归分析的基本原理，掌握MATLAB实现的方法；2. 练习用回归分析解决实际问题。

二、实验内容：题目1社会学家认为犯罪与收入低、失业及人口规模有关，对20个城市的犯罪率y（每10万人中犯罪的人数）与年收入低于5000美元家庭的百分比1x、失业率2x和人口总数3x（千人）进行了调查，结果如下表。

（1）若1x~3x中至多只许选择2个变量，最好的模型是什么？（2）包含3个自变量的模型比上面的模型好吗？确定最终模型。

（3）对最终模型观察残差，有无异常点，若有，剔除后如何。

理论分析与程序设计：为了能够有一个较直观的认识，我们可以先分别作出犯罪率y与年收入低于5000美元家庭的百分比1x、失业率2x和人口总数x（千人）之间关系的散点图，根据大致分布粗略估计各因素造3成的影响大小，再通过逐步回归法确定应该选择哪几个自变量作为模型。

编写程序如下：clc;clear all;y=[11.2 13.4 40.7 5.3 24.8 12.7 20.9 35.7 8.7 9.6 14.5 26.9 15.736.2 18.1 28.9 14.9 25.8 21.7 25.7];%犯罪率（人/十万人）x1=[16.5 20.5 26.3 16.5 19.2 16.5 20.2 21.3 17.2 14.3 18.1 23.1 19.124.7 18.6 24.9 17.9 22.4 20.2 16.9];%低收入家庭百分比x2=[6.2 6.4 9.3 5.3 7.3 5.9 6.4 7.6 4.9 6.4 6.0 7.4 5.8 8.6 6.5 8.36.7 8.6 8.4 6.7];%失业率x3=[587 643 635 692 1248 643 1964 1531 713 749 7895 762 2793 741 625 854 716 921 595 3353];%总人口数（千人）figure(1),plot(x1,y,'*');figure(2),plot(x2,y,'*');figure(3),plot(x3,y,'*');X1=[x1',x2',x3'];stepwise(X1,y)运行结果与结论：犯罪率与低收入散点图犯罪率与失业率散点图犯罪率与人口总数散点图低收入与失业率作为自变量低收入与人口总数作为自变量失业率与人口总数作为自变量在图中可以明显看出前两图的线性程度很好，而第三个图的线性程度较差，从这个角度来说我们应该以失业率和低收入为自变量建立模型。

MATLAB回归分析回归分析是统计学中常用的一种方法，用于建立一个依赖于自变量（独立变量）的因变量（依赖变量）的关系模型。

在MATLAB环境下，回归分析可以实现简单线性回归、多元线性回归以及非线性回归等。

简单线性回归是一种最简单的回归分析方法，它假设自变量和因变量之间存在线性关系。

在MATLAB中，可以通过`polyfit`函数进行简单线性回归分析。

该函数可以拟合一元数据点集和一维多项式，返回回归系数和截距。

例如：```matlabx=[1,2,3,4,5];y=[2,3,4,5,6];p = polyfit(x, y, 1);slope = p(1);intercept = p(2);```上述代码中，`x`是自变量的数据点，`y`是因变量的数据点。

函数`polyfit`的第三个参数指定了回归的阶数，这里是1，即一次线性回归。

返回的`p(1)`和`p(2)`分别是回归系数和截距。

返回的`p`可以通过`polyval`函数进行预测。

例如：```matlabx_new = 6;y_pred = polyval(p, x_new);```多元线性回归是在有多个自变量的情况下进行的回归分析。

在MATLAB中，可以使用`fitlm`函数进行多元线性回归分析。

例如：```matlabx1=[1,2,3,4,5];x2=[2,4,6,8,10];y=[2,5,7,8,10];X=[x1',x2'];model = fitlm(X, y);coefficients = model.Coefficients.Estimate;```上述代码中，`x1`和`x2`是两个自变量的数据点，`y`是因变量的数据点。

通过将两个自变量放在`X`矩阵中，可以利用`fitlm`函数进行多元线性回归分析。

返回值`model`是回归模型对象，可以通过`model.Coefficients.Estimate`获得回归系数。

在MATLAB中执行多元逻辑回归可以使用统计和机器学习工具箱中的`mnrfit`函数。

多元逻辑回归通常用于处理分类问题，其中目标变量是多类别的。

以下是执行多元逻辑回归的一般步骤：
1. 准备数据：首先，您需要准备包含特征（自变量）和目标（因变量）的数据。

确保数据已经被正确编码，特征和目标都是数值型或分类型变量。

2. 调用`mnrfit`函数：使用以下语法调用`mnrfit`函数进行多元逻辑回归：
```matlab
B = mnrfit(X, Y, 'model', 'logit');
```
其中：
- `X`是包含特征的矩阵，每一行代表一个观察样本，每一列代表一个特征。

- `Y`是包含目标变量的矩阵，每一行代表一个观察样本，每一列代表不同的类别。

3. 分析结果：`mnrfit`函数将返回一个包含回归系数的向量`B`，这些系数表示特征对于各个类别的影响。

您可以使用这些系数来进行预测和分类。

4. 预测：使用`mnrval`函数来进行预测。

例如：
```matlab
Yhat = mnrval(B, X_new);
```
其中`X_new`是包含新观察样本的特征的矩阵，`Yhat`将包含对新样本的预测。

请注意，这只是一个基本的多元逻辑回归示例。

根据您的数据和具体需求，您可能需要进一步处理数据、评估模型的性能和进行调优。

MATLAB还提供了丰富的工具和函数来支持数据分析和机器学习任务，您可以根据需要深入学习这些内容。

利用 Matlab 作回归分析一元线性回归模型：2,(0,)y x N αβεεσ=++求得经验回归方程：ˆˆˆyx αβ=+ 统计量： 总偏差平方和：21()n i i SST y y ==-∑，其自由度为1T f n =-； 回归平方和：21ˆ()n i i SSR y y ==-∑，其自由度为1R f =； 残差平方和：21ˆ()n i i i SSE y y ==-∑，其自由度为2E f n =-；它们之间有关系：SST=SSR+SSE 。

一元回归分析的相关数学理论可以参见《概率论与数理统计教程》，下面仅以示例说明如何利用Matlab 作回归分析。

【例1】为了了解百货商店销售额x 与流通费率（反映商业活动的一个质量指标，指每元商品流转额所分摊的流通费用）y 之间的关系，收集了九个商店的有关数据，见下表1.试建立流通费率y 与销售额x 的回归方程。

表1 销售额与流通费率数据【分析】：首先绘制散点图以直观地选择拟合曲线，这项工作可结合相关专业领域的知识和经验进行，有时可能需要多种尝试。

选定目标函数后进行线性化变换，针对变换后的线性目标函数进行回归建模与评价，然后还原为非线性回归方程。

【Matlab数据处理】：【Step1】：绘制散点图以直观地选择拟合曲线x=[1.5 4.5 7.5 10.5 13.5 16.5 19.5 22.5 25.5];y=[7.0 4.8 3.6 3.1 2.7 2.5 2.4 2.3 2.2];plot(x,y,'-o')输出图形见图1。

510152025图1 销售额与流通费率数据散点图根据图1，初步判断应以幂函数曲线为拟合目标，即选择非线性回归模型，目标函数为：(0)b y ax b =< 其线性化变换公式为：ln ,ln v y u x == 线性函数为：ln v a bu =+【Step2】：线性化变换即线性回归建模（若选择为非线性模型）与模型评价% 线性化变换u=log(x)';v=log(y)';% 构造资本论观测值矩阵mu=[ones(length(u),1) u];alpha=0.05;% 线性回归计算[b,bint,r,rint,states]=regress(v,mu,alpha)输出结果：b =[ 2.1421; -0.4259]表示线性回归模型ln=+中：lna=2.1421，b=-0.4259；v a bu即拟合的线性回归模型为=-；y x2.14210.4259bint =[ 2.0614 2.2228; -0.4583 -0.3934]表示拟合系数lna和b的100(1-alpha)%的置信区间分别为：[2.0614 2.2228]和[-0.4583 -0.3934]；r =[ -0.0235 0.0671 -0.0030 -0.0093 -0.0404 -0.0319 -0.0016 0.0168 0.0257]表示模型拟合残差向量；rint =[ -0.0700 0.02300.0202 0.1140-0.0873 0.0813-0.0939 0.0754-0.1154 0.0347-0.1095 0.0457-0.0837 0.0805-0.0621 0.0958-0.0493 0.1007]表示模型拟合残差的100(1-alpha)%的置信区间；states =[0.9928 963.5572 0.0000 0.0012] 表示包含20.9928SSR R SST==、 方差分析的F 统计量/963.5572//(2)R E SSR f SSR F SSE f SSE n ===-、 方差分析的显著性概率((1,2))0p P F n F =->≈； 模型方差的估计值2ˆ0.00122SSE n σ==-。

概述根据图形（实际点），选配一条恰当的函数形式（类型）---需要数学理论与基础和经验。

（并写出该函数表达式的一般形式，含待定系数）------选用某条回归命令求出所有的待定系数。

所以可以说，回归就是求待定系数的过程（需确定函数的形式）1、[b,bint,r,rint,s]=regress(y,X,alpha)或者regress(y, x)输入y :因变量（列向量）X:自变量组成的矩阵，并且x要在最前面额外添加全1列/对应于常数项alpha:显著性水平（缺省时定位0.05，即置信水平95%，alpha不影响b,只影响bint(区间估计)。

它越小，即置信度越高，则bint范围越大。

显著水平越高，则区间就越小）输出：b：多元线性回归方程的各个系数（含常数项，第一项为常数项）bint:b的置信区间（回归系数的区间估计）r：残差(列向量) rint:r的置信区间stats: 用于检验回归模型的统计量，有四个数值：相关系数r2、F值、与F对应的概率p和残差的方差（前两个越大越好，后两个越小越好）2、rcplot(r.rint)残差分析，作残差图如下图：matlab<wbr>多元线性回归每条线长度表示的是置信区间，小圆圈代表残差点。

残差图中红色线条表示异常点，应剔除再次进行绘图从残差图可以看出，除第二个和第十个数据外，其余数据的残差离零点均较近，且残差的置信区间均包含零点，这说明回归模型能较好的符合原始数据，而这两个数据可视为异常点(而剔除)3、实例分析如线性回归模型y =b0+b1X1+b2X2+b3X3+e回归系数b0-b3，由数据估计，e是随机误差y=b0+b1X1+b2X2+b3X3+b4X4+b5X5+b6X6+e1y=[144 215 138 145 162 142 170 124 158 154 162 150 140 110 128 130 135 114 116 124 136 142 120 120 160 158 144 130 125 175];x1=[39 47 45 47 65 46 67 42 67 56 64 56 59 34 42 48 45 18 20 19 36 50 39 21 44 53 63 29 25 69]; x2=[24.2 31.1 22.6 24.0 25.9 25.1 29.5 19.7 27.2 19.3 28.0 25.8 27.3 20.1 21.7 22.2 27.4 18.8 22.6 21.5 25.0 26.2 23.5 20.3 27.1 28.6 28.3 22.0 25.3 27.4];x3=[0 1 0 1 1 0 1 0 1 0 1 0 0 0 0 1 0 0 0 ...0 0 1 0 0 1 1 0 1 0 1];X=[ones(16,1), x1',x2',x3'];%ones(16,1) 添加常数列[b,bint,r,rint,stats]=regress(y',X);b,bint,statsrcoplot(r,rint)4、检验怎么对多元线性回归模型的回归系数β做t检验和F检验？进行多元线性回归统计数F, t 测验的小程序：clear,clcx=rand(50,10);y=rand(50,1); % example[n,k]=size(x);X=[ones(n,1),x];%构建结构阵X，A=X'*X; %求算信息阵A，C=inv(A); %求算信息阵的逆阵，b=X\y, % 求算回归统计数向量，其中第一行为回归截距a,RSS=y'*y-b'*X'*y, %求算离回归平方和，MSe=RSS/(n-k-1),%求算离回归方差，Up=b.*b./diag(C);%求算偏回归平方和，其中第一行是a与0差异的偏平方和，F=Up/MSe,%F测验，其中第一行为a与0差异的F值，sb=sqrt(MSe*diag(C)); %求算回归统计数标准误，t=b./sb, % 回归统计数的t 测验，其中第一行为a与0差异的t测验值。

第八章回归分析方法当人们对研究对象的内在特性和各因素间的关系有比较充分的认识时，一般用机理分析方法建立数学模型.如果由于客观事物内部规律的复杂性及人们认识程度的限制，无法分析实际对象内在的因果关系，建立合乎机理规律的数学模型，那么通常的办法是搜集大量数据，基于对数据的统计分析去建立模型。

本章讨论其中用途非常广泛的一类模型——统计回归模型。

回归模型常用来解决预测、控制、生产工艺优化等问题。

变量之间的关系可以分为两类：一类叫确定性关系，也叫函数关系，其特征是:一个变量随着其它变量的确定而确定。

另一类关系叫相关关系,变量之间的关系很难用一种精确的方法表示出来.例如，通常人的年龄越大血压越高，但人的年龄和血压之间没有确定的数量关系,人的年龄和血压之间的关系就是相关关系。

回归分析就是处理变量之间的相关关系的一种数学方法。

其解决问题的大致方法、步骤如下：（1）收集一组包含因变量和自变量的数据;（2)选定因变量和自变量之间的模型，即一个数学式子，利用数据按照最小二乘准则计算模型中的系数；（3）利用统计分析方法对不同的模型进行比较，找出与数据拟合得最好的模型;(4)判断得到的模型是否适合于这组数据；(5）利用模型对因变量作出预测或解释。

应用统计分析特别是多元统计分析方法一般都要处理大量数据,工作量非常大，所以在计算机普及以前，这些方法大都是停留在理论研究上.运用一般计算语言编程也要占用大量时间，而对于经济管理及社会学等对高级编程语言了解不深的人来说要应用这些统计方法更是不可能.MATLAB等软件的开发和普及大大减少了对计算机编程的要求，使数据分析方法的广泛应用成为可能。

MATLAB统计工具箱几乎包括了数理统计方面主要的概念、理论、方法和算法。

运用MATLAB统计工具箱，我们可以十分方便地在计算机上进行计算，从而进一步加深理解，同时,其强大的图形功能使得概念、过程和结果可以直观地展现在我们面前。

本章内容通常先介绍有关回归分析的数学原理,主要说明建模过程中要做的工作及理由，如模型的假设检验、参数估计等，为了把主要精力集中在应用上，我们略去详细而繁杂的理论。

matlab 回归（多元拟合）教程前言1、学三条命令polyfit(x,y,n)---拟合成一元幂函数（一元多次） regress(y,x)----可以多元，nlinfit(x,y,’fun ’,beta0) (可用于任何类型的函数，任意多元函数，应用范围最主，最万能的)2、同一个问题，这三条命令都可以使用，但结果肯定是不同的，因为拟合的近似结果，没有唯一的标准的答案。

相当于咨询多个专家。

3、回归的操作步骤：根据图形（实际点），选配一条恰当的函数形式（类型）---需要数学理论与基础和经验。

（并写出该函数表达式的一般形式，含待定系数）------选用某条回归命令求出所有的待定系数。

所以可以说，回归就是求待定系数的过程（需确定函数的形式）一、回归命令一元多次拟合polyfit(x,y,n);一元回归polyfit;多元回归regress---nlinfit(非线性)二、多元回归分析对于多元线性回归模型(其实可以是非线性，它通用性极高)：e x x y p p++++=βββ 110设变量12,,,p x x x y 的n 组观测值为12(,,,)1,2,,i i ip i x x x y i n =记 ⎪⎪⎪⎪⎪⎭⎫⎝⎛=np n n p p x x x x x x x x x x 212222111211111，⎪⎪⎪⎪⎪⎭⎫⎝⎛=n y y y y 21，则⎪⎪⎪⎪⎪⎭⎫ ⎝⎛=p ββββ 10 的估计值为排列方式与线性代数中的线性方程组相同（），拟合成多元函数---regress使用格式：左边用b=[b, bint, r, rint, stats]右边用=regress(y, x)或regress(y, x, alpha) ---命令中是先y 后x,---须构造好矩阵x(x 中的每列与目标函数的一项对应) ---并且x 要在最前面额外添加全1列/对应于常数项---y 必须是列向量---结果是从常数项开始---与polyfit 的不同。

matlab多元二项式回归【实用版】目录一、引言二、多元二次回归分析问题的分类三、MATLAB 中用于解决多元二次回归分析问题的函数四、实例：使用 MATLAB 进行多元二次回归分析五、结论正文一、引言多元二次回归分析是一种常用的数学建模方法，它可以用于描述两个或两个以上自变量与因变量之间的关系。

在实际应用中，例如经济学、物理学、生物学等领域，多元二次回归分析都有着广泛的应用。

而在 MATLAB 中，我们可以使用不同的函数来解决多元二次回归分析问题。

本文将介绍如何在 MATLAB 中进行多元二次回归分析。

二、多元二次回归分析问题的分类在进行多元二次回归分析之前，首先需要对问题进行分类，确定是线性问题还是非线性问题。

1.线性问题：如果自变量与因变量之间的关系可以用线性方程来表示，则认为是线性问题。

在 MATLAB 中，可以使用 regress() 函数来解决线性回归问题。

2.非线性问题：如果自变量与因变量之间的关系不能用线性方程来表示，则认为是非线性问题。

在 MATLAB 中，可以使用 sqcurvefit() 或nlinfit() 函数来解决非线性回归问题。

三、MATLAB 中用于解决多元二次回归分析问题的函数1.regress() 函数：用于解决线性回归问题。

其使用方法如下：```matlabregress(x, y, z)```其中，x 为自变量矩阵，y 为因变量向量，z 为参数向量。

2.sqcurvefit() 函数：用于解决非线性二次回归问题。

其使用方法如下：```matlabsqcurvefit(x, y, z)```其中，x 为自变量矩阵，y 为因变量向量，z 为参数向量。

3.nlinfit() 函数：用于解决非线性一次回归问题。

其使用方法如下：```matlablinfit(x, y, z)```其中，x 为自变量矩阵，y 为因变量向量，z 为参数向量。

四、实例：使用 MATLAB 进行多元二次回归分析假设我们有如下数据：x: [1, 2, 3, 4, 5];y: [2, 4, 5, 8, 10];我们需要建立一个多元二次回归模型，即 y = a1*x^2 + a2*x^3 + a3*x^4 + a4*x^5，来描述 x 与 y 之间的关系。