系统辨识最小二乘参数估计matlab

最小二乘法：%递推公式，更新 p0=p2;for n=2:N-1%%递推最小二乘法K0=p0*X(n,:)'*inv(1+X(n,:)*p0*X(n,:)');%计算ＫTheta_abs=Theta_abs+K0*(Y(n)-X(n,:)*Theta_abs);%计算估计值Theta ；p3=p0-K0*X(n,:)*p0;%计算P p0=p3;%误差平方和最小 Y1=X(n,:)*Theta_abs;%递推值 J=(Y(n,:)-Y1)*(Y(n,:)-Y1)'if (J<err)%设定平方误差最小，跳出循环 break; end; end对于()()()()()b n a n n k u b k u b n y a k y a k y b a -++=-+-+.......111 引进后移算子()()11-=-k y k y q 假定在初始条件0时z 变换得到()()()ab b n a n n n z a z a z b z b b z X z Y z H ----+++++==...1 (11110)ARX 模型有：()()⎪⎩⎪⎨⎧++=+++=------b b a n n n a n zb z b b q B za z a q A (11)101111 ()()()()()k v k u q B q k y q A d +=---11；()k v 为均值为0的噪声项 上式可以改写为()()()()l k k v i k u b i k z a k z ban i i n i i ,..,2,1,11=+-+--=∑∑==上式改写为最小二乘格式()())(k v k h k z T +=θ（3） 对于（3）式的l次观测构成一个线性方程组[][]⎪⎩⎪⎨⎧=------=Tn n Tba na b b b a a a n k u k u n k z k z k h ,...,,,,...,,)(),...,1(),(),...,1()(2121θ即 l l l V H Z +=θ.()()()[]()()()[]Tl Tl l v v v V l z z z Z ,...2,1,,...,2,1=()()()()()()()()()⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎣⎡-------------=⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎣⎡=)()1()(21)2()1(10)1(021b a b a b a l n l u l u n l z l z n u u n z z n u u n z z l h h h H取极小化准则函数()()[]()()θθθL T L l lk T H z H z k h k z J --=-=∑=12，极小化()θJ ，求得参数θ的估计值θˆ，[]T n n na b b b a a a ˆ,...,ˆ,ˆ,ˆ,...,ˆ,ˆˆ2121=θ ()()[]()()θθθˆˆˆ12ll T l l lk T H Z H Z k h k z J --=-=∑=表示为了确定使准则最小的条件，将该式对各参数求导，并令其结果等于零：()()l T l lT l l l l Z H H H H Z H J 1ˆ,0ˆ2ˆ-==--=∂∂θθθ即，只要矩阵l H 是满秩的，l Tl H H 则是正定的，使准则为极小的条件得到满足，最小二乘估计的递推算法（RLS ）最小二乘法，不仅占用大量内存，而且不适合于在线辨识，为了解决这个问题，把它转化为递推算法：修正项+=+kk θθˆˆ1 ()()()()()()()()()⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎣⎡-------------=⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎣⎡=)()1()(21)2()1(10)1(021b a b a b a l n l u l u n l z l z n u u n z z n u u n z z l h h h H若令()1-=l T l l H H P ,则[][]l T l l T l l l l l T l l l P h Ph h I h P P h h P P 111111111+-+++-++++-=+=[][]lT l l l l l Tl l l l l T l l l l l P h K I P h P h h P K h z K 111111111111;1;ˆˆ++++++++++++-=+=-+=θθθ加权递推最小二乘（RWLS ）：()()()()(),11k e k u z B k z z A +=--()()()(),11k v zC zD k e --=e(k)为有色噪声，v(k)为白噪声。

系统辨识和最小二乘参数估计Matlab仿真一、系统辨识在控制系统的分析中，首先要建立系统的数学模型，控制系统的数学模型是定量描述系统或过程内部物理量（或变量）之间关系的数学表达式。

一般来说，建立控制系统数学模型有两种基本方法：（1）机理建模（白箱模型）：即根据系统内在运行机制、物料和能量守恒等物理学、化学规律建立系统的数学模型，一般步骤如下：Step1：根据系统工作原理及其在控制系统中的作用，确定输入和输出；Step2：根据物料和能量守恒等关系列写基本方程式；Step3：消去中间量；Step4：获得系统模型；（2）实验法建模（黑箱模型）：即对于机理尚不清楚或机理过于复杂的系统，可以人为的对其施加某种测试信号，并记录其输出响应，或者记录正常运行时的输入输出数据，然后利用这些输入输出数据确定系统模型结构和参数。

多年来，系统辨识已经发展为一门独立学科分支，通过系统辨识建立一个对象的数学模型，通常包括两方面的工作：一是模型结构的确定（模型的类型、阶次），二是模型参数估计。

根据时间是否连续，参数模型又可以分为连续时间系统模型和离散时间系统参数模型，这两类模型均可采用输入输出模型和状态空间模型描述，离散系统采用差分方程描述，以单输入单输出（SISO）离散系统参数模型为例。

1.确定性模型SISO系统确定性模型可表示为：u(k)和y(k)分别为输入和输出，d为纯延时。

2.随机性模型如果受到随机扰动，则式子可写为：为系统随机扰动，其结构如图：系统辨识的一般步骤如图：从图中可以看出，利用辨识的方法建立系统数学模型，从实验设计到模型获得，需要这些步骤。

二、最小二乘参数估计1.批处理最小二乘考虑以下CAR模型：为白噪声，结构参数na、nb和d已知，参数估计的任务就是根据可测量的输入输出，确定如下参数：仿真实例：式中，为方差为1的白噪声，选用幅值为1的逆M序列作为输入，LS算法进行参数估计，仿真结果如图：仿真程序(Matlab):%批处理最小二乘参数估计（LS）clear all;a=[1 -1.5 0.7]'; b=[1 0.5]'; d=3; %对象参数na=length(a)-1; nb=length(b)-1; %na、nb为A、B阶次L=500; %数据长度uk=zeros(d+nb,1); %输入初值：uk(i)表示u(k-i)yk=zeros(na,1); %输出初值x1=1; x2=1; x3=1; x4=0; S=1; %移位寄存器初值、方波初值xi=randn(L,1); %白噪声序列theta=[a(2:na+1);b]; %对象参数真值for k=1:Lphi(k,:)=[-yk;uk(d:d+nb)]'; %此处phi(k,:)为行向量，便于组成phi矩阵y(k)=phi(k,:)*theta+xi(k); %采集输出数据IM=xor(S,x4); %产生逆M序列if IM==0u(k)=-1;elseu(k)=1;endS=not(S); M=xor(x3,x4); %产生M序列%更新数据x4=x3; x3=x2; x2=x1; x1=M;for i=d+nb:-1:2uk(i)=uk(i-1);enduk(1)=u(k);for i=na:-1:2yk(i)=yk(i-1);endyk(1)=y(k);endthetae=inv(phi'*phi)*phi'*y' %计算参数估计值thetae2.递推最小二乘在批处理最小二乘法时，由于每次处理的数据量较大，而且常常要求对象参数能够在线实时估计，解决的方法就是将其化成递推算法，其基本思想为：算法介绍：仿真实例:式中，为方差为0.1的白噪声，取初值，选择方差为1的白噪声作为输入信号u(k)，采用RLS算法进行参数估计，仿真结果如图：仿真程序（Matlab）：%递推最小二乘参数估计（RLS）clear all; close all;a=[1 -1.5 0.7]'; b=[1 0.5]'; d=3; %对象参数na=length(a)-1; nb=length(b)-1; %na、nb为A、B阶次L=400; %仿真长度uk=zeros(d+nb,1); %输入初值：uk(i)表示u(k-i)yk=zeros(na,1); %输出初值u=randn(L,1); %输入采用白噪声序列xi=sqrt(0.1)*randn(L,1); %白噪声序列theta=[a(2:na+1);b]; %对象参数真值thetae_1=zeros(na+nb+1,1); %thetae初值P=10^6*eye(na+nb+1);for k=1:Lphi=[-yk;uk(d:d+nb)]; %此处phi为列向量y(k)=phi'*theta+xi(k); %采集输出数据%递推最小二乘法K=P*phi/(1+phi'*P*phi);thetae(:,k)=thetae_1+K*(y(k)-phi'*thetae_1);P=(eye(na+nb+1)-K*phi')*P;%更新数据thetae_1=thetae(:,k);for i=d+nb:-1:2uk(i)=uk(i-1);enduk(1)=u(k);for i=na:-1:2yk(i)=yk(i-1);endyk(1)=y(k);endplot([1:L],thetae); %line([1,L],[theta,theta]); xlabel('k'); ylabel('参数估计a、b');legend('a_1','a_2','b_0','b_1'); axis([0 L -2 2]);。

利用Matlab进行系统辨识的技术方法在Matlab中进行系统辨识的技术方法主要有参数估计法和非参数估计法两种。

1.参数估计法：参数估计法是通过拟合已知输入和输出数据的数学模型来估计系统的参数。

常用的参数估计方法包括最小二乘法（OLS）、最小二乘法（LSE）、最小二乘法（MLE）和极大似然估计法（MLE）等。

a) 最小二乘法（OLS）：OLS方法通过最小化实际输出与模型预测输出之间的误差平方和来估计系统参数。

在Matlab中，可以使用lsqcurvefit函数来实现最小二乘法的系统辨识。

b) 最小二乘法（LSE）：LSE方法是通过最小化实际输出与模型预测输出之间的误差平方和来估计系统参数。

在Matlab中，可以使用lsqnonlin函数来实现最小二乘法的系统辨识。

c) 最小二乘法（MLE）：MLE方法是通过最大化似然函数来估计系统参数。

在Matlab中，可以使用mle函数来实现最大似然估计法的系统辨识。

2.非参数估计法：非参数估计法不需要事先指定系统的数学模型，而是直接根据输入和输出数据的统计特性进行系统辨识。

常用的非参数估计方法包括频域方法、时域方法和时频域方法等。

a) 频域方法：频域方法通过对输入和输出数据进行频谱分析来估计系统的频率响应。

常用的频域方法包括傅里叶变换、功率谱密度估计和频率响应函数估计等。

在Matlab中，可以使用fft函数和pwelch函数来实现频域方法的系统辨识。

b) 时域方法：时域方法通过对输入和输出数据进行时间序列分析来估计系统的时域特性。

常用的时域方法包括自相关函数估计和互相关函数估计等。

在Matlab中，可以使用xcorr函数来实现时域方法的系统辨识。

c) 时频域方法：时频域方法结合了频域方法和时域方法的优势，可以同时估计系统的频率响应和时域特性。

常用的时频域方法包括短时傅里叶变换和小波变换等。

在Matlab中，可以使用spectrogram函数和cwt函数来实现时频域方法的系统辨识。

用matlab实现最小二乘递推算法辨识系统参数自动化系统仿真实验室指导教师：学生姓名班级计082-2 班学号撰写时间：全文结束》》-3-1 成绩评定：一．设计目的1、学会用Matlab实现最小二乘法辨识系统参数。

2、进一步熟悉Matlab的界面及基本操作；3、了解并掌握Matlab中一些函数的作用与使用；二．设计要求最小二乘递推算法辨识系统参数，利用matlab编程实现，设初始参数为零。

z(k)-1、5*z(k-1)+0、7*z(k-2)=1*u(k-1)+0、5*u(k-2)+v(k); 选择如下形式的辨识模型：z(k)+a1*z(k-1)+a2*z(k-2)=b1*u(k-1)+b2*u(k-2)+v(k);三．实验程序m=3;N=100;uk=rand(1,N);for i=1:Nuk(i)=uk(i)*(-1)^(i-1);endyk=zeros(1,N); for k=3:N yk(k)=1、5*yk(k-1)-0、7*yk(k-2)+uk(k-1)+0、5*uk(k-2);end%j=100;kn=0;%y=yk(m:j);%psi=[yk(m-1:j-1);yk(m-2:j-2);uk(m-1:j-1);uk(m-2:j-2)];%pn=inv(psi*psi);%theta=(inv(psi*psi)*psi*y);theta=[0 ;0;0;0];pn=10^6*eye(4);for t=3:Nps=([yk(t-1);yk(t-2);uk(t-1);uk(t-2)]);pn=pn-pn*ps*ps*pn*(inv(1+ps*pn*ps));theta=theta+pn*ps*(yk(t)-ps*theta);thet=theta;a1=thet(1);a2=thet(2);b1=thet(3);b2= thet(4);a1t(t)=a1;a2t(t)=a2;b1t(t)=b1;b2t(t)=b2;endt=1:N;plot(t,a 1t(t),t,a2t(t),t,b1t(t),t,b2t(t));text(20,1、47,a1);text(20,-0、67,a2);text(20,0、97,b1);text(20,0、47,b2);四．设计实验结果及分析实验结果图：仿真结果表明，大约递推到第步时，参数辨识的结果基本到稳态状态，即a1=1、5999，b1=1，c1=0、5，d1=-0、7。

Matlab最⼩⼆乘系统辨识原理还是⽐较简单的，不赘述，程序⾥⾯的注释也写的⽐较清楚了%仿真对象:y(k)-1.5y(k-1)+0.7y(k-2)=v(k)+u(k)-0.8u(k-1)%辨识模型:y(k)+a1 y(k-1)+a2 y(k-2)=v(k)+b1 u(k)+b2 u(k-1)%数据长度取n=20000,加权矩阵为I，v(k)是服从正态分布的⽩噪声N（0,1）,u(k)=sin(k)%待估计参数K=[a1 a2 a3 a4]'；准则函数J(K)=(Yn-HnK)'(Yn-HnK);%将辨识模型写为：y(k)=v(k)+a1 y(k-1)+a2 y(k-2)+b1 u(k)+b2 u(k-1)% =v(k)+KHn%Hn=|y(2) y(1)|% |y(3) y(2)|% |.........|clearclose alldata_length=20002;%% 产⽣⽩噪声和输⼊v=randn(1,data_length);v=v./max(v);u=zeros(1,data_length);for k=1:data_lengthu(k)=sin(k);end%% 获得观测值y=zeros(1,data_length);for k=3:data_lengthy(k)=1.5*y(k-1)-0.7*y(k-2)+v(k)+u(k)-0.8*u(k-1);end%% 构造Hn和Y矩阵Hn=zeros(data_length-2,2);count=1;for k=1:10000Hn(k,2)=y(count);count=count+1;Hn(k,1)=y(count);Hn(k,4)=u(count);Hn(k,3)=u(count+1);end%% 求解参数Y=y(3:data_length)';c1=Hn'*Hn;c2=inv(c1);c3=Hn'*Y;K=c2*c3%% 将辨识得到的参数代⼊，得估计输出y_e=zeros(1,data_length);for k=3:data_lengthy_e(k)=K(1)*y_e(k-1)+K(2)*y_e(k-2)+v(k)+K(3)*u(k)+K(4)*u(k-1);end%% 画出实际输出和辨识输出，进⾏对⽐plot((1:data_length),y');title('实际输出')hold onplot((1:data_length),y_e');title('辨识输出')figuresubplot(2,1,1)plot((1:data_length),y');title('实际输出')subplot(2,1,2)plot((1:data_length),y_e');title('辨识输出')。

最小二乘参数估计摘要：最小二乘的一次性完成辨识算法（也称批处理算法），他的特点是直接利用已经获得的所有（一批）观测数据进行运算处理。

这种算法在使用时，占用内存大，离线辨识，观测被辨识对象获得的新数据往往是逐次补充到观测数据集合中去的。

在应用一次完成算法时，如果要求在每次新增观测数据后，接着就估计出系统模型的参数，则需要每次新增数据后要重新求解矩阵方程()Z l T l l Tl ΦΦΦ-∧=1θ。

最小二乘辩识方法在系统辩识领域中先应用上已相当普及，方法上相当完善，可以有效的用于系统的状态估计，参数估计以及自适应控制及其他方面。

关键词：最小二乘（Least-squares ），系统辨识（System Identification ） 目录：1.目的 (1)2.设备 (1)3引言 (1)3.1 课题背景 (1)4数学模型的结构辨识 (2)5 程序 (3)5.1 M 序列子函数 ................................................................................... 错误!未定义书签。

5.2主程序................................................................................................. 错误!未定义书签。

6实验结果： ................................................................................................................................... 3 7参考文献： ................................................................................................... 错误!未定义书签。

matlab最小二乘法求参数
matlab最小二乘法是一种常见的参数估计方法，可以在一组数据中找到最优的拟合曲线或拟合函数参数。

具体步骤如下：
1. 定义模型函数和目标函数
首先，需要定义一个模型函数，用于描述数据之间的关系。

例如，假设要拟合的函数是一条直线，可以定义模型函数为 y=a*x+b，其中a和b是待求参数，x和y是数据点。

然后，根据最小二乘法的原理，需要定义目标函数，即误差的平方和。

对于直线拟合，可以定义目标函数为 sum((y-a*x-b).^2)。

2. 求解参数
使用matlab内置的最小二乘法函数，可以快速求解出最优的参数值。

使用该函数的格式为[p,r]=polyfit(x,y,n)，其中x和y是数据点的横纵坐标，n是多项式的阶数（对于直线拟合，n=1），p是拟合函数的系数，r是残差向量。

3. 绘制拟合曲线
得到拟合函数的系数之后，可以根据模型函数和参数值，绘制出拟合曲线。

使用matlab的plot函数，可以将拟合曲线和原始数据点一同绘制在同一张图中，以方便比较和分析。

总之，matlab最小二乘法是一种强大的参数估计方法，可用于解决各种数据拟合问题。

通过掌握其原理和使用方法，可以更好地应对实际应用中的数据分析需求。

- 1 -。

使用MATLAB进行系统辨识与参数估计的基本原理近年来，随着人工智能和机器学习的发展，系统辨识和参数估计变得越来越重要。

在工程和科学领域，系统辨识与参数估计可以帮助我们理解和预测复杂系统的行为，从而为决策和控制提供有力支持。

而MATLAB作为一种强大的科学计算软件，在系统辨识与参数估计方面提供了丰富的工具和功能。

本文将介绍MATLAB 中进行系统辨识与参数估计的基本原理。

一、系统辨识的概念系统辨识是指通过一系列的实验和数据分析，确定出系统的数学模型或特性。

在实际工程和科学问题中，我们经常遇到许多系统，如电子电路、生化反应、飞行控制系统等。

通过系统辨识，我们可以了解系统的行为规律，预测未来状态，从而进行优化和控制。

在MATLAB中，可以使用系统辨识工具箱（System Identification Toolbox）进行系统辨识。

该工具箱提供了一系列的函数和算法，可以帮助我们建立和分析系统模型。

例如，使用arx函数可以基于自回归模型建立离散时间系统的模型，使用tfest函数可以进行连续时间系统的模型辨识。

二、参数估计的基本原理参数估计是系统辨识的一个重要部分，它是指通过已知的输入输出数据，估计系统模型中的参数。

在实际应用中，我们通常只能通过实验数据来获得系统的输入输出信息，而无法直接观测到系统内部的参数。

因此，参数估计成为了一种重要的技术，用于从数据中推断出系统的模型参数。

在MATLAB中，参数估计的基本原理是最小二乘估计。

最小二乘估计是指寻找能够最小化实际输出与模型输出之间的误差平方和的参数值。

在MATLAB中，可以使用lsqcurvefit函数进行最小二乘估计，该函数可以用来拟合非线性模型或者线性模型。

此外，还可以使用最大似然估计（MLE，Maximum Likelihood Estimation）进行参数估计，MATLAB通过提供相应的函数，如mle函数和mlecov 函数，支持最大似然估计的使用。