当前位置：文档之家 › 有色噪声干扰输出误差系统的偏差补偿递推最小二乘辨识方法

有色噪声干扰输出误差系统的偏差补偿递推最小二乘辨识方法

  • 格式：pdf
  • 大小：397.54 KB
  • 文档页数：10

第３３卷第１０期２００７年１０月自动化学报

ＡＣＴＡＡＵＴＯＭＡＴＩＣＡＳＩＮＩＣＡｖ０１．３３．ＮＯ．ｉ０

Ｏｃｔｏｂｅｒ，２００７

有色噪声干扰输出误差系统的偏差补偿递推最小二乘辨识方法张勇－杨慧中－摘要借助于偏差补偿臆理和预滤波崽想，推导，有色噪声干扰输出误差系统参数估计的偏差补偿递推最，ｂ－－乘（Ｂｉａｓｃｏｍｐ．ｅｎｓｕｔｉｏｎｒｅｃｕｒｓｉｖｅ

ｌｅａｓｔ

ｓｑｕａｒｅｓ．ＢＣＲＬＳ】辨识方法该方法降低ｒ辨识对输入信号平稳性的要求，实现ｒ偏筹补偿方

法参数估计的递推计算，可以用于存线辨识提出的递推ＢＣＲＬＳ辨识方法优于非递推偏差补偿最小二乘算法，提高ｒ参数估计精度．仿真试验证实，算法的有效性

关键词输出误差系统．参数估计，递推辨识，最小二乘，偏差补偿原理中囤分类号ＴＰ２７３

ＢｉａｓＣｏｍｐｅｎｓａｔｉｏｎＲｅｃｕｒｓｉｖｅＬｅａｓｔＳｑｕａｒｅｓＩｄｅｎｔｉｆｉｃａｔｉｏｎｆｏｒＯｕｔｐｕｔＥｒｒｏｒＳｙｓｔｅｍｓ

ｗｉｔｈＣｏｌｏｒｅｄＮｏｉｓｅｓ

ＺＨＡＮＧＹｏｎｇｌＹＡＮＧＨｕｉ—Ｚｈｏｎ９１

ＡｂｓｔｒａｃｔＢａｓｅｄＯｉｌｔｈｅｂｉａｓＣｏｍｐｅｎｓａｔｉｏｎｐｒｉｎｃｉｐｌｅａｎｄｐｒｅ－ｆｉｌｔｅｒｌｎｇｉｄｅａ，ｔｈｉｓｐａｐｅｒｄｅｒｉｖｅｓａｂｉａｓｃｏｍｐｅｎｓａｔｉｏｎｒｅｃｕｒｓｉｖｅｌｅａｓｔｓｑｕａｒｅｓ（ＢＣＲＬＳ）ｉｄｅｎｔｉｆｉｃａｔｉｏｎ

ａｌｇｏｒｉｔｈｍｆｏｒｏｕｔｐｕｔｅｒｒｏｒｓｙｓｔｅｍｓｗｉｔｈｃｏｌｏｒｅｄｎｏｉｓｅｓ．Ｔｈｅａｌｇｏｒｉｔｈｍ

ｐｒｏｐｏｓｅｄ．ｗｈｉｃｈｄｏｅｓｎｏｔｒｅｑｕｉｒｅｔｈｅｉｎｐｕｔｓｉｇｎａｌＢｔｏｂｅｓｔａｔｉｏｎａｒｙａｎｄｅｒｇｏｄｉｃ，ｃａｒｒｉｅｓｏｕｔｔｈｅｒｅｃｕｍｉｖｅｃｏｍｐｕｔａｔｉｏｎｏｆｔｈｅｂｉａｓｃｏｍｐｅｎｓａｔｉｏｎｍｅｔｈｏｄｓａｎｄｃａｌｌｂｅｏｎ—ｈｎｅｉｍｐｌｅｍｅｎｔｅｄＴｈｅ

ＢＣＲＬＳａｌｇｏｒｉｔｈｍｈａｓａｄｖａｎｔａｇｅｏｖｅｒｔｈｅ

ｎｏｎ－

ｒｅｃｕｒｓｉｖｅｂｉａｓｃｏｍｐｅｎｓａｔｉｏｎａｌｇｏｒｉｔｈｍｓａｎｄｃａｎｇｉｖｅｈｉｇｈｌｙａｃｃｕｒａｔｅｐａｒａｍｅｔｅｒ

ｅｓｔｉｍａｔｉｏｎ．Ｔｈｅｓｉｍｕｌａｔｉｏｎｒｅｓｕｌｔｓｃｏｎｆｉｒｍ

ｔｈｅｔｈｅｏｒｅｔｉｃａｌｒｅｓｕｌｔｓ．

ＫｅｙｗｏｒｄｓＯｕｔｐｕｔｓｙｓｔｅｍｓ，ｐａｒａｍｅｔｅｒｅｓｔｉｍａｔｉｏｎ，ｒｅｃｍｒｓｉｖｅｉｄｅｎｔｉｆｉｃａｔｉｏｎ，ｌｅａｓｔｓｑｕａｒｅｓ，ｂｉａｓｃｏｍｐｅｎｓａｔｉｏｎ

ｐｒｉｎｃｉｐｌｅ

１引言考虑卜Ｉ列有色噪声干扰输出误差系统的辨识问题…

卵）＝器吣ｍ㈤（１）

其中，口（ｔ）为系统输出，ｎ（ｔ）为系统输入，ｅ（ｔ）是与输入ｕ（ｔ）不相关的有色干扰噪声，Ａ（ｚ）和Ｂ（ｚ）均为单位后移算子ｚ。的互质多项式ｋ＿１ｙ（ｔ）＝Ⅳ０一１）】，且

Ａ（ｚ）Ｂ（名）＝１＋ａｌｚ—ｌ＋ａ２ｚ一２＋···＋ｏ＂。ｚ一”。

＝ｂｌｚ一１＋ｂｚｚ一２＋一·－＋６。。ｚ一“５

不妨设ｔ≤０时，ｕ（ｔ）＝０，ｙ（ｔ）＝０，ｅ（ｔ）＝０．假设收稿ｎ期２００６－９－１２收修魏稿几期２｛）０７－２·１ＲｅｃｅｉｖｅｄＳｅｐｔｅｍｂｅｒ１２．２００６：ｉｎｒｅｖｉｓｅｄｆｏｒｍＦｅｂｒｕａｒｙ１，２００７国家自然科学基盘（６０６７４０９２，６０５７ａ０５１），江苏省高技术研究（工业）（ＢＧ２００６０１０１铣助ＳｕｐｐｏｒｔｅｄｂｙＮａｔｉｏｎａｌＮａｔｕｒａｌＳｃｉｅｎｃｅＦｏｕｎｄａｔｉｏｎｏｆＣｈｉｎａ

（６０６７４０９２，６０５７４０５１），Ｈｉｇｈ－ｔｅｃｈＲ＆ＤＰｒｏｇｒａｍｏｆＪｉａｎｇｓｕ（Ｉｎ－ｄｕｓｔｒｙ）（ＢＧ２００６０１０）１汀南人学通信与控制工程学院无锡２１４１２２１ＳｃｈｏｏｌｏｆＣｏｍｍｕｎｉｃａｔｉｏｎａｎｄＣｏｎｔｒｏｌＥｎｇｉｎｅｅｒｉｎｇ，Ｊｉａｎｇ－

Ｕｎｉｖｅｒｓｉｔｙ，ⅥⅦ２１４１２２

ＤＯｈ１０１３６０／ａａｓ－００７－１０５３

系统模型阶次ｎ。和ｎｂ己知．对于噪卢模型结构未知的系统，常规虽小二乘方法（Ｌｅａｓｔｓｑｕａｒｅｓ，ＬＳ）给出的参数是有偏的吐也无法运用基于模型等价

理论的脉冲响应方法来估计其参数【３】．偏差校正或偏差消除或偏差补偿辨识方法是获得随机系统无偏参数估计的重要方法．多年来，Ｚｈｅｎｇ等提出了一些偏差消除方法ｆＢｉａｓｃｏｍｐｅｎｓａｔｉｏｎｌｅａｓｔ

ｓｑｕａｒｅｓ，

ＢＣＬＳ）来研究各种有色噪卢干扰系统的辨识问题，例如输出误差系统Ｈ、相关噪声干扰的ＡＲＸ模型［５】、白同归模型【６】６、变量误差模型【≈等．而这些基于相关分析的偏差消除辨识方法都是假设系统输入是平稳的（Ｓｔａｔｉｏｎａｒｙ）和备态遍历的（Ｅｒｇｏｄｉｃ），且算法是非递推的，不能用于在线辨识．尽管杨等【８】提出了辨识Ｂｏｘ－Ｊｅｎｋｉｎｓ模型的偏差补偿方法无需平稳性假设，也不能用于在线辨识．最近，丁等【ｑ针对（白噪声干扰）输出误差多输入单输出系统，提出了偏差补偿递推最小二乘辨识算法（Ｂｉａｓ

ｃｏｍｐｅｎｓａｔｉｏｎｒｅｃｕｒｓｉｖｅｌｅａｓｔｓｑｕａｒｅｓ，ＢＣＲＬＳ）；这

是一种很新颖和有效的辨识方法，无需输入信号平稳和各态遍历的假设，进一步说明ＢＣＲＬＳ算法优于非递推（基于相关分析）的偏差补偿辨识算法．本文针对有色噪声干扰的输出误差系统，利用系统输

　万方数据１０５４自动化学报３３卷入输出数据｛Ⅱ（ｔ），ｇ（ｔ）），基于偏差补偿原理，研究和提出的ＢＣＲＬＳ算法，来获得参数口。和ｂｉ的无偏估计．本文借助于偏差补偿基本原理，通过设计一个预滤波器，对系统输入信号进行滤波，把滤波器的己知零点嵌入到系统中，然后利并ｊ零点捉供的信息，补偿最小二乘估计中噪声引起的偏差，进而推导偏差补偿递推辨识方法．它能够在线辨识非平稳信号作为输入时的有色噪声干扰输出误差系统的参数，减小了辨识对输入为平稳信号的要求．ＢＣＲＬＳ辨识方法与非递推偏差补偿辨识方法相比，模型参数估计精度得以提高，这些通过仿真例子进行了说明．并且该算法不同于Ｚｈｅｎｇ的偏差补偿类方法【４０】，原冈在于他的方法是非递推的，也不同于文献『９１的向噪声干扰输出误差系统的偏差补偿递推辨识方法，冈为ＢＣＲＬＳ算法讨论的是有色噪声干扰的输出误差系统．

２偏差补偿辨识的基本原理定义参数向量口、信息向量妒（ｔ）和噪声向量饥（ｔ）如Ｆ

口＝ｆａｌ，…，ａＭｂ∥一’ｂ。。１７∈Ⅳ妒（ｔ）＝［－ｙ（ｔ一１），·一，一ｙ（ｔ—ｎ。），“０—１），…，“（ｔ—ｎ６）］１∈Ｒ“妒。０）＝Ｉｅ０一１），·一，ｅ（ｔ—ｎ。），０，…，０］１∈酣，ｎ＝ｎ口＋ｎｂ．

则系统（１）可转化为ｙ（ｔ）＝妒７０）口＋妒：（ｔ）口＋ｅ（ｔ）（２）极小化输出误差准则函数

ｌ，（ｔ）＝∑Ｍｉ）一矿（Ｅ）卯ｉ＝ｌ容易得剑参数口的最小二乘估计ｔｏ。ｓ（ｔ）＝Ｐ（ｔ）∑’ｏ（０ｙ（０＝

ｉ＝１口＋Ｐｏ）∑妒（ｉ）陋：ｏ）口＋ｅ（ｉ）】（３）ｉ＝ｌ￡ｐ－１（ｔ）＝∑ＩＰ（ｔ）矿（Ｅ）

ｔ＝１式（３）两边同乘以Ｐ－１（ｔ）可得

ｐ－１（ｔ）睁Ｌｓ（￡）－ｅｌ＝∑妒（ｉ）孵（ｔ）口＋ｅ（ｉ）ｔ＝１

两边除以ｔ取微限得怒÷Ｐ。（＃）渺。ｓ（￡）一刎２

…ｌｉｒａ［１。葛撕孙咿＋恕÷∑ｔ蛾（ｉ）（４）由假设噪声ｅ（ｔ）与输入“（ｔ）不相关，可知。ｌｉｍ圬ｔ＿＂ｕ（ｉ一删ｉ）＝ｏ，ｗ假设｛ｅ（ｔ））是零均值、平稳随机有色噪卢，定义噪声时间平均相关函数

ｒｅ（Ｊ）＝熙ｌｒｅ（ｔ—Ｊ）ｅ（ｉ），Ｊ＝ｏ，１，…，ｎ。

相关矩阵Ａ，Ｒ和相关向量ｐ１ｐ定义如Ｆ

Ａ＝％（０）ｒ。（１）ｒ。（１）…％（‰一１）ｒｅ（ｏ）…％（札。一２）

Ｒ和向鼍Ｐ中０表示适当维数的零矩阵，则利用式（２），由式（４）可得

。ｌｉｍ１ｔｐ一１（≠）睁Ｌｓ（ｔ）一刎＝

熙［÷喜脚撕咿＋熙÷砉蛾（ｉ）＝一（瑚＋ｐ）（５）

若输入ｕ（ｔ）为持续激励信号，则Ｐ（ｔ）是一个正定矩阵．即对于ｔ，下列持续激励条件成立

华＞ｏ

在某种程度上，这个条件与文献【１０】中提到的弱激励条件和文献［１１】中提到的强激励条件密切相关．定义

Ａｏ（ｔ）＝－Ｐ（ｔ）ｔ［ｅｅ＋ｈｉ

‰嘶俐卜％！｜，懈

｛萋＝端和鼢

％舡叫Ⅷ

窘

　万方数据１０期张勇等：有色噪声干扰输出误差系统的偏差补偿递推箍小二乘辩识方法１０５５

则由式（４）与（５）可以写出以『联系

。１．＋ｉｍ。０Ｌｓ（Ｏ＝日一墨恶Ｐ（ｔ）ｔ［ＲＯ＋ｐ］＝¨熙ａＯ（ｔ）（６）

下面对文献【４】需要输入信号平稳性和遍历性假定【１１】做简要说明．定义信息向量妒（ｔ）的相关函数矩阵＆（ｔ）＝Ｅ陋（ｔ）矿（ｔ）】如果系统信号是二阶矩平稳和各态遍历的，那么ｌｉｍ一。Ｐ＿１（ｔ）／ｔ存在，＆（￡）是不依赖于ｔ的常数矩阵（记作＆），且ｓ；＝ｌｉｍｔ．．。Ｐ＿１（ｔ）／ｔ（根据各态遍历的定义）．在这种假设Ｆ，式（６）可写为墨巴口。ｓ（ｔ）＝口一品［脚＋ｐ］（７）式（７）是平稳信号输入卜偏差补偿辨识的基本关系式，文献『４１的方法隐含了各态遍历假设，即要求ｌｉｍｔ＿＋。Ｐ“（ｔ）／ｔ有限．而在非平稳情形，ｌｉｍ。＿＋。Ｐ（ｔ）／ｔ是时变的，用一个常数矩阵咒代替会造成大的误差（参见卜文仿真实例）．式（６）说明，有色噪声干扰模型的最小二乘估计ＯＬｓ（ｔ）是有偏的．如果在虽小二乘估计ＯＬＳ（ｔ）中引入补偿项Ｐ（ｔ）ｔ［础＋ｐｌ，就可获得口的无偏估计％（ｔ）．这就是偏差补偿最小二乘辨识的基本原理．由于ｐ与冗是未知的，我们用其估计项多（ｔ）与Ｒ（ｔ）代替．因此ＯＢ（ｔ】可以表示为Ｏｓ（ｔ）＝ＯＬｓ（ｔ）＋Ｐ（ｔ）ｔ［Ｒ（ｔ）ＯＢ（ｔ一１）＋壹（ｔ）】（８）其中协方差阵Ｐ（ｔ）可以通过观测数据计算得到．但ｐ与月是未知的，所以无偏估计％（ｔ）的关键问题是如何估算参（ｔ）与Ｒ（ｔ）．Ｆ面基于观测的输入输出数据｛Ｆ（ｔ），Ⅱ（￡）｝，利用准则函数的递推计算及稳定的预滤波给定的相关零点信息，在线估计出噪声时间平均相关函数；再利用偏差补偿原理校正最ｄ，－乘估计，推导一个偏差补偿递推最小二乘辨识算法，以获得系统模型参数的无偏估计．为了得到墓（８１中的堂（“．皇Ａ（￡），在系统的输入端引入一个稳定的ｎ。阶预滤波器１／Ｆ（ｚ），其中Ｆ（ｚ）＝（１一Ａ１９一１）（１一ｋ２ｚ一１）·－·（１一＾。。。一１）＝１＋＾ｚ一１＋，２ｚ一２＋···＋，ｎ。ｚ一“６其所有零点满足０＜凡＜１（ｉ＝１，２，…，竹口）令

１面（‘）２南“（。）

豆（２）＝Ｆ（ｚ）Ｂ（名）＝瓦车一１＋瓦之一２＋···＋ｋｚ一“于是系统（１）可以等价为ｍ）＝器邵）＋ｅ∽

再定义参数向量０，信息向量９（ｔ）和噪声向量９。（ｔ）如Ｆ

口＝ｈａ，…，ａ。。，５１７－－－，５。］７∈Ⅳ９８）＝ｆ－ｙ（ｔ一１），…，一９０一＂。），面０—１），…，面（ｔ—ｎ）］’∈Ｒ，驴。（ｔ）＝【ｅＯ一１），·．．，ｅ０一竹。），ｏ，…，ｏ］’∈舻，蟊＝ｎｏ＋ｎ

合集下载

基于最小二乘模型的Bayes参数辨识方法

基于最小二乘模型的Bayes参数辨识方法

基于最小二乘模型的Bayes参数辨识方法王晓侃【摘要】现实中的系统都具有一定的非线性,并且这种非线性在非线性通道补偿和非线性系统故障诊断等领域是不可忽略的.针对有白噪声干扰的输出误差非线性系统,将数学模型与基于最小二乘的Bayes算法相结合,用数学模型参数代替辨识模型信息向量中的未知项,用基于白噪声的最小二乘模型进行不可预测辨识,从而提出了基于最小二乘模型的Bayes参数辨识方法.介绍了Bayes基本原理及2种常用的方法,经过理论分析和MATLAB仿真研究证明,该方法原理简单、计算量小、速度快、抗干扰能力强,可以对较高精度非线性系统进行参数估计和在线辨识.%Practical system is a nonlinear system, and sometimes this nonlinearity which in the field of nonlinear channel compensation and fault diagnosis of nonlinear systems can not be ignored. The output error of nonlinear system with white noise interference combined the mathematical model based on least squares Bayes algorithm to instead of the unknown in the information vector of parameter identification model, and using the least squares model based on white noise for the unpredictability of identification. In order to verify the validity of the method, the paper also described a Bayesian basic principles and its two commonly used methods. The theoretical analysis and MATLAB simulation results showed that the principle of this method is simple, small amount of calculation, fast running and strong anti-interference ability, so it can be carried out on the higher accuracy nonlinear system for parameter estimation and on-line identification.【期刊名称】《新技术新工艺》【年(卷),期】2012(000)006【总页数】3页(P24-26)【关键词】辨识定义;Bayes基本原理;Bayes参数辨识【作者】王晓侃【作者单位】河南机电职业学院,河南新郑 451191【正文语种】中文【中图分类】TP273.1系统辨识是建模的一种方法。

动态调节模型的最小二乘迭代辨识方法

动态调节模型的最小二乘迭代辨识方法


H ^ k ( t) = [ψ ^ k ( t) ,ψ ^ k ( t - 1 ) , …,ψ ^k ( 1 ) ]
( 7)
T
ψ ^ k ( t) = [φ ( t) , - ^ ek ( t - 1 ) , …, ^ ek ( t - nc ) ] , u ( t - 1 ) , u ( t - 2 ) , …, u ( t - nb )
对于有色噪声干扰动的随机系统 , 有许多辨识 方法可以估计其参数
[ 1 —6 ]
与流行的递推广义最小二乘算法相比 , 提出的迭代 算法在每一步迭代计算中 , 同时利用了系统所有量 测数据信息 , 因而具有更高的参数估计精度和更快 的收敛速度 。在同样的数据长度下 , 提出的最小二 乘迭代算法参数精度优于递推广义最小二乘算法 , 仿真例子证明了这个结论 。
T
n a +n b
生导师 。研究方向 : 系统建模 、 系统辨识 、 过程控制 、 多率系统 。
,
23 期Biblioteka 陈晓伟 ,等 : 动态调节模型的最小二乘迭代辨识方法
59 95
T n φ( t) : = [ - e ( t - 1) , - e ( t - 2) , …… , - e ( t - nc) ] ∈ c ,
y ( t) = ψ ( t) ; + v ( t)
T
T
T
T
n
(2)
T -1 T ;^ ( t) = [ H ( t) H ( t) ] H ( t) Y ( t)
( 4)
本文的目标就是 , 利用系统的输入输出数据
{ u ( t) , y ( t) : t = 1, 2, 3, …, L } ( L 为数据长度 ) , 提
辅助模型辨识方法(5)：最小二乘辨识

辅助模型辨识方法(5)：最小二乘辨识

方法．
二乘辨识方 法、 最小二乘 迭代辨识方法 、 最小二乘递推辨识方法 、 牛
顿迭 代辨 识方 法 、 牛顿 递推辨 识 方法 ． 对 于线性 优 化 问题 ， 牛 顿辨 识方
法退化 为 最小 二乘 辨识 方法 ． 这些 方法 与新 近 提 出的辅 助 模 型辨 识思
关 键 词 参数 估 计； 递推 辨 识 ； 最 小二 乘 ； 关 键 项分 离； 辅 助模 型 辨 识 思 想 ； 多 新 息 辨 识理论 ； 递 阶辨 识 原理 ； 耦 合 辨识 概 念 ； 滤波辨识理念 ； 输 入 非 线 性 系统 ； 输 出 非
噪声干扰 的输入 非线性 有 限脉 冲响应 系 统， 研 究 了辅 助 模 型 最 小二 乘 辨 识 方 法 、 辅助模 型 多新 息最 小二 乘辨 识 方 法、 变 递推 间隔辅 助模 型 最 小二 乘辨 识 方 法、
变递 推 间 隔辅 助模 型 多 新 息 最 小 二 乘 辨
识方 法、 等递 推 间 隔辅 助模 型 多新 息 最 小二乘辨 识 方法 ， 以及 有 限数 据 窗最 小 二乘辨识方 法， 包括 引入 加 权 因 子 （ 加权 矩 阵） 、 遗 忘 因 子 得 到 的 一 些 相 应 辨 识
收稿 日期 ２ ０ １ ６ １ ０ — ０ ４
资助 项目 国家 自然 科学基 金 （ ６ １ ２ ７ ３ １ ９ ４ ） ； 江 苏省 自 然科学基金 （ Ｂ Ｋ ２ ０ １ ２ ５ ４ ９ ） ； 高等 学校学 科创新 引智 “ １ １ １ 计划” （ Ｂ １ ２ ０ １ ８ ）
作者 简 介 丁锋 ， 男， 博士 ， 教授 ， 博 士生导 师 ， 主要从
线 性 系统
想、 多新 息辨 识 理论 、 递 阶辨识 原 理 、 耦 合辨 识 概念 、 滤 波 辨识 理 念等 相结合 ， 便 形成 不胜 枚举 的辨 识 方法 ， 例如 ： １ ）辅 助 模 型 随 机梯 度 方 法、 辅 助 模 型 最 小 二乘 方 法 、 辅 助模 型 牛 顿 方 法 、 辅 助 模 型梯 度 迭 代 方法 、 辅助 模 型最小 二乘 迭 代 方 法 、 辅助 模 型 牛顿 迭 代 方 法 ； ２ ）多新 息 随机 梯 度方法 、 多 新息 最 小 二乘 方 法 、 多 新 息 牛顿 方 法 ； ３ ）递 阶 随 机 梯度 方 法 、 递 阶最 小 二乘 方 法 、 递 阶 牛顿 方法 、 递 阶梯度 迭代 方 法 、
第六章 最小二乘类参数辨识方法

第六章 最小二乘类参数辨识方法

《系统辨识基础》第20讲要点第6章 最小二乘类参数辨识方法6.1 引言最小二乘法是一种最基本的辨识方法，但如果模型的噪声不是白噪声，最小二乘法不一定能给出无偏、一致估计。

以下着重讨论模型噪声是有色噪声时的各种最小二乘辨识方法。

6.2 增广最小二乘法 6.2.1 增广最小二乘原理 考虑如下模型A z z kB z u k N z v k ()()()()()()---=+111式中u (k )和z (k ) 分别为模型输入和输出变量；v (k ) 是均值为零、方差为σv 2的不相关随机噪声或称白噪声；N z ()-1为噪声模型；A z ()-1 和B z ()-1为迟延算子多项式，记作A z a z a z a zB z b z b z b z n n n n a ab b()()--------=++++=+++⎧⎨⎪⎩⎪11122111221 其中n a 和n b 为模型阶次。

为了运用最小二乘原理来辨识这种模型的参数，需要把模型(4-1)式写成最小二乘格式)()()(k v k k z +=θτh这样就必须把噪声模型的参数包含在参数向量θ 中，从而引出增广概念，用来构造模型的参数向量θ和数据向量h(k )，具体的构成形式会因噪声模型的结构不同而不同。

下面是三种不同噪声模型的向量构成方法：① 若N z D z d z d z d z n n dd()()==++++----111221 ，可按下式构成参数向量和数据向量：⎪⎪⎩⎪⎪⎨⎧--------+==--------=∑∑∑===)(ˆ)1(ˆ)()1(ˆ)()1(ˆ)()(ˆ],,,,,,,,[)](ˆ,),1(ˆ),(,),1(),(,),1([)(111111i k v k d i k u k b i k z k a k z k v d d b b a a n k v k v n k u k u n k z k z k db a d b a n i i n i i n i i n n n d b a ττθ h② 若N z C zc zc zc zn n c c()()==++++----11111122，参数向量和数据向量的构成形式为：⎪⎪⎩⎪⎪⎨⎧-----+==----------=∑∑==)()1(ˆ)()1(ˆ)()(ˆ],,,,,,,,[)](ˆ,),1(ˆ),(,),1(),(,),1([)(11111i k u k b i k z k a k z k e c c b b a a n k e k e n k u k u n k z k z k ba cb a n i i n i i n n nc ba ττθ h③ 若N z D z C zd z d z d z c zc zc zn n n n d dc c()()()==++++++++--------111122112211 ，参数向量和数据向量的构成形式为：⎪⎪⎪⎪⎩⎪⎪⎪⎪⎨⎧-----+=-----+==------------=∑∑∑∑====)()1(ˆ)()1(ˆ)()(ˆ)(ˆ)1(ˆ)(ˆ)1(ˆ)(ˆ)(ˆ],,,,,,,,,,,[)](ˆ,),1(ˆ),(ˆ,),1(ˆ),(,),1(),(,),1([)(11111111i k u k b i k z k a k z k e i k v k d i k e k c k e k v d d c c b b a a n k v k v n k e k e n k u k u n k z k z k b a dc cc b a n i i n i i n i i n i i n n n nd c b a ττθ h以上这种构成参数向量和数据向量的思想就是所谓的增广原理，它是增广最小二乘法的根本。