自适应信号处理
前言
在这几十年里，数字信号处理技术取得了飞速发展，特别是字适应信号处理技术以其计算简单、收敛速度快等许多优点而广泛被使用。它通过起内部参数的最优化来自动改变其特性。自适应滤波算法在统计信号处理的许多应用中都是非常重要的。
本论文主要对自适应滤波这一重要的课题展开研究和讨论，在算法原理、算法性能分析和通过计算机仿真来说明其各自算法的优越性，在每一个算法中的通过收敛性、学习曲线和失调分析这三个方面来论述。
这里主要对LMS算法及一些改进的LMS算法（NLMS算法、变步长LMS算法、变换域LMS算法）之间的不同点进行了比较，在传统的LMS算法的基础上发展了LMS算法的应用。另一方面又从R LS算法的分析中对其与LMS算法的不同特性进行了比较。这篇论文主要围绕算法的优缺点、收敛性等方面进行了横向和纵向比较得出一些有益的结论。在自适应信号处理技术的基础上对其算法的简单在某些方面的应用作了说明。对当前自适应信号处理中比较前沿的盲自适应信号处理做了原理上的介绍和分析。
由于知识水平有限对卡尔曼滤波、自适应神经网络、QR分解等没有作为研究对象。在以后的工作中，在这些方面还需展开学习和研究。
目录
前言 (1)
目录 (2)
一绪论 (4)
1本论文的研究内容 (4)
2自适应滤波器的基本原理 (4)
3自适应滤波理论与算法 (5)
二最小均方（LMS）自适应算法 (8)
1 LMS算法的基本原理............... (8)
2 最小均方（LMS）自适应算法性能分析 (10)
3 仿真结果分析 (12)
三归一化LMS算法 (14)
1归一化LMS算法原理与性能分析 (14)
2仿真结果分析 (16)
四可变步长LMS自适应滤波算法 (18)
1可变步长LMS算法原理 (18)
2算法性能分析 (18)
五变换域LMS自适应算法 (21)
1基本原理 (21)
2与普通LMS自适应滤波器之间的关系 (22)
3变换域LMS算法的收敛性能 (22)
六最小二乘自适应滤波器 (24)
1递推最小二乘(R LS)算法 (24)
2仿真结果分析 (26)
3 RLS算法与LMS算法的比较 (27)
七格型自适应滤波器 (35)
八递归型(IIR型)自适应滤波器 (39)
九盲自适应均衡 (41)
1 Godard盲自适应均衡算法 (41)
2过采样与独立分量分析得盲均衡算法 (43)
十应用 (45)
1自适应均衡器 (45)
2 自适应陷波器 (46)
3 自适应滤波器 (46)
总结与感谢 (48)
参考文献 (49)
附录：matlab程序代码 (50)
附录：翻译 (57)
附录：翻译原文 (67)
一．绪论
1本论文的研究内容
自适应滤波是近30年以来发展起来的一种最佳滤波方法。它是在维纳滤波，kalman滤波等线性滤波基础上发展起来的一种最佳滤波方法。由于它具有更强的适应性和更优的滤波性能。从而在工程实际中，尤其在信息处理技术中得到广泛的应用。
自适应滤波的研究对象是具有不确定的系统或信息过程。“不确定”是指所研究的处理信息过程及其环境的数学模型不是完全确定的。其中包含一些未知因数和随机因数。
任何一个实际的信息过程都具有不同程度的不确定性，这些不确定性有时表现在过程内部，有时表现在过程外部。从过程内部来讲，描述研究对象即信息动态过程的数学模型的结构和参数是我们事先不知道的。作为外部环境对信息过程的影响，可以等效地用扰动来表示，这些扰动通常是不可测的，它们可能是确定的，也可能是随机的。此外一些测量噪音也是以不同的途径影响信息过程。这些扰动和噪声的统计特性常常是未知的。面对这些客观存在的各种不确定性，如何综合处理信息过程，并使某一些指定的性能指标达到最优或近似最优，这就是自适应滤波所要解决的问题。
2自适应滤波器的基本原理
所谓的自适应滤波，就是利用前一时刻以获得的滤波器参数的结果，自动的调节现时刻的滤波器参数，以适应信号和噪声未知的或随时间变化的统计特性，从而实现最优滤波。自适应滤波器实质上就是一种能调节其自身传输特性以达到最优的维纳滤波器。自适应滤波器不需要关于输入信号的先验知识，计算量小，特别适用于实时处理。
由于无法预先知道信号和噪声的特性或者它们是随时间变化的，仅仅用FIR和IIR两种具有固定滤波系数的滤波器无法实现最优滤波。在这种情况下，必须设计自适应滤波器，以跟踪信号和噪声的变化。
自适应滤波器的特性变化是由自适应算法通过调整滤波器系数来实现的。一般而言，自适应滤波器由两部分组成，一是滤波器结构，二是调整滤波器系数的自适应算法。自适应滤波器的结构采用FIR或IIR结构均可，由于IIR滤波器存在稳定性问题，因此一般采用FIR滤波器作为自适应滤波器的结构。图1示出了自适应滤波器的一般结构。
图中，x(n)为输入信号，y(n)为输出信号，d(n)为参考信号或期望信号，e(n)则是d(n)和y(n)的误差信号。自适应滤波器的滤波器系数受误差信号e(n)控制，根据e(n)的值和自适应算法自动调整。
图1 自适应滤波器的一般结构
3自适应滤波理论与算法
理论上讲，自适应滤波问题没有唯一的解。为了得到自适应滤波器及其应用系统，可以采用各种不同的递推算法，这些自适应算法都具有各自的特点，适用于不同场合。下面分别进行讨论。
1．3．1基于维纳滤波理论的方法
在线性滤波理论中，维纳滤波器所要解决的最小均方误差准则下的线性滤波问题。这种滤波方法是在已知信号与噪声的相关函数或功率谱的情况下，通过求解维纳－霍夫（wiener－hopf）方程，对平稳随机信号进行最优预测和滤波的。利用抽头延迟线做成的横向滤波结构的自适应滤波器，通常称为自适应横向滤波器，或自适应FIR滤波器，其抽头加权系数集正好等于它的冲激响应，在输入平稳随机信号时，所期望的响应信号与横向滤波器输出信号之间的差值的均方值
是滤波参数或权矢量的二次方函数，因此，自适应滤波器的均方误差与权矢量的关系是一个凹型的超抛物体的曲面，它具有唯一的极小下点。可以用梯度方法沿着该曲线面调节权矢量的各元素。得到这个均方误差的最小点，对应于此最小点的权矢量称为最佳维纳解。
为了得到自适应横向滤波器权矢量的递推关系，我们先使用最优化理论中的最陡下降法来修该正则方程，即由最佳维纳解定义的矩阵方程，应用均方误差的梯度矢量等于零，就可以得到最佳权矢量，用w0来表示，即
w0=R-1P (1.3.1)
其中，R为横向滤波器抽头输入信号的相关矩阵，P为抽头输入信号与所期望响应的互相关矢量。
式(1.3.1)就是维纳－霍夫方程的矩阵形式。满足式(1.3.1)的称为最佳权矢量或最佳维纳权矢量。其次，利用这些相关的瞬时值推导出梯度矢量的估计值，由此可得到最常用的一种算法，即所谓的最小均方（Least Mean Square）算法，简称LMS 算法。这种算法简单，且能达到满意的性能。它的主要缺点是收敛速度慢和对输入信号的相关矩阵特征值扩展度(即特征值最大值与特征值最小值之比)的变化较灵敏。
在非平稳的情况下，描述误差性能的超抛物体曲面将随着时间连续地变化，要求LMS算法能连续地跟踪误差性能的多维抛物体曲面的底部，只有当输入数据变化比LMS算法的学习速率较缓慢时，才能自适应跟踪，这就限制了LMS算法的应用。
1.3.2基于卡尔曼滤波理论的方法
为了使自适应滤波器能工作在平稳的或非平稳的环境下，可以借助于卡尔曼滤波器来推导自适应滤波算法。
卡尔曼滤波是线性无偏最小方差递推滤波，它的估计性能是最优的，而递推计算形式又能适应实时处理的需要。对于一个线性动态系统的卡尔曼滤波问题，可以用状态方程与测量方程来描述，前者以状态矢量来刻划系统的动态，后者表述系统中的测量误差。根据估计理论，可知最小误差熵估计准则与最小方差估计准则等价，而卡尔曼滤波是线性无偏最小方差估计，故有不同的方法推演卡尔曼的递推公式。但由于所学知识有限，在这里不进行深入的研究于讨论。仅作为一个知识点。在此考虑理论的完备性而进行简单的介绍。
对于平稳情况，可使用固定状态模型，它的权矢量或状态矢量等于一常数。对于非平稳情况，可使用噪声化状态模型，它的权矢量或状态矢量围绕着某均值作随机游程变化。据此，可利用卡尔曼滤波的递推求解法导出自适应滤波器更新权矢量的不同递推算法。这些算法比起LMS算法有极快的收敛速率；同时，在收敛过程具有好的坚韧性，因其收敛速率对特征值扩展度不灵敏。但是，这些算法的主要限制是其计算复杂度，因要求解卡尔曼滤波问题的矩阵公式，计算量大。
1.3.3基于最小二乘准则的方法
前面有维纳滤波器于卡尔曼滤波器所导出的自适应滤波算法的理论是基于统计概念的。而最小二乘估计算法是以最小误差平方和为优化目标，这里误差就是自适应滤波器的期望响应d(n)与真实滤波输出y(n)之差，故这类自适应滤波性能优化的准则是
min =min (1.3.2)
根据这类自适应滤波器的实现结构，可以得到以下三种不同的最小二乘自适应滤波算法：
(1) 自适应递归最小二乘算法
这种自适应滤波算法是指横向滤波器结构的递归最小二乘算法(简称R LS算法)，它的推导是依赖于线性代数中矩阵的反演引理，与卡尔曼滤波算法有密切的关系。为了减少R LS算法的计算量，现已开拓出快速RLS算法和快速横向滤波器(FTF)算法等。
(2) 自适应最小二乘格型算法
(3) QR分解最小算法
1.3.4基于神经网络理论的方法
人工神经网络是一种模拟生物神经模型信号处理能力的计算结构。思维和记忆是人脑非常重要的功能，对脑的记忆机理，思维的知觉信息处理过程等基础理论的开拓性研究是发展神经网络理论并推动相关的认知科学发展的关键问题。
神经网络是由大量的神经元相互联接而成的网络系统，实质上它是一个高度非线性的动力学网络系统，这个系统具有很强的自适应、自学习、自组织能力，以及巨量的并行性、容错性和坚韧性，因而，它可以做许多传统的信号和信息处理技术所不能做的事。
二最小均方（LMS）自适应算法
1 LMS算法的基本原理
最小均方（LMS）自适应算法就是一中已期望响应和滤波输出信号之间误差的均方值最小为准的，依据输入信号在迭代过程中估计梯度矢量，并更新权系数以达到最优的自适应迭代算法。LMS算法是一种梯度最速下降方法，其显著的特点是它的简单性。这算法不需要计算相应的相关函数，也不需要进行矩阵运算。
图2 LMS自适应原理框图
令d(n)表示“期望输出信号”，定义误差信号e(n)为
e(n)=d(n)-y(n)=d(n)- wi(n)xi(n) (2. 1)
为了方便起见，将上述式子表示为向量形式，令信号矢量为：x(n)=[x1(n), x2(n),…, xM(n)]T。权矢量为：w(n)=[w1(n), w2(n),…, wM(n)]T。则上述式子表示为：
y(n)=w T(n)x(n) (2. 2)
误差序列可写为e(n)=d(n)-y(n)=d(n)-w T(n)x(n) （2. 3）
显然，自适应滤波器控制机理是用误差序列e(n)按照某种准则和算法对其系数{ wi(n)}，i=1，2，…，M进行调节的，最终使自适应滤波的目标（代价）函数最小化，达到最佳滤波状态。
按照均方误差（MSE）准则所定义的代价函数是：
F(e(n))= =E[e2(n)]=E[d2(n)-2d(n)y(n)+y2(n)] (2.4)
将式(2.2),(2.3)代入(2.4),目标函数可写成
= =[d2(n)]-2w TP+w TRw （2. 5）
其中，R=E[x(n)xT(n)]是输入信号的自相关矩阵；P=E[d(n)x(n)]是期望信号与输入信号的互相关矢量。
由式（2.5）可见，自适应滤波器的代价函数是延迟线抽头系数的二次函数。当矩阵R和矢量P已知时，可以由权系数矢量w直接求其解。将式（2.5）对w求其偏导数，并令其等于零，同时假设R是非奇异的，由此可得代价函数最小的最佳滤波系数w0为
w0=R-1P （2.6）
这个解称为维纳解，即最佳滤波系数值。因为均方误差（MSE）函数是滤波系数w的二次方程，由此形成一个多维的超抛物面，这好像一个碗状曲面又具有唯一的碗底最小点，通常称之为自适应滤波器的误差性能曲面。当滤波器工作在平稳随机过程的环境下，这个误差性能曲面就具有固定边缘的恒定形状。自适应滤波系数的起始值{wi(0)}，i=1，2，…，M是任意值，位于误差性能曲面上某一点，经过自适应调节过程，使对应于滤波系数变化的点移动，朝碗底最小点方向移动，最终到达碗底最小点，实现了最佳维纳滤波。
自适应过程是在梯度矢量的负方向接连的校正滤波系数的，即在误差性能曲面的最陡下降法方向移动和逐步校正滤波系数，最终到达均方误差为最小的碗底最小点，获得最佳滤波或准最优工作状态。
令代表n时刻的M×1维梯度矢量，M等于滤波器系数的数目；w（n）为自适应滤波器在n时刻的滤波系数或权矢量。按照最陡下降法调节滤波系数，则在n+1时刻的滤波系数或权矢量w（n+1）可以用下列简单递归关系来计算：
w(n+1)=w(n)+ [- ] (2.7)
式中是一个正常数，通常称它为自适应收敛系数或步长。
最小均方（LMS）算法是一种用瞬时值估计梯度矢量的方法，即
= =-2e(n)x（n）（2.8）
这种瞬时估计是无偏的，因为它的期望值E[ ]等于最陡下降法的梯度矢量，所以按照自适应滤波器滤波系数矢量的变化关系与梯度矢量估计的方向之间的关系，可以写出LMS算法的公式如下：
（n+1）= （n）+ [- ]= (n)+ e(n)x(n) （2.9）
若把式(2.1.8)代入式(2.1.9)中，则可以得到
(n+1)= (n)+ x(n)[d(n)-wT(n)x(n)]
=[I- x(n)xT(n)] (n)+ x(n)d(n) (2.10)
由上式可得到自适应LMS算法如同最陡下降法，利用时间n=0的滤波系数矢量为任意的起始值w(0)，然后开始LMS算法的计算，其步骤如下：
1.由现在时刻n的滤波器滤波系数矢量估值(n)，输入信号矢量x(n)及期望信号d(n),计算误差信号：e(n)=d(n)-xT(n) (n)
2.利用递归法计算滤波系数矢量的更新估值：（n+1）= (n)+ e(n)x(n)
3.将时间指数n增加1，回到第一步骤，重复上述计算步骤，一直到达稳定状态为止。
由此可见，自适应LMS算法简单，它既不需要计算输入信号的相关函数，又不要求矩阵之逆。因而得到了广泛的应用。但是，由于LMS算法采用梯度矢量的瞬时估计，它有大的方差，以致不能获得最优滤波性能。
2 最小均方（LMS）自适应算法性能分析
2.2.1自适应收敛性
自适应滤波系数矢量的初始值w(0)是任意的常数，应用LMS算法调节滤波系数具有随机性而使系数矢量w(n)带来非平稳过程。通常为了简化LMS算法的统计分析，假设算法连续迭代之间存在以下的充分条件：
（1）每个输入信号样本矢量的起始值w(0)与其过去全部样本矢量x(k),k=0,1,…,n-1是统计独立的，不相关的，即有E[x(n)xT(k)]=0, k=0,1,…,n-1。
（2）每个输入信号样本矢量x(n)与全部过去的期望信号d(k), k=0,1,…,n-1也是统计独立的，不相关的，即有E[x(n)d(k)]=0, k=0,1,…,n-1
（3）期望信号样本矢量d(n)依赖于输入过程样本矢量x(n),但全部过去的期望信号样本是统计独立的。
（4）滤波器抽头输入信号矢量x(n)与期望信号d(n)包含着全部n的共同的高斯分布随机变量。
由式(2.10)可知，自适应滤波器在n+1时刻的滤波系数矢量(n+1)依赖于三个输入：输入过程的过去样本矢量x(k),k=n,n-1,…,0;期望信号的以前样本值d(k), k=n,n-1,…,0;滤波系数矢量的起始值(0).
现将系数误差矢量得到
(n+1)= [I- x(n)xT(n)] [ +w0]+ x(n)d(n)
=[I- x(n)xT(n)] +w0+ [x(n)d(n)- x(n)xT(n) w0]
式中，w0是最佳滤波系数矢量，是误差矢量。如将w0移至灯饰左边，则(n+1)- w0等于系数误差矢量的更新值，于是上式可写成
=[I- x(n)xT(n)] + [ x(n)d(n)- x(n)xT(n) w0] （2.11）
对上式两边取数学期望，得到
E[ ]=(I- R)E[ ]+ (P-R w0) (2.12)
由此得到，要使LMS算法收敛于均值，必须使步长参数满足下列条件：
0＜＜2/ （2.13）
这里是相关矩阵R的最大特征值。在此条件下，当迭代次数n接近于∞时，自适应滤波系数矢量w(n)近似等于最佳维纳解w0。
2.2.2平均MSE—学习曲线
最陡下降法每次迭代都要精确计算梯度矢量，使自适应横向滤波器权矢量或滤波系数矢量w(n)能达到最佳维纳解w0，这时滤波器均方误差（MSE）为最小，即
ξmin= -w Tp (2.14)
式中，是期望信号d(n)的方差。
学习曲线定义为均方误差随迭代计算次数n的变化关系，如式（2.15）所描述的包含指数项之和：
ξ(n)= ξmin + (2.15)
式中每个指数项对应的固有模式，模式的数目等于滤波加权数。其中1- <1，故当n→∞时,则最陡下降法均方误差ξ(∞)=ξmin.但LMS算法用瞬时值估计梯度存在误差的噪声估计,结果使滤波权矢量估值(n)只能近似于最佳维纳解.这意味着滤波均方误差ξ(n)随着迭代次数n的增加而出现小波动地减少，最后，ξ(∞)不是等于ξmin而是稍大于其值。见下图：
图3 学习曲线
如果步长参数μ选用得越小，则这种噪化指数衰减曲线上的波动幅度将越小，即学习曲线的平滑度越好。
2.2.3失调
在自适应滤波器中，失调Θ是衡量起滤波性能的一个技术指标，它被定义为总体平均超量均方误差值ξex(∞)与最小均方误差值ξmin之比，即
Θ=E[ξex(∞)]/ξmin (2.16)
或Θ= /(2- ) (2.17)
通常μ值很小,因此,失调又可近似表示为
Θ= (2.18)
自适应滤波器LMS算法的稳态失调与步长μ成正比.如果把算法的总体平均学习曲线的时间常数(τmse)av写成2μ的逆数,而平均特征值应等于,则滤波器稳定失调Θ又可写成
Θ= (2.19)
以上表明:
(1) 失调为自适应LMS算法提供了一个很有用的测度，比如，10%失调意味着自适应算法所产生的总体平均MSE高于最小均方误差的增量值为10%；
(2) 失调是随着滤波系数数目线性增加的；
(3) 失调可以做得任意小，只要选用大的时间常数(τmse)av，也就是小的步长值即可。
但是，滤波器自适应收敛过程需要长的时间，影响了滤波器的自学习、自训练的速度，所以，自适应滤波器LMS算法的失调与自适应收敛过程之间存在矛盾。
3 仿真结果分析
（a）(b) (c)
图4 仿真结果
从图4（a）中可以得到实际信号的输出在坐标0的范围波动，而系统的输出大部分在（0.5，-0.5）之间。少部分在它之外波动。随N的增加而波动范围变小。
从图4（b）中可以得到随步长参数的减少，LMS算法的收敛速率相应减少。同时也影响学习曲线的变化。误差曲线岁迭代次数n的变化而逐渐收敛于10-1，且随N的增加而越趋明显。
从图4（c）中可以得到实际权矢量与误差权矢量的关系：误差权矢量与实际权矢量有较大的误差，而误差权矢量总是围绕在实际权矢量上下波动。随N的增加而使得其相互之间的误差越小。
最小均方误差（LMS）算法是最简单、应用最广泛的自适应算法之一。LMS算法通过自适应调节w(n)，使得残余回波或平方误差的期望值达到最小。事实上，LMS算法是依据最陡梯度法来更新滤波器系数w(n)的，用算术矢量形式表示为：
w(n+1)=w(n)+ [- ] （2.3.1）
由于- 很难实际计算出来，因此在LMS算法中。平方误差的期望值被瞬间值所取代，即：
= =-2e(n)x（n）（2.3.2）
将式（2.3.1）与式（2.3.2）结合在一起，于是LMS算法可表达如下：
（n+1）= (n)+ e(n)x(n) （2.3.3）
为确保收敛，收敛因子应满足0＜＜2／λmax（λmax是E（x(n)?xT(n)）的最大特征值）。由于LMS算法易于实现，同时，算法对有限寄存器长度造成的实现误差不敏感，因此LMS算法对于实际应用来说具有相当的吸引力。然而LMS算法的收敛速率依赖于E（x(n)?xT(n)）特征值的发散程度。在实际应用中，输入信号往往是语音，而语音的特征值分布相对分散，因此LMS的收敛速度较慢，于是又出现了很多改进算法，比如滑动窗LMS算法，时域去相关LMS算法（DLMS），NLMS算法，符号误差算法等等。这些算法比基本的LMS算法在精度和收敛速度上有明显的改进，计算量和基本LMS 算法相当。由于NLMS算法相对简单，容易实现，因此应用更广泛。
三归一化LMS算法
1 归一化LMS算法原理与性能分析
若不希望用与估计输入信号矢量有关的相关矩阵来加快LMS算法的收敛速度，那么可用变步长方法来缩短其自适应收敛过程，其中一个主要的方法是归一化LMS算法（NLMS算法），变步长的更新公式可写成
W（n+1）=w（n）+ e（n）x（n）
=w（n）+ （3.1）
式中，= e（n）x（n）表示滤波权矢量迭代更新的调整量。为了达到快速收敛的目的，必须合适的选择变步长的值，一个可能策略是尽可能多地减少瞬时平方误差，即用瞬时平方误差作为均方误差的MSE简单估计，这也是LMS算法的基本思想。瞬时平方误差可以写成
e2（n）=[d（n）-xT（n）w（n）]2
=d2（n）+wT（n）x（n）xT（n）w（n）-2d（n）w T（n）x（n）（3.2）
如果滤波权矢量的变化量w′（n）=w（n）+ ，则对应的平方误差可以由上式得到
= e2（n）+2 x（n）xT（n）w（n）
+ x（n）xT（n）-2d（n）x（n）（3.3）
在此情况下，瞬时平方误差的变化量定义为
= - e2（n）
=-2 x（n）e（n）+ x（n）xT（n）（3.4）
把= e（n）x（n）的关系式代入式（4）中，得到
=-2 e2（n）xT（n）x（n）+ e2（n）[xT（n）x（n）]2 （3.5）
为了增加收敛速度，合适地选取使平方误差最小化，故将式（3.5）对变系数求偏导数，并令其等于零，求得
= （3.6）
这个步长值导致出现负的值，这对应于德最小点，相当于平方误差等于零。为了控制失调量，考虑到基于瞬时平方误差的导数不等于均方误差MSE求导数值，所以对LMS算法的更新公式作如下修正：
w（n+1）=w(n)+ e(n)x(n) (3.7)
式中，为控制失调的固定因子，参数是为避免xT (n)x(n)过小导致步长值太大而设置的。通常称式（3.7）为归一化算法的迭代公式。
为了保证自适应滤波器的工作稳定，固定收敛因子的选取应满足一定的数值范围。首先考虑到下列关系：
E[xT(n)x(n)]=tr[R] (3.8-a)
E[ ] (3.8-b)
然后对收敛因子的平均值应用更新LMS的方向e(n)x(n)是，最后，将归一化LMS算法的更新公式与经典LMS算法的更新公式相比较，可以得到收敛因子的上下界不等式条件，如下：
0＜= ＜（3.9）
或0＜＜2
显然，由式（3.7），（3.9）可构成归一化LMS算法，其中0≤ ≤1，选择不同的值可以得到不同的算法，当=0时，由式（3.7）可以写成
W(n+1)=w(n)+ (d(n)-w T（n）x(n))x(n) (3.10)
这种算法是NLMS算法的泛化形式，其中随机梯度估计是除以输入信号矢量元素平方之和。所以步长变化的范围比较大。可由较好的收敛性能。在此情况下，算法的归一化均方误差（NMSE）可由式（3.10）得到
= （3.11）
最佳滤波权矢量可由对w(n)求偏导数，并令其等于零，即由式
=0
得到最佳滤波权系数
= （3.12）
式中，（3.13-a）
= （3.13-b）
所以，自相关矩阵和互相关量都含有归一化因子，在稳定状态x(n)和d(n)时，假定自相关矩阵存在可逆性。同时，我们
由式（3.11）可以看出，当且仅当d(n)=xT(n) 时，归一化LMS算法的均方误差可等于零。这需要对d(n)用输入信号矢量线性组合进行精确的建模。此时，最佳滤波权矢量变成适宜的线性系数矢量。
当=1时，NLMS算法更新公式可以写为：
w（n+1）=w(n)+ e(n)x(n) （3.14）
由此可得到NLMS算法的特殊形式：
w（n+1）=w(n)+ [d(n)-wT(n)x(n)]x(n) (3.15)
或w（n+1）=w(n)+[d(n)- wT(n)x(n)] (3.16)
这也表明等效步长是输入信号的非线性变量。它使变步长由大逐步变小，加速了收敛过程。当然，NLMS算法的计算量也较LMS算法有些增加。
2 仿真结果分析
（a）(b) (c)
图5 NLMS算法仿真
从图5（a）中可以得到实际信号的输出在坐标0的范围波动，而系统的输出大部分在（0.5，-0.5）之间。少部分在它之外波动。随N的增加而波动范围变小。
从图5（b）中可以得到随步长参数的减少，NLMS算法的收敛速率相应减少。同时也影响学习曲线的变化。误差曲线岁迭代次数n的变化而逐渐收敛于10-1，且随N的增加而越趋明显。较LMS的学习曲线具有更小的变化，故较LMS算法有更优的性能。
从图5（c）中可以得到实际权矢量与误差权矢量的关系：误差权矢量与实际权矢量有较大的误差，而误差权矢量总是围绕在实际权矢量上下波动。随N的增加而使得其相互之间的误差越小。较LMS的误差具有更小的变化。
NLMS算法中，w（n）的变化由e（n）x（n）确定。由于e（n）x（n）正比于输入信号x(n)，因此梯度的估计误差会随着x(n)幅度的增加而增加。为避免这一问题，可以将收敛因子相对于x(n)的短时平均能量｜x(n)｜2进行归一化，由此便得到归一化的最小均方误差（NLMS）算法：
w（n+1）=w(n)+ e(n)x(n) （3.17）
式中，为确保收敛，应满足0＜＜2。与LMS不同，NLMS的收敛条件与输入信号的特征值无关，同时，当输入信号为语音时，NLMS算法比LMS算法的收敛速率快，而且鲁棒性更好。另外，在计算量方面，NLMS算法的计算量与LMS 相当。因此，NLMS算法比LMS算法应用更广泛。
四可变步长LMS自适应滤波算法
1 可变步长LMS算法原理
收敛速度、时变系统的跟踪能力及稳态失调是衡量自适应滤波算法优劣的三个最主要的技术指标。由于LMS算法的加权矢量w(n)具有随机性，使得LMS算法在E[w(n)]收敛到最佳值w0后，加权矢量w(n)继续按公式
w（n+1）=w(n)+ μe(n)x(n) （4.1）
变化，其修正量μe(n)x(n)不为零而是继续随机起伏，从而使得LMS算法的E[w(n)]收敛到w0后，均方误差ξ将大于维纳误差ξmin。同时，由于输入端不可避免地存在干扰噪声，LMS算法将产生参数失调噪声。干扰噪声vn越大，所引起的失调噪声就越大。步长因子μ值对E[wi(n)]的收敛过程有着很大的影响，值必须满足收敛条件。此外，在收敛范围内，μ值越大，E[wi(n)]收敛越快。但μ过大时，过度过程将出现振荡，MSE也会变大；减小μ值可以减小自适应滤波算法的稳态失调噪声，提高算法的精确度。然而，步长因子μ的减小将降低算法的收敛速度和跟踪速度。因此，固定步长的自适应滤波算法在收敛速度、时变系统跟踪速度与收敛精度方面对步长因子μ的要求是相互矛盾的。
变步长NLMS算法在很大程度上减少了基本LMS算法在收敛过程中对梯度噪声的放大作用。在训练均衡器抽头系数时，如果在算法简单的同时要求获得较佳的MSE和较快的收敛速度，NLMS将是一种比较好的选择。为了进一步提高性能，这种变步长的更新算法改进了NLMS算法，计算量增加很少，但是能显著地提高收敛速度，并且收敛后能达到更小且稳定的MSE。这种算法的步长因子更新公式如下：
= = （4.2）
其中，ρ>0为修正系数，其作用相当于NLMS算法中的μ的作用，
= （4.3）
为误差系数，它通过λ(i)对过去M个误差e(n), e(n-1),… , e(n-M+1)作非线性加权得到，越是过去的误差信息对当前误差系数的影响越小，的影响越小，故在次定义为遗忘因子。代表对前M次误差统计加权后期望值的偏离度。变小时就跟着变小，以便趋近并缓慢跟踪最优值；反之，就增大，从而快速趋近于最优值。尽管与时间n有关，但增加的复杂度却和n无关。
2 算法性能分析
4.2.1复杂度分析
该算法是基于NLMS算法的，每次迭代时都需要计算r(n)
r(n)= =x(n)2+ x(n-1)2+…+ x(n-M+1)2 (4.4)
计算量跟抽头数M成正比，在实际实现时，可以充分利用前一次计算值r(n-1)来求取r(n)，即r(n)= r(n-1)+ （4.5）
在计算时，由于e(n-1),… , e(n-M+1)均以知，故不用再次计算，=exp(-i)皆为常量，可在初始化时就预先算好。因此，跟NLMS算法相比较，新算法在每次迭代时仅增加11次乘法，10次加法，一次除法和一次绝对值计算，算法复杂度增加很少且和抽头系数无M关。
4.2.2算法的收敛性分析
LMS算法的收敛条件是0< <2/ ，故必须有：
0< = <2/ (4.6)
因为ρ>0，所以（6）式等价于下式：
= <2/ （4.7）
即ρ>max{0, [ -r(n)]} (4.8)
只要满足（4.8）式，任意ρ都能使得算法收敛。初始收敛阶段|e(n)|比较大，相应的也比较大，算法收敛速度则较快。当算法进入稳态时，|e(n)|打到最小，此时，也打到最小，由此可得到最佳维纳解。
修正系数ρ较小时，初始收敛速度较慢，但是稳态时可以收敛到较小的MSE；修正系数ρ比较大时，初始收敛速度比较快，但是稳态时的MSE也比较大。所以，ρ的选择在不同情况下，尽可能使算法在开始阶段步长因子比较大，同时算法在收敛到稳态时有比较小的MSE，也可以根据实际性能要求对ρ作适当的选择。
4.2.3算法的失调分析
widrow引入失调系数δ= 来描述LMS算法的稳态均方误差对wiener误差的相对偏差。令
e(n)=d(n)-xT(n)w(n)
=[d(n)- xT(n)w0]- xT(n)[w(n)- w0]=e0(n)- xT(n)v(n) (4.9)
其中v(n)= w(n)- w0 （4.10）
则v(n+1)= w(n) - w0=w(n) - w0+μ(n)e(n)x(n)
=[I-μ(n)x(n)xT(n)]v(n)+ μ(n)e0(n)x(n) (4.11)
为求v(n)方差的渐进值，可以用下式来近似（4.11）：
v(n＋1)＝[I-μ(n)Rxx] v(n)+ μ(n)e0(n)x(n) (4.12)
又由
E{[Q-1v(n)] [Q-1v(n)]T}= (4.13)
得(4.14)
从而新算法的失调系数可表示为
δ= （4.15）
显然，在滤波器阶数和信号输入功率一定的情况下，算法进入稳定状态后，随着步长因子趋于极小，新算法的失调系数也趋于极小，比基本LMS算法要小得多。
通过引入遗忘因子对当前和过去的M次误差e（n）进行非线性加权，新算法的步长因子能够“智能”跟踪MSE的变化，并在算法达到稳定后收敛到比前面提及的其它LMS算法更小的极小值。因此，新算法能够在保持NLMS算法优点的同时，进一步加快收敛速度，并且能够达到更小且稳定的MSE。
五变换域LMS自适应算法
影响LMS自适应算法收敛速度的主要因素是输入自相关矩阵Rxx的最大特征值与最小特征值之比/ ，而R xx最大特征值与最小特征值之比又受限于输入功率最大值与最小值之比。因此，提高其收敛速度的方法是设法白化输入信号的功率，而变换域LMS自适应滤波器正是基于此提出的。
1基本原理
下图为变换域LMS自适应滤波器的原理图。N维输入矢量x（n）=[x(n) x(n-1),…, x(n-N+1)]T先经N×N正交归一化变换矩阵T，变成另一个N维矢量z（n）=[z0（n），z1（n），…，zN-1（n）]T，即
Z（n）=Tx（n）（5.1）
其中TTT=I （5.2）
图6 变换域LMS自适应滤波器的原理图
设变换权矢量b(n)为b（n）=[b0（n），b1（n），…，bN-1（n）]T （5.3）
z（n）经b（n）加权后形成的自适应输出为
y（n）= b(n)zT(n)=b T(n)z(n) (5.4)
若d（n）为期望响应信号，输出误差
e（n）=d（n）-y（n）=d（n）-b T（n）z（n）（5.5）
变换域LMS自适应算法为
bi（n+1）= bi（n）+2 e（n）zi（n），i=0，1，…，N-1 （5.6）
其中收敛因子
= （5.7）
式（5.6）可表示为如下矢量形式：
b（n+1）=b（n）+2 e（n）z（n）（5.8）
式中=diag[E[ （n）]，E[ （n）] ，…，[E （n）]] （5.9）
在实际应用中，变换域自适应滤波器常用的正交变换为离散傅氏变换与离散余弦变换。
2 与普通LMS自适应滤波器之间的关系
采用与研究普通LMS算法自适应滤波器相类似的方法，可变得变换域LMS自适应滤波器的权矢量维纳解b opt与相应的最小均方误差emin（n）分别是
bopt= （5.10）
与emin（n）=E[d2（n）]- bopt （5.11）
式中=E[z（n）zT（n）]=T TT （5.12）
= E[z（n）d（n）]=T （5.13）
将式（5.12）（5.13）代入式（5.10）（5.11），有
bopt= （T TT）-1 T =T =T bopt （5.14）
与emin（n）=E[d2（n）]- TTTw opt= E[d2（n）]- wopt= emin（n）（5.15）
式中，wopt= 与emin（n）分别为普通LMS自适应滤波器的权矢量维纳解与相应的最下均方误差。式5.(14)(5.15)表明：（1）.变换域LMS算法中权矢量维纳解与普通LMS算法中权维纳解之间的关系与所采用的正交变换有关。
（2）.不论采用何种正交变换，只要加权数目相同，变换域LMS算法的最小均方误差与普通LMS算法的最小均方误差总是相同的。
3变换域LMS算法的收敛性能
为了便于研究此问题，想给出矩阵理论中如下结果：
令tr（A）与det（A）分别表示N阶方阵A的迹与行列式值，则其最大与最小特征值，有如下关系：
≤tr（A）（5.16）
≥det（A），N＞2 （5.17）
这样
= （5.18）
可以作为矩阵A特征值散布/ 的上限。
利用上述矩阵理论中的结果，研究变换域自适应滤波器的收敛性能。显然，其权矢量b（n）的收敛性取决于矩阵（）特征值的散布，不失一般性，可以假定
E[x2（n）]=1 （5.19）
于是det（）=det（）det（Rxx）（5.20）
tr（Rxx）=N （5.21）
因此（）=det（）（Rxx）（5.22）
由于tr（）=N，det（）总可以保证小于或等于1。所以
（）≤ （R xx）（5.23）
由上可见，适当选择正交变换矩阵T，可以使得（）≤ （R xx），从而使变换域LMS自适应算法具有比普通LMS自适应算法好的收敛性能。
六最小二乘自适应滤波器
前面所研究的自适应滤波算法根据的最佳准则为最小均方误差准则。自适应算法的目标在于，使滤波器输出与需要信号的误差的平方的统计平均值最小。这个准则根据输入数据的长期统计特性寻求最佳滤波。然而，我们通常已知的仅是一组数据，因而只能对长期统计特性进行估计或近似。LMS算法、格形梯度算法都是这样。而最小二乘算法就是能直接根据一组数据寻求最佳解。换句话说，根据最小均方误差准则得到的是对一类数据的最佳滤波器，而根据最小二乘法得到的是对一组已知数据的最佳滤波器。对同一类数据来说，最小均方误差准则对不同的数据组导出同样的“最佳”滤波器；而最小二乘法对不同的数据组导出不同的“最佳”滤波器。因而常说最小二乘法导出的最佳滤波器是“精确”的。
1 递推最小二乘(RLS)算法
递推最小二乘(R LS)算法是一种在自适应迭代的每一步都要求最优的迭代算法，其目标函数为
J(n)= e2(l)= [d(l)-y(l)]2 (6.1)
式中，d(l)与y(l)分别为自适应滤波器的期望相应于输出信号。e(l)为误差信号，为一不大于1的正常数，为指数加权因子。其目的在于确保滤波器能够忘记“过去的”的数据以确保算法适用于菲平稳的环境，n为可变的数据长度。
=1时，普通最小二乘法的递推公式为：
J(n)= [d(l)-y(l)]2= [d(l)-wT(l)x(l)]2 (6.2)
对于≠1时的指数加权最小二乘法，直接给出其递推公式。对上式求导数并令其等于零，可得到
R(n)w(n)=g(n) (6.3)
式中R(n)与g(n)分别为自相关矩阵和互相关矢量在时刻n的估计值。R(n)与g(n)的元素分别由下式求得：
ri,j(n)= x(l-i)x(l-j) (6.4)
gi(n)= d(l)x(l-j) (6.5)
R(n)与g(n)可以分别采用如下的递推公式计算，即
R(n)= R(n-1)+x(n)xT(n) (6.6)
g(n)= g(n-1)+d(n)x(n) （6.7）
第n步迭代的最优解为：
w(n)=R-1(n)g(n) (6.8)
由于第n步的结果，可以推得第n+1步的结果：
w(n+1)= R-1(n+1)g(n+1) (6.9)
式中g(n+1)可以利用g(n)= g(n-1)+d(n)x(n)递推计算，而R-1(n+1)则借助如下的矩阵球递推公式：
(A+UUT)-1=A-1- (6.10)
来求解。式中A为一奇异方阵，U为任意矢量，可使得R-1(n+1)的递推公式为：
R-1(n+1)= R-1(n)- （6.11）
将式（7）与（11）代入式（9）中，有
w(n+1)= [R-1(n)- ][ g(n)+d(n+1)x(n+1)] (6.12)
令k= xT(n+1) R-1(n) x(n+1)，则上式可简化为：
w(n+1)= w(n)- R-1(n)x（n+1）（6.13）
定义先验误差e(n+1/n)为：
e(n+1/n)=d(n+1)-w T(n)x(n+1)= d(n+1)- xT(n+1) w(n) （6.14）
则RLS算法递推公式为：
w(n+1)=w(n)+ e(n+1/n) R-1(n) x(n+1) (6.15)
令P(n)= R-1(n),上式可改写成：
w(n+1)=w(n)+ e(n+1/n) P(n) x(n+1) （6.16）
设给定w(n)与P(n)的初始值w(0)与P(0),对于n=0，1，…，RLS自适应算法总结如下：
e(n+1/n)= d(n+1)-w T(n)x(n+1) （6.17）
(n+1)= (6.18)
w(n+1)=w(n)+ (n+1)e(n+1/n) P(n) x(n+1) (6.19)
P(n+1)= P(n)- (n+1) P(n) x(n+1) xT(n+1) P(n) (6.20)
式中，(n+1)称为RLS算法的收敛因子。
当≠1时，指数加权R LS自适应算法为：
e(n+1/n)= d(n+1)-w T(n)x(n+1) （6.21）
(n+1)= （6.22）
w(n+1)=w(n)+ (n+1)e(n+1/n) P(n) x(n+1) （6.23）
P(n+1)= P(n)- (n+1) P(n) x(n+1) xT(n+1) P(n) （6.24）
RLS算法的主要优点是收敛速度快，且对自相关矩阵特征值的分散性不敏感，其缺点是计算量比较大。
2 仿真结果分析
从图7（a）中得出学习曲线的收敛随迭代次数n的增加而有两好的性能。它的收敛大约要2M次迭代，其中M是滤波器长度。这意味着RLS算法的收敛速率比LMS算法快一个数量级。
从图7（b）中得出随着迭代次数n的增加测量误差逐步趋近于方差。也就是说，RLS算法理论上的额外均方误差为零（即零失调）。
（a）(b)
图7 RLS算法仿真
又可得出RLS算法在均方意义上的收敛性独立于输入信号x（n）集平均相关矩阵R的特征值。
由于LMS算法只是用以前各时刻的抽头参量等作该时刻数据块估计时的平方误差均方最小的准则，而未用现时刻的抽头参量等来对以往各时刻的数据块作重新估计后的累计平方误差最小的准则，所以LMS算法对非平稳信号的适应性差。递归式最小均方（R LS）算法的基本思想是力图使在每个时刻对所有已输入信号而言重估的平方误差的加权和最小，这使得RLS算法对非平稳信号的适应性要好。与LMS算法相比，RLS算法采用时间平均，因此，所得出的最优滤波器依赖于用于计算平均值的样本数，而LMS（NLMS）算法是基于集平均而设计的，因此稳定环境下LMS（NLMS）算法在不同计算条件下的结果是一致的。在性能方面，RLS的收敛与E（x(n)?xT(n)）的特征值无关，同时R LS的收敛速率比LMS（NLMS）要快得多，因此，RLS在收敛速率方面有很大优势。然而，鲁棒性或有限精度问题却给RLS算法的有效性带来很大的问题：一方面，横向RLS算法往往不稳定，鲁棒性很差，另一方面，格状R LS算法计算量很大，基本是LMS算法的计算量的平方。以上缺点，使RLS算法并不适合语音通信中的回波抵消。
RLS算法中的步长参数被输入向量的相关矩阵的逆代替，它对抽头输入有白化作用。这一改进对平稳环境下R LS算法的收敛性能有如下深刻影响：
1）.LS算法的收敛速率比LMS算法快一个数量级。
2）.R LS速率不随输入向量x(n)的集平均相关矩阵R特征值的扩散度（即条件度）而改变。
3）.随着迭代次数n趋于无限，R LS算法的额外均方误差收敛于零。
3 RLS与LMS算法的比较
在这里分别比较RLS与LMS的收敛速度，MSE及其对于抽头系数的敏感度。确定的范围。设定参数：值：范围：
LMS算法迭代公式：（n+1）= (n)+ e(n)x(n)
表1 抽头对应μopt之MSE
LMS (L=1.2e4)
Tap nu mber μ Square error
（续上表）
400 7.4000e-001 2.0818e-002
600 1.1500e+000 1.6579e-002
800 1.2800e+000 1.3508e-002
1000 1.4050e+000 5.0833e-002
1200 1.4240e+000 4.7002e-002
1600 1.2900e+000 1.1123e-001
2000 1.3100e+000 1.4032e-001
图8 LMS收敛曲线(L=1.2e4) 图9 LMS收敛曲线(log)(L=1.2e4)
表2 抽头对应μopt之MSE
2. LMS(L=8e5)
Tap nu mber μ Square error
400 1.0652e-005 4.0988e-003
600 1.1353e-005 2.7901e-003
800 1.4389e-005 1.3377e-003
1000 1.9467e-005 1.3792e-003
1200 1.2364e-005 8.6780e-004
1600 1.2380e-005 3.9803e-004
2000 1.8858e-005 7.2805e-005
图10 LMS收敛曲线(L=1.2e4) 图11 LMS收敛曲线(log)(L=1.2e4)
RLS算法：
表3 抽头对应μ之MSE
RLS(L=1.2e4)
Tap nu mber μ Square error
400 1e-5 7.6688e-003
1.0652e-005 7.6705e-003
600 1e-5 8.0513e-004
1.1353e-005 8.0516e-004
800 1e-5 4.8614e-004
1.4389e-005 4.8896e-004
1000 1e-5 1.7007e-004
1.9467e-005 1.7280e-004
1200 1e-5 1.9040e-004
（续上表）
1.2e-5 1.9099e-004
1.2364e-005 1.9109e-004
1600 1.5e-5 6.6376e-005
1.2380e-005 6.6190e-005
图12 R LS收敛曲线(L=1.2e4)
图13 R LS收敛曲线(log)(L=1.2e4)
图14 LMS、RLS收敛曲线比较(L=1.2e4)
图15 LMS、RLS收敛曲线比较(log)(L=1.2e4)
表4 LMS与RLS比较
L Tap μ Square error
（续上表）
L.M.S 1.2e4 1600 1.2900e+000 1.1123e-001
R.L.S 1.2e4 1600 1.2380e-005 6.6190e-005
图16 LMS(L=8e5)、RLS(L=1.2e4)收敛曲线比较
图17 LMS(L=8e5)、RLS(L=1.2e4)收敛曲线比较(以L=1.2e4做比较)
说明：由表1知道在L=1.2e4的情況下，因为所送的迭代量不够长，虽然增加抽头可有效的降低MSE但得到的改善有限，因此需使用较大的μ有效的追上通道的变化量，但由于μ较大，因此会得到MSE相当的大。
由图14、15分別是针对LMS与RLS作比较，由(图七)可以明显看出R LS收敛的速度，比LMS来的快，且由图14RLS 使用较快收敛迭代次数便能有效的降低MSE在10e-4左右，而LMS的MSE在10 e -1左右起伏。
图18 LMS(L=8e5)、RLS(L=1.2e4)收敛曲线比较(log)(以L=1.2e4做比较)
表5 LMS与RLS比较(fixed tap、μ)
L Tap μ Square error
L.M.S 8e5 1600 1.2380e-005 3.9803e-004
R.L.S 1.2e4 1600 1.2380e-005 6.6190e-005
表6 LMS与RLS比较
L Tap μ Square error
L.M.S 8e5 1600 1.2380e-005 3.9803e-004
R.L.S 1.2e4 800 1e-5 4.8614e-004
说明：表2为为了达到MSE 1e-4的条件下，L=8e5模拟最佳的抽头系数与μ值，使其LMS与R LS能达到相近的MSE。
由表3可以看出在μ固定下的模拟，只要抽头增加便能得到MSE有效的下降。由表5是在抽头与μ在相同的情況下的比较，LMS需要输入的迭代量长度为8e5下其MSE才达到最佳的值(LMS模拟为调整抽头、μ后的最小MSE值)，而RLS使用与LMS相同的抽头、μ的情況下只需要在输入的长度为1.2e4便能达到比LMS小的MSE。由表6可以看出RLS 要达到与LMS相近的所需要的L、抽头与μ都小于LMS所使用的参数值。
结论：由,
知道RLS算法的λ值越接近1越好，从上式可以看出δ值可以从λ或α值来控制，因为是固定的。知道有效的α值可以控制我们的初始值。
1. 当SNR高、noise低的时候，RLS会有很快的收敛速度，需要的条件：
2. 当SNR中等(The inpu t SNR is on the of 10dB)，RLS的收敛速度比高SNR时要来得慢。
需要的条件：
3. 当SNR低、noise高的时候，收敛速度最慢，且其performance最差。所需要的条件：
影响LMS的收敛因素主要为μ与correlation matrix R。RLS为least square的延伸，主要根据matrix inversion来完成演算法。R LS有较好的效能，收敛速度很快，与tap 有关L大约在两倍的tap number即可收敛完成。且利用通道correlation matrix会随时间而改变,所以更适应时变通道,这种改变会将W eight参数估计的更准确，相对的R LS需要大量使用矩阵运算，它的复杂度很高，与tap number的平方成正比。
表7 LMS与RLS性能比较
L.M.S. R.L.S.
优点 1．复杂度低
2．收敛好(error低) 1．收敛速度快
2．较少L、tap数就能收敛
缺点 1．收敛速度慢
2.较大L、tap数才能收敛 1．复杂度高
2．收敛较差(error高)
七格型自适应滤波器
格型结构的自适应滤波器有横向滤波器所不具有的许多优点，如自适应收敛快，滤波器节数的改变容易，对权系数有限字长效应灵敏度低等。因此，它得到广泛的注意和关注。
设x(n)为零均值平稳随机过程，可以利用x(n-1),x(n-2),…, x(n-p)的加来预测x(n)，即
= aix(n-i) (7.1)
式中，ai（i=1，2，…，p）称为p阶预测器的预测系数，预测误差也可表示为
e(n)=x(n)— (7.2)
或ef(n)=x(n)—a1 x(n-1)—… —ap x(n-p) (7.3)
其中将e(n)改写成ef(n)是因为这种预测方法称为前向预测，它与下面要讨论的后向预测相对应a=(1,-a1,…,- ap) (7.4)
为p阶预测误差滤波器。选择适当的ai，i=1，2，…，p，使均方误差E[(ef(n))2]达到最小，可以得到预测误差与输入信号正交的结果，即
E[ef(n) x(n-j)]=0, j=1,2,…,p (7.5)
与(1)相对应，定义后向预测器为
= bi x(n-p+i) (7.6)
后向预测误差为eb(n)=x(n-p-)-
= x(n-p)-b1 x(n-p+1) -…-bp x(n) (7.7)
同样，称b=(1,-b1,…,- b p) (7.8)
为后向预测误差滤波器。与前向预测器相类似，也可以得到
E[eb(n) x(n-p+j)]=0, j=1,2,…,p (7.9)
即后向预测误差为与输入信号正交。将ef(n)与eb(n)的表示式(7.3)和(7.7)代入它们各自的正交表示式(7.5)或(7.9)，有
= (7.10)
= (7.11)
显然，上面二式是相同的，因此有[a1, a2，…, ap]T= [b1, b2，…,bp]T 。这表明上述是在前向预测器和后向预测器向预测器相同时研究的。
对已给定的p阶前向预测器，欲求其p+1阶前向预测误差，可以采用对式(7.10)所示正则方程进行扩展的方法。对此可设法寻找一组系数，应满足如下正则条件;
E[efp+1 (n) x(n-j)]=0, j=1,2,…,p +1 (7.12)
现设efp+1 (n)= efp (n)- efp (n-1) （7.13）
式中，为一常数，称为反射系数。由于efp(n)与efp(n-1)均与x(n-1),x(n-2),…,x(n-p)数组正交，故由式（7.13）有
E[efp+1 (n) x(n-j)]=
E[efp (n) x(n-j)]- E[efp (n-1) x(n-j)]，j=1，2，…，p （7.14）
即式（7.13）满足式(7.12)中j=1，2，…，p的正交条件。此外，它还应满足j=p+1的正交条件，即
E[efp+1 (n) x(n-p-1)]=0 （7.15a）
将（7.13）代入式（7.15a），有
c- c=0 （7.15b）
由此可以解出
= （7.16）
由式（7.7）和（7.9）关系，上式还可以表示为
= （7.17）
这样，由式（7.13）可以得到p+1阶前向预测误差。同理后向预测误差也可以扩展到p+1阶：
ebp+1 (n)= ebp(n-1)- efp (n) （7.18）
式中= （7.19）
设定预测误差的初始值ef0 (n)与eb0 (n)均设定为x（n），即
ef0 (n)= eb0 (n)= x（n）（7.20）
对于i=0，1，…，p有
= （7.21）
efi+1 (n)= efi(n-1)- ebi (n-1) （7.22）
= （7.23）
efi+1 (n)= ebi(n-1)- efi (n) （7.24）
x（n）= ef0 (n) ef1 (n) efp (n)
- -
- -
eb0 (n) ebp (n)
图19 p阶格型预测误差滤波器的结构图
当前所用前向与后向预测误差滤波器相同时，= = ，从而E[(efi (n) )2]= E[(ebi (n-1) )2]，式（7.21）～（7.24）可以简化如下：
= =
= （7.25）
efi+1 (n)= efi (n)- ebi (n-1) （7.26）
ebi+1 (n)= ebi (n-1)- efi (n) （7.27）
式（7.25）表明：= 时采用前向或后向均方预测误差为最小，它们同时为最小及它们之和的平均为最小，其结果是一致的。下面还需要研究格型滤波系数的自适应算法，取其目标函数为前向和后向均方预测误差之和的平均，即
Ji（n）= ，i=1，2，…，p （7.28）
的自适应算法为
（n+1）= （n）- ，i=1，2，…，p （7.29）
其中（n）为格型滤波器系数在自适应过程中时刻n的值，为自适应常数。如在LMS算法中一样，用性能函数的瞬时值来代替均方值，有
（n）= （7.30）
因此，有
（n）= = [ efi (n) ] （7.31）
由式（7.26）和（7.27），得时变反射系数的递归公式如下;
efi (n)= efi-1 (n)- （n）ebi-1 (n-1) (7.32)
ebi (n)= ebi-1 (n-1)- （n）efi-1 (n) (7.33)
这样
=- ebi-1 (n-1) （7.34）
=- efi-1 (n) （7.35）
将式（7.34）（7.35）代入式（7.31），有
（n）=[- efi (n) ebi-1 (n-1)- ebi (n) efi-1 (n)] （7.36）
于是，式（7.29）变为
（n+1）= （n）+ [ efi (n) ebi-1 (n-1)+ ebi (n) efi-1 (n)] （7.37）
上式与式(7.26)和式(7.27)共同构成了基于最小均方最优准则的格型自适应滤波器的基本算法。
八递归型（IIR型）自适应滤波器
横向与格型自适应滤波器均是非递归的，此外，还有递归型的自适应滤波器，它在性能上有一些优点，但存在稳定性与算法收敛性问题。
递归型自适应滤波器的输入x（n）与输出y（n）的关系为
Y（n）= （8.1）
式中，ai（n）与bi（n）为滤波器ai与bi在n时刻的值。若d（n）为期望相应于n时刻的值，则n时刻的输出误差为E（n）=d（n）-y（n）
=d（n）- （8.2）
递归自适应滤波器通常也用LMS算法，但比非递归型自适应滤波器时要复杂。因为在非递归型时，bi（n）=0，i=1，2，…，N，若用e2（n）近似表示E[e2（n）]，则作为ai（n）（i=0，1，…，N）的函数e2（n）是二次曲面，由唯一的最小点。这样，调整系数ai（n）的自适应算法可由最速下降法得到。但在递归型自适应滤波器中，e2（n）是ai（n）与bi（n）的函数，这时，曲面e2（n）不是二次的，存在局部最下点。现假设e2（n）曲面存在全局最下点，则递归型自适应滤波器也可以使用最速下降法。其滤波器系数ai（n）与bi（n）的自适应算法如下：
ai（n+1）= ai（n）- （8.3）
与bi（n+1）= bi（n）- （8.4）
式中与为相应的收敛因子。与推演非递归型自适应滤波的LMS算法相同，用e2（n）近似E[e2（n）]，则将式（8.2）代入式（8.3）和（8.4）并求其偏导数，可得
（8.5）
（8.6）
式中，与分别为y(n)对ai（n）与bi（n）的偏导数。将式（8.1）分别对ai（n）与bi（n）求偏导数，得到
（8.7）
与（8.8）
将与关系代入式（8.7）与式（8.8），得
=x(n-i)- (8.9)
与=y(n-i)- (8.10)
若式（8.9）与式（8.10）中与可近似为下列关系：
y（n-i）（8.11）
则递归型自适应滤波器的自适应算法简化为
ai（n+1）=ai（n）+2 e（n）x（n-i）（8.12）
与bi（n+1）=bi（n）+2 e（n）y（n-i）（8.13）
若bi（n）=0，i=1，2，…,N.显然，有
ai(n+1)=ai(n)+2 e(n)x(n-i) (8.14)
这是非递归型自适应滤波器的LMS算法。因此，非递归型自适应滤波器的LMS算法可以视为递归型自适应滤波器LMS 算法于bi（n）=0（i=1，2，…，N）的一个特殊情况。
上述递归型自适应滤波器LMS算法是在假设e2（n）曲面存在全局最下点导出的，实际上，这种算法搜索到全局最小点是恨困难的，因而存在自适应算法收敛性问题。
递归型自适应滤波器比非递归型自适应滤波器更有一般性，滤波器阶数低且计算量少，但存在稳定性与算法收敛性问题。因此，对它的研究一直非常活跃。为了克服其缺点，已研究出一些算法，如超稳定的自适应滤波算法与基于梯度的递归预测误差算法等。
九盲自适应均衡
盲自适应均衡是一种本身自适应的均衡器。它不再需要参考输入的训练序列来维持正常工作何防止失锁现象发生。因此，再数据通信系统中不要发送训练序列，可以提高信道效率。同时盲均衡技术还可以获得更好的均衡性能。从而引起人们注意研究盲均衡方法。早期的盲均衡方法有Sato盲均衡算法(SA)和Godard盲均衡算法(GA)。后者性能优于前者，可以有效地应用于平衡信号传输的正交幅度调制(QAM)系统。近代数字通信系统广泛采用多相移键控(MPSK)调制方式，这种调制方法需要用到盲均衡技术。盲均衡方法有高阶矩盲均衡算法，分数间隔盲均衡算法，周期平衡盲均衡算法，自适应频域最小差错概率均衡算法，以及神经网络盲均衡方法。
1 Godard盲自适应均衡算法
如图20所示为不需要参考输入训练序列的盲本身自适应均衡系统的原理框图。PAM通信系统信道he(n)的输出信号x(n)可表示为
x(n)= +v(n) (9.1.1)
图20 盲自适应均衡系统
式中，v(n)是加性信道噪声；s(n)是输入端发送的基带码元序列，它是独立相同分布(i,i,d)序列。
均衡器是线性自适应滤波器型系统he(n)，它的输出y(n)可以写成：
y(n)= (9.1.2)
如果略去信道噪声的影响，则信道输入端导均衡器输出端的冲激响应h (n)等于信道冲击响应hc(n)与均衡器冲激响应he(n)的卷积，即
h (n)= hc(n)* he(n)= (9.1.3)
均衡器输出y(n)可以把式(9.1.1)带入式(9.1.2)或直接由式(9.1.3)写成
y(n)= (9.1.4)
通过算法调节均衡器参数使输出y(n)逼近于输入序列s(n)。这涉及到均衡器所用滤波系数数目(即阶数或长度)与代价函数的选用问题。统计代价函数经过均衡器参数he(n)非约束最小化就可获得其最优参数。最优解结果应满足下列条件：
{h (n)}= ; =0, 1, 2,… (9.1.5)
盲均衡的频域优化结果应是
Hc(ω)He(ω)= H (ω)= e-jndω; =0, 1, 2,… (9.1.6)
式中，Hc(ω),He(ω)分别为信道和均衡器的频率特性(转移函数)，H (ω)为它们总系统频率特性函数。在此情况下，均衡器输出经过判决器后s’(n)逼近于原信号序列s(n)，得到最优的均衡。
Godard自适应均衡算法实质上是一个常模量算法实质上是一个常模量算法(C MA),GA所用代价函数是
JGA(n)=1/4E[|(y(n)|2- )2] (9.1.7)
式中，
= (9.1.8)
式中，E[?]表示求数学期望。显然，GA代价函数中已无信号s(n)的瞬时信号了，即使通信信道突然恶化，也不会发生变化，从而克服了均衡器失锁和假收敛现象。因此，盲均衡算法的收敛性能大大优于LMS均衡算法。
自适应算法是由代价函数按随机梯度下降法最小化得出的，调节均衡参数得在线自适应均衡算法可写成
= - ; k=0, 1, 2,… (9.1.9)
式中，μ是自适应步长。
表示一误差函数，在盲自适应均衡算法中，它被定义为
=w(y(n))(y(n)- ) (9.1.10)
式中，w(y(n))定义为
w(y(n))= （9.1.11）
式(9.1.9)- (9.1.11)组成标准得Godard算法。
如果在式(9.1.10)中对y(n)所有值存在以下条件：
w(y(n))=1; (9.1.12)
则均衡器更新公式(9.1.9)和(9.1.10)组成判决直接均衡器(简称DDE).
2 过采样与独立分量分析得盲均衡算法
目前对于多通道系统的盲卷积、盲信道参数识别和盲均衡问题的研究也非常重视。利用过采样(Over-Sampling)技术、子空间(sub-space)及分数间隔(Fractionally-spaced)技术逼近的盲均衡方法非常适用于单输入多输出系统，并且得到了较快的发展。利用过采样技术和独立分量分析(ICA)网络做单入多出(SIMO)系统的盲均衡，得出一种新的在线盲子适应均衡方法。并且基于均衡器输出的四阶累计量，利用随机梯度下降和进化计算两方法，可以精确地估计系统参数。
图21 过采样－IC A盲均衡算法
表示过采样IC A盲均衡系统框图。设信道为稳定FIR线性时不变系统hc(n)，0≤n≤N为等效基带信道(包括滤波、调制和解调等)的冲激响应，且在单位圆上没有零点。S(n)是均值为零的独立相同分布的非高斯序列(如两电平对称的PAM序列)，其二、四阶累积量存在，三阶累积量为零，v(n)为零均值加性高斯噪声，与源信号s(n)相互独立。由于s(n)和h(n)均未知，仅观测信号x(n)为已知，如何由x(n)而又不用训练序列来恢复发送的源信号s(n)或辨识信道参数hc(n)，这涉及到盲信道系统辨识和盲均衡算法。现在把式写成
x(n)= +v(n) (9.2.1)
盲均衡的目的就是仅通过接收的数据来恢复源信号序列s(n)，即y(n)逼近s’(n)=s(n)。
过采样是以高于波特率采样单接收器受到的信号，即采样频率为奈奎斯特频率的整数倍。设对式以L倍波特率进行采样(L为正整数)，则采样时间间隔△=Ts/L。Ts为原采样周期。于是，过采样后,式(9.2.1)的离散形式为
x( )= +v( ) (9.2.2)
令i＝kL＋l，l＝0，1，…，L-1，则有
x(kTs+ )= +v(kTs+ ) (9.2.3)
为了书写简单起见，将信道冲激响应hc(n)换成h(n)，新的注脚l表示第l路冲激响应hl(n)，由此，式(9.2.3)可写作
xl(k)= +vl(k) (9.2.4)
式中，l＝0，1，…，L-1，对所有l当k<0或k>M时，hl(k)=0，这里M为每路冲激响应的最高阶数。因此，通过过采样技术使单通道输出x(n)转换成多输出hl(k)，l＝0，1，…，L-1。相对应的单输入多输出的L个冲激响应hl(m)等效为Lⅹ1维SIMO系统的冲激响应矢量h(m),即
h(m)=[ h0(m) h1(m) ┅hL-1(m) ]T; m=0,1…，M (9.2.5)
根据式(9.2.4)可知，源信号s(n)式单输入，但等效信道冲激响应变成多通道hl(n)，l＝0，1，…，L-1组成SIMO系统，源信号与信道或等效多通道参数都是未知的，仅输出观测信号x(n)或hl(k)已知，利用盲信源分离法可以求得s(n)。独立
分量分析法就是信源分离法，通过ICA计算使其输出y(n)逼近于源信号s(n)，判决器更有助于y(n)与s(n)逼近程度。
十应用
自适应滤波处理技术可以用来检测平稳和非平稳的随机信号。自适应数字系统具有很强的自学习、自跟踪能力和算法的简单易实现性，它在噪化信号的强检测增强，噪声干扰的抵消，波形编码的线性预测，通信系统的自适应均衡，图像自适应压缩编码，系统识别，以及未知系统的自适应参数辨识等方面获得广泛的应用。这里主要介绍几种当今较常用的、采用自适应滤波算法实现的技术。
1自适应均衡器
在信道均衡运用中，将发送的受信道失真影响的原始信号作为自适应滤波器的输入信号，可期望信号是原始信号的时延形式，如图22（a）所示。通常情况下，输入信号的时延形式在接收端是可以得到的，采用形式是标准的训练信号。当MSE达到最小时，就表明自适应滤波器代表了信道的逆模型（均衡器）。
图22（a）自适应均衡框图
图22（b）自适应均衡器
系统中使用两个独立的随机数发生器，一个用xn来表示,用来测试信道。另一个用v(n)来表示，用来模拟接收器中的加性白噪声的影响。序列xn是xn=±1的伯努利序列，随机变量xn具有零均值和单位方差。第二个序列v(n)具有零均值，其方差由信噪比决定。均衡器有11个抽头。信道的冲激响应定义为：
其中，W控制幅度失真的大小，因此也控制信道产生的特征值扩展。将延迟7个样值后的信道输入作为均衡器的期望响应。
其仿真结果说明如下：
从图22（b）的第一子图可以看出|e(n)|2随迭代次数n的增加他的收敛也就越快。同时第二子图的α（n）在迭代过程中收敛趋于稳定的同时，它也达到平稳状态。它的值在0.8的范围出现小的波动。
2自适应陷波器
如果信号中的噪声是单色的干扰，则消除这种干扰的方法是应用陷波器。希望陷波器的特性理想，即其缺口的肩部任意窄，可马上进入平的区域。用自适应滤波器组成的陷波器与一般固定网络的陷波器比较有下列优点：
1.能够自适应的准确跟踪干扰频率；
2.容易控制带宽；
信号为s=sin(2*π*t/20),干扰信号为n=A*cos(2*π*t/10+ф),两者频率比较接近，用自适应陷波器来滤除干扰而保留信号。仿真结果如下：
图23自适应陷波器
3自适应滤波器
在自适应信号的理想输入为有正弦信号。噪声输入也为一正弦信号。它们相互迭加，再经过LMS自适应算法，再比较它们的结果。
参考输入信号为一正弦波信号组成。如下图的分图（1）所示。自适应滤波器的输入信号也是一正弦信号的噪声信号相关的白噪声。如分图（2）所示。为了使输出误差的平方值尽可能小，需要对自适应滤波器的系数进行调整。如分图（3）所示，误差信号与实际信号相比它们之间的差别不大。当迭代次数的增加时，误差信号逐步趋于零，如分图（4）所示。
图24 自适应滤波器
经测试, 0 < < 0. 07 时算法稳定, =0. 035 时, 系统性能适中, 如图24所示。
(1) 的增大会导致时间常数S的减小, 使得加权系数E [W j ] 和性能函数N的过渡过程减少, 从而增强系统达到稳态的快速性。
1波束宽度与波达方向及阵元数的关系 clc clear all close all ima=sqrt(-1); element_num1=16; %阵元数 element_num2=128; element_num3=1024; lamda=0.03; %波长为0.03米 d=1/2*lamda; %阵元间距与波长的关系 theta=0:0.5:90; for j=1:length(theta); fai(j)=theta(j)*pi/180-asin(sin(theta(j)*pi/180)-lamda/(element_num1*d)); psi(j)=theta(j)*pi/180-asin(sin(theta(j)*pi/180)-lamda/(element_num2*d)); beta(j)=theta(j)*pi/180-asin(sin(theta(j)*pi/180)-lamda/(element_num3*d)); end figure; plot(theta,fai,'r',theta,psi,'b',theta,beta,'g'),grid on xlabel('theta'); ylabel('Width in radians') title('波束宽度与波达方向及阵元数的关系') 仿真图如下：
3. 当阵元间距 时，会出现栅瓣，导致空间模糊。仿真图如下： 4. 类似于时域滤波，天线方向图是最优权的傅立叶变换 仿真程序和仿真图如下： clc clear all close all ima=sqrt(-1); element_num=32; %阵元数 source_num=1; %信源数 d_lamda=1/2; %阵元间距与波长的关系 theta=linspace(-pi/2,pi/2,200); theta0=0; %来波方向 w=exp(ima*2*pi*d_lamda*sin(theta0)*[0:element_num-1]'); for j=1:length(theta); a=exp(ima*2*pi*d_lamda*sin(theta(j))*[0:element_num-1]'); p(j)=w'*a; end figure; subplot(1,2,1) plot(theta,abs(p)),grid on xlabel('theta/radian') ylabel('amplitude') /2d λ >
利用LMS 算法的自适应系统仿真 摘 要: 一待辩识的IIR 系统，用一有限长度的FIR 滤波器来近似辩识系统，介绍了基于最小均方算法(LMS 算法)的自适应均衡器的原理和结构，采用LMS 算法得到N 阶FIR 滤波器来逼近原IIR 滤波器，并且分析了步长，滤波器系数，初始权值以及自适应过程中的噪声对系统辩识性能的影响。针对用硬件实现LMS 算法的自适应均衡器存在的诸多缺点，利用MATLAB 工具对各种结构形式的自适应均衡器在不同信道模型下的收敛速度和精度进行仿真，描述了用仿真试验得出LMS 自适应均衡滤波器的收敛性和跟踪性能与滤波器长度和选代算法跳步两个重要的参数之间的定量关系，为此构建了有实用价值的系列时延扩展的传输环境和可变多径传输信道，建立了系统仿真模型，做出了仿真试验结果并分析了仿真试验结果的意义。 关 键 词 LMS 算法； FIR 滤波器； 自适应滤波；IIR; MATLAB 仿真 关 键 词: LMS 算法 自适应均衡系统 仿真 移动通信 无线数据通信 0、 引言 待辨识系统是极点－零点（IIR ）系统，要用一个有限长度的FIR 滤波器来近似辨识该系统如图1所示。已知待辨识系统的传输函数为： 23.01.111)(-+-=z z z H d （IIR ）,求FIR 滤波器的系数。 图1 自适应系统辨识的原理图 1、系统设计要求 1）、待辨识系统为IIR 滤波器，利用自适应滤波的方法，采用LMS 算法得到N 阶FIR 滤波器来逼近原IIR 滤波器； 2）、输入信号)(n x 为高斯白噪声；
3）、考察步长delta 、阶数N 对自适应滤波器性能的影响。 2、系统设计原理 由于LMS 算法不需要离线方式的梯度估值或重复使用数据以及它的简单易行性而被广泛采用。只要自适应系统是线性组合器，且有输入数据向量)(n x 和期待响应)(n d 在每次迭代时可利用，对许多自适应处理的应用来说，LMS 算法是最好的选择。 我们采用LMS 算法自适应调整FIR 滤波器的系数，自适应滤波器的结构是具有可调系数)1(,),1(),0(-N h h h 的直接型FIR 滤波器。 输入信号)(n x 为功率为1，长度为1000点的高斯白噪声。)(n d 为期望响应，)(n y 为自适应FIR 滤波器的输出，误差信号)()()(n y n d n e -=。 对一个FIR 滤波器，其可调系数为10),(-≤≤N k k h ，N 为滤波器的阶数。则输出 M n k n x k h n y N k ,,0), ()()(10 =∑-=-= LMS 算法是由最速下降法导出的，求出使均方误差∑==M n n e 0 2)(ε达到最小值时相应的最佳滤 波器系数组。 从任意选择的一组)(k h 初始值开始，接着在每个新的输入采样值)(n x 进入自适应滤波器后，计算相应的输出)(n y ，再形成误差信号)()()(n y n d n e -=，并根据如下方程不断修正滤波器系数： ,1,0,10),()()()(1=-≤≤-???+=-n N k k n x n e k h k h n n 其中?为步长参数，)(k n x -为n 时刻输入信号在滤波器的第k 个抽头处的采样值，)()(k n x n e -?是滤波器第k 个系数的负梯度的近似值。这就是自适应地调整滤波器系数以便使平方误差ε最小化的LMS 算法。 3、系统仿真和结果分析 1）、仿真环境和各参量设置 在MATLAB7 上用软件仿真，仿真条件： (1) 高斯白噪声的产生 利用MATLAB 的库函数randn 产生均值为零，方差为1的高斯白噪声。为了观察不同的步长和阶数对系统性能的影响，必要时可以设定“种子值”产生相同的输入序列。 (2) 待辨识系统对输入的期待响应 由待辨识系统的传递函数可以写出它的差分方程形式为
自适应信号处理综述报告 摘要：本文对国内外自适应信号处理的研究进行了综述，简要介绍了自适应算法的发展和应用，并讲述了LMS算法的原理及应用，最后给出了其在信号处理中的应用情况。 关键字：LMS算法；变步长；噪声抵消；系统辨识；自适应信号分离器 1. 自适应信号处理概述 自适应信号（Adaptive Signal Processing）处理的研究工作始于20世纪中叶。在1957年至1960年间，美国通用电气公司的豪厄尔斯（P.Howells）和阿普尔鲍姆（P.Applebaum），与他们的同事们研究和使用了简单的是适应滤波器，用以消除混杂在有用信号中的噪声和干扰。而结构更为复杂的自适应滤波器的研究工作，则由美国斯坦福大学的维德罗（B.Widrow）和霍夫（M.Hoff）始于1959年。此期间，他们在自适应理论方面的研究作出了贡献，发明了最小均方（LMS）自适应算法，并提出了一种采用被称为“自适应线性门限逻辑单元”的模式识别方案。同时，原苏联莫斯科自动学和遥控力学研究所的艾日曼及同事们，也研制出了一种自动梯度搜索机器。英国的加布尔（D.Gabor)和他的助手们则研制了自适应滤波器。 到20世纪60年代初期和中期，有关自适应信号处理的理论研究和实践、应用工作更加强了，研究范围已发展到自适应、自适应控制、自适应滤波（包括时域和空域）及其他方面。勒凯（R.Lucky）在美国贝尔实验室首先将自适应滤波应用于商用的数字通信中。1965年，自适应噪声对消系统在斯坦福大学建成，并成功应用于医学中，主要用于对消心电放大器和记录仪输出端的60Hz干扰。此后，瑞格勒（R.Riegler）和康普顿（https://www.doczj.com/doc/a417591556.html,pton)推广了由豪厄尔斯和阿普尔鲍姆所做的工作。 数字集成电路和微电子技术的迅速发展给自适应信号处理技术的应用提供了十分优越的条件。自适应系统的应用领域包括通信、雷达、声纳、地震学、导航系统、生物医学电子学和工业控制等。随着人们在改领域研究的不断深入，自适应信号处理的理论和技术日趋完善，其应用的范围也愈来愈广泛。 2. 自适应滤波算法基本原理 自适应滤波是利用前一时刻已获得的滤波器参数等结果，自动地调节现时刻的滤波器参数，以适应信号和噪声未知的或随时间变化的统计特性，从而实现最优滤波。所谓“最优”是以一定的准则来衡量的，根据自适应滤波算法优化准则不同，自适应滤波算法可以分为最
自适应信号处理最速下降法实验 一 实验目的 考察最速下降法应用于预测器的瞬态特性。通过保持特征值扩散度不变，而改变步长参数，观察过阻尼和欠阻尼两种情况下()1v n 和()2v n 以及)(1n ω和 )(2n ω随n 改变而改变的过程。 二 实验要求 固定特征值扩散度()10R χ=，令步长参数μ分别为0.3和1.0，1 1.1955a =-， 20.95a =，1 1.818λ=，20.182 λ=，2m in 0.0322J σ==，观察()1v n 和()2v n 以及 ()1n ω和()2n ω随n 改变而变化的情况。 三 实验过程 首先让步长参数为0.3，得到过阻尼情况下()1v n 和()2v n 以及()1n ω和()2n ω随n 改变而变化的曲线。如下图所示： 图 1：步长参数0.3μ=过阻尼情况 图中曲线中的同心椭圆从内到外依次对应n=0，1，2，3……的情况，下同。
图 2：步长参数0.3μ=过阻尼情况 再让步长参数为1.0，得到欠阻尼情况下()1v n 和()2v n 以及()1n ω和()2n ω随n 改变而变化的曲线。如下图所示： 图 3：步长参数 1.0μ=欠阻尼情况
图 4：步长参数 1.0μ=欠阻尼情况 四 实验结果和分析 通过观察上述曲线，可得到如下结论： 1 最速下降法的瞬态特性对步长参数的变化是高度敏感的。而且当步长μ较小时，最速下降法的瞬态特性是过阻尼的，即连接点V (0),V (1),V (2)…所组成的轨迹沿着一条连续的路径；当步长μ达到或接近最大值max 2max λμ=时，最 速下降法的瞬态特性是欠阻尼的，即轨迹显现振荡现象。 2上面的实验验证了当max 2 0λμ< <时，根据式k mse k μλτ21,≈ 可得步长参 数μ越小，最速下降法中每一个自然模式的衰减速率越慢。且当max 2max λμ=时，出现欠阻尼现象，如果μ再大，则算法发散。 3 对于固定的()J n ，()()12,v n v n ????随n 变动的轨迹正交于()J n 固定时 ()()12,v n v n ????的轨迹，这也适用于()J n 固定时()()12,n n ωω????的轨迹。
自适应信号处理-唐正必马长芳科学出版社 赵春晖哈尔滨工程大学出版社 本书全面系统地阐述了自适应信号处理的理论及其应用，包括确定性信号与随机过程(平稳与非平稳信号)滤波检测理论，不用训练序列的本身自适应的盲信号处理理论，从一维到多维、线性到非线性、经典自适应到神经智能自适应等近代信号处理。它将信息论、时间序列分析、系统辨识、谱 估计理论、高阶谱理论、优化理论、进化计算，以及神经网络理论等学科知识综合而成一体。 本书共十章，内容有自适应滤波基本原理、自适应LMS滤波器、自适应RLS滤波器、自适应格型滤波器、自适应递归滤波器、自适应谱线增强与谱估计、自适应噪声干扰抵消器、自适应均衡器、自适应阵列处理与波束形成，以及自适应神经信息处理。对于盲信号处理的理论与方法，将分散在最后三章中论述。 本书取材新颖，内容丰富;叙述深入浅出，系统性强，概念清楚。它总结了自适应信号处理的最新成果，其中包括作者在该领域内所取得的科研成果，是一部理论联系实际的专业理论专著。可作为信息与通信、雷达、声纳、自动控制、生物医学工程等专业的研究生的教材或主要参考书，也可供广大科研人员阅读。 第1章绪论 1.1 自适应滤波的基本概念 1.2 自适应信号处理的发展过程 1.3 自适应信号处理的应用 第2章维纳滤波 2.1 问题的提出 2.2 离散形式维纳滤波器的解 2.3 离散形式维纳滤波器的性质 2.4 横向滤波器的维纳解 第3章最小均方自适应算法 3.1 最陡下降法 3.2 牛顿法 3.3 LMS算法 3.4 LMS牛顿算法 第4章改进型最小均方自适应算法 4.1 归一化LMS算法 4.2 块LMS算法 4.3 快速块LMS算法 第5章最小均方误差线性预测及自适应格型算法 5.1 最小均方误差线性预测 5.2 Lev ins on-Durbi n算法 5.3 格型滤波器 5.4 最小均方误差自适应格型算法 第6章线性最小二乘滤波 6.1 问题的提出 6.2 线性最小二乘滤波的正则方程 6.3 线性最小二乘滤波的性能 6.4 线性最小二乘滤波的向量空间法分析 第7章最小二乘横向滤波自适应算法 7.1 递归最小二乘算法 7.2 R LS算法的收敛性 7.3 R LS算法与LMS算法的比较
自适应信号处理课后题答案 1．求下列R 的特征值设 (1)?? ?? ? ?????=4202630341R (2)?? ? ???-=2)3/exp(6)3/exp(632ππj j R 解：(1)令λ为R 的特征值，则 (2)令λ为R 的特征值： 0)d e t (=-I R λ 0)d e t (=-I R λ 即： 042 2630 34=---λ λ λ 即： 02) 3/exp(6)3/exp(63=---λ ππλ j j 于是R 1的三个特征值分别为： 于是R 2 的两个特征值为： 1451454321－＝，＋＝，λλλ= 5,021==λλ 2．证明任何两个实数的单输入自适应线性组合器的特征向量矩阵均为： ?? ????-= 111121Q 证明：由已知条件知相关矩阵为R ： ? ? ? ???=a b b a R 则R 的特征值为：b a b a -=+=21,λλ 当b a +=1λ时，??? ???--=-b b b b I R λ，则特征向量为：]1,1[11q x = 当b a -=2λ时，? ? ? ???=-b b b b I R λ，则特征向量为：]1,1[22-=q x 则特征向量为： ?? ? ???-=111121Q 3．如图3.1所示，若自适应系统的输入和期待响应分别为：
(1))6/2cos(],6/)1(2sin[),6/2sin(10k d k x k x k k k πππ=-== (2)6/)]5.1(2[]6/)2(2[]6)1(2[1)6/2(04,,2--+-=+==k j k k j k j k k j k e d e e x e x ππππ 试计算最佳权向量和最小均方误差输出，并说明在两种情况下的自适应系统有什么不同？ 解：(1)由题中条件知： 5.0][2 0=k x E 5.0][2 1=k x E [] 25.010=* k k x x E []00=k k x d E 4/3][1-=k k x d E 于是输入相关矩阵为： ??????=5.025.025.05.0R ? ?????-=4/30P 则最优权为：?? ? ???-==* -1547.15774.01 P R W opt 最小均方误差为：3889.0][2 min -=-=opt T k W P d E ζ (2)由题中已知条件知： 4][2 0=k x E 6/26/22 12][ππj j k e e x E -++= 6/308][πj k k e x d E =* 6/6/144][ππj j k k e e x d E -*+= 6/46/21022][ππj j k k e e x x E --*+= 6/46 /21122][ππj j k k e e x x E +=* 于是输入相关矩阵为： ??????++++=---6/26/26/46 /26/46/2222224ππππππj j j j j j e e e e e e R ?? ????+=-6/6 /6 /3448πππj j j e e e P R 的逆不存在， 则最优权为： ??? ? ????-=j c c W o p t 3234 最小均方误差为：0][2 min =-=opt T k W P d E ζ
自适应信号处理 自适应信号处理是信号与信息处理领域的重要分支和组成部分，自20世纪五六十年代出现以来，自适应信号处理的理论和技术受到了学术界和许多应用领域的普遍重视。它的研究的内容是以信号与信息自适应处理为主线，包括自适应滤波检测理论和自适应技术应用两大部分。 自适应滤波理论和技术是统计信号处理和非平稳随机信号处理的主要内容，它可以在无需先验知识的条件下，通过自学习适应或跟踪外部环境的非平稳随机变化，并最终逼近维纳滤波和卡尔曼滤波的最佳滤波性能。因而，自适应滤波器不但可以用来检测确定性信号，而且可以检测平稳的或非平稳的随机信号。自适应技术应用包括自适应谱线增强与谱估计方法、自适应噪声干扰抵消技术、自适应均衡技术、自适应阵列处理与波束形成以及自适应神经网络信号处理等内容。 自适应信号处理技术在通信、雷达、声纳、图像处理、地震勘探、工业技术和生物医学等领域有着极其广泛的应用。其中，通信技术的许多最新进展，都与自适应信号处理密切相关，尽管新的信号处理理论和方法层出不穷，但是自适应信号处理仍然以其算法简单、易于实现和无须统计先验知识等独特的优点，成为许多理论与工程实际问题的首选解决方案之一。近年来，随着超大规模集成电路技术和计算机技术的迅速发展，出现了许多性能优异的高速信号处理专用芯片和高性能的通用计算机，为信号处理，特别是自适应滤波器的发展和应用提供了重要的物质基础。另外，信号处理理论和应用的发展，也为自适应滤波理论的进一步发展提供了必要的理论基础。 本章主要介绍目前应用较为广泛的自适应滤波理论与技术，包括维纳滤波、LMS滤波和卡尔曼滤波及其应用。 2.2 维纳滤波 从连续的(或离散的)输入数据中滤除噪声和干扰以提取有用信息的过程称为滤波，而相应的装置称为滤波器。根据滤波器的输出是否为输入的线性函数，可将它分为线性滤波器和非线性滤波器两种。滤波器研究的一个基本课题就是：如何设计和制造最佳的或最优的滤波器。所谓最佳滤波器是指能够根据某一最佳准则进行滤波的滤波器。 20世纪40年代，维纳奠定了关于最佳滤波器研究的基础。即假定线性滤波器的输入为有用信号和噪声之和，两者均为广义平稳过程且知它们的二阶统计特性，维纳根据最小均方误差准则(滤波器的输出信号与需要信号之差的均方值最小)，求得了最佳线性滤波器的参数，这种滤波器被称为维纳滤波器。在维纳研究的基础上，人们还根据最大输出信噪比准则、统计检测准则以及其他最佳准则求得的最佳线性滤波器。实际上，在一定条件下，这些最佳滤波器与维纳滤波器是等价的。因而，讨论线性滤波器时，一般均以维纳滤波器作为参考。 维纳滤波理论用于解决最小均方误差下的线性滤波问题。设接收到(或观测到)的信号为随机信号 (7-1) 其中s(t)是未知的实随机信号，n(t)是噪声。要设计的线性滤波器，其冲击响应为h(t, τ)， 输入为x(t)，输出为，即
1.自适应滤波如何运用到系统辨识？ 自适应滤波理论和技术是统计信号处理和非平稳随机信号处理的主要内容, 它具有维纳滤波和卡尔曼滤波的最佳滤波性能, 但不需要先验知识的初始条件, 它是通过自学习来适应外部自然环境, 因而具有广泛的应用。自适应滤波器( Adaptive filter) 是自设计的,由于其依靠递归算法进行运算, 因此可在有关信号特征的完整知识不能得到的环境下, 圆满的完成滤波运算。由于稳定性问题和IIR 局部最优,所以, 自适应滤波器大多用FIR 来实现。在自适应滤波器应用中一个重要问题是使可调节滤波器参数最优的标准, 以及利用这种标准形成实际上可行的算法。最小均方( LMS, leastmean-square) 算法是现今应用最为广泛的一种线性自适应算法, 它不需要有关的相关函数和矩阵求逆运算, 是一种极为简单的算法. 最小均方误差(LMS，least mean square) 算法于1960年提出后, 因其具有计算量小、易于实现等优点而获得大量应用。典型的应用领域有系统辨识、信号处理和自适应控制等。LMS 算法的基本原理是基于估计梯度的最速下降法, 即沿着权值的梯度估值的负方向进行搜索,以期达到权值最优, 实现均方误差最小意义下的自适应滤波。 系统辨识是根据系统的输入输出时间函数来确定描述系统行为的数学模型，是现代控制理论中的一个分支。对系统进行分析的主要问题是根据输入时间函数和系统的特性来确定输出信号。系统辨识包括两个方面：结构辨识和参数估计。在实际的辨识过程中，随着使用的方法不同，结构辨识和参数估计这两个方面并不是截然分开的，而是可以交织在一起进行的。 2.在系统辨识中，LMS，RLS算法的形式？ 2.1 LMS 原理： 设通信系统输出信号为： y(k)=W T X(k) (1) 其中，该系统权向量为： W=[w1, w2,…, w n]T(2) 输入信号为 X(k)=[x(k), x(k-1), …,x(k-m+1)]T(3) 误差信号定义为 e(k)=d(k)-y(k)=d(k)-W T(k)X(k) (4) LMS算法的原理是用e2(k)来估计E(e2(k))，此时有 ▽(k)=-2e*(k)X(k) (5) 这样梯度法的叠代公式变为 W(k+1)=W(k)+2μe*(k)X (k) (6) 其中，*为共扼。 算法步骤： 基本的LMS算法如下： 步骤1 初始化：W(0)=0, 0<μ<1/λmax 步骤2 W(k+1)=W(k)+2μe(k)X*(k) 步骤3 判断是否收敛，如果不收敛，令k=k+1，回步骤2。 2.2 RLS 原理
3.NLMS 和LMS 算法区别 LMS 是自适应算法中历史最久，运用最广，最为基础的算法。优点是计算复杂度低，容易实现，缺点是其收敛行为高度依赖于输入信号的功率谱密度分布。NLMS 可看作是不是一种特殊的LMS 算法，可通过设置随时间变化的可变收敛步长因子来控制输入功率变化对自适应算法收敛的影响，可以加快收敛速度，NLMS 将LMS 算法的权值更新方程中)()(n x n e μ项对信号能量)()(n x n x T 进行归一化得到的。 LMS 权值更新方程： )()()(2)()1(n x n e n n w n w μ-=+ NLMS 权值更新方程：)()()()(1 )()1(n x n e n x n x n w n w T +=+ 更常用的： )()()()(?)()1(n x n e n x n x n w n w T ψμ ++=+ NLMS 有更好的稳定性和更快的收敛速度。 ４、自适应滤波与维纳滤波的区别。 维纳滤波是对输入信号进行整形，使输出信号与期望信号尽量近似，即误差信号尽可能小，其中误差信号是期望信号和输出信号的差值。当误差最小时，线性估计滤波器就达到最优，即维纳滤波器。但在实际情况中，往往不能预先得到这些认识，就不能预先得出维纳滤波器，这时就需要滤波器能够进行自我调节，同时利用输入信号和输出的误差信号来学习所需的统计特性，从而不断调节逼近并最终收敛到对应的维纳滤波器。自适应滤波器与前区别在于：自适应滤波器可看作滤波器系数可变的线性估计滤波器，它也是让输出信号对期望信号进行最优估计，维纳是滤波器系数固定，自适应滤波器系数是不断更新的，即根据误差信号逼近调节Wiener 滤波器。 5、LMS ，RLS 自适应滤波的算法。 LMS 算法： 1．设计参数 )(n x =n 时刻的输入数据矢量；y(n)=n 时刻的期望响应；n n c =)(时 刻的滤波器系数矢量；M=系数的数目=μ步长参数；∑=<< 1．求下列R 的特征值设 (1)?? ?? ? ?????=4202630341R (2)?? ? ???-=2)3/exp(6)3/exp(632ππj j R 解：(1)令λ为R 的特征值，则 (2)令λ为R 的特征值： 0)d e t (=-I R λ 0)d e t (=-I R λ 即： 042 2630 34=---λ λ λ 即： 02) 3/exp(6)3/exp(63=---λ ππλ j j 于是R 1的三个特征值分别为： 于是R 2 的两个特征值为： 1451454321－＝，＋＝，λλλ= 5,021==λλ 2．证明任何两个实数的单输入自适应线性组合器的特征向量矩阵均为： ??? ???-=111121Q 证明：由已知条件知相关矩阵为R ： ?? ? ???=a b b a R 则R 的特征值为：b a b a -=+=21,λλ 当b a +=1λ时，? ?? ???--=-b b b b I R λ，则特征向量为：]1,1[11q x = 当b a -=2λ时，?? ? ???=-b b b b I R λ，则特征向量为：]1,1[22-=q x 则特征向量为： ?? ????-= 111121Q 3．如图3.1所示，若自适应系统的输入和期待响应分别为： (1))6/2cos(],6/)1(2sin[),6/2sin(10k d k x k x k k k πππ=-== (2)6/)]5.1(2[]6/)2(2[]6)1(2[1)6/2(04,,2--+-=+==k j k k j k j k k j k e d e e x e x ππππ Harbin Institute of Technology RLS自适应平衡器计算机实验 课程名称：自适应信号处理 院系：电子与信息工程学院 姓名： 学号： 授课教师：邹斌 哈尔滨工业大学 目录 一. 实验目的：............................................................................................................. - 1 - 二. 实验内容：............................................................................................................. - 1 - 三. 程序框图................................................................................................................. - 3 - 四. 实验结果及分析..................................................................................................... - 4 - 4.1 高信噪比（信噪比为30dB）情况下特征值扩散度的影响 ....................... - 4 - 4.2 信噪比（信噪比为10dB）情况下特征值扩散度的影响 ........................... - 5 - 五. 实验结论................................................................................................................. - 5 - 自适应信号处理仿真作业 Xk 信号定义： 12()(1)(2)()x k a x k a x k w k +-+-= 其中：2()~(0,)w k N σ； 参数：12120.1950,0.95 1.5955,0.95 a a a a =-=??=-=? 1、产生数据估计R ，和理论计算值比较。 理论计算： 12()(1)(2)()x k a x k a x k w k +-+-= (1) 对(1)式左右两边都乘()x k ，再求数学期望得 12(0)(1)(2)1R a R a R ++= (2) 对(1)式左右两边都乘(1)x k -，再求数学期望得 12(1)(0)(1)0R a R a R ++= (3) 对(1)式左右两边都乘(2)x k -，再求数学期望得 12(2)(1)(0)0R a R a R ++= (4) 解方程组：121212(0)(1)(2)1(1)(0)(1)0(2)(1)(0)0 R a R a R R a R a R R a R a R ++=?? ++=??++=? 可求得理论值R 。 在本次仿真中产生1500个信号点来估计R ，图1给出两组参数各自的估计 值R以及由估计值求出的最优权： 图1 R的理论值与估计值 2、.令 1 trR μ=，实现LMS算法给出w1,w2的收敛曲线及学习曲线 在仿真中当 1 trR μ=时，w1,w2不收敛，所以对步长因子取 1 20*trR μ=和 1 100*trR μ=来产生各自的学习曲线以及收敛轨迹。 第一组参数下的学习曲线与权值收敛轨迹如下，其中权值的起始值取（-1，-2.5）。 k ε2006年研究生自适应信号处理考试题 1. 简述人工自适应系统的特点和建立自适应系统一般应该满足的要求。（10%） 特点：随时间变化，针对变化的环境自我优化，能通过训练适应变化的任务，自我设计、修复，少量训练可以改变整个系统的结构，输入的变化可能影响系统的性能，系统的调节都针对特定的优化目标。 构造自适应系统，一般有两种形式，一种是开环系统，另一种是闭环系统。无论那种形式，系统的处理器都必须是可调节的。 2. 一个滤波器的特性函数为()2 115726 w ξ=-+，根据特征曲面搜索的最速下降法和牛 顿法，试分别写出其参数w 的调整算法。（15%） ()()()2 111115726 7 571349 13 577()7 5713 k k k k k k k k k k k w w w w w w w w w w w w w w w w w w ξξξξξμμ+++=-+'+'''=- ''+=- =+-?=-+解： 牛顿法：() ()= ()=() () w 调整算法最速下降法： 3. 设线性组合器110-+=k k k x w x w y ，画出它的原理图；当输入信号为 52sin k x k π=，期望输出信号为5 2cos 2k d k π=时，求出自相关矩阵R ，互相关矩阵P ，特性函数，梯度和最佳权值。（20%） 原理图： [] k 2 k 12 k-1k-12T T k 20.5 0.5cos x x 5 R=E 2x x 0.5cos 0.5 52P=E 5=E[d ]+W RW-2P W =2+0.5[k k T T x x πππξ-? ? ????=????????????? ? ? ?=???? k k k-1k-1解：自相关矩阵 互相关矩阵d x d x 0 -sin 特性函数0001112 20101121 cos 25 ]225cos 1 522=cos 2sin 2 55 =20.5 0.5cos 520.5cos 0.55πωωπωωπωωππωωωωωππ? ????? ????-???????????????????? ++?? ????????? 0 -sin 0.5(+)+ 梯度2RW-2P =201010 1*252+cos 5 22cos ++2sin 5522W 55 ωπωπωωππωωππ ???????????????????? ?????????? T 0 -2-sin = 最佳权值=[2cot -2csc ] 4. 设滤波器的自相关矩阵为300021018R ?? ?= ? ???，摄动为125P ?? ? = ? ??? ，写出最速下降法 的权值调整算法，给出它们的收敛条件。（10%） 生物医学信号处理习题集 第一章 生物医学信号处理绪论 ..................................................................................................... 1 第二章 数字信号处理基础 ............................................................................................................. 1 第三章 随机信号基础 ..................................................................................................................... 5 第四章 数字卷积和数字相关 ......................................................................................................... 9 第五章 维纳滤波 ........................................................................................................................... 10 第六章 卡尔曼滤波 ....................................................................................................................... 13 第七章 参数模型 ........................................................................................................................... 16 第八章 自适应信号处理 (19) 第一章 生物医学信号处理绪论 1. 生物医学信号处理的对象是什么信号？ 解答： 包括生理过程自发产生的信号，如心电、脑电、肌电、眼电、胃电等电生理信号和血压、体温、脉搏、呼吸等非电生理信号；还有外界施加于人体的被动信号，如超声波、同位素、X 射线等。 2. 生物信号的主要特点是什么？ 解答： 随机性强，噪声背景强。 第二章 数字信号处理基础 You can use Matlab where you think it ’s appropriate. 1.FIR 滤波器和IIR 滤波器的主要区别是什么？ 解答： FIR 滤波器的单位脉冲响应是有限长的序列，该滤波器没有极点，具有稳定性。 IIR 滤波器的单位脉冲响应是无限长的序列，该滤波器有极点，有可能不稳定。 2.两个滤波器级联，第一个的传递函数为2-11z 2z 1)z (H -++=，第二个为-12z 1)z (H -=，当输入为单位脉冲时，求输出序列，画出级联滤波器的频率响应。 解答： )z 1)(z 2z 1()z (H 12-1---++==32-1z z z 1----+ h(n)=[1,1,-1,-1]，n=0，1，2，3。即输入单位脉冲时的输出序列值。 freqz(h,1) 自适应信号处理综述 曹志锋 （长沙理工大学电气与信息工程学院学号：0000000） 摘要：本文对自适应信号处理的发展进程做了简单的介绍，并阐述了自适应信号处理的基本原理及其算法的推导。介绍了自适应信号处理技术在滤波、系统辨识、自适应均衡、回波抵消、谱 估计、谱线增强、自适应波束形成等方面的应用, 并介绍了其发展前景。 关键字：自适应信号处理；LMS算法；滤波；系统辨别 An Overview of Adaptive Signal Processing Abstract: In this paper, adaptive signal processing of the development process to do a brief introduction, And describes the basic principles of adaptive signal processing and algorithm derivation . Inthistext,the applicationof thetechnology of adaptive signal processing is introduced in filtering,system analysis,adaptive equilibria, echo cancelation,spectrum estimation,spectrumboosting-up, adaptive beam’s forming and so on,as well as its future. Keywords:adaptive signal processing;LMS algorithm;filtering; system recognition 0引言 自适应信号（Adaptive Signal Processing）处理的研究工作始于20世纪中叶。在1957年至1960年间，美国通用电气公司的豪厄尔斯（P.Howells）和阿普尔鲍姆（P.Applebaum），与他们的同事们研究和使用了简单的是适应滤波器，用以消除混杂在有用信号中的噪声和干扰。而结构更为复杂的自适应滤波器的研究工作，则由美国斯坦福大学的维德罗（B.Widrow）和霍夫（M.Hoff）始于1959年。此期间，他们在自适应理论方面的研究作出了贡献，发明了最小均方（LMS）自适应算法，并提出了一种采用被称为“自适应线性门限逻辑单元”的模式识别方案。同时，原苏联莫斯科自动学和遥控力学研究所的艾日曼及同事们，也研制出了一种自动梯度搜索机器。英国的加布尔（D.Gabor)和他的助手们则研制了自适应滤波器[1]。 到20世纪60年代初期和中期，有关自适应信号处理的理论研究和实践、应用工作更加强了，研究范围已发展到自适应、自适应控制、自适应滤波（包括时域和空域）及其他方面。勒凯（R.Lucky）在美国贝尔实验室首先将自适应滤波应用于商用的数字通信中。1965年，自适应噪声对消系统在斯坦福大学建成，并成功应用于医学中，主要用于对消心电放大器和记录仪输出端的60Hz干扰。此后，瑞格勒（R.Riegler）和康普顿（https://www.doczj.com/doc/a417591556.html,pton)推广了由豪厄尔斯和阿普尔鲍姆所做的工作。 自适应滤波算法的研究 第1章绪论 1.1课题背景 伴随着移动通信事业的飞速发展，自适应滤波技术应用的范围也日益扩大。早在20世纪40年代，就对平稳随机信号建立了维纳滤波理论。根据有用信号和干扰噪声的统计特性(自相关函数或功率谱)，用线性最小均方误差估计准则设计的最佳滤波器，称为维纳滤波器。这种滤波器能最大程度地滤除干扰噪声，提取有用信号。但是，当输入信号的统计特性偏离设计条件，则它就不是最佳的了，这在实际应用中受到了限制。到60年代初，由于空间技术的发展，出现了卡尔曼滤波理论，即利用状态变量模型对非平稳、多输入多输出随机序列作最优估计。现在，卡尔曼滤波器己成功地应用到许多领域，它既可对平稳的和非平稳的随机信号作线性最佳滤波，也可作非线性滤波。实质上，维纳滤波器是卡尔曼滤波器的一个特例。 在设计卡尔曼滤波器时，必须知道产生输入过程的系统的状态方程和测量方程，即要求对信号和噪声的统计特性有先验知识，但在实际中，往往难以预知这些统计特性，因此实现不了真正的最佳滤波。 Widrow B等于1967年提出的自适应滤波理论，可使自适应滤波系统的参数自动地调整而达到最佳状况，而且在设计时，只需要很少的或根本不需要任何关于信号与噪声的先验统计知识。这种滤波器的实现差不多象维纳滤波器那样简单，而滤波性能几乎如卡尔曼滤波器一样好。因此，近十几年来，自适应滤波理论和方法得到了迅速发展。[1] 自适应滤波是一种最佳滤波方法。它是在维纳滤波，Kalman滤波等线性滤波基础上发展起来的一种最佳滤波方法。由于它具有更强的适应性和更优的滤波性能。从而在工程实际中，尤其在信息处理技术中得到广泛的应用。 自适应滤波的研究对象是具有不确定的系统或信息过程。“不确定”是指所研究的处理信息过程及其环境的数学模型不是完全确定的。其中包含一些未知因数和随机因数。 1.自适应信号处理基本概念，解决的问题，适用条件下（平稳、短时平稳），结构分类。 自适应信号处理:是研究一类结构可变或可以调整的系统，它通过自身与外界环境的接触来改善自身对信号处理的性能。通常这类系统是时变的非线性系统，可以自动适应信号传送变化的环境和要求。自适应系统和一般系统类似，可以分为开环系统（闭环：计算量小，收敛慢；开环：计算量大，收敛快）和闭环系统两种类型。开环系统仅由输入确定，而闭环不仅取决于输入，还依赖于系统输出的结果。自适应信号处理所研究的信号既可以是随机平稳信号，也可以是局部平稳随机信号，也可以是窄带或者是宽带信号。 2、信号相关矩阵及其性质，梯度运算: 输入信号的相关矩阵：R E[X*X T]=，相关矩阵R是厄米特矩阵，即满足R* = R T。作为厄米特矩阵，它具有以 下性质： ①对应于R的不同特征值的特征向量都是正交的。 ②R是正定（或半正定）矩阵，它所有的特征值都为实数，且大于或等于零。 ③所有特征值之和等于矩阵R的迹，即为输入信号的功率。 【定义一个幺向量：1=[1 1 …1]T，于是，R的特征值之和为 1T∧1=1T Q H RQ1== 上式等号右边的求和即为矩阵R的迹（矩阵主对角线所有元素之和），亦即系统输入信号的功率。】 ④信号相关矩阵R可以被分解为一个实对称矩阵和一个实反对称矩阵，即：R=R a+jR b ，其中，实矩阵R a、R b分别满足条件：R a T=R a 和R b T=-R b ⑤若W为L+1维的权向量，则对相关矩阵R，存在关于W的一个瑞利商，且对于所有W的瑞利商均为实数。瑞利商Ray(W)= ⑥R可分解为R=Q Q T where Q[q0,q1,…q l], 信号子空间：R s非零特征值对应的特征向量张成的子空间。Span{q0,q1,…q s} 噪声子空间：信号子空间的正交补空间零特征值→特征向量。Span{ q s+1,q s+2,…q l+1} 梯度运算：=[]T 式中分别是向量W的第l个元素的实部和虚部，即；ε即为。 实标量函数的梯度是一个向量，其方向代表该函数最陡下降时W变化方向的负向。 （）=2RW 3、性能测量方法。（代价函数） ①最小均方误差（MSE）：准则--误差信号功率最小： ε(W)=E[]= E[]+- 2Re(W T P)，（代价函数）→W opt=R x-1P*. ( ε(W opt)=E[]- W opt T P ---( P) ) εmin=E[]+P T R-1RW opt - 2W T opt P = E[] – P T W opt自适应信号处理 沈福民 答案
哈工大-自适应信号处理_RLS自适应平衡器计算机实验
自适应信号处理仿真报告
研究生自适应信号处理考试题
生物医学信号处理习题集
自适应信号处理综述(终稿)
自适应滤波算法的研究分析
自适应信号处理
相关主题
文本预览