线性滤波与预测问题的新方法中文翻译

  • 格式:pdf
  • 大小:565.62 KB
  • 文档页数:37

线性滤波与预测问题的新方法R.E.卡尔曼(巴尔地摩高级研究院,马里兰州)采用基于随机过程的波特-香农表达式与动态系统分析的状态转换方法对经典滤波与预测问题进行反复研究。

得出了以下新结论:(1)应用于非修正的平稳与非平稳数据,与增长记忆和无线记忆滤波器的问题解的公式与方法;(2)由最优化估计误差的协方差矩阵而推导出的非线性差分(微分)方程。

从与这个方程的解来看,获得最优化线性滤波器差分(微分)方程系数并不要进一步的计算。

(3)滤波问题可以看成是无噪声调节器的对偶问题。

新方法不但发展了传统的理论,解决了两个著名问题,巩固并拓展了先前的结论。

文中论述由先前的理论发展而来,并具有高度的独创性,。

随机过程理论的基本概念在附录中有回顾。

1引言1引言在通信与控制领域中的重要经典理论与实际问题的本质都是统计特性。

例如以下问题:(i)随机信号的预测;(ii)从随机噪声中分离出随机信号;(iii)存在随机噪声情况下,从中检测出已知波形(如脉冲和正弦波)的信号。

在前人的工作中,维纳就问题(i)和(ii)推导出了Wiener-Hopf积分方程。

他也给出了一种在平稳统计和有理谱的重要的特殊的情况下,解积分方程的方法(谱分解)。

继维纳的基础研究之后,很多人对其进行了拓展与归纳。

Zadeh和Ragazzini 解决了有限记忆的问题。

波特与香农同时独立地给了求解的简化方法。

Booton 讨论了非平稳的Wiener-Hopf积分方程。

这些结论都在目前的材料中。

在近期,Darlington依照这些主线给出了稍有不同的解决方法。

例如,Franklin,Lees将其拓展应用于采样信号的处理上。

另外一种方法基于Wiener-Hopf方程的特征函数(应用于非平稳问题而通常的处理方法不能用)率先被Davis提出,而且被Shinbrot,Blum,Pugachev,Solodovnikov等人所应用。

在这些研究的目标只要是想获取线性动态系统(维纳滤波器)的指标,来完成预测,分离或检测随机信号。

目前的解决维纳问题的方法受到很多限制,严重地削弱了它们的实用性:(1)最优化滤波器特性由冲激响应所决定。

从这些数据中合成出一个滤波器并不是一个简单的工作;(2)最优化冲激响应响应的数值测定通常十分复杂,而且不适合进行机器计算。

随着问题的复杂程度增加,这种情况将迅速恶化。

(3)重要的结论需要新的推导,这个对非专业人员是十分困难的。

(4)推导的数学方法不是很明晰。

基础性假设和它们的结论也是很不明确的。

这篇论文介绍了一种新观点在于问题的整体,回避了上述所提到的困难。

以下都是这篇论文的重点。

(5)最优化估计与正交投影维纳问题是从条件分布与期望的角度出发而提出的。

用这种方法,维纳理论很快可以获得基本结果;结果的范围与基本假设十分接近。

可以看出所有的统计计算与结果都是基于一阶和二级平均。

不需要其他的统计数据。

因此,可以排除这些困难。

这种方法在概率论中是众所周知的,线性滤波与预测问题的新方法(卡尔曼滤波原理)但是未在工程中广泛应用。

(6)随机过程模型接下来,尤其是波特香农[3]文献,任意随机信号可以用激励为独立和非相关随机信号(白噪声)线性动态系统的响应来表示(取决于二阶平均统计特性)。

这是维纳理论在工程应用中的一个基础的技巧。

这里采用方法不同与传统上仅对线性动态系统描述的方法。

我们应该强调状态与状态转换的概念。

换句话,线性系统特性可以用一阶差分(微分)方程系统来描述。

这种观点是自然的也是必然的,这是为了利用第(5)点中所提的简化方法。

(7)维纳问题的解决方法采用状态转换方法,一种简单推导涵盖各种问题:增长和无限记忆滤波器、平稳与非平稳统计等。

第(3)点中的困难可以被排除了。

已经能正确地猜出估计问题的“状态”,由最优化估计误差的协方差矩阵来到处理一个非线性差分(微分)方程。

采用首次观测时刻为t o,t o时刻的方程的解就是协方差矩阵,在每个后来的时刻t的方程的解代表了在给定的(t o,t)时间间隔内最优化估计误差的协方差。

从t时刻的获得协方差矩阵,我们无需进一步计算,就可立即获取最优化线性滤波器系数(一般来说是时变)。

(8)对偶问题维纳问题新公式带来了一种与日益发展的基于“状态”观点的控制系统新理论相关的理论。

令人惊奇的是,可以发现维纳问题可以分解为无噪声最优化调节器的两个对偶问题,作者先前已经解决了此问题,用状态转换方法具有很大优势。

两种问题的数学背景是相同的,但是这一直被质疑,只到现在仍然有类似的问题没有得到很好解释。

(9)应用新方法的效能多体现在理论分析与解决复杂的实际问题方面。

在后来情况中,最好的办法是求助于机器计算。

这个情况将在随后进行讨论。

为了更好适应实际应用,文中提出两种来自非平稳预测的标准实例,包括比较接近于第(7)点中所提到形式的非线性差分方程的解的实例。

为了方便参考,主要结论都以定理的形式呈现。

仅仅只有定理3和4是原创的。

下面章节与附录主要目的是一种合适形式,为当前的问题而回顾一些著名的材料。

2符号规定2符号规定贯穿全文,我们将主要处理的是离散(抽样)动态系统;换句话说,信号将在等间隔的时间点(采样时刻)上被观测,并选择统一的连续采样时刻(采样周期)固定间隔。

因此,这里的时间变量,例如t ,t o ,τ,T ,都是整数。

对离散动态系统的限制并不是那么严格的(至少从工程观点看是这样的)。

采用离散方法,我们可以使数学方法不但严密,而且很简单。

向量将用小粗体字母表示:a ,b ,...,u ,x ,y ,A 向量或者更加精确的n 维向量是一系列n 个数字x 1,...,x n 所组成。

x i 是向量X 的坐标或者元素。

矩阵可以用大写粗体字A ,B,Q,Φ,Ψ,…来表示。

它是m×n 个元素a ij ,b ij ,q ij ,.的排列。

矩阵转置阵(行列交换)由“′”(英文称这个符号为prime )来表示。

在进行公式运算时,把向量看做成一个单列的矩阵将是十分方便的。

采用传统的矩阵乘法定义。

我们写出了两个n 维向量X,Y 的标量积表达为xxy y x '=='∑=ni i i y x 1标量的积显然是个标量,没有方向,只有数量。

类似,n×n 矩阵Q 的二次型的形式是∑=='n j i jij i x q x 1,Qx x 我们定义XY’的表达形式,这里的X’是一个m 维向量和一个n 维向量是元素为x i y j 的m×n 矩阵。

我们写出E(x)=Ex 是随机向量X 的期望值。

省略E 后的括号通常是十分方便的。

在一些简单的实例中常数和运算符E 交换并不会产生混淆的结果。

因此,Exy'是元素E(x i y j )的矩阵,ExEy'是元素为E(x i )E(y j ).的元素。

为了方便参考,一些用到的符号在以下列出:最优化估计t通常是当前时间;t o开始观测时间;x 1(t),x 2(t)基本随机变量;线性滤波与预测问题的新方法(卡尔曼滤波原理)y(t)被观测随机变量x 1*(t 1|t)y(t 0),…,y(t)条件下的x 1(t 1)的最优化估计L损失函数(参数的非随机函数)ε估计误差(随机变量)正交投影y (t )是随机变量所产生线性流形)|(1t t x x(t 1)在y(t)上的正交投影。

)|(~1t t x x(t 1)的元素与y(t)正交随机过程的模型Φ(t +1;t )转换矩阵Q (t )随机激励协方差矩阵维纳问题的解x (t )基本随机变量y (t )观测的随机变量Y (t )由y (t 0),…,y (t )产生的线性流形Z (t )由y ~(t |t –1)产生的线性流形)|(1*t t x 假设Y(t )条件下的,x (t 1)优化估计)|(~1t t x 假设Y(t )条件下,x (t 1)最优化估计误差3最优化估计3最优化估计考虑以下情况,研究怎么具体的来描述或研究什么样的问题类型。

我们给出了信号x1(t)和噪声x2(t)。

仅可以观测到其和输出为y(t)=x1(t)+x2(t)。

假设我们已经观测到而且精确知道y(t0),...,y(t)的值。

当信号t=t1,或者t1小于、等于或者大于t时,我们能从此时信号值(非观测)从获取到什么?如果t1<t,这是数据平滑处理(差值)问题。

如果t1=t,这是滤波。

如果t1>t,我们有个一个预测问题。

由于我们处理内容足够广泛,包括了这些问题及其类似问题,我们今后将统一使用一个专业术语--估计。

正如维纳所指出的,估计问题的本质属性应当归类于概率论与统计学范畴。

因此,信号、噪声及其它们的和都是随机变量,因此也认为它们是随机过程。

从随机过程的统计特性描述来看,我们可以判断一个特定信号与噪声的采样值出现的概率。

原理上,假设任何一个随机变量y(t)的测量值为η(t0),...,η(t),我们是可以判定随机变量x1(t1)的每个值ξ1(t)瞬时出现的概率。

这是一个条件概率分布函数Pr[x1(t1)≤ξ1|y(t0)=η(t0),…,y(t)=η(t)]=F(ξ1)(1)显然,随机变量y(t0),...,y(t)的测量值通过随机变量x1(t1)表示,F(ξ1)则代表了全部这些信息。

任何一个随机变量x1(t1)的统计估计将是某些分布函数和随机变量y(t0),...,y(t)的非随机函数。

X1(t1|t)可以用来表示统计估计值,当观测随机变量或者这个指定的估计量时间在文中是明确的,也可以用X1(t1)或X1。

现在假设X1是随机变量y(t0),...,y(t)的一个固定函数。

X1自己本身就是个随机变量,而且无论什么时刻y(t0),...,y(t)实际值是已知的话,X1的实际值也是确定的。

总体上讲,X1(t1)的实际值将随着x1(t1)(未知)的实际值变化而变化。

为了获得一种正确判定X1方法,判定或减少不正确的估计的影响是很自然的。

很清楚,损失应该是(i)正的,(ii)估计误差ε=x1(t1)–X1(t1)是一个非减函数。

因此,我们定义一个损失函数:L(0)=0当ε2≥ε1≥0,L(ε2)≥L(ε1)≥0(2)L(ε)=L(–ε)线性滤波与预测问题的新方法(卡尔曼滤波原理)一些常见的损失函数的:L (ε)=a ε2、a ε4、a |ε|、a [1–exp(–ε2)]等,在这里a 是一个正的常量。

选择随机变量X 1的一种自然的方法(绝不是仅此一种)就是因为,这必须满足减小平均损失或风险。

E {L [x 1(t 1)–X 1(t 1)]}=E [E {L [x (t 1)–X 1(t 1)]|y (t 0),…,y (t )}](3)从(3)左边的期望值不是由X 1而是仅仅由y (t 0),…,y (t )来决定。