图像的盲分离
- 格式:doc
- 大小:585.88 KB
- 文档页数:19
目录摘要 (1)一.盲分离原理 (3)1.1 盲信号处理的基本概念 (3)1.2盲信号处理的方法和分类 (3)1.3 盲源分离法 (4)1.3.1 盲源分离技术 (4)1.3.2 盲分离算法实现 (4)二. ICA基本原理 (5)三. FastICA算法原理及实现 (6)3.1 数据的预处理 (6)3.2 FastICA算法原理 (7)3.3 FastICA算法的基本步骤及流程图 (9)四.图像的盲分离仿真与分析 (10)五.总结 (14)六.参考资料 (15)附录1 matlab源程序 (16)摘要简述了独立成分分析的基本原理以及利用FastICA算法进行信号分离的理论依据,并通过Matlab仿真实验实现了混合图像的盲分离,取得了较好的分离效果。
结果表明该算法收敛速度快,有良好的分离效果,是一种行之有效的混合图像盲分离方法。
关键词:独立成分分析 FastICA 盲分离AbstractIndependent Component Analysis is a new signal processing method which Develop rapidly during last few years. This paper introduces the basic model of the algorithm,analyzes the math principle of frequently-used rapid fixed-point algorithm for independent component analysis,and applies the algorithm in blind separation of three images which are mixed randomly.The result shows that the algorithm is effective and reliable.Key words:Independent Component Analysis FastICA Blind Signal Separation一.盲分离原理1.1 盲信号处理的基本概念盲信号处理是现代数学信号处理、算智能学近年来迅速发展的重要方向。
电子信息、通信、生物医学、图像增强、雷达、地球物理信号处理等众多领域有广泛的应用前景。
盲信号处理就是利用系统(如无线信道、通信系统等)的输出观测数据,通过某种信号处理的手段, 获得我们感兴趣的有关信息(如原来独立发射的信号等)。
盲信号的研究是当前学术界的一个研究热点,而盲信号分离则是盲信号研究中的一个重要的课题。
BSS是指从观测到的混合信号中分离出未知的源信号。
盲信号中的“盲”意味着两个方面:第一,对源信号一无所知或只有少许的先验知识。
第二,混合本身是未知的。
这看似是一个不可能的任务,然而理论和实际都证实了只需要相当简单的假设,就可以得到该问题的解。
这一特点使得BSS成为一种功能相当强大的信息处理方法。
图1.1 盲处理原理框图1.2盲信号处理的方法和分类在盲信号处理中,就源信号进过传输通道的混合方式而言,其处理方法可分为线性瞬时混合信号盲处理、线性卷积混合信号盲处理和非线性混合信号盲处理三类。
根据通道传输特性中是否含有噪声、噪声特性(白噪声、有色噪声等)、噪声混合形式,可分为有噪声、无噪声盲处理,含加性噪声和乘性噪声混合信号盲处理等。
按源信号和观测信号数目的不同可以将混合方式分为欠定、适定和超定情况;按源信号特性的不同分为: 平稳、非平稳、超高斯、亚高斯、超高斯和亚高斯混合分离等。
盲处理的目的可分为盲辨识和盲源分离两大类。
盲辨识的目的是求得传输通道混合矩阵(新型混合矩阵、卷积混合矩阵、非线性混合矩阵等)。
盲源分离的目的是求得源信号的最佳估计。
当盲源分离的各分量相互独立时,就称为独立分量分析,即独立分量分析是盲源分离的一种特殊情况。
1.3 盲源分离法1.3.1 盲源分离技术盲源信号分离(Blind Source Separation, BSS) 是20世纪90年代迅速发展起来的一个研究领域。
它具有可靠的理论基础和许多方面的应用潜力。
其在生物医学工程、医学图像、语音增强、遥感、通信系统、地震探测等领域有着广泛而诱人的前景,盲源分离成为信号处理和神经网络领域的研究热点。
盲源分离是针对从检测的混合信号中估计或恢复源信号的问题提出的,是指源信号、传输通道特性未知的情况下,仅由观测信号和源信号的一些先验知识(如概率密度)估计出源信号各个分量的过程。
例如最著名的鸡尾酒会问题,仅根据多个麦克风检测信号分离或恢复出某种语音源信号。
1.3.2 盲分离算法实现在实际的ICA盲分离算法应用中,一般有时是必需的对观测数据做一些预处理技术,如用主成分分析( PCA )降维和白化,用滤波器进行滤波降噪处理等。
另外,由于恢复准则的局限以及先验知识的缺乏,盲信号分离方法只能得到源信号的波形,而无法确定信号的幅值以及信号之间的顺序。
这两点都需要人为的制定规则(如规定信号的方差为1来确定幅值)来确定。
二.ICA 基本原理独立分量分析旨在对独立信源产生且经过未知混合的观测信号进行盲分离,从而重现原独立信源,其应用主要集中在盲源分离和特征提取两方面。
ICA 问题可简单描述为:设有N 个未知的源信号N i t S i ,,1),(⋯=构成一个列向量T N S t S t S ](t),),([)(1⋯=,其中,t 是离散时刻,取值为0,1,2,……设A 是一个NM ⨯维矩阵,一般称为混合矩阵(mixsing matrix )。
设T M t X t X t X )](,),([)(1⋯=是由M 个可观察信号M i t X i ,,1),(⋯=构成的列向量,且满足下列公式1:N M t AS t X ≥=),()( 公式1BSS 的问题是,对任意t ,根据已知的)(t X 在A 未知的条件下求未知的)(t S 。
这构成一个无噪声的盲分离问题。
设T M t N t N t N )](,),([)(1⋯=是由M 个白色、高斯、统计独立噪声信号)(t N i 构成的列向量,且)(t X 满足下列公式2:N M t N t AS t X ≥+=),()()( 公式2则由已知的)(t X 在A 未知是求)(t S 的问题是一个有噪声盲分离问题。
ICA 的目的是对任何t ,根据已知的)(t X 在A 未知的情况下求未知的)(t S ,ICA 的思路是设置一个N N ⨯维反混合阵)(ij w W =,)(t X 经过W 变换后得到N 维输出列向量T N t Y t Y t Y )](,),([)(1⋯=,即有公式3:)()()(t WAS t WX t Y == 公式3整个过程可以表示成如图2.1所示:图2.1 ICA 的线性模型如果通过学习得以实现)(维单位阵是N N I I WA ⨯=,则)()(t S t Y =,从而达到了源信号分离目标。
三.FastICA 算法原理及实现ICA 算法的研究可分为基于信息论准则的迭代估计方法和基于统计学的代数方法两大类,从原理上来说,它们都是利用了源信号的独立性和非高斯性。
基于信息论的方法研究中,各国学者从最大熵、最小互信息、最大似然和负熵最大化等角度提出了一系列估计算法。
如FastICA 算法, Infomax 算法,最大似然估计算法等。
基于统计学的方法主要有二阶累积量、四阶累积量等高阶累积量方法。
本课程设计主要讨论FastICA 算法。
3.1 数据的预处理一般情况下,所获得的数据都具有相关性,所以通常都要求对数据进行初步的白化或球化处理,因为白化处理可去除各观测信号之间的相关性,从而简化了后续独立分量的提取过程,而且,通常情况下,数据进行白化处理与不对数据进行白化处理相比,算法的收敛性较好。
若一零均值的随机向量()TM Z Z Z ,,1 =满足{}I ZZ E T =,其中:I 为单位矩阵,我们称这个向量为白化向量。
白化的本质在于去相关,这同主分量分析的目标是一样的。
在ICA 中,对于为零均值的独立源信号()()()[]T N t S t S t S ,...,1=,有:{}{}{}j i S E S E S S E j i j i ≠==当,0,且协方差矩阵是单位阵()I S =cov ,因此,源信号()t S 是白色的。
对观测信号()t X ,我们应该寻找一个线性变换,使()t X 投影到新的子空间后变成白化向量,即:()()t X W t Z 0= 公式4 其中,0W 为白化矩阵,Z 为白化向量。
利用主分量分析,我们通过计算样本向量得到一个变换T U W 2/10-Λ= 公式5 其中U 和Λ分别代表协方差矩阵X C 的特征向量矩阵和特征值矩阵。
可以证明,线性变换0W 满足白化变换的要求。
通过正交变换,可以保证I UU U U T T ==。
因此,协方差矩阵:{}{}{}I U XX E U U XX U E ZZ E T T T T T =ΛΛΛ=ΛΛ=ΛΛ=------2/12/12/12/12/12/1 公式6再将()()t AS t X =式代入()()t X W t Z 0=,且令A A W ~0=,有()()()t S A t AS W t Z ~0== 公式7由于线性变换A ~连接的是两个白色随机矢量()t Z 和()t S ,可以得出A ~一定是一个正交变换。
如果把上式中的()t Z 看作新的观测信号,那么可以说,白化使原来的混合矩阵A 简化成一个新的正交矩阵A ~。
证明也是简单的:{}{}{}I A A A SS E A A SS A E ZZ E T T T T T T ====~~~~~~ 公式8 其实正交变换相当于对多维矢量所在的坐标系进行一个旋转。
在多维情况下,混合矩阵A 是N N ⨯的,白化后新的混合矩阵A ~由于是正交矩阵,其自由度降为()2/1-⨯N N ,所以说白化使得ICA 问题的工作量几乎减少了一半。
白化这种常规的方法作为ICA 的预处理可以有效地降低问题的复杂度,而且算法简单,用传统的PCA 就可完成。
用PCA 对观测信号进行白化的预处理使得原来所求的解混合矩阵退化成一个正交阵,减少了ICA 的工作量。
此外,PCA 本身具有降维功能,当观测信号的个数大于源信号个数时,经过白化可以自动将观测信号数目降到与源信号维数相同。
3.2 FastICA 算法原理FastICA 算法,又称固定点(Fixed-Point)算法,是由芬兰赫尔辛基大学Hyvärinen 等人提出来的。
是一种快速寻优迭代算法,与普通的神经网络算法不同的是这种算法采用了批处理的方式,即在每一步迭代中有大量的样本数据参与运算。