综述补充版
- 格式:doc
- 大小:1.10 MB
- 文档页数:14
稀疏编码综述 一、图像特征提取综述 1 引言
在数字图像处理中,图像最原始的表示是基于像素的矩阵形式。以灰度图像为例,它是对连续图像信号进行采样、量化得到的2维灰度矩阵。每个采样点对应一个像素,像素灰度值表示这一点的明暗程度,对于量化等级为0~255的8位灰度图像而言,0~255是一个由黑(0)到白(255)的灰度渐变过程(也可反过来)。如下图,显示了1幅灰度图像中的1个子区域的像素灰度矩阵。
至于彩色图像,可认为其每个像素处不是只有一个灰度值,而是颜色空间多个颜色通道灰度值的组合。如,RGB空间图像的每个像素包含红、绿、蓝(R、G、B)三种颜色分量,针对各颜色分量的多少,可划分为0~255共256个等级,0表示不含某种颜色分量,255表示含有100%的该颜色分量。这样,红、绿、蓝分量就能组合出256×256×256种颜色,例如某像素红、绿、蓝分量分别为255、0、255时显示为紫色。 特征提取可以是全局性的,即针对整幅图像进行处理和统计分析,最终用一个向量来描述图像,形成图像的全局表示(Holistic Representation),常用的颜色、形状、纹理特征就属于此类,如颜色直方图、轮廓矩、纹理能量等,这类特征常常被称为 全局特征(global feature);特征提取也可以是局部的,即针对图像中的特定子区域,这些子区域通常通过精心设计的检测算法获取[67],也可以简单地进行密集采样(Dense Sampling)或随机采样(Random Sampling)而得到[68],每个子区域均用一个相同维度的向量来描述,即局部特征(local features)。 2、图像局部特征及性质 图像局部特征是指图像中某个微小区域所表现出的区别于其邻域的信号模式。图像局部特征提取包含特征检测(Feature Detection)和特征描述(Feature Description)两个步骤。相应的算法习惯上称为检测算子(Detector,简称检测子)和描述算子(Descriptor,简称描述子)。 二、基于稀疏编码模型的图像稀疏表示方法 1、引言 从“信号重构”的角度对图像局部特征的编码,并在此基础上采用新的局部特征编码集成(融合)方法,形成图像的最终全局表示。这种“重构”是有条件的,即重构系数要满足“稀疏性”约束条件,即:用较少的系数捕获感兴趣目标的重要信息,最终用一个高维稀疏向量来表示图像。稀疏编码(SC)技术可以实现这一思想。 稀疏编码模型中的特征编码则是利用视觉词典中较少数量的视觉单词来重构局部特征向量,其数学意义是用稀疏线性组合的基向量(这里是视觉单词)来恢复原始信号(这里是局部特征向量),换句话说,原始信号可分解为少数基向量的线性组合。 2、稀疏编码的基本概念和关键技术 稀疏编码的概念最初来源于科学家们对视觉神经网络的研究。该研究表明,视觉皮层处理外界刺激的过程采用了 神经稀疏表示 的原则,即:视觉皮层在处理外界刺激时,只有相当少的一部分视觉神经元处于被激活的状态,而与此同时大量的视觉神经元处于未被激活的状态。 稀疏编码使得一个目标向量可以由少量的基向量来线性逼近,要实现信号(或图像)的稀疏表示,就要求基向量之间不仅具有完备性,而且还应具备一定程度的冗余性,形成所谓的“超完备基”,这可以通过使基向量个数远大于基向量维数(即在构造B时使K>>d )来达到。 2.1 基本概念 Bsx B中的列向量ib成为原子,B称为字典(或词典),由于B的行数小于列数,B是超完备字典(词典),或称之为冗余字典(或词典)。 该方程组是欠定的,即方程个数少于未知数个数,通常解向量s 有无穷多个,构成了一个解空间。而稀疏编码的目标是要在该解空间汇总寻找一个最稀疏解,即:要使得系数向量s中的非零元素个数最少。 如果用 表示向量 中所含非零元素的个数(这里, 就是所谓的 L0-范数 ),上述稀疏表示问题的数学描述为如下优化问题: ,minarg0*sss Bsxts.. (1)
实际中,通常更多的是进行稀疏逼近,即允许稀疏表示有一定的重构误差,也就有如下的形势: ,minarg0*sssBsxts.. (2)
稀疏编码一般分为两个过程:(1)词典构造。通过无监督学习方法学习得到一组冗余的基向量,构成超完备词典。该过程为“词典学习”(2)稀疏分解。将目标向量在词典所长成的空间分解,求得分解稀疏,在保证重构精度的前提下,尽量提高系数向量的稀疏性。 2.2 SC模型表示图像的关键技术 基本流程如下:
利用SC模型表示图像,获得图像的全局稀疏向量表示形式,基本步骤包括: (1)图像局部特征提取;利用局部特征提取算法,从图像中提取局部特征。 (2)视觉词典学习。包括稀疏分解和词典更新两个过程。 (3)局部特征稀疏编码。 (4)局部特征编码集成(融合)。 基于稀疏编码模型表示图像的问题可以表示成下面的优化问题:
)(21,mininiiiBssBsx
kkbtsk,,2,1,1..
2
其中,2iiBsx表示重构误差,)(is 是稀疏性的惩罚函数,一般取 L0-范数或 L1-
范数,即)(is =0is(表示非零元素的个数)或)(is=iiss1(表示非零元素的绝对和), 为正则化参数,用于权衡重构误差项和稀疏约束项 2.3 二维Gabor函数 为了更精确分析神经元的功能,需要建立刻画其响应特性的可计算模型即感受野函数。工程上可将感受野函数看作神经元的脉冲响应函数,将二维Gabor函数作为简单细胞的感受野函数,刻画其响应特性。 作为原子的产生函数,二维Gabor具有七个自由参数,其模型如下所示
cos)(sin)(sin)(cos)()2cos()2exp()(00002222yyxxyyyxxxxyxKg
其中,0,0,,,,,yx,)(K为归一化常数,使Gabor原子具有单位范数。参数),(yx表示图像中像素点的位置;)(0,0yx确定原子的中心位置;标准差决定了原子支
撑区域的大小,类似于神经元的感受野。变换参数,可以使原子匹配图像中不同空间尺度的结构。参数确定了高斯因子的离心率,从而决定了原子支撑区域的宽度与长度的比率(纵横比),也称参数为纵横比因子.为了匹配边缘轮廓结构,要求<1使原子各向异性.角度参数(),0)定义为法线与平行条纹之间的夹角。变换参数,可以使原子具有不同的最优响应方向,匹配图像中不同方向的结构.参数,为余弦调和因子
))(2cos(x的偏移相位,确定了原子9的对称性:当与0时,函数关于支撑区
域中心位置对称;当5.0时,函数g是反对称的;其他取值情况函数是非对称的.最后,参数为波形调制因子))(2cos(x的波长,相应地1为余弦因子的空间频率,表征原子的最优相应频率。比率确定了原子的空间频率带宽,因而也确定了原子支撑域平行相间的兴奋与抑制条纹形区域个数。 变换空间频率带宽可以使原子的感受野中呈现不同的条纹个数。含有不同条纹个数的Gabor原子能够最优匹配图像中不同结构成份,隶属于相应的子成份字典。
1)平滑成份子字典smoothD 如果原子波形调制冈子的振荡频率为0,Gabor函数退化为高斯函数,表现出尺度函数特性,能够有效地逼近图像中的平滑成份(见图1(a)),组成平滑成份子字典. 2)边缘成份子字典edgeD 当支撑区域中包含条纹个数较少(本文选取为小于等于3)时,原子能够最优匹配图像中的边缘 轮廓成份,构成边缘成份子字典edgeD。此时,如果与0,则原子是对称的,沿波形调制因子的传播方向具有类似墨西哥帽小波(高斯函数的二阶导数)的特性,能够捕获图像中的屋顶型边缘(见图1(b)).如果5.0时,原子则是反对称的,沿波形调制因子的传播方向具有类似高斯小波(高斯函数的一阶导数)的特性,能够捕获图像中的阶跃型边缘(见图1(c)).同时,在垂直于波形调制因子传播的方向,原子呈现平滑特性.因此Gabor原子过边缘方向是奇异的,沿边缘方向则是光滑的,较好地匹配了图像边缘轮廓的局部儿何正则性,能够有 效地表示幽像中的边缘轮廓结构. 3)纹理成份子字典 当原子支撑区域中包含条纹个数较多(本文选取为大于等于4)时,原子表现为强烈的振荡样式,最优匹配图像中振荡的纹理结构(见图1(d)),对应 纹理成份子字典textureD。
3、稀疏分解算法
稀疏分解是从超完备词典中选择具有最佳线性组合的若干基 信号(原子)来重构原始信号的过程,它实际上是一种逼近过程,其典型的算法有松弛算法和贪婪算法。 松弛算法是用凸函数或更容易处理的稀疏性惩罚函数代替L0-范数,将组合优化问题转化为凸优化问题,代表算法有基追踪(BP)算法。贪婪算法则力求通过迭代选择最优原子以达到对信号稀疏分解的全局优化,代表算法有匹配追踪(MP)算法。 3.1 匹配追踪(MP)算法的具体描述
假定被表示的信号为y,其长度为n。假定H表示Hilbert空间,在这个空间H里,由一组向量nxxx,,,21构成字典矩阵D,其中每个向量可以称为原子(atom),其长度与被表示
信号 y 的长度n相同,而且这些向量已作为归一化处理,即1ix,也就是单位向量长度为
1。 MP算法的基本思想:从字典矩阵D(也称为过完备原子库中),选择一个与信号 y 最匹配的原子(也就是某列),构建一个稀疏逼近,并求出信号残差,然后继续选择与信号残差最匹配的原子,反复迭代,信号y可以由这些原子来线性和,再加上最后的残差值来表示。很显然,如果残差值在可以忽略的范围内,则信号y就是这些原子的线性组合。 4、视觉词典学习方法 超完备词典是实现信号稀疏表示的重要前提,词典的学习过程包括“稀疏分解”和“词典更新”两个过程,是一个闭环过程,具体实现过程为:首先,给定训练样本集和一个初始词典,采用某种稀疏求解方法(如BP、MP、OMP、FSS 等)求出稀疏系数;然后,根据某种确定的标准(学习规则)对已存在的词典进行更新;重复上述过程,直至得到想要的词典。