压缩感知和稀疏优化简介_文再文
- 格式:pdf
- 大小:1.11 MB
- 文档页数:16
原文地址:[转载]【转】压缩感知和稀疏表示的经典文献作者:阿拉蕾压缩传感不是万能的,虽然它是信号和图像处理领域最热门的研究对象但是它不可能解决所有问题就像中科院李老师的话:“压缩感知根植于数学理论,它给目前国内浮躁的学术环境提了一个警钟!因为只有很好地钻研它的基本理论和方法,才能将其有效地应用在所关心的问题中;否则它只能是一剂春药,一种无法名状的春药!”------------------------------------------------------------------------------------------人们习惯于用正交基来表示信号,直到最近几十年,人们才发现用冗余的基元素集合来表示信号能够取得更好的结果,当然我们追求的肯定是用最小数量的基元素来最优的表示信号,这就出现了信号的稀疏表示。
L1范数最小化最早并不是Donoho提出的,早在80年代,Fadil Santosa 和William Symes 就曾提出了L1范数的最小化,而Donoho提出Compressed sensing 并不是换汤不换药,CS 并不是解决信号在一个完备集里面的最优表示问题的,而是提出了一种新的信号采集或者测量方式,这种新的测量方式打破了Shannon-Nyquist定理在信号处理领域一手遮天的局面,已经提出,就引起了相关领域大批学者的关注。
Shannon-Nyquist采样定理要求在信号的采集阶段以高于信号带宽的两倍采样率来获取信号,信号才能得到完美的重构,而CS则对信号的带宽不再作要求,取而代之的是稀疏性,满足条件的信号则可在远少于SN采样率的情况下精确的重构信号。
从数学上来说,CS是在一定的条件下求解欠定(不适定)方程,条件包括x要是稀疏的,测量矩阵要满足RIP条件,那么欠定(不适定)方程就会以很大的概率有唯一解。
-------------------------------------------------------------------------------------------《Robust uncertainty principles: Exact signal reconstruction from highly incomplete frequency information》1.文章告诉我们压缩传感在图像领域的发展源于作者在医学图像领域--MR图像重构得到的惊人结果,接着提出了压缩传感的数学模型,即当一信号在时域具有稀疏性的前提下,对频域进行少量样本的随机抽样,就可以对信号进行重构,作者事实上是从一个特例开始讨论的,即B1是简单的抽样基,B2是傅里叶基,到了文章的结尾,才对这一事实进行扩展,而且上来就是全变分模型,而不是抽象的L1范数最小化。
基于数据稀疏性的压缩感知图像重构近年来,压缩感知(Compressed Sensing)成为了计算机图像处理领域的一大热门话题。
这种技术的诞生彻底颠覆了以往的图像处理流程,根据信号处理的原理和表达方式,将完整的采样信号通过一种特殊的处理方式进行压缩,从而达到降低数据传输存储的目的。
这种方式被广泛应用于手机相册、网络图库等图片处理应用中。
基于数据稀疏性的压缩感知图像重构技术则是一种常见的图像处理方式。
其核心思想是,通过观察图像中信号的“稀疏性”,简化信号的采样与处理,从而实现稀疏信号的重构。
这种处理方式可以用极少的采样方式,达到了传统图像处理所不可能达到的重构效果。
稀疏表示理论是基于一种假设,即大多数实际应用的信号,都可以使用一组基底函数来进行稀疏线性表示。
这意味着,稀疏表示可以对信号进行高效的压缩和信息的重构。
基于此原理,压缩感知技术利用“压缩感知矩阵”和“稀疏表示矩阵”来压缩信号,解决了大量传统算法无法解决的计算难题,同时也大大提高了图像处理的效率与精度。
实际应用中,基于数据稀疏性的压缩感知图像重构技术最常用的算法是“基于正交矩阵”的算法。
这种算法的核心思想是,通过对图像进行采样,获得图像中的少量采样数据,然后将这些采样数据通过一个已知的正交矩阵进行压缩,最后利用计算方法进行矩阵重构,从而实现图像的压缩感知与重构。
具体来说,压缩感知图像处理的主要流程如下:首先,将图像转化为向量形式,然后使用正交矩阵对图像进行采样等处理,接着对采样数据进行稀疏表示,最终根据稀疏向量中的数据块还原出原始图像。
这个过程中,数据的压缩和解密过程都是在缺失的采样空间中完成的。
基于数据稀疏性的压缩感知图像重构技术不仅可以在计算机图像处理领域中广泛应用,同时在医学影像处理、图像识别、生物学等领域中也有着广泛的应用前景。
相信在未来,有更多的相关技术和算法,将进一步引领压缩感知技术的发展和应用,为人类带来更多的创新与福祉。
总之,基于数据稀疏性的压缩感知图像重构技术是一种目前非常热门的图像处理方式,利用其高效稀疏求解算法,可以在迅速压缩大规模数据和高效还原出重构数据的同时,实现传统算法所无法达到的精度和效率要求。
电力系统中的数据压缩与稀疏优化研究随着电力系统的发展,越来越多的数据被采集和存储,因此对于电力系统数据的压缩和稀疏优化的研究变得日益重要。
本文将深入探讨电力系统中数据压缩和稀疏优化的方法和技术,并分析它们的优点和应用。
一、电力系统数据压缩的需求电力系统中的数据包括发电厂的数据、负荷数据、线路参数数据等。
这些数据通常是多维、高维的,占用大量存储空间。
同时,电力系统数据的采集频率很高,导致数据量巨大。
为了减少数据传输的成本和存储的空间,电力系统数据压缩成为一种必要的需求。
二、电力系统数据压缩的方法1. 无损压缩方法无损压缩方法可以保留原始数据的全部信息,不会引入数据损失。
其中最常用的方法是哈夫曼编码和Lempel-Ziv编码。
哈夫曼编码通过构建霍夫曼树,将出现频率较高的数据用较短的编码表示,从而减少数据的存储空间。
Lempel-Ziv编码则是一种基于字典的压缩方法,根据数据的重复出现模式,通过引入索引值来代替重复的数据。
2. 有损压缩方法有损压缩方法通过舍弃部分不重要或冗余的数据,达到减少数据量的目的。
在电力系统中,由于数据量庞大,可以对一些重要性较低的数据进行有损压缩。
常见的有损压缩方法包括小波变换、离散余弦变换等。
这些方法能够将数据转换到频域,通过对高频分量进行截断或量化来减少数据量。
三、电力系统数据稀疏优化的需求除了数据压缩,电力系统中的数据稀疏优化也是一个关键问题。
稀疏优化是指在保证系统性能的同时,尽量减少数据量的问题。
对于电力系统而言,数据采集频率高、数据量大,导致数据传输和存储成本增加。
因此,有必要对电力系统中的数据进行稀疏优化,以减少系统负荷。
四、电力系统数据稀疏优化的方法1. 基于压缩感知的稀疏优化方法压缩感知是一种低复杂度的数据稀疏优化方法。
它通过在数据采集端进行稀疏重构,减少了对于数据传输带宽的需求。
在电力系统中,可以通过利用压缩感知算法对数据进行重构和恢复,从而减少无效数据的传输和存储。
压缩感知稀疏分解1、 压缩感知压缩感知是一种新的信息获取理论,是建立在信号稀疏表示、测量矩阵的非相关性以及逼近理论上的一种信号采集和重建的方法。
该理论2004年由Donoho 等人提出,2006年发表正式论文。
与基于奈奎斯特定理的传统采样方式不同,该理论指出,只要信号是稀疏的或者在某个基下是可压缩的,就可以通过远低于奈奎斯特采样定理要求的采样率获取信号的结构信息,再通过重构算法完成信号的精确重构。
压缩感知理论主要包括两个部分:将信号在测量矩阵上投影得到观测值以及利用重构算法由观测值重构信号。
设x 是一个长度为N 的信号,x 在变换域Ψ内K 稀疏,即:x ψθ=(1)式中Ψ为稀疏变换基。
通过与稀疏变换基Ψ不相关的测量矩阵Φ将高维信号x 投影到低维空间y 上,即:y x A ΦΦψθθ=== (2)式中y 为观测向量,Φ为测量矩阵,A=ΦΨ为传感矩阵。
重构的关键是找出信号x 在Ψ域中的稀疏表示,可以通过l 0范数优化问题找到具有稀疏结构的解:min ..T xs t y x ψΦ= (3)由于式(3)的优化问题是一个难求解的NP-hard 问题,所以可以用l 1约束取代l 0约束:1min ..T xs t y x ψΦ= (4)2、 稀疏的概念对于长度为N 的向量(实际上是指一个N 维离散离值信号)来说,它的N 个元素值只有K 个是非零的,其中K <<N ,这时我们称这个向量是K 稀疏的或者说是严格K 稀疏的;实际中要做到严格K 稀疏不容易,一般来说,只要除了这K 个值其它的值很小,我们就认为向量是稀疏的。
3、稀疏分解用不同的稀疏基对测试信号进行稀疏分解,设定阈值,小于阈值的系数视为0,比较信号在各稀疏基下的稀疏度。
常见稀疏基有离散傅里叶基(FFT)、离散余弦变换基(DCT)、离散正弦变换基(DST)、离散哈特莱变换(DHT)、离散W变换。
(1)仿真1测试信号(信号长度N=1841):表1 不同稀疏基下测试信号稀疏度FFT DCT DST DHT Wc=0.01 1313 1468 1657 1473 1477c=0.05 311 490 1107 494 487c=0.1 183 220 945 218 221 (2)仿真2测试信号(信号长度N=300):表2不同稀疏基下测试信号稀疏度FFT DCT DST DHT W c=0.01 230 247 275 250 249 c=0.05 51 77 200 103 98 c=0.1 33 38 170 46 45 (3)仿真3测试信号(信号长度N=300):表3不同稀疏基下测试信号稀疏度FFT DCT DST DHT W c=0.01 298 223 289 279 296 c=0.05 188 31 247 197 241 c=0.1 1112207120114(4) 仿真4测试信号(信号长度N =300):表3不同稀疏基下测试信号稀疏度FFT DCT DST DHT W c=0.01 189 221 263 230 227 c=0.05 15 31 184 70 73 c=0.13616019184、 离散余弦变换迭代次数与重构成功概率关系(1) 仿真1信号长度400,迭代次数20至100,间隔为5。
浅谈压缩感知(⼆⼗七):压缩感知重构算法之稀疏度⾃适应匹
配追踪(SAMP)
主要内容:
1. SAMP的算法流程
2. SAMP的MATLAB实现
3. ⼀维信号的实验与结果
4. 稀疏度K与重构成功概率关系的实验与结果
⼀、SAMP的算法流程
前⾯所述⼤部分OMP及其前改算法都需要已知信号的稀疏度K,⽽在实际中这个⼀般是不知道的,基于此背景,稀疏度⾃适应匹配追踪(Sparsity Adaptive MP)被提出。
SAMP不需要知道稀疏度K,在迭代循环中,根据新残差与旧残差的⽐较来确定选择原⼦的个数。
SAMP的算法流程:
三、⼀维信号的实验与结果
四、稀疏数K与重构成功概率关系的实验与结果
六、参考⽂章。
面向压缩感知的稀疏信号重构算法研究一、内容概括本文旨在深入研究面向压缩感知的稀疏信号重构算法。
压缩感知作为一种新兴的信号处理技术,其核心思想在于通过引入信号的稀疏性先验信息,实现在远低于传统Nyquist采样定理所要求的采样率下对原始信号的准确重构。
这一技术的出现,极大地拓宽了信号采样与处理的研究与应用领域,为众多实际问题提供了全新的解决思路。
我们重点关注稀疏信号重构算法的研究,这不仅是压缩感知理论的重要组成部分,也是实现压缩感知技术实际应用的关键环节。
我们介绍了压缩感知的基本理论框架,包括信号的稀疏表示、压缩采样以及重构算法等核心概念。
我们详细探讨了现有的稀疏信号重构算法,包括基于贪婪策略的重构算法、基于凸优化的重构算法以及混合重构算法等,并对这些算法的性能特点进行了对比分析。
为了克服现有算法的不足,我们提出了一种新型的基于最优化导向的稀疏信号重构算法。
该算法充分利用了信号的稀疏性先验信息,通过优化目标函数来寻找最优的信号重构解。
我们设计了一种高效的支撑集估计策略,能够准确地识别出信号的非零元素位置,并在此基础上实现信号的高效重构。
我们还针对多信源联合稀疏信号重构问题进行了深入研究,提出了一种基于混合支撑集模型的联合重构算法,能够有效地处理多个相关信源之间的信息交互与融合。
为了验证所提出算法的有效性,我们进行了大量的仿真实验。
实验结果表明,本文提出的稀疏信号重构算法在重构精度、计算复杂度以及鲁棒性等方面均表现出优越的性能。
我们还讨论了算法在实际应用中的潜在价值与挑战,为未来的研究提供了有益的参考与启示。
本文面向压缩感知的稀疏信号重构算法进行了深入研究,提出了一系列创新的算法与策略,为压缩感知技术的发展与应用奠定了坚实的基础。
1. 压缩感知理论概述压缩感知(Compressed Sensing,CS)理论,作为信号处理领域的一种革命性技术,其核心思想在于突破了传统信号采样与重构的范式,实现了采样与压缩过程的融合。
压缩感知技术综述摘要:信号采样是模拟的物理世界通向数字的信息世界之必备手段。
多年来,指导信号采样的理论基础一直是著名的Nyquist采样定理,但其产生的大量数据造成了存储空间的浪费。
压缩感知(Compressed Sensing)提出一种新的采样理论,它能够以远低于Nyquist采样速率采样信号。
本文详述了压缩感知的基本理论,着重介绍了信号稀疏变换、观测矩阵设计和重构算法三个方面的最新进展,并介绍了压缩感知的应用及基于压缩感知SAR成像的仿真。
关键词:压缩感知;稀疏表示;观测矩阵;SAR成像;Abstract: Signal sampling is a necessary means of information world physical world to the digital simulation. Over the years, the base theory of signal sampling is the famous Nyquist sampling theorem, but a large amount of data generated by the waste of storage space. Compressed sensing and put forward a new kind of sampling theory, it can be much less than the Nyquist sampling signal sampling rate. This paper introduces the basic theory of compressed sensing, emphatically introduces the new progress in three aspects of signal sparse representation, design of measurement matrix and reconstruction algorithm, and introduces the application of compressed sensing and Simulation of SAR imaging based on Compressive Sensing Keywords: Compressed sensing; Sparse representation; The observation matrix; SAR imaging;0 引言Nyquist采样定理指出,采样速率达到信号带宽的两倍以上时,才能由采样信号精确重建原始信号。
压缩感知中稀疏分解和重构精度改进的一种方法赵玉娟;郑宝玉【期刊名称】《信号处理》【年(卷),期】2012(28)5【摘要】稀疏分解、非相关观测和重构算法是压缩感知的三大要素,任何一个环节的设计优劣都对压缩感知的性能产生重大影响,稀疏分解是实现压缩感知的前提,现今使用的稀疏分解对大多数自然信号都不能做到理想的绝对稀疏,而是近似稀疏,这大大影响了压缩感知的重构性能.本文设计了一种可逆的阈值,并用其构造门限矩阵,从而门限矩阵可逆,将门限矩阵作用于信号经正交变换后的近似稀疏系数,可使系数更接近理想的绝对稀疏,而且门限矩阵对系数的处理过程是可逆的,即可由处理后的系数无损恢复原来的近似稀疏系数.重构算法采用贪婪算法中的OMP和CoSaMP,从理论上分析了在保证与CoSaMP同样的前提条件下,门限矩阵改进后的CoSaMP重构误差明显减小,仿真实验用门限矩阵对OMP和CoSaMP的改进前后进行对比,验证了门限矩阵对重构精度有进一步的提高.%Sparse decomposition, incorrelate projection and reconstruction algorithm are the three elements of compressed sensing. Any aspect of the merits will significantly impact the performance of compressed sensing. Sparse decomposition is the precondition to achieve compressed sensing, now the sparse decomposition for most natural signals are not absolutely sparse, but approximately sparse, which will greatly influence the reconstruction property of compressed sensing. In this paper, we design an invertible thresholding function, and then a thresholding matrix is devised using thisthresholding function, thus the thresholding matrix is invertible. Under this thresholding matrix, the approximately sparse coefficients through orthogonal transformation can be more close to absolutely sparse. Since the process of using thresholding matrix to deal with approximately sparse coefficients is inversible, we can recover exactly original approximately sparse coefficients. Reconstructions algorithm use orthogonal matching pursuit( OMP) and compressive sampling matching pursuit( CoSaMP) in greedy algorithms, the theoretical analysis showed that under the same precondition with compressive sampling matching pursuit, thresholding matrix can improve notablely reconstruction error of compressive sampling matching pursuit. The simulations are about improved performance comparison of compressive sampling matching pursuit and orthogonal matching pursuit using thresholding matrix, we find that the thresholding matrix can make accuracy of reconstruction better.【总页数】6页(P631-636)【作者】赵玉娟;郑宝玉【作者单位】南京邮电大学信号处理与传输研究院,江苏南京 210003;江苏教育学院数信院,江苏南京 210013;南京邮电大学信号处理与传输研究院,江苏南京210003【正文语种】中文【中图分类】TN912.3【相关文献】1.脉冲噪声环境下一种改进的压缩感知洛伦兹迭代硬阈值重构算法 [J], 季云云;杨震2.一种改进的稀疏自适应压缩感知重构算法 [J], 吴跃;陈兵;钱红燕3.一种视频压缩感知中两级多假设重构及实现方法 [J], 欧伟枫;杨春玲;戴超4.一种改进的压缩感知重构算法 [J], 梁丹亚;李宏伟;李琦;李凌5.一种改进的压缩感知重构算法 [J], 丁倩;胡茂海因版权原因,仅展示原文概要,查看原文内容请购买。
论文题目: 压缩感知和重构算法学院:计算机与信息学院专业年级:电子信息工程2010级学号:姓名:指导教师、职称:2012年 11 月15日压缩感知和重建算法摘要:压缩感知(Compressive Sensing, or Compressed Sampling,简称CS),又称压缩采样,压缩传感。
由Candes、Terres Tao等人提出,它是一个新的采样理论,通过开发信号的稀疏特性,在远小于Nyquist 采样率的条件下,用随机采样获取信号的离散样本,然后通过非线性重建算法完美的重建信号[1]。
压缩感知理论一经提出,就引起学术界和工业界的广泛关注。
他在信息论、图像处理、地球科学、光学/微波成像、模式识别、无线通信、大气、地质等领域受到高度关注,[2]并被美国科技评论评为2007年度十大科技进展。
压缩感知理论有三个核心方面:(1)稀疏变换,即对一个非稀疏的信号,找到一个合适的正交基使该信号在它上可以稀疏表示;(2)测量矩阵,与变换基不相干且平稳的矩阵;(3)重构算法,利用数学算法完成对信号的精确重构,该过程可看为求解一个优化问题。
本文研究的主要内容是重构算法,它是压缩感知理论核心中的关键部分,直接决定着重构信号的质量及重构速度、应用效果。
重构算法的关键在于如何从压缩感知得到的低维数据中准确地恢复出原始的高维数据。
关键词:压缩感知;稀疏变换;匹配追踪;重建算法一:压缩感知原理压缩感知是一种利用信号的稀疏性或者可压缩性对其进行重构的技术。
压缩感知的突出优点是对于可稀疏表示的信号能将数据的获取和压缩合二为一,大大减少了数据的获取时间及存储空间。
图2-1 压缩感知过程Figure 2-1 Compressive Sensing图2-2是一个压缩感知过程。
它包括压缩感知过程和信号稀疏重构过程。
不同于传统的奈奎斯特采样,压缩感知的核心是线性测量过程。
设x为长度为N的由传统采样得到的信号,通过压缩感知可直接得到长度为M的测量信号y (其中M<N),它们的关系为=Φ (2-1)y x其中Φ称为传感矩阵或者测量矩阵,大小为M*N。
压缩感知概述一、压缩感知的提出信号采样是模拟的物理世界通向数字的信息世界之必备手段。
多年来,指导信号采样的理论基础一直是著名的Nyquist采样定理。
定理指出,只有当采样速率达到信号带宽的两倍以上时,才能由采样信号精确重建原始信号。
可见,带宽是Nyquist采样定理对采样的本质要求。
但是,对于超宽带通信和信号处理、核磁共振成像、雷达遥感成像、传感器网络等实际应用,信号的带宽变得越来越大,人们对信号的采样速率、传输速度和存储空间的要求也变得越来越高。
然而传统的信号压缩实际上是一种严重的资源浪费,因为大量的采样数据在压缩过程中被丢弃了,而它们对于信号来说是不重要的或者只是冗余信息。
从这个层面上讲:带宽不能本质地表达信号的信息,基于信号带宽的Nyquist采样机制是冗余的或者说是非信息的。
近年来基于信号稀疏性提出一种称为压缩感知(compressed sensing)或压缩采样(compressive sampling)的新兴采样理论,成功实现了信号的同时采样与压缩。
二、压缩感知基本原理简单地说,压缩感知理论指出:当信号在某个变换域是稀疏的或可压缩的,可以利用与变换矩阵非相干的测量矩阵将变换系数线性投影为低维观测向量,同时这种投影保持了重建信号所需的信息,通过进一步求解稀疏最优化问题就能够从低维观测向量精确地或高概率精确地重建原始高维信号。
原理框图如图(一)所示:图一原理框图图解:设长度为N的信号X在某组正交基或紧框架 上的变换系数是稀疏的,则用一个与变换基ψ不相关的观测基N)N(M M <<⨯Φ:对系数向量进行线性变换,并得到观测集合Y :M*1,从而使得维数降低。
即:Y=ΦΘ=X A X CS T =Φψ;X T ψ=Θ。
在该理论框架下,采样速率不再取决于信号的带宽,而在很大程度上取决于两个基本准则:稀疏性和非相干性,或者说是稀疏性和等距约束性。
当前压缩感知理论主要涉及三个核心问题是:信号系数表示即稀疏矩阵ψ,观测矩阵Φ,以及重构算法的设计。
信号处理中的稀疏表示与压缩感知技术研究随着互联网与物联网的不断发展,信号处理技术也逐渐成为人们的研究热点。
而其中最为重要的一项技术就是稀疏表示与压缩感知技术。
本文将从这两个方面,对信号处理中的稀疏表示与压缩感知技术进行深入探讨。
一、稀疏表示技术稀疏表示是一种基于基函数的信号表示方法,它通过利用某个基函数表示信号,并在基系数中强制项数目尽可能少,使得这个新表示方法具有更小的信息量。
目前,稀疏表示主要应用于语音信号处理、图像处理等领域。
在稀疏表示中,最常见的基函数是小波基,小波基的基本特点是:在时域和频域上,其均为一个带状模式,而且函数值只有在这个模式上才不为0,其他地方的函数值都为0。
这种基函数可以通过离散小波变换(DWT)得到。
离散小波变换(DWT)是指将原始信号通过小波基函数进行分解,使得信号的不同部分能够用不同的频率分量来表示。
其主要应用在信号的分析和去噪处理中。
经过DWT处理后的信号,可以获得到更为准确的信号信息。
二、压缩感知技术压缩感知技术是一种通过有限样本来获取高维信号的数据获取方法。
在大规模数据处理的场合,传统压缩方式可能会面临着计算量巨大,准确率不高等问题。
而压缩感知技术的出现,打破了传统压缩技术的瓶颈,带来了更加高效和准确的数据处理方式。
压缩感知技术的核心思想是,通过对信号的信息进行压缩采样,然后通过算法进行重构。
相比传统的信号处理方法,压缩感知技术提高了信号处理过程的效率和准确性。
其中的关键技术是:稀疏表示和重构算法。
稀疏表示的作用在前文已经提到,其目的是使得信号的表示中的项数有限,从而可以在内存和计算资源有限的情况下,大大降低计算量以及存储空间的需要。
而重构算法则是一种通过信号采样的数据重构过程,用于重现信号的原始信息。
常见的重构算法有OMP算法、Lasso算法、Basis Pursuit等。
三、稀疏表示与压缩感知技术的联合应用稀疏表示与压缩感知技术在信号处理中的联合应用主要涉及到两个方面:数据采集和数据分析。
浅谈压缩感知(⼆⼗):OMP与压缩感知主要内容:1. OMP在稀疏分解与压缩感知中的异同2. 压缩感知通过OMP重构信号的唯⼀性⼀、OMP在稀疏分解与压缩感知中的异同1、稀疏分解要解决的问题是在冗余字典(超完备字典)A中选出k列,⽤这k列的线性组合近似表达待稀疏分解信号y,可以⽤表⽰为y=Aθ,求θ。
2、压缩感知重构要解决的问题是事先存在⼀个θ和矩阵A,然后得到y=Aθ(压缩观测),现在是在已知y和A的情况下要重构θ。
A为M×N矩阵(M<<N,稀疏分解中为冗余字典,压缩感知中为传感矩阵A=ΦΨ,即测量矩阵Φ乘以稀疏矩阵Ψ),y为M×1的列向量(稀疏分解中为待稀疏分解信号,压缩感知中为观测向量),θ为N×1的列向量(稀疏分解中为待求分解系数,压缩感知中为信号x的在变换域Ψ的系数,x=Ψθ)。
相同点:对已知y和A的情况下,求y=Aθ中的θ。
稀疏分解中θ是稀疏的,在压缩感知中信号也需要满⾜稀疏性的条件,这也是相同点之⼀。
(OMP⼀开始在应⽤在稀疏表⽰上,后来压缩感知恰好信号也满⾜稀疏性条件,因此OMP也适⽤于压缩感知问题)不同点:在稀疏分解中θ是事先不存在的,我们要去求⼀个θ⽤Aθ近似表⽰y,求出的θ并不能说对与错;在压缩感知中,θ是事先存在的,只是现在不知道,我们要通过某种⽅法如OMP去把θ求出来,求出的θ应该等于原先的θ的,然后可求原信号x=Ψθ。
压缩感知中的A需要满⾜⼀定的条件来保证重建的可⾏性与唯⼀性。
(如RIP、spark等)⼆、压缩感知通过OMP重构信号的唯⼀性问题:通过OMP等重构算法求出的θ就是原来的x=Ψθ中的那个θ吗?为什么通过OMP迭代后⼀定会选出矩阵A的那⼏列呢?会不会选择A的另外⼏列,它们的线性组合也满⾜y=Aθ?证明:思路与证明spark常数⼀致。
压缩感知的前提条件:若要恢复y=Aθ中k稀疏的θ,要求感知矩阵A(感知矩阵A=ΦΨ,即测量矩阵Φ乘以稀疏矩阵Ψ)⾄少任意2k列线性相关。
压缩感知算法的稀疏矩阵
压缩感知(Compressed Sensing)是一种在信号处理领域的技术,其核心思想是:对于一个稀疏信号,可以通过远少于Nyquist采样定理要求的采样数,来准确重构该信号。
这一过程涉及到的主要数学工具包括向量空间、矩阵和范数等,这些工具在形式化表达和优化重构算法时非常有用。
在压缩感知中,稀疏矩阵是一个重要的概念。
以下是一个简化的例子来说明如何构造一个稀疏矩阵:
假设我们有一个向量x,它是一个长度为N的零向量,除了一个位置上的值为1(例如,第k个位置),其余位置上的值都为0。
那么我们可以将这个向量表示为一个N*N的矩阵D,其中D的第k列为[0,...,0,1,0,...,0],其余位置上的元素都为0。
这样,我们可以看到矩阵D只有第k列是非零的,因此它是一个稀疏矩阵。
在压缩感知中,我们可以通过将一个稀疏向量x投影到一个随机矩阵A上,然后通过求解优化问题来重构原始的稀疏向量。
在这个过程中,随机矩阵A是一个高维矩阵,其元素可以是任何实数,但大多数元素都是接近于零的。
因此,随机矩阵A也是一个稀疏矩阵。
总的来说,压缩感知中的稀疏矩阵是指大部分元素接近于零的矩阵。
这种稀疏矩阵在表示和存储信号时可以大大降低所需的存储空间和计算复杂度,因此在信号处理、图像处理和机器学习等领域有着广泛的应用。