压缩感知理论综述(原创).doc

压缩感知理论综述摘要：信号采样是模拟的物理世界通向数字的信息世界之必备手段。多年来，指导信号采样的理论基础一直是著名的Nyquist采样定理，但其产生的大量数据造成了存储空间的浪费。压缩感知（Compressed Sensing）提出一种新的采样理论，它能够以远低于Nyquist采样速率采样信号。本文详述了压缩感知的基本理论，着重介绍了信号稀疏变换、观测矩阵设计和重构算法三个方面的最新进展，并介绍了压缩感知的应用及仿真，举例说明基于压缩感知理论的编解码理论在一维信号、二维图像处理上的应用。 一、引言Nyquist采样定理指出，采样速率达到信号带宽的两倍以上时，才能由采样信号精确重建原始信号。可见，带宽是Nyquist采样定理对采样的本质要求。然而随着人们对信息需求量的增加，携带信息的信号带宽越来越宽，以此为基础的信号处理框架要求的采样速率和处理速度也越来越高。解决这些压力常见的方案是信号压缩。但是，信号压缩实际上是一种资源浪费，因为大量的不重要的或者只是冗余信息在压缩过程中被丢弃。从这个意义而言，我们得到以下结论：带宽不能本质地表达信号的信息，基于信号带宽的Nyquist采样机制是冗余的或者说是非信息的。于是很自然地引出一个问题：能否利用其它变换空间描述信号，建立新的信号描述和处理的理论框架，使得在保证信息不损失的情况下，用远低于Nyquist采样定理要求的速率采样信号，同时又可以完全恢复信号。与信号带宽相比，稀疏性能够直观地而且相对本质地表达信号的信息。事实上，稀疏性在现代信号处理领域起着至关重要的作用。近年来基于信号稀疏性提出一种称为压缩感知或压缩采样的新兴采样理论，成功实现了信号的同时采样与压缩。简单地说，压缩感知理论指出：只要信号是可压缩的或在某个变换域是稀疏的，那么就可以用一个与变换基不相关的观测矩阵将变换所得高维信号投影到一个低维空间上，然后通过求解一个优化问题就可以从这些少量的投影中以高概率重构出原信号，可以证明这样的投影包含了重构信号的足够信息。在该理论框架下，采样速率不再取决于信号的带宽，而在很大程度上取决于两个基本准则：稀疏性和非相干性，或者稀疏性和等距约束性。事实上，压缩感知理论的某些抽象结论源于Kashin创立的范函分析和逼近论，最近由Candes，Romberg,Tao和Donoho等人构造了具体的算法并且通过研究表明了这一理论的巨大应用前景。目前国内已经有科研单位的学者对其展开研究。如西安电子科技大学课题组基于该理论提出采用超低速率采样检测超宽带回波信号。 显然，在压缩感知理论中，图像/信号的采样和压缩同时以低速率进行，使传感器的采样和计算成本大大降低，而信号的恢复过程是一个优化计算的过程因此，该理论指出了将模拟信号直接采样压缩为数字形式的有效途径。从理论上讲任何信号都具有可压缩性，只要能找到其相应的稀疏表示空间，就可以有效地进行压缩采样。当前，压缩感知理论主要涉及三个核心问题：(1) 具有稀疏表示能力的过完备字典设计；(2) 满足非相干性或等距约束性准则的测量矩阵设计；(3) 快速鲁棒的信号重建算法设计。压缩感知理论必将给信号采样方法带来一次新的革命。这一理论的引人之处还在于它对应用科学的许多领域具有重要的影响，如统计学、信息论、编码等。目前，学者们已经在模拟-信息采样、合成孔径雷达成像、遥感成像、核磁共振成像、深空探测成像、无线传感器网络、信源编码、人脸识别、语音识别、探地雷达成像等诸多领域对压缩感知展开了广泛的应用研究。Rice大学已经成功设计出了一种基于压缩感知的新型单像素相机，在实践中为取代传统相机迈出了实质性的一步。本文围绕稀疏字典设计、测量矩阵设计、重建算法设计三个核心问题，综述了压缩感知理论以及与之相关的信号稀疏变换、观测矩阵设计、重构算法等一系列最新理论成果和应用研究，描述了国内外的研究进展。本文结构安排如下：第2 部分阐述了压缩感知的理论框架；第3 部分系统介绍了压缩感知的三个核心问题，即信号的稀疏表示、信号的观测矩阵、信号重构算法；第4 部分指出压缩感知有待解决的若干关键问题；第5 部分介绍了压缩感知的应用及仿真；第6部分对全文作了总结。 2、 压缩感知理论框架传统的信号采集、编解码过程如图l所示：编码端先对信号进行采样，再对所有采样值进行变换，并将其中重要系数的幅度和位置进行编码，最后将编码值进行存储或传输：信号的解码过程仅仅是编码的逆过程，接收的信号经解压缩、反变换后得到恢复信号。采用这种传统的编解码方法，由于信号的采样速率不得低于信号带宽的2倍，使得硬件系统面临着很大的采样速率的压力。此外在压缩编码过程中，大量变换计算得到的小系数被丢弃，造成了数据计算和内存资源的浪费。图1 传统编解码理论的框图压缩感知理论对信号的采样、压缩编码发生在同一个步骤，利用信号的稀疏性，以远低于Nyquist采样率的速率对信号进行非自适应的测量编码。测量值并非信号本身，而是从高维到低维的投影值，从数学角度看，每个测量值是传统理论下的每个样本信号的组合函数，即一个测量值已经包含了所有样本信号的少量信息。解码过程不是编码的简单逆过程，而是在盲源分离中的求逆思想下。利用信号稀疏分解中已有的重构方法在概率意义上实现信号的精确重构或者一定误差下的近似重构。解码所需测量值的数目远小于传统理论下的样本数。图2 压缩感知理论的编解码框图3、 压缩感知的基本理论及核心问题假设有一信号，长度为，基向量为，对信号进行变换：显然是信号在时域的表示，是信号在域的表示。信号是否具有稀疏性或者近似稀疏性是运用压缩感知理论的关键问题，若(1)式中的只有个是非零值者仅经排序后按指数级衰减并趋近于零，可认为信号是稀疏的。信号的可稀疏表示是压缩感知的先验条件。在已知信号是可压缩的前提下，压缩感知过程可分为两步：(1) 设计一个与变换基不相关的维测量矩阵对信号进行观测，得到维的测量向量。(2) 由维的测量向量重构信号。3.1信号的稀疏表示文献给出稀疏的数学定义：信号在正交基下的变换系数向量为，假如对于和，这些系数满足： 则说明系数向量在某种意义下是稀疏的文献1给出另一种定义：如果变换系数的支撑域的势小于等于，则可以说信号是项稀疏。如何找到信号最佳的稀疏域?这是压缩感知理论应用的基础和前提，只有选择合适的基表示信号才能保证信号的稀疏度，从而保证信号的恢复精度。在研究信号的稀疏表示时，可以通过变换系数衰减速度来衡量变换基的稀疏表示能力。Candes和Tao研究表明，满足具有幂次(power-law)速度衰减的信号，可利用压缩感知理论得到恢复。最近几年，对稀疏表示研究的另一个热点是信号在冗余字典下的稀疏分解这是一种全新的信号表示理论：用超完备的冗余函数库取代基函数，称之为冗余字典，字典中的元素被称为原子字典的选择应尽可能好地符合被逼近信号的结构，其构成可以没有任何限制从冗余字典中找到具有最佳线性组合的K项原子来表示一个信号，称作信号的稀疏逼近或高度非线性逼近。目前信号在冗余字典下的稀疏表示的研究集中在两个方面：(1)如何构造一个适合某一类信号的冗余字典；(2)如何设计快速有效的稀疏分解算法这两个问题也一直是该领域研究的热点，学者们对此已做了一些探索，其中以非相干字典为基础的一系列理论证明得到了进一步改进西安电子科技大学的石光明教授也对稀疏表示问题进行了认真研究，并基于多组正交基级联而成的冗余字典提出一种新的稀疏分解方法。3.2信号的观测矩阵用一个与变换矩阵不相关的测量矩阵对信号进行线性投影，得到线性测量值： 测量值是一个维向量，这样使测量对象从维降为维。观测过程是非自适应的，即测量矩阵的选择不依赖于信号。测量矩阵的设计要求信号从转换为的过程中，所测量到的个测量值不会破坏原始信号的信息，保证信号的精确重构。由于信号是是可稀疏表示的，上式可以表示为下式： 其中是一个矩阵。上式中，方程的个数远小于未知数的个数，方程无确定解，无法重构信号。但是，由于信号是K稀疏，若上式中的满足有限等距性质(Restricted Isometry Property，简称RIP)，即对于任意K稀疏信号和常数，矩阵满足：则K个系数能够从M个测量值准确重构。RIP性质的等价条件是测量矩阵和稀疏基不相关。目前，用于压缩感知的测量矩阵主要有以下几种：高斯随机矩阵，二值随机矩阵(伯努力矩阵)，傅立叶随机矩阵，哈达玛矩阵，一致球矩阵等。3.3信号的重构算法当矩阵满足RIP准则时。压缩感知理论能够通过对上式的逆问题先求解稀疏系数，然后将稀疏度为K的信号从维的测量投影值中正确地恢复出来。解码的最直接方法是通过范数下求解的最优化问题：从而得到稀疏系数的估计。由于上式的求解是个NPHARD问题。而该最优化问题与信号的稀疏分解十分类似，所以有学者从信号稀疏分解的相关理论中寻找更有效的求解途径。文献表明，最小范数下在一定条件下和最小范数具有等价性，可得到相同的解。那么上式转化为最小范数下的最优化问题： 最小范数下最优化问题又称为基追踪(BP)，其常用实现算法有：内点法和梯度投影法。内点法速度慢，但得到的结果十分准确：而梯度投影法速度快，但没有内点法得到的结果准确。二维图像的重构中，为充分利用图像的梯度结构。可修正为整体部分(Total Variation，TV)最小化法。由于最小范数下的算法速度慢，新的快速贪婪法被逐渐采用，如匹配追踪法(MP)和正交匹配追踪法(OMP)。此外，有效的算法还有迭代阈值法以及各种改进算法。 四、有待研究的几个关键问题压缩感知经过近年来的迅猛发展，已基本形成了自己的理论框架，包括基础理论、实现方法和实际应用。但是，压缩感知理论还有很多亟待解决的问题，为此本文列出了压缩感知有待解决的几个关键问题. 4.1 基础理论层面（1）基于非正交稀疏字典的压缩感知信号重建理论。在等距约束性准则驱动的可压缩信号压缩感知定理中，关于稀疏字典和测量矩阵仅要求两者乘积 = 满足RIP。但是，测量矩阵设计部分关于压缩测量个数M 的界定还额外附加了假设条件，即稀疏字典 是正交基。当测量矩阵依然通过三种方式生成，但是稀疏字典不再正交时， = 是否满足RIP？压缩测量个数M 的下限是否不变？由于过完备的稀疏字典才能保证表示系数具有足够的稀疏性或衰减性，进而能够在减少压缩测量的同时保证压缩感知的重建精度，所以需要设计鲁棒的测量矩阵 使之与过完备稀疏字典依然满足RIP，同时需要重新估计压缩测量个数M 的下限，这时所需的压缩测量定会减少。（2）自然图像的自适应压缩感知信号重建理论。虽然基于线性投影的压缩感知理论能够直接应用于自然图像这样的复杂高维信号，但是由于没有考虑到自然图像的固有特性，诸如结构多成分性、高阶统计性等，对于自然图像压缩采样本身没有特殊的指导作用。事实上，相对于一维离散信号，自然图像的复杂性和高维性使之需要自适应的压缩采样和重建算法。例如，基于图像多成分性的特点能够提高重建图像的峰值信噪比和视觉效果。注意到，压缩感知理论的大部分文献中，测量矩阵 都是线性的且设计好的，不需根据观测信号自适应地变化。对于自然图像，假如能够实现非线性自适应的压缩测量，压缩感知的压缩性能势必会获得大幅度的提高。目前，自然图像的自适应压缩感知信号重建理论基本空白。这项工作对压缩感知的理论推广和实际应用都具有重要意义。4.2 实现方法层面（1）基于学习的自然图像过完备字典设计。目前，基于构造方法的自然图像过完备字典设计具有很好的理论支撑，正则化几何方法、几何多尺度分析、基于信息论的“有效编码假设”为其奠定了坚实广阔的理论基础。但是，从国际上关于过完备字典设计的整体情况看，基于学习的自然图像过完备字典设计的工作非常少，主要在于：设计难度大、性能要求高，同时缺乏严格的理论支撑。这项工作对于稀疏字典和压缩感知都将是重要的理论完善。(2)硬件易实现的确定性测量矩阵设计。在等距约束性准则驱动的可压缩信号压缩感知定理3、4 中，要求稀疏字典和测量矩阵的乘积 = 满足RIP。其中，稀疏字典可以是正交的也可以是非正交的，测量矩阵 可以是随机的也可以是确定的。但是，面向应用且硬件易实现的测量矩阵应该具有以下基本特点：满足等距约束性、压缩测量个数少、采样计算成本低、存储矩阵的空间小、以及测量矩阵最好是确定性的。设计出硬件容易实现的测量矩阵和快速稳定的重建算法是将压缩感知理论推向实用的关键。(3)噪声情形大尺度问题的快速鲁棒重建算法设计。快速稳定的信号重建算法是将压缩感知理论推向实用的关键技术之一，特别适用于纠错编码、核磁共振成像、NMR波谱研究等大尺度问题。通常，基于最小化松弛算法的计算复杂度相对较高。因而，在最小化驱动的压缩感知理论完善工作的基础上，希望能够基于稀疏性自适应的贪婪迭代和基于多层超先验建模的非凸迭代思想设计适于噪声情形大尺度问题的快速鲁棒重建算法。5、 压缩感知的应用及仿真5.1 应用使用一定数量的非相关测量值能够高效率地采集可压缩信号的信息，这种特性决定了压缩感知应用的广泛性。例如低成本数码相机和音频采集设备；节电型音频和图像采集设备；天文观测；网络传输；军事地图；雷达信号处理等等。以下归纳了压缩感知几个方面的应用： (1)数据压缩在某些情况下，稀疏基妒在编码中是未知的或在数据压缩中是不能实际实现的。由于测量矩阵西是不需要根据缈的结构来设计的，随机测量矩阵可认为是一个通用的编码方案，而哕只有在解码或重建信号的时候需要用到。这种通用用性在多信号装置(如传感器网络)的分布式编码特别有用。(2)信道编码 压缩感知的稀疏性、随