稀疏表示在信号处理中的应用

1、Sparse Representations for Sparse Representations for Signal Processing and Signal Processing and CodingCoding120140420outline What are sparse representations/approximations? How to find sparse representations/approximations? How to find the dictionary D? What are sparse representations/approximatio

2、ns good for?2What are sparse representations/approximations?定义：定义：用较少的基本信号的线性组合来表达大部分或者全部的原始信号信号。其中，这些基本信号被称作原子，是从过完备字典中选出来的；而过完备字典则是由个数超过信号维数的原子聚集而来。可见，任一信号在不同的原子组下有不同的稀疏表示。3What are sparse representations/approximations?4How to find sparse representations/approximations? 寻找少量重要的系数来表示原始信号的技术被称作Spar

3、se Coding（稀疏编码或稀疏分解）； 从任意一个字典中为原始信号寻找最稀疏的表示常用的方法分类两类：贪婪算法，比如匹配追踪（MP）、正交匹配追踪（OMP）、弱匹配追踪（WMP）、阈值方法等；松弛算法，比如迭代加权最小二乘（Iterative-Reweighed-Least-Squares，IRLS）、基追踪（BP）等。其中，贪婪算法的特点是速度快，精度相对较低；松弛算法是精度高，但速度慢。5How to find sparse representations/approximations?现假设已知字典D和信号X，进行稀疏编码的问题可以表示为L0优化问题这也是一个组合优化问题。穷举法穷举

4、法NP难：难：假设 的非零项数目为L(sparse level)，先令L=1，字典里的每一个原子（列向量）尝试一遍，看是否满足终止条件，共有K种组合。如果没有满足，再令L=2，再次尝试，共有K(K-1)/2种组合。还没有满足条件的，则令L=3组合的数目呈指数增长，于是遇到了NP难问题。贪婪算法贪婪算法Matching Pursuit第一步，找到最接近X的原子，等效于 向量上仅取一个非零项，求出最接近的原子，保留下来；第二步，计算误差是否满足要求，如果满足，算法停止，否则，计算出残差信号，和第一步类似，找到最接近残差向量的原子，保留下来；第三步，调整已选向量的系数，使得 最接近X，重复第二步。松

5、弛算法松弛算法Basis Pursuit，将L0问题转化为L1问题，解决的方法有很多，比如内点法、迭代收缩法等。事实上，它可以化成一个线性规划的问题，用MATLAB很容易解。60opt0min. .st222DXDHow to find the dictionary D? 寻找字典的过程称为字典学习字典学习。字典学习的一个假设是字典对于指定信号具有稀疏表示。因此，选择字典的原则就是能够稀疏地表达信号。两种两种方法方法来设计字典: 从从已知的变换基已知的变换基中选中选取取，比如 DCT 、小波基等，这种方法很通用，但是不能自适应于信号。 学习字典学习字典，即通过训练和学习大量的与目标数据相似的数

6、据来获得。这里，我们介绍一种叫K-SVD的方法。78假设现在有原始信号矩阵 ， 该矩阵的每一行表示一个信号或者一张图片， D 矩阵是字典矩阵，右下方是 稀疏解矩阵S，红色的点表示非零项。How to find the dictionary D?K-S VDTXHow to find the dictionary D?K-SVDStep 2: Sparse Coding. 用松弛或者贪婪法进行稀疏编码，使得9Step 1: Initialize. 在 矩阵中随机挑选一些行向量(一些原图），填满矩阵 D，并归一化每一列。TX得到稀疏表示 构成稀疏矩阵S的第i行。i20102argmin. .iik

7、xDstLHow to find the dictionary D?K-SVD1000TjjjjjEXdStep4：Stopping Rule. 如果 则停止迭代。 2kkFXD SWhat are sparse representations/approximations good for? 稀疏性是DFT、WT和SVD分解得以广泛利用的原因之一，这些变换的目的都是为了反映信号的确定性结构，并用紧凑的或稀疏的表示来表征这些结构； 稀疏表示的思想为模式分类方法建立了基础，比如SVM和RVM，其中稀疏性直接与估计函数（estimator）的学习能力有关。 稀疏表示解决的问题主要集中在：图像去噪图

8、像去噪（Denoise），代表性paper：Image Denoise Via Sparse and Redundant Representations Over Learned Dictionaries(Elad M. and Aharon M. IEEE Trans. on Image Processing,Dec,2006);Image Sequence Denoising Via Sparse and Redundant Representations(Protter M. and Elad M.IEEE Trans. on Image Processing,Jan,2009)；超分辨

9、率重建超分辨率重建（Super-Resolution OR Scale-Up），代表性paper：Image Super-Resolution via Sparse Representation（Jianchao Yang, John Wright, Thomas Huang, and Yi Ma，IEEE Transactions on Image Processing, Nov,2010）,A Shrinkage Learning Approach for Single Image Super-Resolution with Overcomplete Representations( A. Adler, Y. Hel-Or, and M. Elad,ECCV,Sep,2010);另外还有inpaintting，deblurring，compression等等.更多应用参考Elad M的书。的书。11OutputOriginalInput Training patches12What are sparse representations/approximations good for?去噪：去噪：超分辨率：超分辨