基于自适应低秩去噪的近似消息传递压缩感知恢复

1、基于自适应低秩去噪的近似消息传递压缩感知恢复熊承义1，陈仕长1，高志荣2，李世宇1，金鑫1，李治邦1 （1 中南民族大学 电子信息工程学院，智能无线通信湖北省重点实验室，武汉430074； 2中南民族大学 计算机科学学院，武汉 430074）摘 要 图像隐含的低秩先验特性已被成功应用于去噪等图像恢复应用.考虑到自然图像具有的非平稳特性以及迭代重构中图像噪声强度的变化，提出了一种结合近似消息传递与自适应低秩去噪的图像压缩感知重构方法.根据迭代重构图像的噪声方差估计，自适应地调整分块图像的大小以及相似块组的规模，实现低秩去噪性能的有效提升，从而保证了迭代重构的收敛速度，并同时改善了重构图像的质量.

2、大量实验结果表明：该方法在无噪和有噪观测环境下都具有较好的重构性能，且能够有效地保留图像的纹理细节信息.关键词 压缩感知恢复；近似消息传递；低秩去噪；迭代阈值中图分类号 TP391.4 文献标识码 A 文章编号DOI: 10.12130/znmdzk.201901?引用格式 熊承义,陈仕长,高志荣,等. 基于自适应低秩去噪的近似消息传递压缩感知恢复J.中南民族大学学报（自然科学版）,2019,38(1):?-?.XIONG Chengyi,CHEN Shichang,GAO Zhirong,et al. Compressive sensing reconstruction based on a

3、pproximate message passing with adaptive low-rank denoising J.Journal of South-Central University for Nationalities(Natural Science Edition), 2019,38(1):?-?.Compressive sensing reconstruction based on approximate message passing with adaptive low-rank denoisingXIONG Chengyi1,CHEN Shichang1,GAO Zhiro

4、ng2,LI Shiyu1 ,JIN Xin1,LI Zhibang1 (1 College of Electronic and Information Engineering Hubei Key Lab of Intelligent Wireless Communication, South-Central University for Nationalities Wuhan 430074，China;2 College of Computer Science South-Central University for Nationalities Wuhan 430074，China)Abst

5、ract The implicit low-rank priori characteristics of images have been successfully applied to image restoration applications，such as denoising. Considering the non-stationary property of natural images and the variation of image noise intensity in iterative reconstruction, an image compressive sensi

6、ng reconstruction method based on approximate message passing and adaptive low-rank denoising is proposed. According to the noise variance estimation of the iteratively reconstructed image, the size of the block image and the size of the similar block group are adjusted adaptively to achieve an effe

7、ctive improvement of the low-rank denoising performance, thereby ensuring the convergence speed of the iterative reconstruction and simultaneously improving the quality of the reconstructed image. The experimental results show that the proposed method has good reconstruction performance in both nois

8、eless and noisy observation environments, and can effectively preserve the texture details of the image.Keywords compressed sensing；approximate message passing；low-rank denoising；iterative threshold收稿日期 2018-07-19作者简介 熊承义(1969-)，男，教授，研究方向：图像处理与模式识别，E-mail：基金项目 国家自然科学基金资助项目(61471400)压缩感知（Compressive

9、Sensing,CS）1是一种新的信号采样理论.它指出，利用信号的稀疏性，可实现突破传统奈奎斯特采样的信号压缩采样与准确重构.具体地，基于压缩感知理论，当信号满足稀疏性并且观测矩阵满足有限等距原则 REF _Ref498101418 r h * MERGEFORMAT （Restricted Isometry Property，RIP）时，由降维观测值可以高概率地准确重构原始信号.压缩感知重构是压缩感知理论成功应用的关键问题之一，其实现的数学模型可表示为 , （1）其中为稀疏变换矩阵，为测量矩阵，是取p范数.最初的CS重构算法运用凸规划方法，但是当处理图像这种高维信号时，这些凸规划方法十分耗时

10、.因此，低时间复杂度的迭代算法得到发展，包括正交匹配追踪、迭代软/硬阈值以及近似消息传递算法2.特别地，由Donoho和Maleki等人提出的低复杂度、高性能的迭代算法近似消息传递算法(Approximate Message Passing，AMP)在运行速度及重构质量上具有更加明显的优势，因而更适用于高维信号的重构.对于自然图像压缩感知重建，寻找合适的稀疏变换矩阵，对提升压缩感知重构性能十分关键.基于AMP的图像重构算法常利用图像在小波域上的稀疏性作为重构的先验信息3，如基于小波振幅尺度不变贝叶斯估计、基于小波自适应Wiener滤波4和基于柯西分布最大后验估计的小波域AMP算法5，然而小波系

11、数稀疏约束并不适用于包含较多非平滑部分的自然图像.为了解决这一问题，对边缘和纹理较好保留的梯度稀疏先验以及对图像单一子块进行稀疏表示的方法被开发出来，来改善AMP重构CS图像的质量.尽管这两种图像先验都具有一定的有效性，但他们仅利用了图像的局部特征，却忽略了图像中大量相似块含有的非局部信息6,7 .针对这种情况，Dabov等人开发了一种利用非局部相似块组在稀疏3-D变换域中协同滤波的图像去噪策略(BM3D)6，通过对非局部相似块组进行小波域稀疏变换及阈值处理，成为有效的图像恢复手段.文献7进一步挖掘图像的非局部结构特性，提出了一种基于非局部相似块组的低秩正则化模型，实现了对非局部相似块组自适应

12、稀疏表示.文献8构建了基于去噪的AMP（Denoising-based AMP，D-AMP）方案，利用经典的图像去噪算法实现AMP迭代过程中的滤波操作，其中结合BM3D图像去噪算法的BM3D-AMP，获得了优于当前基于AMP方法的图像重构性能，然而该算法引入的BM3D算法对相似块组采用的是固定基小波稀疏变换，忽略不同块组的结构变化，无法获取每个相似块组的自适应稀疏表示，因而对非平稳图像的重构质量还需提高.为了进一步改善图像压缩感知恢复性能，本文提出了一种自适应低秩去噪的近似消息传递压缩感知恢复方法.基于近似消息传递框架，对AMP迭代滤波图像进行噪声方差估计，根据噪声方差大小自适应调整图像分块的

13、大小以及相似块组的规模来构建低秩矩阵，并对其采用加权奇异值软阈值处理实施低秩逼近，将相似块组在像素域的去噪逼近转化为对奇异值的软阈值滤波实现，不仅提高了对不同图像块组滤波的自适应性，也更好地刻画了图像的非局部自相似特征，保留了组内图像块之间的细微差异.实验仿真结果验证了该方法有效性.1 相关工作1.1基于AMP的图像CS重构近似消息传递是一种基于消息传递机制的迭代阈值信号恢复方法，具有快速收敛性和非线性求解能力.针对图像CS信号重构，该方法具有明显优势.对于式（1）压缩感知信号重构的数学模型，应用于图像CS重构时，根据AMP算法理论，可以用迭代公式求解表示如下 ， （2） ， （3）式中、和分

14、别表示第t次AMP滤波操作、含噪图像噪声标准差、图像x估计值以及迭代残差，x是向量化的图像信号，是CS逆投影后的含噪图像，式（3）是残差更新公式，该式中的是Onsager校正项，表示向量的均值，M是测量数，T表示矩阵转置，表示去噪函数的导数.在执行AMP迭代时，残差更新项中的Onsager校正项能够迫使信号扰动非常接近加性高斯白噪声，更有利于滤波算法进行降噪处理，同时也保证了AMP的快速收敛性.若令，根据AMP算法特性，可以近似看成是被加性高斯白噪声污染的含噪原图像，可表示为，其中符合零均值合yi Variation,合高斯分布.则基于AMP重构CS图像x的迭代公式可转化为如下式. ， （4）

15、 。 （5）实验发现，AMP重构性能直接受去噪函数的影响.因此，在进行AMP迭代滤波重构时，充分利用滤波图像的结构特性设计更好的去噪函数，就能更有效的地去除每次迭代输入噪声图像的干扰进而提高AMP每次迭代的阈值去噪能力，从而整体提升AMP算法的重构性能.1.2噪声水平估计噪声水平是图像处理领域（如，图像去噪、图像分割和超分辨率等）中的重要参数.实际应用中，特定图像的噪声水平可能无法获取，因而需要进行估计.目前广泛用于图像恢复的重要噪声模型是加性高斯白噪声，对于给定的一幅噪声图像，噪声水平估计的目标就是近似获取其附加的高斯噪声的标准差.对于观测到的噪声图像，借鉴文献9提出的方法可以精确的获取其估

16、计值，具体步骤如下.（1）将噪声图像分解成矩阵，其中包含个向量化小图像块，小块像素点为，且；（2）计算所有小块的均值以及协方差矩阵.运用主成分分析（Principal Component Analysis，PCA）分解获取其特征值，然后将特征值按大小排列为；（3）对获取的特征值集合，另定义两个子集分别初始化为和.计算集合中的均值和中位数，并判断两个值是否相等，如果，则将中最大奇异值移到子集，然后计算中剩余奇异值的均值和中位数，并再次判断两者是否相等.循环执行直至时停止，最终获得噪声水平估计值.2自适应低秩去噪的AMP图像CS恢复2.1改进的自适应图像低秩去噪算法在图像获取与传输过程中，噪声的干

17、扰是不可避免的，如何去除这些噪声是图像恢复领域的重要部分.图像去噪具体来说就是求解一个逆问题，利用有效的图像先验能够提升恢复图像的质量.针对以往固定基变换不能很好处理图像不同区域细节纹理的问题，近年来，利用图像的非局部低秩先验，对图像不同部分自适应稀疏表示的方法，取得了显著的去噪成效.如何更有效地获取相似程度高的非局部相似块组是低秩去噪的关键.尽管目前的低秩去噪算法取得了很好的去噪性能，但是实际应用中，该算法在对一幅随机图像执行去噪时，由于图像受到的噪声污染程度是未知的，因而很难对其噪声方差进行准确估计，相应的低秩矩阵构建影响参数只能凭借经验设定，然而凭借经验得到的噪声方差并不精确，导致实际去

18、噪后的效果不理想.并且在噪声水平不确定的情况下，为了得到更好的去噪效果，只能通过多次实验进行比较得到，所付出的时间成本相对较大.为了更加快速有效地获取低秩矩阵构建的影响参数，进而实现自适应低秩去噪.考虑到不同噪声水平下图像块大小以及相似图像块个数对低秩去噪性能的影响，从图像数据集库中选取多幅自然图像进行实验统计，获取不同噪声环境下更优的低秩矩阵构建方法.具体实验时，对干净图像进行加噪处理后实施不同分块以及不同相似块个数进行低秩去噪实验，观测最终达到最佳峰值信噪比（Peak Signal-to-Noiseatio，PSNR）时的这两类参数设定.实验中，发现一定范围内的噪声标准差变化对图像PSNR

19、的影响微弱，因此给出分段噪声情况下最佳参数设定如表1所示.表1 分段噪声标准差下图像低秩去噪最佳块大小以及相似块个数Tab.1 Low-rank image denoising optimal block size and number of similar blocks under standard deviation of section noises噪声标准差 分块大小6789相似块个数7090120140根据以上分析，提出一种改进的低秩去噪算法.利用1.2节噪声估计方法，对含噪图像进行噪声估计，并按照噪声水平分配块大小以及相似块个数，快速自适应地获取最优低秩矩阵构建的影响参数，然后，通

20、过块匹配搜寻噪声图像的非局部相似块，构建具有低秩特性的非局部相似块组，并通过求解该低秩矩阵自适应稀疏表示进行低秩逼近，实现去噪.进一步，给出低秩逼近的具体过程，给定一幅含噪图像，其无噪状态下为，则图像可表示为,其中表示均值为0，方差为的高斯白噪声.对于图像中的任一图像块，通过块匹配方法构建其非局部相似块组，用数据矩阵可表示，其中表示原图像相似块组构成的具有低秩特性的矩阵，表示高斯噪声矩阵.核范数最小化方法是一种有效的低秩矩阵求解方法，该方法使用矩阵奇异值分解技术对矩阵进行分解，并对分解获得的奇异值矩阵的对角元素进行阈值处理.但是该方法对每个奇异值对应的阈值权重都是相等的，实际中不同的奇异值所占

21、的矩阵能量比重是不同的.为了对不同奇异值进行有效地阈值处理，Gu10等在核范数最小化方法的基础上引入了权重系数，提出加权核范数最小化算法，将其应用于噪声块组的估计，并使用噪声方差来归一化F范数的保真项，得到以下函数模型. （6）对于该模型的求解，权值向量w的确定是关键，通过将权重向量与对应的奇异值成反比，可以得到相应的权重公式，其中C是正则化参数，设定为，n是相似块的数目，避免分母为0，表示第j个奇异值，则上述函数优化求解为，其中 ， （7） ， （8） 。通过将上述步骤应用到每个分块并将所有处理后的分块组合，然后对重叠的图像块求平均，图像就能被复原，并多次迭代获取更佳的去噪图像.2.2提出的

22、CS图像重构方法近似消息传递是一种基于迭代软阈值的信号重构技术，因而本文将改进的自适应低秩去噪算法作为AMP迭代滤波的去噪函数实现图像压缩感知重构.在执行AMP迭代滤波时，残差更新中的Onsager校正项涉及到去噪函数散度的计算，实验中我们采用蒙特卡罗方法实现Onsager校正项的近似求解.用表示整个自适应低秩去噪算法，借助一个独立同分布随机向量来估计去噪函数的散度，具体如式，是一个微量.则提出算法的具体实现过程如下. 输入 测量矩阵 v计去噪函数的散度如下。， 掉的原图像信息，公式如下，测量向量，迭代次数m.初始化 令.迭代运行 （1）CS反投影计算含噪图像； （2）含噪图像噪声方差估计，使

23、用1.2节方法； （3）对噪声图像进行滤波处理， 将N维列向量排列成的二维矩阵，并对其进行自适应低秩去噪处理，对去噪后的矩阵再次向量化输出表示为； （4）随机生成N维变量，其中eps是微小常量； （5）求去噪函数的散度；（6）；（7）残差更新；结束迭代输出 将向量化图像 QUOTE xt 排列成的矩阵，得到重构图像. 3 实验结果与分析为了验证本文方法的重构性能，分别在有、无测量噪声（对测量值进行加噪）情况下将本方法与BM3D-AMP、TV-AMP、NLM-AMP、LR-AMP四种方法进行CS重构仿真比较.选取常用的自然图像（大小为128128像素的灰度图像）作为测试图像，以PSNR作为算法重

24、构性能的衡量.实验中，将本文方法迭代次数设定为20次.根据AMP每次迭代滤波逆投影输入图像的噪声标准差估计，对含噪图像进行自适应低秩去噪处理.对于LR-AMP算法，其在AMP滤波去噪阶段，采用固定的块大小和相似块数目，本文方法采用表1中最优参数进行低秩矩阵构建.其余参数设置与自适应低秩去噪算法相同，块间距step=5，搜索窗的尺寸为，松弛参数，缩放因子.仿真计算机的硬件配置为Intel（R）Core（TM）i7-6700 CPU，3.40GHZ 主频，软件环境为64位Windows7操作系统下的Matlab 2015a.首先，五种方法在无测量噪声情况下，分别在测量率为0.1/0.2/0.3时进

25、行仿真实验.五种重构方法的图像恢复质量PSNR比较结果如表2所示.实验结果比对可见，不同采样率下，本文方法的值基本上最高，证明本文方法具有更好的客观重构性能，也说明改进的自适应低秩去噪算法能够有效提升本文方法的重构性能.由表中平均值可以发现，本文方法比TV-AMP、NLM-AMP、BM3D-AMP、LR-AMP方法PSNR分别提高了6.67、5.44、1.32和0.28dB，验证了本文方法的有效性.表2 不同采样率下各种方法PSNR结果比较Tab.2 Comparison of PSNR results of various algorithms at different sampling r

26、ates测试图像测量率PSNR（dB）TV-AMPNLM-AMPBM3D-AMPLR-AMP本文方法Barbara0.122.0720.3224.2124.5724.580.224.8424.3029.8730.9831.280.326.7429.8933.1334.7034.67House0.126.4924.4034.3235.1935.440.231.1331.5937.9438.5738.730.333.6736.4640.8341.1641.40Monarch0.118.8317.1122.1423.1523.500.222.4822.4127.5228.2328.680.324.7

27、328.4130.6833.0733.25Leaves0.115.3613.9618.3818.2118.560.217.3821.9322.6624.4225.100.319.0626.8227.4630.2630.96Cameraman0.123.3522.5526.4626.78129.0431.8432.9733.050.329.5832.0535.6136.4636.48平均0.121.2219.6625.1025.5825.860.224.5925.8529.9631.0331.360.326.7530.7233.5435.1335.35图1对Leaves重

28、构图像局部进行放大处理，可以观察到，相比TV-AMP重构，结合图像非局部相似性的重构方法均取得了较好的重构效果.由TV-AMP重构局部放大（图1（b）可以明显看到过平滑现象，在几种采用非局部相似性的重构方法中，NLM-AMP利用非局部相似块的均值来估计当前像素块，这种估计放大会带来振铃效应，因此重构图像边缘纹理较为模糊.而BM3D-AMP利用图像的非局部相似性先验，虽然重构效果较好，但仍不能精确重构原图像，而LR-AMP和本文方法采用非局部低秩先验来自适应估计相似块组，对细节处理较好，并且本文方法采用自适应策略，能够进一步保留有效信息，因而具有更好的主观视觉效果.(a) 原图 (b) TV-A

29、MP (c) NLM-AMP PSNR=19.06dB PSNR=26.82dB(d) BM3D-AMP (e)LR-AMP (f)本文方法PSNR=27.46dB PSNR=30.26dB PSNR=30.96dB图1 测量率为0.3 时Leaves 图像的重构质量比较Fig.1 Comparison of Reconstruction Quality of Leaves Image at a Measurement Rate of 0.3进而，为了验证本文方法在有测量噪声情况下的鲁棒性，由于篇幅限制，仅给出五种方法在采样率为0.2时含噪情况下的重构性能比较如表3所示.与无噪观测相比，存在噪

30、声干扰测量值时，各种方法的PSNR都有所降低，但本文方法的值继续保持最高，验证了本文方法的抗噪声干扰性能.同时由表中平均值数据可知，在测量率为0.2时，本文方法比TV-AMP、NLM-AMP、BM3D-AMP、LR-AMP算法PSNR分别提高了3.04、2.52、0.54和0.15dB，验证了本文方法的鲁棒性.表3 测量率0.2时，不同噪声标准差情况下图像重构PSNR比较Tab.3 Comparison of image reconstruction PSNR under different noise standard deviations when the measurement rate

31、 is 0.2测试图像噪声标准差PSNR（dB）TV-AMPNLM-AMPBM3D-AMPLR-AMP本文方法Barbara1024.5123.5528.2928.8628.992023.7523.2726.3926.5526.74House1029.5230.8634.2734.9135.032027.6226.5631.2231.9731.97Monarch1022.1922.8826.5727.0927.142021.5722.4324.8725.5225.72Leaves1017.3121.4722.1823.7324.392017.1519.9621.4422.0022.43Came

32、raman1026.3527.4529.9229.9930.432025.2224.6227.5727.9227.98平均1023.9725.2428.2428.9229.192023.0623.3626.2926.7926.97图2从主观视觉角度比较本文方法与其他四种方法在外加测量噪声情况下重建图像的效果.在外加测量噪声标准差20、测量率0.2情况下重构Leaves图像，TV-AMP、NLM-AMP重构图像较差，LR-AMP重构图像视觉效果优于BM3D-AMP,本文方法实现较好的重构效果，同时从局部放大可以看出，本文方法较LR-AMP有较好的细节重构性能.(a) 原图 (b) TV-AMP

33、(c) NLM-AMPPSNR=17.15dB PSNR=19.96dB(d) BM3D-AMP (e)LR-AMP (f)本文方法PSNR=21.44dB PSNR=22.00dB PSNR=22.43dB图2 测量率为0.2、噪声标准差为20时Leaves图像的重构图像比较Fig.2 Comparison of reconstructed images of Lefts images with a measurement rate of 0.2 and noise standard deviation of 20图3（a）和（b）分别给出了在采样率为0.3、无观测噪声时对House图像重构

34、以及在采样率为0.2、观测噪声标准差为20时对Barbara图像重构得到的PSNR迭代次数曲线图.几种基于AMP的方法都有较好的收敛性，本文方法在基于AMP框架的基础上结合图像低秩特性以及自适应策略实现了收敛性和重构质量PSNR双重性能保障.最后，给出五种方法运行时间的比较，实验结果如表4所示.由表中可以看出，BM3D-AMP在不同采样率下运行时间最少，这是因为该方法运用的BM3D滤波算法采用c语言编译，速度快.本文方法在低秩矩阵的奇异值分解上耗时较大，因而在运行时间上优势不足，但对于实际应用中着重重构质量的情况，该方法有明显优势. (a) 图像House 0.3采样率下的五种算法 (b) 图

35、像Barbara 0.2采样率下标准差为20时五种算法PSNR迭代次数曲线图 PSNR迭代次数曲线图图3 5种算法对两幅图像重构得到的PSNR迭代次数曲线图Fig.3 PSNR iterations curves of five algorithms for Barbara image reconstruction表4无观测噪声情况下，多幅128x128像素图像重构平均运行时间（s）Tab.4 Average runtime in seconds of 128X128 pixels images reconstruction with no measurement noise平均运算时间0.1

36、0.20.3TV-AMP30.646.243.4NLM-AMP45.447.742.3BM3D-AMP14.515.614.9LR-AMP175.2168.4172.7本文方法165.7168.5160.64结语针对自然图像压缩感知恢复问题，提出一种自适应低秩去噪的近似消息传递CS图像重构方法.将利用图像非局部相似性先验的低秩去噪算法作为AMP迭代滤波的去噪函数，实现图像CS重构；并研究不同噪声大小图像进行自适应低秩矩阵构造来实现更优图像重建，自适应滤出AMP迭代噪声，最终提升CS图像重构质量.实验结果表明，该方法的图像重构性能优于BM3D-AMP等，对图像非平稳部分恢复较好.参考文献DONO

37、HO D. Compressive sensingJ.IEEE Transactions on Information Theory,2006.52(4): 1289-1306.DONOHO D L, MALEKI A, MONTANARI A. Message-passing algorithms for compressed sensingJ. Proceedings of the National Academy of Sciences of the United States of America, 2009, 106(45):18914-18919.SOM S, SCHNITER P. Compressive imaging using approximate message passing and a Markov-tree priorJ. IEEE