基于小波变换的独立分量分析在图像分离中的应用

1、基于小波变换的独立分量分析在图像分离中的应用陈艳（在读硕士，主要研究方向盲信号处理） 朱小会（在读硕士，主要研究方向污水处理） 姚毅（四川理工学院电信系教授，主要研究方向信号检测与智能信息处理、电磁场与微波技术）四川理工学院汇东校区18087信箱 邮编：643000 电话 要 该文提出了一种新的基于小波变换的独立分量分析方法对混合图像进行分离。研究表明，当各个源信号的概率密度分布相同时，自然梯度算法的稳态误差与源信号峭度成反比。因此，对峭度更大的小波域高频子图像进行独立分量分析可以获得更高的分离精度。同时混合图像在小波变换的过程中，可以利用小波阈值对混合图像进行去噪，

2、提高图像的信噪比。最后通过实验证明该方法是有效的。关键字 独立分量分析 小波变换 峭度 自然梯度算法文献标识码：A 中图分类号：TP3Abstract This paper proposes a kind of new Independent Component Analysis(ICA) method based on Wavelet transform and its application to image separation. According to the research, the steady-state error of the Natural Gradient Algor

3、ithm is inverse proportional to the kurtosis of the sources when the probability distribution function of each source is the same. In addition, in the wavelet transformation, it enhances picture the signal to noise ratio by using the wavelet threshold value to de-noise.Finally, the experiments resul

4、ts show that the proposed method is effective.Key words Independent Component Analysis (ICA), Wavelet transform, Kurtosis, Natural Gradient Algorithm1引言独立分量分析(Independent Component Analysis, ICA)是信号处理领域在20世纪90年代后期发展起来的一项全新的信号处理和数据分析方法。自Comon【1】提出ICA的理论框架以来，已有多种算法用于解决各类实际问题。Bell等人在1995年提出了基于信息极大传输原理的

5、独立分量提取算法最大熵（Infomax）算法【2】，此后Lee等人提出了扩展的Infomax算法【3】，Hyvarinen等人提出了采用批处理的固定点快速分离算法FastICA【4】，其中FastICA使得盲源信号分离技术实用化。其实ICA基本含义是将多道观测信号根据统计独立原则通过优化算法分解为若干独立成分，从而实现信号的增强和分解，在语音识别、通讯、图像处理、医学信号处理等领域尤其受到关注【5】。在实际应用中，由于测量信号往往是由若干独立源信号的线性叠加，并且常含有观测噪声。因此，将现有的ICA算法直接用于含有噪声观测信号，往往无法获得理想的分离结果。小波变换(Wave Transform

6、)是八十年代后期发展起来的应用数学分支，其理论及其实际应用正成为众多学科的热点，已广泛应用于图像处理、信号处理、语音识别等领域【6-7】。小波分析在时域和频域同时有良好的分辨性，利用多尺度分析方法，可以在不同的尺度下观测信号不同精度的局部特征。由于信号和噪声经过小波变换后的统计特性不同，从而在多尺度分析中呈现出不同的传播行为，利用这一特性采用小波门限去噪方法可以对有噪信号进行去噪【7-8】。另外结合文献【9】推导出：在各个源信号的概率密度分布相同时，ICA算法的精确度与源信号的峭度成正比。研究表明，小波域高频子图像的分布近似拉普拉斯分布，具有更大的峭度【10】。根据上述的特性，本文提出了基于小

7、波变换的独立分量分析对含噪混合图像分离的方法。这里使用小波变换有两个目的，第一是采用小波变换对含有噪声的混合图像进行消噪处理；第二是利用小波域高频子图像的分布近似拉普拉斯分布，具有更大的峭度使算法具有更小的误差。2独立分量分析算法原理21独立分量分析模型假设存在个相互独立的未知源信号，通过某个未知的待检测分析系统后线性叠加在个传感器上接收到的观测信号 。已经证明：在 的条件下，如果源信号不含一个以上的高斯过程则存在混合矩阵，使。噪声环境下传感器接收的线性混合图像系统模型为 (1)其中是一个维的矩阵，源信号和混合矩阵都是未知的，只有混合后的可以观测到，为维加性高斯白噪声，一般设。ICA算法的基本

8、思路在于求解一矩阵，使其作用于观测信号所得估计信号 （2）进而可得，在统计独立的意义下最逼近于未知源信号，即要找到矩阵使得信号的各个分量尽可能相互独立。为此需要建立一个合适的目标函数，再采用某种优化算法分离源信号。目标函数可取各个源信号间的高阶统计量、互信息熵或最大似然算法【11】，优化算法则可采用牛顿迭代法、基于神经网络的自适应算法、随机梯度法、自然梯度算法等【12】。本文采用最大熵算法是根据常规的随机梯度法求解矩阵，算法的目标判据为独立分量通过非线性环节后信息熵极大，其迭代公式为 （3）其中为学习率，为每次处理的向量的个数，与源信号的分布及其假设有关，根据不同的情况有多种选取方法。由于算法

9、中涉及矩阵求逆，而且收敛速度慢，Amari在随机梯度的基础上提出了自然梯度学习算法【13】，避免了矩阵求逆，加快了收敛速度。据此，其迭代公式为： （4） 22实现源信号分离时解的精确度分析本文将讨论得到的与源信号差异，以及这些差异取决于哪些因素，从而证明自然梯度算法的精确度与源信号的峭度成正比。本文首先介绍峭度的概念。峭度（kurtosis）是对一个随机变量非高斯性的量度。假设一个零均值的实随机信号的概率密度函数为，那么其峭度定义为 （5）在实际盲源分离中用的就是这个算子。由于源信号是零均值，单位方差的情况下，,因而上式就变为 （6）设由自然梯度迭代公式得到分离矩阵为，理想情况下是,但是实际情

10、况下自然梯度算法收敛到的最优解仍与理想最佳解有偏差，如果设是一个维偏差矩阵。则 （7）若，则，即分离信号与源信号完全一致。若，则二者不一致，越大，则的成分在中所占比重越大，即信号对恢复后的信号的干扰越严重。，称为污染系数。下面将说明，是均值为的随机变量，只要求出它的均方误差就能衡量自然梯度算法的精确度。文献【9】指出当各个源信号具有相同的概率密度函数时，的均方误差和的表达式为： （8）其中 （9） （10）对于超高斯信号（峭度大于），通常取非线性函数，所以就有。将按幂级数展开，得 （11） （12）由于，进而 （13）将（13）式代入（10）式可知，因此式（8）就可以得到其近似值为： (14)

11、将式（11）和（12）代入式（9）得到： (15)由信号源的峭度为，将此式代入式（14）得到： （16） 由此可以看到，当各个源信号的概率分布相同，时，信号源的峭度越大时，所得解的精确度越高。3小波阈值去噪由于小波变换具有低熵性、多分辨性、去相关性和选基灵活性的特点，使得小波变换成为特征提取和低通滤波功能的综合，相当于对信号同时进行低通和高通滤波，其低频系数主要反映信号信息，而高频系数主要反映噪声和信号的细节信息。对非平稳含噪信号进行多层小波分析，并对每层高频分解系数进行域值处理后再合成，可有效地达到滤除噪声和保留信号高频信息地目的。小波门限法去噪是基于小波变换多分辨分析的一种方法。有噪信号经

12、过小波变换的多分辨率逐级分解，噪声细节信号的幅度随着小波变换尺度的增长而不断减小，但有用的小波变换系数与尺度的关系则不同，在多尺度分析中呈现出不同的统计特性。据此利用有噪信号小波变换的这一特性，可以选择阈值门限对含噪混合图像进行消噪。由于图像是二维信号，再应用小波变换对图像进行处理时采用二维小波变换。图像消噪的主要目的是在平滑噪声的同时尽可能地保留原始图像的重要特征。二维小波分析对图像消噪地步骤如下：1） 选定一个小波并确定一个小波分解的层次N，然后对图像进行N层小波分解；2） 对于分解的每一层，选择一个恰当的阈值，并对该层高频系数进行软阈值量化处理；3） 根据小波分解后的第N层的低频系数和经

13、过阈值量化处理后的各层高频系数，来计算二维信号的小波重构。4基于小波变换的独立分量分析方法通过对ICA算法的分析可知，ICA算法取得成功的关键在于对源信号的概率密度作出正确的假设，并根据源信号的概率密度的估计来选择合适的非线性函数，使之尽量符合源信号的概率分布。该方法的缺点是如果对源信号的概率密度估计不准确的话，会严重影响ICA算法的性能。本文从源信号的概率密度出发来改善ICA的性能，提出了一种基于二维小波变换的采用自然梯度算法作为学习算法的独立分量分析方法。研究表明，近高斯分布的自然图像在小波域高频子带的分布近似为超高斯的拉普拉斯分布。结合前面的讨论，根据文献【9】如果将混合图像变换到二维小

14、波域，并对峭度更大的高频子图像进行ICA分解，就可以获得更高的分离精度。此外，由于高频子图像的大小为源图像的，因此ICA分离的计算量大大减少，算法收敛的速度会更快。由于小波变换似一个线性变换，对式（1）和式（2）的两边分别进行小波变换可得： (17) （18）其中表示小波变换。由此可见，如果我们将、和分别当作新的源信号、混合信号和分离信号，则时域的混合矩阵和分离矩阵与小波域是一致的。因此在小波域得到的分离矩阵可直接用来分解原混合信号，从而得到原始信号，不需对小波域分离信号求反变换。本文采用基于小波变换的独立分量分析方法进行含有噪声的混合图像分离的具体步骤如下：（1）的每一行代表一幅混合图像，将

15、的行还原成幅混合图像，分别进行二维小波变换得到幅子图像，其中幅为低频子图像，3幅为高频子图像；（2）选择某一方向（水平，垂直或对角方向）的幅高频子图像，将其按行堆叠成矩阵形式，采用自然梯度算法对进行ICA分解，得到分离矩阵和行向量相互独立的分离图像矩阵；（3）分离矩阵乘以时域混合图像矩阵得到时域分离矩阵，将的每一行都还原成二维的图像形式就可以得到幅独立的源图像。通常图像的概率分布为近似高斯分布，而小波域高频子图像近似为拉普拉斯分布，拉普拉斯分布是一种超高斯分布，具有更大的峭度。所以该算法具有更高的分离精度和更快的收敛速度。5仿真实验及分析本文取标准图像Lena、rice、testpat，将它们

16、按逐行的方式转化为相应的3个一维信号，在随机混合后加入高斯白噪声，得到混合噪声图像。采用两种方法对其进行处理：第一种，直接对观测信号进行独立分量分析；第二种，先对各路观测信号进行小波变换，再进行独立分量分析。 图（1）源图像图（2）高斯白噪声混合图像图（3）第一种方法所获得的图像图（4）第二种方法所获得的图像对比图（3）和（4）中两种方法所分离出的图像，主观上可以看出第二种方法所获得图像效果要好于第一种方法。以客观评价标准对分离结果进行分析对比，分别计算分离图像的峰值信噪比（PSNR）、以及与源图像的相关系数，结果如表1所示。表1 采用两种方法分离图像的PSNR和相关系数PSNR相关系数第一种

17、方法第二种方法第一种方法第二种方法Lena.jpeg38693751.8632071250.9316rice.jpeg29691347.8916070590.9227Testpat.jpeg37396545.1573082870.9413对像素为的图像，其定义为 （17）式中，和 分别为标准图像与待评价图像的第()个像素的灰度值。由上述实验结果可知，第二种方法与第一种方法比较，峰值信噪比都有很大的提高，同时相关系数也有不同程度的提高。由此可见，本文所提出的小波变换和独立分量相结合的方法取得了令人满意的含噪混合图像分离效果。6结束语 本文根据小波域高频子图像具有更大峭度的特点，提出了基于小波变换

18、的独立分量分析对含噪混合图像分离的方法。文中首先介绍了独立分量分析算法思想和小波变换的方法，然后详细阐述了具体分离方案，通过实验和结果分析说明了本文方法的有效性，并得出以下结论：在各个源信号的概率密度分布相同时，ICA算法的精确度与源信号的峭度平方成正比。 1Comon P. Independent component analysis，A new conceptJ。Signal Processing，1994,36（3）:2873142Bell A J，Sejmowski T J。An information-maximization approach to blind separation

19、 and blind deconvolutionJ。Neural Computation，1995,7(6)-11593Lee T W，Girolam M，Sejnowski T J et al。Independent component analysis using an extended infomax algorithm for mixed subgaussian and supergaussian sourcesJ。Neural Computation，1999,11(2):417-4414Hyvarinen A，Lja E et al。A fast fixed-point algorithm for independent component analysisJ。Neural Computation，1997,9(7):1483-14925Hyvarinen A。Survey on Independen