小波与多分辨率分析

1、1 小波分析 深圳大学信息工程学院 小波与多分辨率分析小波与多分辨率分析 wavelet and multiresolution analysis 信息工程学院信息工程学院 纪震纪震 dr. ji zhen faculty of information engineering, shenzhen univ. sept.,2000 2 信号分析工具信号分析工具 41822年fourier变换,在频域的定位最准确，无任何时域定位能力。 4 函数，时域定位完全准确，频域无任何定位能力 41946年gabor变换，stft，窗函数的大小和形状与时间和频率无关而保 持固定不变。不构成正交基。 41982

2、年burt提出金字塔式图像压缩编码，子带编码(subband coding),多采 样率滤波器组(multirate sampling filter bank). 41910年harr提出规范正交基。 41981年stormberg对harr系进行改进，证明了小波函数的存在。 41984年,morlet提出了连续小波 41985年,meyer,grossmann,daubecies提出离散的小波基 41986年,meyer证明了不可能存在时域频域同时具有正则性的正交小波基， 证明了小波的自正交性。 41987年,mallat统一了多分辨率分析和小波变换，给出了快速算法。 41988年，daub

3、ecies在nsf的小波专题研讨会进行了讲座。 小波分析 深圳大学信息工程学院 3 小波的应用 4j.morlet，地震信号分析。 4s.mallat，二进小波用于图像的边缘检测、图像压缩和重构 4farge，连续小波用于涡流研究 4wickerhauser，小波包用于图像压缩。 4frisch噪声的未知瞬态信号。 4dutilleux语音信号处理 4h.kim时频分析 4beykin正交小波用于算子和微分算子的简化 信号处理、图像处理、模式识别、语音识别、量子物理、地震勘探信号处理、图像处理、模式识别、语音识别、量子物理、地震勘探 流体力学、电磁场、流体力学、电磁场、ct成象、机器视觉、机械

4、故障诊断、分形、数值计算成象、机器视觉、机械故障诊断、分形、数值计算 小波分析 深圳大学信息工程学院 4 软件包 4math works:wavelet toolbox 4standford: wave tool 4yale:wplab 4mathsoft:s+wavelets 4aware:wavetool 4rice: wavelet toolbox 小波分析 深圳大学信息工程学院 a.brice, d.donoho, h.y.gao, wavelet analysis, ieee spectrum, 33(10),1996 5 距离空间距离空

5、间 r n dttytxyx nr z c r z )()(,内积 为欧氏空间表示 表示正整数集合 表示复数集合 表示实数集合 表示整数集合 为距离的距离空间。为以之间的距离，和为则称 有三角不等式： 对称性： 时，当且仅当非负性： 而且满足都对应一个实数是任一集合，设 ),(),( ),(),(),(,. 3 ),(),(. 2 . 0),(0),(. 1 ),(, yxxyxyx yzzxyxxzyx xyyx yxyxyx yxxyxx 距离空间距离空间 常用的距离空间常用的距离空间 22/1 1 2 2 1 21 2 2 22/1 2 2 2 2 2/1 2 1 21 ,)(),( :

6、 ),( . 4 )(,)()(),( )(: )()( )(. 3 ,;,)()(max),( ,)(: )(, ,. 2 )(),(, .),( . 1 lyxyxyx xxxxxl l rlyxdttytxyx dttxtxrl rl bacyxbattytxyx batxtxbac bac yxyxryx xxxxn rn i ii i in r r n i ii n n n 定义距离 平方可和离散序列空间 定义距离 能量有限空间平方可积函数空间 定义距离 上的连续函数是 连续函数空间 定义距离 的全体所组成的集合维向量 维欧氏空间 小波分析 深圳大学信息工程学院 6 函数空间 小波分

7、析 深圳大学信息工程学院 来定义其长度。量，用范数对于线性空间的任一向 结合律及分配律。并且满足加法或数乘的 运算），素的加法和元素的数乘中定义了线性运算（元是任一非空集合，在设 x xx 线性空间线性空间 线性赋范空间线性赋范空间 xyyx yxyxxyxxxrxxx xxxx ),( ,. 3,. 200, 0. 1 , 距离定义为 时，当且仅当 与之对应，满足存在非负实数为一线性空间，设 banach空间空间 空间。为完备的线性赋范空间称 中，该空间为完备的。都在都有极限，并且此极限中的任一序列设空间 banach xxx zii hilbert空间空间 空间完备的内积空间称为 ，距离称

8、为内积空间。范数中的内积，为称 时当且仅当 ，满足，中定义了函数到，从为复数域上的线性空间设 hilbert yxyxyxxxxxx xxxxx zyzxzyxc zyyx xzyxcxxx ,),(, . 0,0, 0,. 3 ,. 2 ,. 1 , 7 基底基底 小波分析 深圳大学信息工程学院 张成张成span k kk k k k kkk kk teatgxtg espanx texzkratteax texte )()(,)( )(,);( )()( 有即 张成的线性空间：为由序列称 成的集合，即所有可能的线性组合构表示为为一个函数序列，设 基底基底 为空间的基底是唯一的，称式系数是线

9、性无关的，使得上如果 zkkkk teate )()( 正交正交 yxyxyxxyx正交，记作与称中的两个元素，若为内积空间, 0, 标准正交系标准正交系中的标准正交系为空间，则称满足：内积空间中元素列xe nm nm eee nnmn 1 0 , 完全的标准正交系完全的标准正交系 . 0,xexznxxex nn ，必有若，中的标准正交系内积空间 双正交基双正交基 对偶系之间。正交性体现在展开系和 但是满足不一定满足正交关系，基底)()( ),(kltetee kln 8 hilbert空间 小波分析 深圳大学信息工程学院 1 1 22 ,. 4 ,. 3 . 2 .1 , 2 , 1;),

10、 2 , 1( n nn n n n nn eexxxx exxxx xm xe nespanmhilbertne 的完全标准正交系是 则四个条件等价空间的标准正交系，为设 1 )(),()( n nn etetxtx parseval 的形式：表示为一个付里叶级数空间的任意元素均可以 一种正交系，则的本质联系。只要找到定理和付里叶展开之间完全标准正交系、 9 框架及紧框架框架及紧框架 frame ,( , 1.cwt系数具有很大的冗余，计算量比较大 2.利用冗余性可以实现去噪和数据恢复的目的。 重建核方程 daakaw a da aw ff ),;,(),(),( 00 0 2 00 14

11、常用的连续小波常用的连续小波 小波分析 深圳大学信息工程学院 morlet wavelet morl(x) = exp(-x2/2) * cos(5x) no orthogonal, no biorthogonal,no compact support effective support=-4 4, symmetry -5-4-3-2-1012345 -1 -0.8 -0.6 -0.4 -0.2 0 0.2 0.4 0.6 0.8 1 morlet wavelet -5-4-3-2-1012345 0 2 4 6 8 10 12 14 fft of morlet wavelet morlet小

12、波是一种复数小波，时频均具有很好的局部性。 15 mexican hat wavelet mexh(x) = c * exp(-x2/2) * (1-x2)where c = 2/(sqrt(3)*pi1/4) no orthogonal, no biorthogonal,no compact support effective support=-5 5, symmetry 常用的连续小波常用的连续小波 小波分析 深圳大学信息工程学院 -5-4-3-2-1012345 -0.5 0 0.5 1 mexican hat wavelet -5-4-3-2-1012345 0 2 4 6 8 10

13、12 14 16 18 fft of mexican hat wavelet mexican hat小波是gaussian二阶导数， 时频均具有很好的局部性。 16 小波分析 深圳大学信息工程学院 daubechies wavelet general characteristics: compactly supported wavelets with extremal phase and highest number of vanishing moments for a given support width. associated scaling filters are minimum- p

14、hase filters. orthogonal,biorthogonal,compact support support width 2n-1, no symmetry 常用的正交连续小波常用的正交连续小波 051015 -0.3 -0.2 -0.1 0 0.1 0.2 0.3 0.4 0.5 8th order daubechies wavelet 051015 0 0.2 0.4 0.6 0.8 1 1.2 1.4 17 常用的正交连续小波常用的正交连续小波 小波分析 深圳大学信息工程学院 meyer wavelet general characteristics: infinitely

15、 regular orthogonal wavelet orthogonal,biorthogonal,no compact support effective support=-8 8,symmetry -8-6-4-202468 -0.2 0 0.2 0.4 0.6 0.8 1 1.2 meyer wavelet 010203040506070 0 0.5 1 1.5 2 2.5 3 3.5 4 fft of meyer wavelet meyer小波是在频域具有紧支集和任意阶正则性， 时频缺乏很好的局部性。 18 symlets wavelets general characterist

16、ics: compactly supported wavelets with least assymetry and highest number of vanishing moments for a given support width. associated scaling filters are near linear-phase filters. orthogonal,biorthogonal,compact support(width 2n-1) near symmetry 0246810121416 -0.2 -0.1 0 0.1 0.2 0.3 0.4 0.5 0.6 syml

17、ets wavelet 0246810121416 0 0.2 0.4 0.6 0.8 1 1.2 1.4 fft of symlets wavelet 常用的正交连续小波常用的正交连续小波 小波分析 深圳大学信息工程学院 19 离散小波变换(discrete wavelet transform) 小波分析 深圳大学信息工程学院 )()( )()( )()()( 1, , , 00 2/ 0 0 00 2/ 0, 0000 tcctf dtttfc ktaa a kat at azjkaaaa kjkj kjkj jj j j j kj jj 逆变换为 离散化的小波系数为 ，分别离散化，取和平

18、移参数参数在连续小波中，将尺度 二进小波二进小波dyadic wavelet（数学显微镜（数学显微镜） 。二进小波仍然是冗余的 不会破坏平移不变性。平移保持了连续变换，对尺度进行了离散化， 取 . 2 . 1 )()( 1, 2 0 2/ 0, 00 ktaat ba jj kj 20 尺度空间和尺度函数尺度空间和尺度函数(scaling space) 小波分析 深圳大学信息工程学院 k j kk j kj j j k j k jj kj k kk k k kk k tatfvtf zktspanv vtj tktt tatfvtf zktspanv vrlt kktt kttrlt )2()

19、(,)( ),2( )2( )2()2(2)( , )()(,)( ),( ,)()( )()(),( )()()()( 0 2/ , 0 0 0 2 2 有任意 ，可以张成空间，固定 得到伸缩对于尺度函数进行尺度 有任意 称为零尺度空间空间张成一个之空间在定义由 满足移系列为尺度函数，其整数平定义函数 尺度尺度j越大，尺度函数定义域变大，实际平移间隔也变大，越大，尺度函数定义域变大，实际平移间隔也变大， 不能反映函数（小于该尺度）的细微变化。不能反映函数（小于该尺度）的细微变化。 21 多分辨率分析多分辨率分析(multi-resolution analysis) 小波分析 深圳大学信息工程

20、学院 的正交基。是子空间的正交基，则是如果 的正交基，即是使得正交基存在性：存在 平移不变性： 伸缩规则性： 渐进完全性： 一致单调性： 间系列性质的一系列子空多分辨率分析是指满足 j jj nj r j j zj j zj j j vnttvnt mndtmtntznntspanv vntv znvntfvtf zjvtfvtf rlvv vvv zjv )2(2)()( )()()(,),( )(,. 5 ,)()(. 4 ,)2()(. 3 )(;0. 2 . 1 , 2/ ,0 0 00 00 0 2 012 v0 v1 v2 的正交基。不能构成所以 正交性。在不同的尺度下不具有空间相

21、互包含， )()( )2(2)(, 2 , 2/ , rlt nttzjv znjnj jj njj 22 小波函数和小波空间小波函数和小波空间 小波分析 深圳大学信息工程学院 ）。的小波空间（细节空间称为尺度为称为小波函数， 的一组正交基。构成了整个集合 的一组正交基为空间，所有 ，那么满足允许条件的一组正交基为空间设 存在 。的一系列的正交子空间构成了，所以 是相互正交的。即和任意 中补空间，即在为设 jwt rlzkzj wzkzj twzk wtfwtf rlwwrl nmwwww vvwwvwvvvvw j kj jkj k j j zjjj zj nmnm jjjjjjjjjjj

22、)( )(,; ,; )(; )2()( )()( , , 2 , , 0, 0 0 22 111 v0 v1 v2 w1w2 s w1v1 w2v2 23 小波分析 深圳大学信息工程学院 小波函数和尺度函数的性质小波函数和尺度函数的性质 poisson公式： 0)2()2( )()()(,);(),(. 2 1)2( )()()()(. 1 21 212211212211 2 2121 k r k r kfkf kkdtktfktfzkkktfktf kf kkdtktfktfzkktf 那么频域表示为 ：是两组正交的函数集合设 那么频域表示为 集合：是一组正交规一的函数，设 小波函数和尺度

23、函数满足小波函数和尺度函数满足 0)2()2(. 3 1)2(. 2 1)2(. 1 2 2 zk zk zk kk k k 24 双尺度方程双尺度方程 小波分析 深圳大学信息工程学院 之间的内在联系。和 的基函数和函数、相邻尺度空间和相邻尺度空间双尺度方程描述了两个 kjkjkj jjjj wvvv , 1 11 , ) 2 () 2 ()( ) 2 () 2 ()( )()()( )()()( ,)(,)( )2()(2)()()( )2()(2)()()( )()()( 1 0 , 110, , 100, , 11, 10 1, 11 0, 10 , 111010 h h tkht tk

24、ht khkh ktkhtkht ktkhtkht tvttvwvv k kjj k kjj kk kk k kk k k 频域表示为 双尺度方程 其中 来线性表示。空间，可以用也属于，所以，由于 25 滤波器系数滤波器系数h0(k)和和h1(k)的性质的性质 小波分析 深圳大学信息工程学院 110 1010 2 1 2 1 2 0 2 0 10 11 00 2 01 1 0 1010 10 ) 1()()(. 6 0)()()()( 1)()( 1)()( . 5 0)2(),2( )()2(),2( )()2(),2( . 4 ) 2 () 2 ()(, ) 2 ()(. 3 )()(0)

25、0(, 1)0(. 2 0)(,2)(. 1 k k kkk j j j j kk hggkhhkh hhhh hh hh lnhknh lklnhknh lklnhknh hhh hhhh khkh ，则，令 频域关系 正交关系 递推关系 相当于高通滤波器。相当于低通滤波器， 26 正交小波变换的正交小波变换的mallat快速算法快速算法 小波分析 深圳大学信息工程学院 mj m mj m kj mj m kj mj m kj r jj kjkj r jj kjkj dmkhcmkhcmallat ckmhd ckmhc mallat dtkttfttfd dtkttfttfc ,1,0,

26、1 ,1, 1 ,0, 1 2/ , 2/ , )2()2( )2( )2( )2(2)()(),( )2(2)()(),( 塔式快速重建 塔式快速分解 cm+2cmcm+1 dm+1dm+2 cm+2cmcm+1 dm+1dm+2 (a)分解 (b)重建 27 离散信号的多分辨率分析与正交小波变换离散信号的多分辨率分析与正交小波变换 小波分析 深圳大学信息工程学院 对应的滤波器为 mj m kj mj m kj ckmhd ckmhc ,1, 1 ,0, 1 )2( )2( mj m mj m kj dmkhcmkhc ,1,0, 1 )2()2( c0,k h0(-k)2 c1,k c0,k h1(-k)2 d1,k 双双通通道道滤滤波波器器组组 2h0(k) c1,k c0,k d1,k 2h1(k) + )(h 2 4 8 w0w1 w2v2 频域的剖分 28 双通