小波变换轻松入门

1、小波变换轻松入门第一节一个很简单的例子 还谈不上正式入门 但他具备了部分的思想x0,x1,x2,x3=90,70,100,70 为达到压缩 我们可取 （x0+x1）/2 （x0-x1）/2 来代表 x0,x1 这样 90,70 可表示为 80,10 80 即平均数 10 是小范围波动数（可想象出 一种波的形状）90,70 - 80,10 ,100,70 - 85,15可以想象 80 和 85 都是局部的平均值 反映大的总体的状态，是变化相对缓慢 的值，可以认为他们是 低频部分 的值；而 10、 15是小范围波动的值 局部变换较快 可以认为他们是 高频部分 的值。1. FIRST: 把90,70

2、,100,70写成 80,85,10,15 即把低频部分写在一起（ 记频率 L） 高频部分写在一起（ H）2. SECOND而80,85 又可经同样的变换- 82.5, -2.5 这样82.5表 示更低频的信息 （记频率 LL） -1.5 则表示了频率 L 上的波动3. 最后90,70,100,70 -82.5, -2.5, 10, 15 这样信息就可被压缩了（数字范围小了）这就是二级变换同样的你可以进行更高级的变换呵呵，很简单吧？现在再来扩展一下90,70 - 80,10写成矩阵90,70 * 1/2, 1/2 1/2 ,-1/2如果是 90,70,100,70第一步就可写成矩阵 M11/2

3、,0,1/2, 01/2,0,-1/2, 00,1/2,0, 1/20 ,1/2,0, -1/2M1=0.50000 0.500000.50000 -0.500000 0.50000 0.50000 0.50000 -0.5000第二步 只对低频 L 操作 高频不变 故可写成 M21/2, 1/2, 0, 01/2, -1/2, 0, 00, 0, 1, 00, 0, 0, 1M2=0.5000 0.5000000.5000 -0.50000000 1.0000 000 0 1.0000令M=M1*M2则可对4*4的点阵操作M=0.25000.25000.500000.25000.2500-0

4、.500000.2500-0.250000.50000.2500-0.25000 -0.5000同样 你可轻易写出 16*16 的点阵矩阵 试着对一幅图像操作一步步运算 看看其结果 第一步运算后 原图像缩小至左边一半了 右边的是对应波动信息 第二步运算后 图像又缩小至左边一半了 对应波动信息刚才我们仅仅对行变换，如果同时对列变换， 结果如何呢？ 自己试吧 ! 呵呵 方式 1 ： 对每一次行变换后对列变换 交叉进行方式 2： 对行变换后对列变换 独立进行 事物的不变性（或缓慢变化）和快速变化性 信息分离再分离第二节这一节中希望大家能多动脑子 呵呵 因为我懒得写很多东西 嘿嘿 不好意思了 接着看上

5、一节的变换90,70,100,70 82.5, -2.5, 10, 1582.5 即 4 个数的平均数 可画出其对应波形如 F.1 。其他数字对应相应波形 （请稍微思考 一下为什么及这些波形特点）好了， 思考后请画出 8个点阵的对应波形 （如是新手，一定要亲手作作） 以后我们将使用这些波深入学习 在这里我们称这些图形为波，与常见的正弦波sin（x）不同呵呵可能不习惯 我举几个重要特性：面积特性：保持变换前后能量不变（常如此，但非必须）F.3 - F.4平移特性 （可对不同部分使用同一操作）F.2 - F.3缩特性（将操作对象的尺度变大或变小）空间表示的信息完整性（最少用几个波就可以表示这个向量

6、呢，波表示的数的含义，波之间可以替换吗，有其他形式的波吗其他形式的波能用更少的数量来表示这个向量吗） 等好好思考了这些特性后，我们下一节将学习正交基，空间表示等F.2FlF.4第三节小波分析系列讲座第 3节，关于特征基、正交、完备特征基等相关内容。若一物体可用颜色和大小表示，我们称颜色和大小为特征基，构成此物体特征描 述空间。大小和颜色是互不相干的2种描述，我们称其为正交。同时若这些基的 能够完全表示所有物体， 我们称其为完备特征基。 若特征基完备且正交， 人们就 可以在特定特征上对比事物而不受其他特征上的信息干扰， 但由于人们的认知形 成过程，特征基并非完全正交。例：三唯空间的一个基的组合

7、1,0,0 0,1,0 0,0,1 是正交 完备； 1,0,0 0,1,0 0,1,1 完备 但不正交。 因为0,1,1 上的信息有一部分可以由 0,1,0再来看特征描述空间转换的性质：x1,x2,x3,x4 构成向量空间，若四元变量无任何约束，则转换到任意特征描述 空间，最少需要 4 个特征基才能完备描述。若 f（x1）-x2, g（x1）-x3 则我们可 用新的特征基x1,规则f and g, x4这样就只需要3个特征基就可完备描述，因 为特征基表现了物体特征，因而可以用更简洁的描述表示物体。那么在图象中 x1,x2,x3,x4 为何可被压缩呢， 他们也是自由变化的参数呀！ （想 想）呵呵

8、 虽然他们自由变化，但从自然图片邻近点的相关性，我们可知在大概率上x1,x2,x3,x4 相近（这样理论上只要 1 个 x1 就够了），于是我们用相应特征波 形将其压缩， 这样在大概率上数据就得到了压缩。 由于我们这种方法采取的特征 基，也决定了对突变边缘变换后的效果。 （大家可以试试，要多动手，呵呵，懒 人！简单分析就可得出对突变边缘变换后的特征效果，这样就可以检测突变）不知道大家画出 8 个点的波形了吗，我现在按频率称这些波形为 LLL,LLH,LH,LH,H,H,H,H（L:low frequence, H high frequence）First:4 L +4 H（ gx说明：第1步得

9、到4个低频、4个高频，下同）Second: 4 L- 2 LL + 2 LHTHIRD: 2 LL- LLL + LLH（gx说明：23=8,故分3步）现在请把他画成树的形状， 然后研究分辨率的关系和特征基的关系及特征空间的 关系。第四节本节，关于小波级数无限逼近函数等相关内容。呵呵 现在任给一函数 f（x） , 我们怎么知道小波级数可以无限逼近这个函数 呢？我们想象 任给 beta0, 可以将 f(x) 曲线按每 beta 长度分成很多小段， 对应很多 点八、若我们可以用一函数 g(x) 来拟合这些点， 那么 g(x) 和 f(x) 在任意 x 上的误差将 小于 beta.若点数量为2An个

10、 那么我们就可以分别用2A(n-1)个L波和2A(n-1)个H波拟 合然后可将 L 波再分解，最后得到一棵树 (分解的级数由你决定)(如果 f(x) 对应的点数为 2A(n+1), 那么我们需要在已有的基础上如何做呢) 这时可能有人感到奇怪，为什么要不停的分解下去 呵呵让我们看看1个L和相应1个H代表的意思，他代表很小的一段上的信息若是我们一眼看着这么多的小段信息(不画出其曲线)，我们可能就晕了小波变换的精髓就是： 对于变化平缓的信息 (对应低频信息) ，我们在大范围(尺 度)上观察对于变化很快的信息(对应高频信息)，我们在小范围上观察。想一想 我们的小波变换是不是代表这个意思呢 呵呵这也被称

11、为多尺度或多分辨率思想(说明 我在此说的 f(x) 可被拟合是要有一定条件的，严格的证明以后会给出) 现在我们将任一形状的波形经伸缩变换，平移变换 叠加后得到一曲线可以想象 若我们还用原来的波形来拟合它，明显没有用此波形来拟合它更好 这告诉我们小波的形状也不是固定不变的 它的形状的选取由你要分析的特征决 定例如 x1,x2,x3,x4 若知道 x2=2*x1 +/- error , x3=3*x1 +/- error,|error|2请你动手画出对应波形 并且注意怎样反变换回去(这点很重要)第五节本节，总结和离散傅里叶变换的不足及小波产生的原因。因生活流离落魄，好久未继续了，今天重看了一下以前

12、写的，发现实在太烂，又 不想重新来过，只好就此总结一下，呵呵。总结一下前面所讲的内容思想 任何一个事物都对应着多个描述空间 （从不同角度观察） ，每个描述空间都由自 身的特征描述基构成，若这些特征基可以描述出 S 中不同事物，则称特征基在 S 中是完备的。若这些特征基两两之间不相关， 则称其为正交。 当然完备并不要求 正交，正交的好处在于每个特征基上描述的信息和其他特征基不相关。 从而消除 了信息的冗余（部分重复）表示。- 描述空间也称描述域。不同特征基也有不同描述和运算规则。故此我们可以将事物在 A描述空间上的特征转为在B空间（也成变换域）的特征， 从而更符合于我们的观察或认知角度。传统的傅

13、里叶变换即是引入无穷余玄基和正玄基来无穷逼近L2 空间中的函数。因余玄基和正玄基的许多优秀性质而被广泛应用。在图像压缩中， 我们就是利用了图像数据的特性， 将其转化为符合其特性描述的 空间上，从而更好的描述了图像而达到压缩的目的。而自然图像的数据特性就是其中相邻的象素点的颜色在一个大的概率上相关， 否 则我们将要看到一片颜色乱变的点。对此，我们引入图像的频域的描述空间概念， 对于大范围内平缓变化的信息， 我 们称其为低频信息， 对于小范围内变化很快的信息， 我们称其为高频信息， 并将 这些信息对应频域上的数值。 低频和高频信息完全在于人为， 并不一定要有统一 形式。离散傅里叶变换即是这样一种变

14、换。 它以变化平缓的波来描述低频信息， 以变化 快速的波来描述高频信息。因自然图像相关性，故低频信息描述了整体的信息， 而高频信息描述了局部细节。 由此知，大部分高频信息的值应该在一个较小的范 围内，再结合其他特性，进行压缩。但傅里叶变换存在一些不足。 例如， 要想取得较好的低频信息， 我们需要相对较 长的变换窗口，而要想取得较好的高频信息，我们又需要较短的窗口。 （ 非常短 窗口的低频信息和非常长窗口的高频信息都几乎没什么很大的意义 ） , 这样就 引起一对矛盾。小波变换应运而生， 为了解决傅里叶变换的不足， 它就需要用长窗口来提取低频 信息，用短窗口来提取高频信息。那么它是如何做的呢？正如

15、第 0 节讲到的变换，它就满足了这个要求。它也就是 haar 小波变换。第六节本节，以图像来说明建立空间特征基和小波变换的关系。以图像来说明建立空间特征基和小波变换的关系设有一幅图像，从不同分辨率考察。 若我们离很远来看，可能会把每 64 个点看作一个点，若记此时构成的描述空间 为 V0.若走进一些，把 16 个点看作一个点，记此时构成的描述空间为 V1 若再走进一些，把 4 个点看作一个点，记此时构成的描述空间为 V2 若再走进一些，把 1 个点看作一个点，记此时构成的描述空间为 V3 则可知凡是 Vi 空间内可以描述的图像， Vi+1 空间内皆可描述 , 并且描述的更细 致故 Vi 包含于

16、 Vi+1 空间记Vi+1=Vi+Wi ,即Vi和 Wi构成Vi+1空间。（若 Vi丄Wi，贝U Wi为Vi的正交 补空间，实际应用中不要求一定正交。）（丄正交）则 Vi+仁Vi+Wi=Vi-1+Wi- 1+Wi=记 Pi 为图像在 Vi 空间的描述贝 Di= Pi+1 - Pi 就表示了图像在这两个描述空间的细节差异， 因为 Vi+1=Vi+Wi， 故Di为图像在Wi空间上的描述。即 Wi空间表述了细节差异。如果 Wi丄Wj,并 且在 Wj 空间中能找到一组正交标准基，其基本函数必是高（带）通的，就称其 为小波函数。Wi丄Wj正交，即为不同分辨率下的细节差异不相关，从而消除冗余。那么例子中

17、V3=W2+W1+W0+V0 相应得到 P3=D2+D1+d0+P0 即最清晰分辨率下的图像可以有不同分辨率下的细节差异和最高分辨率下的图 像合成而得由概率特性知细节差异在大范围内是一个较小的值。如果用上节所引入的频域概念来看，低频信息就是P0,高频为Di,这里的低频和高频就和傅里叶有稍微不同。 而从分析中，我们自然而然的知道随着频率的不同， 其数值对应的空间窗口大小也不同了。正好满足上节所说。呵呵，剩下的分析任务就是如何构造 Wi第七节本节，关于双尺度差分方程及滤波器等相关内容。在上节所讲的Vi+1=Vi+Wi中V就是尺度空间，即我们观察事物所采用的尺度， 也就是分辨率。W就是细节空间，即不

18、同尺度空间观察事物的差异。并且知道一幅图像=最低分辨率下图像 +不同细节空间的细节信息即 一幅图像=系数 * 尺 度基+系数*细节空间基 在Harr小波中若一个事物可用如下2个尺度基描述 （尺度相同， 位移不同） 记为 1 尺度 那么当我们用一个大尺度基描述时 （即取 平均），就会有一个失真 记为 0 尺度 此细节差异就对应描述基如下 （补空间基） 正如富里叶变换是将一个周期函数用无穷项正玄或余玄基逼近， 小波变换是将 个函数以小波基来逐级逼近。富里叶变换是以 ejwt 为核进行积分，小波变换以小波基为核进行积分 . 函数W(x) 为母小波，那么通过尺度变换和平移变换，可得到不同小波基记为 W

19、a,b=| a |-1/2 W( (x-b) /a ) 因为我们希望小波级数能无条件收敛。故母小波应满足1. 小波函数值的绝对值在整个R上是可积的L1函数空间即小波函数在无穷大处的值应该趋向于 0，保证收敛性2. 小波函数值的平方值在整个R上是可积的L2函数空间即小波函数的能量也是一个有限值，否则就将一个有限能量函数变换到无限能量级数上， 其级数很难收敛 当然 母小波和被变换函数还应该满足一些其他条件，以保证反变换存在，否则意义也不大。在实际应用中，我们经常使用离散的 2 进小波变换。即尺度是 2 j , 位移是 k Wj,k= 2 j/2 W ( 2 j x- k )构造二进小波函数和尺度函

20、数的方法 Vn 空间中，设 S (x) 是一个尺度基，则 S (x-k) 对应着不同位移的尺度基 ,所有这些尺度基 构成L2函数空间n尺度下的完备基。Vn+1空间中，S(2x)是一个尺度基，则 S(2x-k)对应着不同位移的尺度基,所有这些尺度基构成L2空间n+1尺度下的完 备基。如上Harr小波图n+1尺度是比n尺度更精细的空间，而Vn空间属于Vn+1 空间，故Vn空间中的基可用Vn+1空间中的基表示即 S (x)=刀Pk * S (2x-k) Pk是系数。 对应的有其补空间基 W (x)=刀Qk * S (2x -k) Qk是系数。 这 就是著名的两尺度差分方程，它说明了 Vn空间的基与W

21、n空间的基可由Vn+1空 间的基经过某种方式滤波产生(简单的说 就是可由Vn+1空间的基乘以不同系 数)。从而我们只需求出系数，就可以由尺度函数生成小波函数。(有些书上， 也把Vn称作小波)。此处再次思考一下概念，我们就更明白了多分辨率小波分析用不同尺度观察事物的思想。 其 对应滤波器图如下 通过2个滤波器P, Q将信号分解，然后通过其(逆)共轭滤波器P*, Q*进 行合成 . 所谓滤波过程可以简单的认为就是将信号乘以一些系数 例上述 harr 小波两尺度差 分方程为 S (x)= 1/2 * S (2x)+ 1/2 * S (2x-1) W (x)= S (2x) - S (2x-1) 对应滤波器系数如图就 很明了了。 P =1/2 , 1/2 Q =1, -1 P*=1, 1 T Q*=1/2, -1/2 T 依图所示，我们有如下关系 Sj-1 = Sj * P Dj-1 = Sj * Q Sj = Sj-1 * P* + Dj-1 * Q*对于双正交滤波器，信号 Sj-1 与 Dj-1不相关那么 P 应该可以无损的重构信号 ，