多模态医学影像配准与融合技术的研究葛雯PPT课件

1、主要内容基于PCNN的图像融合算法总结与展望基于小波变换的图像融合算法基于BP的特征级图像融合算法医学图像配准算法课题背景第1页/共46页一、课题背景由于医学图像仪器的成像机理的不同，使得不同模态的医学图像反映人体信息不同，从单一源图像是无法对病人进行全面诊断。图像配准和融合能将多模态的图像信息进行互补，融合成一幅新的影像。目前医学图像融合技术还处于起步阶段，故本文针对多模态医学图像的融合方法及配准算法方面展开研究。第2页/共46页二、医学图像配准算法 医学图像配准的定义：是寻求两幅图像间的几何变换关系，通过这一几何变换，使两幅医学图像上的对应点达到空间上的一致，这种一致是指人体上的同一解剖点

2、在两张匹配图像上具有相同的空间位置。 第3页/共46页 最大互信息配准方法的基本思想 在多模医学图像配准中，基于两幅图像中的相同目标在空间上对齐时相关性最强，对应像素灰度的互信息达到最大，从而可以根据最大互信息的位置找到最佳配准。 缺点：由于互信息函数不是分布良好的凸函数，从而导致误配准，同时计算量较大，耗时较长。 第4页/共46页输入图像提取图像的边缘特征信息计算特征点集合的互信息归一化处理 配准提取的特征图像优化搜索根据配准参数配准原图像采用基于Canny算子和小波提升变换的边缘检测方法采用归一化互信息为测度采用改进的鲍威尔算法，寻找最大归一化互信息的位置改进算法的流程图第5页/共46页

3、仿真实验 (a)CT图像 (b)MRI图像 (c) 最大的互信息配准法 (d) 所提方法第6页/共46页CT/MRI图像各配准方法的配准参数及性能比较 传统的互信息配准方法传统的互信息配准方法所提方法所提方法RMSE19.4315.32R0.92160.9812水平和垂直偏移量水平和垂直偏移量（9.02 8.52）（9.93 9.56）角度偏移量角度偏移量9.5979.960第7页/共46页三、基于小波变换的图像融合算法小波变换具有良好的时频局域化特性及多尺度分析能力,非常适合于图像处理。基于小波变换的影像融合算法被广泛应用于图像融合处理中，其性能优于传统的图像融合方法。 第8页/共46页（一

4、）基于可分离小波变换的图像融合算法具体步骤：l对待融合的医学源图像分别进行小波变换分解；l对于尺度系数，使用下式合并医学源图像对应的尺度系数； 1 122FLLL(3.1)第9页/共46页l对于小波系数，首先使用下式确定医学源图像高频分量的边缘点和非边缘点，保护边缘点对应的小波系数；12iiEEE2()()iim,nwEP m,n(3.2)(3.3)()(1BfBfMG(3.4)第10页/共46页l对非边缘点用式(3.5)进行小波系数融合。然后用式(3.6)获得融合图像的小波系数。 ),(),(),(22121211jiDjiDjiDHF(3.5)2max1max2max1max22max1m

5、ax12max1max21,),(,),(,),(),(),(max(),(hhhhjiDhhhhjiDhhhhjiDhhhjiDjiDjiDHFF(3.6)第11页/共46页l将融合图像的小波系数和尺度系数进行小波逆变换，即可得到重构后的医学融合图像。 v仿真实验 (a) CT图像 (b) MRI图像 (c)拉普拉斯金字塔 融合算法第12页/共46页(d)梯度金字塔融合 (e)形态学金字塔融合 (f)小波变换融合算法 算法 算法(g) 所提算法第13页/共46页CT/MRI实验结果的质量评价拉普拉斯金字拉普拉斯金字塔融合算法塔融合算法梯度金字塔融梯度金字塔融合算法合算法 形态学金字塔形态学金

6、字塔融合算法融合算法 小波变换融合小波变换融合算法算法 所提算法所提算法信息熵信息熵 10.911212.678512.835214.264617.5947平均交叉熵平均交叉熵 7.83255.37265.14624.52163.2514平均梯度平均梯度 31.589233.012335.542837.256739.5492相关系数相关系数 0.598450.60520.616430.640300.7067第14页/共46页低频分量的融合规则 MRIFMRICTCTMRICTMRI=+fCTfffffHHLLLHHHHMiNjijijfPPH112log11( , )/( , )MNijijP

7、I i jI i j(3.7)(3.8)(3.9)（二）基于不可分离小波变换的图像融合算法第15页/共46页l高频分量的融合规则 亮度信息 细节信息 MmNnNnjMmifNMjiI11)21,21(1),(1111111( , )(,)2211(,)22 MNMNmnmnMND i jf imjnMNf imjn)211,211(NnjMmif(3.10)(3.11)第16页/共46页MRIMRICTCTCTFMRIMRIMRICTCT( , )( , ),( , )( , )( , )( ,j),( , )( , )HIi jIi j Di jDi jHHIi jIiDi jDi jMRI

8、MRICTCT( , )( , ),( , )( , )Ii jIi j Di jDi j或MRIMRICTCT( , )( , ),( , )( , )Ii jIi j Di jDi j当FMRIMRICT1CT2()HHK HHK H),(),(/(),(1jiKjiKjiKKDII其中， ， 调节CT/MRI图像的占优比例 1K2K(3.12)(3.13)(3.14)第17页/共46页MRIMRICTCTMRIMRICTCT( , )/( , )( , )( , )( , )/( , )( , )( , )DDi jDi jDi jDi jKDi jDi jDi jDi j因子 调节图像

9、的亮度 MRIMRICTCTCTMRIMRIMRICTCT( , )/( , )( , )( , )( , )( , )/( , )( , )( , )( , )Ii jIi jIi jIi jIi jIi jIi jIi jIi jIi j(3.17)(3.18)MRIMRICTCTMRIMRICTCT( , )/( , )( , )( , )( , )/( , )( , )( , )IIi jIi jIi jIi jKIi jIi jIi jIi j(3.16)2( , )/( , )( , )DIDKKi jK i jKi j(3.15)第18页/共46页通过调整这些因子可以消减模糊边缘

10、，突出细节并调节图像的亮度对比度。在临床应用中，为了得到强调不同特征信息的图像，医生既可以根据上面公式计算它们，也可以根据经验手动设定这些参数。 因子 决定图像的边缘MRIMRICTCTCTMRIMRIMRICTCT( , )/( , )( , )( , )( , )( , )/( , )( ,)( , )( , )Di jDi jDi jDi jDi jDi jDi jDi j)Di jDi j(3.19)第19页/共46页v仿真实验 (a) CT图像 (b) MRI图像 (c)对比度金字塔融合算法(d)基于像素融合算法 (e)基于区域融合算法 (f)所提算法第20页/共46页CT/MRI实

11、验结果的质量评价对比度金字塔对比度金字塔融合算法融合算法基于像素融合基于像素融合算法算法基于区域融合基于区域融合算法算法所提算法所提算法平均交叉熵平均交叉熵6.34236.02653.46242.0598标准差标准差12.89655.37265.146219.9356平均梯度平均梯度 41.675242.125645.326948.5486相关系数相关系数 0.48410.51660.61230.7964第21页/共46页l基于区域模糊熵和区域亮度细节占优的融合算法设计 112F212( )( )( )( )KKKKLHxHxLLHxHx1( )(x )2nijijKi M j NHxSMNl

12、n(3.20)(3.21)第22页/共46页v仿真实验 (a) CT图像 (b) MRI图像(c)对比度金字塔融合算法 (d)基于像素融合算法第23页/共46页 (g)所提算法(e)基于区域融合算法 (f)模糊集和小波变换 融合算法第24页/共46页CT/MRI实验结果的质量评价对比度金字塔对比度金字塔融合算法融合算法基于像素融合基于像素融合算法算法 基于区域融合基于区域融合算法算法 模糊集和小波模糊集和小波变换融合算法变换融合算法 所提算法所提算法平均交叉熵平均交叉熵9.01438.23266.45785.02313.4956标准差标准差26.312428.657130.98744.5216

13、35.2587平均梯度平均梯度 36.234538.562140.897237.256745.1789相关系数相关系数 0.47580.49320.52340.640300.7671第25页/共46页四、基于PCNN的图像融合算法小波变换方法针对性都很强，根据不同情况采用不同的融合规则。基于神经网络方法对输入不同类型的图像得到的融合结果不会有很大差别，且其融合规则往往简单易行，故基于神经网络的融合算法适应性要更好一些。因此将具有生物学背景的PCNN神经网络应用到医学图像融合中。 第26页/共46页具体融合步骤：1、对每一幅医学图像分别进行两层小波提升分解，提取图像的近似细节、水平、垂直、对角方

14、向的小波系数矩阵。2、对低频和高频子图像分别采用改进的PCNN网络，PCNN网络大小与相应子图像大小相同，每个PCNN内的所有神经元均采用8邻域连接方式。3、将来自医学图像A和B的子图像分别输入相应的PCNN网络，并按照如下步骤进行融合处理： 第27页/共46页(1)初始化。设 和 分别表示第k对子图像中像素(i,j)的灰度值，将其归一化到01范围内，令内部链接输入矩阵、内部行为矩阵和阈值矩阵的初值分别为: ， ，此时，所有神经元都处于熄火状态: ，Nmax为最大迭代次数，点火时刻记录矩阵 ；(2) 根据下式计算 ， ， 和 ；,kA ijI,kB ijI(0)(0)0kkijijLU(0)1

15、kij(0)0kijY(0)0kijT( )kijL n( )kijUn( )kijn( )kijYn第28页/共46页( )( )(1)( )( )*(1( ),:( )( )( )0,( )exp()(1)( ) kkijijkijijklklk,lkkkijijijkkijijijkijkkkijijijFnIL nMYnUnFnL nif UnnYnotherwisennV Yn1,1aii1,1bjj其中： ijIK*ijIK或 (4.1)第29页/共46页(3)累计网络每次迭代运行的输出:(4) 重复步骤(2)和(3)直到，此时网络迭代运行停止；(5) 根据下式选择融合图像的小波系

16、数: ( )(1)( )kkkijijijTnTnYn,max,max,max,max,max,max,max,max,max( , )( , ),()()2( , )( , ),()(),()()( , ),()(),()k CTk MRIkkij CTij MRIkkkkk Fk CTij CTij MRIij CTij MRIkkkk MRIij CTij MRIij CTiDi jDi jTNTNDi jDi jTNTNTNTNDi jTNTNTNT且且,max()kj MRIN(4.2)(4.3)第30页/共46页(6) 为了避免出现某一区域与其相邻的区域分别来源于不同输入源图像的情

17、况，这里采用一致性检测校验步骤(5)得到的结果。即如果神经网络判定某一区域来自于图像CT而它周围的区域来自图像MRI，则将这个区域用图像MRI中的对应区域像素替换。(7) 最后小波提升逆变换，获得最终的融合图像。第31页/共46页v仿真实验 (a) CT图像 (b) MRI图像 (c)梯度金字塔融合算法(d)基于区域融合算法 (e) PCNN (f)所提算法0.7第32页/共46页 (a) CT图像 (b) MRI图像(c)梯度金字塔 (d)基于区域融合 融合算法 算法第33页/共46页 (g) 所提算法 (e)模糊集和小波 (f) PCNN 变换融合算法0.7第34页/共46页CT1/MRI

18、1实验结果的质量评价梯度金字塔融合梯度金字塔融合算法算法 基于区域融合基于区域融合算法算法 PCNN所提方法所提方法平均交叉熵平均交叉熵5.90132.94565.25482.3487标准差标准差31.332444.948934.567245.1435平均梯度平均梯度 8.638918.257810.237818.5678相关系数相关系数 0.60810.84230.65870.84520.7第35页/共46页梯度金字塔融梯度金字塔融合算法合算法 基于区域融合基于区域融合算法算法 模糊集和小波模糊集和小波变换融合算法变换融合算法 PCNN所提方法所提方法平均交叉熵平均交叉熵9.83769.45

19、765.59255.14733.8271标准差标准差29.264530.167433.980734.768439.5867平均梯度平均梯度 18.974520.867524.987325.635429.3526相关系数相关系数 0.43870.48620.60710.61820.7646CT2/MRI2实验结果的质量评价= 0.7第36页/共46页基于像素级的医学图像融合可以使融合后的图像包含更全面、更精确的信息，但是所要处理的图像数据量大，故融合速度慢，同时对配准精度的要求非常高。基于特征级的医学图像融合由于对多模医学图像提取的特征信息进行融合，故可以大大加快融合速度，且对图像配准的要求没有

20、像素级严格，但其融合精度比像素级融合差 。 五、基于BP的特征级图像融合算法第37页/共46页将像素级和特征级融合方法有效地结合起来，利用BP神经网络的优点，提出了基于BP神经网络的特征级图像融合方法。具体步骤：1、 将两幅图像进行图像分割得到一组分割区域，用Ai和Bi分别表示第i个区域对。2、根据灰度共生矩阵，从每个区域抽取五个反映图像纹理的特征。Ai和Bi的特征矢量分别表示为( )和( )。 12345,iiiiiAAAAA51234,iiiiiBBBBB第38页/共46页3、训练一个用于判断分析Ai和Bi区域纹理特征的神经网络。神经网络的输入是差异矢量( )，网络的输出如下式：4、用训练好的神经网络在所有分割区域（第一步得到的）上进行检测、判断。融合图像的第i个区域按下式构建： 5112233445,iiiiiiiiiiBABABABABA1 arg0 iiiif the texture of A is better than that of Btetotherwise 0.5 iiiiA if outZB otherwise(5.1)(5.2)第39页/共46页5、采用一致性检测来校验步骤(4)