第十五讲非线性反演

1、第七章 非线性反演计算地球物理学讲义非线性反演概论地球物理学家研究地球所依据的物性参数不同，方法各异，但就工作程序而言，一般都可分为数据采集，资料处理和反演解释数据采集，资料处理和反演解释等三个阶段。数据采集就是按照一定的观测系统、一定的测线、测网布置,在现场获得第一手、真实可靠的原始资料。所以数据采集是地球物理工作的基础，是获得高质量地质成果的前提和条件。资料处理的目的是通过各种手段，去粗取精，去伪存真，压制干扰，提高信噪比，使解释人员能从经过处理的资料(异常,或响应) 中、较准确的提取出测区的地质、地球物理信息。资料处理是从原始观测数据到地球物理模型之间的必不可少的手段和过渡阶段。反演解释

2、的目的反演解释的目的，用地球物理的术语来说，就是实现从地球物理异常(或响应)到地球物理模型的映射，使解释人员能从经过处理的地球物理资料(异常或响应)中提取出获得最接近真实情况的地提取出获得最接近真实情况的地质、地球物理模型质、地球物理模型，圆满的完成提出的地质任务。引自：王家映，地球物理反演问题概述，工程地球物理学报，4（1），2007非线性反演概论 资料处理的基础是时间（空间）序列分析。 反演解释的基础是反演理论。 地球物理观测数据和地球物理模型参数之间的数学表达式，只有线性和非线性两大类。以d表示观测数据向量，m表示模型参数向量，f表示联系d和m的函数或泛函表达式。线性反演问题满足：不满足

3、上面两个条件之一的所有问题都统称为非线性问题。引自：王家映，地球物理反演问题概述，工程地球物理学报，4（1），2007非线性反演概论 从模型参数m 到观测数据d 的变换(或映射) ，统称为正演或正问题,并记为：由观测数据d，反推模型参数m的变换(或映射) ，叫反演或反问题。引自：王家映，地球物理反演问题概述，工程地球物理学报，4（1），2007 解决非线性问题有两种办法，一是把非线性问题线性化，按线性问题解决，然后通过迭代的办法，逐次逼近，求得反演问题的近似解；一是不走线性化的路子，而按非线性的办法进行反演。 非线性问题线性化的办法，简单、易行，在许多情况下也可以取得较好的结果，但是在目标函数

4、具多极值的情况下，在反演迭代中，容易陷入局部极小，而且反演结果极大的取决于初始模型，也可能使反演出现不稳定，甚至无解。引自：王家映，地球物理反演问题概述，工程地球物理学报，4（1），2007非线性反演概论非线性反演概论一般说来，地球物理反演的目标函数都是高次非线性函数，有多个极值。反演时，如初始模型选取不当，不靠近目标函数的全局极小，因而在迭代过程中,只能在局部极小点附近搜索，很难跳出局部极小的阱，这时，只能获得局部最优解局部最优解；有的反演方法，由于初始模型选取和参数修改的随机性，在搜索的过程中，可能在模型空间全局寻优，其解就是全局最优解全局最优解。引自：王家映，地球物理反演问题概述，工程地

5、球物理学报，4（1），2007非线性反演概论非线性反演概论 反演理论家R. L . Parker 在其著名的论文Understanding Inverse Theory中提出，地球物理反演理论必须回答以下4 个问题： 1) 解的存在性（Existence）。即给定一组地球物理观测数据： di ， i = 1 , 2 , 3 , , M 之后，是否存在一个能拟和观测数据的地球物理模型m？ 2) 解的非唯一性（Non-uniqueness）。如能求得能拟合观测数据的地球物理模型，解是唯一的还是非唯一的？ 3) 模型构制（Model Construction）。如何求得能拟和观测数据的一个地球物理模

6、型？ 4) 解的评价（Appraisal） 。既然解是非唯一，地球物理反演所获得的任一解又有何意义？引自：王家映，地球物理反演问题概述，工程地球物理学报，4（1），2007非线性反演概论非线性反演概论 理论严格证明，给定一组地球物理观测数据以后，总可以找到一个能拟合它的地球物理模型。由于观测数据的个数并非无限，不构成一个数据的完备群，加之每一个观测数据均有误差，这就决定了地球物理反问题的解是非惟一的。虽然，反演问题的解是非惟一的，但这个非惟这个非惟一解仍然是有意义的一解仍然是有意义的。引自：王家映，地球物理反演问题概述，工程地球物理学报，4（1），2007非线性反演概论非线性反演概论蒙特卡洛法

7、(Monte-Carlo Method) ,模拟退火法( Simulated Annealing) , 人工神经元法(Artificial Neural Network) ,遗传算法( Genetic Algorit hm) ,多尺度反演法(Multi-Scale Inversion) ,同伦反演法( Homotopy Method ) ,非线性共轭梯度法( Non-Linear Conjugate Gradient Method) ,原子跃迁法(Atomic Transition Algorithm) ,量子退火法(Quantum Annealing) ,量子遗传法(Quant um Gen

8、etic Algorithm) ,蚂蚁觅食法(Ant Colony Optimization Algorithm) ,免疫算法( Immune algorithm) , 离子群算法( ParticleSwarm Optimization) ,演化博弈算法( Evolutionary Game)引自：王家映，地球物理反演问题概述，工程地球物理学报，4（1），2007非线性反演概论非线性反演概论 1) 原子跃迁法 (Atomic Transition Algorithm, ATA) 2) 模拟退火法 （Simulated Annealing, SA） 3) 量子退火法 (Quantum SA) 4

9、) 量子遗传算法 (Quantum GA)1、物理类物理类1) 贝叶斯法 (Bayesian Inversion) 2) 同伦算法 (Homotopy Algorithm) 3) 多尺度非线性反演法 (Multi-Scale Algorithm) 4) 蒙特卡罗法 (Monte-Carlo) 2、数学类、数学类1) 粒子群算法 (Particle Swarm Optimization, PSO) 2) 免疫算法 (Immune Algorithm, IA) 3) 人工神经元法 (ANN) 4) 遗传算法 (GA) 5) 蚂蚁算法 (Ant Colony Optimization, ACO）3、

10、仿生类、仿生类 和线性反演一样，大多数非线性反演法都是基于最优化的原理。即从大量大量已知模型的正演正演结果中，选出方差方差（或其它范数规则）为最小最小的那个模型作为待求模型的解。因此，正演是反演的前提和瓶颈，成了提高反演速度的关键。引自：王家映，地球物理反演问题概述，工程地球物理学报，4（1），2007目标函数极小对应的解，就是反演问题的解。非线性反演概论非线性反演概论1、梯度法-Gradient method/the steepest descent/the steepest ascent,是一种传统的非线性反演法，它是从一个初始模型出发，沿梯度方向搜索求取目标函数极小点的一种最优化方法。2

11、、试凑法-尝试法，从一个初始模型出发，反复计算比较，直到找到最合适的模型。3、蒙特卡路法-赌博法，将反演过程中任何一个阶段，用随机发生器产生模型的方法通称为蒙特卡路法，它可以用来解决高次非线性的、多参数、具有多个局部极小的非线性反演问题。蒙特卡洛算法蒙特卡洛算法蒙特卡洛算法蒙特卡洛算法在反演过程中的任何一个阶段，用随机（或伪随机）发生器产生模型、以实现模型全空间搜索的方法统称蒙特卡洛反演法。假如我们已知待求模型的参数的上下界限，infsupmmm式中，infm代表第个参数的下限supm代表第个参数的上限有两种方法对模型空间进行搜索，一种是彻底地搜索，把模型空间允许的范围都搜索到，看哪一个模型，

12、或哪一组模型的计算值d(m)和观测数据d拟合最好，这种方法叫穷举法穷举法；另一种搜索法是在模型空间允许的范围内随机地搜索，对每一个随机产生的模型计算其理论值并把它与观测值进行比较，看其是否可以接受，这就是传统的蒙特蒙特卡洛算法卡洛算法。蒙特卡洛算法的主要步骤蒙特卡洛算法的主要步骤王家映，2007目标函数两者等价两者等价蒙特卡洛算法蒙特卡洛算法蒙特卡洛算法蒙特卡洛算法蒙特卡洛算法蒙特卡洛算法蒙特卡洛算法蒙特卡洛算法蒙特卡洛算法蒙特卡洛算法 一些人进行了实验，其结果列于下表 ：实验者年份投计次数的实验值沃尔弗(Wolf)185050003.1596斯密思(Smith)185532043.1553福

13、克斯(Fox)189411203.1419拉查里尼(Lazzarini)190134083.1415929蒙特卡洛算法蒙特卡洛算法 优点1) 能够比较逼真地描述具有随机性质的事物的特点及物理实验过程。2) 受几何条件限制小。3) 收敛速度与问题的维数无关。4) 具有同时计算多个方案与多个未知量的能力。5) 误差容易确定。6) 程序结构简单，易于实现。 缺点1) 收敛速度慢。2) 误差具有概率性。3) 计算结果与系统大小有关。蒙特卡洛算法的特点蒙特卡洛算法的特点23个不同深度，共23*3=69个参数，随机生成500万个模型，在满足一定先验条件的基础上，进行正演计算，挑出可以接受的模型。w算法的提

14、出算法的提出 模拟退火算法最早的思想由模拟退火算法最早的思想由Metropolis等（等（1953）提出，提出，1983年年Kirkpatrick等将其应用于组合优化。等将其应用于组合优化。w算法的目的算法的目的 解决解决NP复杂性复杂性问题；问题； 克服优化过程陷入局部极小；克服优化过程陷入局部极小； 克服初值依赖性。克服初值依赖性。模拟退火算法模拟退火算法w物理退火过程物理退火过程 什么是退火：什么是退火： 退火是指将固体加热到足够高的温度，使分子呈随退火是指将固体加热到足够高的温度，使分子呈随机排列状态，然后机排列状态，然后逐步降温逐步降温使之冷却，最后分子以使之冷却，最后分子以低能状态

15、排列，固体达到某种稳定状态。低能状态排列，固体达到某种稳定状态。 物理退火过程物理退火过程w物理退火过程物理退火过程 加加温过程温过程增强粒子的热运动，消除系统原先可增强粒子的热运动，消除系统原先可能存在的非均匀态；能存在的非均匀态； 等温过程等温过程对于与环境换热而温度不变的封闭系对于与环境换热而温度不变的封闭系统，系统状态的自发变化总是朝自由能减少的方向统，系统状态的自发变化总是朝自由能减少的方向进行，当自由能达到最小时，系统达到平衡态；进行，当自由能达到最小时，系统达到平衡态； 冷却过程冷却过程使粒子热运动减弱并渐趋有序，系统使粒子热运动减弱并渐趋有序，系统能量逐渐下降，从而得到低能的晶

16、体结构。能量逐渐下降，从而得到低能的晶体结构。物理退火过程物理退火过程 热力学中的退火现象指物体逐渐降温时发生的物理热力学中的退火现象指物体逐渐降温时发生的物理現象：現象： 温度越低，物体的能量状态越低，到达足够的低点温度越低，物体的能量状态越低，到达足够的低点时，液体开始冷凝与结晶，在结晶状态时，系统的时，液体开始冷凝与结晶，在结晶状态时，系统的能量状态最低。缓慢降温（能量状态最低。缓慢降温（退火退火，annealing）时，）时，可达到最低能量状态；但如果快速降温（可达到最低能量状态；但如果快速降温（淬火淬火，quenching），会导致不是最低能态的非晶形。），会导致不是最低能态的非晶形

17、。 大自然知道大自然知道慢工出细活慢工出细活： 缓缓降温，使得物体分子在每一温度时，能够有足缓缓降温，使得物体分子在每一温度时，能够有足够时间找到安顿位置，则逐渐地，到最后可得到最够时间找到安顿位置，则逐渐地，到最后可得到最低能态，系统最稳定。低能态，系统最稳定。物理退火过程物理退火过程 模仿自然界退火現象而得，利用了物理中固体物质模仿自然界退火現象而得，利用了物理中固体物质的的退火过程退火过程与一般与一般优化优化问题的相似问题的相似性。性。 从某一初始从某一初始温度温度开始，伴随温度的不断下降，结合开始，伴随温度的不断下降，结合概率突跳概率突跳特性在解空间中特性在解空间中随机随机寻找寻找全局

18、最优全局最优解解。物理退火过程物理退火过程w数学表述数学表述 在温度在温度T，分子停留在状态，分子停留在状态r满足满足Boltzmann概率分概率分布布DsBBBTksETZTZkrrEETkrETZrEEP)(exp)()(Boltzmann0)()(exp)(1)(子：为概率分布的标准化因常数。为的能量，表示状态机变量，表示分子能量的一个随模拟退火算法模拟退火算法w数学表述数学表述 在在同一个温度同一个温度T，选定两个能量，选定两个能量E1E2，有，有TkEETkETZEEPEEPBB12121exp1exp)(10模拟退火算法基本思想模拟退火算法基本思想：在一定温度下，搜索从一个状态：在

19、一定温度下，搜索从一个状态随机地变化到另一个状态；随着温度的不断下降直到最低温度，随机地变化到另一个状态；随着温度的不断下降直到最低温度，搜索过程以概率搜索过程以概率1停留在最优解停留在最优解模拟退火算法模拟退火算法wBoltzman概率分布告诉我们：概率分布告诉我们： （1）在同一个温度，分子停留在能量小状态的概率）在同一个温度，分子停留在能量小状态的概率大于大于停留在能量大状态的概停留在能量大状态的概率。率。 （2）温度越高，不同能量状态对应的概率相差越小；）温度越高，不同能量状态对应的概率相差越小；温度足够高时，各状态对应温度足够高时，各状态对应概率基本相同概率基本相同。 （3）随着温度

20、的下降，能量最低状态对应概率越来）随着温度的下降，能量最低状态对应概率越来越大；温度趋于越大；温度趋于0时，其状态趋于时，其状态趋于1。模拟退火算法模拟退火算法wMetropolis准则（准则（1953）以概率接受新状态以概率接受新状态 若在温度若在温度T，当前状态，当前状态i 新状态新状态j 若若EjEi，则接受，则接受 j 为当前状态；为当前状态； 否则，若概率否则，若概率 p=exp-(Ej-Ei)/kBT 大于大于0,1)区间的区间的随机数，则仍接受状态随机数，则仍接受状态 j 为当前状态；若不成立则为当前状态；若不成立则保留状态保留状态 i 为当前状态。为当前状态。 01-(Ej-E

21、i)/kTp只有小于等于零的区间wMetropolis准则（准则（1953）以概率接受新状态以概率接受新状态 p=exp-(Ej-Ei)/kBT 在高温下，可接受与当前状态能量差较大的新状态；在高温下，可接受与当前状态能量差较大的新状态； 在低温下，只接受与当前状态能量差较小的新状态。在低温下，只接受与当前状态能量差较小的新状态。实际地球物理反演，如何应用模拟退火算法？实际地球物理反演，如何应用模拟退火算法？T()()()obsobsFF mdmdm将待求反演模型的每个参数看作是熔化物体的每一个分子，将目标函数看作是熔化物体的能量函数，通过缓慢减小一个模拟温度的控制参数来进行迭代反演，使目标函

22、数最终达到全局极小值。将非线性地球物理反演问题的每一个模型参数向量mi等效为物体的某种状态ri，将地球物理反演问题的目标函数等效为物体的能量函数Ei，引入随迭代次数变化而变化的控制参数T模拟物体的温度，就可以得到地球物理反演问题的Metropolis接收准则。1 ()()()()()exp ()()jiijijjibifmmPifmmk T mmmm若在温度若在温度T，当前状态，当前状态i 新状态新状态j 若若EjEi，则接受，则接受 j 为当前状态；为当前状态； 否则，若概率否则，若概率 p=exp-(Ej-Ei)/kBT 大于大于0,1)区间的随机数，则仍接受区间的随机数，则仍接受状态状态 j 为当前状态；若不成立则保留状态为当前状态；若不成立则保留状态 i 为当前状态。为当前状态。 在模拟退火反演中，要求温度T随着迭代次数的增加而缓慢降温。常用的温