第二章蒙特卡罗方法

1、第二章 蒙特卡罗方法（又统称：统计试验方法 ） 在第一章我们看到了关于解决反问题在概率分布模型空间最普遍的方案，当它的概率分布唯一时，在模型空间是非常简单的，（例如，它仅有一个最大值），可以用分析技术来表示。 对于一般的概率分布，需要在模型空间上广泛的探索，除去维数较小的，因为这样不能系统概括，（根据位数空间大量的点群）设计好随机（或非随机）可以探索解决了许多复杂的问题，这些随机方法被洛斯阿拉莫斯团队开玩笑的叫做“蒙特卡洛方法”，抽样算法，现在已经建立被叫做“蒙特卡罗”。2.1 介绍 几个世纪前蒙特卡罗（即随机的）方法就被用于计算，例如，可以用蒙特卡罗方法来估算：对于一个普通的楼层,等同宽度W

2、的钢带，抛出长为W/2的针，这个针相交的凹槽，在地板上的概率等于（勒克莱尔，乔治.路易伯爵布冯1907至88年）。以50为一系列做观察，做100次试验，在1850年由沃尔夫在苏黎世导致对3.15960.0524的值。在数值方法中，针的行进被替换一个随机生成的数字，由计算机的代码一个域，其中蒙特卡罗计算是平时对于数值计算 大维空间积分：函数在一个普通的系统评价网格是不可能的（太多了点就被要求），并在蒙特卡罗采样 功能可以提供的结果的估计值，连同误差的估计值 （见附录6.9或了解更多详情，卡洛什和惠特洛克，1986）。 对于反问题的解决方案采用蒙特卡罗方法是由开始 （1967）和出版社（1968，

3、1971）。最近的是安德森和（1971，1972），罗斯曼（1985年，1985年b，1986）和的等（1998）。这本书，过参数，其中概率分布的透视 空间是核心，我们面临着如何使用它们的问题。对“中心估计”的定义（如均值或中位数）的“分散的估计”（如协方差和矩阵）缺乏通用性，因为它是很容易找到的例子（如多模态分布 在高维空间），其中这些估计不能有任何有趣的含义。 当一个概率分布已被定义在低维空间 （比方说，从一维到四维），我们可以直接表示关联概率密度。这是微不足道的一维或两维。它很容易在三维空间中，并且一些 花样可以允许我们表示了四维概率分布。此外， 事件A的概率可直接通过一个整体的，使用标

4、准来评价 （非随机的）数值方法。 图2.1。的采样 ,概率密度使我们在计算中引入了概率理论（计算一个事件的概率使用估计某些时刻，等）简单的统计。 在模型空间中有很高的维数，代表一个概率密度是不可能的，但我么可以，至少在原则上，做些变换在很大程度是等价的。我们可以用 概率密度，如图2.1中的建议。优先考虑一组概率分布的样本是单个“点”来表示，通常如图像，如2.2 （2.5右边的图像）。 对于高维空间问题很容易被低估，他们通常是趋于空的，图2.3表明,偶然触及的概率(最大值)超球面镌刻在超立方体迅速降低到零维空间的生长。当目标不是一个大领域,但一个小区域图2.3表明,偶然触及的概率(最大值)超球面

5、镌刻在超立方体迅速降低到零维空间的生长。当目标不是一个大领域,但一个小区域 如图2.2，,9随机实现超过36的概率分布三维空间。36值实际上是价值在6×6阵列，价值观是事实上的值在6-6矩阵，当值使用灰度等级表示，每个实现图像。请注意，大多数的图像提出了一个“十字”（突出）。同时，在下面的两行的像素tend to correspond to higher values of the random variable (darker grades of gray). Given，往往对应于较高的随机变量的值（灰色阴暗的等级）。给出了足够的样本，不同事件的概率可以被评估，例如，（i），希腊

6、十字可能出现的概率，（ii）一个希腊十字架的概率图像的左边（通常是在右边）,(iii）的概率有希腊十字，在同一时间，在图表的底部低值的变量，等 图2.3 ， 高维空间往往是很空的。击球偶然的正方形的内切圆是很容易的。偶然的机会球内接打在一个立方体是一点点困难。当空间维度的增加,刻的超球面击中的概率在超立方体迅速趋向于零。在顶部,超球面的体积并给出了应用超立方体的一个函数维度的,底部底部的体积比显示。这个数字解释了为什么探索随机在高维空间是很困难的，为什么要使用布朗运动解决随机探索。 维数 立方体的超球面： 立方体的体积： 概率显示，它是很容易理解的，蒙特卡罗方法，可以用在高维空间是微不足道的。

7、事实上，在一个大的三维空间中蒙特卡罗的抽样概率分布的两个问题:（i）定位的区域（S）的概率，和（ii）采样的整个区域（S）足够密度。寻找区域的位置是最困难的问题，数学是不能单独解决的（因为它大维空间大空）：它是特定的物理（或结构）的,在一方面，可能有助于这一问题。一旦你已经能够接近一个这些地区，下面描述的技巧（吉布斯抽样和算法）是能够执行一个随机变量，布朗运动的有效的探索区域，避免把它（从而进入空间的空旷地区）。2.2电影策略的逆问题 在第一章我们看到逆命题的两个典型的输入一个是概率密度,描述了检验信息的模型参数，和一个概率密度,我们对参数信息进行描述,通过一些数据获得了, 逆问题的解决方案是

8、由一个（后概率密度）概率密度等于(规范)先检验概率产品的密度, 次一个似然函数: (2.1)似然函数是衡量好模型m拟合数据。的可以编写规范不变 在大多数集合中, 数据和模型参数之间的关系的概率and is represented by a conditional probability density (d|m) . Then, the likelihood并通过一个条件概率密代表()。然后，似function is (see equations (函数（见方程（1.89）-(1.91)） (2.2) 其中是在该数据流形的均匀概率密度。 有时候，数据和模型参数之间是有关系的,，这种情况下，似然

9、函数（见方程（1.93）-（1.95）。 （2.3） 几个例子的似然函数给出footnote.28的方法对开发需要的值的计算可能在许多点,将可能性的表达形式(2.2)或(2.3)是不太相干的. 在这一章中，我们将介绍的方法，让我们先索取样品的先验概率密度的,然后样品后验概率密度. 因为，通常，每个样品（即，每个模型）可以被表示为一个图像，许多样品显示对应的显示“电影”。让我们开始讨论“前代”电影。 显示(研究)的样本让我们确认使用适当的先验信息。它可以帮助传达给别人哪一种先验信息我们已经记住(和也许允许这些人批评先验我们正试图用信息)。我们已经看到了三个样本的一个例子先验概率分布在例1.32,

10、三个地球分层模型显示(图1.10,30页)。让我们看看另一个简单的例子。 例2.1。 高斯随机场,高斯随机场的特点是它的平均场及其协方差。考虑到这些,可以生成尽可能多的随机随机领域的实现一个可能希望(使用,例如,方法建议在下面示例2.2)。图2.4显示了三个随机的实现高斯随机场的零均值和球形29(编码值颜色范围内)。给定一个足够大的数量的实现,意味着领域和协方差是容易估计(使用简单的统计数据),一个足够大的号码实现完全是随机的。因为的协方差随机场是静止不动的,三张图片已经传达的一个好主意随机领域本身。需要更多的图片更一般的协方差。的显示这些样本的先验概率分布允许其他科学家评估的正确性先验信息被

11、输入到反问题(实际(未知的)字段是一个随机实现这样一个随机领域)。显示平均协方差的高斯随机场和策划不是一个选择显示一定数量的实现,因为均值和协方差不相关一个直观的方式实考虑到这些,可以生成尽可能多的随机随机领域的实现一个可能希望(使用,例如,方法建议在下面示例2.2)。图2.4显示了三个随机的实现高斯随机场的零均值和球形29(编码值颜色范围内)。给定一个足够大的数量的实现,意味着字段和协方差是容易估计(使用简单的统计数据),一个足够大的号码实现完全是随机的。因为协方差随机场是静止不动的,三张图片已经传达的一个好主意随机领域本身。需要更多的图片更一般的协方差。显示这些样本的先验概率分布允许其他科

12、学家评估的正确性先验信息被输入到反问题(实际(未知的)字段是一个随机实现这样一个随机领域)。显示平均协方差的高斯随机场和策划不是一个选择显示一定数量的实现,因为均值和协方差不相关一个直观的方式实现.图2.4。三个随机实现的二维高斯随机的字段。平均场是零,(静止)协方差之和白噪声加一个球形的协方差。(a·鲍彻,珀耳斯。通信). 当显示样本的先验概率密度的问题被解决(已达成协议的存在和适用性先验信息),一个可能产生样本的后验概率密度。生产的一般方法只对这些样本的后验分布介绍了下面的部分,但我们可以检查下面的一个非常简单的例子反问题,这些样本的生成可以通过使用一个简单的理论。实例2.2。采

13、样条件高斯随机领域。让我们简要探讨在这里，一个简单的逆问题，具有很高的教学价值。我们面对一个未知的二维领域被假定为一个随机的高斯随机领域实现了 2.1例（三随机字段的随机实现，在图2.4中显示的）。图2.5。从一个随机的高斯随机字段中描述的实现在图2.4中，50的值显示在左上方被提取作为数据。的特定随-机实现，用于获取这些数据是我们未知的，但的均值和协方差的高斯随机领域了。现有的高斯领域（如它的均值和协方差的定义）然后条件与给定的数据(corresponding to the solution of a simple kind of inverse problem).（对应于一个简单的逆问题的

14、解决方案）。通过这种方式,一个后高斯场的定义意味着和协方差可以表达(有关详细信息,请参阅文本)。而不是直接成为这个后验均值和感兴趣协方差,它是更好的生成一些随机抽样后的高斯随机的,我们知道均值和协方差。9这些随机实现显示在右边的图。所有这些实现满足50初始数据值。实际实现的50个数据值提取可能类似任何一种实现(事实上,这是一个在左边图2.4)。这九面板传达一个清晰的概念变化的解决问题的办法.我们得到的数据，如，K值的未知的实现 在点如果这些值被假定为是准确 众所周知，我们可以通过从现有的随机场后的随机场只是用 条件概率的概念。如果值是唯一已知的一些不确定性，这后的随机场可以得到逆问题的设置，基

15、本上是使用第三方程（1.106）和第二组（1.107）（见135页的例5.25这个问题的一个显式）。在任何情况下，我们结束了一个后验高斯。随机领域，其中我们可以表达的是什么意思？和协方差。但是，再一次，而不是代表均值和分析协方差，最好是产生随机字段，可以做如下的实现。采取随机一个点的在空间。在这一点上，我们有一个均值高斯随机变量平均和方差。这样，就可以生成随机实现这个一维随机变量的这将使一些值。我们开始该问题与在个点给出的领域的值。我们现在有的值在领域个点给出。这个问题就可以使用第个点改写，和同样的方法可以用来随机生成在某个点一个新值，并依此类推，直到我们实现了随机场在尽可能多的积分值，我们不

16、妨。图2.5给出了该算法的二维空间的实际实施，开始，在50分中给出的领域的值。 从上面的例子中，读者应记，反问题的解决方案，作为一个概率分布，是从来没有的一个图像，而是一组图像，样品后验概率密度。策划了“最佳形象”的普遍做法或“平均形象”应该被抛弃，即使伴随着一定的误差分析和分辨率。例如，使用最小二乘法时，制订的问题在该实施例中所述，所谓的溶液是后的均值高斯分布，即，在图2.5的左栏中间的平滑图像。这是不该解决方案;当然，它是所有可能的解决方案的平均值（因此其平滑性）。展望这意味着提供了比看电影变现的信息要少得多。记即，通过构造中，每个实现中的捕获的基本随机波动在实际的现场，从该数据中提取（左

17、侧图2.4）。 对于这样的影片（在地球物理上下文）的生成的另一示例，请参见科伦等。 （1991）当随机模型的这样一个（足够大）集合可用，我们也可以回答很有意思的问题。例如，在一个构造模型，有人会问，在哪深度是地下结构？要回答这个问题，我们可以深度的直方图给定的地质构造在随机模型的集合，该直方图是回答这个问题。什么是具有围绕一给定的低速区域的概率深度是多少？模型相对于总呈现这样的低速区域中的数的比率集合中的车型编号给出了答案（如果模型的集合是大够了）。实际上，这就是必须提出：看大量的随机在产生模型（第一，在现有的分布特征，然后，将后验分布的）为了直观地领会的概率分布的基本属性，接着通过对所有感兴

18、趣的事件的概率的计算。有时，它仍然可能需要估计某些时刻（均值，方差，等）的分布。当然，它们也可以使用样品进行评价。相关公式给出的脚注附录6.9给出了蒙特卡洛的一些细节数值积分的蒙特卡罗方法。 这种抽样方法被建议在所有的例子，（连续空间实现）它不适于使用一般的反问题，它包含考虑一维情况和边缘概率分布，除了非常简单的问题，通常是不可能的，在数据与模型参数之间是线性相关时，我们必须采取简单有效的，但是对于一般的方法，像那些在算法上的，在最后一章也有描述。2.3 取样方法 2.3.1 反演方法 考虑一个概率密度函数取决于只有一个变量（标量）。这可能发生的时候，我们真的有一个单一的随机变量或，更经常的，

19、当一个多维流形我们考虑沿线路条件分布（沿是一个参数）。反演方法包括引入的累积概率 (2.4)它的值在区间，和反函数.这是很容易看到的，如果一个随机产生的值，在恒定的概率密度区间 0，1 ，然后值的概率密度的随机样本提供的函数是可用的，假设是存在的。该方法是简单和有效的。例2.3 设与恒定概率的随机变量的样本密度在区间0，1，并让是数字逆误差函数， 然后正态分布的，均值为零，方差为（见图2.6）。图2.6。使用反转方法，以产生二维的样品高斯概率密度.2.3.2抑制方法 抑制法开始通过产生样本为均匀概率密度中，这通常是一个简单的问题。然后，每个样品被提交到拒绝的可能性，该样值被接受的概率而采取等于

20、 (2.5)其中，表示的所有值的的最大值或任何较大数目（数字越大，越有效率的方法）。它是那么容易证明，任何接受点的概率密度函数的一个样本。 这种方法在一维或二维（图2.1效果相当好使用消除方法中生成），并可能在原则上适用于任何维数。但是，正如已经提到的，大尺寸的空间趋向于是很空的，这个方法接受一个点的机会可能会大大低多维空间的工作时。2.3.3 连续实现 在该方法中，1采用这样的性质：一个一般的n维概率密度总是可以被分解为一维边缘的产物和一系列一维条件句（见附录6.10）： (2.6)所有这些边缘和条件概率密度被包含在原始n维联合概率密，并可以，至少在原则上，从它使用积分进行评价。假设他们都是

21、已知的，让我们来看看如何将可以产生维样本。 一开始产生用于可变一个（一维）的样品，使用一维边缘为，得到的值。解决手边这个值，之一生成了一个（一维）为变量平方米样品，使用条件为，得到值。然后，1产生用于可变的（一维）的样品，使用该有条件的，得到的值等，直到有产生样本为变量，使用条件F1| N-1（MN| M10，。 。 。 ，将mn10）得到的值。在这种方式中，一个点产生其为原始的样。2.3.4 抽样所谓抽样（格曼和格曼，1984）对应于完成随机走在维参数流形，这是非常类似于一个随机游动，不同的是不排斥被使用（如下面讨论的，这样的好处是更虚拟实比）。首先，我们必须假定参数空间是一个线性空间，使方

22、向中的一个给定的点的概念是有意义的。 让是期待的概率密度样本，是最后的点， 是最后的点参观。 定义穿过当前点XK在随机线性参数空间。沿着这条线之一具有一维（条件）概率密度。一个样品，然后沿着该一维的产生概率分布，给人一种全新的点。它可以证明迭代这个过程实际上产生了一系列的联合概率分布样本的有关。 当一个分析，显式表达可用于概率密度，这种方效果好，效率高。在解决反问题，我们想在模型参数空间的后验概率密度，并且除非在非常简单的问题，中的一个的值的评价给定的M点需要大量的计算。 抽样的话，要求方法，我们知道沿着给定方向上的条件概率密度，是不是立即满足。我从来都没有相信，在复杂的问题，数值估计沿给定方

23、向上的条件概率密度，再加上一个精确生成沿该方向的样品，给出更好的结果，（拒绝）方法将在下一节介绍。2.3.5算法（或）算法发展由和乌拉姆（1949年），等。（1953），和黑斯廷斯（1970）。这是马尔可夫链蒙特卡罗方法，即，它是随机的（蒙特卡罗），并具有无记忆，在这个意义上每一步只依赖于前面的步骤（马尔可夫链）。其基本思想是要执行一个随机游动，一种布朗运动的，即如果未修饰的，将一些样品初始概率分布，那么，使用概率规则修改散步（提出一些动作被接受，有些被拒绝），在这样的这样修改后的随机游动的样品分发目标。虽然这是很容易创造一个能够满足目标概率规则，规则是最有效的（它接受提议的动作的最大值，减少

24、了计算的要求）。我按照这里由和提出的算法的演示文稿（2002）。 考虑下面的问题。我们有两个概率密度函数和的其均匀限在一起（见第1章）。我们有一个算法，该算法能够生成样本的。我们应该如何修改算法，以便获得这两个概率密度的结合样本。 (2.7)所使用的标准将不依赖于概率密个的值，但对相关的似然函数的值（见公式（1.31），所以让我们明确的介绍吧： (2.8)根据假设，一些随机的规则定义一个随机游动的样本的概率密度函数。在给定的步骤，随机漫步者是在点和的应用规则将导致过渡到点。当所有这些建议的过渡被接受，随机游动者将采样的概率密度函数。而不是总是接受建议的过渡，我们拒绝它有时会使用以下规则（决定是

25、否随机步行者被允许搬到，或者如果它必须留在）：（1） 如果 ,允许移动到（2） 如果 (xj) < (xi)，然后决定随机移动到，或留在，同下面接受举动XJ的概率： (2.9)然后有以下定理：随机步行者样品的结合（式（2.7）的的概率）密度函数和的。我们称上述接受规则。请注意，以运行该算法，也没有必要知道在方程的归一化常数k（2.7）。作为建议算法的特殊情况，我们可以利用函数的，在这种情况, 作为该算法的一个特殊的情况下，然后开始，如果不不受干扰随机游走，将采样均匀概率密度，我们结束了一个随机游动的任何样本期望的概率密度（x）的。附录6.11，层叠式使用的算法的描述，这使我们能够采样相结

26、合。 (2.10)概率密度序列。2.3.6遗传算法人们通常在文献中发现另一种类型的蒙特卡罗技术，一种在生物学的基础上的类比，称为遗传算法（戈德堡，1989年）。不幸的是，遗传算法缺乏算法的基本定理（“如果你做到这一点，那么在生成的分布的样品，精确的，技术意义上的样本），这里不作描述。2.4蒙特卡洛解决反问题如上述，在第2.2节的开头，在后验概率密度模型流形表示为 (2.11)其中的概率密度表示在模型上的先验信息参数和所述似然函数为模型的品质因素的量度米在拟合数据。为的两个可能的表达式中的方程给出（2.2）和（2.3）。2.4.1 抽样前的概率分布 2.4.1抽样的先验概率分布上面提出的电影战略

27、要求我们首先生成前的样本概率密度。在典型的逆问题，该概率密度为很简单的（相反情况的后验概率密度。因此，通常可以使用简单的方法完成的采样。我们已经看到了两个这方面的例子（例如1.32第29页和例2.1第45页）。的采样先验概率密度通常涉及依次使用一维采样的方法，如上述的那些。有时，吉布斯采样，甚至是算法可能是需要的，但是这些通常是简单的开发。这样，让我们假设，我们能够得到的先验概率密度的样品，让我们搬到获取后的样品的难题概率密度。 2.4.2抽样后的概率分布算法的自适应（载于第2.3.5节），以问题采样后验概率密度（方程（2.11）， (2.12)是及时的。正如刚才讨论的，假设我们能够获得的尽可

28、能多的样本先验概率密度如人所愿。在给定步长，随机步行者是在点，并且规则的应用将导致过渡到点。有时候，我们拒绝使用下面的规则这一提议的转换：1. 如果，接受转换2. 如果 , 然后决定随机移动到，还是留在，与接受移动到的概率如下： (2.13)然后，该随机步行者样本后验概率密度。2.4.2 设计随机步长模型 我们的目标是获得的后验概率密度的样品是独立。一个简单的方法来获得后样品的独立性是呈现给算法的先验概率密度的独立样本。除了为问题所在的模型波形具有一个非常小的维数，这将不行，因为大维空间的空虚（第2.1项）因此，在现有的概率分布的采样必须做从跳点对点使得小的跳跃。这种采样，称为随机步长，是一种

29、对布朗运动也就是远离产生独立的样品。然后，如果样品先验分布呈现给算法不是独立的，将样品通过对算法产生的后验分布不会是独立的。只有一种解决这个问题：不是把所有的样品制作由算法，以一个样品后，等到动作足够数量已经进行了，所以，该算法已经“遗忘”那样。有多少动作有我们等待，一个样本后，以具有一定的信心，下一个样本我们考虑是独立于先前的一个。没有通用的规则可以给予，因为这将强烈地依赖于手头的特定问题。第二个重要点是：的无限只有一小部分许多随机步长，将采样先验分布将允许算法有一个合理的效率。基本规则是：在众多可能的随机游走，可以样的先验概率密度中，选择一个，从一个样品跳跃时先验概率密度下，似然函数的扰动

30、的是尽可能地小（以便提高对规则的接受率）。为了更加精确，在模型空间扰动的类型必须是使得大扰动（在模型空间）只产生预测数据的小扰动。当在模型空间中满足扰动的类型这样的要求，但它仍然决定要进行的扰动的大小还有就是我们的心愿之间的妥协在模型空间中快速移动和需要对算法找到一些建议的招式可以接受的。所以，在扰动模型中的空间的大小必须是这样的准则的接受率是，比方说，30-50。如果录取率较大，我们还不够快，在模型空间;如果它非常小，我们正在浪费计算机资源来测试不接受模型。在这这样，我们取得了广泛的的勘探模型空间（大步骤，但两者之间取 许多废品）和位于可能性极大的精心取样（小步骤，次品少，但缓慢步长）的平衡

31、。这些言论表明，可观的创造力，需要在设计随机步行即采样。例如，在一个问题涉及到质量密度的模型分布，包括重力场值的数据，和（1995），选择使该质量密度分布的大的扰动，但总保持质量近似恒定。最后一点要检查关切，停止随机步长时的决定后验概率密度已被充分采样。有两种子问题在这里，一个容易和困难的。简单的问题是，当决定探索给定的最大的概率密度，即该最大具有方便被采样。文献中包含好的规则， 当然，困难问题，是关于可能性，我们可能会完全丢失了一些区域的显著概率，分离的最大的，例如。这个问题是固有的所有蒙特卡罗方法，是非常严重的高非线性逆问题不幸的是，没有什么可以说这里是将适用于任何大型类逆的问题：每个问题都有自己的物理和实施者的经验是关键。这个问题必须在每次逆问题是使用蒙特卡罗解决时间讨论卡罗方法。有关使用算法求解逆问题的成本最后的评论：该算法的每个步骤中需要的值。这需要其中的似然函数由下式给出的情况下的前向问题（分辨率表达式（2.3），或者一个整体的评价（在该情况下的似然函数如式（2.2）。这可能是非常苛刻的计算资源。2.5模拟退火模拟退火技术的设计，以获得最大似然点任何概率密度，特别是对于后验概率密度。但在模拟退火的核心有一个算法，能