第十章 广义矩法（GMM）

1、第十章 广义矩法（GMM）当前GMM流行的原因有二：1GMM包括许多常用的估计量，并且为比较和评价它们提供了有用的框架。2相对其它估计量来说，GMM提供了一种“简单”的备选方法，特别是当最大似然估计量难以写出时。然而，在计量经济学中（如同在生活中一样），没有免费的午餐，获得这些特色需付出代价。首先，GMM是大样本估计量。也就是说，只有当样本很大时，才有可能得到它的良好性质。典型地说，GMM估计量在大样本中才会渐近有效。而在有限样本中是很少看到有效的。其次，这些估计量往往需要编写少量程序来实施，尽管要做到这些，只需稍动脑筋，就能从不明显含有GMM估计程序的标准统计软件包里编排出来。在经济中，有许

2、多这样的情况，经济理论只给出了数据生成的部分信息，密度函数却不知道。例如，需求函数 6.1需求量是价格与收入的函数，但也受个人偏好的影响，用扰动项表示个人偏好的差异，显然的分布不知道。知道的信息仅为，的产生过程取决于的分布，写出的分布很困难，但是能够作一些假定，而且这些假定与经济理论和现实都不相冲突：即表明偏好与价格无关 6.2偏好与个人收入无关 6.3这很容易做到，也合乎情理 6.4具体地， 6.5我们清楚，OLS估计并没有从这些矩条件出发，而是从残差平方和最小估计出参数，即。广义矩法（GMM）方法是从上面三个矩条件出发估计出参数。1GMM的思想将u代入理论矩条件，有 6.6三个矩条件并不需

3、要知道数据的生成过程，确切地说，并不需知道的分布。但是问题是，上面三个理论关系并不能进行实际计算，得出结果，因为计算期望值仍需要知道随机变量的分布。但是，我们可以利用“逼近”的思想，即样本均值收敛于理论均值可以证明样本均值是期望的一致性估计。从的表达式，可见OLS方法是GMM的一个特例。再考察工具变量法。若，OLS估计得不到一致性估计量。但能够找到工具Z，有，于是 6.7是的一致性估计量，在此例中，矩： 6.8理论矩条件 6.9推广到一般的情形。一般的模型中，用Z表示我们关注的数据，有 6.10是列向量函数，形式已知，的表达式对于是可以知道的，并满足下面的矩约束： 6.11任务是去估计列向量，

4、即矩条件（约束）不少于待估参数的个数。假定，在其值处成立。用样本均值代替期望值：若如果，则找不到使引入一个距离来度量向量与零之间的距离。对于任一个正交矩阵，有： 6.12这就是GMM方法的思想。10.1 矩法一个有用的起点是所谓的矩法（MOM），对此，我们稍后将做一般阐述。本书的很多内容都集中于讨论矩的问题。尽管你可能还没意识到这个事实，我们将把总体矩简单地定义为一个随机变量x的某个连续函数g的数学期望：最常讨论的矩是均值，其中仅仅是一个恒等函数传统上，MOM考虑x的乘幂。均值有时称为一阶矩，而有时称作二阶非中心矩（10.1） （10.2）按照习惯做法，我们将矩的函数，如也称为矩。（10.3）

5、类似于均值的样本矩就是：（10.4）类似地，相当于总体二阶矩的样本矩为：（10.5）现在，我们已经定义了总体矩和样本矩，那么MOM是什么呢？MOM无非是指下面的一种想法：为了估计总体矩（或总体矩的一个函数），只需使用相应的样本矩（或样本矩的函数）。在我们说明为什么这是个好的想法之前，让我们用一个简单的例子来阐述MOM估计方法。假如我们想要估计x的方差。MOM的思路是，将（10.1）中的总体矩用相应的样本矩去代替。于是，方差的MOM估计量无非是（10.6）稍加整理就可以看出，这个估计量和常用的方差估计量相似：（10.7）（10.8）（10.9）其中（10.9）式就是我们常用的方差的（无偏）估计。

6、另一方面，随着样本增大，这两个估计量之差趋于零，即：MOM估计量是一致性的。或者，我们从总体方差的惯用定义开始，然后直接代之以相应样本矩；即总体方差是（10.10）样本矩就是（10.11）这里我们用样本的代替方括号中的。下面我们将证明，MOM原理除了具有直观性外，也给了了具有良好的大样本性质的估计量。10.2 OLS作为一个矩问题GMM的有用性在于：在很多的估计实践中，人们所感兴趣的只是关于矩的一个函数。为了说明这一点，让我们从一个简单的线性回归着手：（10.12）其中服从分布，Q表示某种分布（不一定是正态的）。的均值于0，方差为。并且X是矩阵。再假定模型设定正确。于是（10.13）如何进一步

7、得到的估计量似乎并不明显。但是注意，在总体中（10.14）MOM原理是说用样本类似物代替所说矩条件或正交条件的（10.14）式的左边部分。（10.15）MOM程序表明的估计是方程（10.16）的解。改写（10.16）式，我们看出的MOM估计为（10.17）而且这也恰恰是的OLS估计。10.3 工具变量作为一个矩问题现在我们考虑一个稍难一些的问题。考虑下面的模型：（10.18）这里我们怀疑，为使问题清楚，且设是向量。如果情况确实如此，OLS就不是一致性的了。正如我们从工具变量的讨论中知道的，一种办法是找出一些工具变量Z，它们与相关而与不相关；即。为了详细说明这一点，这里有几个例子。假设是每小时的

8、工资；表示退伍军人身份，工具变量Z指出生月日。待检验的假设是：退伍人员是否享有正的差别待遇。也就是说，给定一组与劳动生产率相关的特性，退伍军人得到的工资要高于非退伍军人。由使用OLS而引起的一个潜在的问题是，在计量经济学家所不能观测的方面，退伍军人和非退伍军人有所差别。因此，在越南战争中，应征入伍的人是根据他们的出生日期随机选择的（这个程序称为摸彩入伍）。因此，对那些在战争时期到了应征年龄的人来说，他的出生日期就和他成为一名退伍军人的可能性直接相关（但可设想与工资无关）。在本例中，出生年月也许是合适的工具变量。假设是公司雇佣人数的对数，是合同规定的工资。有人只想估计劳动的需求曲线，但问题是雇佣

9、人数和工资是供给和需求共同变化的产物。因此，。由于合同工资事前商定，一个可能的工具变量是非预期通货膨胀。根据定义，非预期通货膨胀在合同签订时对工会和厂商来说都是未知的，所以它改变了实际工资。例如，如果通货膨胀出人意料地高，它将降低实际工资，从而雇主会下移他们的劳动力需求曲线。假定我们已经找到了两个工具变量，用表示，再把常数1作为其自身的工具变量包括进来。将它们用矩阵形式表示为可方便地将模型的参数也进行分块，这就是这个问题的正交性条件是，因而前面的讨论告诉我们，一个优良的估计将是令样本矩为0，即（10.19）给定我们的OLS例子，可以用（10.20）估计出。但是注意，是一个矩阵，因此它是不可求逆

10、的。当然，如果模型正确，则对总体来说，方程（10.19）左边的数学期望将等于0，但是在一个给定的样本中，这个结论一般不成立。“问题”是上述矩约束通过的每一行对唯有的两个参数（和）各施加了一个约束条件，总共施加了三个约束条件。在这种构架下，可以有几种选择。第一，可以去掉一个方程，也就是去掉一个工具变量。第二，类似于最小二乘法，在计算时对各个条件的离差均同等对待，务使离差平方和最小。第三，可以根据每个方程估计的准确程序（由方差度量），对方程给予不同的对待。通常第一种想法不是最优的（舍弃信息的做法很少会是最优的）。第二种想法可以用类似于最小二乘的方法进行求解，即最小化关于的下式（10.21）其中是一

11、个的恒等矩阵。因此，这个程序得到了的一致估计，尽管在这一类估计中，它并不典型地有效。根据汉森（1982年）的一个结果，这因由定义的的最优估计量是第三种类型，即（10.22）其中是的一致估计。在这个公式中，对估计准确性较差（方差较大）的约束条件做的加权比对估计准确度较高（方差较小）的约束条件要小些。在上一种情形中，GMM估计量其实和我们所熟悉的一个估计量很相似。事实上，当误差是同方差性和序列不相关时，（10.22）式就变成2SLS（两阶段最小二乘法）。证明这一点是有指导意义的。因为在最小化一个二次型时，我们需要推导对的一阶条件，从而得到（10.23）在误差齐性且序列不相关时，MOM原理表明的一个

12、优良估计量不外是。（学生们应能证明这个结论。）假定可以得到的一个估计，我们对（10.23）式中的项重新整理，得（10.24）由观察可知，它恰好就是2SLS估计量。从这种意义上讲，2SLS是工具变量的特例，而工具变量又是GMM的特例。10.4 GMM和正交性条件现在我们要转向对GMM估计量做更细致的分析。其要义为：1“理论”或先验信息给出关于一个总体正交性条件的论断，这个正交性条件通常表达为，其中是数据和参数的某个连续函数。2我们构造对应于总体正交性条件的样本类似物，并对求下式的最小值：（10.25）这里的最佳选择，如同第6章所讨论的怀特协主差矩阵中那样，是的一致估计，或如同在时间序列情形中那样

13、，是适当的纽威魏斯特（Newey-West）协方差矩阵。3如果最优的已经选出，则（10.25）式中二次型的最小值渐近服从分布，其自由度是矩条件的个数与矩条件成立的零假设下参数的个数之差。这个结论非常有用，尤其是对类似于（线性或非线性的）2SLS或3SLS的问题来说。第一点所说的，正交性条件非常重要。再次考虑简单的OLS模型：（10.26）然而一个合理的问题是：需要有多少个变量才足以获得可靠的估计？这个问题并不容易回答，但是对于大样本，GMM方法清楚地告诉我们需要满足哪些条件。尤其是当误差项有0均值时，我们可以放弃正态性条件。但是更重要的是矩条件所施加的约束。为了弄清楚它的含义，不妨考虑最经典的

14、估计设计：对照实验。假如我们找到了一种帮助戒烟的新处理。我们收集一个含有个吸烟者的样本，并将处理随机地分派给样本的一半，另一半样本则接受一种安慰剂即看似治疗而实无疗效的东西。经典的实验设计告诉我们，对疗效的一个良好的估计，是在实验结束时比较两个组中吸烟人数的比例，或这里的和分别指安慰（对照）组和处理组，且。显然，我们可将它表示为一个简单的OLS回归：（10.27）其中：是一个虚拟变量，当主体接受处理时，值为1；当主体只得到安慰剂时，值为0。类似地，也是一个标示变量，当主体被治愈时，它取值为1，否则值为0。证明这个例子中的的估计由给出，这个问题当然不满足前面章节中所引入关于标准OLS模型的相当严

15、格的条件。误差当然不是正态的。（只取四个值：，或）。并且，除了治疗，当然还有其他决定吸烟的因素。那么，难道我们对经典实验设计的信任是一种误解吗？回答是，不。因为即使不是所有有关的变量都包含在模型之中，经典实验设计能确保这些有关变量和我们右边的变量不相关。换句话说这里的可理解为包含了具有潜在相关但实际上并未被包含在模型中的那些变量。我们如此关心随机分派的原因，正是因为将处理随机地分派给主体保证了正交性条件成立。为了更清楚地理解这一点，令真实模型为（10.28）这里所有的变量都同前，是某个变量如“抽烟年数”，所以不妨假定。如果令，经典实验设计就等同于做下面的回归（10.29）突出的问题是是否成立。

16、这是评估是否成立的充分条件，当等式成立时，正交性条件也就成立。如果假定是随机噪声，这就等价于问是否成立。即，平均而言，接受处理的人和接受安慰剂的人是否有相同的烟龄？由于随机方案的本质在于接受或不接受处理的组之间不存在系统性差异，我们认为对一个设计良好的实验来说，正交性条件是满足的，从而是无偏的。假如我们觉得实验做得不够正确，有没有办法来检验是否真的和误差不相关呢？在这个简单例子中，不存在这样的检验，因为通过令而得到疗效的估计的样本矩条件只有一个解，它恰好使得样本矩为0。换句话说，就是没有可检验的过度识别约束条件。很快我们将看到，2SLS的一个优点在于它使我们有可能来检验这样的约束条件。10.5

17、 GMM估计量的分布在转向一些实际应用之前，让我们来推导GMM估计量的分布。这个讨论很有启发性。假如我们有一个定义良好的矩条件或正交性条件，其表达式：（10.30）其中表示数据，表示使得数学期望为0的一组参数的值。然后我们收集一个随机样本。对一个给定的样本，GMM估计量不外是下式对参数求最小值得到的解：（10.31）其中 ，的下标表示它可以是数据的函数。并假定正定、对称，且依概率收敛于某个仍然对称、正定的矩阵。只要在极限中，参数的真实值使（10.31）的值最小，且适当的正则性条件成立，则由（10.31）得到的估计量就是一致性的。通过解一阶条件：（10.32）得到。将一阶导数矩阵记为，由于使（1

18、0.31）式最小而得到的估计量是一致性的，所以依概率收敛于。我们已经假定依概率收敛于，所以（10.33）的分布可以由（10.32）式的一阶条件，在其值的邻域里取的泰勒级数迫近而得到。给定某些正则性条件，可以证明的分布为（10.34）其中，或者由于，它不外是矩条件的方差。汉森（1982）证明的最优选择就是的异方差（及自相关）一致性估计。给定一致性估计，就可以得到一个估计值。在这个最优选择为的特例中，（10.34）变为：（10.35）学生们可以证实，的任何其他选择都将使得夫方差矩阵比最优选择的要多出一个正定矩阵。不管使用什么权矩阵，GMM总是一致性且渐近无偏的。当使用了正确的权矩阵时，GMM在由正

19、交性条件所定义的一类估计量中还是渐近有效的。10.6 应用10.6.1 两阶段最小二乘法和过度识别约束条件的检验GMM之所以受欢迎，其中一个原因是因为它有一套清楚的程度用以检验来自明确设定的计量经济学模型的约束条件。主要的例子是2SLS。回想一下，由（10.22）式，矩条件使我们得到一个GMM估计量，这个估计量是下式：（10.36）的解。这里我们将例子加以一般化，使为矩阵，为矩阵，是加权矩阵，且。注意和可能有相同的列。到目前为止，我们还没有讨论的选择问题，现在我们来讨论它。回想一下，的一个优良选择应是矩条件的渐近方差矩阵的逆的一个估计，可以将这个逆阵记为。怎样才能得到它的一致估计呢？看来我们需

20、要的一致估计，但这又是不可能的，因为的个数与样本数同速增加。幸运的是，尽管的维数随而增加，但的维数却不随而增加。这个程序分两步进行：1首先，产生的一致估计。这有几种方法可以做到。其中一种方法是先做普通2SLS，这等价于在第一阶段用作为。幸运的是，使用任何正定的加权矩阵，GMM都能给出一致估计。例如，仅仅选择恒等矩阵（通常当问题是非线性时才做这种选择）。2用已有的估计值计算残并非，本例中它为。只要观测值是独立的（这是在截面数据中常作的典型假定），的怀特估计不外是：（10.37）其中是的列。有了估计值，我们就可回到当初的最小化问题：（10.38）和（10.24）的推理相同，令，得（10.39）回想

21、一下，由（10.24），当误差为同方差性时，GMM和2SLS是等价的。但当异方差性误差出现时，GMM估计量通常不同于2SLS估计量，且2SLS和GMM相比，其渐近有效性要差些。（10.39）中的估计量通常称为广义两阶段最小二乘估计量（generalized 2SLS estimator）。GMM方法还给出其他一些好的结果。如果，是过度识别的。也就是说，矩约束条件的个数L大于参数的个数。这时，最小值还是检验这些约束条件的真实性的一个检验统计量。在这些约束条件都是真实的虚拟假设下，（10.40）注意到当误差为同方差性且序列不相关时，（10.40）所定义的检验有非常简单的形式：（10.41）这里的检

22、验统计量无非是观测值的个数与对回归所得非中心的乘积，这里的回归是误差其中这里有很强的直观性。如果，则可以合理地认为工具变量与残差正交。如果情况确实如此，则回归所得的将是很小的，从而我们会接受假设：过度识别约束条件是真实的。（10.40）中的检验常被误解。它并不是检验是否所有的工具变量都是“真实”的，而是回答这样一个问题：假定工具变量的一个子集是真实的且系数是恰好识别的，问“另外”的一些工具变量也是真实的吗？我们顺便注意到，即使模型是非线性的，GMM估计量和相应的检验也有相同的形式，对一个一般的非线性回归（10.42）将代替，并随之算出适当的加权矩阵。10.6.2 重温武豪斯曼检验和GMM检验密

23、切相关的一类设定检验称为豪斯曼，或武豪斯曼，或德宾武豪斯曼。考虑一个常用的模型，（10.43）如果，我们就知道GMM估计量（不外是OLS估计量）将给出的一致估计。假定现在我们有理由认为，是内生的，或“被污染了的”，以致正交性条件不成立。如果我们有一组和正交的工具变量，我们可以构造的一个2SLS估计量，无论是否与相关，这个估计量都是一致性的。但是如果，2SLS估计量虽然是一致性的，但它的有效性就不及OLS了。因此设计一种检验来评OLS是否适宜将是有益的。豪斯曼（1978）提出下面这个检验：（10.44）其中表示潜在的内在回归元的个数，在这个例子中，为1。豪斯曼（1978）证明了（10.44）式的

24、中间一项具有如此特别方便的形式，即：2SLS估计的系数的协方差矩阵和OLS估计的系数的协方差矩阵之差。在这里我们不需要计算两个估计量之间的协方差。如果这两个估计值的差别很大，我们将拒绝OLS的适宜性。正是由于这个原因，有时把这个检验看成是对的“内生性”检验。为了更深入地理解这个检验，让我们考虑一个由（10.43）式和下式（10.45）构成的两个方程组，其中是工具变量矩阵。给定我们至今所做的假定，（10.45）等于将的方差分解为两个部分。其中的一部分与的误差不相关，另一部分可能与相关。因此，所提出的检验可视为对是否成立的检验。将豪斯曼检验看作一个对比的向量（vector of contrasts

25、）是有帮助的。考虑一个经典的线性模型。（10.46）其中均值为0而方差为，是矩阵，和均为向量。我们要将这个模型中的一个估计量，比如：（10.47）和另一个估计量，比如：（10.48）进行比较。这里的A是一个对称矩阵，它的秩不小于。我们将用矩阵来描述A。通过计算对比向量进行比较：（10.49）这里的是我们熟悉的对称幂等的“残差制造者”矩阵，是熟悉的“预测值制造者”矩阵。即，对某一矩阵，是的每一列对诸回归得到的残差矩阵；是的每一列对回归后再进行预测而得到的预测值矩阵。对的选择取决于研究者所面临的问题。当时，是以为工具变量的的两阶段最小二乘估计量。对固定效应估计量，其中是截面单元的虚拟变量集，是将数

26、据变换成偏离个人特有均值的离差矩阵。如果（10.46）的模型正确，则（10.49）中的差值的概率极限为0。更为重要的是，由于是一个满秩矩阵，因此，只要有plim（10.50）对比向量的概率极限就为零。比较OLS和2SLS。这时，我们可以将矩阵分块为，其中是由潜在的内生回归元所组成的矩阵，且，于是A矩阵就是A=PZ。我们关心的是plim（10.51）是否成立。显然，的一些列为0。通过（10.52）可以看到这一点。这里的表示以的列对Z回归所得到的预测值向量。由于X和Z都含有X2，显然，在本例中，注意到中对应于的那些行将等于0，这是因为以对回归得到的残差为0。因此我们可以把精力集中于判断plim =

27、plim（10.54）是否成立，这可以通过对人为回归：残差（10.55）中的进行检验来实现。将模型记为受约束的模型，则我们所熟悉的检验无非是（10.56）前面我们注意到，豪斯曼检验通常被理解为检验的各列是否内生，但是，如果把它理解成检验“内生性”对的估计是否有显著影响，则更为准确。考虑豪斯曼检验的一个省略变量的形式便可以很容易地理解后一种解释。和前面一样，我们从相同的问题着手。但区别在于，我们不是评价OLS和2SLS的差异，而是将一个OLS估计量同包括了作为额外回归元的另一个OLS估计量进行比较。这时，对比向量将对由（10.46）式得到的OLS估计与由（10.57）得到的的OLS估计进行比较。

28、这里是来自我们的2SLS例子的工具变量矩阵，减去那些已经包含在中的工具变量。我们所关心的是，不包含在在内的集的系数是否会因额外变量的加入而受到影响。回想一下，弗里希沃洛弗尔定理使我们能够先求对的回归残差，再求对这些残差的回归而得到这个模型中的正确估计。这样一来，在将它的预测值“去掉”（通过变换而消去）后，我们再将对回归。完成这个过程的矩阵是：（10.58）由于是幂等的，这个模型的OLS估计不外是（10.59）显然，现在（10.48）中的就是，因此正确的人为回归变为残差残差 （10.60）其中，是的个列对的回归残差。在这个人为回归中检验假设的检验在数值上等价于我们前面用人为回归导出的检验，但那个

29、检验是以OLS和2SLS的比较为基础的！（有一道练习题要求你去证明这一点）。即，从“初始的OLS设定和包含作为工具变量的2SLS所得的对比中”得到的检验统计量与从“初始的OLS设定和用增广的OLS设定所得的对比中”推出的检验统计量是相同的，虽然在后一种情形中不存在“内生性”的问题。总之，为了比较OLS与2SLS而进行豪斯曼检验有三种方法：1像（10.44）那样，直接计算对比向量。2用潜在的内生回归元对工具变量做回归，并根据这些回归式计算预测（10.55）那样，对含有这些新产生的变量（指预测值）的系统进行OLS回归，并检验这些新变量是否显著。3用潜在的内生回归元对工具变量做回归，并计算回归残差。

30、如同（10.60）那样，对包含这些新产生的变量（指残差）的系统做OLS回归，并检验它们是否显著。对于后两种方法的讨论以及推广到其他方面的比较，参见戴维森和麦金农的文章。10.6.3 最大似然法最大似然估计量也可解释为GMM。回想在第5章中，为了使似然值最大，我们令对数似然函数的一阶段导数，（又称得分）为0：（10.61）这个条件无非是一个矩条件。如果我们仍考虑最简单的情形，则描述这个问题的“GMM法”就是求的解。其中，所谓的加权矩阵H无非是矩条件的方差，即，。在这个最简单的情形中，是刚才所定义的最小化问题的一阶条件的解。因此，必须满足。（10.62）而这也是定义MLE的方程，因此，可以认为ML

31、E是一个GMM估计量。如果情况确实如此，那么为什么一些研究者更偏爱GMM而不是MLE呢？一个原因在于它的可操作性。有时当最大似然估计量难以计算时，我们还有一个GMM的估计量，虽然它不如ML估计量渐近有效，但仍是一致性的而且容易计算。第二个原因是，有时我们并不完全明确知道似然函数的数据生成过程，但我们充分知道如何设定一个GMM估计量的矩条件。10.6.4 欧拉方程为GMM所特有的另一个例子就是所谓的欧拉方程法。欧拉方程是动态最优问题的一阶条件。GMM将这些一阶条件视为矩条件。我们将通过一个例子来说明这一点。假如一个有代表性的消费者有一个对各期消费的效用函数，并欲使（10.63）在约束条件（10.64）下为最大，其中=在给定时刻的信息下的期望=主观时间偏好率=固定的实际利率=经济寿命的长度=时刻t的消费=时刻t的收入=时