第七章 工具变量、2SLS、GMM

1、第七章 工具变量、2SLS、 GMM OLS OLS 估计成为一致估计量的前提是解释变量与扰动 项不相关（即前定变量假设），否则，无论样本容 量多大，估计量也不会收敛到参数真值，这将 难以接受。解决方法之一是本章介绍的工具变量法 pp复习第三章 34 38 t01tt tttt tttt t t0tt 11 CY YCIXGDP YCIX 1 YIX 11 违背前定变量假设可以出现在联立方程中，比如 ，、 、分别表示、 消费、投资、净出口。将第一个方程代入第二个 方程，经整理可得 ttt01tt YCY OLS 可见与 相关，因此当单独对 进行估计时会碰到解释变量与扰动项相关的 情况 GDP

2、违背解释变量外生性假定也可以出现在滞后被解 释变量作为模型解释变量的情况。例如，消费不 仅受收入的影响，还要受到前期消费水平的影响； 投资不仅受的影响，也要受前期投资水平的 影响。当存在扰动项序列相关时，就会造成解释 变量与扰动项相关的情况 Instrumental VariableIV一、工具变量法（ ，） t ttt tt w Cov wp0p Cov w0 可以引入工具变量来解决内生变量问题。一个有 效的工具变量应满足以下两个条件： （1）相关性：工具变量与内生解释变量相关，即 ， 为内生解释变量 （2）外生性：工具变量与扰动项不相关，即 ， 二、工具变量法作为一种矩估计 Method

3、of MomentsMM1、矩估计（ ，） 22 2 222 xN E x E xVar xE x 首先以一个例子来说明矩估计方法：假设随机变量 ，其中 ，为待估参数。因为有两 个待估参数，故需要使用以下两个总体矩条件： 一阶中心矩： 二阶中心矩： 用对应的样本矩来替代总体矩条件可得以下联立 方程组，求解后即得到期望与方差的矩估计： n i i=1 n 2 2 n 222i i=1i i=1 n i i=1 nn 2 22 ii i=1i=1 1 xx n 1 xx 1 x n n 1 xx n xxxnx 其中， 为样本均值，上面推导中用到： xf xE f x OLS 任何随机向量 的函数

4、的期望都被称为 总体矩。事实上，也是一种矩估计。利用解释 变量与扰动项的正交性，可以得到以下总体矩条件 iiiii iiii 1 iiiiii E x0E xyx0 E x yE x x E x xE x yE x x （假设可逆） 1 nn 1 MMiiiiOLS i=1i=1 11 x xx yX XX y nn OLS 以样本矩替代上式中的总体矩，即可得到矩估计： 显然这就是估计量 2、工具变量法作为一种矩估计 i1i1k-1ik-1kiki ik iki yxxx x Cov x0OLS ， 假设回归模型为 假设只有最后一个解释变量为内生变量，即 ，因此是不一致的。 iki ii 1k

5、-1 wCov xw0 Cov w0 xx 假设有一个有效工具变量 满足， （相关性），以及，（外生性）。由于 ， ，不是内生变量，故可以把自己作为自己 的工具变量（因为满足工具变量的两个条件） ii1ik-1ik iii ii1ik-1iki1ik-1i xxx x yx zzz zxx w ， ， 记解释变量向量，则原模型为 记工具变量向量为 。 iii iii gz E gE z0 定义。由于工具向量与扰动项正交，故 为总体矩条件或正交条件 iiiii iiii 11 iiiiii E z0E zyx0 E z yE z x E z xE z yE z x 由此可得 （假定存在） 1 n

6、n 1 IViiii i=1i=1 1n-1n1n-1n 11 z xz yZ XZ y nn Zzz zZzz z 以样本矩代替上式中的总体矩，即可得到工具变 量估计量： 其中， 即 下面是工具变量法的大样本性质： iiii IV IV r E z xkE z x 定理：若秩条件 成立（方阵满 秩），则在一定的正则条件下，是 的一致估计 且服从渐近正态分布 1 IV Z XZ y 证明：抽样误差 11 Z XZ XZ XZ 1 nn p1 iiiiZX i=1i=1 11 z xzSg nn 1 iii 0 nn ZXiiii i=1i=1 E z xE g0 11 Sz xgz nn 其中

7、， d 2 iiiii ngN 0S SE g gEz z 与第三章大样本最小二乘法类似的假定和推导， 可以证明， 其中 IV d1 IVZXIV 11 IViiii 1 ii nSngN 0AVar AVarE z xS E z x E z x 进一步，工具变量估计量渐近服从正态分布，即 ，其 中渐近方差矩阵 用到为对称矩阵 iii i r E z xkw x 秩条件 意味着工具变量与内生解释 变量 相关，若不相关，则秩条件无法满足。证略 i zk 1 2 3 阶条件： 中至少包含 个变量 根据是否满足阶条件可分为三种情况： 不可识别：工具变量个数少于内生解释变量个数 恰好识别：工具变量个数

8、等于内生解释变量个数 过度识别：工具变量个数多于内生解释变量个数 1 IV Z XZ X 以上介绍的工具变量法仅适用于恰好识别的情况。 在过度识别的情况下，不是方阵，不存在 无法得到工具变量估计量。 若扔掉多余的工具变量将会浪费有用的信息，有效 的方法是二阶段最小二乘法 三、二阶段最小二乘法 k SLS 显然，多个工具变量的线性组合仍然是工具变量 因为仍满足工具变量的两个条件（相关性与外生性） 如果生成工具变量的 个线性组合，则又回到恰好 识别的情形。那么什么样的线性组合才是最有效率 的呢？可以证明在球形扰动项的假设下，由二阶段 最小二乘法（2）所提供的工具变量线性组合是 所有线性组合中最渐近

9、有效的。这个结论类似于小 样本理论中的高斯马尔可夫定理。 1k 1L i1ini n 1 ii 1122kk i 1 xxL zzOLS xxxi1k ixx xPxxPxxPx xZ yXyPyyX PZ Z ZZZ 第一阶段：将每个解释变量 ， ，分别对所有 个 工具变量， ，作回归，其中 ， ， ， （注意，不同于第二章 对第 个观测数据 的定义）。相当于将 视作被解释 变量。得到拟合值 ， ， 即 到 上的投影 （相当于 对 求回归拟合值 ，即 到 上的投影） 其中，为 的投影矩阵。写成矩阵形 12k12k 1 Xx x xP x xxPX ZZ ZZ X 式 1L 11 IV 2 I

10、V Xzz Xk XyX X XX yX XX y X XPXPXX P PXX P X PXXX XP PPPPyX 第二阶段：由于 是， ，的线性组合（参见 第一阶段回归），故 恰好包含 个工具变量。使用 为工具变量对原模型 进行工具变量法估 计： 后一个等号 能成立是由于 ，其中，投影矩阵 为对称幂等矩阵 即 ， 。因此，可以将视为把 对 进行 OLS回归而得到，故名“二阶段最小二乘法” 22SLS 2SLS eyX eyX 注意，第二阶段回归所得到的残差为 而原方程的残差却是（这是正确的） IV IV 1 22 IV OLS e e VarsX Xs n-k 由于的表达式在形式上完全类

11、似于估计量 故在条件同方差的假设下，的协方差矩阵估计量 为，其中， n 11 2 IViii i=1 VarX Xe x xX X 在存在异方差的情况下，则应使用稳健的协方差矩 阵估计量，即 11 IV 1 2SLS 1 11 XZ Z ZZ XPZ Z ZZ 2SLS X PXX Py X Z Z ZZ XX Z Z ZZ y 将 （或将）代入的 公式，可得的最终表达式： 四、有关工具变量的检验 在使用工具变量法时，必须对工具变量的有效性 进行检验。如果工具变量非有效，则可能导致估 计不一致，或估计量的方差过大。 1、检验工具变量与解释变量的相关性 ii 1 ii IV 11 iiii zx

12、 E z x zxE z x AVar E z xS E z x zx 如果工具变量 与内生解释变量 完全不相关，则 无法使用工具变量法，因为不可逆。如果 与 仅仅微弱相关，则可认为很大，导 致工具变量法估计量的渐近方差 非常之大。直观上看，由 于 中仅包含很少与 有关的信息，利用这部分信息 进行的工具变量法估计就不准确，即使样本容量很 大也很难收敛到真实的参数值。这种工具变量 IV 称为 弱工具变量，将使的小样本性质变得很差，且基 于大样本理论的统计推断失效 判断弱工具变量的方法主要有两种。 2 112221 12 2 OLS2 2122 221 R yxxxx x z z2SLS xxzR

13、x zxx 方法之一为使用“偏”。假设回归模型为 ，其中只有为内生解释变量， 为外生解释变量向量。记工具变量为，其中 为方程外的工具变量。在的第一阶段回归中 ， ，其包含了内生变量与工具变 量 相关性的信息，但也可能由于与 的相关性造 成。 22 1 2 p xRpartial R R 为此，应该使用滤去 影响的“偏”（ ） 记为 2 2 22 21 OLS 21x21 OLS 2121 z21 OLS xz 2 p2 xx xxexx zxzx ezx ee Rz 具体操作步骤如下：首先作对 回归， ，记其残差为，代表中不能由 解 释的部分；其次，作对 回归，记 其残差为，代表 中不能由 解

14、释的部分；最后 对两个残差进行回归，即，所得的判 定系数即，若其较小即可认为 是弱工具变量 21 122 02 xxzerror H0 判断弱工具变量的另一个方法是，在第一阶段回 归中， ，检验原假设 ： F10 F 一个经验规则是，如果此检验的 统计量大于， 则可拒绝“存在弱工具变量”的原假设，从而不必 担心弱工具变量问题。在多个内生解释变量的情况 下，将有多个如此的第一阶段回归和 统计量 解决弱工具变量问题的方法是寻找更强的工具变 量或若有较多工具变量，可舍弃弱工具变量 2、检验工具变量的外生性 在恰好识别的情况下，目前公认无法检验工具变量 是否与扰动项相关。在这种情况下，只能进行定性 讨

15、论或参考专家的意见。 0 H 在过度识别的情况下，则可进行过度识别检验，即 检验原假设“：所有工具变量都是外生的”。如 果拒绝该原假设，则认为至少某个工具变量不是外 生的，与扰动项相关。 1k-r k-r1k 1m k-rxx rxx mzzmr 假设前个解释变量， ，为外生解释变量 而后 个解释变量， ，为内生解释变量。假 设共有 个方程外的工具变量， ，其中 i,IV1i1k-ri,k-r1 i1mimi exxzzerror 把工具变量法的残差对所有外生变量（即所有外生 解释变量与工具变量）进行以下辅助回归： i,IV 1m 01m 2 d22 e zz H RSargan nRm-r

16、将工具变量法的残差视为对扰动项的估计，则 “扰动项 与工具变量， ，无关”的原假设可 以写为“： 0”。记此辅助回归的可 决系数为，则统计量为 2 m-r00显然，若恰好识别，则 ，无定义，故 无法使用此检验 3、对解释变量内生性的检验 使用工具变量法的前提是存在内生解释变量，这也 需要检验。如果找到有效的工具变量，则可以借助 工具变量来检验解释变量的内生性 OLS OLSBLUE 假设存在方程外的工具变量。若所有解释变量都是 外生变量，则比工具变量法更有效，因为此时 如果满足球型扰动项的假定，则是 OLS 在这种情况下使用工具变量法，虽然估计量仍然是 一致的，但反而会增大估计量的方差。反之，

17、若存 在内生解释变量，则是不一致的，而工具变量 法是一致的。 0 0 IVOLS IVOLS 0 IVOLS H HOLS vector of contrast H OLS 0 解释变量内生性的检验使用的是“豪斯曼检验” 其原假设为“：所有解释变量均为外生变量” 如果成立，则与工具变量法都是一致的 即在大样本下与均收敛于真实的参数值 因此，（“对比向量” ） 依概率收敛于0。反之，如果不成立，则工具变 量法一致而不一致，故不会收敛于 。豪斯曼检验正是基于这一思想进行的 IVOLS 如果很大，则倾向于拒绝原假设 d2 IVOLSIVOLS IVOLS 1 Dr DVarDD DD DD DDD

18、DDDDD D DDD D DDr 根据沃尔德检验原理，以二次型来度量此距离可得 其中，而是 的广义逆矩阵 （注： 的广义逆矩阵需要满足四个条件： ，为对称矩阵， 为对称矩阵）。因为 不一定可逆，但如果 正定，则可逆。当 可逆时，广义逆矩阵就是一般 的逆矩阵，即。 为内生解释变量的个数 （不包括外生解释变量） IVOLSIVOLS IVOLS 0 IVOLSOLS IVOLSIVOLS IVOLSIVOLS VarVarVar 2Cov H CovVar VarVarVar DVarVarVar 容易证明： ， 在成立的情况下，可以证明 ， 故 于是 OLS 如果拒绝原假设，则认为存在内生解释

19、变量，应该 使用工具变量法；反之，如果接受原假设，则认为 不存在内生解释变量，应该使用 注意，传统的豪斯曼检验不适用于异方差的情况 解决方法是使用“杜宾吴豪斯曼检验”，该 检验在异方差的情况下也适用，更为稳健。 11222 1 122 yxxx x zx zz 首先考虑只有一个内生解释变量的情况。假设回归 模型为， ，其中为唯一的内生解 释变量， 为外生解释变量向量。记工具变量向量 为，其中 为方程外的工具变量。 2 2 0 22 SLSxzv z E xEzvE zE vE v xE x0E v0 考虑2的第一阶段回归，即 。由于工 具变量 与 不相关，故 故有“为内生变量” “” “” 1

20、122 v vv v yxxv 故只需要检验第一阶段回归的扰动项 是否与原模 型的扰动项 相关即可。因此，考虑以下回归模型 ，其中 为 对 的回归系数（没有常 数项，因为扰动项的期望值为0）。如果 与 不相 关，则 0。将上式代入原模型可得 1122 0 0 vv v yxxverror Ht H t 由于 不可观测，故使用第一阶段回归的残差 来代 替 ，进行以下辅助回归 然后对原假设 ： 0 进行 检验。如果拒绝 ： 0，则认为存在内生解释变量；否则认为所 有解释变量均为外生。考虑到可能存在异方差则需 要在作 检验时使用稳健标准差 1122 12 yxx xx 如果存在多个内生解释变量，即

21、其中 、均为向量 2 1122 xv yxxverror v 则在第一阶段回归中可以得到与内生解释变量向量 相对应的多个残差 ，进行以下辅助回归 其中 、 为向量 0 HF然后对原假设 ： 0 进行 检验即可。同样地 如果担心存在异方差，则可在检验时使用稳健标准差 GMM五、的假定 SLS Generalized Method of MomentsGMM 在球型扰动项的假定下，2是最有效的。但如果 扰动项存在异方差或自相关，则存在更有效的方法 即“广义矩估计”（ ，） GMMSLSGLSOLS在某种意义上，之于2，正如之于 GMM OLS 首先引入以下关于的假定（类似于第三章大 样本的系列假定

22、） iii ii1i2ik yxi1n xx x xi 假定7.1：线性假定 ， ， 其中，为第 个观测数据 iii iiii 7.2 Lzxw yxzw 假定： 渐近独立的平稳过程 记 维工具变量为（可能与 有重叠部分），由 ， ，中不重复的变量构成，随机过程为 渐近独立的平稳过程 i iiii iii z Lgzg E gE z0 假定7.3：工具变量的正交性 所有工具变量 均为前定，即与同期扰动项正交。 定义 维列向量（与第三章中的 的定义不同） 则 iiii ZXii 7.4 L kE z xr E z xk E z x 假定： 秩条件 矩阵列满秩，即 记 i 2 iiiii 7.5g

23、 SE g gEz z 假定： 为鞅差分序列，其协方差矩阵 为非退化矩阵 2 ikij Ex z ijk 假定7.6： 四阶矩存在且有限， ， ， GMM六、的推导 iii n niii i=1 E gE z0 1 gzyx0 n 与总体矩条件 相对应的样本矩条 件为： i IV k LzLk如果，为过度识别，则 无解。（通过举例来理 解这三者的关系：过一个点可有无穷条直线，过两 个点决定一条直线；过三个点或很多点既不能确定 一条直线又可以确定一条直线） n nn g 0gg weighting matrixW 此时传统的矩估计法行不通。可用统计归纳法即 类似于最小二乘法的思想去寻找 ，使得向

24、量 尽可能地接近 ，比如，使二次型 最小。更一般地，可以用一个权重矩阵 （ ）来构成二次型 n nn GMM WL L plimWWW W minJWn gW g n GMM WargminJW 假设一个依赖于样本数据的随机矩阵是一个 阶对称正定矩阵，而且，其中为非随 机的对称正定矩阵。的确定在下一节介绍。 定义最小化的目标函数为 ， 其中，因子 只是为了统计量计算方便而加上的， 不影响最小化。定义“估计量”为此二次型 最小化问题的解：， arg之意是返回一个使方框内的函数最小化的 的值 GMMi GMM GMMW Wg GMMGLS 显然估计量取决于权重矩阵，可以通过最优 地选择使得最有效。

25、可以让方差较小的 获得 较大的权重而使的方差最小。因此，在某种意 义上，与有相通之处。 nii n gz e zegJW OLS 由的定义可知，它实际上是的样本平均数 。由定义可知是 的一次函数，故， 是 的二次（型）函数，通过向量微分可以得到其最 小化问题的解（推导方法类似于估计量） （练习） nn ZXiiZyii i=1i=1 nn n n p A Ap8 11 Sz xSz y nn n gW g JW g 2nW g 推导过程：需用到第二章 7之（2.6）的推广，即 ，以及之（2.7） 令， ， n n n n ZyZX n ZXZyZXZXZXZXZy 1 GMMZXZXZXZy

26、g g g 2nW g SS 2nW g 2nSW SS0SWSSWS WSWSSWS 由于对二次型求导的结果是个列向量，而是 列向量，将是个矩阵，故上式应为 ii 1 ZXZX r E z xkW SWS 秩条件 及为正定矩阵保证了在大 样本下的存在。 ZX 1 111 GMMZXZXZXZyZXZyIV SGMM WSWSSWSS S 在恰好识别的情况下，为方阵，则还原为 普通的工具变量法，因为 GMM七、的大样本性质 GMMOLS的大样本性质的证明思路与第三章的大 样本性质的类似。 GMM GMM n GMMi i d GMMGMM 11 GMMZXZXZXZXZXZX GMM 17.1

27、 7.4 plimW 27.3E g g nN 0AVar AVarWWSWW 定理估计量的大样本性质 ： 为一致估计 在假定之下， 为渐近正态 如果假定 （即0）强 化为假定7.5（即为鞅差分序列），则有 ，其中渐近 协方差矩阵 2 iiiiiZXii SE g gEz zE z x， GMM GMM 11 GMMZXZXZXZXZXZX 3AVarSS AVar AVarSWSSWSWSSWS 的一致估计量 若 是 的一致估计 量，则在假定7.2下的一致估计量为 n 1 GMMZXZXZXii i=1 n 1 ZXZXZXiii i=1 1 1 WSWSSWz y n 1 SWSSWzx

28、n 证明： 抽样误差可以写为 n 1 ZXZXZXZXii i=1 n 1 ZXZXZXiiii i=1 1 SWSSW Sz n 1 SWSSWg gggz n 其中， 1 1 p ZXZXZXZX pp ZXZXiii p GMM ii SWSW SWWgE gE z0 W0GMM E z0 由于 ，而 因此，。可见，保证一 致性的最重要条件是 ，即工具变量与 扰动项正交。 1 GMMZXZXZX 1 GMMZXZXZX d2 iiiii 2WSWSSWg nWSWSSWng 7.5 ngN 0SSE g gEz z 由于抽样误差 故 根据假定及鞅差分序列的中心极限定理， ，其中 GMM

29、d GMMGMM 1 1 p ZXZXZXZX p ZXZX nWng nWN 0AVar SWSW SWW 由于是的线性组合，故 ，。 由于以及 ， GMM 11 ZXZXZXZXZXZX 1 ZXZX AVar WWSWW W 故有 ， 其中为对称矩阵。 ppp ZXZX GMM 11 ZXZXZXZXZXZXGMM 3SSSWW AVar SWSSWSWSSWSAVar 由于，而且， 故估计量 是 的一致估计量，也是一个“三明治”估计量 n 22 iiii i=1 n 222 iiii i=1 2 iiiii 7.1 7.27.6 1 eyxse n 1 ESe z z n SE g g

30、Ez z 定理：在假定、 与假定下，对于 的任何一 致估计量 ，定义残差，则是 的一致估计，而且是 的一致估计 GMM 1 AVar optimal weighting matrixWS 定理：使最小化的最优权重矩阵 （ ）为 1 GMM S 这意味着，使用任何其他权重矩阵进行估计 其估计量的渐近方差矩阵都将大于或等于使用 为权重的渐近方差矩阵，即前者与后者之差为半 正定矩阵 1 SGMM GMMGMM 定义：使用为权重矩阵的估计量被称为 “效率”或“最优” 1 n 2 iii i=1 SS 2SLS2SLS 1 Se z z n GMM 为了使用最优权重矩阵，首先必须估计 。由于 也是一致的

31、，故用的残差来计算 也是一致的。因此可以进行以下 “两步最优估计” n 2 iii i=1 11 GMM 1 2SLSSe z z n JSS 第一步：使用，得到残差，计算 第二步：最小化，得到 1 GMM iterative GMM SS 在实际操作中，常使用迭代法（ ） 直至估计值收敛，即用第二步所获的残差再来计 算 ，然后再求，依此迭代。 GMM GMM 2SLS 在条件同方差的假定下，最优的表达式可 以大大简化 定理：在条件同方差的情况下，最优就是 i i ii 22 ii 22 iiiziiii 222 ziiiiiiZZ ZZ 1 12 ZZ zx Ez0 SE z zE E z

32、zz Ez z EzE z zSs S 1 SSZ Z n Ss SGMM 证明：这里的条件同方差是指，在给定工具变量 而非解释变量 情况下的条件方差相同 假设（条件同方差），则根据迭代 期望定律， 。因此是 的一致估计量，其中，。使用 为最优权重矩阵，则最优估计 量为 1 11 122 GMMZXZZZXZXZZZy 1 11 ZXZZZXZXZZZy 2 GMM SSs SSSs SS S S SS S S s 上式中 被消去了，即最优权重矩阵的常数倍并不 影响的取值。 ZXZZZy 1 1 1 GMM 1 111 2SLS 111 SZ XSZ ZSZ y nnn 111 SX Z n

33、Z ZZ XX Z nnn 1 n Z ZZ yX Z Z ZZ XX Z Z ZZ y n 由于，故 1 11 ZZ GMM GMM S SS2SLSGMM 可见，在条件同方差下，两步最优可以省略 为一步。这是因为，两步最优中第一步的目 的只是得到，而在条件同方差下，可以直接令 。因此有时也被称为“一步” 1 GMM GMM NeweyWest GMM S 在存在异方差的情况下，依然是稳健与最优 的。在时间序列数据中，即使存在自相关，也仍然 可以使用，只要采用异方差稳健的标准差 （标准差）来进行统计推断即可。此时 估计量依然满足一致性、渐近正态性、渐近 有效性，只是最优权重矩阵的表达式不同。

34、 八、如何获得工具变量 使用工具变量法的前提是存在有效的工具变量。但 是工具变量的两个要求（相关性与外生性）常常自 相矛盾，即与内生解释变量相关的变量往往与被解 释变量的扰动项也相关。故在实践中，寻找合适的 工具变量通常比较困难，需要一定的创造性与想象 力。 1x 2 寻找工具变量的步骤大致可以分为两步： 列出与内生解释变量 相关的尽可能多的变量清单 从这一清单中剔除与扰动项相关的变量（这一步 较难） z y zyzxz zyx zzyx zy x 如何判断候选工具变量 是否与不可观测的扰动项 相关呢？由于扰动项是被解释变量 的扰动项，故 可以从该候选变量与被解释变量的相关性着手。显 然 与 相关，因为 与内生解释变量 相关。若 与 不相关，则 对 的影响仅仅通过 来起作用，因为如 果 与 相关