Lecture 6_异方差

1、1 中级计量经济学中级计量经济学第六讲：异方差第六讲：异方差朱燕建朱燕建浙江大学经济学院浙江大学经济学院2引子：引子：更为接近真实的结论是什么？更为接近真实的结论是什么？ 根据四川省根据四川省20002000年年2121个地市州医疗机构数与人口数个地市州医疗机构数与人口数资料，分析医疗机构与人口数量的关系，建立卫生资料，分析医疗机构与人口数量的关系，建立卫生医疗机构数与人口数的回归模型。对模型估计的结医疗机构数与人口数的回归模型。对模型估计的结果如下：果如下： 式中式中 表示卫生医疗机构数（个），表示卫生医疗机构数（个）， 表示人表示人口数量（万人）。口数量（万人）。 (291.5778) (

2、0.644284)-563.0548 5.3735iiYX20.785456R 20.774146R 69.56003F (-1.931062) (8.340265)t YX3模型显示的结果和问题模型显示的结果和问题 人口数量对应参数的标准误差较小；人口数量对应参数的标准误差较小； t统计量远大于临界值，可决系数和修正的可决系统计量远大于临界值，可决系数和修正的可决系 数结果较好，数结果较好，F检验结果明显显著；检验结果明显显著；表明该模型的估表明该模型的估计效果不错，可以认为人口数量每增加计效果不错，可以认为人口数量每增加1 1万人，平均万人，平均说来医疗机构将增加说来医疗机构将增加5.37

3、355.3735个。个。 然而，这里得出的结论可能是不可靠的，平均说然而，这里得出的结论可能是不可靠的，平均说来每增加来每增加1 1万人口可能并不需要增加这样多的医疗机万人口可能并不需要增加这样多的医疗机构，所得结论并不符合真实情况。构，所得结论并不符合真实情况。 有什么充分的理由说明这一回归结果不可靠呢？有什么充分的理由说明这一回归结果不可靠呢？更为接近真实的结论又是什么呢？更为接近真实的结论又是什么呢？ 4 本讲讨论四个问题：本讲讨论四个问题： 异方差的实质和产生的原因异方差的实质和产生的原因 异方差产生的后果异方差产生的后果 异方差的检测方法异方差的检测方法 异方差的补救异方差的补救5第

4、一节第一节 异方差性的概念异方差性的概念 本节基本内容：本节基本内容： 异方差性的实质异方差性的实质 异方差的类型异方差的类型 异方差产生的原因异方差产生的原因6 一、异方差性的实质一、异方差性的实质 同方差的含义同方差的含义 方差是度量被解释变量方差是度量被解释变量 的观测值围绕回归线的观测值围绕回归线 的分散程度，因此同方差性指的是所有观测值的的分散程度，因此同方差性指的是所有观测值的 分散程度相同。分散程度相同。 01122E( ).iiikkiYXXXY Var(u) = 2I = 210101 7 设模型为设模型为 如果对于模型中随机误差项如果对于模型中随机误差项 有：有： 则称具有

5、异方差性。进一步，把异方差看成是由于某个则称具有异方差性。进一步，把异方差看成是由于某个或某几个解释变量的变化而引起的，则或某几个解释变量的变化而引起的，则 异方差性的含义异方差性的含义iu01122.1,2,.,iiikkiiYXXXuin 21122200var00nnwuVw 221Var()(,)iiiiPuf ZZZ， 为其中几个解释变量8 图形表示图形表示XY概率密度9举例举例1平均工资可能随着公司规模增加而增加，假平均工资可能随着公司规模增加而增加，假设工资如下表所示设工资如下表所示公司规模公司规模平均工资平均工资工资标准差工资标准差1-41-43,3963,3967447445

6、-95-93,7873,78785185110-1910-194,0134,01372872820-4920-494,1044,10480580550-9950-994,1464,146930930100-249100-2494,2414,2411,0811,0812502504,5384,5381,3101,31010举例举例2收入收入储蓄储蓄11举例举例31110112111111111 111111,2,;1,2,0,var,cov,0111Gijijkijkijiijijijlsknnn kGGGnYXXuiG jnE uuijsu uYXXYXXYXXY分组资料对于或者l111111

7、111GGGnkG kGGnGn kGnuuuXXu 12 1112111,01iiinnniijikijkiijjjjiiiiiYYXXuunnnYXuGE uun取建立模型：观测值个数为可以证明：（2）v（1）ar13二、异方差的类型二、异方差的类型（1）递增型）递增型010020030005000100001500020000XY无论是时间序列数据还是截面数据。递增型异方差的来源无论是时间序列数据还是截面数据。递增型异方差的来源主要是因为随着解释变量值的增大，被解释变量取值的差主要是因为随着解释变量值的增大，被解释变量取值的差异性增大。异性增大。14（2）递减型）递减型050100150

8、2002500102030YX（3）条件自回归型）条件自回归型-8-6-4-20246200400600800100012001400DJPYl 时间序列数据和截面数据中都有可能存在异方差。时间序列数据和截面数据中都有可能存在异方差。l 经济时间序列中的异方差常为递增型异方差。金融经济时间序列中的异方差常为递增型异方差。金融时间序列中的异方差常表现为自回归条件异方差。时间序列中的异方差常表现为自回归条件异方差。15 （一）模型中省略了某些重要的解释变量（一）模型中省略了某些重要的解释变量假设正确的计量模型是：假设正确的计量模型是： 假如略去假如略去 ，而采用，而采用 当被略去的当被略去的 与与

9、 有呈同方向或反方向变化的趋有呈同方向或反方向变化的趋势时势时, ,随随 的有规律变化会体现在的有规律变化会体现在 中。中。01122iiiiYXXu2iX*011iiiYXu2iX1iX*iu*iu1iX三、产生异方差的原因三、产生异方差的原因16（二）模型的设定误差（二）模型的设定误差 模型的设定主要包括变量的选择和模型数学形式的确定。模型的设定主要包括变量的选择和模型数学形式的确定。模型中略去了重要解释变量常常导致异方差，实际就是模模型中略去了重要解释变量常常导致异方差，实际就是模型设定问题。除此而外，模型的函数形式不正确，如把变型设定问题。除此而外，模型的函数形式不正确，如把变量间本来

10、为非线性的关系设定为线性，也可能导致异方差。量间本来为非线性的关系设定为线性，也可能导致异方差。（三）数据的测量误差（三）数据的测量误差 样本数据的观测误差有可能随研究范围的扩大而增加，或样本数据的观测误差有可能随研究范围的扩大而增加，或随时间的推移逐步积累，也可能随着观测技术的提高而逐随时间的推移逐步积累，也可能随着观测技术的提高而逐步减小。步减小。 3iX*iu17（四）截面数据中总体各单位的差异（四）截面数据中总体各单位的差异 通常认为，截面数据较时间序列数据更容易产生异方通常认为，截面数据较时间序列数据更容易产生异方差。这是因为同一时点不同对象的差异，一般说来会差。这是因为同一时点不同

11、对象的差异，一般说来会大于同一对象不同时间的差异。不过，在时间序列数大于同一对象不同时间的差异。不过，在时间序列数据发生较大变化的情况下，也可能出现比截面数据更据发生较大变化的情况下，也可能出现比截面数据更严重的异方差。严重的异方差。（五）异常值的出现（五）异常值的出现18第二节第二节 异方差性的后果异方差性的后果 本节基本内容：本节基本内容： 对对OLSOLS参数估计统计特性的影响参数估计统计特性的影响 对对OLSOLS参数显著性检验的影响参数显著性检验的影响 方差的怀特调整估计方差的怀特调整估计19一、对参数估计统计特性的影响一、对参数估计统计特性的影响（一）参数估计的无偏性仍然成立（一）

12、参数估计的无偏性仍然成立 参数估计的无偏性仅依赖于基本假定中的零均值参数估计的无偏性仅依赖于基本假定中的零均值 假定（即假定（即 ）。所以异方差的存在对无偏性）。所以异方差的存在对无偏性 的成立没有影响。的成立没有影响。E( )0iu Y= X + u = (X X )-1 X Y E( ) = E (X X )-1 X Y = E (X X )-1 X (X + u) = + (X X)-1 X E(u) = 20（二）参数估计的方差不再是最小的（二）参数估计的方差不再是最小的 同方差假定是同方差假定是OLS估计方差最小的前提条件，所估计方差最小的前提条件，所 以随机误差项是异方差时，将不能

13、再保证最小二以随机误差项是异方差时，将不能再保证最小二 乘估计的方差最小。乘估计的方差最小。 Y = X + u = (X X )-1 X Y= + (X X )-1 X uVar( ) = E ( - ) ( - ) = E (X X )-1 X u u X (X X)-1 = (X X)-1 X E (u u ) X (X X )-1 = (X X )-1 X V X (X X )-1 = 2 (X X )-1 X X (X X )-1 2 (X X )-1 21方差协方差阵的特殊表达方式：方差协方差阵的特殊表达方式： 21111211121,1,varniiiiiikiniiiiniii

14、iX VXx xxXXX Xx xX XX Xw x xX X以一元回归为例 01112221220 varcov,00var0var1variiiiiiiiiiijnYXuyxuuE uuxu uxuxGLSOLS假设：，ij时即可以证明：，其中 ， 分别为和估计量23 二、对参数显著性检验的影响二、对参数显著性检验的影响jjjjjtcSE2222121vartte eEEEnkX Xtt， 常 有统 计 量 不 服 从 分 布 ， 检 验 失 效 ， 且常 被 高 估24三、方差的怀特调整估计三、方差的怀特调整估计112121112111110201var. varniiiiniiiini

15、iiiniiiiX Xx xX XnX Xx xX XneasynX Xx xX XnnX XSX XeSx xn普 通 最 小 二 乘 估 计 失 效 ， 当 异 方 差 结 构 未 知 时 ，只 要 样 本 容 量 足 够 大 ， 可 采 用 如 下 方 差 -协 方 差 阵其 中 ，25112111221112var.varnnX XX VXX XX XXXX XeasyX XXXX Xe或 者 简 单 的 写 成26第三节第三节 异方差性的检验异方差性的检验常用检验方法常用检验方法: : 图示检验法图示检验法 WhiteWhite检验检验 B-P B-P检验法检验法 Gleiser G

16、leiser检验法检验法 Goldfeld-QuanadtGoldfeld-Quanadt检验检验 ARCHARCH检验检验27一、图示检验法一、图示检验法 （一）散点图分析（一）散点图分析 方差描述的是随机变量取值的（与其均值的）离散方差描述的是随机变量取值的（与其均值的）离散程度。因为被解释变量程度。因为被解释变量 与随机误差项与随机误差项 有相同的有相同的方差，所以利用分析方差，所以利用分析 与与 的相关图形，可以初略的相关图形，可以初略地看到地看到 的离散程度与的离散程度与 之间是否有相关关系。之间是否有相关关系。 如果随着如果随着 的增加，的增加， 的离散程度为逐渐增大（或的离散程度

17、为逐渐增大（或减小）的变化趋势，则认为存在递增型（或递减型）减小）的变化趋势，则认为存在递增型（或递减型）的异方差。的异方差。uYXXYYXY28设一元线性回归模型为：设一元线性回归模型为：运用运用OLS法估计法估计, ,得样本回归模型为：得样本回归模型为：由上两式得残差：由上两式得残差：绘制出绘制出 和和 对对 的散点图的散点图如果如果 的离散程度或者的离散程度或者 不随不随 变化，则表明变化，则表明不存在异不存在异方差方差；如果如果 的离散程度或者的离散程度或者 随随 变化，则表明变化，则表明存在异方存在异方差差。 （二）残差图形分析（二）残差图形分析iiiY Xu01iiY= + X01

18、-iiieYY2ieiXiXiX2ie2ie思考：思考：对于多元线性回归模型，如何分析？对于多元线性回归模型，如何分析？ieieie29二、二、White检验检验(White, 1980)(White, 1980)（一）（一）基本思想基本思想： 不需要关于异方差的任何先验信息，只需要在大不需要关于异方差的任何先验信息，只需要在大样本的情况下，将样本的情况下，将OLS估计后的残差平方对常数、估计后的残差平方对常数、解释变量、解释变量的平方及其交叉乘积等所构解释变量、解释变量的平方及其交叉乘积等所构成一个辅助回归，利用辅助回归建立相应的检验成一个辅助回归，利用辅助回归建立相应的检验统计量来判断异方

19、差性。统计量来判断异方差性。 30( (二二) )检验的特点检验的特点n 要求变量的取值为大样本要求变量的取值为大样本n 不仅能够检验异方差的存在性，同时在多变量的不仅能够检验异方差的存在性，同时在多变量的 情况下，还能判断出是哪一个变量引起的异方差。情况下，还能判断出是哪一个变量引起的异方差。31（三）检验的基本步骤：（三）检验的基本步骤： 以一个二元线性回归模型为例，设模型为：以一个二元线性回归模型为例，设模型为： 并且，设异方差与并且，设异方差与 的一般关系为的一般关系为 其中其中 为随机误差项。为随机误差项。t1t2ttY = + X + X +u012,ttXX12222t1t2t1

20、t2t1t2tt = + X + X + X + X + X X +v012345tv321.1.求回归估计式并计算求回归估计式并计算用用OLS估计式（估计式（5.145.14），计算残差），计算残差 ，并求残，并求残差的平方差的平方 。2.2.求辅助函数求辅助函数用残差平方用残差平方 作为异方差作为异方差 的估计，并建立的估计，并建立 的辅助回归，即的辅助回归，即222t1t2t1t2t1t2te = + X + X + X + X + X X012345-ttteY Y2te2t221t2t1t2t1t2tX ,X ,X ,X ,X X2te2te333.3.计算计算 计算辅助回归函数的可

21、决系数计算辅助回归函数的可决系数 ， 为样本容量。为样本容量。4.4.提出假设提出假设 01H0,H,3,.,5j:=.=:j15（=1）不全为零2nRn5.5.检验检验 在零假设成立下，有在零假设成立下，有 渐进服从自由度为渐进服从自由度为5 5的的 分布。给定显著性水平分布。给定显著性水平 , ,查查 分布表得临界分布表得临界值值 ，如果，如果 , ,则拒绝原假设，表明模则拒绝原假设，表明模型中随机误差存在异方差型中随机误差存在异方差 。2nR22(5)222(5)nR34三、三、Breusch-Pagan检验检验 基本思想基本思想：将残差图形分析法公式化，提出：将残差图形分析法公式化，提

22、出 是是解释变量解释变量 的某个函数，然后通过检验这个函数的某个函数，然后通过检验这个函数形式是否显著，来判定是否具有异方差性及其异方形式是否显著，来判定是否具有异方差性及其异方差性的函数结构。差性的函数结构。检验的步骤：检验的步骤：l计算残差序列计算残差序列l假设异方差的结构函数为（其中假设异方差的结构函数为（其中Z Z为解释变量中的为解释变量中的若干个）若干个）2iiX20112011:0:iiPiPPfZZHH至少一个不为零2ie222,iieeegssn35l以以g g对对Z Z做做olsols回归，得到模型所能解释的变回归，得到模型所能解释的变差差l原假设为真的情况下，有原假设为真的

23、情况下，有lKoenker-BassettKoenker-Bassett提出了一个改进的统计量，提出了一个改进的统计量，以纠正以纠正B-PB-P统计量对正态性假定的敏感性统计量对正态性假定的敏感性l具体操作见具体操作见SASSAS1ESSg Z Z ZZ gn 12212LMg Z Z ZZ gnPLMP，则拒绝原假设，即存在异方差36四、四、Glejser检验检验（一）检验的基本思想（一）检验的基本思想 由由OLS法得到残差，分别取平方、绝对值以及绝对值的对法得到残差，分别取平方、绝对值以及绝对值的对数，然后将这些新的变量分别对某些解释变量回归，根据数，然后将这些新的变量分别对某些解释变量回

24、归，根据回归模型的显著性和拟合优度来判断是否存在异方差。回归模型的显著性和拟合优度来判断是否存在异方差。（二）检验的特点（二）检验的特点 不仅能对异方差的存在进行判断，而且还能对异方差随某不仅能对异方差的存在进行判断，而且还能对异方差随某个解释变量变化的函数形式进行诊断。该检验要求变量的个解释变量变化的函数形式进行诊断。该检验要求变量的观测值为大样本。观测值为大样本。37（三）检验的步骤（三）检验的步骤 1.1.建立模型并求建立模型并求 2.2.寻找寻找 与与 的最佳函数形式的最佳函数形式考虑如下三种函数形式。考虑如下三种函数形式。ieieZ （其中Z为部分X）2011011011lniiPi

25、PiiiPiPiiiPiPieZZveZZveZZv38 3. 3.判断判断 122001:00.PW =asyVarPWHP 若，则，在显著性水平 下拒绝H即特点：特点： 既可以检验递增型，也可以检验递减性异方差既可以检验递增型，也可以检验递减性异方差 一旦发现异方差，即知道其形式一旦发现异方差，即知道其形式 计算量较大计算量较大39五、五、Goldfeld-Quanadt检验检验 基本思想基本思想：将样本分为两部分，然后分别对两个样：将样本分为两部分，然后分别对两个样 本进行回归，并计算两个子样的残差平方和所构成本进行回归，并计算两个子样的残差平方和所构成 的比，以此为统计量来判断是否存在

26、异方差。的比，以此为统计量来判断是否存在异方差。（一）（一） 检验的前提条件检验的前提条件 1 1、要求检验使用的为大样本容量。、要求检验使用的为大样本容量。 2 2、除了同方差假定不成立外，其它假定均满足。、除了同方差假定不成立外，其它假定均满足。40（二）检验的具体做法（二）检验的具体做法1.1.排序排序假设随机扰动项的方差与某个解释变量正相关，把假设随机扰动项的方差与某个解释变量正相关，把全部观测值按照此解释变量的取值从小到大排序。全部观测值按照此解释变量的取值从小到大排序。2.2.数据分组数据分组 将排列在中间的约将排列在中间的约1/41/4的观察值删除掉，记的观察值删除掉，记 为为

27、，再将剩余的分为两个部分，每部分观察，再将剩余的分为两个部分，每部分观察 值的个数为值的个数为 。( - )/2n cc x1, x2, , xi-1, xi, xi+1, , x n-1, xn n1 = (n-c) / 2 c = n / 4 n2 = (n-c) / 2414.4.构造构造F统计量统计量3.3.分别分别OLSOLS回归回归用两个子样本分别估计回归直线，并计算残差平方和。相对用两个子样本分别估计回归直线，并计算残差平方和。相对于于n2 和和n1 分别用分别用 和和 表示，此时有表示，此时有 对应的自由度分别为对应的自由度分别为n2 k-1和和n1k-1，K为解释变量个数。为

28、解释变量个数。212221,22011111211:nknkRSSnkRSSFFRSSnkRSSH 222ieRSS211ieRSS21RSSRSS425.5.判断判断 给定显著性水平给定显著性水平 ，查，查 F分布表得临界值分布表得临界值 ，计算统计量，计算统计量 。 如果如果则拒绝原假设，接受备择假设，即模型中的随机则拒绝原假设，接受备择假设，即模型中的随机误差存在异方差。误差存在异方差。21,1,1nknkF 12*RSSRSSF 21*,1,1nknkFF 43 要求大样本要求大样本 异方差的表现既可为递增型，也可为递减型，异方差的表现既可为递增型，也可为递减型，且知道影响异方差的因素

29、且知道影响异方差的因素某个解释变量某个解释变量 检验结果与选择数据删除的个数检验结果与选择数据删除的个数 的大小有的大小有关关 只能判断异方差是否存在只能判断异方差是否存在c（三）检验的特点（三）检验的特点44（一）（一）ARCH 过程过程 设设ARCH 过程为过程为 为为ARCH过程的阶数过程的阶数,并且并且 为随机误差。为随机误差。（二）检验的基本思想（二）检验的基本思想在时间序列数据中，可认为存在的异方差性为在时间序列数据中，可认为存在的异方差性为ARCH过程，过程，并通过检验这一过程是否成立去判断时间序列是否存在异方并通过检验这一过程是否成立去判断时间序列是否存在异方差。差。 六、六、

30、ARCH检验（检验（Engle,1982Engle,1982）222011tt-pt-pt =+.+vtv001,2i ,0 i=,.,pp451.1.提出原假设提出原假设 2.2.参数估计并计算参数估计并计算 对原模型作对原模型作OLS估计，求出残差估计，求出残差 ，并计算，并计算 残差平方序列残差平方序列 ，以分别作为对，以分别作为对 的估计。的估计。222-1-,.,tttpeee2221tt -t - p,.,0121H :=.= 0 ;H :pj不全为零te（三）（三）ARCH 检验的基本步骤检验的基本步骤463.3.求辅助回归求辅助回归 （5.175.17）4.4.检验检验 计算辅

31、助回归的可决系数计算辅助回归的可决系数 与与 的乘积的乘积 。在。在 成立时，基于大样本，成立时，基于大样本， 渐进服从渐进服从 分布。分布。 给定显著性水平给定显著性水平 ，查，查 分布表得临界值分布表得临界值 ，如果，如果 ，则拒绝原假，则拒绝原假 设，表明模型中得随机误差存在异方差。设，表明模型中得随机误差存在异方差。2()n- p R0H2( ) p2R222201-1-.ttpt peee22()( )n- p Rp2( )p2()n- p Rnp47变量的样本值为大样本变量的样本值为大样本数据是时间序列数据数据是时间序列数据只能判断模型中是否存在异方差，而不能诊断出只能判断模型中是

32、否存在异方差，而不能诊断出哪一个变量引起的异方差。哪一个变量引起的异方差。 （四）检验的特点（四）检验的特点48第四节第四节 异方差性的补救措施异方差性的补救措施 主要方法主要方法: : 广义最小二乘估计：即常见的加权最广义最小二乘估计：即常见的加权最小二乘法小二乘法 模型的对数变换模型的对数变换49（一）基本思路（一）基本思路 n对原模型变换，使之变成一个新的不存在对原模型变换，使之变成一个新的不存在异方差性的模型，然后采用异方差性的模型，然后采用OLS估计其参估计其参数。数。n区别对待不同的观测值：对较小区别对待不同的观测值：对较小 的观测的观测值值, , 给予较大的权数，对较大给予较大的

33、权数，对较大 的观测值的观测值给予较小的权数。给予较小的权数。 2ie2ie一、一、 已知时的已知时的GLS法法2112222221111222000000000000111000000111000000111000000nnnnnVP P P*1111111*21011001100,1001iinnniknnniiikkiiiiPYPXPuYXuYxxXXPXYPYxxYxXYXXii有截距回归？无截距有截距回归？无截距回归？回归？ 11*11112211112111111nnnniiiiiiiiiiiiiiiiiX XX YXXXYx xxYx xxYGLS 估计量就是以或者作为权重得到的

34、加权最小二乘估计量53（一）基本思路（一）基本思路 n 未知，需要先估计未知，需要先估计 ，然后利用，然后利用 的估计值的估计值 建立加权的新模型，再用建立加权的新模型，再用OLS估计新模型估计新模型2i2i二、二、 未知时的未知时的FGLS法法2i2i54（二）具体做法（二）具体做法 1.1.估计估计 假设部分解释变量造成异方差，记为假设部分解释变量造成异方差，记为1,PZZ222120110112011,lniiiiiiPiiPiPiiPiPiiPiPevfZZZZZZZZ 可能的情况：2i55设定如下计量模型设定如下计量模型2011011201122011220112011lnexpiiPiPiiiPiPiiiPiPiiiiPiPiiPiPiiPiPeZZveZZveZZvZZZZZZ 利用估计的参数得出