计量之异方差

1、1第四章异方差（Heteroskedasticity)2第一节异方差发现一，异方差定义如果放开误差项方差是固定常数的假设，即误差项不具有一个固定的方差(homoskedasticity,同方差），Var(i)=i2,(同方差时Var(i)=2 )一般来讲（经验上），当残差随着x的增大而增大时，表明方差不是固定的，存在异方差。参见刘振亚（p187图）3二，异方差的检验常见的几种检验方法：（一）RESET方法RESET方法时由Ramsey 和Anscomb(20世纪60年代）提出的，检验的目的是把异方差转化为同方差，从而使用最小二乘法估计满足古典回归的要求。RESET检验就是力图找到一个与残差有关

2、的变量Zi,令ihatf(Zi), z可能是x,也可能是其几次方，也可能是y或其某次方，RESET只假设残差与yhat 或其平方、立方.有关，只要按着这个提示进行检验可以了。所以RESET的方法已经包含了异方差的解决。4具体步骤如下：1，现对线性模型回归，求出ihat 和 yihat;2,就ihat分别对yihat、 yihat2 、yihat3回归，使用t检验检验系数是否显著，显著就表明对残差影响大，存在异方差。5（二）White-Test(怀特检验）由White于1980年提出，步骤如下：1，对初始模型进行回归，得到残差，并就算残差的平方。2，残差的平方对所有的解释变量及其平方、交叉乘积分

3、别进行回归，之后判断回归系数是否显著，以便建立与残差的关系6 假设是一个双变量模型首先估计初始模型计算出ihat及ihat2。然后做下面的回归ihat2 =0 +1x1i+2x2i+3x1i2+4 x2i2 + 5x1ix2i+vi计算新的回归模型的R2，可以证明R2乘以样本容量n渐近地遵循自由度为新回归中解释变量个数(例题中为5）的卡方分布 n* R2 27假设模型为lnYi=0+1lnX1i+2lnX2i+i其中Yi为贸易税收与政府总收入之比，X1i是进出口总和与GNP之比，X2i为人均GNP做怀特异方差检验，利用从回归（n=41)得到的残差，做下面的回归ihat2 =-6.8417 +2

4、.5629lnX1i +0.6918lnX2i -0.4081lnX1i 2 -0.0491lnX2i2 +0.0015lnX1i lnX2i ， R2 =0.1148n* R2 =41*0.1148=4.7068,查卡方分布表，自由度为5，5%临界值为11.07，10%临界值为9.24，25%临界值为6.623，所以可以下结论没有异方差。8（三）Glejster Test由Glejster于1969年提出，其中心思想是残差仅与xi有关，步骤如下：1，估计初始模型，得到残差。2，残差对xi回归，由于该模型的实际形式未知， Glejster建议使用下列几种形式， |ihat| = + xi |i

5、hat| = + /xi |ihat| = + xi |ihat| = + /xi然后检验系数的显著性格莱泽发现上述四种形式的回归,在大样本情况下，一般都能给出令人满意的结果.上述三种检验均假设Var(i)=2 f(zi),只不过表述不同而已。9（四),Goldfeld&Quandt Test由Goldfeld&Quandt Test于1972年提出，使用F检验。H0 : 12 = 22 1,将所有数据按X值大小顺序排列，消除中间的C个观测值后将数据分成两组，以便突出两组数据的差异，大的数据分在一组，小的数据分在另一组 分别使用两组数据进行回归，计算出两个残差平方和，分别记做R

6、SS1(较大的Xi所做的回归)、 RSS2 (较小的Xi所做的回归) ，各自服从于具有n1-k-1 n2-k-1个自由度的卡方分布 RSS1/ n1-k-1 F=_ = 12hat /22 hat RSS2/ n2-k-110如果F大于临界值，拒绝待检假设，即拒绝同方差假设，存在异方差，反之，则不拒绝同方差假设。在该种检验中，如何选定C很关键，约定俗成的做法是，n=30,C=4, n=60,C=10.例题，将观测值分组后回归的结果如下：第一组：y=1.0533+0.876x, R2=0.985 (0.616) (0.038) 12hat =0.475第二组：y=3.279+0.835x , R

7、2=0.904 (3.343) (0.096) 22 hat=3.154F=3.154/0.475=6.646.03所以拒绝同方差假设，即存在异方差11（五）Park Test令i2 2xievi转换成对数形式：lni2 ln2 + lnxi +vi 因为未知i2 ，建议使用残差的平方代替lnhat2 ln2 + lnxi +vi检验解释变量前面系数是否显著，如果显著，就表明存在异方差，如果不显著，就可以下结论不存在异方差12 yi=1992.3452 +0.2329xi, R2=0.4375 Lnhat2 =3 5.817-2.8099lnxi (4.216) 不显著,所以按照帕克检验可以下

8、结论在误差项中没有异方差.13第二节异方差的结果所谓异方差的结果指的是：存在异方差情况下，最小二乘估计的结果是否满足高斯马尔可夫定理，如果不满足，发生怎样的变化。1，异方差存在的情况下，最小二乘估计依旧是无偏的，但不是最有效。2，hatLS的方差的估计是有偏的。14假设最简单的回归模型:yi= xi+ i误差项假设除了放开同方差假设外，其他假设均维持不变。假设i2 2 Zi2 hatLS=xiyi/ xi2 = xi( xi+ i )/ xi2 = ( xi2+ xii )/ xi2 = + xii / xi2 E(hatLS)=E( + xii / xi2 )= , 无偏得证15Var (h

9、atLS) = E(hatLS )2 =E(xii / xi2 )2= xi2 E i 2/(xi2 )2= xi2 i2 / (xi2 )2 如果是同方差，可以将2提到前面， xi2 就可以约掉一个，结果就和我们前面的估计一样了。这是使用最小二乘估计得到的估计值的方差。16下面介绍加权最小二乘法的结果（WLS）假设与前面相同，将模型左右同除以Zi后，得到新的模型： yi/ Zi = xi /Zi + i/ Zi使用最小二乘法得到参数的估计值 （xi/ Zi)(yi/ Zi ) hatWLS_ (xi /Zi)217把yi= xi+ i代入上式 （xi/ Zi)2 xii / Zi2 (xi

10、/Zi)2 （ xi/Zi)(i /Zi） (xi /Zi)2 18 E( hatWLS)= 加权最小二乘估计的结果也可以得到的无偏估计,它的方差为: Var( hatWLS) = 2 /(xi /Zi)219 Var( hatWLS)/ Var (hatLS) = 2 /(xi /Zi)2 /xi2 i2 / (xi2 )2 将i2 2 Zi2代入上式 = 2 /(xi /Zi)2 /xi2 2 Zi2 / (xi2 )2 分子分母中的2可以约掉 = 1/(xi /Zi)2 /xi2 Zi2 / (xi2 )2 = (xi2 )2 /( xi /Zi )2 *( xi2 Zi2 )20 令x

11、i /Zi =ai, xiZi=bi , (ab)2/a2b21 Var( hatWLS)/ Var (hatLS) 1 最小二乘估计的方差不是最小的,所以不是有效的。21第三节异方差的解决方法一，基于方差的假设前提下的解决特殊方法，分几种情况第一种情况：对于一元线性回归模型： yi= xi+ i，假设已知Var(i)= 2Zi2使用WLS解决方法 yi/Zi= /Zi xi/Zi+ i/Zi对上述模型回归，就可以得到无偏且有效的估计量了。22 第二种情况：对于一元线性回归模型： yi= xi+ i，同样假设已知Var(i)= 2xi使用WLS方法，新模型是：yi/xi= xi/xi+ i/x

12、i= xi+ i/xi (yi/xi) xi hatWLS=_ =ybar/xbar ( xi)2我们发现加权模型种的估计值只是均值的比例而已。23 第三种情况yi= xi+ i，假设已知Var(i)= 2xi2 使用WLS方法，得到新模型 yi/ xi= / xi + i/ xi 原来模型的系数成了新模型的常数项，而原来的常数项变成了新模型中的斜率24 第四种情况yi= xi+ i，假设已知Var(i)= 2E（yi）2= 2( xi ) 2 上述假设比较特殊，因为( xi )是未知量，如何来估计呢，下面介绍的方法是由Paris和Houthhakle与1965年提出的，又被称为两步加权最小二乘法（Two-Step WLS)步骤如下： 第一步，对原来的模型直接使用最小二乘法回归，得到参数的估计值及y的拟合值 第二步，使用加权最小二乘法，将原来的模型左右都除以y的拟合值yihat yi/ yihat = / yihat xi/ yihat + i/ yihat. 然后估计模型就可以得到参数的无偏有效估计量了。25二，一般方法一般方法中有两种方法，其一为直接使用对数模型，另一种是将模型除以一个共同的“标准”（deflator)。直接使用对数方法可以避免异方差及自相关。26