赵卫亚3回归模型的扩展

1第四章回归模型的扩展一、异方差性二、自相关性三、多重共线性四、虚拟变量五、滞后变量（视时间安排)赵卫亚3回归模型的扩展共104页，您现在浏览的是第1页!2一、异方差1、异方差的定义2、异方差产生的原因3、异方差性的后果4、异方差性的检验5、异方差性的解决办法6、案例分析赵卫亚3回归模型的扩展共104页，您现在浏览的是第2页!31、异方差的定义

分析：赵卫亚3回归模型的扩展共104页，您现在浏览的是第3页!4

定义：对于模型如果出现即对于不同的解释变量的值，随机误差项的方差不再是常数，则认为出现了异方差性(Heteroskedasticity)。ikiki1iiXXXYmbbbb+++++=L2210赵卫亚3回归模型的扩展共104页，您现在浏览的是第4页!5（2）真正的异方差,随机因素的影响截面数据中，波动(不确定性)与经济规模的比例关系。例如赚钱越多，消费的选择余地越大。时间序列中，波动的系统变化干中学的模型自回归条件异方差ARCH经验表明，横截面数据更易产生异方差性，我们主要研究横截面数据中的异方差问题赵卫亚3回归模型的扩展共104页，您现在浏览的是第5页!64、异方差性的检验为了检验模型是否存在异方差性，需要了解随机误差项取值的分布情况。随机误差项取值无法观测，只能通过残差分布情况来推测随机误差项的分布特征赵卫亚3回归模型的扩展共104页，您现在浏览的是第6页!7（1）、图示检验法相关图分析绘制YX的散点图考察Y的离散程度与解释变量是否有相关关系Eviews实现ScatxY赵卫亚3回归模型的扩展共104页，您现在浏览的是第7页!8残差序列分布图考察残差分布图的离散程度。不存在异方差时，参差序列均匀分布在横轴上下一定范围如果随I(Xi)的增大，残差分布增加、减少，则可能存在异方差如果呈现其他规律变化，可能是复杂异方差，也可能是参数变化或者函数设定偏差赵卫亚3回归模型的扩展共104页，您现在浏览的是第8页!9(c)(d)赵卫亚3回归模型的扩展共104页，您现在浏览的是第9页!10残差分析图的eview实现(SortX)LsYCXGenrE1=residGenrE2=abs(E1)或者genrE2=E1*E1ScatxE2赵卫亚3回归模型的扩展共104页，您现在浏览的是第10页!11具体步骤：1)将样本观察值Xi按大小顺序排列2)将序列中间的c个观察值除去，并将剩下的观察值划分成大小相同的两个子样本，每个子样本的容量为(n-c）/23)对每个子样本分别求回归方程，并计算各自的残差平方和赵卫亚3回归模型的扩展共104页，您现在浏览的是第11页!12G-Q检验的Eviews实现SortXSmpl1x1LsYCX，求RSS1Smplx2nLsYCX,求RSS2计算F，查F临界值，并进行判断赵卫亚3回归模型的扩展共104页，您现在浏览的是第12页!13（3）、怀特(white)检验怀特检验的适用范围（优点）：任何形式的异方差（不仅限于单调异方差）对于多元模型也很方便可以初步推测异方差的形式。赵卫亚3回归模型的扩展共104页，您现在浏览的是第13页!14怀特检验步骤（1）估计回归模型，并计算残差平方（2）估计辅助回归方程即将残差平方关于所有解释变量的一次项，二次项和交叉项回归。计算辅助回归的判定系数，可以证明：同方差假设下（

），渐进地有：在给定的显著性水平下，如果赵卫亚3回归模型的扩展共104页，您现在浏览的是第14页!15White检验的eviews实现建立回归模型：LSYCX检验异方差性：方程窗口中view——residualtest——whiteheteroskedasticity赵卫亚3回归模型的扩展共104页，您现在浏览的是第15页!16帕克检验的模型形式：赵卫亚3回归模型的扩展共104页，您现在浏览的是第16页!17Park检验的Eviews实现LsYCXGENRLNE2=LOG(RESID^2)GENRLNX=LOG(X)LSLNE2CLNX赵卫亚3回归模型的扩展共104页，您现在浏览的是第17页!185、异方差性的解决办法如果是假性异方差模型遗漏重要变量函数形式设定不当（比如可以取对数）首先修正模型，若检验后发现异方差不存在了，说明原来的异方差是假性异方差。模型修正后就已经解决。赵卫亚3回归模型的扩展共104页，您现在浏览的是第18页!19（1）、模型变换法思想：通过对存在异方差的总体回归方程作适当的代换使之成为满足同方差假定的模型，然后用OLS估计。变换的关键是事先对异方差的具体形式有一个合理的假设。若其中σ2为常数,是不变方差，将上述回归模型两边除以，化为同方差（方差为）赵卫亚3回归模型的扩展共104页，您现在浏览的是第19页!20注意：模型的变换在相差一个常数的基础上，都可以化为同方差模型。对于变换后的模型，其方差是满足同方差的随机变量，故可以对模型实施普通最小二乘法估计。对新模型进行最小二乘估计的残差平方和的实质：(加权最小二乘)赵卫亚3回归模型的扩展共104页，您现在浏览的是第20页!21（2）、加权最小二乘法（WLS)在一元线性回归分析法中，对各点的残差平方和所提供的信息的重要程度是一视同仁的，它们在决定参数估计的过程中所起的作用是相同的（取了相同的权数）。在异方差的情况下，合理的做法是：对于较大的残差平方赋予较小的权重，而对于较小的残差平方则赋予较大的权重，这样可以提高参数估计的精度。在异方差存在的情况下，WLS估计量才是最优线性无偏估计量（BLUE）

赵卫亚3回归模型的扩展共104页，您现在浏览的是第21页!226、案例分析赵卫亚3回归模型的扩展共104页，您现在浏览的是第22页!231、自相关的定义自相关的概念：如果对于不同的样本点，随机误差项之间存在自相关性，则认为出现了误差序列相关（自相关）,即：赵卫亚3回归模型的扩展共104页，您现在浏览的是第23页!24OLS估计虽然是线性无偏的，但不再是有效的估计。OLS估计的标准误差估计不再准确。参数显著性t检验失效模型预测精度下降3、自相关问题的后果赵卫亚3回归模型的扩展共104页，您现在浏览的是第24页!25一阶自相关误差序列相关比较基本和重要类型——一阶自回归（为什么重视一阶自回归？）：

这里ρ是自相关系数，|ρ|≤1ρ>0时为正自相关，

ρ<0时为负自相关。

是满足基本假定的随机变量。赵卫亚3回归模型的扩展共104页，您现在浏览的是第25页!26误差序列自相关残差分布图赵卫亚3回归模型的扩展共104页，您现在浏览的是第26页!27③、德宾－沃森（Durbin-Walson)检验D—W检验适用条件①随机项一阶自相关②解释变量与随机项不相关③样本容量比较大赵卫亚3回归模型的扩展共104页，您现在浏览的是第27页!28根据和的性质，有因此赵卫亚3回归模型的扩展共104页，您现在浏览的是第28页!29因为所以D-W统计量的值域并且:赵卫亚3回归模型的扩展共104页，您现在浏览的是第29页!30◆0≤d≤dL,拒绝H0，接受H1。存在一阶正自相关，并且d越靠近0，正自相关越强。◆4－dL≤d≤4,拒绝H0，接受H1。存在一阶负自相关，并且d越靠近4，负自相关越强。◆dU≤d≤4-dU,接受H0，拒绝H1。不存在一阶自相关，并且d越靠近2，无相关把握越大。◆dL<d<dU或4-dU<d<4-dL,不能确定是否存在自相关。赵卫亚3回归模型的扩展共104页，您现在浏览的是第30页!31④、布罗斯－戈弗雷检验（Breusch-Godfrey），又称拉格朗日乘数检验（LM检验）简称B-G检验，或LM（lagrangemultiphcator)检验分析：对于模型设自相关形式为：假设，即不存在自相关性。实际操作中，用代替赵卫亚3回归模型的扩展共104页，您现在浏览的是第31页!32检验步骤布罗斯和戈弗雷证明，在大样本情况下，渐近的有：在给定的显著性水平下，赵卫亚3回归模型的扩展共104页，您现在浏览的是第32页!33案例分析（一）P91【例3】自相关问题的检验赵卫亚3回归模型的扩展共104页，您现在浏览的是第33页!34真正的自相关：广义差分方法广义最小二乘法（GLS）赵卫亚3回归模型的扩展共104页，您现在浏览的是第34页!35（2）、相关系数未知时，

先估计相关系数，再采用广义差分根据估计相关系数方法的不同，可以分为下面几种方法：赵卫亚3回归模型的扩展共104页，您现在浏览的是第35页!36近似估计法2：对于小样本，Theil给出以下近似公式：K为解释变量个数。然后再利用广义差分方法赵卫亚3回归模型的扩展共104页，您现在浏览的是第36页!37②、科克兰内—奥克特迭代方法步骤:S1.根据样本观察值数据,用OLS方法估计模型,得到样本回归方程S2.计算残差et,作为ut

的估计.S2.用OLS方法求ρ的初次估计值赵卫亚3回归模型的扩展共104页，您现在浏览的是第37页!38③、搜索估计法又称为希尔德雷思－卢估计法。在区间[-1,1]中按照一定间隔选取相关系数然后利用每个进行广义差分变换，估计相应的广义差分模型并计算每个模型的残差平方和从所有模型中选取一个使残差平方和最小的模型，作为最佳模型。对应的即为所估计的该方法的特点：保证使得残差平方和总体最小，而达到最优。而迭代方法可能仅是局部最优（与初始值有关）赵卫亚3回归模型的扩展共104页，您现在浏览的是第38页!（3）广义差分法案例分析39赵卫亚3回归模型的扩展共104页，您现在浏览的是第39页!２、GLS估计由于是一个正定的对称矩阵，由矩阵代数的知识，我们知道存在一个满秩矩阵P，使得40赵卫亚3回归模型的扩展共104页，您现在浏览的是第40页!显然变换后的模型满足古典假定，因此可以用OLS对该式进行估计。得到如下结果41赵卫亚3回归模型的扩展共104页，您现在浏览的是第41页!42三、多重共线性1、完全多重共线性2、多重共线性的定义3、多重共线性产生的原因4、多重共线性的后果5、多重共线性的检验6、多重共线性的解决方法7、案例赵卫亚3回归模型的扩展共104页，您现在浏览的是第42页!43（1）（近似）多重共线性定义（注意修正书上P107的说法）对于多元线性回归模型解释变量之间存在较强的线性关系。或者说存在一组不全为0的常数，使得不违反基本假定2、多重共线性及产生原因赵卫亚3回归模型的扩展共104页，您现在浏览的是第43页!444、多重共线性的后果好消息！近似多重共线性不违反任何假设。可以得到参数估计值。OLS估计量仍旧是唯一的，最小方差的线性无偏估计量。赵卫亚3回归模型的扩展共104页，您现在浏览的是第44页!455、多重共线性的检验多重共线性并不违反经典假设，多重共线性普遍存在，因此对于不严重的多重共线性我们无需处理，只有当多重共线性比较严重时才需要处理。

所以我们检验的不是多重共线性的有无，而是多重共线性的强弱。下面给出的不是严格的统计方法。而是基于经验的判断赵卫亚3回归模型的扩展共104页，您现在浏览的是第45页!46(2)、辅助回归模型检验当模型解释变量个数多于两个，而且呈现复杂相关关系时采用用每一个解释变量对其他解释变量构造辅助回归方程来检验多重共线性。①如果方程整体显著（F)，则表明存在多重共线性。②若有R2<,则怀疑有多重共线性③看辅助回归方程的拟合度的大小。赵卫亚3回归模型的扩展共104页，您现在浏览的是第46页!47当时，当时，方差扩大因子，记作常以方差扩大因子是否大于10来判断第j个解释变量是否存在较强的、必须加以处理的多重共线性。对应的辅助方程的判决系数为0.9赵卫亚3回归模型的扩展共104页，您现在浏览的是第47页!48与VIF等价的指标。“容许度”判别显然，一般当TOL<0.1，认为模型存在较严重的多重共线性。赵卫亚3回归模型的扩展共104页，您现在浏览的是第48页!496、多重共线性的解决方法基本原则①如果建模目的是预测，则模型的拟合优度较高，并且相关关系保持不变，就可以忽略多重共线性问题。如果建模目的是结构分析，则需要消除多重共线性的影响。②引起多重共线性的原因是模型存在相关的解释变量，因此消除多重共线的根本方法只能是删除这些变量，但剔除变量要要谨慎。否则，去掉了重要的变量，经济意义不合理，或者模型设定出现偏误。赵卫亚3回归模型的扩展共104页，您现在浏览的是第49页!50(2)、从解释变量角度，剔除次要变量如果考虑了过多的解释变量，其中有些可能是无显著作用的次要变量，可以直接去除。可能引起模型设定误差，违反其他假定。可以借助统计方法帮助选择。首先将变量按照重要程度排序然后逐步添加解释变量。基于t检验,，AIC,SC等准测。赵卫亚3回归模型的扩展共104页，您现在浏览的是第50页!51(4)、模型改造和变量替换①将名义变量替换为实际变量。因为名义变量之间由于价格关系可能存在多重共线性问题②利用相对数量例如研究需求函数时赵卫亚3回归模型的扩展共104页，您现在浏览的是第51页!52④混合估计混合估计：利用其他方法（如专家调查）估计出部分参数，带入模型。整理后可以建立一个新的模型。然后对新模型进行估计。

赵卫亚3回归模型的扩展共104页，您现在浏览的是第52页!53（5）主成分回归主成分回归的思想①利用主成分方法将解释变量转换成若干个互不相关的主成分②将被解释变量关于这些主成分回归③再根据主成分与解释变量的对应关系，求得原回归模型的估计方程赵卫亚3回归模型的扩展共104页，您现在浏览的是第53页!54(A)概率密度储蓄Y收入X异方差的图形表示同方差(B)概率密度储蓄Y收入X异方差赵卫亚3回归模型的扩展共104页，您现在浏览的是第54页!552、异方差性产生的主要原因（1）假性异方差模型遗漏了重要的变量模型函数形式的设定误差解决方法：通过设定正确的模型来解决。赵卫亚3回归模型的扩展共104页，您现在浏览的是第55页!563、异方差问题的后果计量经济模型一旦出现异方差，如果仍采用OLS估计模型参数，会产生以下后果OLS估计量仍然是线性、无偏的，但是OLS估计不再是有效估计。无法正确估计回归系数的标准差（参数估计的标准差出现偏差，有可能增大也可能偏小）T检验失效模型预测不准确（区间估计与随机误差项的方差有关）赵卫亚3回归模型的扩展共104页，您现在浏览的是第56页!57常用方法（1）图示检验法（2）戈德菲尔德-匡特检验（3）怀特检验（4）帕克检验和戈里瑟检验赵卫亚3回归模型的扩展共104页，您现在浏览的是第57页!58赵卫亚3回归模型的扩展共104页，您现在浏览的是第58页!59(a)(b)赵卫亚3回归模型的扩展共104页，您现在浏览的是第59页!60(e)(f)赵卫亚3回归模型的扩展共104页，您现在浏览的是第60页!61（2）、戈德菲尔德-夸特

（Goldfeld-Quandt）检验G_Q检验的适用范围：样本容量较大单调异方差（异方差递增或者递减）的情形。对于复杂异方差则无法应用检验思路赵卫亚3回归模型的扩展共104页，您现在浏览的是第61页!624）提出假设5）构造统计量当H0成立时，如果，误差项存在明显的递增异方差性；如果，误差项没有明显的异方差性。赵卫亚3回归模型的扩展共104页，您现在浏览的是第62页!63G-Q检验缺点：无法确定具体形式，对于接下来如何解决异方差没有提供很好的建议对于复杂异方差不适用对于多元的情况，处理比较麻烦赵卫亚3回归模型的扩展共104页，您现在浏览的是第63页!64例如：以二元回归模型为例：检验的思路：检验残差平方与所有解释变量的各种形式之间的相关性。赵卫亚3回归模型的扩展共104页，您现在浏览的是第64页!65注意：

辅助回归是残差平方（用以表示条件方差）与解释变量各种可能组合的显著性，因此，辅助回归方程中还可引入解释变量的更高次方。不过为了节省自由度，往往到两次就可以了。在多元回归中，由于辅助回归方程中可能有太多解释变量，从而使自由度减少，有时可去掉交叉项。检验的是辅助回归方程的整体显著性赵卫亚3回归模型的扩展共104页，您现在浏览的是第65页!66（4）、帕克（Park）检验和

戈里瑟(Gleiser)检验为什么要进行Park和Gleiser检验White检验形式太过一般，为了具体化，和以后修正异方差的需要。基本思想:

利用残差绝对值序列或残差平方序列，分别对Xi（的某种形式）进行一元辅助回归。由回归方程的显著性、拟合优度判断异方差存在。该检验的优点是可以近似给出异方差的具体形式。赵卫亚3回归模型的扩展共104页，您现在浏览的是第66页!67通常拟合和之间的回归模型：

戈里瑟检验形式赵卫亚3回归模型的扩展共104页，您现在浏览的是第67页!68Gleiser检验的Eviews实现LsYCXGENRE=ABS(RESID)GENRX1=**(如：1/X，x*x等）LSECX1赵卫亚3回归模型的扩展共104页，您现在浏览的是第68页!695、异方差性的解决办法如果是真正的异方差（通过模型修正无法改善异方差的情形），利用增长率模型，将与规模有关的异方差去除或减弱。模型变换法加权最小二乘法（WLS）赵卫亚3回归模型的扩展共104页，您现在浏览的是第69页!70假设原模型为：变换为新模型：新模型的变量：新模型的随机误差项的方差：赵卫亚3回归模型的扩展共104页，您现在浏览的是第70页!71。例：当f(Xi)取下列形式时，如何进行模型变换：1、2、3、赵卫亚3回归模型的扩展共104页，您现在浏览的是第71页!72几点说明：例如，模型变换时?理解成权重，则构成了“加权最小二乘法”事实上权数可以选取任一变化趋势与异方差的趋势相反的变量序列赵卫亚3回归模型的扩展共104页，您现在浏览的是第72页!73二、自相关问题及解决办法1、自相关性的定义2、自相关性产生的原因3、自相关性的后果4、自相关性的检验5、自相关性的解决方法6、案例分析赵卫亚3回归模型的扩展共104页，您现在浏览的是第73页!742、自相关性产生的原因假性自相关：模型中遗漏了重要的解释变量模型函数形式的设定误差真正的自相关经济惯性（例如：本期投资于前年的投资有关）随机因素的影响（例如：自然灾害，金融危机等的持续性）赵卫亚3回归模型的扩展共104页，您现在浏览的是第74页!754、自相关的检验

（1）自相关的表示形式：P阶自相关：

称为s阶自相关系数。是满足基本假定的随机变量。赵卫亚3回归模型的扩展共104页，您现在浏览的是第75页!76（2）、自相关的检验①、残差序列图分析误差序列随时间变化如果ei随时间变化呈有规律的变化，说明存在自相关。赵卫亚3回归模型的扩展共104页，您现在浏览的是第76页!77②、偏相关系数检验偏相关系数是衡量多个变量之间相关程度的重要指标，可以用它来判断自相关性的类型。只要有一个自相关系数显著不为零，就存在自相关。利用eviews可以方便的进行(见92页)方程窗口—view—residualtest—correlogram-Q-statistics赵卫亚3回归模型的扩展共104页，您现在浏览的是第77页!78DW检验的原理对线性回归模型如果误差项有一阶自回归问题，那么其中的，是均值为0的独立同分布随机变量。

赵卫亚3回归模型的扩展共104页，您现在浏览的是第78页!79考虑与有密切关系的DW统计量赵卫亚3回归模型的扩展共104页，您现在浏览的是第79页!80检验误差序列正自相关性——DW检验区域图一阶自相关无法判断无一阶自相关性无法判断一阶负自相关Durbin-Watson根据样本容量n和解释变量数目k,在给定的显著性水平λ下,建立了D-W统计量的下临界值dλL和上临界值dλU.赵卫亚3回归模型的扩展共104页，您现在浏览的是第80页!81D-W检验的局限性：①只适用一阶自回归，不适合高阶自回归②不适用解释变量与随机项相关的模型（当有滞后变量作为解释变量时，DW有趋向2的趋势）。需要利用Durbin-h统计量进行判断③D-W检验存在两个不能确定的区域，一旦d落入这两个区域，要通过其他方法（或者增加样本数据，或者重新取样，或者用其他检验方法。）Eviews直接给出DW值赵卫亚3回归模型的扩展共104页，您现在浏览的是第81页!82检验步骤用OLS方法估计模型，得残差序列将关于所有解释变量和和残差的滞后值进行回归，并计算出辅助回归模型的判定系数赵卫亚3回归模型的扩展共104页，您现在浏览的是第82页!83布罗斯－戈弗雷检验的eviws实现在方程窗口中，view—residualtest—serialcorrelationLMtest需要人为设定滞后期长度，一般从s=1开始，直到s=10左右。如果检验结果均不显著，则可以认为不存在自相关性。赵卫亚3回归模型的扩展共104页，您现在浏览的是第83页!845、自相关性的解决方法假性自相关：模型遗漏重要变量模型函数形式设定不当首先修正模型，若检验后发现自相关不存在了，说明原来的自相关假性自相关。模型修正后就已经解决赵卫亚3回归模型的扩展共104页，您现在浏览的是第84页!85（一）广义差分法

（1）相关系数已知时，直接利用广义差分法设线性回归模型为已知有一阶自相关性，即把滞后一期的观测值代入变量关系，得方程：可得令，根据可得如果记，所以上式为赵卫亚3回归模型的扩展共104页，您现在浏览的是第85页!86①、近似估计法近似估计法1：然后再利用广义差分方法。赵卫亚3回归模型的扩展共104页，您现在浏览的是第86页!87近似估计法3：利用残差代替随机误差项，计算再利用广义差分方法赵卫亚3回归模型的扩展共104页，您现在浏览的是第87页!88S4用对原模型进行广义差分变换，作次迭代。得广义差分模型用OLS方法估计模型，得到残差序列并进行自相关检验。如果无自相关，迭代结束，求得如果存在自相关，则重复进行上述工作：S5.计算ρ的第二次估计值，S6.用对原模型进行广义差分变换，作第二次迭代。得广义差分模型同样的过程可以重复进行，直到收敛，或达到迭代的预定上限。赵卫亚3回归模型的扩展共104页，您现在浏览的是第88页!89广义差分方法的eviews实现（1）用OLS估计模型，得残差序列（2）根据残差序列判断自相关的类型（3）利用广义差分法估计模型LSYCXAR(1)（4）可以对迭代过程进行控制方程窗口中,estimate按扭—对话框中options—在迭代程序对话框中输入最大迭代次数或收敛精度。赵卫亚3回归模型的扩展共104页，您现在浏览的是第89页!（二）广义最小二乘法（ＧＬＳ）１、GLS的基本思想

就是通过对总体方差协方差矩阵的分解，将回归的残差转变成满足古典假定的残差，然后使用OLS估计。可见WLS与广义差分都是ＧＬＳ的特例90赵卫亚3回归模型的扩展共104页，您现在浏览的是第90页!在古典回归方程两边同乘，得到或者可见91赵卫亚3回归模型的扩展共104页，您现在浏览的是第91页!3、ＦＧＬＳ（可行的GLS）如果已知，那么GLS就是最优的估计方法如果未知。必须先对矩阵进行估计，得到，然后再按照上述GLS的方法对回归模型进行估计，称为FGLS估计。92赵卫亚3回归模型的扩展共104页，您现在浏览的是第92页!931、完全多重共线性定义：多元线性回归模型中的解释变量之间，存在严格的线性关系。（违反基本假定）原因：通常是模型设定的失误后果：此时无法唯一解出确定的参数估计值，估计的方差无穷大检验：出错提示解决：可以放弃部分解释变量。赵卫亚3回归模型的扩展共104页，您现在浏览的是第93页!94（2）多重共线性的原因变量之间的内在联系(如劳动和资本投入在数量上的必然联系）经济变量变化趋势的“共向性”（比如经济繁荣时经济指标趋向增长）滞后变量的引入样本资料的原因。可见，经济变量之间总存在一定程度的线性相关，因此，问题不是多重共线性的有无，而是多重共线性的严重程度。3、多重共线性产生的原因赵卫亚3回归模型的扩展共104页，您现在浏览的是第94页!954、多重共线性的后果后果增大OLS估计的方差，使得参数估计不稳定，异常值多。难以区分每个解释变量的单独影响检验的可靠性降低。（判决系数，F值很高，但是单个参数的t检验不显著，甚至符号相反。）回归模型缺乏稳定性赵卫亚3回归模型的扩展共104页，您现在浏览的