第四篇多重共线性.doc

南阳师范学院课时教学计划章节第四章课题多重共线性计划课时数授课班级教学目的熟练掌握多重共线性的检验及修正方法教学重点多重共线性的危害、多重共线性的检验、多重共线性的修正教学难点多重共线性的检验与修正教学方法和手段理论讲解与软件运用相结合。 采用多媒体的形式进行授课。备注教学内容批注引子：发展农业和建筑业会减少财政收入吗？为了分析各主要因素对财政收入的影响，建立财政收入模型:其中: CS财政收入(亿元) ; NZ农业增加值(亿元); GZ工业增加值(亿元); JZZ建筑业增加值(亿元); TPOP总人口(万人); CUM最终消费(亿元); SZM受灾面积(万公顷) 数据样本时期1978年-2003年（资料来源：中国统计年鉴2004，中国统计出版社2004年版） 采用普通最小二乘法得到以下估计结果可决系数为0.995，校正的可决系数为0.993，模型拟合很好。模型对财政收入的解释程度高达99.5%。 F统计量为632.10，说明0.05水平下回归方程整体上显著。 t 检验结果表明，除了工业增加值和总人口以外，其他因素对财政收入的影响均不显著。 农业增加值和建筑业增加值的回归系数是负数。 农业和建筑业的发展反而会使财政收入减少吗？! 这样的异常结果显然与理论分析和实践经验不相符。 若模型设定和数据真实性没问题，问题出在哪里呢？一、多重共线性的基本概念1. 一般形式下的多重共线性概念在经典回归模型中，如果教学内容相互独立，则满足经典假定。反之，如果某两个或多个解释变量之间出现了相关性，则称为存在多重共线性。如果存在：其中，ci不全为0，即某一个解释变量可以用其他解释变量的线性组合表示，则称为解释变量间存在完全共线性。如果存在：其中，ci不全为0，vi为随机干扰项，则称为近似共线性或交互相关。2. 矩阵形式下的多重共线性概念如果在经典回归模型中，经典假定遭到破坏，则（矩阵的秩），此时称解释变量之间存在完全多重共线性。解释变量的完全多重共线性，也就是，解释变量之间存在严格的线性关系，这种完全多重共线性是一种极端情形。在实际中，还有另外一种情形，即解释变量之间虽然不存在严格的线性关系，却有近似的线性关系，即指解释变量之间高度相关。所谓多重共线性，是指解释变量之间存在完全的线性关系或者接近的线性关系。但是，完全的线性关系这种情况在现实中很少见，除非错误地把同一变量以不同单位同时放进模型中。一般的，变量之间都存在多重共线性，我们所关心的是多重共线性的程度如何，只有超过了一定限度，才会加以修正。二、多重共线性产生的原因1. 许多经济变量在时间上有着共同变化的趋势，因而造成了它们之间的多重共线性。例如，经济繁荣时期，各基本经济变量（收入、消费、投资、价格）都趋于增长；经济衰退时期，又同时趋于下降。这些变量的样本数据往往呈现出某些近似的比例关系。2. 滞后变量的引入。在计量经济学模型中，往往需要引入滞后经济变量来反映真实的经济关系。例如，以相对收入假设为理论假设，则居民消费Ct的变动不仅受当期收入Yt的影响，还受前期消费Ct-1的影响，于是建立如下模型：显然，当期收入Yt和前期消费Ct-1之间有较强的线性相关性。教学内容3. 样本资料的限制由于完全符合理论模型所要求的样本数据较难收集，在现有数据条件下，特定样本可能存在某种程度上的多重共线性。一般经验告诉我们，对于采用时间序列数据作样本，以简单线性形式建立的计量经济学模型，往往存在多重共线性；以截面数据作样本时，问题不那么严重，但仍然是存在的。三、多重共线性的危害1. 估计量的精度降低2. 系数显著性检验不准确3. 预测精度降低四、多重共线性的检验方法（一）直观检验法1. 计算出来的F统计量很高，样本可决系数R2也很大，而各系数的T统计量却很低，出现了取舍矛盾。2. 各（或个别）参数估计值出现了违背经济理论的现象。3. 模型参数估计值对删除或添加少量的观测值及删除一个不显著的解释变量非常敏感。样本的微小变化会引起估计量较大的变化，即模型参数的稳定性较差。（二）仅有两个解释变量时，用相关系数来检验两个解释变量之间的相关系数绝对值越大，说明多重共线性程度越高。当两个解释变量之间的相关系数超过某个值时，如相关系数接近判定系数时可认为多重共线性非常严重，到了需要修正的地步。（判定系数即拟合优度：判定系数达到0.9以上是很平常的;但是,对截面数据而言,能够有0.5就不错了.判定系数达到多少为宜 没有一个统一的明确界限值;若建模的目的是预测应变量值,一般需考虑有较高的判定系数.若建模的目的是结构分析,就不能只追求高的判定系数,而是要得到总体回归系数的可信任的估计量.判定系数高并不一定每个回归系数都可信任）（三）辅助回归样本决定系数测度法当解释变量的个数超过两个时，可以通过辅助回归的样本可决系数来判断多重共线性的程度：越大表示能被其他解释变量解释的部分越大，多重共线性越严重，当大于原模型的样本可决系数时，认为多重共线性非常严重，需要修正。五、多重共线性的修正（一）第一类方法：排除引起共线性的变量1. 除去不重要的解释变量教学内容这是一种简单的解决办法，就是去掉那些导致模型产出严重多重共线性、对被解释变量影响不大且理论上认为不重要的解释变量。2. 逐步回归法这种方法的过程是，计算被解释变量对每一个解释变量的基本回归方程，从中选取一个最合适的作为基准方程，选取的这个基准方程可以是理论上最重要的解释变量对应的基本回归方程，也可以是样本可决系数最大的基本回归方程。然后逐渐增加其他的解释变量。根据新添加的解释变量的边际贡献来判断是否保留此变量：（1）新添加的解释变量改进了，其他回归系数统计上依然显著，则保留此变量。（2）新添加的解释变量未能改进，对其他回归系数没有影响，则不保留此变量。（3）新添加的解释变量改进了，对其他回归系数影响显著，甚至使原系数不可接受，这可以判断此变量引起了多重共线性，可以考虑对此变量的其他引入方式，也可以去掉此变量。（二）第二类方法：变换模型形式1. 变化模型中的解释变量2. 利用非样本先验信息3. 差分法对于以时间序列数据为样本，以直线线性关系为模型关系形式的计量经济学模型，将原模型变换为差分模型：可以有效地消除存在于原模型中的多重共线性。这是由经济时间序列数据的内在性质决定的。一般来说，增量之间的线性关系远比总量之间的线性关系弱一些。（三）其他方法增加样本容量六、案例分析中国粮食生产函数的检验与修正根据理论和经验分析，影响粮食生产（Y）的主要因素有：农业化肥施用量（X1）、粮食播种面积（X2）、成灾面积（X3）、农业机械总动力（X4）、农业劳动力（X5），其中，成灾面积的符号为负，其余均为正。根据下列数据，拟构建中国粮食生产函数。教学内容第一步：确立模型形式由于此案例中涉及数据较多、单位不统一且数值较大，因此，可采用对数函数形式进行线性回归分析。据此，建立理论模型如下：第二步，用OLS法估计模型（使用Excel）1. 求出各项变量的对数2. 对模型进行估计结果如下：教学内容由于R2较大且接近于1，而且F=202.68大于F0.05（5,19）=2.74，故认为粮食生产与上述解释变量间总体线性关系显著。但由于其中的X4，X5前参数估计值未能通过t检验，而且符号的经济意义也不合理，故认为解释变量间存在多重共线性。第三步，检验解释变量间简单相关系数结果如下：可以发现，X1与X4之间存在高度相关性（相关系数=0.964）第四步，找出基准方程分别作LnY与各解释变量间的回归：其结果是LnY与LnX1可作为基准方程。第五步，逐步回归结果如下：教学内容讨论：1. 在基准模型中引入X2，模型拟合优度提高，且参数符号合理，变量也通过了t检验；2. 引入X3，拟合优度再次提高，且参数符号合理，变量也通过了t检验；3. 引入X4，修正的拟合优度反而略有下降，同时，X4的参数未能通过t检验；4. 去掉X4，引入X5，拟合优度虽有所提高，但X5的参数未能通过t检验，且参数符号与经济意义不符。3-4，表明，X4，X5是多余的，同样还可继续验证，如果用与X1高度相关的X4代替X1，则X4与X2,X3,X5间的任意线性组合，均达不到以X1,X2,X3为解释变量的回归效果。因此，最终的粮食生产函数应以为最优，拟合结果如下：使用SPSS回归分析结果如下：教学内容批注批注批注批注批注批注批注多重共线性部分理论解释一、当解释变量之间线性无关或正交时，每个参数可以通过一元回归来估计。您看出了什么？二、当解释变量之间存在完全多重共线性时，模型参数将无法估计，直观的来看，当两个解释变量线性相关时，将讲很那区分每个解释变量对被解释变量的影响。 三、存在不完全多重共线性时的后果及方差膨胀因子四、多重共线性修正方法的解释1.剔除变量法的缺陷解释：假设没有设定误差的模型为：2.增大样本容量解释：由：可知：当样本容量增大时，将趋向于与剩余解释变量线性组合的线性相关系数平方，如果不是引起多重共线的变量，随着样本容量增大，此值将趋向于0.如果确实是一个引起多重共线的变量，增大样本容量也解决不了多重共线问题。3.变换模型形式主要手段有将原模型组某些变换或改变变量定义，从而减少多重共线，主要手段有消除价格影响，重新定义变量等，差分也是一个常用的手段。假设模型做一阶差分记为：上述四项是近似相等的，所以近似等于0，也就导致线性相关系数近似等于0. 遗憾啊：该方法容易引起自相关3.利用