第三讲线性回归的常见问题

第三讲线性回归的常见问题一、多重共线性1、含义与影响多重共线性是在变量间存在严格的或近似的线性关系。也就是说，这些变量被用来解释因变量时导致所提供的信息出现了“重叠”。多重共线性的直接后果是回归系数参数估计的标准误变大，置信区间变宽，估计值的稳定性下降。2、诊断方法Eviews软件的各个版本都没有直接的操作考虑共线性诊断的问题，只能通过自己计算分析或在软件中编程计算。3、多重共线性的处理方法（1）剔除法。设法找到引起共线性的变量并予以剔除。（2）差分法。操作时的命令是：Isd（y）d（x）d（x）…d（x）或Isy-y（—1）x—x（-1）…x—x（-1）12p11pp（3）重新定义方程（4）有偏估计。如主成分分析、岭回归等。4、案例分析中国私人轿车拥有量决定因素分析。考虑到目前农村家庭购买私人轿车的现象还很少，在建立中国私人轿车拥有量模型时，主要考虑如下因素：（1）城镇居民家庭人均可支配收入；（2）城镇总人口；（3）轿车产量；（4）公路交通完善程度；（5）轿车价格。“城镇居民家庭人均可支配收入”、“城镇总人口数”和“轿车产量”可以直接从统计年鉴上获得。“公路交通完善程度”用全国公路里程度量，也可以从统计年鉴上获得。由于国产轿车价格与进口轿车价格差距较大，而且轿车种类很多，做分种类的轿车销售价格与销售量统计非常困难，所以因素“轿车价格”暂且略去不用。定义变量名如下：Y：中国私人轿车拥有量（万辆）X1：城镇居民家庭人均可支配收入（元），X2：全国城镇人口（亿人）

X3：全国汽车产量(万辆)X4；全国公路长度(万公里)1985-2002年中国私人轿车拥有量以年增长率23%，年均增长55万辆的速度飞速增长。年YX1X2X3X4198528.49739.12.5143.7292.24198634.71899.62.6436.9896.28198742.291002.22.7747.1898.22198860.421181.42.8764.4799.96198973.121375.72.9558.35101.43199081.621510.23.0251.4102.83199196.041700.63.0571.42104.111992118.22026.63.24106.67105.671993155.772577.43.34129.85108.351994205.423496.23.43136.69111.781995249.9642833.52145.27115.71996289.674838.93.73147.52118.581997358.365160.33.94158.25122.641998423.655425.14.16163127.851999533.8858544.37183.2135.172000625.3362804.59207140.272001770.786859.64.81234.17169.82002968.987702.85.02325.1176.52二、异方差性1、含义及影响如果回归模型中的随机误差项不满足假设条件中的同方差性，即对不同的样本点有Var(s)丰Var(s),i丰j。ij当存在异方差时用OLS估计模型参数时可能出现：参数估计值虽然是无偏的，但不是有效的；参数的显著性检验失去意义；预测失效等。2、异方差的诊断方法（1）图示检验法。以某一变量（通常取自变量或因变量的预测值）作为横坐标，以模型的残差为纵坐标，根据散点图直观地判断是否存在相关性。（2）怀特检验。打开方程对象窗口，选View/ResidualTests/HeteroskedasticityTests/White，怀特检验还有一个交叉项选项。（3）其他类似的检验。Eviews中的其他异方差检验方法与怀特检验方法大同小异，主要是方差函数的具体形式存在差异。异方差检验的方差函数的一般形式为：g二f（z'aQ2）,t二0,1,2,tt式中，b2是t时刻随机项的理论方差；Z'是t时刻方差函数的自变量向量，tt通常是原模型的自变量，但也不绝对；«是方差函数的参数向量。异方差其他检验的方差函数如下表所示：中文名称英文名称方差函数格里瑟检验Glejser-testb2二(b2+z'a)m,m=1,2t t哈维检验Harvey-testb2=exp(z'a)t t这些命令的调用方式同White检验类似。3、异方差的处理（1） 加权最小二乘法。加权最小二乘估计的实现与普通最小二乘估计基本相同，只是需要在方程定义对话框中按下Options按钮，在Options栏中选WeightedLs项，并在Weighted项中输入权数序列名即可。（2） 异方差和自相关相容协方差估计。异方差和自相关相容协方差是Eviews软件提供的另一种方法，适用于异方差的形式未知时，因为此时不能用WLS来消除异方差。相容参数估计采用了另外估计回归系数协方差阵，从而改变了估计值的标准差。该方法的标准差是不正确的，不能用来推断。这一方法的操作是：在普通的建模过程中选方程定义对话框的Options按钮，在新对话框选择HeteroskedasticityConsistentCovariances，再从White和Newey-West选择一种开始估计。

4、案例分析已知某地区的个人储蓄Y、可支配收入X的截面样本数据，建立它们之间的线性计量模型并估计之。序号YX序号YX12648777171578241272105921018165425604390995419140026500413110508201829267605122109792122002830061071191222201727430740612747232105295608503134992416002815094311426925225032100105881552226242032500118981673027257035250129501766328172033500137791857529190036000148191963530210036200151222211633128003820016170222880三、自相关性1、含义及影响回归模型中各残差项之间不满足独立假设，即Cov（8,8）乂0，i,j=1, ,n；i丰j。ij当存在自相关时用OLS估计模型参数时可能出现：参数估计值虽然是无偏的，但不是有效的；参数的显著性检验失去意义；预测失效等。2、诊断方法（1）D.W.检验。注意这种检验的几种不足。(2)LM检验。这个检验位于方程对象窗口菜单View/ResidualTests/SerialCorrelationLMTest，点击该功能后会弹出一个设定滞后期(LagSpecification)对话框。输入滞后的期数，点击0K键，就会得到BG(LM)检验结果。3、 自相关的克服方法(1)Cochrane-Orcutt迭代法。举例：考虑双变量模型Y二B+BX+u以及u的AR⑴模式，即t12tttu二pu+v，科克伦一奥科特(Cochrane-Orcutt)迭代法操作步骤如下：t t—1t用通常的OLS方法估计方程的残差u；t做回归：u二pu+v；t t—1t利用所得p估计广义差分方程AYt=卩］*+P2AXt+vt；由于事先不知道(3)中得到的P是不是最佳估计值，所以把第3步中得到的B*和B代入原回归方程y=B+BX+u，并得到新的残差u*；1 2 t 1 2ttt现在估计回归：u*=P*u*+w得到P的第二轮估计值；t t—1(vi)按此思路一直进行迭代，一般直到相邻两个估计值相差很小(比如小于0.01或0.005等)时，便可以停止迭代。Eviews软件包中，广义差分采用了科克伦一奥科特(Cochrane-Orcutt)迭代法估计。操作方法是在方程对象窗口中引入AR(1)、AR(2)、…作为解释变量即可，得到参数和p、p、…的估计值。其中AR(m)表示随机误差项的m阶自回归。12在估计过程中自动完成了p、p、…的迭代。12重新定义模型。新定义的模型可能会避免序列相关。4、 案例分析改革开放(1978〜2000)以来，天津市城镇居民人均消费性支出(CONSUM)，人均可支配收入(INCOME)以及消费价格指数(PRICE)数据见下表。现在研究人均消费与人均可支配收入的关系。天津市城镇居民人均消费与人均可支配收入数据年份城镇居民人均消费支出(CONSUM)人均可支配收入(INCOME)1978344.88388.321979385.20425.401980474.72526.921981458.88539.521982496.56576.721983520.84604.311984599.64728.171985770.64875.521986949.081069.6119871071.041187.4919881278.871329.7019891291.091477.7719901440.471638.9219911585.711844.9819921907.172238.3819932322.192769.2619943301.373982.1319954064.104929.531996467