应用回归分析

1、第8章非线性回归思考与练习参考答案在非线性回归线性化时，对因变量作变换应注意什么问题答：在对非线性回归模型线性化时，对因变量作变换时不仅要注意回归函数的形式，还要注意误差项的形式。如：（1）乘性误差项，模型形式为y =（2）加性误差项，模型形式为。对乘法误差项模型（1）可通过两边取对数转化成线性模型，（2）不能线性化。一般总是假定非线性模型误差项的形式就是能够使回归模型线性化的形式， 为了方便通常省去误差项，仅考虑回归函数的形式。为了研究生产率与废料率之间的关系，记录了如表所示的数据，请画出散点图, 根据散点图的趋势拟合适当的回归模型。表生产率X （单位/周）10002000300035004

2、00045005000废品率y （%）解：先画出散点图如下图:o12.00-oo10.00-A8.00-oo o6.00-o1 1 1 1 1)000.002000.003000.004000.005000.00从散点图大致可以判断出X和y之间呈抛物线或指数曲线，由此 采用二次方程式和指数函数进行曲线回归。（1）二次曲线SPSS输出结果如下：Model SummaryRR SquareAdjusted R SquareStd. Bror of the Estimate.981.962.942.651The independent variable is x.A NOVASum of Squar

3、esdfMean SquareFSig.Regressi on Residual Total42.5711.69744.26924621.286.42450.160.001The independent variable is x.CoefficientsUnstan dardized CoefficientsStandardized CoefficientstSiq.BStd. ErrorBetaX-.001.001-.449-.891.423x”24.47E-007.0001.4172.812.048(Constant)5.8431.3244.414.012从上表可以得到回归方程为：y =

4、 5.843-0.087x + 4.47x IO7x2由X的系数检验P值大于，得到X的系数未通过显著性检验。 由X，的系数检验P值小于，得到/的系数通过了显著性检验。（2）指数曲线Model SummaryRR SquareAdjusted R SquareStd. Bror of the Estirrate.970.941.929.085The independent variable is x.A NOVASum of SquaresdfMean SquareFseRegressi on.5731.57379.538.000Residual.0365.007Total.6096The in

5、dependent variable is x.CoefficientsUnstan dardized CoefficientsStan dardized CoefficientstSig.BStd. &rorBetaX.000.000.9708.918.000(Constant)4.003.34811.514.000The dependent variable is ln(y).从上表可以得到回归方程为：$ = 4.003严吨由参数检验P值心0，得到回归方程的参数都非常显著。EzponentklObseived从F值，。的估计值和模型检验统计量F值、t值及拟合图综合考虑,指数拟合效果更好一些

6、。巳知变量x与y的样本数据如表，画出散点图，试用aeP/x来拟合回归模型, 假设：(1) 乘性误差项，模型形式为尸aee 加性误差项，模型形式为尸a eP/x+ 。序号Xy序号Xy序号Xy1611271238,得到回归效果比线性拟合要好，且： = 91.062,久=0.211,回归方程为：y =；+ 0.211*0.72791.062最后看拟合效果，由sequence画图: 得到回归效果很好，而且较优于线性回归。Predicted Values表（书上240页，此处略）数据中GDP和投资额K都是用定基居民消费价格指 数（CPI）缩减后的，以1978年的价格指数为100o（1）用线性化乘性误差项

7、模型拟合C-D生产函数；（2）用非线性最小二乘拟合加性误差项模型的C-D生产函数；（3）对线性化检验自相关，如果存在自相关则用自回归方法改进；（4）对线性化检验多重共线性，如果存在多重共线性则用岭回归方法改进；（6）用线性化的乘法误差项模型拟合C-D生产函数；解：（I）对乘法误差项模型可通过两边取对数转化成线性模型。ln=lnJ+ lnA InZ令才=lny, B o二1胡,址二In厶则转化为线性回归方程：y =Bo+ xi+x2+SPSS输出结果如下：模型综述表Model SummaryModelRR SquareAdjusted R SquareStd. &ror of the Estim

8、ate1.997a.99499304836a. FYedictors: (Constant), InL, InKb. Dependent Variable: InY从模型综述表中可以看到，调整后的R，为，说明C-D生产函数拟合效果很好, 也说明GDP的增长是一个指数模型。方差分析表A NOV轉ModelSum of SquaresdfMean SquareFSig.1Regressi onFtesidual Total8.446.0518.497222244.223.0021805.60100()aa. Predictors: (Constant), InL, InK b Dependent

9、Variable: InY从方差分析表中可以看到，F值很大，P值为零，说明模型通过了检验，这 与上述分析结果一致。系数表CoefficientModelUnstand Coeffiardized cientsStan dardized CoefficientstSiq.BStd. ErrorBeta1(Constant)InKInL-1.785.801.4021.438.056.171.861.141 1.24114.3702.354.228.000.028a. Dependent Variable: InY根据系数表显示，回归方程为：1iiY = I1.785 + 0.801111K + 0

10、 402111L尽管模型通过了检验，但是也可以看到，常数项没有通过检验，但在这个模型里, 当InK和InL都为零时，InY为，即当K和L都为1时，GDP为，也就是说当投 入资本和劳动力都为1个单位时，GDP将增加个单位，这种解释在我们的承受范 围内，可以认为模型可以用。最终方程结果为：（2）y1 L用非线性最小二乘法拟合加性误差项模型的C-D生产函数；上述假设误差是乘性的，现假设误差是加性的情况下使用非线性最小二乘法 估计。初值采用（1）中参数的结果，SPSS输出结果如下：参数估计表Parameter EstimatesFrarreterEstimateStd. Bror95% Confide

11、nce htervalLow er BoundUpper BoundP.407.885-1.4292.243a.868.066.7311.006b.270.243-.234.774SPSS经过多步迭代，最终得到的稳定参数值为Pt a=, b二 y-868 L为了比较这两个方程，我们观察下面两个图线性回归估计拟合曲线图非线性最小二乘估计拟合曲线图DPredicted ValuesSequence number我们知道，乘性误差相当于是异方差的，做了对数变换后，乘性误差转为加 性误差，这种情况下认为方差是相等的，那么第一种情况(对数变换线性化)就 大大低估了 GDP数值大的项，因此，它对GDP前期

12、拟合的很好，而在后期偏差就 变大了，同时也会受到自变量之间的自相关和多重共线性的综合影响；非线性最 小二乘法完全依赖数据，如果自变量之间存在比较严重的异方差、自相关以及多 重共线性，将对拟合结果造成很大的影响。因此，不排除异方差、自相关以及多 重共线性的存在。(3) 对线性化回归模型采用DW检验自相关，结果如下:模型综述表Model SummaryModelRR SquareAdjusted R SquareStd. &ror of the EstimateDurbin- Watson1997a.994.993.04836.715a. FYedictors: (Constant), InL,

13、InK b- Dependent Variable: InYDW=,认为消除了自相关；方差分析表中可以看 到F值很大，P值为零，说明模型通过了检验。从系数表可得回归方程：InY； = -1. 859 t 0. 7551nK| t 0. 46 51ibL：再迭代回去，最终得方程为：Lnyt Lnyt- / = + (LnKt LnKt-1) + (LnLt LnLt-1)(4) 对线性化回归方程通过VIF检验多重共线性: 方差分析表ANOVAbModelSum of SquaresdfMean SquareFSig.1RegressionFtesidual Total8.446.0518.497

14、222244.223.0021805.601.000aa. FYedictors: (Constant), InL, InK b Dependent Variable: InY系数表CoefficientModelUn standardized Coefficie ntsStandardized Coefficie ntstSiq.Collinearity StatisticsBStd. &rorBetaToleranceVIF1(Constant)InKInL-1.785.801.4021.438.056.171.861.141-1.24114.3702.354.228.000.028.07

15、7.07713.03413.034a. Dependent Variable: InY多重共线性诊断表Collinearity DiagnosticModel DimensionBge nvalueConditio n IndexVarianee FVoportions(Constant)InKInL1 12.9971.000.00.00.002.00330.539.00.09.0031.63E-005429.0121.00.911.00a. Dependent Variable: InY直观法：从模型综述表上可以看到，F值很大，而t值很小，这是多重共线性造 成的影响；VIF检验法：从系数表上

16、可以看到，VIF=1310,也说明多重共线性的存在；条件数：从诊断表上可以看到，最大的条件数是429,远远大于了 100,所以自 变量之间存在较为严重的多重共线性。利用岭回归改进：R-SQLARE AND BETA COEFFICIENTS FOR ESTIMATED VALUES OF KKRSQLXKLNL.00000 99394.860706 141014.05000.99015.646381 330432 10000 98639 577758 375355 15000 98260539715 390822 20000 97843.513383.395623 25000 97379 492922.395526 30000 96869.475918392882 35000.96318.461184 388818 40000 95730 448063383937 4500095109436158378587 50000 94462425211372979 55000.93791.415047367248.60000.93101.405541361481 65000 92395.396598 355735 7000091677388147.350049RIDGE TRACE0.800000-0.600000-0.400000-0.2000