应用回归分析答案

1、第七章岭回归1 .岭回归估计是在什么情况下提出的？答：当解释变量间出现严重的多重共线性时，用普通最小二乘法估计模型参数，往往参数估计方差太大，使普通最小二乘法的效果变得很不理想，为了解决这一问题，统计学家从模型和数据的角度考虑，采用回归诊断和自变量选择来克服多重共线性的影响，这时，岭回归作为一种新的回归方法被提出来了。2 .岭回归估计的定义及其统计思想是什么？答：一种改进最小二乘估计的方法叫做岭估计。当自变量间存在多重共线性，IXXI0时，我们设想给XX加上一个正常数矩阵kI(k0),那么XX+kI接近奇异的程度小得多，考虑到变量的量纲问题，先对数据作标准化，为了计算方便，标准化后的设计阵仍然

2、用X表示，定义为阿)=(XXF)Xy,称为口的岭回归估计，其中k称为岭参数。3 .选择岭参数k有哪几种主要方法？答：选择岭参数的几种常用方法有1.岭迹法，2.方差扩大因子法，3.由残差平方和来确定k值。4 .用岭回归方法选择自变量应遵从哪些基本原则？答：用岭回归方法来选择变量应遵从的原则有：(1)在岭回归的计算中，我们假定设计矩阵X已经中心化和标准化了，这样可以直接比较标准化岭回归系数的大小，我们可以剔除掉标准化岭回归系数比较稳定且绝对值很小的自变量。(2)当k值较小时标准化岭回归系数的绝对值并不是很小，但是不稳定，随着k的增加迅速趋于零。像这样的岭回归系数不稳定，震动趋于零的自变量,我们也可

3、以予以删除(3)去掉标准化岭回归系数很不稳定的自变量，如果有若干个岭回归系数不稳定，究竟去掉几个，去掉哪几个，这并无一般原则可循，这需根据去掉某个变量后重新进行岭回归分析的效果来确定。5.对第5章习题9的数据，逐步回归的结果只保留了3个自变量x1,x2,x5,用y对这3个自变量做岭回归分析。答：依题意，对逐步回归法所保留的三个自变量做岭回归分析。程序为：includeC:ProgramFilesSPSSEVALRidgeregression.sps.ridgeregdep=y/enterx1x2x5/start=0.0/stop=1/inc=0.01.岭迹图如下:RIDGETRACE4.000

4、0003.0000002.0000001.0000000.000000-1.000000-2.000000Kx1Kx2Kx5Kx1Kx2Kx5K计算结果为:可以看到，变量XI、X2迅速由负变正,X5迅速减小，在0.01-0.1之间各回KRSQX1X2X50000099603-105933-1492733541407010009864209813G329129562109.02000.98539191819.341587.452840.030009s492230163.3402704126110400098461260816337730391239.05000.984372G352S.33537

5、1.377736060009s415271990.33319136S2690700098394277911331219361151,080009837320219532941S3SSB22.09000.98351.2S5360.327744.3508971000098323287729326179346982110009830J28961132469S343538.12000.93279.290850.323286340S881300098252291345.321931337a941400098224292SG932062433544215000.98195293075.319357.333

6、187.1600098164.293404.318126331092170009813229358S31692632913018000.98099293650.315752.32723231亦门亨归系数的岭估计基本稳定，重新做岭回归。岭迹图如下:先取k=0.08语法命令如下:includeC:ProgramFilesSPSSEVALRidgeregression.sps.ridgeregdep=y/enterx1x2x5/k=0.08.运行结果如下:*RidgeRressionwithk=008*MultR991日293RSquare.9037253AdjRSqu9808533SE3608&5

7、0487ANOVAtabledfSSMSRegress3.0001338355144461103SResidual170002214169.0130245.24FvalueSigFM252183纲0000000VariablesintheEquationBelaB/SE0).2021945117306313329415116.37U1013555222268706207BSE(0)x1.1601053一013G486x2.07970860043688x50641667002480000000006.39S&437Constant73S8441562115.4688705得到回归方程为：?=0.

8、16x10.08%0.06x3738.84再取k=0.01:语法命令如下：includeC:ProgramFilesSPSSEVALRidgeregression.sps.ridgeregdep=y/enterx1x2x5/k=0.01.运行结果：*RidgeRegressionwithk=0.01*MultR.9931857RSquare.9864179AdjRSqu.9840210SE329.6916494ANOVAtabledfSSMSRegress3.00013420184144733947Residual17.0001847841.9108696.58FvalueSigF411.54

9、87845.0000000VariablesintheEquationBSE（B）BetaB/SE（B）x1.0556780.0615651.0981355.9043751x2.0796395.0218437.32912933.6458814x5.1014400.0108941.56210889.3114792Constant753.3058478121.7381256.00000006.1879205回归方程为：y=753.3058-0.05568x10.0796x2+0.1014x5从上表可看出，方程通过F检验，R检验，经查表，所有自变量均通过t检验，说明回归方程通过检验。从经济意义上讲，

10、X1（农业增加值）、X2（工业增加值）X5（社会消费总额）的增加应该对y（财政收入）有正方向的影响，岭回归方程中三个自变量的系数均为正值，与实际的经济意义相符。比逐步回归法得到的方程有合理解释。6 .对习题3.12的问题，分别用普通最小二乘和岭回归建立GDP对第二产业增加值x2,和第三产业增加值x3的二元线性回归，解释所得到的回归系数？答：（1）普通最小二乘法：ModelUnstandardizedCoefficientsStandardizedCoefficientstSig.BStd.ErrorBeta1(Constant)4352.859679.0656.410.000第二产业增加值1.

11、438.151.7759.544.000第三产业增加值.679.244.2262.784.017Coefficientsaa.DependentVariable:GDP根据上表得到y与x2,x3的线性回归方程为：?=4352.859+1.438x2+0.679x3上式中的回归系数得不到合理的解释.目的数值应该大于1,实际上，x3的年增长幅度大于Xi和x2的年增长幅度，因此合理的题的数值应大于1。这个问题产生的原因仍然是存在共线性，所以采用岭回归来改进这个问题。(2)岭回归法：程序为：includeC:ProgramFilesSPSSEVALRidgeregression.sps.ridgere

12、gdep=GDP/enterx2x3/start=0.0/stop=0.5/inc=0.01.根据岭迹图(如下图)可知，用(k)和伊3(k)很不稳定，但其和大体上稳定，说明x2和x3存在多重共线性。取k=0.1,SPSS输出结果为：MultR.998145,RSquare.996294AdjRSqu.995677,SE2364.837767ANOVAtabledfSSMSRegress2.0001.80E+0109.02E+009Residual12.000671094925592457.7FvalueSigF1613.140715.000000VariablesintheEquationBS

13、E(B)BetaB/SE(B)x2.907990.021842.48906741.571133x31.393800.035366.46364939.410560Constant6552.3059861278.903452.0000005.123378RIDGETRACE0.8000000.7000000.6000000.5000000.4000000.3000000.200000K得岭参数k=0.1时，岭回归方程为?=6552.306+0.908X2+1.3938X3,岭回归系数医=1.227与前面的分析是吻合的，其解释是当第二产业增加值X2保持不变时，第三产业增加值X3每增加1亿元GDP增加

14、1.227亿元，这个解释是合理的。7 .一家大型商业银行有多家分行，近年来，该银行的贷款额平稳增长，但不良贷款额也有较大比例的提高，为弄清楚不良贷款形成的原因，希望利用银行业务的有关数据做些定量分析，以便找出控制不良贷款的办法，表7.5是该银行所属25家分行2002年的有关业务数据。(1)计算y与其余四个变量的简单相关系数。(2)建立不良贷款y对4个自变量的线性回归方程，所得的回归系数是否合理？(3)分析回归模型的共线性。(4)采用后退法和逐步回归法选择变量，所得回归方程的回归系数是否合理，是否还存在共线性？(5)建立不良贷款y对4个自变量的岭回归。(6)对第4步剔除变量后的回归方程再做岭回归

15、。(7)某研究人员希望做y对各项贷款余额，本年累计应收贷款.贷款项目个数这三个变量的回归，你认为这种做是否可行，如果可行应该如何做？相关性不良贷款y各项贷款余额X1本年累计应收到款x2贷款项目个数x3本年固定资产投资额x4Pearson相不良贷款y1.000.844.732.700.519关性各项贷款余额x1.8441.000.679.848.780本年累计应收到款x2.732.6791.000.586.472贷款项目个数x3.700.848.5861.000.747本年固定资产投资额x4.519.780.472.7471.000Sig.（单侧）不良贷款y.000.000.000.004各项贷

16、款余额x1.000.000.000.000本年累计应收到款x2.000.000.1.001.009贷款项目个数x3.000.000.001.000本年固定资产投资额x4.004.000.009.000.N不良贷款y2525252525各项贷款余额x12525252525本年累计应收到款x22525252525贷款项目个数x32525252525本年固定资产投资额x42525252525系数a模型非标准化系数标准系数tSig.共线性统计量B标准误差试用版容差VIF1（常量）-1.022.782-1.306.206各项贷款余额x1.040.010.8913.837.001.1885.331本年累计

17、应收到款x2.148.079.2601.879.075.5291.890贷款项目个数x3.015.083.034.175.863.2613.835本年固定资产投资额x4-.029.015-.325-1.937.067.3602.781a.因变量：不良贷款y共线性诊断a模型维数特征值条件索引方差比例（常量）各项贷款余额x1本年累计应收到款x2贷款项目个数x3本年固定资产投资额x4114.5381.000.01.00.01.00.002.2034.733.68.03.02.01.093.1575.378.16.00.66.01.134.0668.287.00.09.20.36.725.03611.

18、215.15.87.12.63.05a.因变量：不良贷款y后退法得系数a模型非标准化系数标准系数tSig.B标准误差试用版1（常量）-1.022.782-1.306.206各项贷款余额x1.040.010.8913.837.001本年累计应收到款x2.148.079.2601.879.075贷款项目个数x3.015.083.034.175.863本年固定资产投资额x4-.029.015-.325-1.937.0672（常量）-.972.711-1.366.186各项贷款余额x1.041.009.9144.814.000本年累计应收到款x2.149.077.2611.938.066本年固定资产投

19、资额x4-.029.014-.317-2.006.0583（常量）-.443.697-.636.531各项贷款余额x1.050.0071.1206.732.000本年固定资产投资额x4-.032.015-.355-2.133.044a.因变量：不良贷款y逐步回归得系数a模型非标准化系数标准系数tSig.B标准误差试用版1（常量）-.830.723-1.147.263各项贷款余额x1.038.005.8447.534.0002（常量）-.443.697-.636.531各项贷款余额x1.050.0071.1206.732.000本年固定资产投资额x4-.032.015-.355-2.133.04

20、4a.因变量：不良贷款yR-SQUAREANDBETACOEFFICIENTSFORESTIMATEDVALUESOFKKRSQx1x2x3x4.00000.79760.891313.259817.034471-.324924.05000.79088.713636.286611.096624-.233765.10000.78005.609886.295901.126776-.174056.15000.76940.541193.297596.143378-.131389.20000.75958.491935.295607.153193-.099233.25000.75062.454603.291

21、740.159210-.074110.30000.74237.425131.286912.162925-.053962.35000.73472.401123.281619.165160-.037482.40000.72755.381077.276141.166401-.023792.45000.72077.364000.270641.166949-.012279.50000.71433.349209.265211.167001-.002497.55000.70816.336222.259906.166692.005882.60000.70223.324683.254757.166113.013

22、112.65000.69649.314330.249777.165331.019387.70000.69093.304959.244973.164397.024860.75000.68552.296414.240345.163346.029654.80000.68024.288571.235891.162207.033870.85000.67508.281331.231605.161000.037587.90000.67003.274614.227480.159743.040874.95000.66508.268353.223510.158448.0437871.0000.66022.2624

23、94.219687.157127.046373RIDGETRACEi.000000-,750000-,5COOCO-,250000-,000000-.250000-.OODOG.20000.40000,60000.800001.00000RunMATRIXprocedure:*RidgeRegressionwithk=0.4*MultR.802353780RSquare.643771588AdjRSqu.611387187ANOVAtabledfSSMSRegress2.000201.275100.638Residual22.000111.3755.062FvalueSigF19.87906417.00001172VariablesintheEquationBSE(B)BetaB/SE(B)x1.025805860.003933689.5744623956.560218798x4.004531316.007867533.050434658.575951348Constant.357087614.741566536.000000000.481531456ENDMATRIXY对x1x2x3做岭回归RunMATRIXprocedure:*RidgeRegressionwithk=0.4*MultR.850373821RSquare.7