应用回归分析讲义十三 岭回归e

应用回归分析讲义…十三岭回归一、 岭回归的引入二、 岭回归的SPSS程序三、 岭回归参数K的选取，参数粗估计,参数精估计,确定参数模型四、 岭回归模型的应用1962年由提出在1970年开展的岭回归(Ridgeregression)，回归系数的有偏估计一岭回归8=(X'X)-1X'y当XXR0,为了(X'X)-1存在且稳定，定义8=(X,X+KI)-1X'YK称为岭参数K=0时为最小二乘估计，K>0,小于1。K从0到1逐渐增大，选择一个最适宜的K值。岭回归用于解决模型的自变量共线性问题。

P92YEARYX1X2X3X4X51987197919801981198219831984198519861987198819891990199119921993建立回归模型，共线性诊断1、 VIF，容忍度，条件指数，2、 变量X2的系数为负值，经济理论认为应为正相关。说明共线性造成后果。进行岭回归分析一、岭迹模型系数随参数K变化的曲线岭迹图根据岭迹确定K。K=0时表示古典回归二、岭回归根据岭迹图确定参数KP193图A,系数趋于0,变量不重要图B.系数由正变负，变化大，对Y有显著影响图C.古典模型时系数为正，岭回归时系数为负.图D.两个系数不稳定，一个增大时另一个减少，但其和稳定，可以考虑保存一个变量.图E.变量对Y不显著图F.变量对Y的影响趋于稳定7.4岭•敏化的选*选择标准:1、 各回归系数根本稳定2、 用最小二乘法时不合理的系数用岭回归变得合理3、 残差平方和增长不大岭回归SPSS程序和岭回归模型应用P199变量标准化1、参数K粗估计INCLUDE'c:/programfiles/SPSS/Ridgeregression.sps'.RIDGEREGDEP=zy/ENTER=zx1,zx2,zx3,zx4,zx5.2、 参数K精估计INCLUDE'c:/programfiles/SPSS/Ridgeregression.sps'.RIDGEREGDEP=zy/ENTER=zx1,zx2,zx3,zx4,zx5/START=/STOP=1.3、 确定参数K=0.08时，建立模型INCLUDE'c:/programfiles/SPSS/Ridgeregression.sps'.RIDGEREGDEP=zy/ENTER=zx1,zx2,zx3,zx4,zx5/k=0.08.岭回归选择变量删除系数趋于0的变量删除不稳定的变量省市区地方财政支出（亿元）城镇居民年人均可支配收入（元）城镇居民年人均消费性支出（元）农民人均现金收入（元）农民人均生活消费支出（元）社会消费品零售总额（亿元）X1x2x3x4x5y北京176531324487245316天津12639965370323036河北9107670043182166山西8914634330531878内蒙古9137692942352446辽宁91087369549128062999吉林8691679544512306黑龙江8273617853212545上海1864513773872472782973江苏12319862260353567浙江162941225484455433安徽84716368304321961765福建12321879449633293江西5648620610934602484山东10745745751142736河南11168668603830161892湖北8786673734542430湖南9524750536932756广东147701181053823708广西92877033299423501397海南8124592936041969重庆10243862326532142四川8386689130872274贵州8151615919541552云南9266699721751789西藏9431861719251724陕西6398272665625761896甘肃8087652922171820青海8058624522881976宁夏8094640434632094新疆5197990620839211924INCLUDE'c:/programfiles/SPSS/Ridgeregression.sps'.RIDGEREGDEP=y/ENTER=x1,x2,x3,x4,x5.例2INCLUDE'c:/programfiles/SPSS/Ridgeregression.sps'.RIDGEREGDEP=y/ENTER=x1,x2,x3,x4,x5/START=/STOP=1.例3例2确定系数为0.35时，INCLUDE'c:/programfiles/SPSS/Ridgeregression.sps'.RIDGEREGDEP=y/ENTER=x1,x2,x3,x4,x5/k=0.35.SPSS宏ridgeregressionmacro,ridgeregressionmacro,ridgeregressionmacroINCLUDE'[SPSSinstalldir]\Ridgeregression.sps'.RIDGEREGDEP=varname/ENTER=varlist[/START={0**}][/STOP=