第八章 多重线性：解释变量相关会有什么后果

第二部分实践中的回归分析基本假定违背：不满足基本假定的情况。（1）模型设定有偏误；所选模型是正确设定的（2）解释变量之间存在多重共线性；（3）随机误差项序列存在异方差性；（4）随机误差项序列存在序列相关性。所选模型是正确设定的解释变量之间不存在完全线性关系误差项方差为常数误差项之间不相关基本假定基本假定基本假定基本假定第八章多重共线性Multi-Collinearity一、多重共线性的性质二、多重共线性的实际后果三、多重共线性的诊断四、克服多重共线性的方法五、案例一、多重共线性的性质1、完全多重共线性2、近似（不完全）多重共线性

对于模型

Yi=0+1X1i+2X2i++kXki+i

i=1,2,…,n其基本假设之一是解释变量是互相独立的。

如果某两个或多个解释变量之间出现了相关性，则称为多重共线性(Multicollinearity)。完全共线性的情况并不多见，一般出现的是在一定程度上的共线性，即近似共线性。一个怪模型商场销售额=B1营业面积+B2店员人数+B3铺租+B4宣传费用+ui何以怪？这样阐述事物，越说越乱，与其说是“解释”，毋宁是“蛊惑”生产函数的多重共线性如果技術不变，劳动与资本投入会是等比例的。比如，每增加一部缝纫机，就要增加一个工人。此时，投入品之间是完全共线性，即等比例变化。多途径投放广告，销售额的变动到底来自哪种广告形式，无法区分。各广告形式之间经常存在共线性。为什么不能容忍多重共线性？一个模型中的某个变量违背常识。比如某些积极因素被“算”成了消极因素模型应该儘量简捷奥卡姆剃刀：如无必要，毋增实体产生多重共线性的背景经济变量之间具有共同变化趋势哲学观点：事物是普遍联繫的。联繫的紧密程度有所不同。多重共线性会经常出现如果一个回归方程之中，幾个自变量之间具有比较强的相关性，则自变量之间可以互相解释，我们可以只留下一个自变量：设y=x1+x2+c,其中，x1=ax2,则y=ax2+x2+c=(a+1)x2+c模型中包含滞後变量利用截面数据建模也可能出现多重共线性经济学理论有“互补品”与“替代品”样本数据自身的原因心理学家的调查数据经常出自大学生8.1多重共线性的性质

Thenatureofmulticollinearity表8-1中,x2每上升1，x3会下降2，这是完全的共线性，它们之间的函数关係是x3=300-2x2，也就是说，x3一列数字“完全”可以由x2取代，反之亦然。这时，无法按表12-1中的资料对回归方程进行估计当解释变量之间存在完全线性相关或者完全多重共线性时，我们不可能獲得所有参数的惟一估计值。既然我们不能獲得它们的惟一估计值，也就不能根据某一样本做任何统计推论在完全多重共线性的情况下，不可能对多元回归模型中的某一单个回归系数进行估计和假设检验如果雾在解干释变剂量X1，X2，…妹，Xk中，浴存在末线性绝关係涌。解释不变量漂间的伏线性移关係则存在胁时，洁存在隐不全垂为零盯的常杠数这種叙关係毁为完脚全多很重共娘线性瓦，变煤量间怠的相介关係参数为模1。洒实际六上更揭多的诵情况岛是，沙解释述变量般间有商不完拜全的辟线性洽关係跃：存阶在不月全为存零的布数：其中vi为随喷机项稀。解核释变累量间滋存在黄的完迎全或普不完坟全的导线性朽关係邮称为畏多重拍共线倒性。责由於秃经济始变量吊自身抛的性值质，街多重送共线影性或辫强或谢弱，继普遍义存在卷。假定λ1≠0穷，8.比2接近扔或者文不完网全多碍重共衣线性衔的情稳形Th惑e梅ca壮se稠o除f往ne耗ar允,侧or损i汗mp献er姐fe坏ct渠,mu父lt腹ic会ol眠li缸ne笔ar宰it娃yX4的绝牺大部原分信若息包旗含在x2中，x2幾乎民完全敢是重幼複信打息这样蓝得到档的回田归方织程很滑怪：垮在整屯体上解存在锯较好清的解静释能浴力，抹但在新每一原个解各释变妥量上驱却出片现违蔽背常抹识的掏现象多重认共线与性的多示意怨图OL获S估计暗量的拖方差步与协姿方差OL总S估计嗓量的膜方差会与协共方差洽提供饮了估掘计量b置信时程度阿的信何息。尽各样谦本间仆越是嫁近似络，其屿统计军量的唐变异轧程度财就越嚼小，邪根据弃这种映样本笔估计亭的参述数就市越准沾確r23是T个XT2值和XT3值的零相关朝系数影响b2的方赢差的椒因素OL渴S估计盟量的揪变异继程度额受什幕么因穴素影塔响误差药项u的方均差σ2越大柴，OL榜S估计出量的锹变异环程度山越大样本事量越闯大，OL倾S估计验量的劳变异所程度忌越小罢。va辛r(殊b2)公式通中的T大，绪分母及也大诵，va齿r(劫b2)就小自变视量对锅均值痒的变往异程提度越踩大，OL筒S估计愤量的斜变异瓜程度扔越小X2和X3之间但的相续关系马数越兔大，b2的方江差也迟越大泳。如输果X2和X3完全川相关斯，r23=1，va宴r(判b2)无法清计算如果症存在c1X1i+c2X2i+…恳+ckXki=0i=1市,2柏,…得,n其中:ci不全阳为0如果存在c1X1i+c2X2i+…复+ckXki+vi=0i=1矮,2串,…愧,n其中ci不全降为0，vi为随至机误匆差项1、解局释变免量间卧存在完全鸟共线婶性（pe波rf费ec纪t遭mu晓lt井ic图ol斗li翻ne言ar油it苗y）2、近弄似（不完乘全、类高度幸）共线脉性（ne肥ar皂/i森mp弦er禁fe绑ct集/h虏ig扯h剩m拴ul刚ti汁co埋ll挪in停ea歉ri评ty）不可猛能获指得所笨有参达数的昏唯一阳估计鼠值及凝根据傻样本附进行什任何床统计练推断穿。OL拣S估计乡丰量仍故是最恳优线犁性无迅偏估斜计量注意资：除非世是完四全共疗线性别，多荡重共轮线性用并不向意味星着任伸何基蚂本假狠设的膊违背哄；因此风，即技使出每现较说高程兵度的殿多重佛共线怪性，OL离S估计珍量仍棍具有歼线性穴性等傍良好斧的统汉计性践质。问题邻在于，即替使OL舞S法仍股是最乘好的呀估计休方法投，它皇却不糠是“美完美蛛的”识，尤节其是梦在统悔计推根断上光无法恳给出宾真正闭有用叉的信守息。OL佣S估计订量仍睛是最陕优线戒性无焦偏估执计量但这板不代庆表单遍个样虑本估尸计值另的性阀质（友如方拿差最夏小等茂）多重生共线野性本到质上悠是一梅个样真本（牺回归黑）现牛象。存在变不完六全多论重共喉线性时参数救估计羽值的封方差京与标子准差参变大容易负使通坝过样偿本计何算的t值小骗于临锋界值羡，误导军作出送参数蹈为0的推凤断可能算将重乒要的悉解释达变量蔬排除译在模威型之愤外概念箭：方鉴差膨贷胀因属子根据P7药6第四寇章有却：R2增加b2和b3的方仅差（惭或标校准差他）增丙加（信或膨米胀）多重共栗线性漏使参安数估废计值肝的方匹差增拳大，1/杜(1决-R2)为方差舟膨胀诸因子(V凡ar会ia代nc善e忆In单fl酒at悦io床n雁Fa诊ct组or均,理VI缩慧F)当完全标不共想线时,赚R2=0当近似笨共线时,圆0<R2<1时间睡序列恼样本：经颂济繁由荣时菌期，忠各基个本经态济变奔量（拆收入户、消另费、混投资率、价扬格）园都趋私于增割长；盗衰退耐时期卷，又臭同时惠趋于牙下降纯。横截馆面数丑据：生忠产函惑数中算，资笨本投哀入与比劳动障力投吃入往历往出象现高偏度相包关情炸况，鞭大企本业二鸦者都竿大，宇小企叼业都辣小。补充匀：产宝生多岗重共而线性机的主铲要原丙因（乎了解盟）（1）经隐济变直量相这关的碍共同本趋势（2）滞尝后变肢量的撤引入在经烤济计欧量模励型中棵，往叶往需番要引锦入滞译后经妨济变艰量来饺反映途真实逝的经偶济关味系。例如驻，消傅费=f吧(当期影收入,前期孝收入桂）显然洪，两战期收则入间商有较股强的烧线性起相关稀性。（3）样娃本资直料的石限制由于威完全幅符合笛理论纽奉模型雕所要楚求的秒样本牌数据武较难乐收集誓，特容定样柔本可斩能存那在某勤种程大度的腰多重你共线缠性。一般有经验：时间挪序列越数据样本驰：简津单线识性模椅型，区往往色存在桥多重苗共线潜性。截面齐数据样本委：问问题不参那么俭严重题，但孩多重惰共线甩性仍赞然是少存在涛的。8.宇4多重亏共线讨性的惹实际偶後果Pr醋ac汗ti拾ca撕l肺co使ns滔eq林ue截nc索es鉴o帽fmu予lt克ic头ol告li宣ne恭ar寸it坐y(1混)睁普通泥最小突二乘梅法估鸦计量腾的方朝差和吐标准肆差较固大(2觉)肾置信届区间晴变宽(3缝)t值不航显著(4矩)R2值较类高，谜但t值则雕并不蓄都显透著。(5叠)日普通亲最小每二乘济估计哭量及粮其标敏准差参对数纺据的哗微小较变化烛非常络敏感革，趋少於不窑稳定此。(6扁)虹回归傻系数章符号校有误(7傍)帖难以堪衡量歪各解桃释变业量对家回归课平方瞒和(ES部S)或者R2的贡触献在高慎度共地线性源情况型下，边很难域衡量定每一昼个解穗释变饲量对桌总体R2的贡碎献8.搞5多重广共线亮性的李诊断de热td聋ct辽io指n(1袜)纸多重趟共线荷性是悔一个佛程度旗问题划而不键是存旅在与页否的双问题饥。(2缠)妄由於隆多重榴共线玻性是色在假忍定解身释变例量是秋非随数机的过条件境下出踢现的按问题怕，因限而它愧是样趁本的区特徵损，而碗不是秃总体墓的特和徵。不做“检测奶多重坝共线竟性”，而壁是测倒度给塔定样亡本的泊多重泥共线迟性程贞度。依据里一些零经验楚法则雨，或爱者说挂是在足具体课应用励中能龄够给势我们赛提供炭一些兰有关辅多重摘共线桌性存腐在与驻否的洲线索多重顶共线绍性存类在的卵线索1(1遇)R2较高谢但t值显唉著的污不多Hi奋ghR2bu旁t泪fe圣w拾si疼gn茶if寨ic乌an多ttra昌ti句os(2洒)邪解释欺变量耽两两毫高度屯相关Hi梦gh目p济ai催rw独is位e缩慧co佣rr悔el演at血io枪ns歪a住mo劣ng讽e导xp烘la须na并to危ry片v嘱ar杯ia鸦bl丈es(3掩)困检验阳偏相苹关係绞数Ex蜜am壶in仅at越io抹n阳of才p宾ar手ti闭al漫c化or岔re笛la火ti禾on屿s(4围)吐从属静或者医辅助略回归Su眯bs雹id缝ia桐ry倍,极or丢a摘ux甚il谁ia获ry馅,组re死gr轨es尿si颤on检验稻模型卖中哪会个变岸量与盼其他报变量廊高度叠共线四性的希方法箩就是墨作每东个变茅量对结其他共剩餘覆变量喉的回蕉归并锋计算铜相应家的R2值多重谜共线眉性存港在的船线索2(5什)膜方差模膨胀掏因子(t花he哨v损ar国ia饿nc阀e这in绝fl津at盈io帽n辣fa板ct桥or趴)随着R22的增糖加，b2和b3的方树差也消增加很或膨呆胀了骆。方差眯膨胀爷因子布与b2、b3是线股性关碰係，寻单调受递增星，两谷个自本变量框之间毙的关耍係越然密切飞，回房诚归系角数的挣变异门程度圈就越脉大没有怜一种指检验已方法辞能够齐彻底战解决议多重仿共线炸性问示题。没有饱一个顷简单合的方酒法解搂决这卫个多植重共鱼线性贝问题方差蜂膨胀蒸因子馆检验节经验际法则VI摊F代表额由于赤把除酸去Ri的其掩它所驰有变明量加翠入到干模型躲中而盗引起软的方汉差膨续胀。一个堂大的骡方差统膨胀悠因子摘值预沉示着夕在解艳释变短量中城存在帖着冗挑餘信城息。判定筝系数Ri2=0帖.9疗,泄VI杀F=惕10判定瞎系数Ri2=0岗.8扑,鹿VI慎F=岸5幾种膨观点,认为VI升F>新8或10时,多重搏共线暑性显过著,且Xi为多校餘变温量.如果叔多个厚变量私的方霉差膨毫胀因恰子都芬比较董大,选最忽大的装方差嘉膨胀怠因子繁的变虾量为潜多餘蚂的.8.鼻6多重灭共线芹性必模定不轨好吗Ismu绿lt处ic播ol骡li碧ne乘ar桨it冤y嫌ne都ce牢ss毅ar丧il泽y笛ba翅d?如果池研究跃是为崭了用鱼模型民来预颂测解贱释变伏量的难未来芹均值拢，则师多重公共线鬼性本乓身未寸必是钻一件拜坏事如果怜研究头不仅尝仅是努为了傲预测真，而睡且还照要可仗靠地在估计扯所选斑模型疗的各涉个参灾数，位则严济重的低共线状性将桥是一泪件“坏事”，因软为它孔将导们致估何计量给的标谅准差苦增大如果校是为找了比丹较准农確地义估计蛾一组贸系数较(例锡如，解两个长系数掠的和遥或者垒差)熊，那损么，珍即使额存在贵多重惜共线巩性，言也能汽够达卧到目从的三、摊多重宰共线门性的课诊断（1）检屯验多删重共团线性异是否托存在蛛及度直量共柱线性午的程富度；（2）估住计多般重共收线性粒的范斗围，阴即判盟断哪峡些变羊量之建间存品在共吊线性哀。（1）没岭有度熔量多府重共议线性梯的单朵一方嘴法；（2）具乞有的后是一革些经翠验法炒则，剂即是裤在具贱体应旦用中年能够沫提供债判断性存在道多重蜂共线氏性的尸一些令线索其。任务叮：注意孝：1、对多个挑解释励变量沙的模赏型，犬采用早综合炒统计吼检验相法若在OL荷S法下衡：R2与F值较稀大，恢但t检验拉值较岔小，杀说明著各解击释变凤量对Y的联威合线货性作剧用显尼著，杏但各粪解释锻变量轮间存管在共请线性抬而使尘得它爆们对Y的独飞立作霉用不傍能分揉辨，掩故t检验伍不显络著。三、丑多重茫共线袖性的窗诊断R2值较谋高，藏但解雀释变视量t值统股计显豪著的饿不多杆。这是权共线被性的神典型爷特征首先遍，检影验多樱重共送线性芹是否糖存在丧（1）（2）2、对肾两个怨解释顶变量代的模脚型，链采用驾简单辞相关洗系数盼法对多个孙解释滨变量固的模铺型，计算陶这些饮解释诸变量竹两两施之间候的相远关系评数，稿如果愿有些相关贵系数酿很高(如超商过0.每8)，则可浅能认凶为存盛在较洪为严纠重的活共线另性。三、虫多重枯共线搭性的五诊断求出X1与X2的简辫单相岂关系躺数r，若|r民|接近1，则等说明护两变校量存秃在较泊强的级多重丹共线厉性。但是赏，这昌一标左准并继不可核靠，有嘴时候搬，两饿两相评关系叠数可挣能较刑低，联但仍改可能缺存在雁共线待性。进一龙步确膛定哪箱些变胸量引蛾起的3、从陡属回扣归或瘦辅助授回归傲（判日定系稳数检蒸验法办）St鞠ep子1：使帆模型仅中每鹊一个神解释遍变量运分别章以其付余解恢释变搁量为钟解释炎变量坑进行护回归右（这网些回傍归称惠为从尘属回佛归或呢辅助姑回归St筒e:刻2：首嫂先观较察这硬些辅摔助回给归相智应的鹊拟合蛋优度布（或句判定肃系数区）的甜大小著；然查后对府这些筝辅助眠回归亦进行F检验H0：Rj.2=0Xji=1X1i+2X2i+康LXLi若拒者绝原陕假设卡则说摔明Xj与其纳他解蜓释变某量之偏间存治在显序著的毯线性遍关系桑。3、从喇属回殃归或佣辅助庄回归尖（判党定系义数检晴验法穴）Rj•2:第j个解亿释变沾量对潜其他忙解释