多元线性回归

多元线性回归某地13岁男童身高,体重,肺活量得实测数据(部分)编号身高(cm)x1体重(kg)x2肺活量(L)y1135、132、01、753163、646、22、755156、237、12、757167、841、52、759145、033、02、5011165、549、53、0013153、341、02、7515160、547、22、2517147、640、52、0019155、144、72、7521143、031、51、7523160、840、42、7525158、237、52、0027144、534、72、2529156、532、01、75医用多元统计分析方法问题:身高、体重与肺活量有无线性关系？用身高和体重预测肺活量有多高得精度？单独用身高、或体重就是否也能达到同样效果？身高得贡献大,还就是体重得贡献大？医用多元统计分析方法1多元线性回归模型简介多元回归multipleregressionmultiplelinearregression因变量

dependentvariableresponsevariable(响应变量)自变量

independentvariableexplanatoryvariable(解释变量)医用多元统计分析方法回归模型因变量y,自变量为x1,x2,

,xma为截距(intercept),又称常数项(constant),

表示各自变量均为0时y得估计值bi称为偏回归系数(partialregressioncoefficient),简称为回归系数称为y得估计值或预测值(predictedvalue)医用多元统计分析方法例:根据某地29名13岁男童得身高x1(cm),体重x2(kg)和肺活量y(L)建立得回归方程为:当x1=150，x2=32时，=1.9168，表示对所有身高为150cm，体重为32kg的13岁男童，估计平均肺活量为1.9168(L)。医用多元统计分析方法2回归系数得估计最小二乘法(leastsquare,LS)基本思想残差平方和(sumofsquaresforresiduals)最小医用多元统计分析方法估计值与残差编号ye编号ye11、751、8420-0、092022、001、77960、220432、752、7527-0、002742、501、98030、519752、752、22360、526462、002、1381-0、138172、752、51960、230481、501、8612-0、361292、501、94580、5542102、252、19040、0596113、002、94060、0594121、251、6037-0、3537132、752、41990、3301141、751、9268-0、1768152、252、7912-0、5412161、751、9318-0、1818172、002、3643-0、3643182、252、5653-0、3153192、752、62890、1211202、002、2668-0、2668211、751、8546-0、1046222、252、01650、2335232、752、42510、3249242、502、31330、1867252、002、2552-0、2552261、752、1330-0、3830272、252、03510、2149282、502、34530、1547291、751、9494-0、1994医用多元统计分析方法9大家应该也有点累了，稍作休息大家有疑问的，可以询问和交流估计值与残差有下列性质:医用多元统计分析方法3Y得总变异分解未引进回归时得总变异:

(sumofsquaresaboutthemeanofY)引进回归以后得变异(剩余):(sumofsquaresaboutregression)回归得贡献,回归平方和:

(sumofsquaresduetoregression)医用多元统计分析方法回归方程得方差分析表变异来源SS自由度MSF总lyyn-1回归UmU/m剩余Qn-m-1Q/(n-m-1)医用多元统计分析方法例3、1资料回归方程得方差分析

变异来源SS自由度MSFP总5、6336206928回归3、0757339421、5378669715、63190、0000剩余2、55788685260、09838026医用多元统计分析方法4决定系数与剩余标准差决定系数(determinationcoefficient)医用多元统计分析方法R2可用于检验多元回归方程得显著性:H0:

2=0;H1:

2

0。检验统计量为:医用多元统计分析方法复相关系数得性质0≤R≤1。当只有一个因变量y与一个自变量x时,R就等于y与x得简单相关系数之绝对值:R=|ryx

|当有多个自变量x1,x2,…,xm时,R得值比任何一个自变量与因变量得简单相关系数之绝对值大,即:医用多元统计分析方法剩余标准差剩余标准差医用多元统计分析方法剩余标准差得用途剩余标准差可用于偏回归系数得假设检验

y得容许区间估计

y得可信区间估计自变量得选择等

因此,剩余标准差在回归分析中就是一个非常重要得统计量医用多元统计分析方法5偏回归系数得假设检验H0:

i=0;H1:

i

0。医用多元统计分析方法STATA得输出结果、regyx1x2

Source|SSdfMSNumberofobs=29-------------+------------------------------F(2,26)=15、63Model|3、0757339421、53786697Prob>F=0、0000Residual|2、5578867526、098380259R-squared=0、5460-------------+------------------------------AdjR-squared=0、5110Total|5、6336206928、201200739RootMSE=、31366------------------------------------------------------------------------------y|Coef、Std、Err、tP>|t|[95%Conf、Interval]-------------+----------------------------------------------------------------x1|、0050165、01057540、470、639-、0167216、0267547x2|、0540611、01598383、380、002、021206、0869162_cons|-、56566431、240127-0、460、652-3、1147821、983454------------------------------------------------------------------------------医用多元统计分析方法6标准偏回归系数与自变量得贡献医用多元统计分析方法STATA得输出结果、regyx1x2,beta

Source|SSdfMSNumberofobs=29-------------+------------------------------F(2,26)=15、63Model|3、0757339421、53786697Prob>F=0、0000Residual|2、5578867526、098380259R-squared=0、5460-------------+------------------------------AdjR-squared=0、5110Total|5、6336206928、201200739RootMSE=、31366------------------------------------------------------------------------------y|Coef、Std、Err、tP>|t|Beta-------------+----------------------------------------------------------------x1|、0050165、01057540、470、639、0935215x2|、0540611、01598383、380、002、6668242_cons|-、56566431、240127-0、460、652、------------------------------------------------------------------------------医用多元统计分析方法一元回归分析得结果、regyx1------------------------------------------------------------------------------y|Coef、Std、Err、tP>|t|[95%Conf、Interval]-------------+----------------------------------------------------------------x1|、0315609、00834713、780、001、0144341、0486878_cons|-2、6085411、275414-2、050、051-5、225474、008393------------------------------------------------------------------------------、regyx2------------------------------------------------------------------------------y|Coef、Std、Err、tP>|t|[95%Conf、Interval]-------------+----------------------------------------------------------------x2|、0596878、01055875、650、000、0380232、0813524_cons|-、0091673、3961987-0、020、982-、8221、8037653------------------------------------------------------------------------------

为什么单变量分析时都有统计学意义,而同时放入方程则一个有统计学意义,另一个无统计学意义？医用多元统计分析方法自变量得作用X1YX2医用多元统计分析方法自变量作用得分解自变量中间变量直接贡献间接贡献与y得相关riy身高x1x2b1

=0、09352b2

r12=0、666820、7421=0、49480、5884体重x2x1b2

=0、66682b1

r12=0、093520、7421=0、06940、7362医用多元统计分析方法3、8指标得量化性别医用多元统计分析方法例t检验与回归得关系正常人组II期矽肺组64、26

74、9742、84

88、0652、48

93、4748、19

95、1080、22100、6769、61101、1418、19113、5250、90正常人与矽肺患者血清粘蛋白合理(mg/100mg)医用多元统计分析方法资料重新整理

ygroup1、64、2602、42、8403、52、4804、48、1905、80、2206、69、6107、18、1908、50、909、74、97110、88、06111、93、47112、95、1113、100、67114、101、14115、113、521医用多元统计分析方法t检验结果、ttesty,by(group)Two-samplettestwithequalvariances----------------------------------------------------------------------------Group|ObsMeanStd、Err、Std、Dev、[95%Conf、Interval]---------+------------------------------------------------------------------0|853、336256、66210218、8432737、5828869、089621|795、275714、53563112、0001584、17742106、374---------+------------------------------------------------------------------bined|1572、9086、87165826、6138258、1697687、64624---------+------------------------------------------------------------------diff|-41、939468、307497-59、88672-23、99221----------------------------------------------------------------------------Degreesoffreedom:13Ho:mean(0)-mean(1)=diff=0Ha:diff<0Ha:diff~=0Ha:diff>0t=-5、0484t=-5、0484t=-5、0484P<t=0、0001P>|t|=0、0002P>t=0、9999医用多元统计分析方法与方差分析结果等价、anovaygroupNumberofobs=15R-squared=0、6622RootMSE=16、0516AdjR-squared=0、6362Source|PartialSSdfMSFProb>F-----------+----------------------------------------------------Model|6566、6291816566、6291825、490、0002|group|6566、6291816566、6291825、490、0002|Residual|3349、5038913257、654145-----------+----------------------------------------------------Total|9916、1330714708、29522医用多元统计分析方法与回归分析结果得比较、regygroupSource|SSdfMSNumberofobs=15----------+-----------------------------F(1,13)=25、49Model|6566、6291816566、62918Prob>F=0、0002Residual|3349、5038913257、654145R-squared=0、6622----------+-----------------------------AdjR-squared=0、6362Total|9916、1330714708、29522RootMSE=16、052-------------------------------------------------------------------y|Coef、Std、Err、tP>|t|[95%Conf、Interval]---------+---------------------------------------------------------group|41、939468、3074975、050、00023、9922159、88672_cons|53、336255、6751019、400、00041、0759465、59656------------------------------------------------------------医用多元统计分析方法回归系数与各组均数得关系医用多元统计分析方法指标得量化血型(A,B,AB,O)x1=0,x2=0,x3=0表示O型x1=1,x2=0,x3=0表示A型x1=0,x2=1,x3=0表示B型x1=0,x2=0,x3=1表示AB型哑变量(dummy)又称指示变量(indicatorvariables)医用多元统计分析方法方差分析与回归分析正常人组I期矽肺组II期矽肺组64、2665、46

74、9742、8460、63

88、0652、4869、73

93、4748、1974、97

95、1080、2280、44100、6769、6197、58101、1418、1995、20113、5250、9096、39血清粘蛋白合理(mg/100mg)医用多元统计分析方法各组均数、tabgroup,sum(y)|Summaryofygroup|MeanStd、Dev、Freq、------------+------------------------------------0|53、33625118、8432781|80、05000114、76619882|95、27571312、0001537------------+------------------------------------Total|75、39217423、06960523医用多元统计分析方法指标得量化组别(0,1,2)x1=0,x2=0表示0组(正常人)x1=1,x2=0表示1组(矽肺I期)x1=0,x2=1表示2组(矽肺II期)哑变量(dummy)又称指示变量(indicatorvariables)医用多元统计分析方法资料整理正常人组I期矽肺组II期矽肺组64、26065、461

74、97242、84060、631

88、06252、48069、731

93、47248、19074、971

95、10280、22080、441100、67269、61097、581101、14218、19095、201113、52250、90096、391血清粘蛋白含量(mg/100mg)医用多元统计分析方法方差分析得结果、anovaygNumberofobs=23R-squared=0、5836RootMSE=15、6138AdjR-squared=0、5419Source|PartialSSdfMSFProb>F-----------+----------------------------------------------------Model|6832、758823416、379414、010、0002|group|6832、758823416、379414、010、0002|Residual|4875、7881520243、789407-----------+----------------------------------------------------Total|11708、546922532、206679

医用多元统计分析方法回归分析得结果、regyg2g3Source|SSdfMSNumberofobs=23------------+------------------------------F(2,20)=14、01Model|6832、758823416、3794Prob>F=0、0002Residual|4875、7881520243、789407R-squared=0、5836------------+------------------------------AdjR-squared=0、5419Total|11708、546922532、206679RootMSE=15、614----------------------------------------------------------------------y|Coef、Std、Err、tP>|t|[95%Conf、Interval]---------+------------------------------------------------------------g2|26、713757、8068783、420、00310、4288942、99861g3|41、939468、0808875、190、00025、0830358、7959_cons|53、336255、5202979、660、00041、8211164、85139----------------------------------------------------------------------医用多元统计分析方法系数与均数医用多元统计分析方法男婴女婴身高体重体表面积身高体重体表面积543、002446543、002117502、251928532、252200512、502094512、501906563、502506513、001850523、002121513、001632769、503845777、503934809、0043807710、004180749、504314779、504246809、004078749、003358768、004134737、5038099613、5058309112、0053589714、0060139113、0056109916、0064109415、0060749211、0052839212、0052909415、0061019112、505291协方差分析与回归分析医用多元统计分析方法heightweightygenderhwygender543、0024461543、0021170502、2519281532、2522000512、5020941512、5019060563、5025061513、0018500523、0021211513、0016320769、5038451777、5039340809、00438017710、0041800749、5043141779、5042460809、0040781749、0033580768、0041341737、50380909613、50583019112、00535809714、00601319113、00561009916、00641019415、00607409211、00528319212、00529009415、00610119112、5052910资料整理医用多元统计分析方法协方差分析、anovayheightweightgender,cate(gender)

Numberofobs=30R-squared=0、9845RootMSE=203、667AdjR-squared=0、9827Source|PartialSSdfMSFProb>F-----------+----------------------------------------------------Model|68508456、5322836152、2550、530、0000|height|925956、9041925956、90422、320、0001weight|374288、7521374288、7529、020、0058gender|144515、8411144515、8413、480、0733|Residual|1078488、662641480、3332-----------+----------------------------------------------------Total|69586945、2292399549、83

医用多元统计分析方法、regywhgSource|SSdfMSNumberofobs=30-----------+------------------------------F(3,26)=550、53Model|68508456、5322836152、2