随机效应模型简介

（优选）随机效应模型简介当前1页，总共109页。提纲(outline)线性模型简介广义线性模型简介从几个简单例子介绍随机效应模型重复测量资料的随机效应模型GEE多水平模型其他非独立数据的随机效应模型随机效应模型拟合中的一些问题当前2页，总共109页。3.从几个简单例子介绍随机效应模型配伍组A1A2A3A4B10.800.360.170.28B20.740.500.420.36B30.310.200.380.25B40.480.180.440.22B50.760.260.280.13例3.1(配伍组设计)四种抗癌药物抑瘤效果的配伍组方差分析，测量值越大提示效果越好。当前3页，总共109页。区组方差分析结果SourceDFSSMSF_ValuePModel70.523170000.074738574.110.0157a30.410840000.136946677.530.0043b40.112330000.028082501.550.2514Error120.218110000.01817583Total190.74128000当前4页，总共109页。例3.1资料的处理效应和区组效应(近似值)配伍组A1A2A3A4MeanEffectB10.800.360.170.280.400.02B20.740.500.420.360.510.13B30.310.200.380.250.29-0.09B40.480.180.440.220.33-0.04B50.760.260.280.130.36-0.02Mean0.620.300.340.250.38Effect0.24-0.07-0.04-0.13当前5页，总共109页。根据处理效应、区组效应计算的理论值配伍组A1A2A3A4MeanEffectB10.640.330.360.270.400.02B20.750.440.470.380.510.13B30.530.220.250.160.29-0.09B40.580.270.300.210.33-0.04B50.600.290.320.230.36-0.02Mean0.620.300.340.250.38Effect0.24-0.07-0.04-0.130.38+0.24+0.02当前6页，总共109页。各观察值的残差配伍组A1A2A3A4MeanEffectB10.160.03-0.190.010.400.02B2-0.010.07-0.05-0.020.510.13B3-0.22-0.010.130.090.29-0.09B4-0.09-0.070.150.020.33-0.04B50.16-0.02-0.04-0.100.36-0.02Mean0.620.300.340.250.38Effect0.24-0.07-0.04-0.13当前7页，总共109页。固定效应模型随机效应模型当前8页，总共109页。Two-wayANOVA(fixedmodel)DependentVariable:ySumofSourceDFSquaresMeanSquareFValuePr>FModel70.523170000.074738574.110.0157Error120.218110000.01817583CorrectedTotal190.74128000R-SquareCoeffVarRootMSEyMean

0.70576635.855790.1348180.376000SourceDFAnovaSSMeanSquareFValuePr>Fa30.410840000.136946677.530.0043b40.112330000.028082501.550.2514当前9页，总共109页。TheMixedProcedureSolutionforFixedEffectsStandardEffectEstimateErrorDFtValuePr>|t|intercept0.24800.0642743.860.0182a10.37000.08527124.340.0010a20.052000.08527120.610.5533a30.090000.08527121.060.3120a40....Type3TestsofFixedEffectsNumDenEffectDFDFFValuePr>Fa3127.530.0043CovParmEstimateb0.002477Residual0.01818当前10页，总共109页。固定效应模型随机效应模型当前11页，总共109页。TheANOVAProcedure(不考虑区组因素)DependentVariable:ySumofSourceDFSquaresMeanSquareFValuePr>FModel30.410840000.136946676.630.0040Error160.330440000.02065250Total190.74128000R-SquareCoeffVarRootMSEyMean

0.55423138.220690.1437100.376000SourceDFAnovaSSMeanSquareFValuePr>Fa30.410840000.136946676.630.0040当前12页，总共109页。这个例子告诉我们：不同来源的变异，可以用固定效应表示，也可以用随机效应表示；当不关心固定效应大小时，宜用随机效应；当因素的取值是随机时，最好用随机效应。当前13页，总共109页。例3.2Hall和Northfield调查了26名病人的胃液的pH值及尿中亚硝酸盐的浓度，如下表。试描述两者之间的关系。xyxy5.863.265.3143.95.180.002.179.366.0319.51.937.135.7121.95.5952.54.9117.85.2950.65.535.21.9412.12.642.332.0315.72.946.535.9063.44.0722.74.9455.62.110.195.9181.22.171.485.5981.85.7748.95.5583.81.721.642.7352当前14页，总共109页。26名病人的胃液的pH值及尿中亚硝酸盐浓度的散点图

尿中亚硝酸盐的浓度胃液的pH值

平均数随自变量的增加而增加，方差也随自变量而增加当前15页，总共109页。26名病人的胃液的pH值及尿中亚硝酸盐浓度的散点图

(方差随自变量的增加而增加)尿中亚硝酸盐的浓度胃液的pH值

当前16页，总共109页。Y是正态分布、等方差示意图当前17页，总共109页。Y是正态分布、不等方差示意图当前18页，总共109页。当前19页，总共109页。随机系数模型的估计结果ParameterEstimateErrorDFtValuePr>|t|beta0-12.94416.9609-1.860.1483beta110.30912.2486244.580.0001

s20.000218s2z225.1143*随机系数模型procmixed;

classid;

modely=x/s;

randomx/subject=id;run;当前20页，总共109页。随机系数模型的估计结果ParameterEstimateErrorDFtValuePr>|t|Lower~Upperbeta0-12.59408.442025-1.490.1483-29.9805~4.7926beta110.21102.2161254.610.0001

5.6469~14.7750

s20.7947148.50250.010.9958-305.05~306.64s2z297.911638.3736252.550.017218.8797~176.94*随机系数模型proc

nlmixeddata=ex_1method=FIRO;

parmsbeta0=-12beta1=10.2s2=200s2z2=20; c2=beta1*x+z2*sqrt(x); yhat=beta0+c2;

modely~normal(yhat,s2);

randomz2~normal(0,s2z2)subject=ID;run;当前21页，总共109页。这个例子告诉我们：当变异随某因素变化时，可以对变异进行回归分析；当前22页，总共109页。23Weight(g)Time(day)04714213549701000.0100.0200.0300.0例3.3100只雌性大鼠从出生到第100天的体重(g)变化趋势当前23页，总共109页。生长曲线的固定和随机效应模型当前24页，总共109页。例3.4药代动力学模型当前25页，总共109页。当前26页，总共109页。proc

nlmixeddata=theoph;

parmsbeta1=-3.22beta2=0.47beta3=-2.45

s2b1=0.03cb12=0s2b2=0.4s2=0.5;cl=exp(beta1+b1);ka=exp(beta2+b2);ke=exp(beta3);pred=dose*ke*ka*(exp(-ke*time)-exp(-ka*time))/cl/(ka-ke);

modelconc~normal(pred,s2);

randomb1b2~normal([0,0],[s2b1,cb12,s2b2])subject=subject;run;当前27页，总共109页。这两个例子告诉我们：在回归模型中，当个体的趋势不尽相同时，回归模型的系数可以表示为随机的。当前28页，总共109页。忽略随机效应的后果：

一个虚拟的例子(ExtremeExample)SubjectspecificeffectsofXonPr(Death),OR=20per1unitincreaseinXPopulationaverageeffectofXonPr(Death),OR=2.7per1unitincreaseinX当前29页，总共109页。随机效应模型的不同名称随机效应模型(randomeffectmodel)混合效应模型(mixedmodel)随机成分模型(randomcomponentsmodel)随机系数模型(randomcoefficientsmodel)当前30页，总共109页。4重复测量资料的随机效应模型重复测量设计资料的特点

RepeatedMeasurementData数据的相关结构GEE多水平当前31页，总共109页。324.1重复测量设计重复测量设计(repeatedmeasurementdesign)受试者内设计(within-subjectdesign)是指同一观察对象的某观察指标在相继的不同时间点上进行的多次观察。Longitudinaldata,ingrowthstudyRepeatedmeasuresdata,inexperimentalstudyPaneldata,insocialresearch

当前32页，总共109页。334.1重复测量资料的特点在相继的不同时间点上进行的多次观察不是随机确定的；重复测量值之间是非独立的。

当前33页，总共109页。34两种设计3个处理组： A、B、C4个不同观察时间：1，2，3，412个试验单元

T1 T2 T3 T4A X X X XB X X X XC X X X X当前34页，总共109页。35两种设计3个处理组： A、B、C4个不同观察时间：1，2，3，4完全随机区组设计1~12个动物随机分配到12个试验单元

T1 T2 T3 T4A 8 1 3 11B 2 4 7 9C 12 6 10 5重复测量1~3个动物随机分配到3个组

T1 T2 T3 T4A 1 1 1 1B 2 2 2 2C 3 3 3 3当前35页，总共109页。364.1重复测量的数据结构个体：2水平重复测量值：1水平当前36页，总共109页。374.1多中心临床试验中重复测量中心(医院)： 3水平个体： 2水平重复测量值： 1水平当前37页，总共109页。384.1重复测量的数据结构(固定重复时间)

t1 t2 t3 t4 t5 t6 ID1 × × × × ×

ID2 × × × × × ID3 × × × × × ID4 × × × ×

当前38页，总共109页。394.1重复测量的数据结构(不固定重复时间)

ID1 t11 t12t13 t14 t15t16

ID2 t21 t22 t23 t24 ID3 t31 t32

ID4 t41t42 t43 t44 t45 t46

当前39页，总共109页。4.2重复测量值间的相关等相关(exchangeable,compoundsymmetry)当前40页，总共109页。4.2重复测量值间的相关相邻相关(non-stationary1-dependence)当前41页，总共109页。4.2重复测量值间的相关1阶平稳相关(stationary1-dependence)当前42页，总共109页。4.2重复测量值间的相关自相关(autocorrelation)。当前43页，总共109页。4.2重复测量值间的相关时依相关(time-dependentcorrelation)。当前44页，总共109页。4.2重复测量值间的相关非确定相关(unstructured,generalstructure)当前45页，总共109页。4.2重复测量值间的相关特定的相关结构当前46页，总共109页。线性模型时方差协方差矩阵的表示47当前47页，总共109页。重复测量资料的方差协方差矩阵的表示48当前48页，总共109页。重复测量资料的方差协方差矩阵的表示当前49页，总共109页。50重复测量概念的推广重复测量的概念不仅仅是时间上(temporal)的，也可以推广到空间(spatial)。例如：同一母鼠所生的仔鼠；同一家庭的不同成员；同一患者的两个不同膝关节；同一肿瘤患者的不同肿块；同一条河流的不同采样点;……当前50页，总共109页。51传统方法分析重复测量资料及其弊端重复测量资料不符合独立性假设。对平衡的重复测量资料,分别在各时间点上进行分析。孤立地看待各时点数据，增加I型误差。将各个体的几次不同观察值相加,得到该个体的一个综合值，再进行比较分析(aggregatedanalysis)。人为地减少误差，它忽略了对不同来源的变异的分析；未考虑观察值在时间上的变化规律，也未考虑其他协变量与时间的交互作用对结果的影响。损失了很多信息。将n个患者的几次不同观察均作为因变量，时间以及其他变量作为自变量，样本含量为，拟合线性或广义线性模型。将非独立数据当做独立数据看待，虚增了power，同时增加假阳性。当前51页，总共109页。4.3广义估计方程在广义线性模型中，y的协方差结构矩阵:这里,Ai

为对角矩阵,其对角线上的元素为:表示y的均数与方差间的函数关系,按Liang&Zeger(1986)的定义,GEEs为:当前52页，总共109页。4.3广义估计方程的估计选定相关结构(workingcorrelationstructure)估计对应的固定效应模型（假定个体是独立的），得到残差根据得到的残差，估计相关结构根据得到的相关结构，估计固定效应，并得到新的残差根据残差重新估计相关结构迭代…当前53页，总共109页。在固定效应和随机效应间迭代当前54页，总共109页。4.4多水平模型在不同的水平上估计对应的方差，重在分解方差，不关注内部相关结构。当前55页，总共109页。56多中心临床试验的多水平结构中心(医院)： 3水平个体： 2水平重复测量值： 1水平当前56页，总共109页。GEE与MLM的区别均属于随机效应模型GEE用于处理2水平模型GEE关注固定效应，MLM关注固定与随机效应GEE事先指定作业相关矩阵，MLM指定不同水平上的方差成分，有时得不到类似GEE的相关关系。当前57页，总共109页。58GEElogistic模型与2水平logistic模型的区别1水平上残差eij～二项分布，

Var(yij|mij)=yij(mij

-yij）；2水平上残差rj～N(0,)。当前58页，总共109页。59GEEPoisson模型与2水平Poisson模型的区别1水平上残差eij～Poisson分布，

Var(yij|mij)=mij；2水平上残差rj～N(0,)。当前59页，总共109页。例3.5配对设计(数值变量资料)采用自身前后对照设计研究克矽平雾化吸入治疗矽肺患者7人,能否认为治疗会引起患者血清粘蛋白(mg/L)的变化。患者号:1

2

3

4

5

6

7疗前:65

73

73

30

73

56

73疗后:34

36

37

26

43

37

50记Group为处理因素,其取值为0或1,分别表示治疗前后。当前60页，总共109页。SAS程序dataEx_5_1;inputIDgroupx@@;cards;

1065

1134

2073

2136

3073

3137

4030

4126

5073

5143

6056

6137

7073

7150;run;procmixeddata=ex_5_1; classid; modelx=group/s; randomintercept/subject=ID;run;procgenmoddata=ex_5_1; classid; modelx=group; repeatedsubject=ID/ type=CSCORRWV6CORR;run;当前61页，总共109页。TheMixedProcedureCovarianceParameterEstimatesCovParmSubjectEstimateInterceptID89.3095Residual

66.9524SolutionforFixedEffectsEffectEstimateSEDFtValuePr>|t|Intercept63.28574.7247613.39<.0001group-25.71434.37376-5.880.0011当前62页，总共109页。GEE

WorkingCorrelationMatrix

Col1Col2Row11.00000.5715Row20.57151.0000AnalysisOfGEEParameterEstimatesEmpiricalStandardErrorEstimatesStandard95%ConfidenceParameterEstimateErrorLimitsZPr>|Z|Intercept63.28575.608752.292874.278611.28<.0001group-25.71434.0493-33.6507-17.7779-6.35<.0001当前63页，总共109页。组内相关和Pearson相关的区别在配对研究中，基于广义估计方程导出的组内相关系数,不等于两变量间的Pearson相关系数。治疗前后两组数据的Pearson相关系数为0.7471。其方差与协方差分别为:var(x0)=256.9048,var(x1)=55.6190,cov(x0,x1)=89.3095。当前64页，总共109页。例3.6(重复测量,线性回归)观察某溶栓药治疗急性脑梗塞患者的疗效，采用双盲、随机、三剂量对照。三组剂量分别为高、中、低。观察指标为神经系统体症总分。表30名急性脑梗塞患者治疗不同时期神经系统体症总分idtreatage观察时间0123456781027107106106108108112112112112202110710610610610611211211411630211001001001061091081141161164036107106106107106111112117109501711011111211211311311311611660221051081081061081081081091107029102101104100941061061051068015979797999999101101103902110810810811011611612012812010027108108108114116118118124128111349898102121120124124132140121371009811411812612613413813813131104123127129130130136140140141281081201151191341261261271401513210610810810811211211211411616118103102102104114114116128143171151011031041081131131181221261813191909293899510210510819139949496991161241351381452013410410410510512212813112913821236107111112127127128138141141222451091141201301311321391421432324010310310811211611812312513524244110114120124133135142144144252229510311511311912212613413626225921021101081161161161221272723298106112112120124126136141282381061211271261281301321381402922210211211011911912312513314230219109109124127128132133144147当前65页，总共109页。该资料有什么特点？当前66页，总共109页。指定模型当前67页，总共109页。固定效应、随机效应模型估计结果比较

(固定效应部分)StandardParameterEstimateErrortValue

PIntercept103.72222221.0719750096.76<.0001time1.28333330.225159795.70<.0001group2-4.03333331.51600158-2.660.0080group31.55777781.516001581.030.3046time*group22.75833330.318424028.66<.0001time*group33.04666670.318424029.57<.0001

StandardParameterEstimateErrortValuePr>|t|beta0103.772.126048.81<.0001beta11.28250.123910.36<.0001beta2-4.07963.0066-1.360.1853beta31.44933.00670.480.6334beta42.75790.175215.74<.0001beta53.04900.175217.41<.0001当前68页，总共109页。固定效应、随机效应模型估计结果比较

(随机效应部分)

SumofSourceDFSquaresMeanSquareFValuePr>FModel561080.9337012216.18674200.80<.0001Error53432486.5922260.83632Total53993567.52593

StandardParameterEstimateErrortValuePr>|t|s218.40861.153815.95<.0001s2z141.721611.02513.780.0007当前69页，总共109页。proc

mixed; classidgroup; modely=timegrouptime*group; randomintercept/subject=id;run;当前70页，总共109页。71例3.7交叉设计(Poisson分布)比较国产和进口盐酸托烷司琼注射液缓解化疗所致的恶心和呕吐采用2×2交叉设计110名受试者经随机化，分为AB顺序组和BA顺序组。AB：国产进口BA：进口国产两个化疗周期间隔4周，以便洗脱(washout)前一个周期用药的影响。每个周期观察6天，共12天。故每个人共12个重复观察值。当前71页，总共109页。72数据结构3水平：医院2水平：个体1水平：重复测量4水平：医院3水平：个体2水平：时期1水平：重复测量当前72页，总共109页。73盐酸托烷司琼临床试验数据库变量编码变量名含义取值缺失情况Vomit呕吐次数0,1,2……缺20个数据ID患者1,2,……,112无24和42号repeat重复测量次数1,2,……,12treat组别A＝1，B=0sequence顺序AB＝1，BA＝0period试验阶段第1阶段＝1，第2阶段＝2age年龄95号年龄缺失gender性别男＝1，女＝0height身高(m)weight体重(kg)BMI体质指数MBI＝体重(kg)/[身高(m)]2hospital医院编号1,2,…5当前73页，总共109页。74例3.7资料的单水平模型(交叉设计)当前74页，总共109页。75例3.7资料的2水平模型(交叉设计)当前75页，总共109页。76例3.7资料的3水平模型(交叉设计)当前76页，总共109页。772水平方差的估计当前77页，总共109页。78例3.7资料的3水平模型(交叉设计)当前78页，总共109页。79交叉设计多水平Poisson模型拟合结果比较效应参数系数(估计误差)模型A模型B模型C模型D固定效应0(常数项)-0.42652(0.25229)-1.84120(1.42945)-1.31793(1.04845)-1.60242(1.39406)1(treat)-0.07071(0.06682)-0.06607(0.07225)-0.06659(0.06666)-0.32444(0.16520)2(sequence)-0.20121(0.06789)-0.31956(0.40336)-0.05945(0.28112)-0.26090(0.40152)3(period)0.15327(0.06682)0.14863(0.07225)0.14916(0.06666)0.09386(0.16513)4(age)-0.01472(0.00251)-0.01990(0.01506)-0.01849(0.01066)-0.05045(0.01468)5(gender)0.99880(0.07400)1.61931(0.40359)0.993230.28834)1.59512(0.39394)6(bmi)0.00577(0.00953)0.01851(0.05751)0.04955(0.04088)0.01477(0.05573)随机效应3水平－－0.06204(0.10277)0.01599(0.12841)2水平－2.91438(0.52678)1.90950(0.28888)2.56729(0.51850)－－－-0.13005(0.29402)－－－1.19838(0.32152)1水平var(vomitij|ij)=ij1111当前79页，总共109页。804水平模型：医院个体时期重复测量当前80页，总共109页。814水平模型：医院个体时期重复测量当前81页，总共109页。多元重复测量资料的

多水平模型当前82页，总共109页。新药临床试验资料数据库变量编码指标变量变量取值医院编号hosp1~15患者编号no1~456观察时间time1~3周组别group试验组＝1，对照组＝0患者年龄age18~75岁患者性别gender女性＝0，男性＝1疗前ESS评分ess040～80(评分高病情轻)疗前ADL评分adl00～95(评分高病情轻)疗后ESS评分ess0~100疗后ADL评分adl0～100当前83页，总共109页。新药临床试验原始资料格式医院编号患者编号组别年龄性别疗前疗后1周疗后2周疗后3周ESS0ADL0ESS1ADL1ESS2ADL2ESS3ADL31116006950735086908510012043176758275841009010013161140304235553572451417117880909592100931001507117275757582－82

－1616718080938510095－

－当前84页，总共109页。新药临床试验重复测量资料数据格式医院编号患者编号时间组别年龄性别疗前疗后ESS0ADL0ESS1ADL111116006950－501121600695086901131600695085100121043176758275122043176758410012304317675－86………161167180809385162167180801009516316718080－－当前85页，总共109页。3水平模型当前86页，总共109页。

新药临床试验资料的多水平模型效应参数单因变量模型ESS(模型A)ADL(模型B)固定效应0(常数项)20.017(4.270)15.271(5.983)1

(疗前观察值)0.772(0.044)0.770(0.044)2

(age)-0.123(0.049)-0.172(0.078)3

(gender)1.661(1.009)2.905(1.592)4(group)4.189(1.111)8.156(1.746)5

(time)6.010(0.159)10.152(0.312)随机效应3水平

9.612(5.006)34.820(16.617)2水平96.431(7.090)228.786(17.627)1水平21.521(1.042)83.361(4.036)-2loglikelihood8864.60210429.300当前87页，总共109页。内部相关系数

对ESS： 个体内相关系数医院内相关系数对ADL：个体内相关系数医院内相关系数

当前88页，总共109页。多元重复测量资料数据格式医院编号患者编号时间变量标识组别年龄性别疗前疗后111116006973111216005050112116006986112216005090113116006985113216005010012110431768212120431757512210431768412220431751001231043176901232043175100当前89页，总共109页。多元多水平模型分析数据格式医院编号Hosp患者编号ID观察时间Time指标ID1常数项cons疗前年龄Age性别Gender组别Group时间Time结果Y0(1)0(2)1(1)1(2)2(1)2(2)3(1)3(2)4(1)4(2)5(1)5(2)111ESS1069060000101073111ADL0105006000010150112ESS1069060000102068112ADL0105006000010290113ESS1069060000103085113ADL01050060000103100121ESS1076043010001082121ADL0107504301000175122ESS1076043010002084122ADL01075043010002100123ESS1076043010003090123ADL01075043010003100当前90页，总共109页。4水平模型当前91页，总共109页。4水平模型当前92页，总共109页。多元多水平模型

效应参数多因变量模型ESSADL固定效应0(常数项)36.490(3.998)28.176(5.879)1

(疗前观察值)0.483(0.029)0.529(0.029)2

(age)-0.120(0.051)-0.220(0.080)3

(gender)2.120(1.049)3.694(1.837)4(group)4.864(1.155)8.847(1.800)5

(time)6.012(0.159)10.137(0.312)随机效应3水平

2水平1水平当前93页，总共109页。内部相关系数

对ESS： 个体内相关系数医院内相关系数对ADL：个体内相关系数医院内相关系数

当前94页，总共109页。ESS和ADL的相关系数

医院水平上个体水平上重复测量值上当前95页，总共109页。考察性别对2水平的方差是否有影响当前96页，总共109页。固定部分系数的比较参数模型C’模型D标准化ESS标准化ADL标准化ESS标准化ADL0(常数项)-2.474(0.253)-1.559(0.231)-2.480(0.252)-1.558(0.231)1(疗前观察值)0.031(0.002)0.021(0.001)0.031(0.002)0.021(0.001)2(age)-0.008(0.003)-0.009(0.003)-0.008(0.003)-0.009(0.003)3(gender)0.134(0.066)0.145(0.064)0.141(0.063)0.141(0.063)4(group)0.307(0.073)0.348(0.071)0.308(0.073)0.347(0.071)5(time)0.380(0.010)0.399(0.012)0.380(0.010)0.399(0.012)当前97页，总共109页。这个例子告诉我们：采用多元分析比一元分析可提供更丰富的信息。比如在扣除固定效应的同时，估计不同水平上结果变量间的协方差和相关系数；可以在标准化的基础上，比较解释变量(自变量)对不同结果变量的影响是否相同。当前98页，总共109页。这个例子告诉我们：对重复测量资料来说，多水平模型的一个显著特点是可以有效地处理个体重复次数不等的情况。多个因变量的情形，可以有效地处理具有缺失数据的情形。且估计是有效的、无偏的。当前99页，总共109页。5.其他非独立数据的随机效应模型家庭聚集性资料的分析当前100页，总共109页。GEE实例：整群抽样(二分类资料)某单位抽样调查了30户居民,询问家庭中每个成员在过去的一年中是否找过医生看过病。结果如下(分母为户人数,分子为看过医生的人数):5/5,0/5,2/3,3/3,0/2,0/3,0/3,0/3,0/4,0/4,0/3,0/2,0/7,4/4,1/3,2/5,0/4,0/4,1/3,3/3,2/4,0/3,0/3,0/1,2/2,2/4,0/3,2/4,0/2,1/4研究目的