第15-17章 多因素分析(统计学)

1多因素分析第15-17章多因素分析(统计学)2概念多因素分析是同时对观察对象的两个或两个以上的变量进行分析。常用的统计分析方法有：多元线性回归、Logistic回归、COX比例风险回归模型、因子分析、主成分分析，等。第15-17章多因素分析(统计学)3多变量资料数据格式例号X1X2…XpY1X11X12…X1pY12X21X22…X2pY2┆┆┆…┆┆nXn1Xn2…XnpYnY为定量变量——LinearRegressionY为二项分类变量——BinaryLogisticRegressionY为多项分类变量——MultinomialLogisticRegressionY为有序分类变量——OrdinalLogisticRegressionY为生存时间与生存结局——CoxRegression第15-17章多因素分析(统计学)4Y，X——直线回归Y，X1，X2，…Xm——多元回归（多重回归）第十五章多元线性回归

(multiplelinearregressoin)P.261例：欲研究血压受年龄、性别、体重、性格、职业（体力劳动或脑力劳动）、饮食、吸烟、血脂水平等因素的影响。第15-17章多因素分析(统计学)5β0为回归方程的常数项（constant)，表示各自变量均为0时y的平均值；m为自变量的个数；β1、β2、βm为偏回归系数（Partialregressioncoefficient）意义：如β1

表示在X2、X3……Xm固定条件下，X1每增减一个单位对Y的效应（Y增减β个单位）。e为去除m个自变量对Y影响后的随机误差，称残差（residual)。多元回归方程的一般形式一、多元回归模型第15-17章多因素分析(统计学)6

为y的估计值或预测值（predictedvalue)；

b0为回归方程的常数项（constant)，表示各自变量均为0时y的估计值；由样本估计而得的多元回归方程：b1、b2、bm为偏回归系数（Partialregressioncoefficient）意义：如b1

表示在X2、X3……Xm固定条件下，X1每增减一个单位对Y的效应（Y增减b个单位）。第15-17章多因素分析(统计学)7适用条件：线性（linear）、独立性（independent）、正态性（normal）、等方差（equalvariance）——“LINE”。线性——自变量与应变量的关系是线性的。用散点图判断。独立性——任意两个观察值互相独立。常利用专业知识判断。正态性——就自变量的任何一个线性组合，应变量y均服从正态分布。即要求残差服从正态分布。常用残差图分析。等方差——就自变量的任何一个线性组合，应变量y的方差均相同。即要求残差的方差齐性。用散点图或残差图判断。第15-17章多因素分析(统计学)8第15-17章多因素分析(统计学)9

（1）因素筛选：（因素分析）例如影响高血压的诸多因素中：

1）哪些是主要因素？

2）各因素的作用大小？（2）提高回归方程的估计精度多元回归比只有一个自变量的简单直线回归更能缩小应变量Y对其估计值的离差，在预测和统计控制方面应用的效果更好。（3）控制混杂因素多元线性回归除具有直线回归的基本性质外，还具有以下特点（用途）：第15-17章多因素分析(统计学)10（1）用各变量的数据建立回归方程（2）对总的方程进行假设检验（3）当总的方程有显著性意义时，应对每个自变量的偏回归系数再进行假设检验，若某个自变量的偏回归系数无显著性，则应把该变量剔除，重新建立不包含该变量的多元回归方程。二、多元回归分析步骤对新建立的多元回归方程及偏回归系数按上述程序进行检验，直到余下的偏回归系数都具有统计意义为止。最后得到最优方程。第15-17章多因素分析(统计学)11例15-1（P.262）

27名糖尿病人的血清总胆固醇、甘油三脂、空腹胰岛素、糖化血红蛋白、空腹血糖的测量值列于表15-2中，试建立血糖与其它几项指标关系的多元线性回归方程。表15-227名糖尿病人的血糖及有关变量的测量结果序号i总胆固醇甘油三脂胰岛素糖化血血

糖（mmol/L）(mmol/L)(μU/ml)红蛋白(%)(mmol/L)X1X2X3X4Y15.681.904.538.211.223.791.647.326.98.836.023.566.9510.812.3………………265.840.928.616.413.3273.841.206.459.610.4第15-17章多因素分析(统计学)12由上表得到如下多元线性回归方程：1、建立回归方程第15-17章多因素分析(统计学)132、回归方程的假设检验——F检验结果无显著性

1）表明所观察的自变量与应变量不存在线性回归关系；

2）也可能由于样本例数过少；结果有显著性表明至少有一个自变量与应变量之间存在线性回归关系。H0：β1=β2=…=βm=0H1：β1、β2、…βm不等于0或不全等于0第15-17章多因素分析(统计学)14第15-17章多因素分析(统计学)153、各个偏回归系数的假设检验——t检验将总胆固醇(X1)

剔除。

注意：通常每次只剔除关系最弱的一个因素。

对于同一资料，不同自变量的t值可以相互比较，t的绝对值越大，或P越小，说明该自变量对Y所起的作用越大。第15-17章多因素分析(统计学)16重新建立不包含提出因素的回归方程注意：表中偏回归系数已变化。第15-17章多因素分析(统计学)17对新建立的回归方程进行检验检验结果有显著性意义。第15-17章多因素分析(统计学)18对新方程的偏回归系数进行检验检验结果均有意义，因此回归方程保留甘油三酯(X2)、胰岛素(X3)和糖化血红蛋白(X4)三个因素。最后获得回归方程为：第15-17章多因素分析(统计学)191、确定系数（R2）：意义：在y的总变异中，由x变量组建立的线性回归方程所能解释的比例。0~1，越大越优。特点：R2是随自变量的增加而增大。因此，在相近的情况下，以包含的自变量少者为优。三、回归方程的评价２、R——复相关系数（multiplecorrelationcoefficient）表示m个自变量共同对应变量线性相关的密切程度。0≤R≤1。即Y与的相关系数。第15-17章多因素分析(统计学)20

３、校正确定系数（adjustedR-square，R2a

）越大越优。R2a不会随无意义的自变量增加而增大。是衡量方程优劣的常用指标。

校正确定系数的计算：p为方程中包含的自变量个数，p≤m。R2一定时，p↑→R2

a↓P.268第15-17章多因素分析(统计学)21第15-17章多因素分析(统计学)22四、各自变量的评价1、偏回归平方和

是指将某自变量xj从回归方程中剔除后所引起的回归平方和的减少量——间接反应了自变量xj对应变量的贡献大小。各个自变量的偏回归平方和可以通过拟合包含不同自变量的回归方程计算得到。第15-17章多因素分析(统计学)23回归方程中包含的自变量平方和SS回SS残X1、X2、X3、X4133.71188.841X2、X3、X4133.09889.454X1、X3、X4121.748100.804X1、X2、X4113.647108.905X1、X2、X3105.917116.635对例15-1作回归分析的部分中间结果SS回（X1）=133.711－133.098=0.613SS回（X2）=133.711－121.748=11.963SS回（X3）=133.711－113.647=20.064SS回（X4）=133.711－105.917=27.794第15-17章多因素分析(统计学)242、标准化偏回归系数（standardizedpartialregressioncoefficient）消除测量单位影响后的偏回归系数——标准化偏回归系数。意义：用以比较各自变量对应变量的影响程度大小（即相对贡献大小）。第15-17章多因素分析(统计学)25bj——X的偏回归系数Sj——为自变量的标准差SY——为应变量的标准差若将各变量先经标准状态化处理后，再进行多元回归，则所得到的偏回归系数即为标准偏回归系数。计算：第15-17章多因素分析(统计学)26∴对血糖影响大小的顺序依次为：糖化血红蛋白(X4)、胰岛素(X3)、甘油三酯(X2)。比较糖化血红蛋白和甘油三酯的标准偏回归系数：0.413/0.354=1.17（倍）糖化血红蛋白对血糖的影响强度约为甘油三酯的1.17倍。例15-1资料，比较各个自变量对血糖的贡献大小比较。第15-17章多因素分析(统计学)27五、自变量的筛选基本思路：尽可能将回归效果显著的自变量选入方程中，作用不显著的自变量排除在外。（1）全局择优法（allpossiblesubsetsselection）：（2）逐步选择法前进法（Forwardselection）后退法（Backwardelimination）逐步法（Stepwise）第15-17章多因素分析(统计学)281、全局择优法（最优子集回归）

（allpossiblesubsetsselection）：有m个自变量就有2m-1个自变量子集。在各子集中选择最优的回归方程。仅适用于自变量个数不太多的情况。第15-17章多因素分析(统计学)292、向前筛选法（Forwardselection）：事先给定一个入选标准，即（通常=0.05），然后根据各因素偏回归平方和从大到小，依次逐个引入回归方程至无显著性自变量可以入选为止，因素一旦入选便始终保留在方程中而不被剔除。局限性：后续变量的引入可能会使先进入方程的变量变得不重要。第15-17章多因素分析(统计学)303、向后剔除法（Backwardelimination）首先建立全部自变量的全回归方程，给定剔除标准，根据各因素偏回归平方和从小到大，依次逐个将无显著性的自变量从回归方程中剔除。优点：考虑到了自变量的组合作用，选中的自变量数目一般会比前进法选中的多。缺点：当自变量数目较多或有某些自变量高度相关时，可能得不出正确的结果。第15-17章多因素分析(统计学)314、逐步法（Stepwise）：给出入选标准（通常1=0.05）和剔除标准（通常2=0.10），每次选入一个在方程外且最具统计学意义的自变量后，就对原在方程中的自变量做剔除检验，这个过程逐步进行，直到没有有统计意义的自变量可以入选，也没有无统计学意义的自变量保留在方程中为止。实际工作中，多采用逐步法。用上述方法对上例资料进行分析。第15-17章多因素分析(统计学)32

六、应用多元线性回归分析时需注意的事项（1）样本量要求：无精确的计算公式。据经验，样本量应是自变量数的5~10倍以上。(20?)（2）做预报时，只能在自变量X的观察值范围内进行；（3）在资料要求上，应变量Y服从正态分布；（4）注意资料的特异点（outlier）；第15-17章多因素分析(统计学)33（5）观测值重新量化问题二项分类资料：用X表示分类变量，阴性为0，阳性为1。有序多项分类资料：用一个X作为分类变量，以自然数0，1，2，…赋值。如将病情分为轻中重三类时，用X表示病情，赋值方法为：无序多项分类资料：或第15-17章多因素分析(统计学)34

上述以职员作为对比水平(基础水平)。哑变量X1、X2、X3分别代表了工人、农民、干部与职员相比的系数。哑变量代表的是同一个变量的不同取值，在分析时应当同时进入或移出方程。即使只有部分哑变量有统计学意义也是如此。第15-17章多因素分析(统计学)35（7）自变量的联合作用分析若要考虑X3、X4对应变量y的联合作用，可设置一个新变量X5=X3X4。若b3、b4和b5都有统计学意义，则说明X3、X4对应变量既有单独作用，又有交互作用。（6）自变量筛选过程中引入和剔除变量时检验水准的确定1）引入变量检验的水准小于或等于剔除变量时检验的水准2）通常引入变量检验的水准为0.05，剔除变量时0.10，但不绝对。第15-17章多因素分析(统计学)36说明X3、X4对应变量既有单独作用，又有交互作用。即说明糖尿病人体内胰岛素对血糖的影响依赖于糖化血红蛋白的含量。第15-17章多因素分析(统计学)37（8）自变量的共线性

当自变量之间存在较强的相关关系时，称之为共线性。

后果——偏回归系数的估计值容易失真。当多元回归的分析结果出现以下情况时可考虑是否存在自变量共线性：

1）在某个检验水准下，整个回归方程有统计学意义，但是每个偏回归系数的检验均无统计学意义。

2）偏回归系数的符号与医学专业知识不一致。

3）参数估计的标准误变得很大，使t值变得很小，P值很大。第15-17章多因素分析(统计学)38判断方法：利用自变量间的相关系数阵。（r＞0.9，共线性可能性大）处理方法：最简单、有效的方法是根据专业知识人为去除在专业上比较次要的、或缺失值较多、测量误差较大的共线性因子。

第15-17章多因素分析(统计学)39（9）残差分析——模型诊断通常以标准化残差（standardizedresidual)为纵坐标，以为横坐标，作残差图。第15-17章多因素分析(统计学)40第15-17章多因素分析(统计学)41第十六章Logistic

回归一、概念

Logistic回归是一种适用于应变量为分类值多因素概率型曲线模型。Y为二项分类：非条件Logistic回归——成组设计条件Logistic回归——配对设计Y为多分类：多分类Logistic回归P.278第15-17章多因素分析(统计学)42BinaryLogistic适用于应变量为二项分类的资料。应变量（Y）在一组自变量（X）的作用下所发生的结果赋值规则为：logistic回归模型：统计学中，把ln（P/Q）称为P的Logit转换或对数转换，即LogitP。由此得到的回归方程，称为Logistic回归方程。

出现阳性的结果——1，其概率用P来表示；出现阴性的结果——0，其概率用Q或（1–P）来表示。第15-17章多因素分析(统计学)43由上式可得:由样本估计而得的logistic回归模型：第15-17章多因素分析(统计学)44将P/Q称为比数（odds，优势、比值）；两个比数之比称为比数比OR（oddsratio，优势比、比值比）。第i个观察对象的发病概率比数（odds)为Pi/Qi，则：第l个观察对象的发病概率比数为Pl/Ql，则：第15-17章多因素分析(统计学)45则：式中：——同一因素xj的不同暴露水平之差。

bj——在其它自变量固定不变的情况下，xj的水平每增加一个单位时，ln(OR)的改变量，即所引起的比数比为增加前的ebj倍若Xj赋值为：第15-17章多因素分析(统计学)46bj=0时，ORj=1，说明因素xj对疾病不起作用；bj＞0时，ORj＞1，说明xj是一个危险因素；bj＜0时，ORj<1，说明xj是一个保护因素。对于发病率很低的慢性病（如心脑血管疾病、恶性肿瘤等），由于P<<1，OR可作为RR的近似估计：所以，logistic回归常用于流行病学调查资料，其优点是得到某一因素的回归系数估计值后，就可得到不同水平下相对危险度的近似估计值。第15-17章多因素分析(统计学)47模型的应用主要有三个方面：筛选危险因素：求出各协变量对应变量的比数比（OR）；校正混杂因素：可以很方便地控制混杂因素，得到校正后比数比的估计值和置信区间；预测与判断：Logistic回归模型是概率型模型，在一定条件下能预测某事件发生的概率，或估计各种自变量组合条件下应变量的某一类结果是否发生。第15-17章多因素分析(统计学)48二、Logistic回归的参数估计及假设检验例：在研究医院抢救急性心肌梗塞(AMI)患者能否成功的危险因素调查中，某医院收集了5年中该院所有的AMI患者的抢救病史，共200例。其中P表示抢救是否成功（0表示成功，1表示死亡），X1表示抢救前是否已休克（0表示未休克，1表示已休克），X2表示抢救前是否已心衰（0表示未心衰，1表示已心衰），X3表示患者从开始有AMI症状到抢救时是否已超过12小时（0表示未超过12小时，1表示已超过12小时）。试分析影响抢救成功率的因素。第15-17章多因素分析(统计学)49P=0(抢救成功)

P=1(抢救不成功而死亡)X1X2X3N

X1X2X3N00035

00040013400110010170104011190111510017100610161019110611061116

1116AMI患者的抢救危险因素资料第15-17章多因素分析(统计学)50（一）Logistic

回归的参数估计及意义参数估计方法：最大似然法（maximumlikelihood）。最大似然法的基本思想：先建立似然函数或对数似然函数，求似然函数或对数似然函数达到极大时参数的取值，即称为参数的最大似然估计值。Pi——第i例观察对象处于暴露条件下阳性结果发生的概率。第15-17章多因素分析(统计学)51（一）Logistic

回归的参数估计及意义参数估计方法：最大似然法（maximumlikelihood）b0=-2.086，表示在其它自变量均为0时死亡优势的对数值；exp(b0)=0.124是无休克、无心衰和抢救及时组死亡的优势，当死亡概率很低时，近似等于自然死亡率。第15-17章多因素分析(统计学)52b1=1.110——X1的logistic回归系数；exp(1.110)=3.033，表示在其它自变量取值固定时，休克与没有休克相比死亡的优势比（OR），反映死亡与休克的关联程度。第15-17章多因素分析(统计学)53（二）假设检验及回归系数的区间估计似然比检验——比较两个模型的拟合效果。

模型1含较少自变量，模型2含较多自变量。H0：模型1与模型2拟合效果无区别H1：模型1与模型2拟合效果不同检验统计量：－2lnL1为模型1的值，－2lnL2为模型2的值。G反映模型2较模型1拟合优度提高的程度。G服从χ2(v)分布，v=增加变量的个数-2lnL被称为Deviance，记为D。第15-17章多因素分析(统计学)542.Wald检验——用于回归系数的假设检验。

H0：β=0H1：β≠0检验统计量：

第15-17章多因素分析(统计学)553.优势比的估计第15-17章多因素分析(统计学)56LogisticRegression显示的是应变量的赋值情况。BinaryLogistic过程默认以应变量Y=1所对应的概率为P，即以P（Y=1）建立模型。第15-17章多因素分析(统计学)57Block0:BeginningBlock——是模型中只有常数项，而不含任何自变量的输出结果。Block1:Method=BackwardStepwise(LikelihoodRatio)——开始输出将自变量引入模型后的结果。采用BackwardStepwise（LR）法作自变量筛选。第15-17章多因素分析(统计学)58对模型全局检验的结果。Step统计量是每一步与上一步比较的似然比检验结果；Block统计量是指将Block1（或Block2）与Block0相比的似然比检验结果；Model统计量是指模型的似然比检验的结果。第15-17章多因素分析(统计学)59模型的拟合优度情况简报第15-17章多因素分析(统计学)60模型对应变量的分类预测结果模型的预测准确率第15-17章多因素分析(统计学)61标准化偏回归系数：Sj为变量Xj的标准差。第15-17章多因素分析(统计学)62是指若将各个自变量从模型中移除时模型的改变情况。第15-17章多因素分析(统计学)63疾病暴露非暴露发生102不发生4080例：在某项病因调查研究工作中，通过病例—对照研究，得下表资料：疾病为Y，发生为1，不发生为0；暴露情况为X，暴露为1，非暴露为0。频数需加权。第15-17章多因素分析(统计学)64第15-17章多因素分析(统计学)65条件logistic回归用于配对资料。例16-3P.286

某北方城市研究喉癌发病的危