多元线性回归分析医学统计教学课件

Multiple Linear Regression Analysis 多元线性回归分析多元线性回归分析 第二军医大学卫生统计学教研室 张罗漫 1 讲课内容讲课内容 第一节 多元线性回归(重点) 第二节 自变量选择方法(重点) 第三节 多元线性回归的应用及注 意事项 2 第一节第一节 多元线性回归多元线性回归 一、多元线性回归模型 3 4 多元回归：多个Y，多个X 多重回归：一个Y，多个X 5 0 常数项 j 偏回归系数(partial regression coefficient)： 在其它自变量保持不变时，Xj增加或减少 一个单位时Y的平均变化量。 e 去除m个自变量对Y影响后的随机误差。 6 多元线性回归模型应用条件： 1.Y与X1，X2，Xm之间具有线性关系； 2.各个Yi间相互独立； 3.e服从均数为0、方差为2的正态分布。 7 多元线性回归分析步骤： 1.根据样本数据求得模型参数估计值： 2.对回归方程及各Xj作假设检验。 8 二、多元线性回归方程的建立 9 Y X 10 11 X1 X2 Y 12 用最小二乘法解正规方程组，使残差平方和Q最小。 13 14 用最小二乘法解正规方程组， 使残差平方和Q最小。 15 16 17 18 三、多元线性回归方程的 假设检验及评价 19 （一）回归方程的假设检验及评价 1.方差分析法 不全为0。 20 21 22 2.决定系数R2 血糖含量变异的60%可由总胆固醇、甘 油三酯、胰岛素和糖化血红蛋白的变异 解释。 23 3.复相关系数R Y与多个自变量间的线性相关程度； Y与估计值 间的Pearson相关系数r。 24 （二）各自变量的假设检验及评价 1.偏回归平方和 表示模型中含有其它m-1个自变量的条 件下该自变量对Y的回归贡献。其值愈 大说明相应的自变量愈重要。 25 26 0.6129+11.9627+20.0635+27.7939133.7107 27 胰岛素(X3)与糖化血红蛋白(X4)与血糖(Y)有 线性回归关系。 28 2.t检验法 29 胰岛素(X3)与糖化血红蛋白(X4)与血糖(Y) 有线性回归关系。 30 标准化回归系数bj 的绝对值用来比较各个 自变量Xj 对Y的影响程度大小；绝对值越 大影响越大。标准化回归方程的截距为0。 3.标准化回归系数 p标准化回归系数与一般回归方程的回归系 数的关系： 标准化回归方程p 31 对血糖影响大小的顺序依次为糖化血红蛋 白(X4)、胰岛素(X3)、甘油三酯(X2)与总胆 固醇 (X1)。胰岛素为负向影响。 32 第二节第二节 自变量选择方法自变量选择方法 33 一、全局选择法 对自变量各种不同的组合所建立的回归方程 进行比较，从全部组合中挑出一个“最优”的 回归方程。 34 uR2可用来评价回归方程优劣。 u随着自变量增加，R2不断增大，对两个不 同个数自变量回归方程比较，须考虑方程 包含自变量个数影响，应对R2进行校正。 u所谓“最优”回归方程指 最大者。 1.校正决定系数 选择法 35 uP为方程中自变量个数。 u最优方程的Cp期望值是p+1。 应选择Cp最接近P+1的回归方程为最优。 2. 选择法 36 37 二、逐步选择法 n全局选择计算量很大： 6个变量，计算26-1=63个方程； 10个变量，计算210-1=1023个方程。 n按选入变量顺序不同分前进法、后退法 与逐步回归法，共同特点是每一步只引 入或剔除一个自变量Xj。 38 n对Xj的取舍要进行F检验： 计算进行到第l步时： p :方程中自变量个数 SS回：Xj的偏回归平方和 SS残：残差平方和 39 1.前进法（只选不剔） 开始方程中无自变量，然后从方程外选取偏 回归平方和最大的自变量作F检验以决定是 否选入方程，直至无自变量可以引入方程为 止。 缺点：后续变量的引入可能使先前引入的变 量变的不重要。 Xj入选 40 2.后退法（只剔不选） 开始方程中包含全部自变量，然后从方程中 选取偏回归平方和最小的自变量作F检验以 决定是否从方程中剔除，直至无自变量可以 从方程中剔除为止。 缺点：当某些自变量高度相关时，可能得不 出正确结果。 Xj剔除 41 3.逐步回归法（先选后剔，双向筛选） p开始方程中无自变量，从方程外选取偏回归 平方和最大的自变量作F检验以决定是否选入 方程； p每引一个自变量进入方程后，从方程中选取 偏回归平方和最小的自变量作F检验以决定是 否从方程中剔除； p直至方程外无自变量可引入，方程内无自变 量可剔除为止。 42 Xj剔除内剔 Xj入选外引 入值定的越小选取自变量标准越严，被选 入方程内自变量数越少。 入值越大则反之。 小样本：入=0.05，出=0.10。 大样本：入=0.10，出=0.15。 入出，以免Xj上一步剔除后下一步又被选入 43 选X4前先建立4个直线回归方程； 选X1前先建立1个含3个自变量、 3个含2个 自变量的多元线性回归方程。 44 45 46 47 48 49 第三节第三节 多元线性回归的应用及注意事项多元线性回归的应用及注意事项 50 一、多元线性回归的应用 1.影响因素分析 年龄(X1) 饮食习惯(X2) 吸烟状况(X3) 工作紧张度(X4) 家族史(X5) 高 血 压 (Y ) bj的意义为在 其它自变量保 持不变时，Xj 增加或减少一 个单位时Y的 平均变化量。 故可排除混杂 因素。 51 2.估计与预测 心脏表面积(Y)=b0+b1心脏横径(X1) + b2心脏纵径(X2)+ b3心脏宽径(X3) 新生儿体重(Y)=b0+b1胎儿孕龄(X1)+ b2 胎儿 头径(X2)+ b3胎儿胸径(X3)+ b4胎儿腹径(X4) 52 3.统计控制 利用回归方程进行逆估计，确定Y后控制X 。 采用射频治疗仪治疗脑肿瘤： 脑皮质毁损半径(Y) =b0+b1射频温度(X1)+ b2照射时间(X2) 53 二、多元线性回归应用的注意事项 1.指标的数量化 应变量Y为连续变量 自变量X可为连续、有序分类或无序分类变量 (1)连续变量：X (2)有序分类变量： 1 轻 X= 2 中 3 重 54 (3)无序分类变量 哑变量(dummy variables) 55 2.样本含量 n至少是X个数m的510倍 3.多重共线性 实际应用中非常普遍，可使最小二乘法建 立的回归方程失效； 消除方法：主成分回归；剔除某个造成共 线性的自变量。 56 4.变量间的交互作用 某一自变量对Y的作用大小与另一自变量的 取值有关。 血糖(Y)与总胆固醇 (X1)、甘油三酯(X2)、胰岛 素(X3)、糖化血红蛋白(X