多元线性回归

多元线性回归概论,复习“直线回归”内容：1. 直线回归方程；2. 回归系数的解释；3. 回归系数的假设检验方法： t检验 方差分析（SS总=SS回归+SS剩余）4. 剩余标准差的概念；5. 应用：用于统计预测和统计控制,多元线性回归是直线回归的扩展。都属于线性回归，前者有2个及2个以上自变量x，后者只有1个自变量x。,多元线性回归的主要内容,1 多元线性回归模型简介2 回归系数的估计3 方程的假设检验4 方程的拟合优度评价指标5 偏回归系数、标化偏回归系数6 指标的量化7 回归与t检验、方差分析的关系8 标准偏回归系数与自变量的贡献,某学校20名一年级女大学生体重、胸围、肩宽及肺活量的实测数据,问题：,体重、胸围、肩宽与肺活量有无线性关系？用该仨指标预测肺活量有多高的精度？该仨指标的贡献大小如何？,1 多元线性回归模型简介,多元回归multiple regressionmultiple linear regression因变量 dependent variable response variable (响应变量)自变量 independent variable explanatory variable(解释变量),回归模型,因变量y, 自变量为x1, x2, , xpa为截距(intercept)，又称常数项(constant), 表示各自变量均为0时y的估计值bi 称为偏回归系数(partial regression coefficient) 称为 y 的估计值或预测值(predicted value),根据该校20名大一女生的体重（kg）、胸围（cm）、肩宽（cm）和肺活量（L）建立的回归方程为：,当x1=51.3，x2=73.6，x3=36.4时， =2.824， 表示对所有体重为51.3kg、胸围为73.6cm、肩宽为36.4cm的大一女生，估计平均肺活量为2.824(L)。,2 回归系数的估计,最小二乘法(least square, LS)基本思想残差平方和(sum of squares for residuals)最小,估计值与残差,估计值与残差有下列性质：,3 Y的总变异分解,未引进回归时的总变异： (sum of squares about the mean of Y)引进回归以后的变异(剩余): (sum of squares about regression)回归的贡献，回归平方和： (sum of squares due to regression),资料回归方程中的方差分析,4 模型的拟合优度评价指标,（1）复相关系数R（2）决定系数R2 （3） 调整决定系数Radj2（4）剩余标准差Syx1x2xm,衡量回归方程的标准,决定系数R2 调整决定系数R2adj 剩余标准差,5 偏回归系数、标化偏回归系数,5.1 偏回归系数H0： i =0；H1： i 0。,5.2 标准偏回归系数反映自变量的贡献大小,6 指标的量化,6.1 二分类变量,例 t 检验与回归的关系,正常人与矽肺患者血清粘蛋白合理(mg/100mg),资料重新整理,t 检验结果,与方差分析结果等价（F=t2）,与回归分析结果的比较,回归系数与各组均数的关系,指标的量化,6.2 无序多分类变量如：血型(A，B，AB，O)x1=0, x2=0, x3=0 表示O型x1=1, x2=0, x3=0 表示A型x1=0, x2=1, x3=0 表示B型x1=0, x2=0, x3=1 表示AB型哑变量(dummy)：当某变量分成无序的m类，生成哑变量m1个又称指示变量(indicator variables),方差分析与回归分析,血清粘蛋白合理(mg/100mg),指标的量化,组别(0，1，2)g1=0, g2=0 表示0组(正常人)g1=1, g2=0 表示1组(矽肺I期)g1=0, g2=1 表示2组(矽肺II期)（g1、g2见下图）哑变量(dummy)又称指示变量(indicator variables),方差分析的结果,回归分析的