应用数理统计

1、4-3 多元线性回归,一元线性回归是回归分析中的一种特例，它通常是对影响某种随机现象的许多因素进行了简化考虑的结果。 如：若某公司管理人员要预测来年该公司的销售额y时，研究认为影响销售额的因素不只是广告宣传费x1,还有个人可支配收入x2, 价格x3,研究与发展费用x4, 各种投资x5, 销售费用x6.,一、 多元线性回归模型,y = a+b1x1+b2x2+bmxm+,理论回归超平面方程：,二、用最小二乘法估计各参数,方法一、解正规方程组：给定样本观测值 (xk1,xkm,yk), k=1,n, 令,求Q关于各参数的偏导数并使其等于0, 得,设 是方程组的解, 并记,则有,经验超平面方程(回归

2、方程),方法二、求解测量方程组,则,例3.3 某种水泥在凝固时放出的热量 y (卡/克) 与水泥中下列四种成分有关: x1=3(GaO)(Al2O3) 的成份(%); x2=3(GaO)(SlO2) 的成份(%); x3=4(GaO)(Al2O3)(Fe2O3) 的成份(%); x4=2(GaO)(SiO2) 的成份(%); 现记录了13组数据,列在下表中, 求y 对x1, x2, x3, x4 的线性回归方程.,解法一：由公式 ，计算得,l10=775.96, l20=2292.95, l30=-618.23, l40=-2481.70,解正规方程组，得,解法二：,三、多元线性回归的各种统计

3、分析,方程显著性（总体回归效果）检验 参数bi的显著性检验 参数bi的区间估计,平方和分解公式,回归平方和,残差平方和,相关的抽样分布,显著性检验与参数的区间估计,1、回归显著性检验(F检验) 原假设：H0: b1=bm=0,2、单个回归系数为零的检验（t检验） 原假设：H0i: bi=0, i=1,m,若接受H0i，则应进行相应的自变量的删除。,3、对bi的区间估计,例3.5 对例3.3中水泥凝固时放出热量进行回归分析。,解：1) 回归显著性检验,l10=775.96, l20=2292.95, l30=-618.23, l40=-2481.70,y的总偏差平方和：l00=lyy=2715.

4、76,回归平方和：,复相关系数：R2=U/lyy=0.98235,2) 各回归系数是否为零的检验,Q=lyy-U=47.92,故认为b1不等于零，b2=b3=b4=0,四、偏回归平方和，剔除变量计算,1、偏回归平方和的概念,回归平方和U是所有自变量对y 的总离差平方和的贡献,定义：取消自变量 xi 后，回归平方和减少的数值Ui称为y 对xi 的偏回归平方和。这是xi对回归平方和的独特贡献（不能被其它变量所代替）。,2、剔除变量的计算剔除变量后回归系数的变化,原回归方程：,新回归方程：,新旧方程回归系数之间的关系,2、偏回归平方和的计算,例3.6 在例3.5中水泥凝固时放出热量的回归方程中，求剔除变量x3后的回归方程及偏回归平方和,逐步回归法的基本思想,1、最优回归方程的含义: (1) 方程中包含所有有显著作用的自变量；(2) 自变量的个数尽可能地少。 2、逐步回归的基本思想：将全部自变量按照其对y 影响程度，从大到小依次逐个地引入回归方程。而且随时对回归方程当前所含的全部自变量进行检验，看其对y 的作用是否仍然显著，不显著者立即剔除。只有在回归方程中所含的所有因子对y 作用都显著时，才