回归分析总结

1、回归分析总结作者:日期:第十二章多元回归分析在许多实际问题中，影响因变量的因素有一个时，我们用一元回归分析解决问题，但是影响因变量的因素往往有多个，此时问题就上升到了一个因变量同多个自变量的多元回归问 题。当因变量与自变量之间为线性关系时，我们称之为多元线性回归。多元性性回归分析的原理同一元线性回归基本相同，但计算上要复杂得多。主要知识点：建立的回归模型中回归系数和误差项分别代表的含义：回归系数 .(i 0,1,2 k)表示当其他 k 1个自变量不变时，第i个自变量一个单位因变量y的平均变动量;误差项 表示不能由各个自变量与y之间的线性关系所解释的变异性。利用软件用最小二乘法对参数进行估计的方

2、法及步骤：在Ex cel中使用“工具”“数据分析”“回归” 输入数据区域“确定”，即可得到各参数的估计值，此时便可以写出回归方程。 拟合优度的检验方法：方法一：多重判定系数2 SSR 1 SSE R SST SSTR2表示在因变量y的总变差中被估计的回归方程所解释的比例;故R越大越好。方法二:估计标准误差SeS表示根据所建立的回归方程，用自变量来预测因变量时， 平均预测误差的大小；故S越小越好，越小说明波动性越小。 用软件进行线性关系检验的方法：“数据分析”“回归”方差分析一在Exc e 1中，在“工具”栏中有“ Signif 1 cance F”值(即P值)，当p时,拒绝原假设；当p 时,

3、接受原假设。回归系数的检验：检验单个自变量对因变量的影响是否显著 ，检验步骤同线性关系的检验 检验过 程中可能会因为“多重共线性”问题导致某些自变量无法通过检验。检验步骤:第1步：提出假设。对于任意参数.(i 1,2 k)有iH。： iHi:第2步：计算检验的统计量t。第3步：做出统计决策。t 2，则拒绝原假设；若给定显著性水平，根据自由度=n-k 1查t分布表，得t /2的值。若|tt /2，则不拒绝原假设。多重共线性：自变量之间的相关性；产生原因：检验方法：方法一:检验模型中各对自变量之间是否显著相关，若显著相关则暗示 存在多重共线性；方法二：当模型的线性关系检验（F检验）显著时，几乎所有

4、回归系数i的t检验却不显著；方法三:当回归系数的正负号与预期的相反时也预示着多重共线性的 存在；问题的处理：方法一:将一个或多个相关的自变量从模型中剔除，使保留的自 变量尽可能不相关；方法二:如果要在模型中保留所有的自变量，那就应该：i避免根据t统计量对单个参数进行检验。ii对因变量y值得推断（估计或预测）限定在自变量 样本值的范围内。利用回归方程进行预测：利用给定的k个自变量,求出因变量y的平均值的预测区间和个别值的预测 区间。变量选择：原理:对统计量进行显著性检验，将一个或一个以上的自变量引入模型，如 果增加一个自变量会使得残差平方和（SSE）明显减少，贝»该自变量留在模型中,

5、否则剔除。主要方法:1）向前选择2）向后剔除3）逐步回归kXkkXk本章知识结构如下：/ 1、建立回归模型y 01x12X2回归方程y 01X12X22、利用最小二乘法对参数进行估计参数包括（方法一：多重判定系数Se1方法二：估计标准误差 提出假设计算统计量FSSR K多 元 回 归 分 析SS&( n k 1) F(k，n k 1)作出决策f，f，p，a)b)向前选择 向后剔除 逐步回归a）计算各对自变量之间的相关系数，并对各相关 系数进行显著性检验；b）当模型的线性关系进行F检验显著时，几乎所 有回归系数 j的t检验却不显著；c）回归系数与预期的的相反；磷是有害的元素之一，要求含磷

6、越低越好，经过试 eO含量有本章例题 对于绝大多数的钢种而言验技术人员发现，高磷钢的效率与高磷钢的出钢量及高磷钢中的F 关系，所测数据如下表：用Excel进行回归，回答下面的问题：（1）（2）（3）（4）（5）试验序号出钢量（x1）斑。含量（X2）1效率(y)187.91 3.282 . 021 01.413.584 . 03109 .820.080.0493.01 4. 288 .6588.016. 481.56115. 314.283. 5756. 914.973. 08103 .41 3. 088.091 0 1 .014.991.41080.312. 98 1 .01196.514.

7、678.0121 10.615. 38 6.513102 .918. 283.4设高磷钢的效率为y、高磷钢的出钢量为X、高磷钢中的FeO含量为x2写出估计的回归方程。在高磷钢的效率的总变差中，被估计的回归方程所解释的比例是多少 检验回归方程的线性关系是否显著（0.05）。检验各回归系数是否显著（0.05）。Mu ItipleR0. 6 88844R Square0.474506Adj us te dR S q ua0 .369407re标准误差3 .8464 81观测值1 3方差分析d fSS回归统计MS解:用Exc el进行回归分析输出如下所示:S i g n i ficanc e F回归分

8、析残差10总计1213 3 .5981147.9542281. 552 366. 7990714.7 9 54 2检验所建立的回归方程是否存在多重共线性。4 5 14849 O.O 4° 07 2I nterce pt75. 143 78出钢量0.21548 5FeO含量-0 .84321P- valLower 9Upp e r 9 5%下限ue5 %95.0%1. 29E-0554. 09 6.28 354. 003797 703790. 0 161240 .04 90 . 3 80. 043 1 416 5 593140.1 5 51 8-2.0 60.3 7 8-2 . 0 6

9、15167 455 1 69. 4877360.0 7 45780.381655上限95. 0%0.378 7459 6.28 3770. 5 48418Coec标准误差(1) 由此可得到高磷钢的效率与高磷钢的出钢量及高磷钢中的FeO含量的回归方程：y 75.14378 0.215485为 0.84321x2其中回归系数0.215485表示，在FeO含量不变时，高磷钢的效率每增加1一个单位，高磷钢的出钢量将增加0.2 1 54 8 5个单位。0.84321表示，在高磷钢的出钢量不变时，高磷钢的效率每增加一个单位，FeO含量要降低0.843 21个单位。2(2) 在回归统计一栏中有 R =0.4

10、745 0 6,所以在高磷钢的效率的总变差中，被估 计的回归方程所解释的比例是 47. 75%。(3) 在方差分析一栏中有 Sig n if i cance F (即 P 值)=0. 0 40072,在 0.05 的显著性水平下，有PV ，故拒绝原假设，说明高磷钢的效率与高磷钢的出钢 量和高磷钢中的FeO含量之间存在显著性的线性关系。(4 )由回归分析输出的结果中的P -value(即P值)一栏可以看出，只有出钢量对 应的回归系数通过了检验。说明在影响高磷钢的效率的两个变量中，只有出钢量的影响是显著的，而高磷钢中的FeO含量则对高磷钢的效率没有显著性影响。出钢量FeO含量10. 256003(5)出钢量F