回归方程及回归系数的显著性检验

1、 3回归方程及回归系数的显著性检验1、回归方程的显著性检验（1）回归平方和与剩余平方和建立回归方程以后，回归效果如何呢？因变量.与自变量是否确实存在线性关系呢？这是需要进行统计检验才能加以肯定或否定 ，为此，我们要进一步研究因变量取值的变化规律。的每次取值是有波动的，这种波动常称为变差，每次观测值jt的变差大小，常用该次观侧值U与t次观测值的平均值的差丨、/（称为离差）来表示，而全部：次观测值的总变差可由总的离差平方和呦迄以*）亠另（11+剳*诃吃+卩其中：称为回归平方和，是回归值与均值之差的平方和，它反映了自变量九心如的变化所引起的丿的波动，其自由度hw （川为自变量的个数）。称为剩余平方和

2、（或称残差平方和），是实测值T与回归值.,之差的平方和，它是由试验误差及其它因素引起的，其自由度r 一。总的离差平方和一二的自由度为：亠。如果观测值给定，则总的离差平方和-二是确定的，即是确定的，因此i.i大则匚小，反之，L小则（大，所以 U与I都可用来衡量回归效果，且回归平方和U越大则线性回归效果越显著，或者说剩余平方和一越小回归效果越显著， 如果二0,则回归超平面过所有观测点；如果一大，则线性回归效果不好。（2）复相关系数为检验总的回归效果，人们也常引用无量纲指标-，（3. 1）或7?壬倉V 切，（3. 2）称为复相关系数。因为回归平方和 U实际上是反映回归方程中全部自变量的“方差贡献”，

3、因此F就是这种贡献在总回归平方和中所占的比例，因此).表示全部自变量与因变量.的相关程度。显然上二*。复相关系数越接近1 ,回归效果就越好，因此它可以作为检验总的回归效果的一个指标。但应注意，亠与回归方程中自变量的个数“！及观测组数F有关，当相对于T并不很大时，常有较大的值，因此实际计算中应注意 I与.的适当比例，一般认为应取I至少为 !的5到10倍为宜。(3) /检验要检验m”仪是否存在线性关系，就是要检验假设:，(3. 3)当假设二i成立时，贝匚与无线性关系，否则认为线性关系显著。检验假设P应用统计量r UimF =-n -, (3.4)这是两个方差之比，它服从自由度为 十及- T的F分布

4、，即F w -1的 ” 1), (3. 5)用此统计量F可检验回归的总体效果。如果假设 上一成立，则当给定检验水平a下，统计量F应有卜當w匕二J 一 1 一匚(3. 6)对于给定的置信度a,由F分布表可查得L“的值，如果根据统计量算得的F值为厂则拒绝假设.，即不能认为全部为0,即个自变量的总体回归效果是显著的 否则认为回归效果不显著。利用检验对回归方程进行显著性检验的方法称为方差分析。上面对回归效果的讨论可归结于一个方差分析表中，如表3. 1 o表3. 1方差分析表来源平方和自由度方差方差比回归PK-1)剩余U1总计&1x-1根据与F的定义，可以导岀二与F的以下关系:利用这两个关系式可以解决i

5、值多大时回归效果才算是显著的问题。因为对给定的检验水平 a,由分布表可查岀/的临界值匚；，然后由匚；即可求岀上的临界值二:,（3.7）当丨-时，则认为回归效果显著。例3.1利用方差分析对例2.1的回归方程进行显著性检验。取检验水平a = 0. 05,查F分布表得I ”方差分析结果见表3. 2。来源平方和自由度方差方差比回归中 3739.7m = 2y/m z 18695f = 610.34404剩余0 = 33,7n-nrl-11Q/ (n-m-1)=0伽总计隸773.4n-l=13表3.2厂,而卜H ：:、一回归方程回归效果是显著的。2、回归系数的显著性检验前面讨论了回归方程中全部自变量的总

6、体回归效果 ，但总体回归效果显著并不说明每个自变量对因变量都是重要的，即可能有某个自变量对并不起作用或者能被其它的显的作用所代替，因此对这种自变量我们希望从回归方程中剔除，这样可以建立更简单的回归方程。显然某个自变量如果对作用不显著，则它的系数就应取值为0,因此检验每个自变量是否显著，就要检验假设:I ?1 ,-，(3.8)在八一 I假设下，可应用检验:其中为矩阵 的对角线上第:个元素。一/ - -(3.9)对给定的检验水平a，从分布表中可查出与a对应的临界值I，如果有二丨.，贝U拒绝假设彳1,即认为|:与0有显著差异，这说明对有重要作用不应剔除；如果有丨则接受假设-I ,即认为J-L成立，这

7、说明对不起作用，应予剔除。?检验：检验假设，亦可用服从自由度分别为i与龙-用-1的F分布的统计量其中匚为矩阵的主对角线上第:个元素。对于给定的检验水平a，从F分布表中,(3. 10)可查得临界； - T,如果有则拒绝假设M ，认为对；有重要作用。如果恥伽处1)，则接受假设 血，即认为自变量期对丿不起重要作用，可以剔除。一般一次F检验只剔除一个自变量，且 这个自变量是所有不显著自变量中值最小者，然后再建立回归方程，并继续进行检验，直到建立的回归方程及各个白变量均显著为止。最后指岀，上述对各自变量进行显著性检验采用的两种统计量与.实际上是等价的，因为由(3.9)式及(3. 10)式知,有7(3.

8、11)例3. 2对例2.1的回归方程各系数进行显著性检验。经计算：P25L7 34991=499,9 2550,9 丿于是j r0J002223 -0.0030C = (c沪 S -0.00305 o. 00457?；其中_二 0. 002223,-.!. ! = 0. 004577c 由(3. 7)式知= 6.326f_ 0 522/Jj 0022233 7*205/70,004577=401237/（14-2-1）查：分布表得，f : !-1打二- _1. ,因为：l .T-一 - .ir x-：，所以两个自变量（及（都是显著的。又由帚乜，说明体长（比胸围（对体重的影响更大。如果应用？检验

9、，查F分布表有 屉即）期，Oi522a/OW2223=40.01-33.7/11 0.475/0.004577创 144）-33.7/fl又由因为T ! I,-I ,因此（及（都是显著的，均为重要变量，应保留在回归方程中。（3）偏回归平方和检验某一自变量是否显著，还可应用偏回归平方和进行检验。个自变量的回归平方和为I，并设如果自I个自变量中去掉则剩下的T-1个自变量的回归平方和设为则r就表示变量在回归平方和U中的贡献，-称为的偏回归平方和或贡献。可以证明J. , (3. 12)偏回归平方和越大，说明在回归方程中越重要，对的作用和影响越大，或者说、对回归方程的贡（贡献大小）的一个指标。献越大。因此偏回归平方和也是用来衡量每个自变量在回归方程中作用大小 例如在例2.1中，（和（的偏回归平方和分别为._=121.63743-辺 1 0.002