回归方程及回归系数的显著性检验讲义(doc7页)

1、回归方程及回归系数的显著性 检验讲义（doc 7页）此资料来自：精品资料网(ww. )联系电话班手机业QQ： 800003985提供50万份管理资料下载3万集企业管理资料下载1300GB高清管理讲座硬盘拷贝§3回归方程及回归系数的显著性检验1、回归方程的显著性检验(1)回归平方和与剩余平方和建立回归方程以后，回归效果如何呢？因变量与自变量'与'斌是否确实存在线性关系呢？这 是需要进行统计检验才能加以肯定或否定，为此，我们要进一步研究因变量/取值的变化规律.了的每次 取值也12，#是有波动的，这种波动常称为变差，每次

2、观测值，除的变差大小，常用该次观到值,急1 X与黑次观测值的平均值 “J1 的差距一P (称为离差)来表示，而全部片次观测值的总变差可由总的 离差平方和RRM5川二£。旦一5产十£什旦一力2 =©十U 7fc-1J1>其中：u=i>-内 2.人称为回归平方和，是回归值股与均值了之差的平方和，它反映了自变量门/2,"湍的变化所引起的了的波动，其自由度危二加(加为自变量的个数)。=22心-注"称为剩余平方和(或称残差平方和)，是实测值船与回归值”之差的平方和，它是由试验误差及其它因素引起的，其自由度为二"-黑-1。总的离差平方

3、和s方的自由度为“一】如果观测值给定，则总的离差平方和s厅是确定的，即0 + U是确定的，因此u大则。小，反之， U小则。大，所以U与。都可用来衡量回归效果，且回归平方和6越大则线性回归效果越显著，或者说 剩余平方和。越小回归效果越显著，如果0=0,则回归超平面过所有观测点；如果°大，则线性回归效 果不好。(2)复相关系数为检验总的回归效果，人们也常引用无量纲指标-i加 % , (3.1)或R=V (3.2)又称为笈相关系数。因为回归平方和实际上是反映回归方程中全部自变量的“方差贡献”，因此火2就 是这种贡献在总回归平方和中所占的比例，因此又表示全部自变量与因变量的相关程度，显然复相

4、关系数越接近1,回归效果就越好，因此它可以作为检验总的回归效果的一个指标。但应 注意，R与回归方程中自变量的个数m及观测组数片有关，当日相对于m并不很大时，常有较大的反值, 因此实际计算中应注意m与"的适当比例，一般认为应取n至少为m的5到10倍为宜。(3) F检验要检验了与，町，”/是否存在线性关系，就是要检验假设邛i = % = = D温，(3.3)当假设%成立时，则J与，与，户内无线性关系，否则认为线性关系显著。检验假设/应用统计量Uim(3.4)这是两个方差之比，它服从自由度为m及打-加-1的尸分布，即F =也 F(m,n - m -1)斯 -优-1),(3 5)用此统计量F

5、可检验回归的总体效果。如果假设“°成立，则当给定检验水平Q下，统计量F应有?（F W月（科/一町7）= 1一%（3. 6）对于给定的置信度a,由F分布表可查得七Mn-m-l）的值，如果根据统计量算得的F值为 ,>见 （犯”-黑-L）,则拒绝假设*0,即不能认为全部腐为0,即肌个自变量的总体回归效果是显著的, 否则认为回归效果不显著。利用F检验对回归方程进行显著性检验的方法称为方差分析.上面对回归效果的讨论可归结于一个方差分析表中，如表表S.1方差分析表自由度m来源平方和回归U = N®-内2JL剩余 。=2>3-'尸X总计s用二一月瞋°十0J1

6、方差方差比UlmU$mQl(n - w-1)Qf(n-m-l)根据R与F的定义，可以导出父与尸的以下关系:F = a-炉 >R= mFy （w - »2 -1） +黑产利用这两个关系式可以解决正值多大时回归效果才算是显著的问题。因为对给定的检验水平a,由F 分布表可查出F的临界值而，然后由所即可求出K的临界值&a：R = I 哂a g一阳TH 鹤，（S.7）当R'K时，则认为回归效果显著.例3.1利用方差分析对例2.1的回归方程进行显著性检验。方差分析结果见表3.2。表3.2总s班三3773.4 "1 = 13取检验水平a=0.05,查尸分布表得巳I”

7、?%,而= 610.34<14>七&,11”3.%，所以例2.1的回归方程回归效果是显著的。2、回归系数的显著性检验前面讨论了回归方程中全部自变量的总体回归效果，但总体回归效果显著并不说明每个自变量公“2,”流对因变量了都是重要的，即可能有某个自变量七对J并不起作用或者能被其它的心的作用所代替，因此对这种自变量我们希望从回归方程中剔除，这样可以建立更简单的回归方程.显然某个自变量如果对J作用不显著，则它的系数"就应取值为0,因此检验每个自变量是否显著，就要检验假设：/：信=口，=12”, QB）f检验：在用假设下，可应用,检验：一 町向J。（"想-1）i

8、= 1,2,m, 9）其中为矩阵c=（%"=（用厂】的对角线上第2个元素。对给定的检验水平a,从f分布表中可查出与a对应的临界值如果有信上则拒绝假设二°,即认为鸟与o有显著差异，这说明对了有重要作用不应剔除；如果有“'KG则接受假设方匕即认为疝=。成立，这说明对P不起作用，应予剔除.（2） F检验：检验假设比1 ：店=°,亦可用服从自由度分别为1与”时1的F分布的统计量F(l,«- »2-1),(3.10)其中为矩阵.尸的主对角线上第，个元素。对于给定的检验水平a,从F分布表中 可查得临界七°述一”一1）,如果有吁: 当3”一

9、黑一°,则拒绝假设为，认为对了有重要作用。如果 耳,耳（L*一阳一 1）,则接受假设“°,即认为自变量对J不起重要作用，可以剔除。一般一次F检验只剔除一个自变量，且这个自变量是所有不显著自变量中F值最小者，然后再建立回归方程，并继续进行检验，直到建立的回归方程及各个自变量均显著为止.最后指出，上述对各自变量进行显著性检验采用的两种统计最舄与“实际上是等价的，因为由(3.9)式及(3.10)式知，有例3. 2对例2.1的回归方程各系数进行显著性检验.经计算：J525L? 3499.9、 M = 3499.9 2550.9于是C=(c&.) = S-1 =r 0.002

10、223 -0.00305S1-0.00305 0.0045?其中 11 =0. 002223, 22 =0. 004577由中 7)式知一抱0s 33.7/(14-2-1)075/004577 ni9753.7;(14-2-1)查f 分布表得，位。5(”加T)= 3心。1) =1.7959 ,因为& = 6.326 ) 力m1)=1,959 ,% = 4.012 >fog(ll) = 1.7959,所以两个自变量勺及为都是显著的。又由说明体长町比脚网町对体重了的影响更大.如果应用F检验，查尸分布表有用J1)= 484比2fci0.5223/0.002223- = 40.0133.

11、7/110.47 52/0.00457733.7/11 = 16.09因为R = 40 01 > a5(1J 1)= 4叫瓦=1609 >加5。1)= 4叫因此町及与都是显著的，均为重要变量，应保留在回归方程中。(3)偏回归平方和检验某一自变量是否显著，还可应用偏回归平方和进行检验.沼个自变量/冷，"湍的回归平方和为如果自取个自变量中去掉则剩下的丹-1个自变量的回归平方和设为并设则%就表示变量与在回归平方和U中的贡献，吟称为的偏回归平方和或贡献，可以证明 ,（3. 12）偏回归平方和吗越大，说明在回归方程中越重要，对J的作用和影响越大，或者说今对回归方程的贡献越大。因此偏回归平方和也是用来衡量每个自变量在回归方程中作用大小(贡献大小)的一个指标。例如在例2.1中，和町的偏回归平方和分别为0 522JC11=121.637430.002223小富