第四章简单回归模型及回归结果的检验

1、REVIEW2022-5-3中山大学南方学院1假设检验假设检验最小二乘法最小二乘法2022-5-3中山大学南方学院2 第四章第四章 简单回归模型及回简单回归模型及回 归结果的检验归结果的检验2022-5-33中山大学南方学院本章重点本章重点 建立模型 估计参数的统计意义 回归结果的解释2022-5-3中山大学南方学院4分析思路分析思路 建立模型 输入数据进行回归 对回归结果进行解释 现实的经济学意义2022-5-3中山大学南方学院5第一节 模型的建立 在我们深入讨论回归分析和其结果检验之前，我们需要先讨论一下应用经济学的研究方法。 我们还是从前面讲过的一个简单的回归模型说起，给定下面的数模型：

2、eXiiY2022-5-36中山大学南方学院 根据上面的数学模型，我们要做的事情就是利用所得到的数据，用最小二乘法来对模型中的参数进行估计。 2022-5-3中山大学南方学院7 我们以气温和冷饮料的销售量的数据来进行分析。如果我们能够通过一个模型来预测由于气温的变化对市场销售量的影响。2022-5-3中山大学南方学院8 通过简单的回归分析得出简单的估计方程，我们的气温“自变量”与销量“因变量”之间存在着正相关的关系（自变量前面的参数值大于零）。2022-5-3中山大学南方学院9 也就是说，当温度增高时，销量也会增高。那么，我们可以利用这个估计方程来对未来进行预测。我们可以确定，如果“温度”提高

3、一度，销量就会增加4.881单位，也就是多销售48810瓶饮料。2022-5-3中山大学南方学院10第二节 估计参数的统计意义 算出参数方程之后，我们的任务还没有完成。我们还要对上面的回归进行分析。下一步我们要看估计出来的方程中的每个参数是否有统计意义（t Statistics）。 2022-5-3中山大学南方学院11 为了计算参数的“t Statistics”的值，我们还是从简单模型说起。给定：2022-5-3中山大学南方学院12eXiiY 其模型的估计方差是： 或者： 2022-5-3中山大学南方学院13222Nesi2)(2NXYsii 在这里我们要注意到这个方差的自由度为N2，因为我们

4、这里用到了两个确定的参数，所以我们就失去了两个自由度。2022-5-3中山大学南方学院14 我们对方差开根号，得到s，这个统计值很重要，它被叫做“估计的标准误差”（standard error of estimate)或“回归的标准误差”（standard error of regression）。 那么我们再来计算估计参数的标准误差。2022-5-3中山大学南方学院152022-5-3中山大学南方学院16niiXX12n1iii)()Y-)(YX-(XiniiniiuXXXX112)()(1 先计算其方差： 标准误差： 其统计检验值：2022-5-3中山大学南方学院17222)(XXssi2

5、sSESEt0 常数 的方差可以根据： 的关系式进行计算，得出结果如下：2022-5-3中山大学南方学院18XY 其方差为： 标准误差： 统计值：2022-5-3中山大学南方学院19222222)()/(XXNXssNXsiii2sSESEt0 我们可以把参数的统计指标列在估计方程的下面： 销量8.3834.881（气温） （1.128）（18.95）2022-5-3中山大学南方学院20 我们要对估计参数进行检验。假设所有的参数都等于零，用t检验来做。2022-5-3中山大学南方学院21 如果我们将置信区间定为95，那么其误差容许范围就在5的范围内（也被称为显著性水平），即a=0.05。那么我

6、们可以从表格中查到相关的数据进行比较。2022-5-3中山大学南方学院22 所以我们就可以说，我们有95%把握认定：估计出来的这个参数不等于零，有其实际的统计意义。特别是自变量“气温”的参数很有意义。 这样一来，批发商就可根据天气预报来有计划的储备饮料的库存了。2022-5-3中山大学南方学院23 另外，参数的估计“失误率”（p-value）也很有用。我们在检验统计意义时可以直接利用这个数据。我们设定统计误差容许范围是在5，即显著性水平（第一误差）为0.05. 2022-5-3中山大学南方学院24 那么如果参数的估计失误率小于0.05，它们就是有统计意义的。上面的结果表明，参数方程截距的估计失

7、误率约为0.27，大于0.05，那么我们就没有充分把握说它不等于零；自变量“气温”的估计失误率约为0.000，小于0.05，那么我们就可以有充分的把握说它不等于零。2022-5-3中山大学南方学院25第三节 估计参数方程的方差分析 对回归分析得出的结果做进一步的分析，就是对估计参数方程的方差分析，英文叫“Analysis of variance (ANOVA)”。如下表所示：2022-5-3中山大学南方学院26自由度自由度平方和平方和平均平方和平均平方和F检验值检验值模型（解释）df1=KRSSRSS/df1(RSS/df1)/（ESS/df2）残差（未解释） df2=N-K-1ESSESS/

8、df2总和df3=N-1TSS=RSS+ESS 我们有如下模型：2022-5-3中山大学南方学院27)(iiiiiiiiiiiiiiYYYYeYYYYeXYeXY 我们将上面这个等式的两边同时减去 ，得到： 等式的右边是每个样本值与其平均值的差，也就是真实误差。我们再将等式的两边同时进行平方，再加总。我们得到：2022-5-3中山大学南方学院28Y)()(iiiiYYYYYY2022-5-3中山大学南方学院29)( )(2)()()()()(2222iiiiiiiiiiYYYYYYYYYYYYYY 我们用TSS来表示这是方差总和（Total Sum of Squares）2022-5-3中山大

9、学南方学院302)(YYTSSi 这方差总和中有三项：第一项叫做解释平方和（explained sum of squares）或者叫回归平方和（regression sum of squares）,表示估计值与实际平均值之差的平方的总和，用RSS来表示：2022-5-3中山大学南方学院312)(YYRSSi 第二项叫作未解释平方和（residual sum of squares）,或叫误差平方和（error sum of squares）,或叫残差平方和是实际值与估计值之差的平方的总和，也就是其误差项平方的总和，用ESS来表示：2022-5-3中山大学南方学院3222)(iiieYYESS 第

10、三项就是剩余的部分，这部分可以忽略不计，因为它小得几乎等于零：2022-5-3中山大学南方学院330)(2iiiYYYY 那么，方差总和是解释平方和与未解释平方和的加总，即： TSSRSSESS2022-5-3中山大学南方学院34 解释平方和（RSS）的自由度被规定为模型中自变量的个数，用K来表示，即： df1=K 未解释平方和（ESS）的自由度的被规定为样本数减去自变量的个数再减去一，即： df2=N-K-1 2022-5-3中山大学南方学院35 F的检验值为：F解释方差/未解释方差。即： F=Explained Variance/Unexplained Variance =Regressi

11、on Variance/Residual Variance2022-5-3中山大学南方学院36) 1()()() 1(KNYYKYYKNESSKRSSFiii 我们可以用这个统计指标来对模型的回归结果做从整体的假设检验。我们假设“所有的估计参数都同时等于零”。 进而我们通过F检验来得出我们的结论。检验的过程和方法跟t检验是一样的。2022-5-3中山大学南方学院37第四节 回归结果的解释 在模型回归估计结果的表格中还有一个有意思的统计量，就是R2 。有些翻译的英文教科书中把它译成“判定系数”。这个数值是用下面公式计算出来的：2022-5-3中山大学南方学院382022-5-3中山大学南方学院3

12、9222222)()(1)()(1RYYYYYYYYRTSSESSTSSRSSiiiii 人们把R2当作回归估计模型对真实模型解释的百分比。也就是说，根据这个数值来评价模型回归估计结果的好坏，认为这个值可以“告诉人们Y的估计值与它的真实值相靠多近”。当接近100时，以前人们就认为这个回归估计的结果很逼真。2022-5-3中山大学南方学院40 一般来说，用横截面数据时，判定系数会低些；用时间序列数据时，它的值会高些，特别是当我们增加自变量的个数时，它的值就会随之提高。现在计量经济学家对这个判定系数有了不同的看法。认为这个判定系数不可靠。2022-5-3中山大学南方学院41 后来又有些计量经济学试

13、图用不同的方法来计算判定系数，如用调整过的R2 在近些年来经济科学杂志上发表的文章中一般将这个数值按传统的习惯保留在回归分析结果的表格中，而不对此数值加以评价。2022-5-3中山大学南方学院42) 1/()(/)(1/1)(222322NYYdfYYdfTSSdfESSRAdjiii第五章 其他简单线性回归模型 有时我们从数据的图形来看，因变量与自变量之间并不呈直线关系，而是有明显的曲线关系。那么，我们可能通过对变量的转换来使其变为直线关系。通常我们可以用自然对数，平方，立方，平方根，甚至更复杂的指数形式来转换变量。2022-5-3中山大学南方学院432022-5-3中山大学南方学院442XYLog(X)*Log(Y)Log(X)*YXLog(Y)2022-5-3中山大学南方学