计量经济学第2章一元线性回归模型说课讲解

计量经济学第2章一元线性回归模型2

Y

0

XYi’=β1+β2Xi表示X与Y之间的线性部分，称作总体回归直线。样本值与回归直线的偏离ui表示对这种线性关系的随机扰动。即ui=Yi-Yi’（i=1,2,…,n）33.随机误差项的假定条件(1)E(ui)=0，i=1,2,…(2)Var(ui)=E[ui-E(ui)]2=E(ui2)=σu2,i=1,2,…(3)Cov(uiuj)=E[ui-E(ui)]E[μj-E(uj)]=E(uiuj)=0，i≠j(4)Cov(ui,Xi)=E[ui-E(ui)]E[Xi-E(Xi)]=E(uiXi)=0，i=1,2,…(5)ui服从正态分布,即ui～N(0,σu2)前五条称为线性回归分析的经典假设条件，是古典线性回归模型的基本假定。4§2.2一元线性回归模型的参数估计1.普通最小二乘法（OLS）总体回归模型：总体回归方程：样本回归模型：样本回归方程：5下面用最小二乘法求总体回归系数β1、β2的估计值。即令根据微积分多元函数极值原理，要使上式达到最小，对的一阶偏导数都等于零，即6正规方程组7求解得到：82.几个常用的结果（1）（2）（3）（4）93.截距为零的一元线性回归模型的参数估计一元线性回归模型的一般形式为当ui满足假定条件时，β的最小二乘估计量为10§2.3最小二乘估计量的统计性质1.线性性最小二乘估计量均是Yi的线性函数，即可以表示为Yi的线性组合。证明：其中11前面的式子可记为表明是Yi的线性组合，其中bi不全为零，线性性得证。的线性性可利用的线性性得到。可记为这表明同样是Yi的线性组合，其中Wi也不全为零，线性性也得到证明。122.无偏性无偏性指的数学期望分别等于总体回归系数的值β1和β2，即证明：即是参数真实值β2的无偏估计得到了证明。推导13同样地，证明的无偏性。即是β1的无偏估计。143.最小方差性最小方差性，即在β1和β2所有可能的线性无偏估计中，最小二乘估计的方差最小。证明思路：假设是β1和β2的任意其他线性无偏估计，设法证明满足Var()≤Var()和Var()≤Var()。这两个不等式的证明相似，因此只证明其中第二个不等式。15因为是β2的线性无偏估计，因此根据线性性，可以写成下列形式：其中αi是线性组合的系数，为确定性的数值。则有由于是β2的无偏估计，因此不管Xi的取值如何，上式都必须等于β2。这就要求必须成立。16因此再计算方差Var()，得为了比较Var()和Var()的大小，可以对上述表达式做一些处理：17前面式子中的第三项因此这样的最小方差性就得到了证明。18由于最小二乘估计量具有线性性、无偏性、最小方差性，因此被称为最佳线性无偏估计量（TheBestLinearUnbiasedEstimator），简称BLUE性质。19§2.4用样本可决系数检验回归方程的拟合优度本节要检验的是样本回归线对样本观测值的拟合优度。样本观测值距回归线越近，拟合优度越好，X对Y的解释能力越强。判断回归结果好坏的基本标准，是回归直线对样本数据的拟合程度，称为“拟合优度”。回归直线的拟合优度一方面取决于回归直线的选择，这是由参数估计方法决定的，另一方面取决于样本数据的分布。当参数估计方法固定时，主要取决于样本数据的分布。样本数据的分布在本质上是由变量关系决定的。因此回归拟合度也是检验模型变量关系真实性，判断模型假设是否成立的重要方法。201.总离差平方和的分解YYiOXXi(Xi,Yi)21仅仅考察个别Yi由回归直线或解释变量决定的程度，或者对Yi逐点进行离差分解，仍然难以判断总体拟合情况。为此进一步考察所有Yi离差平方和的分解问题。所有Yi离差的平方和记为，称“总离差平方和”。分解可得

22下证明最后一项等于零。即

所以也可写为即总离差平方和可分解为两部分，一部分为：称为“回归平方和”,记为ESS；另一部分为：称为“残差平方和”，记为RSS。23因此有TSS=ESS+RSS即总离差平方和=回归平方和+残差平方和前一部分ESS相对于后一部分RSS越大，说明回归拟合程度越好，Y与X之间的线性决定关系越明显。242.样本可决系数将TSS=ESS+RSS两端同除以TSS，得到或式中的正是反映解释变量对被解释变量决定程度的指标，称之为“样本可决系数”(determinedcoefficient)，也叫决定系数、判定系数，通常用R2表示。25这个指标的计算公式是或R2是样本回归线与样本观测值拟合优度的度量指标，其数值在0到1之间。R2=0，解释变量X与Y没有线性关系；R2=1，样本回归线与样本观测值重合，X与Y在一条直线上；0<R2<1，R2越接近1，样本回归线对样本值的拟合优度越好，X对Y的解释能力越强。263.样本相关系数样本相关系数是变量X与Y之间线性相关程度的度量指标。定义为其取值范围为|r|≤1，即-1≤r≤1。27当r=-1时，表示X与Y之间完全负线性相关；当r=1时，表示X与Y之间完全正线性相关；当r=0时，表示X与Y之间无线性相关关系，即说明X与Y可能无相关关系或X与Y之间存在非线性相关关系；当0<|r|<1时，X与Y之间存在一定的线性相关关系。28§2.5回归系数估计值的显著性检验检验的统计可靠性，为此，首先考虑其概率分布。假定μi服从正态分布，因此Yi也服从正态分布，也服从正态分布。即291.随机变量u的方差随机变量ui的方差σu2是一个不可能测量计算出的量。因此，我们只能用它的估计值e的方差，作为它的方差估计值。即并且可证明，它还是σu2的无偏估计量，即由此可知，的标准差估计值分别为302.回归系数估计值的显著性检验——t检验模型回归系数估计值的显著性检验，即检验模型回归系数是否显著异于0，是基本的一种假设检验。一元线性回归模型的基本出发点就是两个变量之间存在因果关系，认为解释变量是影响被解释变量变化的主要因素，而这种变量关系是否确实存在或者是否明显，会在回归系数β1的估计值中反映出来。若β1的估计数值较大，说明两变量的关系是明显的，若β1的估计数值较小，甚至无法排除它等于0的可能性，说明这两个变量之间的关系不明显，模型的基本设定不成立。因此显著性检验对于确定变量关系和模型的真实性非常重要。31对回归系数估计值的显著性检验用t检验。根据的概率分布，由数理统计知，来自单一样本的估计值的t统计量为对于可以通过下列变换转化为服从标准正态分布的随机变量用代上式中未知的σμ2得到的统计量为

服从的分布是自由度为n-2的t分布。32具体检验步骤如下：提出原假设H0：β1=0，备择假设H1：β1≠0。计算t统计量，给出显著水平α（一般常用0.05或0.01），查自由度n-2的t分布表，得临界值tα/2(n-2)。做出判断。如果|t|<tα/2(n-2)，接受H0：β1=0，表明X对Y无显著影响，一元线性回归模型无意义；如果|t|>tα/2(n-2)，拒绝H0，接受H1：β1≠0，表明X对Y有显著影响。33补充：F检验与t检验相对比，t检验属于回归系数估计值的统计显著性检验，是对个别参数感兴趣的检验。而F检验属于回归方程的显著性检验，它是对所有参数感兴趣的一种显著性检验。其检验步骤如下：第一步：提出假设。原假设H0：β0=β1=0，备择假设H1：β0β1不同时为零。第二步：构造F统计量。

即统计量F服从第一自由度为1，第二自由度为n-2的F分布。34第三步：给定显著性水平α，查F分布临界值得到Fα(1,n-2)。第四步：做出统计决策。若F≥Fα(1,n-2)时，拒绝原假设H0，接受备择假设，则认为X与Y的线性相关关系显著，即回归方程显著；若F<Fα(1,n-2)时，接受原假设H0，则认为X与Y的线性相关关系不显著，即回归方程不显著。35补充：四种检验的关系前面介绍的拟合优度(R2)检验、相关系数(r)检验、t检验和F检验，对于一元线性回归方程来说，这四种检验是等价的。可以了解：因此，对于一元线性回归方程，我们只需作其中的一种检验即可。但对于多元线性回归方程这四种检验有着不同的意义，并不是等价的，需分别进行检验。36补充：回归方程的标准记法为了方便，我们往往将回归方程的参数估计和系数的显著性检验统计量结果放在一起。例如：注：t统计量右上角的星号表示显著性水平的大小，一个星号表示在显著性水平5%下显著，两个星号表示在显著性水平1%下显著，无星号表示5%下不显著。37§2.6一元线性回归方程的预测1.点预测根据一元线性回归模型的回归直线进行预测，只要把解释变量X的一个特定值X0代入回归方程，就可以得到被解释变量Y的一个相应的预测值我们称为被解释变量的“点预测”。38由于回归直线与真实的变量关系不可能完全相同，而且变量关系本身是随机函数关系，因此预测与将来实际出现的结果之间必然存在误差。设Y将来实际出现的对应X0的被解释变量值为Y0，预测值与Y0之间的偏差e0=Y0-=Y0-(+X0),称为“预测误差”。由于在预测的当时Y0是未知的，因此预测误差e0也是未知的，是一个随机变量。39无偏性即是Y0的无偏预测，E()=Y0。证明如下：

因此是Y0的无偏预测性质得证。40X0是可任意给定的。如果X0在样本区间内，即为X1，X2，……，Xn样本点之一，则点预测的过程称为“内插预测”。如果X0是样本区间之外的点，则预测过程称为“外推预测”。412.区间预测（1）单个值的预测区间令e0=Y0-且可知即可知e0服从均值为零，方差为σ2(e0)的正态分布。用Se2代σ2(e0)中未知的σu2得到σ2(e0)的估计值构造t统计量给出置信度1-α,查自由度为n-2的t分布表，得临界值tα/2(n-2),t值落在(-tα/2,tα/2)的概率是1-α，即P{-tα/2<t<tα/2}=1-α整理得即在置信度1-α下，Y0的置信区