整理一元线性回归模型的置信区间与预测

精品文档§2.5一元线性回归模型的置信区间与预测多元线性回归模型的置信区间问题包括参数估计量的置信区间和被解释变量预测值的置信区间两个方面，在数理统计学中属于区间估计问题。所谓区间估计是研究用未知参数的点估计值（从一组样本观测值算得的）作为近似值的精确程度和误差范围，是一个必须回答的重要问题。一、参数估计量的置信区间在前面的课程中，我们已经知道，线性回归模型的参数估计量P是随机变量匕的函数，即：P=Z左），所以它也是随机变量。在多次重复抽样中，每次1 ii的样本观测值不可能完全相同，所以得到的点估计值也不可能相同。现在我们用参数估计量的一个点估计值近似代表参数值，那么，二者的接近程度如何？以多大的概率达到该接近程度？这就要构造参数的一个区间，以点估计值为中心的一个区间（称为置信区间），该区间以一定的概率（称为置信水平）包含该参数。即回答也以何种置信水平位于0—a,P+〃）之中，以及如何求得a。1 1 1在变量的显著性检验中已经知道t—4—匕〜t(n-k—1)sA(2.5.1)Pi(2.5.1)这就是说，如果给定置信水平1-。，从t分布表中查得自由度为（n-k-1）的临界值那么t值处在Ita”/收J的概率是1-a。表示为P(—t<t<t)—1—a2 2即精品文档p-pi精品文档p-pi<t)—1—aAP.I精品文档P(B-1xs<0<B+1xs)=1—aia6iia62吃 2吃于是得到：在(1-a)的置信水平下0i的置信区间是(6-txs，6+txs)ia8ia8 . 、2 1 2 1i二0,1 (2.5.3)在某例子中，如果给定a=0.01，查表得ta(n-k-1)=10005(13)=3.0122八 八从回归计算中得到0=102.3,0=0.21,S=15,S=0.010 1 1件根据(2.5.2)计算得到00,0］的置信区间分别为(57.12,147.48)和(0.1799,0.2401)显然，参数0］的置信区间要小。在实际应用中，我们当然希望置信水平越高越好，置信区间越小越好。如何才能缩小置信区间？从(2.5.3)式中不难看出：(1)增大样本容量n。在同样的置信水平下，n越大，从t分布表中查得自由度为(n-k-1)的临界值2越小；同时，增大样本容量，在一般情况下可使估计值的标准差S,减小，因为0式中分母的增大是肯定的，分子并不一定增大。(2)更主要的是提高模型的拟合度，以减小残差平方和Z曝。设想一种极端情况，如果模型完全拟合样本观测值，残差平方和为0，则置信区间也为0。(3)提高样本观测值的分散度。在一般情况下，样本观测值越分散，标准差越小。置信水平与置信区间是矛盾的。置信水平越高，在其他情况不变时，临界值2越大，置信区间越大。如果要求缩小置信区间，在其他情况不变时，就必须降低对置信水平的要求。二、预测值的置信区间1、点预测计量经济学模型的一个重要应用是经济预测。对于模型y.=0+0x+u,i=1,2,,n精品文档

精品文档如果给定样本以外的解释变量的观测值普所以u和u.(i=1,2, ,n)是不相关y=所以u和u.(i=1,2, ,n)是不相关因xf是前述样本点以外的解释变量值的。引用已有的OLS的估计值，可以得到被解释变量力的点预测值(2.5.4)但是，严格地说，这只是被解释变量的预测值的估计值，而不是预测值。原因在于两方面：一是模型中的参数估计量是不确定的，正如上面所说的；二是随机项的影响。所以，我们得到的仅是预测值的一个估计值，预测值仅以某一个置信水平处于以该估计值为中心的一个区间中。于是，又是一个区间估计问题。2、区间预测如果已经知道实际的预测值f如果已经知道实际的预测值f那么预测误差为显然，ef显然，ef随机变量，可以证明八=yyff/X-y/X-yff))-EI8x)1fJf-yf)y,yJff因为Jf-yf)y,yJff因为yf由原样本的OLS估计值求得，而y与原样本不相关，故有:f可以计算出来：Cov(y,y)=0fD(e)=。2+D(y)d(yf)=1——+n——f 个(x-口.J7—1 /(2.5.5)=P0+P1XfD(e)=Co(,e)=Co(-y,yf)丫f( f\'f(=Covy,y-2Covy,y+Cov=。2+D(y0-2Co41y')uf ff精品文档精品文档1+二

n1+二

n「工引(x-x)2iJi=1 /(2.5.6)因R/和，,均服从正态分布,可利用它们的性质构造统计量,求区间预测值。利用R构造统计量为:fN-内)N用R构造统计量为:fN-内)N(0,1)用估计值02代入上式，有u-E(yf)〜t(n-2)1x-xn寸(x-x)2这样，可得显著性水平a下i&f)的置信区间为t这样，可得显著性水平a下i&f)的置信区间为ta2yf(2.5.7)1+1+

nZ(1+1+

nZ(x-ii=11+LZ(x-x)2i=1iJ(257)式称为yf的均值区间预测。同理，利用ef构造统计量，有yf-yf精品文档精品文档将O2用估计值62代入上式，有:u u〜t(〜t(n-2)y根据置信区间的原理，得显著性水平a下f的置信区间:(2.5.8)1(2.5.8)1x一x1++——f nX(x-x>ii=1Ii=1上式称为y上式称为yf的个值区间预测，显然，在同样的a下，个值区间要大于均值区间。（257）和⑵对也可表述为：yf的均值或个值落在置信区间内的概率为1-a，1-a即为预测区间的置信度。或者说，当给定解释变量值x,后，只能得到被解释变量yf或其均值E4f）以（1-a）的置信水平处于某区间的结论。经常听到这样的说法，”如果给定解释变量值，根据模型就可以得到被解释变量的预测值为……值”。这种说法是不科学的，也是计量经济学模型无法达到的。如果一定要给出一个具体的预测值，那么它的置信水平则为0;如果一定要回答解释变量以100%的置信水平处在什么区间中，那么这个区间是8。在实际应用中，我们当然也希望置信水平越高越好，置信区间越小越好，以增加预测的实用意义。如何才能缩小置信区间？从（2.5.5）和（2.5.6）式中不难看出：（1）增大样本容量n。在同样的置信水平下，n越大，从t分布表中查得自由度为（n-k-1）的临界值t越小；同时，增大样本容量，在一般情况下可使a2Xe2?2=-—减小，因为式中分母的增大是肯定的，分子并不一定增大。（2）更un-2主要的是提高模型的拟合优度，以减小残差平方和Xe2。设想一种极端情况，如果模型完全拟合样本观测值，残差平方和为0,则置信区间长度也为0,预测区间就是一点。（3）提高样本观测值的分散度。在一般情况下，样本观测值越分精品文档

精品文档散，作为分母的工（x^-x>2的值越大，致使区间缩小。置信水平与置信区间是矛盾的。置信水平越高，在其他情况不变时，临界值/越大，置信区间越大。如%果要求缩小置信区间，在其他情况不变时，就必须降低对置信水平的要求。四、一元线性回归模型参数估计实例为了帮助读者理解一元线性回归模型参数估计的原理，下面以我国国家财政文教科学卫生事业费支出模型为例，不采用计量经济学应用软件，用手工计算，进行模型的参数估计。经分析得到，我国国家财政中用于文教科学卫生事业费的支出，主要由国家财政收入决定，二者之间具有线性关系。于是可以建立如下的模型：ED=a+0FI+从其中，EDt为第t年国家文教科学卫生事业费支出额（亿元），FIt为第t年国家财政收入额（亿元），匕，为随机误差项，0和0为待估计的参数。选取1991—1997年的数据为样本，利用（2.2.6）和（2.2.7）的计算公式，分别计算参数估计值。表2.2.1有关数据表年份EDFIEDFIAEDAED—EDEDEDED19917083149-551-2351734-26-0.03719927933483-466-2017804-11-0.01419939584349-301-11511001-43-0.04519941278521819-2821196820.0641995146762422087421424430.02919961704740844519081685190.01119971904865164531511963-59-0.031有关中间计算结果如下：ZED=8812ZFI=38500 — —t t 9ZFI2=236869644 ZFI•ED=54078207t t ttL L 2 ______ZFI=5612207 ZFI=25119644t. . t . t由电脑计算的参数估计值为精品文档精品文档&=-39.65,B=0.24全部统计结果如下表。从表中可看出，判定系数R2=0.99,表示以国家财政收入额来解释国家文教科学卫生事业费支出额，在1991至1997年间，拟合度相当理想。截距项a的估计值对应的t-统计量为0.47,不能通过显著性检验，即不能推翻a为0的假设；而一次系数P的估计值对应的t-统计量为20.34,不用查表即可知通过显著性检验，即B显著不为0，因果关系成立。F-统计量的值为413.58,也表示方程系数显著不为0。精品文档

精品文档表一：Eviews计算结果DependentVariable:EDMethod:LeastSquaresDate:09/21/02Time:16:22Sample:19911997Includedobservations:7VariableCoefficientStd.Error t-StatisticProb.C30.0523763.90691 0.4702520.6580FI0.2234190.010986 20.336590.0000R-squared0.988055Meandependentvar1258.857AdjustedR-squared0.985666S.D.dependentvar459.8972S.E.ofregression55.06160Akaikeinfocriterion11.08974Sumsquaredresid15158.90Schwarzcriterion11.07428Loglikelihood-36.81408F-statistic413.5768Durbin-Watsonstat1.644626Prob(F-statistic)0.000005表二：不含截距项的Eviews计算结果:DependentVariable:EDMethod:LeastSquaresDate:09/21/02Time:16:19Sample:19911997Includedobservations:7VariableCoefficientStd.Error t-StatisticProb.FI0.2283040.003337 68.408770.0000R-squared0.987526Meandependentvar1258.857AdjustedR-squared0.987526S.D.dependentvar459.8972S.E.ofregression51.36364Akaikeinfocriterion10.84730Sumsquaredresid15829.34Schwarzcriterion10.83957Loglikelihood-36.96556Durbin-Watsonstat1.630622精品文档精品文档DependentVariable:LEDMethod:LeastSquaresDate:09/21/02Time:16:21Sample:19911997Includedobservations:7VariableCoefficientStd.Error t-StatisticProb.C-1.5223290.383141 -3.9732900.0106LFI1.0055630.044764 22.463410.0000R-squared0.990188Meandependentvar7.077084AdjustedR-squared0.988226S.D.dependentvar0.382958S.E.ofregression0.041554Akaikeinfocriterion-3.288701Sumsquaredresid0.008634Schwarzcriterion-3.304156Loglikelihood13.51045F-statistic504.6048Durbin-Watsonstat1.930000Prob(F-statistic)0.000003精品文档

精品文档多元线性回归模型的参数估计实例例2.3.1建立中国消费模型。根据消费模型的一般形式，选择消费总额为被解释变量，国内生产总值和前一年的消费总额为解释变量，变量之间关系为简单线性关系，选取1981年至1996年统计数据为样本观测值。样本观测值列于表2.3.1中。表2.3.1中国消费数据表年份消费总额国内生产总值前一年消费额年份消费总额国内生产总值前一年消费额1981330949012976198910556164