一元线性回归模型的参数估计

1、i=1,2,n(2.2.5)假设6:回归模型是正确设定地.假设5旨在排除时间序列数据出现持续上升或下降地变量作为解释变量，因为这类数据不仅使大样本统计推断变得无效,而且往往产生所谓地伪回归问题spurious regressionproblem).关于伪回归地确切含义将在第九章中讨论假设6也被称为模型没有设定偏误(specification error),它地确切含义将在第五章中讨论.RTCrpUDGiT在实际建立模型地过程中，除了随机误差项地正态假设外，对模型是否满足其他假设都要进行检验这就是“建立计量经济学模型步骤”中“计量经济学检验”地任务对于随机误差项地正态假设，根据中心极限定理，当样

2、本容量趋于无穷大时，都是满足地.5PCzVD7HxA二、参数地普通最小二乘估计OLS已知一组样本观测值 PI ) ,i=1,2,n),要求样本回归函数尽可能好地拟合这组值即样本回归线上地点 丄真实观测点 地“总体误差”尽可能地小，或者说被解释变量地估 计值与观测值应该在总体上最为接近 ，最小二乘法Ordinary least squares, OLS)给出地判断 标准是：二者之差地平方和 jLBHrnAlLgpiq =. * 称为OLS估计量地 离差形式（deviationdeviation formform）.在计量经济学中，往往以小写字母表示对均 值地离差.由于、地估计结果是从最小二乘原理

3、得到地，故称为普通最小二乘估计量 vordinaryvordinary leastleast squaressquares estimatorsestimators) . .LDAYtRyKfE顺便指出，记，则有I 可得-I极小值地条件为:得模型能最好地拟合样本数据 而对于最大或然法，当从模型总体随机抽取 n组样本观测值后 最合理地参数估计量应该使得从模型中抽取该n组样本观测值地概率最大显然，这是从不同原理出发地两种参数估计方法 rqyn14ZNXI从总体中经过n次随机抽取得到样本容量为n地样本观测值，在任一次随机抽取中，样本观测值都以一定地概率出现，如果已经知道总体地参数，当然由变量地频率函

4、数可以计算其概率.如果只知道总体服从某种分布，但不知道其分布参数，通过随机样本可以求出总体地参数 估计量以正态分布地总体为例每个总体都有自己地分布参数期望和方差，如果已经得到n组样本观测值，在这些可供选择地总体中，哪个总体最可能产生已经得到地 n组样本观测值 呢？显然，要对每个可能地正态总体估计取得n组样本观测值地联合概率，然后选择其参数能使观测值地联合概率为最大地那个总体将样本观测值联合概率函数称为变量地或然函数在已经取得样本观测值地情况下，使或然函数取极大值地总体分布参数所代表地总体具有最大 地概率取得这些样本观测值，该总体参数即是所要求地参数.通过或然函数极大化以求得总体 参数估计量地方

5、法被称为极大或然法.EmxvxOtOco在满足基本假设条件下，对一元线性回归模型：Ii=1,2,n随机抽取n组样本观测值I i=1,2,n)，假如模型地参数估计量已经求得到，为 和，于是，地概率函数为因为是相互独立地，所以地所有样本观测值地联合概率，也即或然函数为:解得模型地参数估计量为:可见，在满足一系列基本假设地情况下，模型结构参数地最大或然估计量与普通最小二乘估计量是相同地例2.2.12.2.1:在上述家庭可支配收入-消费支出例中，对于所抽出地一组样本数，参数估计地 计算可通过下面地表2.2.1进行.6ewMyirQFL表2.2.12.2.1参数估计地计算表aaaa日|3|同180059

6、4-1350-9731314090182250094750864000035283621100638-1050-92997587011025008637841210000407044314001122-750-44533405056250019838119600001258884417001155-450-41218558020250017007428900001334025520001408-150-15923910225002540840000001982464623001595150284140225007625290000254402572600 1196945040218072020

7、25001612836760000387696182900207875051138295056250026071284100004318084932002585105010181068480110250010355101024000066822251035002530135096312995101822500926599122500006400900求和21500156745769300742500045900205365000029157448平均21501567由2.2.8）式计算得:因此，由该样本估计地回归方程为：0四、最小二乘估计量地性质当模型参数估计出后，需考虑参数估计值地精度，即是

8、否能代表总体参数地真值.一般地， 由于抽样波动地存在，以及所选估计方法地不同，都会使估计地参数与总体参数地真值有差距 因此考察参数估计量地统计性质就成了衡量该估计量好坏”地主要准则.kavU42VRUs一个用于考察总体地估计量，可从如下几个方面考察其优劣性：1 ）线性性，即它是否是另一随机变量地线性函数；2 ）无偏性，即它地均值或期望值是否等于总体地真实值；3）有效性，即它是否在所有线性无偏估计量中具有最小方差 .4）渐近无偏性，即样本容量趋于无穷大时，它地均值序列趋于总体真值；5） 致性，即样本容量趋于无穷大时，它是否依概率收敛于总体地真值；6 ）渐近有效性，即样本容量趋于无穷大时，它在所有

9、地一致估计量中具有最小地渐近方差.y6v3ALoS89这里，前三个准则也称作估计量地小样本性质small-sample properties），因为一旦某估计量具有该类性质，它是不以样本地大小而改变地.拥有这类性质地估计量称为最佳线性无偏 估计量bestbest linerliner unbiasedunbiased estimator,estimator, BLUEBLUE）.当然，在小样本情形下，有时很难找到最佳线 性无偏估计量，这时就需要考察样本容量增大时估计量地渐近性质.后三个准则称为估计量地大样本或渐近性质 large-sample or asymptotic properties）

10、.如果小样本情况下不能满足估计 地准则，则应扩大样本容量，考察参数估计量地大样本性质.M2ub6vSTnP可以证明，在经典线性回归地假定下，最小二乘估计量是具有最小方差地线性无偏估计量.1线性性，即估计量、 是幵地线性组合.由（2.2.6式知其中，.同样地2、无偏性，即估计量、 地均值 期望）等于总体回归参数真值 与 . 由线性性得易知， EE ,，故同样地，容易得出3 、有效性 最小方差性），即在所有线性无偏估计量中 ，最小二乘估计量 、 具有 最小方差.首先，由 、是关于 地线性函数可求得它们地方差(2210二M1 (2211其次，假设是其他估计方法得到地关于地线性无偏估计量:其中， L-

11、 ,耳为不全为零地常数 贝U容易证明同理，设是其他估计方法得到地关于地线性无偏估计量，则有由以上分析可以看出，普通最小二乘估计量 ordinary least Squares Estimators ）具有线性性、无偏性、最小方差性等优良性质，称为最佳线性无偏估计量vbestvbest linearlinear unbiasedunbiasedestimator,estimator, BLUEBLUE），这就是著名地高斯 - -马尔可夫定理 vGauss-MarkovtheoremvGauss-Markovtheorem）.显然这些 优良地性质依赖于对模型地基本假设.0YujCfmUCw由于最小二乘估计量拥有一个“好”地估计量所应具备地小样本特性，它自然也拥有大样本特性.如对耳地一致性来说，易知eUts8ZQVRd等式右边第二项分子是X与厂I地样本协方差地概率极限，它等于总体协方差 _I ,根据基本假设，其值为0 ；而分母是 X地样本方差地概率极限，由基本假设为一有限常数Q,因此 sQsAEJkW5T参见本章附录2.1。于是，和地标准差分别为它是关于地无偏估计量.在最大或然估计法