普通最小二乘法(OLS)

普通最小二乘法（OLS）普通最小二乘法（OrdinaryLeastSquare,简称OLS）,是应用最多的参数估计方法，也是从最小二乘原理出发的其他估计方法的基础，是必须熟练掌握的一种方法。图2.2.1垠小二乘旅理在已经获得样本观测值yi'Xi（i=1,2,…，n）图2.2.1垠小二乘旅理（见图中的散点），假如模型（）的参数估计量已经求得到,为卩0和*，并且是最合理的参数估计量,那么直线方程（见图中的直线）i=l,2,…,n 应该能够最好地拟合样本数据。其中yi为被解释变量的估计值,它是由参数估计量和解释变量的观测值计算得到的。那么,被解释变量的估计值与观测值应该在总体上最为接近,判断的标准是二者之差的平方和最小。Q丄(y厂卩0-01Xi)2丄《=Q(0o'01)i=1=^u2=^y-yJ=工(_0-0x)=minQO,0)00=0000=00，01=0111为什么用平方和因为二者之差可正可负,简单求和可能将很大的误差抵消掉,只有平方和才能反映二者在总体上的接近程度。这就是最小二乘原则。那么,就可以从最小二乘原则和样本观测值出发,求得参数估计量。由于Q=工（y-y）2ii1=工（y-（3+0x））2i 0 1i1A A 八是00、01的二次函数并且非负，所以其极小值总是存在的。根据罗彼塔法则，当Q对001的一阶偏导数为0时，Q达到最小。即°Q\po卩o容易推得特征方程：po卩o容易推得特征方程：瓦(y-p-px)=》(y—y)=工i0 1i iii=1瓦x(y—p—px)二瓦x(y—p—px)二工ii01xe二0iii=1解得：工y=i工yxii0+p工00工0n工xy—疋x)(工y)工(xx2

iV所以有：ii i ii^1 i^1 日 =2x)ii=1p=y-卩x01n工x2—(工i归i■—x)(y—y)iiI乞(x-x)2ii=1于是得到了符合最小二乘原则的参数估计量。为减少计算工作量，许多教科书介绍了采用样本值的离差形式的参数估计量的计算公式。由于现在计量经济学计算机软件被普遍采用，计算工作量已经不是什么问题。但离差形式的计算公式在其他方面也有应用，故在此写出有关公式，不作详细说明。记x=x—xiiy=y—yii)的参数估计量可以写成

xy0=q1 '•X2 至此，完成了模型估计的第一项任务。下面进行模型1 e=u=y—y估计的第二项任务，即求随机误差项方差的估计量。记） ）SS为第i个样本观测点的残差，即被解释变量的估计值与观测值之差。则随机误差项方差的估计量为b八2在关于ub八2在关于u的无偏性的证明中，将给出（）的推导b2= Lun—2过程，有兴趣的读者可以参考有关资料。在结束普通最小二乘估计的时候，需要交代一个重要的概念，即“估计量”和“估计值”的区别。由（）给出的参数估计结果是由一个具体样本资料计算出来的，它是一个“估计值”，或者“点估计”，是参数估计量00和01的一个具体数值；但从另一个角度，仅仅把（）看成00和*的一个表达式，那么，则是y的函数，而乙是随机变量，所以00和*也是随机变量