双变量回归模型估计问题 (2)课件

双变量回归模型：估计问题cht03§3.1methodofordinaryleastsquares普通最小二乘法----德国C.F.Gauss回顾双变量PRF：无法直接观测到我们可通过SRF去估计它：§3.1methodofordinaryleastsquaresSRF又是怎样被决定的呢？我们将上述公式改写得：图示如下：min最小平方leastsquares最小二乘法最小化微分法得到下列方程：正态方程Normalequations§3.1methodofordinaryleastsquares估计量的数值性质是指运用OLS方法而得以成立的性质，不管数据是怎样产生的。估计量的统计性质仅在数据产生的方式满足一定的假设下才得以成立的性质。§3.1methodofordinaryleastsquaresOLS估计量是纯粹由可观测的样本表达的，易于计算。OLSestimator是点估计量pointestimator后续将介绍区间估计量，即对未知的总体参数的可能值提供一个范围。一旦从样本数据得到OLS估计值，便容易画出样本回归线。§3.1methodofordinaryleastsquares回归线的一些性质：它通过Y和X的样本均值。估计的Y的均值等于实测的Y的均值残差的均值为零残差和预测的Y值不相关残差和X值不相关数值性质性质2的说明性质3的说明在求解最小化问题时，微分得到性质4的说明由性质3，5直接可得。§3.2CLRM:OLS的基本假定假定1：线性回归模型。即回归模型在参数上是线性的，这是CLRM的起点，全书将保持这种线性性假定。假定2：在重复抽样中，X值是固定的，非随机的。这个假定的根本意思就是，我们的回归分析是条件回归分析，以给定的解释变量x值为条件。§3.2CLRM:OLS的基本假定假定3：干扰项具有零均值。YXYYXYPRF条件均值X1X2X3X4X1X2X3YX1X2X3Y§3.2CLRM:OLS的基本假定假定5：干扰项之间不存在自相关（Noautocorrelationbetweenthedisturbances）。给定任意两个X值，对应的两个干扰项之间的相关（correlation）等于0。§3.2CLRM:OLS的基本假定假定6：ui和Xi之间的协方差等于0。§3.2CLRM:OLS的基本假定假定7：观察值的个数n必须大于要估计的参数的个数。假定8：X值的变化必须足够大。§3.2CLRM:OLS的基本假定假定10：不存在多重共线性（multicollinearity）。也就是说，在解释变量之间不存在完全的线性关系。这实际上是多元回归中的假定。这里先提一下。§3.3最小二乘估计的精度或标准误差

Var代表方差，se代表标准误，

上述公式，除方差外，都有数据，那么方差如何计算？

的特点1、的方差与成正比，与成反比。2、的方差与成正比，与,n成反比。3、由于和是估计量，它们是互相依赖的。§3.4最小二乘估计量的性质：

高斯—马尔科夫定理Gauss-MarkovTheorem:Giventheassumptionsoftheclassicallinearregressionmodel,theleast-squaresestimators,intheclassofunbiasedlinearestimators,haveminimumvariance,thatis,theyareBLUE.最优线性无偏估计量（bestlinearunbiasedestimator,BLUE），即：1.Itislinear.2.Itisunbiased.3.Ithasminimumvarianceintheclassofallsuchlinearunbiasedestimators;anunbiasedestimatorwiththeleastvarianceisknownasanefficientestimator.

§3.5判定系数r2:拟合优度的一个度量样本回归线样本点全部落在SRL上？太完美了必然有正负的残差我们希望这些围绕在回归线的残差尽可能小。判定系数r2就是告诉我们这条回归线对数据拟合的到底好不好的一个度量。

XY

定义：§3.5判定系数r2如上定义的r2，我们称之为判定系数。它是对回归线拟合优度最为常用的度量r2测度了在Y的总变异中由回归模型解释的那个部分所占的比例或百分比。r2的两个性质：1、非负；2、0≤r2≤1。

r2的快捷计算公式

r2的快捷计算公式

一个与判定系数r2紧密相关但是概念上却不同的统计量是样