计量经济学（第三版）课件：多元线性回归分析基础

计量经济学（第三版）多元线性回归分析计量经济学

多元线性回归分析12十二月2024重点问题参数的最小二乘估计最小二乘估计量的性质参数估计式的分布特性与检验多重共线性多元线性回归分析12十二月2024主要内容第一节模型的假定

第二节参数的最小二乘估计

第三节最小二乘估计量的性质第四节参数估计式的分布特性与检验第五节多重共线性第六节预测多元线性回归分析12十二月2024第一节模型的假定模型矩阵形式其中多元线性回归分析12十二月2024第一节模型的假定In为n阶单位阵多元线性回归分析12十二月2024第二节参数的最小二乘估计残差向量残差平方和*式*为正规方程组，包含k个方程式多元线性回归分析12十二月2024第二节参数的最小二乘估计由假设条件可以证明XTX是正定的，即XTX>0则最小二乘估计：多元线性回归分析12十二月2024第三节最小二乘估计量的性质一、最小二乘估计的特性1.线性特性2.无偏性多元线性回归分析12十二月2024第三节最小二乘估计量的性质3.最优性多元线性回归分析12十二月2024第三节最小二乘估计量的性质多元线性回归分析12十二月2024第三节最小二乘估计量的性质多元线性回归分析12十二月2024第三节最小二乘估计量的性质多元线性回归分析12十二月2024第三节最小二乘估计量的性质二、误差项方差估计

即e是U的线性变换。其中，M称为最小二乘基本等幂矩阵。

多元线性回归分析12十二月2024第三节最小二乘估计量的性质M的性质：（1）对称性MT=M（2）等幂性

Mn=M（3）M与X互相独立MX=0多元线性回归分析12十二月2024第四节参数估计式的分布特性与检验一、参数估计式的分布特性

在多元线性回归分析中，除了要进行与一元线性回归分析中类似的单个参数的检验，还要检验多个解释变量对被解释变量Y的共同影响是否显著。通常构造F统计量进行这些检验。多元线性回归分析12十二月2024第四节参数估计式的分布特性与检验多元线性回归分析12十二月2024第四节参数估计式的分布特性与检验多元线性回归分析12十二月2024第四节参数估计式的分布特性与检验多元线性回归分析12十二月2024第四节参数估计式的分布特性与检验多元线性回归分析12十二月2024第四节参数估计式的分布特性与检验二、参数β的线性约束检验与置信区间多元线性回归分析12十二月2024第四节参数估计式的分布特性与检验1.β的置信区间当R=Ik，可以得到β的置信区间多元线性回归分析12十二月2024第四节参数估计式的分布特性与检验2.β的检验（1）参数的整体检验问题H0∶β2=β3=…=βk=0

H1∶存在某个βi≠0,2≤i≤k

多元线性回归分析12十二月2024第四节参数估计式的分布特性与检验（2）单个参数的检验问题

H0∶βi=0H1∶βi≠0

多元线性回归分析12十二月2024第四节参数估计式的分布特性与检验三、相关分析记为复相关系数或决定系数相关系数也可以表示为相关系数R2有一个显著特点：如果观察值Yt不变，决定系数R2将随解释变量的数目增加而增大。

多元线性回归分析12十二月2024第四节参数估计式的分布特性与检验定义为修正的决定系数修正的决定系数比一般决定系数更准确地反映了解释变量对被解释变量的影响程度。因此在一般情况下，修正的确定系数比R2应用更广泛。注：修正的决定系数可能为负值多元线性回归分析12十二月2024第四节参数估计式的分布特性与检验四、单因素方差分析1.单因素方差分析的模型其中，μi为第i个水平下Yij的总体均值。eij为Yij与均值之差。σ2为Yij的方差，方差为常数。k为因素A的水平数量。ni为从第i个水平Ai中抽取的样本数量。多元线性回归分析12十二月2024第四节参数估计式的分布特性与检验2.单因素方差分析的检验H0∶μ1＝μ2＝…＝μk＝μVSH1∶μi不全相等多元线性回归分析12十二月2024第四节参数估计式的分布特性与检验定义统计量多元线性回归分析12十二月2024第四节参数估计式的分布特性与检验五、方差分析、相关分析和回归分析的关系方差分析方法也可以应用在回归分析中。把由因素A引起的组间离差平方和ASS换成回归平方和ESS，把由随机因素引起的组内离差平方和RSS换成残差平方和RSS。把k由代表水平数目换成代表参数数目。多元线性回归分析12十二月2024第四节参数估计式的分布特性与检验六、用逐步引入法选择解释变量基本思想：借助回归分析的方差分析方法，对总变差中由新增加的解释变量所带来的增加的可解释部分的方差比进行F检验，以决定新引入的解释变量的取舍。见69页例2-2多元线性回归分析12十二月2024第五节多重共线性多重共线性指解释变量之间存在比较强的线性相关关系。

一、多重共线性造成的影响1.如果解释变量之间存在完全多重共线性，无法得到参数估计式。2.严重多重共线性，即︱X′X︱≈0时，具有下列影响(1)大大降低预测精确度由于|X’X|0，引起(X’X)-1主对角线元素较大，使参数估计值的方差增大，OLS参数估计量非有效。多元线性回归分析12十二月2024第五节多重共线性(2)发生弃真错误由于的方差很大，在进行显著性检验时t统计量明显偏小，即使决定系数R2及F统计量很大，也容易淘汰一些不应淘汰的解释变量。(3)造成错误的模型关系

由于严重多重共线性是指解释变量之间有强线性相关关系。因此，不同解释变量对被解释变量的影响会发生互相代替的情况。如果采用逐步引入法选择解释变量，已经引入并且经检验证明显著的解释变量的数值就会变小，t数值下降，变为不显著的，甚至出现参数符号改变的情况。原来模型中与被解释变量正(负)相关的解释变量，由于新解释变量引入，变为负(正)相关，从而造成错误的模型关系。(4)建立的回归模型的可靠程度降低参数估计值及其方差对样本很敏感，由于增加或减少一些样本，参数估计值及其方差发生很大变化，因而建立的回归模型的可靠程度降低。多元线性回归分析12十二月2024第五节多重共线性二、多重共线性的检验1.相关系数检验法

对样本中任何两个不同解释变量求简单相关系数，如果相关系数r的绝对值比较大，例如|r|＞0.8，或|r|＞0.9，就可以认为这两个样本之间高度相关，因而样本存在多重共线性。

2.逐步分析检验法

这种检验方法首先对各种可能的多元线性回归模型分别进行参数估计和检验。先引入经济意义明显，并且统计上最显著的解释变量，然后逐步引入其他解释变量。如果新引入解释变量使原有解释变量的数值发生明显变化，甚至改变其符号，或者使原有解释变量的t统计量明显变小，就表示新引入的解释变量与原有解释变量之间存在多重共线性。多元线性回归分析12十二月2024第五节多重共线性三、处理多重共线性问题的方法1.保留重要解释变量2.去掉不重要的解释变量3.一阶差分法4.主分量法多元线性回归分析12十二月2024