计量经济学-汪家义课件 第3章 第1节 多元回归模型的定义

经济计量学汪家义第三章多元线性回归模型

在本章将把一元线性回归模型（双变量模型）推广到多元线性回归模型，即在模型中将包含二个以上的解释变量。多元线性回归模型是实践中广泛应用的模型。第一节多元回归模型的定义一、多元回归模型的意义在一元线性回归模型中，我们假定影响被解释变量的因素只有一个，即解释变量X，但是由于现实社会中经济问题的复杂性，一个经济变量可能会同多个经济变量有联系。例如，在收入—消费模型中，除了收入影响消费外，还有其它因素明显地影响消费，很明显财富就是影响消费的重要变量。在劳动力市场上，影响工资的变量不仅仅是工作年限，受教育程度也是影响工资的一个重要变量。因此，在回归分析模型中，就需要引进更多的解释变量。多元回归分析与一元回归分析相比有如下优点1．多元回归分析可以研究更多影响因素对被解释变量的影响。2．在模型中增加一些有助于解释Y的因素，Ｙ

的变动就能更好地予以解释。因此，多元回归分析有助于更好地预测。3．多元回归模型更具有一般性。一元回归模型中，只能有一个解释变量，其函数形式不一定恰当。而多元回归模型具有较大的灵活性，有利于对总体回归模型做出正确的判断。二、多元回归模型的设定含被解释变量Y

和k-1个解释变量X2，X3，…，Xk

的多元总体回归模型可表示如下：

其中，为截距，为偏斜率系数（偏回归系数），ui

为随机误差项，i为第i次观测。（1）总体回归模型：或（2）总体回归函数PRF（理论回归线）：模型的增量形式为：当有所以模型中X2前的系数的意义为：在所有其它变量X3i，X4i，…，Xki

保持不变的条件下，X2改变一个单位而导致Yi

的均值的变化量。其它斜率系数的意义与此类似。这也是多元回归的重要作用，尽管不能在其他条件不变的情况下搜集数据，但它提供的系数仍可做其他条件不变的解释。（3）样本回归函数SRF

（样本回归线）：利用样本观测值对总体回归模型进行估计可得多元回归模型的样本回归函数：若对总体进行n次观测，得到观测值：（4）样本回归模型的随机设定方式：其中各变量的解释和假设与一元线性回归模型相同。或多元线性回归分析要解决的主要问题，仍然是如何根据变量的样本观测值去估计模型中的各参数，即用样本回归函数去估计总体回归函数，并且对估计的参数和回归方程进行统计检验，最后利用回归模型进行预测和经济分析。三、经典假设经典假设条件如下：为了使得估计的参数有好的统计性质，同样要对多元总体回归模型做出假定。对于如下的多元总体回归模型：假设1：ui

均值为零。即假设2：ui

同方差。即或者假设4：ui

与每一个解释变量不相关。即假设5：模型无设定偏误。假设6：解释变量之间无完全的共线性。假设3：ui

无序列相关性。即假设1、2、3称为高斯—马尔科夫条件。（G-M条件）若存在一组不全为零的数使得完全共线性的定义：则称变量X2，X3，…，Xk

是完全共线的。或称变量X2，X3，…，Xk

之间存在完全共线性。不存在一组不全为零的数使得无完全共线性的含义是：则称变量X2，X3，…，Xk

不完全共线的。或称变量X2，X3，…，Xk

之间不存在完全共线性。四、多元回归模型的矩阵形式由于矩阵可以简化方程的表达形式，并且矩阵运算也很简洁方便，下面介绍多元回归模型的矩阵形式。设对总体回归模型进行n次观测，得到观测值：观测次数将总体回归模型写成方程组形式为：写成矩阵形式为：记称矩阵X

为设计矩阵或样本观测矩阵

于是，可得到：（1）多元总体回归模型的矩阵形式为：（2）多元总体回归函数的矩阵形式为：（3）多元样本回归函数的矩阵形式为：其中

（4）样本回归模型随机设定方式的矩阵形式为：或其中，五、经典线性回归模型假定条件的矩阵表示假定1：ui

均值为零。即假定2：ui

同方差。即假定3：ui

无序列相关性。即假定2和假定3可以统一用随机误差项U

的协方差矩阵表达出来。其中，In表示n阶单位矩阵。称为U的协方差矩阵假定4：ui

与每一个解释变量不相关。即假定5：模型无设定偏误。若存在一组不全为零的数使得完全共线性的定义：则称变量X2，X3，…，Xk

是完全共线的。或称变量X2，X3，…，Xk

之间存在完全共线性。假定6：解释变量之间无完全的共线性（无多重共线性）。完全共线性的定义用向量形式可表述为：若存在一组不全为零的数使得则称变量X2，X3

…，Xk

之间存在完全共线性。

【注1】若变量X2

，X3

…，Xk

之间存在完全共线性，则变量X2

，X3

…，Xk

中至少有一个变量能表示为其它变量的线性函数。关于完全共线性的几点说明：

【注2】若变量X2

，X3

…，Xk

中有部分变量之间存在完全共线性，则X2

，X3

…，Xk

是完全共线的。

【注3】变量X2

，X3

…，Xk之间存在完全共线性，等价于样本观测矩阵：的列向量组中至少有一个向量能够被其余向量线性表示，即样本观测矩阵的列向量组是线性相关的。

【注4】若矩阵X的行数小于列数，即则意味着。这说明矩阵X的列向量组是线性相关，即变量X2

，X3

…，Xk

之间存在完全共线性。所以，当样本的容量

n

少于需要估计参数的个数

k时，就会存在完全共线性问题。或者说，要使解释变量之间不存在完全共线性问题，必须。因此，为避免解释变量之间产生完全共线性问题，可以考虑增大样本容量。也就是说，大样本容量是避免完全共线性问题的一个途径。

【注5】变量X2

，X3

…，Xk之间不存在完全共线性，等价于样本观测矩阵：的列向量组是线性无关的。即样本观测矩阵X是列满秩的。

【注6】当解释变量变量X2