计量经济学第三章多元线性回归

1、计量经济学第三章多元线性回归第1页，共42页，2022年，5月20日，7点10分，星期三第三章 多元线性回归模型 第一节：模型的建立及其假定条件第二节：最小二乘法第三节：最小二乘估计量的特性第四节：可决系数第五节：显著性检验与置信区间第六节：预测第七节：案例分析第2页，共42页，2022年，5月20日，7点10分，星期三第一节 模型的建立及其假定条件1. 为什么要引入多元线性回归模型？ 在实际经济问题中，一个经济变量往往不只受到一个经济因素的影响，而是受到多个经济因素的影响。如，商品的需求量不但受到商品本身价格的影响，还会受到消费者偏好、消费者收入以及其它相关商品价格、预期价格等因素的影响。

2、引入多元线性回归模型，为我们深入探究某经济问题如何被多个经济因素所影响提供了可能，并有助于我们解析出经济问题背后存在的内在规律。 多元线性回归模型是一元线性回归模型的推广，其基本原理和方法同一元模型完全相似。 第3页，共42页，2022年，5月20日，7点10分，星期三 设 是对总体 的n次独立样本观测值，则第一节 模型的建立及其假定条件2. 多元线性回归模型与一元模型的形式有什么不同？ 多元总体线性回归方程，简称总体回归方程。 是样本数据结构形式的多元总体线性回归模型，由n个方程、k+1个未知参数 组成的一个线性方程组。第4页，共42页，2022年，5月20日，7点10分，星期三第一节 模型

3、的建立及其假定条件3. 多元线性回归模型的方程组与矩阵形式？被解释向量=解释变量矩阵未知参数向量+随机误差向量第5页，共42页，2022年，5月20日，7点10分，星期三第一节 模型的建立及其假定条件3. 多元线性回归模型的方程组与矩阵形式？第6页，共42页，2022年，5月20日，7点10分，星期三第一节 模型的建立及其假定条件4. 多元线性回归模型的样本估计形式？样本回归模型 矩阵形式为：样本回归方程 矩阵形式为：表示残差（随机误差项估计值）的列向量第7页，共42页，2022年，5月20日，7点10分，星期三第一节 模型的建立及其假定条件5. 多元线性回归模型的假定条件假定1： E(ui)

4、 = 0 i1,2n 这样，被解释变量Yi的期望值 为： E(Yi) = 0 +1X1 i+ 2X2i + kX ki 第8页，共42页，2022年，5月20日，7点10分，星期三第一节 模型的建立及其假定条件5. 多元线性回归模型的假定条件假定2：Var(ui) = Eui - E(ui) 2 = E(ui)2 = 2 i1,2,n 这样，Yi的方差也相同，且等于 2，即： Var(Yi) = 2 i1,2,n假定3：Cov(ui, uj) = E(ui - E(ui) ) ( uj - E(uj) ) = E(ui, uj) = 0 (i j ) i，j1,2,n即：随机误差项无序列相关。

5、第9页，共42页，2022年，5月20日，7点10分，星期三第一节 模型的建立及其假定条件5. 多元线性回归模型的假定条件假定2和假定3可以由下列矩阵表示：第10页，共42页，2022年，5月20日，7点10分，星期三第一节 模型的建立及其假定条件5. 多元线性回归模型的假定条件假定2和假定3可以由下列矩阵表示：上式称为随机误差向量u的方差协方差矩阵。 第11页，共42页，2022年，5月20日，7点10分，星期三第一节 模型的建立及其假定条件5. 多元线性回归模型的假定条件即样本观测值矩阵X必须是满秩矩阵，应满足：假定4：Cov(uj, Xij) =0 i1,2k；i，j1,2n 即 ui

6、与Xi 彼此不相关。rank（X）=k1n假定5：解释变量X1 ,X2 ,X k之间不存在完全的线性关系，假定6：随机误差项服从正态分布，即uiN（0, 2）同时，被解释变量也服从正态分布 YiN(0 +1X1 i+ 2X2i + kX ki, 2)第12页，共42页，2022年，5月20日，7点10分，星期三第二节 最小二乘法参数的最小二乘估计 第一步 构建最小二乘函数：第13页，共42页，2022年，5月20日，7点10分，星期三第二节 最小二乘法参数的最小二乘估计 第二步 应用极值定理，对参数求导：第14页，共42页，2022年，5月20日，7点10分，星期三第二节 最小二乘法参数的最小

7、二乘估计 第二步 应用极值定理，对参数求导：化简第15页，共42页，2022年，5月20日，7点10分，星期三第二节 最小二乘法参数的最小二乘估计 第二步 应用极值定理，对参数求导： 写成矩阵形式第16页，共42页，2022年，5月20日，7点10分，星期三第二节 最小二乘法参数的最小二乘估计 第三步 解方程组：因为：第17页，共42页，2022年，5月20日，7点10分，星期三第二节 最小二乘法参数的最小二乘估计 第三步 解方程组：所以：于是： 就是 的最小二乘估计量。第18页，共42页，2022年，5月20日，7点10分，星期三第二节 最小二乘法2. 最小二乘估计的矩阵微分法则其中，第19

8、页，共42页，2022年，5月20日，7点10分，星期三第二节 最小二乘法2. 最小二乘估计的矩阵微分法则对矩阵求 向量的微分，得整理，得于是可见，矩阵微分法与解方程组法的结果是一样的。第20页，共42页，2022年，5月20日，7点10分，星期三第二节 最小二乘法例 3.1 由经济理论知，在市场上某种商品的需求量 主要取决于该商品的价格 和消费者的收入 。试建立该种商品的需求量与商品价格和消费者平均收入之间的线性回归模型。第一步：确立研究问题；第二步：搜集研究数据；第21页，共42页，2022年，5月20日，7点10分，星期三第二节 最小二乘法例 3.1第三步：构建计量经济学模型；第22页，

9、共42页，2022年，5月20日，7点10分，星期三第二节 最小二乘法例 3.1 第三步：构建计量经济学模型；第23页，共42页，2022年，5月20日，7点10分，星期三M是一个 n 阶对称幂等矩阵，即第二节 最小二乘法3. 随机误差项的方差 的估计量第24页，共42页，2022年，5月20日，7点10分，星期三第二节 最小二乘法3. 随机误差项的方差 的估计量则注：符号 tr 表示矩阵的迹，它等于矩阵主对角线上元素之和.第25页，共42页，2022年，5月20日，7点10分，星期三第二节 最小二乘法3. 随机误差项的方差 的估计量于是有，可见，随机误差项的方差2 的无偏估计量为：第26页，

10、共42页，2022年，5月20日，7点10分，星期三残差平方和 的计算方法如下：第二节 最小二乘法3. 随机误差项的方差 的估计量请计算例3.1中误差项方差的回归标准差。第27页，共42页，2022年，5月20日，7点10分，星期三 所谓线性性是指最小二乘估计量 是被解释变量的观测值 的线性函数： 已知 令 则 ，A是一个非随机 (k+1)n阶常数矩阵。 2. 无偏性 由 知第三节 最小二乘估计量的特性1. 线性性 第28页，共42页，2022年，5月20日，7点10分，星期三由知令则 ，因 b 是 的无偏估计量，所以从而有第三节 最小二乘估计量的特性3. 最小方差性（有效性） 第29页，共4

11、2页，2022年，5月20日，7点10分，星期三第三节 最小二乘估计量的特性高斯马尔科夫定理 如果基本假设(1)(5)成立，则最小二乘估计量 是 的最优线性无偏估计量（BLUE），即 的所有线性无偏估计量中， 具有最小方差性。例3.3 试计算例3.1中 和 的标准差的估计值。解：第30页，共42页，2022年，5月20日，7点10分，星期三第四节 可决系数1. 总离差平方和的分解 多元回归模型同一元回归模型相似，总离差平方和也可分解为：其中即总离差平方和=回归平方和+残差平方和 TSS = RSS+ ESS第31页，共42页，2022年，5月20日，7点10分，星期三第四节 可决系数2. 多元

12、样本的可决系数 修正的多元样本可决系数第32页，共42页，2022年，5月20日，7点10分，星期三第四节 可决系数 在实际应用时， 和 越大，模型拟合得越好。 和 仅仅说明了在给定的样本条件下，估计的回归方程对于样本观测值拟合的优度，拟合优度并不是评价模型优劣的惟一标准。我们并不能仅以 和 的大小来选择模型，有时为了使有重要经济意义的解释变量保留在模型中，宁可牺牲一点拟合优度。例3.4 计算例3.1的可决系数第33页，共42页，2022年，5月20日，7点10分，星期三第五节 显著性检验与置信区间 1. 回归方程的显著性检验（ F 检验） 回归方程的显著性检验是指，在一定的显著水平下，从总体

13、上对模型中被解释变量与解释变量之间的线性关系是否显著成立进行的一种统计检验。 对于多元回归模型提出原假设备择假设为当H0成立时第34页，共42页，2022年，5月20日，7点10分，星期三第五节 显著性检验与置信区间 1. 回归方程的显著性检验（ F 检验） 例3.5 试对例3.1中的估计的回归方程进行显著性检验。解：从Eviews的输出结果中，也能够直接看出第35页，共42页，2022年，5月20日，7点10分，星期三第五节 显著性检验与置信区间 2. 解释变量的显著性检验（ t 检验 ） 多元线性回归模型同一元线性回归模型一样，检验未知参数的显著性也可用 t 统计量：已知 ，其中有记 ，若

14、假设H0成立则可得 第36页，共42页，2022年，5月20日，7点10分，星期三第五节 显著性检验与置信区间 2. 解释变量的显著性检验（ t 检验 ） 例3.6 试对例3.1的回归系数 ， 进行显著性检验。 解：第37页，共42页，2022年，5月20日，7点10分，星期三第五节 显著性检验与置信区间 3. 回归系数的置信区间 已知 所以，有例3.7 试对例3.1中的回归系数建立置信度为95%的置信区间。解：基于Eviews的输出结果可得 和 的置信区间为第38页，共42页，2022年，5月20日，7点10分，星期三第六节 预测 1. 点预测 点预测：就是将解释变量X1,X2,Xk的一组特定值： X0=(1,X10,X20,Xk0) 代入估计的回归方程中，计算出被解释变量Y0 的点预测值： 即： 与一元情形一样，对 有两种解释：（1）看作 Y 的条件期望 E ( Y0 | X0 ) 的点估计（2）看作 Y 的个别值（真值）Y0 的点估计第39页，共42页，2022年，5月20日，7点10分，星期三第六节 预测 2. 区间预测 （1） 的预测区间 因此， 是 的无偏估计量。即第40页，共4