CHP多元线性回归模型PPT课件

1、1第三章第三章 多元线性回归模型（多元线性回归模型（2 2）一、 基本概念回顾二、基本假设三、检验四、自变量关系 第1页/共65页2一，概念：1、偏回归系数： 1 、与双变量模型一样分为确定性成分和随机性成分。 2、Y X U也分别为被解释变量、解释变量 随机扰动项。 3 不同的是回归系数我们称之为偏回归系数第2页/共65页3偏回归系数 讨论：经济学中的比较静态分析与偏回归系数的含义！ 问题：我们如何评价某一解释变量对被解释变量的真实影响？ 如：如何评价X2对Y变化的真实贡献？控制住X3影响！第3页/共65页4如何控制住X3影响？以生产函数为例假定在度量劳动投入X2的单位变化对产出的影响时，我

2、们要控制资本投入X3的线性影响。为此目的可进行如下步骤：11331iiiYbb Xu做Y 对X3的回归做X2对X3的回归222332iiiXbbXu11133222233iiiiiiuYbb XuXbb X除去X3对Y 的影响Yi的值（“净化”了的Y ）除去X3对X2 的影响X2i的值 （“净化”了的X2第4页/共65页5步骤三12101231 iiiiiuuuaa uua做对的回归：其中， 是的单位变化对的“真实”影响。净边际劳动产值第5页/共65页6一般形式：对于有 个解释变量的线性回归模型 模型中参数 是偏回归系数，样本容量为偏回归系数：控制其它解释量不变的条件下，第 个解释变量的单位变

3、动对应变量平均值的影响。k12233.iiikkiiYXXXu(1,2,., )jjkjn第6页/共65页7指对各个回归系数而言是“线性”的，对变量则可是线性的，也可是非线性的例如：生产函数取自然对数lnlnlnlnlnYALKuYAL K u2、线性、线性第7页/共65页83、多元总体与样本回归函数、多元总体与样本回归函数第8页/共65页9 1n用矩阵表示用矩阵表示1n1knkXYu第9页/共65页10二、多元线性回归模型的基本假定二、多元线性回归模型的基本假定 假设1，解释变量是非随机的或固定的，且各X之间互不相关（无多重共线性）。 假设2，随机误差项具有零均值、同方差及不序列相关性。0)

4、(iE22)()(iiEVar0)(),(jijiECovnjiji, 2 , 1,第10页/共65页11 假设3，解释变量与随机项不相关 0),(ijiXCovkj,2 , 1 假设4，随机项满足正态分布 ), 0(2Ni第11页/共65页12上述假设的矩阵符号表示 式： 假设1，nk维矩阵X是非随机的，且X的秩=k，即X满秩。 假设2， 0)()()(11nnEEEEnnEE11)( 21121nnnEI22211100)var(),cov(),cov()var(nnn回忆线性代数中关于满秩、线性无关!对角线说明了扰动项的同方差性！对角线之外说明了扰动项的序列无关性！第12页/共65页13

5、假设4，向量 有一多维正态分布，即 ),(2I0N假设3，E(X )=0，即 0)()()(11iKiiiiiKiiiiEXEXEXXE转置假设5，回归模型的设定是正确的。第13页/共65页141、修正的可决系数、修正的可决系数可决系数只涉及变差，没有考虑自由度。如果用自由度去校正所计算的变差，可纠正解释变量个数不同引起的对比困难。三、多元回归检验第14页/共65页152、F检验第15页/共65页163、判定系数与F之间的关系：22222/ (1 )/ ()1 =1/ 1() / (1 ) 111/ ()E S SknkE S SFR S SnkkR S SnkE S SkT S SE S S

6、nkE S ST S SkT S SE S ST S SnkRRkkRRnkRF与同方向变化！多元回归总体的显著性检验与判定系数的显著性检验是等价的。第16页/共65页 4、T检验17第17页/共65页四、自变量关系 1、筛选自变量，偏F。与FC18第18页/共65页19o 判定系数比较的前提条件：n 被解释变量相同：不同解释变量的判定系数不可比n 样本容量相同n 矫正的判定系数可作为增减变量的依据2、判定系数第19页/共65页3、受限最小二乘：有约束条件的模型20第20页/共65页21第21页/共65页但是，如果约束条件为真，则受约束回归模型与无约束回归模型具有相同的解释能力，RSSR 与

7、RSSU的差异变小。 可用RSSR - RSSU的大小来检验约束的真实性) 1(/22UUknRSS) 1(/22RRknRSS)(/ )(22RUURkkRSSRSS于是：) 1,() 1/()/()(URUUURUURknkkFknRSSkkRSSRSSF第22页/共65页 讨论： 如果约束条件无效， RSSR 与 RSSU的差异较大，计算的F值也较大。 于是，可用计算的F统计量的值与所给定的显著性水平下的临界值作比较，对约束条件的真实性进行检验。注意，kU - kR恰为约束条件的个数。第23页/共65页这里的这里的F F检验适合所有关于参数线性约束的检验检验适合所有关于参数线性约束的检验

8、如：多元回归中对方程总体线性性的F检验： H0： j=0 j=1,2,k这里：受约束回归模型为*0Y) 1/(/) 1/(/ )() 1/(/ )() 1/()/()(knRSSkESSknRSSkRSSTSSknRSSkRSSESSTSSknRSSkkRSSRSSFUUUUUURUURUUR这里，运用了ESSR 0。第24页/共65页 利用约束条件判定对回归模型增加或减少解释变量考虑如下两个回归模型kkXXY110qkqkkkkkXXXXY11110(*)(*)(*)式可看成是（*）式的受约束回归：H0：021qkkk相应的统计量为：)1(,()1(/(/ )()1(/(/ )(qknqFq

9、knRSSqESSESSqknRSSqRSSRSSFURUUUR第25页/共65页 如果约束条件为真，即额外的变量Xk+1, , Xk+q对没有解释能力，则统计量较小； 否则，约束条件为假，意味着额外的变量对有较强的解释能力，则统计量较大。 因此，可通过F的计算值计算值与临界值临界值的比较，来判断额外变量是否应包括在模型中。讨论： 统计量的另一个等价式统计量的另一个等价式)1(/()1 (/ )(222qknRqRRFURU第26页/共65页 利用有限最小二乘判定参数的稳定性 1 1、邹氏参数稳定性检验、邹氏参数稳定性检验 建立模型时往往希望模型的参数是稳定的，即所谓的结构不变结构不变，这将提

10、高模型的预测与分析功能。如何检验？ 假设需要建立的模型为kkXXY110在两个连续的时间序列（1,2,，n1）与（n1+1,，n1+n2）中，相应的模型分别为：1110kkXXY2110kkXXY第27页/共65页 合并两个时间序列为( 1,2,，n1 ，n1+1,，n1+n2 )，则可写出如下无约束回归模型212121X00XYY 如果 = ，表示没有发生结构变化，因此可针对如下假设进行检验： H0: = (*)式施加上述约束后变换为受约束回归模型(*)212121XXYY（*）第28页/共65页因此，检验的F统计量为：)1(2,)1(2/ )(2121knnkFknnRSSkRSSRSSF

11、UUR 记RSS1与RSS2为在两时间段上分别回归后所得的残差平方和，容易验证，21RSSRSSRSSU于是)1(2,)1(2/)(/)(21212121knnkFknnRSSRSSkRSSRSSRSSFR第29页/共65页参数稳定性的检验步骤： （1）分别以两连续时间序列作为两个样本进行回归，得到相应的残差平方： RSS1与RSS2 （2）将两序列并为一个大样本后进行回归，得到大样本下的残差平方和RSSR （3）计算F统计量的值，与临界值比较： 若F值大于临界值，则拒绝原假设，认为发生了结构变化，参数是非稳定的。 该 检 验 也 被 称 为 邹 氏 参 数 稳 定 性 检 验（Chow te

12、st for parameter stability）。第30页/共65页 2 2、邹氏预测检验、邹氏预测检验 上述参数稳定性检验要求n2k。 如果出现n2F(n2, n1-k-1) ，则拒绝原假设，认为预测期发生了结构变化。第34页/共65页 例例 中国城镇居民食品人均消费需求的邹氏检验。 1、参数稳定性检验19811994：)ln(92. 0)ln(08. 0)ln(05. 163. 3)ln(01PPXQRSS1 19952001：01ln71. 0ln06. 3ln55. 078.13lnPPXQ (9.96) (7.14) (-5.13) (1.81) 19812001: 01ln3

13、9. 1ln14. 0ln21. 100. 5lnPPXQ (14.83) (27.26) (-3.24) (-11.17) 第35页/共65页34.10)821/()000058. 0003240. 0(4/)0000580. 0003240. 0(013789. 0F 给定=5%，查表得临界值F 判断：F值值临界值，拒绝参数稳定的原假设，表临界值，拒绝参数稳定的原假设，表明中国城镇居民食品人均消费需求在明中国城镇居民食品人均消费需求在1994年前后发年前后发生了显著变化。生了显著变化。 2、邹氏预测检验65. 4) 1314/(003240. 07/ )003240. 0013789. 0

14、(F给定=5%，查表得临界值F判断： F值值临界值，拒绝参数稳定的原假设临界值，拒绝参数稳定的原假设 第36页/共65页 *四、非线性约束 也可对模型参数施加非线性约束,如对模型kkXXXY22110施加非线性约束12=1,得到受约束回归模型受约束回归模型: *211101kkXXXY 该 模 型 必 需 采 用 非 线 性 最 小 二 乘 法（nonlinear least squares）进行估计。 非线性约束检验是建立在最大似然原理最大似然原理基础上的,有最大似然比检验最大似然比检验、沃尔德检验沃尔德检验与拉拉格朗日乘数检验格朗日乘数检验. .第37页/共65页1、最大似然比检验、最大似

15、然比检验 (likelihood ratio test, LR) 估计: :无约束回归模型与受约束回归模型， 方法: :最大似然法， 检验: :两个似然函数的值的差异是否“足够”大。 记L( ,2)为一似然函数:无约束回归 : Max:),(2L受约束回归 : Max:),(2L或求极值：)(),(2gL g( ):以各约束条件为元素的列向量, ：以相应拉格朗日乘数为元素的行向量 约束：g( )=0第38页/共65页 受约束受约束的函数值不会超过的函数值不会超过无约束无约束的函数值的函数值，但如果约束条件为真，则两个函数值就非常“接近”。22，L，L 由此，定义似然比（likelihood r

16、atio）: 如果比值很小，说明两似然函数值差距较大，则应拒绝约束条件为真的假设； 如果比值接近于，说明两似然函数值很接近，应接受约束条件为真的假设。 具体检验具体检验时，由于大样本下：)(),(ln),(ln2222hLLLR h是约束条件的个数。因此： 通过通过LR统计量的统计量的 2 2分布特性来进行判断。分布特性来进行判断。 第39页/共65页 在中国城镇居民人均食品消费需求例中国城镇居民人均食品消费需求例中，对零阶齐次性的检验： LR= -2(38.57-38.73)=0.32 给出=5%、查得临界值临界值 2 2(1)(1)， 判断： LR 2 2(1),(1),不拒绝原约束的假设

17、， 表明表明: :中国城镇居民对食品的人均消费需求函中国城镇居民对食品的人均消费需求函数满足零阶齐次性条件数满足零阶齐次性条件。 第40页/共65页 、沃尔德检验、沃尔德检验（Wald test, W） 沃尔德检验中，只须估计无约束模型。如对kkXXXY22110 在所有古典假设都成立的条件下，容易证明 ),(2212121N因此，在1+2=1的约束条件下 )1 ,0(12121Nz第41页/共65页记 )(2221Xf可建立沃尔德统计量:) 1 () 1(2222121W 如果有h个约束条件，可得到h个统计量z1,z2,zh 约束条件为真时，可建立大样本下的服从自由度为h的渐近 2 分布统计

18、量 )(2hWZCZ1 其中，Z为以zi为元素的列向量，C是Z的方差-协方差矩阵。 因此，W从总体上测量了无约束回归不满足约束条件的程度。从总体上测量了无约束回归不满足约束条件的程度。 对非线性约束，沃尔德统计量W的算法描述要复杂得多。 第42页/共65页 3、拉格朗日乘数检验、拉格朗日乘数检验 拉格朗日乘数检验则只需估计受约束模型. 受约束回归是求最大似然法的极值问题: )(),(2gL是拉格朗日乘数行向量，衡量各约束条件对最大似然函数值的影响程度。 如果某一约束为真，则该约束条件对最大似然函数值的影响很小，于是，相应的拉格朗日乘数的值应接近于零。 因此，拉格朗日乘数检验就是检验某些拉格朗日

19、乘数的值是否“足够大”，如果“足够大”，则拒绝约束条件为真的假设。第43页/共65页 拉格朗日统计量LM本身是一个关于拉格朗日乘数的复杂的函数，在各约束条件为真的情况下，服从一自由度恰为约束条件个数的渐近2分布。 2nRLM n为样本容量，R2为如下被称为辅助回归（auxiliary regression）的可决系数: kkRXXXe22110 如果约束是非线性的，辅助回归方程的估计比较复杂，但仍可按（*）式计算LM统计量的值。 最后，一般地有最后，一般地有:LMLRW 同样地，如果为线性约束，LM服从一精确的2分布：(*)第44页/共65页453、受约束的OLS 一般的多元模型都是非受限 （

20、约束）模型。因此我们用OLS估计时，称为非受限最小二乘。 经济理论有时会提出某一回归模型中的系数满足一些线性等式约束条件。 当具备这个约束条件后，方程是否有效，要进行检验 例如，考虑柯布一道格拉斯生产函数中的规模报酬不变 每一同比例的投入变化有同比例的产出变化 即 检验中，有两种方法（t检验和F检验）1第45页/共65页46对模型kkXXXY22110施加约束121kk1得*11121110)1 (kkkkXXXXY或*1133*110*kkXXXY(*)(*)如果对（*）式回归得出1310,k则由约束条件可得：1211kk第46页/共65页47 但是，如果如果约束条件约束条件为为真真，则，则

21、受约束受约束回归回归模型与模型与无约束无约束回归模型具有相同的解释能力回归模型具有相同的解释能力，RSSR 与 RSSU的差异变小。如果约束条件无效， RSSR 与 RSSU的差异较大，计算的F值也较大于是，可用计算的F统计量的值与所给定的显著性水平下的临界值作比较，对约束条件的真实性进行检验。第47页/共65页48t检验第48页/共65页49七、参数的置信区间七、参数的置信区间 参数的置信区间参数的置信区间用来考察：在一次抽样中在一次抽样中所估计的参数值离参数的真实值有多所估计的参数值离参数的真实值有多“近近”。 在变量的显著性检验中已经知道：) 1(1kntkneecStjjjjjjj第4

22、9页/共65页50容易推出：在(1-)的置信水平下j的置信区间是 其中，t/2为显著性水平为 、自由度为n-k-1的临界值。 ),(22jjststjj第50页/共65页51如何才能缩小置信区间？ 增大样本容量n n，因为在同样的样本容量下，n越大，t分布表中的临界值越小，同时，增大样本容量，还可使样本参数估计量的标准差减小； 提高模型的拟合优度，因为样本参数估计量的标准差与残差平方和呈正比，模型优度越高，残差平方和应越小，置信区间的就越窄。在实际应用中，我们希望置信度越高越好，置信区间越小越好。第51页/共65页52第五节第五节 案例分析案例分析案例：中国税收增长的分析中国税收增长的分析提出

23、问题改革开放以来，随着经济体制改革的深化和经济的快速增长，中国的财政收支状况发生很大变化，为了研究影响中国税收收入增长的主要原因，分析中央和地方税收收入的增长规律，预测中国税收未来的增长趋势，需要建立计量经济模型。第52页/共65页53理论分析影响中国税收收入增长的主要因素可能有：（1）从宏观经济看，经济整体增长是税收增长的基本源泉。（2）社会经济的发展和社会保障等都对公共财政提出要求，公共财政的需求对当年的税收收入可能会有一定的影响。（3）物价水平。中国的税制结构以流转税为主，以现行价格计算的GDP和经营者的收入水平都与物价水平有关。（4）税收政策因素。第53页/共65页54 以各项税收收入

24、Y 作为被解释变量 以GDP表示经济整体增长水平 以财政支出表示公共财政的需求 以商品零售价格指数表示物价水平 税收政策因素较难用数量表示,暂时不予考虑建立模型建立模型第54页/共65页55模型设定为:其中： 各项税收收入（亿元） 国内生产总值（亿元） 财政支出（亿元） 商品零售价格指数（%）1222334tttttY X X Xu第55页/共65页56数据来源：中国统计年鉴其中: 各项税收收入（亿元） 国内生产总值（亿元） 财政支出（亿元） 商品零售价格指数（%）数据收集数据收集第56页/共65页57假定模型中随机项满足基本假定，可用假定模型中随机项满足基本假定，可用OLS法估计法估计其参数

25、。其参数。具体操作：用用EViews软件，估计结果为：软件，估计结果为：参数估计参数估计第57页/共65页58t检验：给定 ，查t分布表，在自由度为 时临界值为 ，因为 的参数对应的t统计量均大于2.080, 这说明在5%的显著性水平下，斜率系数均显著不为零，表明国内生产总值、财政支出、商品零售价格指数对财政收入分别都有显著影响。 0.025(21)2.080t0.05- n3=25-4=21第58页/共65页59本模型中本模型中所估计的参数的符号与经济理论分析一致，说明所估计的参数的符号与经济理论分析一致，说明在其他因素不变的情况下，国内生产总值每增加在其他因素不变的情况下，国内生产总值每增加1 1亿元，平均说来财政收入将增加亿元，平均说来财政收入将增加万元；财政支出万元；财政支出每增加每增加1 1亿元，平均