受约束归模型ppt课件

1、3.6 受约束回归受约束回归 在建立回归模型时，有时根据经济实际需对模型中变量的参数施加一定的约束条件。 如： 0阶齐次性 条件的消费需求函数 1阶齐次性 条件的C-D消费函数 模型施加约束条件后进展回归，称为受约束模型施加约束条件后进展回归，称为受约束回归回归restricted regression; 不加任何约束的回归称为无约束回归不加任何约束的回归称为无约束回归unrestricted regression。受约束回归受约束回归 一、模型参数的线性约束一、模型参数的线性约束 二、对回归模型添加或减少解释变量二、对回归模型添加或减少解释变量 三、参数的稳定性三、参数的稳定性 *四、非线性

2、约束四、非线性约束 一、模型参数的线性约束一、模型参数的线性约束对模型kkXXXY22110施加约束121kk1得*11121110)1 (kkkkXXXXY或*1133*110*kkXXXY(*)(*)假设对*式回归得出1310,k那么由约束条件可得：1211kk 然而，对所调查的详细问题能否施加约束？需进一步进展相应的检验。常用的检验有： F检验、x2检验与t检验， 主要引见F检验在同一样本下，记无约束样本回归模型为eXY受约束样本回归模型为受约束样本回归模型为*eXY于是)X(eXeXXYe* 受约束样本回归模型的残差平方和受约束样本回归模型的残差平方和RSSR)X(X)(eeee*于是

3、eeee*ee为无约束样本回归模型的残差平方和为无约束样本回归模型的残差平方和RSSU(*) 受约束与无约束模型都有一样的受约束与无约束模型都有一样的TSS由*式 RSSR RSSU从而 ESSR ESSU这意味着，通常情况下，对模型施加约束这意味着，通常情况下，对模型施加约束条件会降低模型的解释才干。条件会降低模型的解释才干。 但是，假设约束条件为真，那么受约束回归模型与无约束回归模型具有一样的解释才干，RSSR 与 RSSU的差别变小。可用可用RSSR - RSSU的大小来检验约束的真实性的大小来检验约束的真实性 根据数理统计学的知识：) 1(/22UUknRSS) 1(/22RRknRS

4、S)(/ )(22RUURkkRSSRSS于是：) 1,() 1/()/()(URUUURUURknkkFknRSSkkRSSRSSF 讨论： 假设约束条件无效， RSSR 与 RSSU的差别较大，计算的F值也较大。 于是，可用计算的F统计量的值与所给定的显著性程度下的临界值作比较，对约束条件的真实性进展检验。留意，kU - kR恰为约束条件的个数。 例例3.6.1 3.6.1 中国城镇居民对食品的人均消费需务中国城镇居民对食品的人均消费需务虚例中，对零阶齐次性检验：虚例中，对零阶齐次性检验： 231. 010/003240. 01/ )003240. 0003315. 0(F取=5%，查得临

5、界值F0.05(1,10)=4.96 判别：不能回绝中国城镇居民对食品的人均消费需求函数具有零阶齐次特性这一假设。 无约束回归:RSSU=0.00324， kU=3 受约束回归:RSSR=0.00332， KR=2 样本容量n=14， 约束条件个数kU - kR=3-2=1这里的这里的F F检验适宜一切关于参数线性约束的检验检验适宜一切关于参数线性约束的检验如：多元回归中对方程总体线性性的F检验： H0： j=0 j=1,2,k这里：受约束回归模型为*0Y) 1/(/) 1/(/ )() 1/(/ )() 1/()/()(knRSSkESSknRSSkRSSTSSknRSSkRSSESSTSS

6、knRSSkkRSSRSSFUUUUUURUURUUR这里，运用了ESSR 0。 二、对回归模型添加或减少解释变量二、对回归模型添加或减少解释变量思索如下两个回归模型kkXXY110qkqkkkkkXXXXY11110(*)(*)(*)式可看成是*式的受约束回归：H0：021qkkk相应的统计量为：)1(,()1(/(/ )()1(/(/ )(qknqFqknRSSqESSESSqknRSSqRSSRSSFURUUUR 假设约束条件为真，即额外的变量Xk+1, , Xk+q对没有解释才干，那么统计量较小； 否那么，约束条件为假，意味着额外的变量对有较强的解释才干，那么统计量较大。 因此，可经过

7、F的计算值与临界值的比较，来判别额外变量能否应包括在模型中。讨论：讨论： 统计量的另一个等价式)1(/()1 (/ )(222qknRqRRFURU 三、参数的稳定性三、参数的稳定性 1 1、邹氏参数稳定性检验、邹氏参数稳定性检验 建立模型时往往希望模型的参数是稳定的，即所谓的构造不变，这将提高模型的预测与分析功能。如何检验？ 假设需求建立的模型为kkXXY110在两个延续的时间序列1,2,，n1与n1+1,，n1+n2中，相应的模型分别为：1110kkXXY2110kkXXY 合并两个时间序列为( 1,2,，n1 ，n1+1,，n1+n2 )，那么可写出如下无约束回归模型212121X00X

8、YY 假设=，表示没有发生构造变化，因此可针对如下假设进展检验： H0: =(*)式施加上述约束后变换为受约束回归模型(*)212121XXYY*因此，检验的F统计量为：)1(2,)1(2/ )(2121knnkFknnRSSkRSSRSSFUUR 记RSS1与RSS2为在两时间段上分别回归后所得的残差平方和，容易验证，21RSSRSSRSSU于是)1(2,)1(2/)(/)(21212121knnkFknnRSSRSSkRSSRSSRSSFR参数稳定性的检验步骤：参数稳定性的检验步骤： 1分别以两延续时间序列作为两个样本进展回归，得到相应的残差平方： RSS1与RSS2 2将两序列并为一个大

9、样本后进展回归，得到大样本下的残差平方和RSSR 3计算F统计量的值，与临界值比较： 假设F值大于临界值，那么回绝原假设，以为发生了构造变化，参数是非稳定的。 该 检 验 也 被 称 为 邹 氏 参 数 稳 定 性 检 验Chow test for parameter stability。 2 2、邹氏预测检验、邹氏预测检验 上述参数稳定性检验要求n2k。 假设出现n2F(n2, n1-k-1) ，那么回绝原假设，以为预测期发生了构造变化。 例例3.6.2 中国城镇居民食品人均消费需求的邹氏中国城镇居民食品人均消费需求的邹氏检验。检验。 1、参数稳定性检验19811994：)ln(92. 0)

10、ln(08. 0)ln(05. 163. 3)ln(01PPXQRSS1=0.003240 20192019：01ln71. 0ln06. 3ln55. 078.13lnPPXQ (9.96) (7.14) (-5.13) (1.81) 19812019: 01ln39. 1ln14. 0ln21. 100. 5lnPPXQ (14.83) (27.26) (-3.24) (-11.17) 34.10)821/()000058. 0003240. 0(4/)0000580. 0003240. 0(013789. 0F 给定=5%，查表得临界值F0.05(4, 13)=3.18 判别：F值临界值

11、，回绝参数稳定的原假设，阐明中国城镇居民食品人均消费需求在1994年前后发生了显著变化。 2、邹氏预测检验、邹氏预测检验65. 4) 1314/(003240. 07/ )003240. 0013789. 0(F给定=5%，查表得临界值F0.05(7, 10)=3.18判别： F值临界值，回绝参数稳定的原假设 *四、非线性约束四、非线性约束 也可对模型参数施加非线性约束,如对模型kkXXXY22110施加非线性约束12=1,得到受约束回归模型: *211101kkXXXY 该 模 型 必 需 采 用 非 线 性 最 小 二 乘 法nonlinear least squares进展估计。 非线性

12、约束检验是建立在最大似然原理根底上的,有最大似然比检验、沃尔德检验与拉格朗日乘数检验.1、最大似然比检验、最大似然比检验 (likelihood ratio test, LR) 估计:无约束回归模型与受约束回归模型， 方法:最大似然法， 检验:两个似然函数的值的差别能否“足够大。 记L(,2)为一似然函数:无约束回归 : Max:),(2L受约束回归受约束回归 : Max: Max:),(2L或求极值：)(),(2gL g():以各约束条件为元素的列向量, ：以相应拉格朗日乘数为元素的行向量 约束：g()=0 受约束的函数值不会超越无约束的函数值，但假设约束条件为真，那么两个函数值就非常“接近

13、。22，L，L 由此，定义似然比likelihood ratio: 假设比值很小，阐明两似然函数值差距较大，那么应回绝约束条件为真的假设； 假设比值接近于，阐明两似然函数值很接近，应接受约束条件为真的假设。 详细检验时，由于大样本下：)(),(ln),(ln2222hLLLR h是约束条件的个数。因此： 经过LR统计量的2分布特性来进展判别。 在中国城镇居民人均食品消费需求例中，对零阶齐次性的检验： LR= -2(38.57-38.73)=0.32 给出=5%、查得临界值20.05(1)3.84， 判别： LR 20.05(1),不回绝原约束的假设， 阐明:中国城镇居民对食品的人均消费需求函数

14、满足零阶齐次性条件。 、沃尔德检验、沃尔德检验Wald test, W 沃尔德检验中，只须估计无约束模型。如对kkXXXY22110 在一切古典假设都成立的条件下，容易证明 ),(2212121N因此，在1+2=1的约束条件下 )1 ,0(12121Nz记 )(2221Xf可建立沃尔德统计量:) 1 () 1(2222121W 假设有h个约束条件，可得到h个统计量z1,z2,zh 约束条件为真时，可建立大样本下的服从自在度为h的渐近2 分布统计量 )(2hWZCZ1 其中，Z为以zi为元素的列向量，C是Z的方差-协方差矩阵。 因此，W从总体上丈量了无约束回归不满足约束条件的程度。 对非线性约束，沃尔德统计量W的算法描画要复杂得多。 3、拉格朗日乘数检验、拉格朗日乘数检验 拉格朗日乘数检验那么只需估计受约束模型. 受约束回归是求最大似然法的极值问题: )(),(2gL是拉格朗日乘数行向量，衡量各约束条件对最大似然函数值的影响程度。 假设某一约束为真，那么该约束条件对最大似然函数值的影响很小，于是，相应的拉格朗日乘数的值应接近于零。 因此，拉格朗日乘数检验就是检验某些拉格朗日乘数的值能否“足够大，假设