计量经济学模型的贝叶斯估计——以经典单方程为例

1、 18 赵 健：计值经济学模型的贝叶斯估计以经典单方程为例计量经济学模型的贝叶斯估计以经典单方程为例赵健阮（I.中南财经政法大学统计与数学学院，湖北武汉430074; 2.潢淮学院经济管理系，河南驻马店463000 ）摘 要：文章以正态线性单方程为例，介绍了贝叶斯统计方法在计童经济学模型中的应用，并分析了该问题中贝 叶斯估计与普通最小二来估计的区别和联系.关键词：贝叶斯估计；贝叶斯定理；损失函数中图分类号：F224.0文献标志码：A文章编号：1006-5261（2010）05-0017-03 18 赵 健：计值经济学模型的贝叶斯估计以经典单方程为例 18 赵 健：计值经济学模型的贝叶斯估计以经

2、典单方程为例收稿日期：2009-12-11作者简介：赵健（1977- X女，河南新野人，讲师.博士研究生.0引言贝叶斯统计是由T. R. Bayes于19世纪创立的数 理统计的一个重要分支.20世纪50年代，以H. Robins 为代表的学者将经验贝叶斯方法用于计试经济学模別 并与经典方法相结合，此后这种方法得到了广泛应用. 贝叶斯估计对经典让虽经济学模世估计方法的扩展在 于它不仅利用样本信息，同时也利用非样本信息.本 文以正态线性单为程为例，分析贝叶斯佔计力法在计 量经济学模型中的应用.贝叶斯估计是与经典佔汁方法相对的一种估计方 法，它的基本思路咼：要佔计的模型参数是服从一定 分布的随机变址

3、，先根据经验给出待估参数的先验分 布信息先验信总，然后将这些先验信息与样本信 息相结合.应用贝叶斯定理求出待估参数的后验分布， 再应用损失函数得岀后验分布的一些持征值并将其作 为待估参数的估计址.贝叶斯估计与传统估计方法的 不同之处在于：1）关于参数的观点不同.经典估计方法认为待估 参数00具冇确定性；贝叶斯估计方法认为待估参 数0具有随机性，即在具体进行观测（得到样本x） 之前人们根据经验对参数0积累了-些知识，虽然0 的具体值未知.但它服从®上的概率分布/（&）（ /（&） 称为0的先验分布）.2）利用的信息不同.经典方法只利用样本信息； 贝叶斯方法要求事先提供一

4、个参数的先验信息（一般 根据专家经验提供）即非样本信息，在参数估计过程 中，这些非样本仿息与样本信息一起被利用.3）对随机谋差项的要求不同.经典方法中，除了 最大似然法，在参数估计过程中并不要求知道随机误 差项的具体分布形式，但在假设检验与区间估计时是 需要的；贝叶斯方法盅要知道随机误差项的具体分布 形式.4）选择参数估计童的准则不冋.经典力法一般以 最小二乘和放大似然为准则求参数估计量；贝叶斯方 法需要构造一个损失函数（一般采用二次损失函数）, 并以损失函数最小化为准则求参数估计屋.1贝叶斯统计方法1.1W叶斯统计方法的理论基础定理1设,4,是一完备事件组，则对P（B） 0的任一事件，冇(I

5、)（1）式称为贝叶斯公式.其中：PW）和P（4l）分别 称为原因的先验概率和后验概率=P是在不知道出:件B是否发生情况下诸事件发生的概率， 在获得新的信息后（事件B发生后）人们对诸事件发 生的概率P（4|刃就有了新的估计.定理2设&为待估参数4的先验分布为g（0）.X为样本观测信息.X的密度函数记作f(X0)9 g(0X) 为&的后验分布密度国数，则有I7W)g(&) _心(&)g(0*)- f(x)一 /(/%(&炖(2)式中.对0而言 仃(X|&)g(&)d0是常数，即可 以认为/(X)是常数.由于fX6)在形式上同0的似 然函数L(

6、3X)一致，所以(2)式可改写为g(&|X) oc f(xe)g(0) = U&|X)g(&).(3)即后验信息正比于样本信息与先验信息的乘积/(x|8)g(&)称为g(0X)的核，(3)式表明可以通 过样本信息对先验信息的修止来得到更准确的后验信息.得到后验分布的密度函数后，就可以进行参数的 点估计、区间估计和假设检验.例 设已知，& N(,f2)(先验分布)，“和严已知，求0的后验分布、数学期率和 方差.2单方程计量经济学模型贝叶斯估计的过程单方程计量经济学模型贝叶斯估计的过程如下：1) 确定模型的形式，指出待估参数0.2) 给出待估参数0的先验分布

7、.0是一个多维向 虽，需要给出多参数的联合先验信息，若无先验信息， 可取0为均匀分布.实际上常用的先验分布为自然共 辄分布，即0的密度函数(先验信息)、/的密度函数(样本信息)以及两者结合后产生的函数(后验分布) 服从同一分布规律.3) 利用样本信息修正先验分布，并利用贝叶斯定 理导出“的后验密度函数.4) 选择二次损失函数，并利用0的后验密度函数 和定理3进一步推断出P的点估计.3正态线性单方程计屋经济学模型的贝叶斯估计 18 赵 健：计值经济学模型的贝叶斯估计以经典单方程为例解：由题意旬M恥扁旳一疇 嘶初p卜常十8/(x|&)g(&) = expexp(x-莎(&-

8、“)T2r2 r("GF(&一叭2a22严Jexp-諾尹严(x - 0尸 + <r2(O-tY exp 卜亦冷严02 _ 20xt2 + a2O2- 2卽& | 旳卜 2a (严 +，)少 一 20 (“2 + “2) 严+ K俨20(灯2+“夕)”OC2a2r2r2 + a2 T. (xr2+/a2d T2+(72正态线性单方程计最经济学模型为3.1有先验信息的贝叶斯估计这种情况下，Y N(X0,冈)，/(y|)= z(|y)ocexp-(r- Xp)Y- X0)/(2cr2 )J.0的先验分布为自然共觇分布，即取正态密度函数g(&) oc exp 卜

9、寺(0 -莎羽(0 -刚，(6)其中万为待估参数的先验均值，为待估参数的先 验协方差矩阵.由贝叶斯定理，可得到0的后验密度函数为g(0F)x g(0)厶(0|Y) 8 exp-l/(2(r2)- (刖2万-川/2“)，(屮2万一屮2Q + (Y-X0)Q-X0),其中A = 令(7) 18 赵 健：计值经济学模型的贝叶斯估计以经典单方程为例y Lt所以0的后验分布为N (xr2+/ja2 )/(T2+<72), <72T2/(T2+a2), 因此E(0 x) = (xt2+jua2 )/(r2 + <r2),Var(|x)= a2t2/(T2+a2).1.2损失函数常用的损失

10、函数有线性函数和二次函数.不同的 损失函数得到的参数佔计值是不同的.定理3设待佔函数加0)的取值于乩，损失函数 为厶(&.d) = 2(0)W(0)-N2 , Ov2(0)<8,则当兄(&) = 1时h的贝叶斯估计为EO)he)x)lE(O)x) = E(h(O)x).则(7)式可改写为g(即)oc exp-(W 一 GflY(W 一 G0)/3). (8) 用B表示待估参数的后验均值，E“表示待估参 数的后验协方差矩阵，并考虑关系(W-G0Y(W-G0) =(0 -鬲07(0 -鬲 + (炉-Gp)7(形-GE),B = (Gt 尸 G矽=(4 + /% 尸 + XXb

11、),赵健：计量经济学模型的贝叶斯估计以经典单方程为例9 (方是0的OLS住计值),舍去(9)式右边第二项后将 其代入(8)式，则有g(0|Y)« exp-(0 - B)OG(0 -庐)/(2,) oe exp卜(“埶八曲)(0 - 2)/3) « exp_(0-B)'(£2 +xx/a2 )(“-直)/(2少2) oc exp 卜(0-B 违2(0 2)/2,(10)其中功召"%心，(11)2 =习(易万+(X%/，)方)，(12)b = (XX)iXY.式(10)是均值B和方差±2的多元正态分布的核，即0 的后验密度函数为(“|Y)N

12、(P，岛).(由定理3可知0的W叶斯估计为B.结论：(i)后验精确度矩阵是先验精确度矩阵 £/与样本信息精确度矩阵XX/a2之和，故后验精确 度总是高于先验精确度；(ii)后验均值庐是先验均值 P与样本信息OLS估计值b的加权平均之和，权数为 各自的精确度.3.2无先验信息的贝叶斯估计在待估参数一无所知的情况下，求贝叶斯佔计时， 一般选取待估参数的先验分布为(y, + 8)上的均匀 分布，且互不相关，于是g(0) = g(0l)g(”2”g(0*)xC,其中g(A)n0.0沁(a,6)0&w(a,b)Y N(X队汕, /(打0)=厶Y)* exp-(r- X(Y - &quo

13、t;)/(2刊.g(0y)= g(0M(“|Y)xU0|Y)« exp-(JX"(Y-X")/(2，)oc exp-(0- b)¥%(0-/>) +(r-y(y-W(22)oc exp-(0-b)*r(0")/3).(14)0的后验密度函数仍然呈正态分布，均值为6.协方 差矩阵为.即(0|Y)N(b, a2(XX) >).(因此，0的贝叶斯估计为b, b是0的OLS估计值. 町见，无信息先验得到的0的贝叶斯估汁与样本信息 的OLS估计相同，但是两者的含义不同.贝叶斯结论 中的是随机的，而均值b在样本确定后是固定的； 样本信息的结论中

14、，0是期望值，而b是随机变凰， 即有bN(0,。2(*%尸).事实上，也町以玄接由(10)(式得到无信息先 验下的后验密度，只要把无信息先验作为有信息先验 的一种特殊悄况，即无信息先验的粘确度为0.令 £沪0,代入(11)秋可得到-B = (ZX/cr2)-' (X/a2) b = b,(0|Y)Ny2(X%)T), 与(15)式相同.参考文献：1 陈希孺.数理统计引论M.北京:科学出版社，1997.2 李子奈.高等计量经济学M.北京：消华大学出版社， 2000.3J李子奈计址经济学M. 2版.北京：高等教育出版社， 2000.4 芙卩ames O. Berger, Stat

15、istical decision theory and Bayesian analysisMl. Springer-Verlag, 2ndEdi 1985 5 美威廉H.格林.经济计fl：分析M.北京：中国社会科 学出版社，2000.责任编辑张继金赵健：计量经济学模型的贝叶斯估计以经典单方程为例9 这种情况匚Bayesian Estimation of Classical Econometric Linear ModelZHAO Jian1*2(1. Zhongnan University of Economic and Law, Wuhan Hubei 430074, China;2. Huanghuai University, Zhumadian Henan 463000, China)Abstract: The application of Bayesian cstimaiion methods arc introduced by using normal