离散选择模型完整版

1、HEN system office room HEN 16H-HENS2AHENS8Q8-HENH1688第五章离散选择模型在初级计量经济学里，我们已经学习了解释变量是虚拟变量的惜况，除此之外，在实 际问题中，存在需要人们对决策与选择行为的分析与研究，这就是被解释变量为虚拟变量 的情况。我们把被解释变量是虚拟变量的线性回归模型称为离散选择模型，本章主要介绍 这一类模型的估计与应用。本章主要介绍以下内容：1、为什么会有离散选择模型。2、二元离散选择模型的表示。3、线性概率模型估计的缺陷。4、Logit模型和Probit模型的建立与应用。第一节模型的基础与对应的现象、问题的提出在研究社会经济现象时

2、，常常遇见一些特殊的被解释变量，其表现是选择与决策问题， 是定性的，没有观测数据所对应；或者其观测到的是受某种限制的数据。1、被解释变量是定性的选择与决策问题，可以用离散数据表示，即取值是不连续的。 例如，某一事件发生与否，分别用1和0表示；对某一建议持反对、中立和赞成5种观点， 分别用0、1、2表示。山离散数据建立的模型称为离散选择模型。2、被解释变量取值是连续的，但取值的范围受到限制，或者将连续数据转化为 类型 数据。例如，消费者购买某种商品，当消费者愿意支付的货币数量超过该商品的 最低价值 时，则表示为购买价格；当消费者愿意支付的货币数量低于该商品的最低价 值时，则购买 价格为0。这种类

3、型的数据成为审查数据：再例如，在研究居民储蓄时，调查数据只有存款 一万元以上的帐户，这时就不能以此代表所有居民储蓄的情况，这种数据称为截断数据.这 两种数据所建立的模型称为受限被解释变量模型。有的时候，人们甚至更愿意将连续数据 转化为上述类型数据来度量，例如，高考分数线的设置，就把高出分数线和低于分数线划 分为了两类。下面是儿个离散数据的例子。例研究家庭是否购买住房。曲于，购买住房行为要受到许多因素的影响，不仅有家庭 收入、房屋价格，还有房屋的所在环境、人们的购买心理等，所以人们购买住房的心理价位很难观测到，但我们可以观察到是否购买了住房，即 我们希望研究买房的可 能性，即概率？（Y = 1）

4、的大小。例分析公司员工的跳槽行为。员工是否愿意跳槽到另一家公司，取决于薪资、发展 潜力等诸多因素的权衡。员工跳槽的成本与收益是多少，我们无法知道，但我们可以观察 到员工是否跳槽，即例对某项建议进行投票。建议对投票者的利益影响是无法知道的，但可以观察到投 票者的行为只有三种，即研究投票者投什么票的可能性，即p（y = /）,7 = i,2,3o从上述被解释变量所取的离散数据看，如果变量只有两个选择，则建立的模型为二元 离散选择模型，乂称二元型响应模型；如果变量有多于二个的选择，则为多元选择模型。 本章主要介绍二元离散选择模型。离散选择模型起源于Fechner于1860年进行的动物条件二元反射研究

5、。1962年， Warner 首次将它应用于经济研究领域，用于研究公共交通工具和私人交通工具的选择问题。70-80 年代，离散选择模型被普遍应用于经济布局、企业选点、交通问题、就业问题、购买行为等 经济决策领域的研究。模型的估计方法主要发展于20世纪80年代初期。（参见李子奈，高 等计量经济学，清华大学出版社，2000年，第155页-第156页）二、线性概率模型对于二元选择问题，可以建立如下计量经济模型。1、线性概率模型的概念设家庭购买住房的选择主要受到家庭的收入水平，则用如下模型表示其中，xr为家庭的收入水平，X为家庭购买住房的选择，即由于F是取值为0和1的随机变量，并定义取丫值为1的概率是

6、0则丫的分布为即随机变量丫服从两点分布。根据两点分布，可得丫的数学期望为上述数学模型的经济学解释是， 因为选择购买住房变量取值是1,其概率是。，并且 这时对应？的表示是一线性关系，因 此，丫在给定X,下的条件期望E(YXJ可解释为在给定&下，事件(家庭购买住房)将发 生的条件概率为？(E = 1|XJ,亦即家庭选显然从而显然从而Y01概率1-PPE(YXi = pPiXi=p(5-1)择购买住房的概率是家庭收入的一个线性函数。我们称这一关系式为线性概率函数。曲于，Y服从两点分布，所以，丫的方差为2、线性概率函数的估计及存在的问题对线性概率函数直接运用OLS 估计，会存在以下困难。随机误差项的非

7、正态性I概率 表现表明服从两点分布。而在经典讣量经济学中，假定服从正态分布。的异方差性。事实上，根据服从两点分布 贝U妁的方差为Var (uf) = Pi(l-Pj)。表明随着i的变动是一个变量，则心的方差不是一个固定常数。利用加权最小二乘法修正异方差取权数为可以证明半具有同方差。在具体估计线性概率模型时，用作为4的估计来计算权数H的 估计o3、可决系数F的非真实性。曲于，被解释变量Y只取值1或0,不可能有估计的线性 概率模型能很好地拟合这些点，所以，这时计算的正会比1小许多，在大多数例子中，F 介于与之间。4、0WE7|XJW 1不成立。克服这一问题可直接从对线性概率模型的估计，求出用人工

8、的方法定义当1时，取廉二1;当时，取二0。但要比较好地解决这类问题，只能考虑采用新的估计方法，这就是将要介绍的 Logit模型和Probit模型。第二节Logit 模型一、Logit 模型的产生1、产生Logit模型的背最由上述介绍可知，对于线性概率模型来说，存在一些问题，有的问题尽管可以用适当 的方法加以弥补，但并不完善和理想。古典假定不再成立如存在异方差性，可用加权0LS方法加以弥补。在线性概率模型中，对于不满足0的情况，用人工的方法处理，B|J当1时，取二1当时，取虽然能够弥补不足，但仍然具有较强的主观因素。经济意义也不能很好地得到体现。在线性概率模型E (YX) 二口严伙X严p 中，概

9、率？ (y = l)会随着X,的变化而线性变化，但这与实际悄况通常不符。例如购买住 房，通常收入很高或很低，对于购买住房的可能性都不会有太大的影响，而当收入增加很 快时，对购买住房的影响将会很大。所以，购买住房的可能性与收入之间并不是线性关 系，有可能是一种非线性关系。2、Logit模型的含义综合上述讨论，我们所需要的是具有如下二分性质的模型。随着&的减小，必趋近0的速度会越来越慢；反过来随着&的增大，门接近1 的速度也越来越慢，而当X,增加很快时，门的变化会比较快。故必与X,之间应呈非线性 关系。并且山概率的属性，门的变化应始终在0和1之间。因此，一个很自然的想法是采用随机变量的分布函数来表

10、示几与乙的这种非线性关系。从儿何图形看，所需要的模型有点像图那样，概率位于0与1之间，并随着非线性地 变化。图一个累积分布函数的图形形如图所示的S型曲线，就是随机变量的一个累积分布函数(CDF)。因此，当回归中的被解释变量是取0和1的二分变量时，并且概率值的变化与解释变量X,之间有上述变 化特征，则可用CDF去建立回归模型。在二分被解释变量的研究中可使用多种分布函数(Cox, 1970)来表示。但最常用的是Logistic分布函数和标准止态分布函数，前者导出 Logit模型，后者导出Probit模型。Logistic分布函数设P 忆*岛土 (12式中， z,=prp丛严并且在该表达式中，有如下

11、变动规律，当 Zj +o时，p. 1 ;当 Z, T -O0 时，Pi T 0 ；当乙=0时，Pl=-o2称(5-2)式为Logistic分布函数，它具有明显的S型分布特征。Logit 模型以下是由Logistic分布函数导出Logit模型。其中，工为机会概率比(简称机会比，下同)，即事件发生与不发生所对应的概1 -门率之比。称(5-3)式为Logit模型。3、Logit模型的特点随着P从0变到1, In ()从丫0变到00 (亦即乙从Y0变到x) 0可以看 1-出，在LPM中概率必须在0与1之间，但对Logit模型并不受此约束。In (上)对X,为线性函数。1-当ln(-D为正的时候，意味着

12、随着X,的增加，选择1的可能性也增大1-To 当 In ()1为负的时候，随着To 当 In ()1会比由1变到0时，ln （_L）会变负并且在幅度上越来越大；当机会比由1变到无穷 1-时，h】（_L）为正，并且也会越来越大。4、Logit模型与线性回归模型的区别（1）Logit模型为非线性模型，尽管等式右端看上去是线性形式，而普通回归模 型是线性模型。（2）线性回归模型研究被解释变量丫的均值E（YXt）与解释变量X,之间的依存 关系，而Logistic分布函数研究的是事件发生的概率P（Y = X）与解释变量X,的依存 关系。（3）线性回归模型中包含随机误差项，对的要求是要满足基本假定，而 L

13、ogistic分布函数没有出现随机误差项，对模型没有这样的要求。（4）在估IT Logit模型时，要求数据必须来自于随机样本，即各观测值相互独 立，或者说要求样本分布与总体分布具有同一性，而对线性回归模型一般悄况下并无这样 严格的要求。此外，Logit模型与线性回归模型的一个相同的要求是，解释变量之间要无多重共线 性，否则，会导致参数估计的方差变大和不稳定。二、Logit 模型的估计为了估it Logit模型，除了 X：夕卜，我们还应有In （上）的数值。由于必只取值为1和0 （即事件发生或不发生，如买房或不买房），使得In （上）无意义，通常情况1一下，几没有具体的数据，所以直接对Logit

14、模型进行估计有困难。这时，可有以下估计方 法。1、根据数据类型选用0LS方法可通过市场调杏获得分组或重复数据资料，用相对频数几二土化为必的估汁。以叫 购买住房为例，将购买住房的惜况分组，假设第3组共有叫个家庭，收入为乂，其中 有，；个家庭已购买住房，其余未购买。则收入为X,的家庭，购买住房的频率为将其作为口 的估计，并代入对数机会比，有于是，样本回归函数为对上式可直接运用OLS法估汁未知参数了。具体应用可参见Damodar N. Gujarati计量经 济学基础(第四版)下册，中国人民大学出版社，2005年。第559页-第560页。2、最大似然估计方法在线性回归中估计总体未知参数时主要采用OL

15、S方法，这一方法的原理是根据线性回 归模型选择参数估汁，使被解释变量的观测值与模型估汁值之间的离差平方值为最小。而 最大似然估计方法则是统讣分析中常用的经典方法之一，它是建立在山联合密度函数所导 出的似然函数，并对其求极值而得到参数估计的一种方法。在线性回归分析中最大似然估 计法可以得到与最小二乘法一致的结果。但是，与最小二乘法相比，最大似然估计法既可 以用于线性模型，乂可以用于非线性模型，由于Logit回归模型是非线性模型，因此最 大似然估汁法是IT Logit回归模型最常用的方法。下面，以单变量为例，说明该方法的运 用。假设有n个样本观测数据(X,), i = l,2,由于样本是随机抽取，

16、所以，在给定X 条件下得到的力=1和乙=0的概率分别是门和1-门。于是，一个观测值的概率为其中， 齐二1或匕=0。因为，各项观察相互独立，则n次观察所得的样本数据的联合分布可表示为 各边际分布的连乘积称上式为n次观察的似然函数。山最大似然估汁法的原理知，最大似然估汁就是求解出具 有最大可能取所给定的样本观测数据的参数估讣。于是，最大似然估计的关键是估计出人 和B,使得上述表达式取得最大值。将上式两端取对数得称上式为对数似然函数。为了估计能使lnU002)有最大的总体参数估计诊和A,先分别对0,02求偏导数，然后令其为0,得在线性回归中，似然函数是通过把偏离差平方和分别对肉,02求偏导数得到，它

17、对于未知 参数都是线性的，因此，很容易求解。但是对于Logit回归中的上述两个方程是关于的非 线性函数，求解十分困难。随着现代计算机技术的发展，许多计量经济学和统计学的软件 包均有Logit回归的参数最大似然估汁值，常用的EViews软件就含有该估计方法。3、Logit回归最大似然估计的统计性质(1)参数估讣具有一致性，即当样本观测增大时，模型的参数估计值将比较接近参数的真值。参数估汁为渐近有效，即当样本观测增大时，参数估汁的标准误相应减小。参数估计满足渐近正态性，即随着样本观测的增大，估计的分布近似于正态分布。这意味着，可以利用这一性质对未知参数进行假设检验和区间估计了。有关证明可参见 Al

18、drich, John & Forrest D. Nelson. 1984. LinearProbability, Logit, and Probit ModelsNewbury Park, Sage Publications.三、Logit回归模型的评价和参数的统计检验与一般线性回归模型一样，在得到Logit回归模型的参数估计后，还应对模型进 行 评价和相应的统汁检验。1、模型的拟合优度检验模型估汁完成以后，需要对模型是否有效地描述了模型与观测数据的匹配程度进行评 价。如果模型的预测值(拟合值)能够与对应的观测值有较高的一致性，就认为该模型能 拟合数据，否则，将不接受这一模型。对Logit回

19、归模型的评价有多种方法，不同的计算 软件给出的评价结果也有差异。这里，我们将根据EViews软件，介绍模型拟合优度的检 验方法。(1) McFadden R2在前面的介绍中，已经提到对于离散选择模型，通常的拟合优度用没有多大意义。在 EViews软件里，有一种方法即McFadden R2，简记为其计算公式为式中，UF”为模型中包含 所有解释变量的无约束对数似然函数值，巴为模型中仅含有截距项的有约束的对数似然 函数值。从概念上讲，UF”和口人分别等价于普通线性回归模型中的RSS和TSS。与F 样，也在0到1之间变动。(2)期望-预测表检验该方法的原理是，在模型参数估汁后，选取适当的截断值/7 (

20、0/70,其中，乙B+BZ如果样 本中的一个观测数据丫的数值为0,并且该样本属于第1组，同时另一个观测数据Y的数值 为1,并且属于第2组，就称这个观测数据是分组恰当的，否则就称这个观测数据是分组不 恰当的。该方法的思想是利用分组恰当与否，得到观测数据占总样本的比重来检验模型的 拟合优度。如果模型估汁与实际观测数据比较一致，则大多数的观测数据应该是分组恰 勺的，反之，如果分组不恰、“1的观测数据所占的比重很大，说明模型右汁与实际观测 数据的拟合程度较差，模型就需要调整。利用软件EViews进行期望-预测表检验的步骤如下：第一步，在彳占计好模型的窗口中按此匕路径选择 View/Expectatio

21、n Prediction Tableo第二步，出现一个对话框，在对话框里输入一个截断值“（Ovpvl）,系统默认的截断 值是。通常情况下，可取乂为1的次数在总观测次数中所占的比例作为截断值的估计值。第三步，点击0K后可生成对应的期望-预测表。这时便可利用该表进行拟合优度的判 断。有关Logit回归模型的拟合优度其它检验方法，如皮尔逊才检验、偏差检验、从 “仟-么，正Mow拟合优度指标和信息测量指标等。可参见相关文献，如王济川、郭 志刚，Logistic回归模型方法与应用，高等教育出版社，2001年，第58页第89页。2、参数的显着性检验对模型中参数的显着性检验，就是决策判断某个解释变量对事件的

22、发生（即选取r = i）是否有显着性影响。如果检验结果表明该解释变量对选取丫二1的发生有显着性影响， 则认为将该解释变量放入Logit回归模型中是恰当的。否则，需要对模型进行适当的调 整。（1）Z检验以一元Logit回归模型为例，设模型为对该模型中的参数02的显着性检验的原假设为日。：02 = 0，即解释变量X.对事件丫 = 1发生的概率没有显着性影响。根据参数的最大似然估计性质可知，在大样本条件 下，介渐近服从正态分布，于是，在日。：02= 0成立的前提下，检验统计量为渐近服从 标准正态分布。式中，影（压）为最大似然估il倡的标准误差。因此，可按常规查标准 正态分布表，对原假设进行判断，从而

23、检验模型中参数的显着性。（2）Wald 检验对模型中参数显着性检验还可使用Wald检验，其检验统计量为在/70： A= 0下，W渐近服从自由度为1的才分布。因此，可根据才分布表，在给定的显着性水平&下，得到相应的临界值，从而判断参数的显着性。可参阅 Hauck, W. W. & A. tests as applied to hypotheses in logit analysis.Journal of the American Statistical Association, : 851-853.（3） 似然比检验统计学上已经证明，在大样本情况下，两个模型之间如果具有嵌套关系，则两个模型之间的

24、对数似然值乘以-2的结果之差近似服从才分布。这一统计量就是似然比统计量。该检验的思想是，假设一个模型记为中有解释变量X，另一个模型记为包含了M%/1中所有其它解释变量，而没有包含Xj,则称嵌套于Model亦即Model：包含了 Model!通过这一模型之间嵌套关系，我们实际上需要判断的是X,出现在模型Modt71中是否合 适。Hanushek & Jackson , 1977; Aldrich & Nelso, 1984; Greene, 1990; Long, 1997 分别 证实了似然比统计量为其中，山（4汶川）为所设定的原模型（即包含了所有解释变量一一“有约束”）的最大 似然函数的对数值

25、，】n （嗣池）为省略模型（即省略了解释变量X/ “无约束” 的最大似然函数的对数值，两者之间的差乘以-2近似地服从才分布，其自山度为省略了的 解释变量的个数。接下来，可根据才分布表，在给定的显着性水平Q下，得到临界值，从 而判断参数的显着性。例 分析某种教学方法对成绩影响的有效性，被解释变量GRADE为接受新教学方法后 成绩是否改善，如果改善取1,否则取0; GPA为平均分数；TUCE为测验得分；PSI为是否 接受新教学方法，如果接受取1,否则取0。运用EViews软件中Logit模型估计方法得到 如下结果IVxe EQU1 Voxlcfile: GKEINF2U4lGxII Eilc E,

26、4i * Qbj ect 乂 i ewQui ck Onti ons WindowViwvv | E cc | Object | 亦Nmme | Estimate | SwcQSt | Stats | ResidsDependent Variable GRADEMethod ML -日 inmry Logit (Quadratic hill climbing) Date: 06/04/06 Time: 22:11Sample 1 32Included observations 32Convergence achieved after 5 iterationsCovariance matrix

27、computed using second derivativesVariableCoefficientStd Errorz-StatisticProb13.021354.931317-2.G405410 0083 0C GPA TUCE PSI282G1131.2S29402 23772G02520.0951580.141554 10.6722350.5014237868806456322344260 0255Mean dependent var S E of regression Sum squ 合Ed resid Log likelihood Restr. log likelihood

28、LR statistic (3 df) Probability(LR stat)03437500 38471G4144171 12 889G3 -20 591731S.404190 001502S D dependent var Akaike info criterion Schwarz criterion Hannan-Quinn criter. Avg log likelihood McFadden R-squared0 4825591 0556021 2388191 116333 0.402801 0.374038Obs with Dep=021Total obs32Obs with D

29、ep=1111、由表格写出估计表达式2、参数的显着性检验包括截距项在内的4个参数估计的标准差分别为它们的z统计量分别是给定a = 0.05,表明除了变量TUCE外，其它两个变量对机会比均有显着性的正影响。3、模型的显着性检验（1）由计算表格知，拟合优度指标略=0.3743,表明模型有一定的拟合优度。（2）期望-预测表检验。因为，接受新方法成绩有所改善的比例为，所以选取截 断值为。在建好模型的窗口按前述的路径得到如下结果由上表可知，左边给出的是对观测数值分组的结果，归入第1组的观测数值共为19个，其中，分组恰当的为17个，分组不恰当的为2个，即对被解释变量Y = 0的观测17数值（总共21个）来

30、讲，模型分组恰当的比率为 （乂）；归入第2组的观测数值21为13个，其中，分组恰当的为9个，分组不恰当的为4个，即对被解释变量丫 = 1的9观测数值(总共11个)来讲，模型分组的恰当比率为( - ) ； 111此得到模型所有观 11测数值总的分组恰当比率为 (-),说明估计的模型有较好的拟合优度。32四、如t模型回归系数的解释山前面的推导可知，将事件发生的条件概率定义为p (y = iixr) = /7，则我们可得到 如下模型P(Y 11 XJ - + 严 0 曲-i + exp (一肉一 0 丸)(5-3)进一步，在发生比的基础上，我们还可得到如下模型(5-4)对模型(5-4),由于等式右端

31、为线性表示，则可完全按照线性回归模型系数那样来解释。 一个解释变量的作用如果是增加对数发生比的话，也就增加了事件发生的概率。具体来 讲，Logit模型的系数如果是正的并且统计显着，则在控制其它变量的情况下，对数发生 比随对应的解释变量值增加而增加，相反，一个显着的负系数代表对数发生比随对应解释 变量的增加而减少。如果系数的统讣性质不显着，说明对应解释变量的作用在统计上与0 无差异。1、按发生比率来解释Logit模型的系数对Logit模型的回归系数进行解释时，很难具体把握以对数单位测量的作用幅度，所 以通常是将Logit作用转换成对应的发生比来解释。设模型为转换成发生比的形式(还原成以。为底的指

32、数函数)(5-5)1 - Pi式中，截距A可以作为基准发生比的对数。基准的意思是指当Logit模型中没有任何解释变量时所产生的发生比。或者，除了常量外，所有解释变量都取0值时所产生的发生 比。对于解释变量的作用的解释，由(5-5)式看出，各项作用之间已经山加法的关系转 变为乘法关系。因此，系数伙的作用可解释为，当02为正值时，/将大于1,则在其它条件不变的情况下，/每增加一个单位值时发生比会相应增加；当伙为负值 时，将小于1,说明X,每增加一个单位值时发生比会相应减少；而当02为0时，/将等于 1,那么/不论怎样变化发生比都不会变化。例如，在新教学方法采纳的分析中，已估计的方程可按指数运算法则

33、转变为由上述表达式可以看出，由于GPA0,则8261 1,因此，在其它条件不变的悄况下，平均分数每增 加一个单位，将导致接受新教学方法后成绩有所改善的发生比会相应提高。同理，对于变 量TUCE也可作类似的讨论；由于PSI为虚拟解释变量，表示是否接受新教学方法，如果 接受取1，否则取0,因此，在其它条件不变的情况下，当PSI 二 1时，则将会使接受新教 学方法后，学习成绩改善的发生比有所提高，而当PSI 二 0时，则将会使接受新教学方法 后，学习成绩改善的发生比保持不变。2、用概率来解释Logit模型的系数除了解释变量对于对数发生比的偏作用外，有时也用事件发生的概率来解释模型中系 数的偏作用。对

34、事件发生概率的偏作用可以通过对Logit模型求X,的偏导数来加以解释。其求导结果如下于是，变量X,对事件发生概率的偏作用就等于该解释变量的系数几与/7 (1-/7)的乘积。因为“(1-仍永远为正值，所以偏作用的符号由伙决定，作用的幅度依赖于几的幅度和对 应于X：特定值的概率，而它与模型中所有其它解释变量有关。因此，不同于对发生比作 用的解释，对事件发生概率的偏作用是随饵值的变化而变化的。这就需要在讨论变量X对事件发生概率的偏作用时，应将概率饵值计算出来后，才能解释其偏作用。3、预测概率与一般线性回归模型一样，根据Logit模型也可以获得事件发生的预测概率。以一个 解释变量的Logit模型为例，如果我们知道参数估计人和恳，并确定某一事件的1,2， 仍，便可将其代入Logit模型，计算预测概率。计算公式为在计算预测概率的基础上，还进一步计算在解释变量发生离散变化时预测概率的变 化，这种方法被称为概率离散变化法。其计算公式是另外，与一般线性回归模型一样，由一个解释变量的Logit模型也可扩展到多个解释 变量