决策问题的分类与决策原则

第四章贝叶斯分析BayeseanAnalysis§4.0引言一、决策问题的表格表示——损失矩阵对无观察（No-data）问题a=6可用表格（损失矩阵）替代决策树来描述决策问题的后果（损失）:\a…aamn(q)l]]l]Jmn(e)l-1n(e)nlm1lnm

损失矩阵直观、运算方便二、决策原则通常，要根据某种原则来选择决策规则&，使结果最优（或满意），这种原则就叫决策原则，贝叶斯分析的决策原则是使期望效用极大。本章在介绍贝叶斯分析以前先介绍芙他决策原则。三、决策问题的分类：不确定型（非确定型）自然状态不确定,且各种状态的概率无法估计.风险型自然状态不确定,但各种状态的概率可以估计.四、按状态优于：l<l VI,且至少对某个i严格不等式成立，则称行动a按状态优于aijikjk§4.1不确定型决策问题―、极小化极大（wald）原则（法则、准则）aaa124minmaxl(0 ,a)minuij例:a0108791或maxj02419203131612140469810各行动最大损失:13161214其中损失最小的损失对应于行动a.3采用该原则者极端保守,是悲观主义者,认为老天总跟自己作对.二、极小化极小minminl(0 ,a)uminminl(0 ,a)uij例:或maxmaxji172各行动最小损失: 4其中损失最小的是行动a.2采用该原则者极端冒险，是乐观主义者，认为总能撞大运。三、Hurwitz准则上两法的折衷，取乐观系数入min[入minl(0 ,a)+(1-入〕maxl(0 ,a)]jiijiij例如入=0.5时入minl: 2 0.5 3.5 1(1-入〕maxl:6.5 8 6 7iij两者之和：8.5 8.5 9.5 8其中损失最小的是：行动a4四、等概率准则(Laplace)用工lij、iy选minjii上例：来评价行动a的优劣jlijyl:33 343635其中行动a的损失最小ij 1i五、后梅值极小化极大准则(svage-Niehans)定义后梅值s=l-minlijijkik其中minl为自然状态为9时采取不同行动时的最小损失.kiki构成后梅值(机会成本)矩阵 S={s} ,使后梅值极小化极大,即:ijmxnminmaxsj i ij例:损失矩阵同上,后梅值矩阵为:3102308114020324各种行动的最大后梅值为:3484其中行动a1的最大后梅值最小,所以按后梅值极小化极大准则应采取行动1.六、Krelle准则：使损失是效用的负数(后果的效用化)，再用等概率(Laplace)准则.

七、莫尔诺(Molnor)对理想决策准则的要求(1954)能把方案或行动排居完全序；优劣次序与行动及状态的编号无关；若行动a按状态优于a，则应有a优于a；kjkj无关方案独立性：已经考虑过的若干行动的优劣不因增加新的行动而改变；在损失矩阵的任一行中各元素加同一常数时，各行动间的优劣次序不变；在损失矩阵中添加一行，这一行与原矩阵中的某行相同，则各行动的优劣次序不变。§4.2风险型决策问题的决策原则应选行动a一、最大可能值准则应选行动a令n(0)=maxn(0)ki选a使1(0,a)=min1(0,a)rkrjkj例：n(0)ia1a2a3010.276.56020.5345030.3410n(0)概率最大,各行动损失为34521二、贝叶斯原则使期望损失极小：min{Y 1(0,a)n(0)}iji上例中，各行动的期望损失分别为4.13.63.7,对应于a的期望损失3.6最小2二应选a.2三、贝努利原则损失函数取后果效用的负值，再用Bayes原则求最优行动.四、E—V(均值一方差)准则若E兀l< E兀l且b<b则a优于aijikjkjk通常不存在这样的aj上例中:aaa123E4.13.63.7V(b2)2.293.795.967不存在符合E-V准则的行动，这时可采用f(p,o)的值来判断⑴为效益型后果的期望)「p-aof(p,o)=<p-ao2〔p-a(p2+o2)f越大越优.五、不完全信息情况下的决策原则(Hodges-Lehmann原则)状态概率分布不可靠时，可采用:少(a)=入Yu•兀+minu i=1,2,...,m j=1,2，…,njijiiiji少越大越优.

§4.3贝叶斯定理一、条件概率1.A、B为随机试验E中的两个事件P(A|B)=P(AB)/P(B)由全概率公式：A j=1,2,...,n是样本空间的一个划分,P(B)=£P(BIA)P(A)jjj得Bayes公式P(AIB)=P(BIA)・P(A)/P(B)iiiP(B|A)P(A)jj=P(BIP(B|A)P(A)jjiij2.对O,X两个随机变量•条件概率密度f(eix)=f(xie)f(e)/f(x)•在主观概率论中n(eIx)=f(xie)n(e)/m(x)其中：n(e)是0的先验概率密度函数f(xie)是e出现时，x的条件概率密度，又称似然函数.m(x)是x的边缘密度，或称预测密度.m(x)=I f(xie)n(e)de0或£p(xI0)n(0)iiin(eIx)是观察值为x的后验概率密度。例：A坛中白球30%黑球70%B坛中白球70%黑球30%两坛外形相同，从中任取一坛，作放回摸球12次，其中白球4次，黑球8次，求所取为A坛的概率.

解：设观察值4白8黑事件为x，记取A坛为9,取B坛为912在未作观察时，先验概率p(9)=p(9)=0.512则在作观察后，后验概率P(9lx)=p(xl9)p(9).：p(xl9)p(9)+p(xl9)p(9)1111122=034x078x0.5f(034x078x0.5+0.74x038心)=0.74;(0.74x034)=0.2401；0.2482=0.967显然,通过试验、观察、可修正先验分布.§4.4贝叶斯分析的正规型与扩展型一、正规型分析由Baysean原则：先验分布为n(0)时，最优的决策规则&是贝叶斯规则6兀，使贝叶斯风险r(n,5^)=infr(n,6(x))5eA其中：r(n,6(x))=E兀R(0,6(x))=E兀［E1(0,6(x))=JJ9=JJ9x1(0,6(x))f(x10)dxn(0)d0(1)据(1)式，选5兀使r(n,6)达到极小，这就是正规型的贝叶斯分析。在解实际问题时，求使(1)式极小的6(x)往往十分困难，尤其在状态和观察值比较复杂时，△集中的策略数目很大，穷举所有的6(x)有困难，且计算量颇大。实际上可用下法：二、扩展型贝叶斯分析(ExtensiveFormAnalysis)在(1)式中因1(0,6)>-8,f(x|0),n(0)均为有限值。由Fubini定理，积分次序可换即即r(n,6(x))=JJ9x=JJxi(e,6(x))f(xle)dxn(e)de9xi(e,6(x))f(xle)n(e)dedx9显然，要使(2)式达到极小，应当对每个xeX，选择6,(2')为极小Ji(e,6(x))f(xie)n(e)(2')为极小i(e,s(X))f(xii(e,s(X))f(xie)n(e)de为极小9亦即，使Ji(e,a)f(xie)n(e)dem(x) 91(9,a)p(9lx)ii(3)达极小，=J1(9,a)n1(9,a)p(9lx)ii(3)达极小，9 i i 99产®即可使(1)式为极小.•结论：对每个x,选择行动a，使之对给定x时e的后验分布n(e|x)的期望损失为极小，即可求得贝叶斯规则。这种方法叫贝叶斯分析的扩展型，由此确定的贝叶斯规则叫formalBayeseanRule——RaiffaSeh1aifer,1961年提出。•Note•使(3)式达极小的行动可能不只一个，即可能有多个贝叶斯规则；•扩展型比正规型更直观，也容易计算，故更常用；•许多分析人员只承认扩型，理由是：i,n(e|X)描述了试验后的e的分布，比n(e)更客观，因此，只要损失函数是由效用理论导出的(即考虑了DMer的价值判断、风险偏好)，在评价行动a的优劣时就应当用后验期望损失。ii,r(n,6)是根据n(e)求出的，而用先验分布n(e)来确定行动a并不一定适当。从根本上讲，这种观点是正确的。•无论从何种观点来进行贝叶斯分析，从理论上讲，结果是一样的，所以采用何种方法可视具体问题，据计算方便而定。•已经证明，形式贝叶斯分析对一类非随机性决策规则是成立的，也可以证明它对随机性决策规则同样成立。使所有x上后验期望损失极小的贝叶斯规则也是随机性规则集△*中的Bayes规则，因此，总可以找到一验期望损失极小的非随机性规则。三、例(先看无观察问题)农民选择作物问题，设某地旱年e占60%，正常年景9占40%;a种植耐旱作物121a种不耐旱作物，后果矩阵为:2a1a2912009260100决策人的效用函数u(y)=(1-e-0.02y)0.865ii,作决策树：

y.38.8101.62y.38.8101.1910iii,在无观察时,R=l,r=龙1(9,a)n(9)ii1=1r(n,a)=1(9,a)n(9)+1(9,a)n(9)1111212=0.62xO.6+0.19x0.4=0.448r(n,a)=1(9,a)n(9)+1(9,a)n(9)2121222=1.0xO.6+0x0.4=0.6风险r小者优，•••&=a，是贝叶斯规则，即贝叶斯行动.即应选择耐旱作物。1四、例(续上)设气象预报的准确性是0.8，即p(x|9)=0.8p(x|9)=0.81122其中，x预报干旱1x预报正常年景2则m(x)=p(x19)n(9)+p(x19)n(9)1111122=0.8X0.6+0.2x0.4=0・56m(x)=0.442n(9Ix)=p(x19)n(9)/m(x)111111(0)匚(e-K)d(D”e)I+(0)匚(e一K)d(90)1+IIZZIIIIII(0)匚(e一K)d(？e)+(0)匚(e一K)d(?e)IHT寸「e)匚(aH)d((isbeIHWA/”匚)一ZIZIIII(K)y:(K)Q;;璧恶矢0硼舉H.IgoA上e)FIz寸IOA上e)F&0H寸寸.0_9OXGohZIIZZI(K)m、(0)匚(e一K)dH(K-e)匚98OH9『O_9OX8OH9.0A寸，匚)J、e"寸e寸e寸(K)0(K)0-2璧抵®g』寸OAygegiiz-z(K)B(K)Q:;璧抵©E9OH寸.0X8OXOO+寸.0x8ox6Io+9oxm+9oXGOXe9・OHeeieeeeeId(0)匚(e一K)d(0”e)I+(0)匚(e-K)d(D"e)I+(0)匚(e一K)d(？e)+(0)匚(0一K)d(？e)IH(e)匚(0一H)d((H)pe)IHWAexo”匚)-ieeeeie(K)卡B(K)y:;璧抵®黒寸OH寸.0X8.0X0.0+寸.OXGOX6I.0+9.0XG0X0・I+9・0x8・0xe9・0H•••r(n,5)vr(n,5)<r(n,54)<r(n,5)1 3 4 25是贝叶斯行动。1xx2aia2a2冗(xx2aia2a2冗(9Ix)22兀(9Ix)ii兀(9Ix21兀(9Ix)22兀(9Ix)12兀(9Ix)124-82.扩展型之一：据(2'):Jl(0,6(x))f(xI0)n(0)d0 记作r'9给定x(预报干旱):1采用ar‘=El(9,a)p(x19)n(9)1i11iii=l(9,a)p(x19)n(9)+l(9,a)p(x19)n(9)1111121122=0.62x0.8x0.6+0.19x0.2x0.4=0.3128采用ar'=l(9,a)p(x19)n(9)+l(9,a)p(x19)n(9)21211122122=0.48•••风险小者优•••给定x应选a11给定x(预报天气正常)2采用ar'=l(9,a)p(x19)n(9)+l(9,a)p(x19)n(9)11121121222=0.62x0.2x0.6+0.19x0.8x0.4=0.135采用a2r'=l(0,a12)p(x10)n(0)+1(0,a)p(x10)n(0)211,a2212=1.0x0.2x0.6+0=0.12二给定X应选a22由此得形式Bayes规则・:(x2)3•扩展型之二：据(3)式即J01(0,a)n(0Ix)d0ii1(0,a)n(01x)(记作r”)ii0G®i①给定x,1采用a1r”=1(0,a)n(0Ix)i1i10G0i=1(0,a)n(0Ix)+1(0,a)n(0Ix)11112121=0.62x0.86+0.19x0.14=0.56采用a2r”=l(0,a12)n(0Ix)+1(0,a)n(0Ix)112221=1.0x0.86+0x0.14=0.86给定x1应选行动a.1②给定x2采用a1r”=工1(00G®i=1(0,a)n(0Ix)+1(0,a)n(0Ix)11122122采用a=0.62x0.27+0.19x采用a1(01(0,a)n(0Ix)i2i20G®i=1(0,a)n(0Ix)+1(0,a)n(0Ix)12122222=1.0x0.27+0x0.73=0.27•••给定x应选择行动a.22•形式Bayes规则§冗：a=§兀(x)a=§兀(x)1122§4.5非正常先验与广义贝叶斯规则―、非正常先验(ImproperPrior)概率测度的三个条件：规范性：P(Q)=1非负性：0<P(A)<1iii，可列可加性在设定先验分布时，若不满足规范性，则称为非正常先验.二、广义贝叶斯规则(GeneralBayeseanRule)定义：决策问题的损失函数为l(9,a),n(9)为非正常先验分布，对给定的e，使iJl(9Q(x))f(x19)n(9)d9为极小，或者0 fii,0<m(x)v-8时，使Jl(0,a)n(0lx)d9为极小的策略(行动)，构成广义贝叶斯规则.0iiNole:①在许多重要场合，所有允许的都是GBR在无法得到正常先验时，除此别无良策；GBR不一定是最好的决策规则§4.6一种具有部分先验信息的贝叶斯分析法一、概述1.思路：在部分先验信息难以唯一地确定n(9)时，抛开唯一性要求，转而确定与已知先验信息相符的先验分布的集。

符号i,O和A为有限集：O={0,9，…,9}12nA={a,a,…,a}12m损失矩阵L={l} l=l(0,a)ijnxm ij ijii,根据贝叶斯分析的扩展型给定x,应从集合A中选一行动a，使kq(a)=工l(0,a)p(x10)n(0)为极小，亦即i1ia=argminq(a)或k aeAiiq(a严q(aj)j=12…,m(4)则化为贝叶斯行动.记p(x10)为P(x) ,n(0)1i i i-k=[l1k‘2k，…,'nk]T n={兀1，兀2，兀n}k k k nk n则 工l (0,a)p(x 10)n(0)=_T [diag{p (x)}n]i 1i ij ii(4)式可表示成_T[diag{p(x)}n]<_T[diag{p(x)}n]i=1,2,...,nk i j ink(5)j=l,2,...,m⑸式即[(LT-1_T)diag{p,(x)}]n20k i(5')记(LT-1_T)diag{p(x)}为D(x),式(5,可表示为:k i kDk(x)n》0(5”)3.(5”)式的含义给定x，先验分布为n时，应选a使5(即5',亦即5”)式成立。k对给定的x，要使a成为贝叶斯行动,n应满足5(即5',亦即5”)式.k由(2)可以定义n(x)={neniD(x)n20；工兀=1,兀工o}k k ii i式中，n是先验分布的所有可能的集，口(x)是n